在本月初刚刚落下帷幕的 re:Invent 上,亚马逊云科技以“动须相应”的姿态,带来了多项分量级发布,从全新一代的 Amazon Nova 多模态大模子系列,到性能强悍的 Trainium 2 和 Trainium 3 芯片,再到存储、数据库和 AI 推理器具的全面升级,亚马逊云科技用本事实力解释了其手脚各人云探究指挥者的地位。
在上周三开启的 re:Invent 2024 中国行寰宇巡展行为上,亚马逊云科技大中华区居品总司理陈晓建对 re:Invent 2024 上的热切发布进行了一次全面的记挂。咱们访谈了多位社区开采者和现场参会者,整理了三个社区开采者呼声最高、最温煦的三项热切发布。接下来,就让咱们再一说念记挂下本年 re:Invent 上专属于开采者的焦点时刻。
Amazon Q:深入研发全历程,界说开采新范式说到最深入东说念主心的分娩力器具,不得不说的等于深入研发全历程的 Amazon Q。这款生成式 AI 助手在 2023 年的 re:Invent 上首次亮相,在本年 4 月亚马逊云科技链接发布了功绩本事研发的 Developer 和功绩企业里面的 Business 版块。
在 Q Developer 刚刚发布时,和市面上绝大多数研发助手访佛,聚焦于编码责任。但是本年的 re:Invent 上的全新特质则径直把 Q Developer 带上了 Next Level —— 正如 AWS CEO Matt Garman 在居品发布时所言 “多数开采者平均每天花在编码上的时候也就一个小时操纵,其余时候都用在其他端到端的开采任务上。因此,咱们想从通盘开采周期去望望,是否在其他方位也能提供匡助。”
张开剩余89%在其他研发助手还在卷代码生成时,Q Developer 依然渗入进了研发全历程,推出了单位测试自动化、文档生成自动化和代码审查自动化的全新三项材干,当今三个功能依然全部认真可用。
写单位测试太无聊?Amazon Q 示意:“别动,我来!” 它的单位测试生成器具能自动撸出测试用例,还会贴心性帮你把它们塞进对应的测试文献里,开采者只需在代码裁剪器里点点鼠标,选拔“接管”或者“阻隔”。不管是规模条款、空值、照旧经典的差一失实(off-by-1),Q 都能疲塌料理,甚而还能检测各式仙葩输入类型。换句话说,它让你从“东说念主肉写测试”中目田出来,测试服从飙升,代码质地杠杠的。更棒的是,淌若代码改了,测试用例也会随着动态休养 —— 简直等于测试界的“贴心 AI 小棉袄”。
撰写高质地的文档一直是研发责任中的一大痛点,Amazon Q 的文档生成器具来了,专治“文档拖延症”。只需动起原指点几下,系统就能自动扫描你的代码,索求舛误逻辑和瞩目,生成满满当当的高质地文档。这些自动生成的文档不仅让团队在迁徙和开采过程中“随时班班可考”,还荒谬恰当“甩锅式”常识传递和后期系统爱护。再也毋庸惦记因为文档缺失被共事“灵魂拷问”了,服从提高一大截!
担忧代码质地?Amazon Q 的代码审查功能全都是救星。它能提前帮你扫描代代码中的潜在问题,包括安全裂缝、不兼容逻辑以及性能瓶颈,还和会过内置的最好践诺规章库和 AI 智能分析,贴心性给出详备的开采建议。开采者不错聚合问题列表和 Q 给出的开采建议,选拔是否一键接管开采,径直把为止同步到代码裁剪器里。代码质地蹭蹭提高,开采者的自信心也直线高潮。
除了新应用的开采,多数现存应用的料理、升级和向云与 AI 的当代化转型,更是也曾的 AI 编程助手所未能波及的限制。好多开采者不得不把多数时候花在爱护、更新和修补现存应用上,而信得过的创新被大大压缩。对此,Q Developer 也推出了新的转型特质,旨在加速 Windows.NET、VMware 和大型机责任负载的迁徙与当代化程度,灵验减少转型周期和老本。
此外,Amazon Q 已集成到 GitLab、SageMaker 等平台,并蔓延至 Connect 和 Supply Chain,拓宽了应用范围,全面提高开采服从和资源讹诈服从。
SegmentFault 想否 CTO 祁宁快评:旧年发布 Amazon Q 的时候咱们看到了亚马逊云科技对 AI 时期的权术,本年更多落地应用的到来让 AI 时期的前程明晰了许多,这些跟开采者密切关联的应用场景依然让我迫不足待了。 Amazon Nova:基础模子的贪心,Any-to-Any 一切王人可生成聊到生成式 AI,基础模子是绕不开的话题。亚马逊此次诚然来得不算早,但亮特等于大招 —— 在本年的 re:Invent 大会上,亚马逊云科技认真发布了 Amazon Nova 系列多模态大模子,共包括六款模子:
Nova Micro:专注文本的小机灵,低延长、低老本,快得像打字机装了涡轮。 Nova Lite:多模态轻马队,图像、视频、文本都能料理,省钱又沉静。 Nova Pro:实力派万能选手,在速率、准确性和老本上拿抓得死死的,不错处理多种任务。 Nova Premier:天花板级别的多模态年老,复杂任务不在话下,还能教别东说念主怎样干(可用于蒸馏定制模子)。 Nova Canvas:图像生成的艺术家,唾手等于专科级视觉大片。用官方的话来说,是达到了“State-of-the-art”(起初进)的水平。 Nova Reel:视频创作的魔法师,一句话加一张图,疲塌搞出高质地视频,告白、营销全不在话下。当今 6 秒钟时长的视频生成依然认真可用,2 分钟版块的也在路上了。一句话总结:文本、图像、视频,Nova 眷属全包了,既能省钱,又能玩出花!揣测改日,“Any-to-Any”(苟且模态到苟且模态),贪心径直写在脸上。
SegmentFault 想否 CTO 祁宁快评:从文本到视频,从快速轻巧到复杂丰富,Amazon Nova 基本掩盖了统统的生成式 AI 的应用场景,聚合亚马逊云科技的全栈整合材干,我很期待看到它在市集上的发挥。 Amazon Bedrock:五大材干升级,AI 应用开采者直呼“真香”!手脚承载基础模子的“模子工场”,Amazon Bedrock 在本年的 re:Invent 上也带来了一大波更新,从服从到安全,从性能到大略,全面“卷”了通盘行业!来望望这波硬核升级到底有哪些亮点:
1. 模子蒸馏(Model Distillation):大模子的奢睿,小模子的速率一直以来,大模子很理智,但是又慢又贵;小模子老本低、起原快,但材干老是差点敬爱敬爱。而 Amazon Bedrock 的 Model Distillation 功能,径直冲破了这个僵局。它通过将“大块头”模子(西宾模子)的常识蒸馏到“小机灵”模子(学生模子)中,有了它,你再也毋庸在“性能”和“老本”之间纠结。
中枢亮点:
自动化蒸馏:只需提供一些示例提醒词,Bedrock 会自动完成常识转动的统统材干,包括生成反应、试验磨练数据、微调小模子,省时又省力。 性能炸裂:蒸馏后的小模子起原速率提高 5 倍,起原老本缩小高达 75%,但在 RAG(检索增强生成)等高要求场景中,准确率失掉不到 2%。 适用场景万般:相当恰当及时聊天、保举系统等需要低延长和高服从的应用场景。 赈济多种模子:当今赈济 Anthropic、Meta 和 Amazon Nova 等多种模子眷属,选拔纯真万般。 一句话总结:用蒸馏本事,让“小肉体”的 AI 模子有“大奢睿”,既能跑得快,又能省得多。 2. 自动推理检查(Automated Reasoning Checks):闭幕 AI “幻觉”AI 幻觉的存在一直是大模子商用说念路上的重要艰辛,尤其在医疗、金融等严肃行业里,正可谓“失之豪厘,差之沉”。Bedrock 的 Automated Reasoning Checks 等于来解决这个问题的:
中枢亮点:
业界开创:这是各人首个通过数学模样考据生成式 AI 输出准确性的保护次第。 精确可靠:使用基于逻辑的算法和推理历程,确保模子生成的本色适当已知县实,而不是诬捏抓造。 全面保护:集成到 Bedrock Guardrails 中,聚合本色过滤、凹凸文真实性检查、PII(个东说念主身份信息)裁剪等功能,全面提高 AI 应用的真实度和安全性。 一句话总结:让 AI 输出更真实,荒谬是在“错不起”的场景中,Bedrock 的推理检查等于最强后援。 3. 模子超市上线(Bedrock Marketplace):100+ 模子粗率挑全新发布的 Bedrock Marketplace,径直造成了一个“AI 模子超市”,不管你是要热点模子、专科模子,照旧新兴的“冷门佳品”,这里都有!
中枢亮点:
首发新模子:首次集成了 Luma AI 和 Poolside 模子,还引入了 Stability AI 的最新模子。 选拔丰富:提供高出 100+ 热点和专科模子,温暖各式应用需求。 一站式体验:用户不错疲塌浏览、选拔和部署模子,大大简化了模子开采历程。 一句话总结:模子超市上线,选模子像逛超市雷同纯粹方便! 4. 多智能体配合(Multi-Agent Collaboration):AI 团队合作也能很高效在一些复杂任务中,需要多个 AI 智能体协同责任,但传统方法经常需要手动编排、料理,荒谬重荷。而 Amazon Bedrock 的 多智能体配合 功能,让这一切变得疲塌高效。
中枢亮点:
快速培育:几分钟内就能创建、部署和料理多个配合智能体,无需复杂编码。 模块化瞎想:赈济将现存智能体手脚“子智能体”集成到更大的系统中,疲塌搪塞复杂责任历程。 高效通讯:智能体之间赈济并行通讯,任务完生服从更高。 纯真配合样式:赈济监督样式和路由样式,按需优化智能体间的配合模样。 一句话总结:让 AI 智能体高效协同责任,复杂任务也能快速料理。 5. 性能优化:低延长推理快到飞起Amazon Bedrock 在性能优化上也没落下,加速了一些大模子的推理速率,让用户在使用最新模子的同期,也能享受低延长的指挥体验。
中枢亮点:
低延长优化推理:让大模子的使用既快又稳,荒谬是在及时交互应用中后果显赫。 Llama 优化版块:Llama 405B 和 70B 的低延长优化版,在亚马逊云上展现出卓绝其他云平台的出色性能。 一句话总结:大模子再强,也要跑得快,Bedrock 的优化本事等于这样硬核!这一次,Amazon Bedrock 的更新险些掩盖了生成式 AI 的所联系键限制:模子蒸馏 解决了性能和老本的矛盾,让小模子也能有大奢睿;自动推理检查 闭幕了 AI 的幻觉问题,确保输出真实可靠;模子超市 温暖各式需求,选模子像逛超市雷同方便;多智能体配合 让 AI 团队高效协同,复杂任务疲塌料理;性能优化 则让大模子跑得又快又稳。
这一系列更新不仅让 AI 本事更强、更省、更安全,还闪开采者的责任变得愈加疲塌高效,号称一次 “全方向分娩力立异”。
SegmentFault 想否 CTO 祁宁快评:Amazon Bedrock 体现了亚马逊云科技在 AI 时期的贪心,它提供了一个基座一种法式,闪开采者以斡旋的体验使用包括亚马逊云科技我方模子以内的主流 AI 模子。 跋文:来自第一线的快问快答!本届 re:Invent 2024,SegmentFault 想否也有小伙伴去到了拉斯维加斯的现场。手脚云探究限制的春晚,re:Invent 是当之无愧的各人第一大科技嘉会。每年除了一系列重要居品更新和发布,还有哪些让东说念主印象真切的精彩短暂?咱们荒谬对话了去到大会第一线的社区伙伴,SegmentFault 想否社区参谋人、Apache Answer PPMC Member 江波。
SegmentFault 想否社区参谋人、Apache Answer PPMC Member 江波在 re:Invent 大会现场问:初度线下干与 re:Invent,你最大的感受是什么?
答:从 Keynote 到 Sessions 到各式 Workshop,从居品发布到互动展区,从大会的认真舛误到晚间的各式 Developer Gathering 和 After Party,本色相当丰富、常识密度很高。4 天时候浸泡在超高常识密度的万东说念主大会现场,每天日行两万步,嗅觉累并充实着!
问:除了重要居品的更新和发布,还有哪些值得温煦的精彩本色?
答:印象最真切的细目是亚马逊 CTO Werner 一年一度「架构形而上学」的演讲,旧年的主题是「云架构俭约之说念:企业架构七大黄金法例」(点击此处稽察),本年的主题是「繁简之说念」,与旧年一脉调换。前者侧重于温煦老本的瞎想想想和资源讹诈服从的提高,后者聚焦于化整为零、化繁为简。AWS CEO Matt Garman 提议的 “Building Blocks”(构建单位)的理念也与 Werner 演讲中的部分不雅点相吻合。
问:演讲之外,还有哪些让你牢记的精彩短暂或互动体验?
答:最让东说念主牢记的细目是 re:Play,手脚 re:Invent 的收官舛误,每年 AWS 都会邀请百大 DJ 来打碟,上万名开采者一说念狂欢、蹦迪,让咱们在几天高密度的输入后以为相当减轻。
值得一提的还有一个柔顺舛误,想否在 2023 年的 re:Invent 现场报说念中就有提到 —— 在 Badge Pick-up 的区域有一个 Hydrate and Help 的边缘,在这里有好多开采者们列队提着水桶走圈。每走一圈,AWS 就会为柬埔寨的干净饮水资源设施捐赠 5 好意思金。在这里,有好多开采者走上百圈,让咱们感受到了科技东说念主文的力量和和气。
此外,本年我所在的蚂蚁开源也在 12 月 3 日晚上在会场隔壁组织了一场 Data Rock N' Roll 的 After Party,两百多位开采者一说念写代码、交流、打保龄球、喝酒,氛围相当激烈。
问:用一句话抽象一下你的 re:Invent 体验
答:这是一场值得被列入「东说念主生弗成错过系列」的科技嘉会开云官网切尔西赞助商,每一位开采者都值得亲临现场体验一番!
发布于:北京市