作者 | ZeR0编辑 | 漠影

帮云客户快速构建天生式AI运用这件事,正被环球最大云打算巨子亚马逊云科技做得越来越完善。

在7月11日举行的亚马逊云科技纽约峰会上,亚马逊云科技大晒天生式AI成绩单:96%的AI/ML独角兽将其业务跑在亚马逊云科技上, 2024福布斯AI 50榜单中有90%的企业利用了亚马逊云科技。

亚马逊云科技AI产品副总裁Matt Wood博士阐述了企业如何通过亚马逊云科技高效、大规模地整合过去十年的重大技能打破。
据他分享,过去18个月,亚马逊云科技已发布326项天生式AI功能,所供应的正式可用的机器学习和天生式AI的产品功能数量是其他紧张云做事供应商总和的两倍之多。

人人都能开拓AI应用这件事让亚马逊云科技玩明白了

在此根本上,亚马逊云科技发布了一系列天生式AI技能栈的更新,进一步降落根据个性化需求定制天生式AI的门槛,让大家都能轻松构建企业级天生式AI运用。

▲亚马逊云科技天生式AI三层技能栈

新发布包括Amazon Bedrock及Amazon Q的多项更新。
个中,Amazon Bedrock更新了微调Anthropic Claude 3 Haiku、Guardrails(安全防护)和Agents(智能体)等功能;Amazon Q Apps让大家都能用自然措辞指令在几秒钟内创建天生式AI运用;Amazon Q Developer集成到Amazon SageMaker Studio中并正式可用,使得机器学习模型的开拓过程更加便捷。

这些更新将供应更高的天生结果准确性、更好的影象功能、更方便的模型评估和管理、更全面的运用安全和隐私保护机制,帮助用户更加快速、安全、轻松地构建和支配天生式AI运用。

此外,亚马逊云科技还推出了一项天生式AI驱动的企业级运用Amazon App Studio的预览版,让IT项目经理、数据工程师和企业架构师等专业开拓职员利用自然措辞在全体组织内创建、支配和管理企业运用程序。

一、直击天生式AI运用多重痛点,构建更安全的防护方法

Amazon Bedrock是亚马逊云科技天生式AI技能栈的中间层,就像一个大模型货架般,供应了广泛的大措辞模型及其他根本模型选择以及各种好用工具,使构建、支配和扩展天生式AI运用变得轻松快捷。

它已成为亚马逊云科技过去十年中增长最快的做事之一,被数万客户所利用。

针对天生式AI长期被诟病的无法获取专属知识、胡说八道的幻觉、缺少长期影象等运用痛点,Amazon Bedrock推出多项功能更新,以提升用户利用天生式AI运用的体验,详细包括:

1、知识库功能增强Amazon Bedrock的数据连据器范围,加入了对广泛利用的第三方Web域数据源的连接,包括Confluence、Salesforce、SharePoint上的数据都可以轻松接入到Amazon Bedrock中,使得在这些Web域中存储日常数据的用户能够更方便地将天生式AI带入日常运用处景中。

2、在Guardrails中推出基于高下文根本检讨的幻觉检测功能。
用户可在Guardrails中设置针对天生结果准确性的关联值,低于这一设定阈值的天生结果就会被Guardrails剖断为不干系的幻觉结果并不予显示。
这项功能通过对高下文的根本性检讨来供应,以更好避免根本模型产生的幻觉问题。

3、推出新API做事ApplyGuardrail,用于评估所有根本模型的输入提示和相应,使得用户能够在任何根本模型上利用Guardrails,纵然是那些不受Amazon Bedrock支持的根本模型。
构建者都可以配置一套标准化的防护方法,以确保其运用中的模型输入提示和模型相应拥有更加同等的表现。

4、Agent功能推出跨多个交互的影象保留特性,办理天生式AI“记不住”的问题,可记录用户之前的历史交互信息,并基于此供应更为精准的个性化做事推举。
基于该功能构建的Agent,能够随韶光推移学习并适应每个用户的独特需求和偏好,同时多个影象之间完备分离,每个用户的对话历史和高下文都会安全地存储在唯一的影象ID之下,有助于提升繁芜任务代理下的用户体验。

5、Agent功能上线代码阐明,支持Agent在安全的沙箱环境中动态天生和运行代码片段,从而显著提升其处理繁芜任务的能力,包括数据剖析、可视化、文本处理、方程求解和优化问题等,并支持多种数据类型和格式,同时在须要时由大措辞模型决定是否调用该功能,以确保灵巧性和安全性。

6、推出微调Anthropic Claude 3 Haiku功能的预览版,至此Amazon Bedrock成为唯一一款可以对Anthropic Claude系列模型进行微调的全托管做事,支持开拓者利用自有数据定制运用程序,或在确保私有演习数据安全的条件下,演习模型的专属副本。

与此同时,Amazon MemoryDB的向量搜索功能已正式可用。
Amazon MemoryDB以最高的召回率供应最快的向量搜索性能,非常适宜须要个位数毫秒延迟的利用案例。
此前亚马逊云科技已在一些最受欢迎的数据做事中推出了向量搜索功能。

二、Amazon Q全面出击,让天生式AI触手可及

位于亚马逊云科技天生式AI技能栈顶真个Amazon Q,定位是一个全面的天生式AI助手,能天生精准的代码建议,还能自动实行升级Java运用程序、天生并履行新功能等繁芜任务。

Amazon Q包括面向开拓者的Amazon Q Developer和面向企业运用的Amazon Q Business。
它可以帮助员工充分利用公司文档、系统和运用程序中的海量数据和信息,通过回答问题、供应总结、天生商业智能(BI)仪表板和报告,乃至天生自动化关键任务的运用程序。

先来看下已经集成到Amazon SageMaker Studio中的Amazon Q Developer,通过大略的谈天式交互,就能为构建机器学习模型推举最佳工具、供应分步辅导、天生入门代码、日常答疑解惑,并在碰着缺点时供应故障打消帮助。
它还能为开拓者量身定制针对机器学习开拓生命周期的详细实行操持。

机器学习模型开拓过程很繁芜,数据科学家每每要花费大量韶光来探求得当的工具、文档或方法。
而现在借助这项做事,数据科学家有望节省数周乃至数月的事情韶光。

Amazon Q Developer已经扩展到在用户自己的集成开拓环境IDE中,并供应自定义功能,以在用户的IDE代码编辑器和谈天中供应基于开拓者私有代码库天生的代码建议,使开拓者能够更好地打造其专属的代码助手。

开拓职员可在Amazon Management Console以及IntelliJ IDEA、Visual Studio、VS Code和Amazon SageMaker Studio等主流的集成开拓环境中利用Amazon Q Developer,可利用内部代码库安全定制Amazon Q Developer,从而得到更干系、更有用的内联编码建议,大幅节省韶光。

为了让每位员工都能轻松创建自己的天生式AI运用程序,实现任务自动化,Amazon Q Business中的Amazon Q Apps功能也正式可用。

Amazon Q Business支持软件开拓、数据剖析洞察和内容创作等多种天生式AI任务,Amazon Q Apps则更进一步强化这项做事的能力,使得不具备技能背景的用户也能在几秒钟内构建基于企业数据的天生式AI运用。

操作非常简便,只需用自然措辞大略描述所需运用程序的功能,例如,用户提出“请从会议记录中提取行动要点”或“我须要帮忙撰写公司文件”,Amazon Q就能快速天生运用程序自动完成这些任务,并持续供应高效做事。

Amazon Q供应了一键天生运用程序的功能,让员工能够从现有对话中快速创建运用程序,并支持安全地将其发布到企业内部的运用程序库Amazon Q Apps Library中,并添加多个运用类型标签,从方便企业内的利用者快速查找其所需的Q Apps运用。

亚马逊云科技还推出了一款天生式AI做事Amazon App Studio的预览版,将开拓企业级运用的能力扩展到开拓职员之外,以便IT项目经理、数据工程师和企业架构师等专业开拓职员利用自然措辞在全体组织内创建、支配和管理企业运用程序。

同样,用户可以通过自然措辞描述其特性和功能需求以及须要整合的数据源,App Studio便能在几分钟内构建出一个类似的运用程序,还能够通过点选式界面进行修正。
比较之下,传统上专业开拓职员从头开始构建,可能要花费几天。

App Studio的天生式AI助手肃清了传统低代码工具的学习曲线,加速了运用程序的创建过程,并简化了设计UI、构建事情流程和测试运用程序等常见任务。
每个运用程序都可以迅速扩展至数千名用户,同时由亚马逊云科技供应全面的安全管理,无需任何运营专业知识。

结语:全面加速天生式AI落地,亚马逊云科技给出参考样本

天生式AI供应了前所未有的生产力提升工具,但怎么让不具备技能背景的企业也能更快享受到天生式AI带来的便利,对云做事供应商提出不小的磨练。
已经稳坐环球最大云打算巨子的亚马逊云科技,同样希望成为企业构建和运用天生式AI的首选,其遍布天生式AI各技能栈的更新则正在进一步加速这一愿景的实现。

亚马逊云科技认为要让企业的所有员工能用天生式AI提升事情效率,不仅须要强大的根本模型,而且须要具备全方位的能力来构建和扩展定制化的天生式AI运用,包括内嵌天生式AI的运用程序、快速实验和构建自有天生式AI运用程序的工具、高性价比且高效的根本举动步伐,以及严密的安全掌握和防护方法。

对此,亚马逊云科技正通过构建全面的天生式AI技能栈,经办从构建到支配过程中的常见“烦苦处”,降落技能认知和实操门槛,将天生式AI落地的本钱打下来,将大略留给用户。
这为云打算企业如何更好做事于天生式AI落地供应了参考样本。

除了不断完善技能栈外,亚马逊云科技也通过积极拓宽互助伙伴版图,来推动对天生式AI生态的扩展。

继今年3月推出业内首个天生式AI能力认证后,亚马逊云科技在纽约峰会上宣告了环球第二批得到该能力认证的互助伙伴,个中有11家来自中国的互助伙伴,包括伊克罗德、柯基数据、八斗智能、墨奇科技、神州数码、聚云科技、神州泰岳、灵奥科技、Zilliz、跨海科技和华讯网络。

得到认证的企业在利用亚马逊云科技天生式AI技能方面拥有专业知识、实践履历和成功案例方面已经得到验证与认可。
截至目前,环球有60余家互助伙伴得到了该认证。
亚马逊云科技天生式AI与机器学习市场推广环球副总裁Rahul Pathak分享说,这些互助伙伴已经在环球范围内帮助客户构建和支配了许多天生式AI事情负载,取得了显著造诣和积极影响。