随着“大措辞模型”技能不断深化到运用层,在环球多地形成了开拓定制化天生式人工智能的热潮。

无论是从国家层面:法国将人工智能技能与国家的工业和数字主权挂钩;印度下定了“必须要有自己的主权人工智能”的决心;日本以举国之力押注主权AI......

还是从行业层面:金融行业利用AI提升交易算法的速率与精度,优化风险管理;医疗行业,利用AI精准诊断和个性化治疗,提高患者照顾护士的质量;制造业,通过AI赋能的生产流程,降落本钱,提升效率;零售业,基于AI进行客户行为剖析,增强个性化推举和做事,提升顾客满意度......

越来越多组织乃至国家期待依赖定制化的AI办理方案来提高其核心能力的智能化水平。
这种转变不仅加速了AI技能的实际运用,还将推动环球AI技能的发展和创新,尤其是在有效整合人工智能以办理特定行业问题方面。

老黄的AI 代工厂开工了第一批分娩超级模型

试想,如果有这样一个模型,它不仅支持最尖真个工具、资源以及强大根本举动步伐,还能让你根据自有数据自行设计和定制,那将会是若何的情景?

NVIDIA“AI 代工厂” 帮助用户定制“超级模型”

如今,业界期待已久的“超级模型”已经变为现实。
NVIDIA 宣告推出全新 NVIDIA AI Foundry 做事和 NVIDIA NIM™ 推理微做事,与同样刚推出的 Llama 3.1 系列开源模型一起,为环球企业的天生式 AI 供应强力支持。

老黄(NVIDIA 创始人兼首席实行官黄仁勋)强调说:“NVIDIA AI Foundry 已经在全体过程中集成了 Llama 3.1,并能够帮助企业构建和支配自定义 Llama 超级模型。
借助 NVIDIA AI Foundry,可以利用自有数据以及由 Llama 3.1 405B 和 NVIDIA Nemotron™ Reward 模型天生的合成数据,来演习这些“超级模型”。

详细而言,基于 NVIDIA DGX™ Cloud AI平台驱动的NVIDIA AI Foundry,由 NVIDIA与环球领先的公有云供应商共同设计,专门为知足企业不断变革的AI打算需求而打造。

来源:NVIDIA

NVIDIA AI Foundry供应的打算资源不仅可以根据需求灵巧扩展,为企业带来前所未有的便利,还可利用企业数据以及合成天生的数据来增强和变动预演习根本模型中包含的一样平常知识。

一旦模型经由定制、评估并具有护栏,就会输出NVIDIA NIM 推理微做事(推理微做事,包括定制模型、优化引擎和标准 API,支持不同环境的支配),开拓职员只需几行代码便可利用NIM 的标准API来构建由人工智能驱动的天生运用程序,同时还能利用NIM 容器无缝集成 Kubernetes(K8s)生态系统,高效地折衷和管理容器化人工智能运用。
而从支配中的运用程序中得到的知识可以反馈到 AI Foundry中,以进一步改进自定义模型。

来源:NVIDIA

而Llama 3.1 多语种大措辞模型(LLM)凑集则是一个具有 8B、70B 和 405B 三种参数规模的天生式 AI 模型凑集。
该凑集中的模型在超过 16,000 个NVIDIA Tensor Core GPU上演习而成,并针对 NVIDIA 加速打算和软件(无论是在数据中央、云以及配备 NVIDIA RTX™ GPU 确当地事情站或配备 GeForce RTX GPU 的 PC 上)进行了优化。

值得把稳的是,NIM 微做事也是将 Llama 3.1 模型支配莅临盆中的最快路子。
Meta 创始人兼首席实行官马克·扎克伯格表示:“全新的 Llama 3.1 模型是开源 AI迈出极其主要的一步。
借助 NVIDIA AI Foundry,企业可以轻松创建和定制大家想要的最前辈的 AI 做事,并通过 NVIDIA NIM 进行支配。

测试数据显示,直接支配Llama 3.1 模型的吞吐量,最多可比不该用 NIM 运行推理时赶过 2.5 倍。

为应对企业组织须要更多演习数据创建特定领域模型的需求,NVIDIA 和 Meta 支持可以在创建自定义的同时利用 Llama 3.1 405B 和 Nemotron-4 340B 天生合成数据,以提高模型的准确性。
对付拥有自己的演习数据的用户可以利用 NVIDIA NeMo 对 Llama 3.1 模型进行自定义,通过领域自适应预演习(DAPT)进一步提高模型的准确性。

面向AI PC及AI根本举动步伐轻量化的蓝海,NVIDIA 和 Meta为帮助企业能够在AI 事情站、条记本电脑等加速根本举动步伐上运行由 Llama 驱动的 AI 运用,更是供应了提炼方法,供开拓者为天生式 AI 运用创建更小的自定义 Llama 3.1 模型。

“NVIDIA +Llama” 强化行业“AI 实力”

现在,医疗、能源、金融做事、零售、交通、电信等行业的企业已在利用适用于 Llama 的 NVIDIA NIM 微做事。
同时,数百家供应企业、数据和根本举动步伐平台的 NVIDIA NIM 互助伙伴现在能够将这些新的微做事集成到其 AI 办理方案中,从而为 NVIDIA 社区 500 多万开拓者和 1.9 万家初创公司的天生式 AI 供应超强助力。

来源:NVIDIA

环球专业做事巨子埃森哲更是先行一步,率先借助 NVIDIA AI Foundry 引入了一股创新的新风潮!
不仅为自己定制了 Llama 3.1 模型,还利用自家的 Accenture AI Refinery™ 框架,为那些渴望反响其独特文化、措辞和行业需求的客户供应了同样的做事。

埃森哲的董事长兼CEO Julie Sweet 分享说:“环球领军企业看到了天生式 AI 正在如何深入改变各行各业,并且希望支配由自定义模型驱动的运用。
埃森哲的内部 AI 运用一贯在利用 NVIDIA NIM 推理微做事。
现在,借助 NVIDIA AI Foundry,我们能够帮助客户快速创建和支配自定义 Llama 3.1 模型,为他们的优先业务事变供应变革性的 AI 运用。

对付行业企业而言,NVIDIA AI Foundry 供应的不仅仅是一种做事,而是一条快速打造定制超级模型的捷径。
这个全方位做事结合了 NVIDIA 的尖端软件、健壮的根本举动步伐和深厚的专业知识,并且领悟了 NVIDIA AI 生态系统中的丰富资源与开放社区的模型和技能。

通过 NVIDIA AI Foundry,企业可以轻松利用 Llama 3.1 模型和 NVIDIA NeMo 平台(包括在 Hugging Face RewardBench 排名首位的 NVIDIA Nemotron-4 340B Reward 模型)来塑造自己的定制办理方案。

定制模型就位后,企业便能够构建基于 NVIDIA NIM 推理微做事的运用,这些做事可以在他们选择的云平台上运行,支持环球做事器制造商供应的 NVIDIA 认证系统™,并与顶级的机器学习运维(MLOps)和人工智能运维(AIOps)平台无缝对接。

NVIDIA大概诺,NVIDIA AI Enterprise 的专家团队与环球的系统集成商互助伙伴一起,帮助 AI Foundry 的客户加速从开拓到支配的全体过程,使得企业可以更快速地实现 AI 驱动的业务变革。

写在末了

不丢脸出,NVIDIA AI Foundry 代表企业AI做事向“即做事”模式转变的趋势。
通过此平台,企业能快速定制和支配AI办理方案,知足特定业务需求。
此外,与环球系统集成商的互助也加速了从开拓到支配的过程,帮助企业实现AI驱动的业务变革。

同时,对付 Llama 3.1 模型而言,这款开源模型在NVIDIA的支持下,正迈出通向开源通用人工智能的下一步!
”目前,Meta已经在研发Llama 4,相信在NVIDIA的支持下,“开源的胜利”未来可期!

现在,Llama 3.1 NIM 和 NeMo Retriever NIM 微做事的生产支持可以通过 NVIDIA AI Enterprise 得到。
NVIDIA 开拓者操持也声称,将很快为会员供应免费访问 NIM 微做事,并支持在他们首选的根本举动步伐上进行研究、开拓和测试。