企业可以利用微做事来加速数据处理、大措辞模型（LLM）定制、推理、检索增强天生和护栏功能
已被广泛的 AI 生态系统所采取，包括 Cadence、CrowdStrike、SAP、ServiceNow 等领先的运用平台供应商
美国加利福尼亚州圣何塞—— GTC—— 太平洋韶光2024 年3 月18 日——NVIDIA于今日推出数十项企业级天生式AI微做事，企业可以利用这些微做事在自己的平台上创建和支配定制运用，同时保留对知识产权的完全所有权和掌握权。
这些云原生微做事目录在NVIDIACUDA®平台上开拓，个中包括NVIDIANIM™微做事，可适用于NVIDIA及互助伙伴生态系统中20 多个热门的AI模型进行推理优化。此外，用户现能够以NVIDIACUDA-X微做事的形式利用NVIDIA加速软件开拓套件、库和工具，用于检索增强天生（RAG）、护栏、数据处理、HPC等。NVIDIA还发布了20 多项医疗NIM和CUDA-X 微做事。
这些精心挑选的微做事为NVIDIA全栈打算平台增长了新的一层，连接起了由模型开拓职员、平台供应商和企业组成的AI生态系统，使其能够通过标准化的路径来运行针对NVIDIACUDA 安装根本（在云、数据中央、事情站和PC 中的数以亿计的GPU）优化的定制AI 模型。
包括Adobe、Cadence、CrowdStrike、GettyImages、SAP、ServiceNow和Shutterstock在内的诸多领先运用、数据和网络安全平台供应商已经率先利用了NVIDIAAI Enterprise 5.0中供应的这些全新NVIDIA 天生式AI 微做事。
NVIDIA创始人兼首席实行官黄仁勋表示：“成熟的企业平台坐拥数据金矿，这些数据可以转化为天生式AI助手。我们与互助伙伴生态系统一起创建的这些容器化AI微做事，是各行业企业成为AI 公司的基石。”
NIM推理微做事将支配韶光从几周缩短至几分钟
NIM 微做事供应基于NVIDIA推理软件的预构建容器，包括Triton推理做事器™和 TensorRT™-LLM，使开拓者能够将支配韶光从几周缩短至几分钟。
它们为措辞、语音和药物创造等领域供应行业标准API，使开拓者能够利用安全托管在自己的根本举动步伐中的专有数据，来快速构建AI运用。这些运用可按需扩展，从而为在NVIDIA加速打算平台上运行生产级天生式AI 供应灵巧性和性能。
NIM 微做事为支配NVIDIA、A121、Adept、Cohere、GettyImages 和Shutterstock的模型，以及谷歌、HuggingFace、Meta、微软、MistralAI 和Stability AI的开放模型供应了快速且性能出色的生产级AI容器。
ServiceNow于今日宣告，其正在利用NIM来更快、更经济地开拓和支配针对特定领域的全新助手和其它天生式AI 运用。
用户将能够从亚马逊SageMaker、谷歌KubernetesEngine和微软AzureAI 中访问NIM 微做事，并与Deepset、LangChain和LlamaIndex等盛行的AI 框架集成。
面向RAG、数据处理、护栏、HPC的CUDA-X微做事
CUDA-X微做事为数据准备、定制和演习供应端到真个构建模块，助力各行各业加快开拓生产级AI。
为了加快AI 采取，企业可以利用CUDA-X微做事，包括用于定制语音和翻译AI 的NVIDIARiva、用于路由优化的NVIDIAcuOpt™，以及用于高分辨率景象和蔼象仿照的NVIDIAEarth-2。
NeMoRetriever™微做事可让开发者将其AI运用链接到业务数据，包括文本、图像以及条形图、折线图和饼图等可视化内容，以天生高度准确、与高下文干系的结果。借助这些RAG功能，企业可以向助手、谈天机器人和天生式AI生产力工具供应更多数据，从而提高准确性和洞察力。
更多用于定制模型开拓的NVIDIANeMo™ 微做事即将陆续发布，个中包括构建用于演习和检索的简洁数据集的NVIDIANeMo Curator、用于利用特定领域数据微调LLM 的NVIDIA NeMoCustomizer、用于剖析AI 模型性能的NVIDIA NeMoEvaluator 以及用于LLM 的NVIDIANeMo Guardrails。
生态系统通过天生式AI微做事赋能企业平台
除了领先的运用供应商外，NVIDIA生态系统中的数据、根本举动步伐和打算平台供应商也在利用NVIDIA微做事，为企业带来天生式AI。
包括Box、Cloudera、Cohesity、Datastax、Dropbox和NetApp在内的顶级数据平台供应商正在利用NVIDIA微做事，帮助客户优化RAG管道，并将专有数据集成到天生式AI 运用中。Snowflake正在利用NeMoRetriever，充分利用企业数据来构建AI 运用。
企业可以在自己选择的根本举动步伐上支配NVIDIA AIEnterprise 5.0 中的NVIDIA微做事，例如领先的亚马逊云科技（AWS）、谷歌云、Azure和OracleCloud Infrastructure等云平台。
超过400 个NVIDIA 认证系统也支持NVIDIA微做事，包括思科、戴尔科技、慧与（HPE）、惠普、遐想和超微的做事器和事情站。此外，慧与于今日宣告推出面向天生式AI的企业打算办理方案，操持将NIM 和NVIDIAAI Foundation 模型集成到其AI软件中。
NVIDIA AIEnterprise 微做事即将入驻根本举动步伐软件平台，包括与NVIDIA 互助的VMwarePrivate AI Foundation。红帽OpenShift支持NVIDIA NIM微做事，帮助企业更轻松地将天生式AI功能集成到自己的运用中，同时优化了安全性、合规性和掌握功能。Canonical也正在通过NVIDIA AIEnterprise 为NVIDIA 微做事添加CharmedKubernetes 支持。
NVIDIA 生态系统由数百家AI 和MLOps 互助伙伴组成，包括Abridge、Anyscale、Dataiku、DataRobot、Glean、H2O.ai、SecuritiAI、Scale.ai、OctoAI和Weights& Biases，它们将通过NVIDIA AIEnterprise 来支持NVIDIA 微做事。
ApacheLucene、Datastax、Faiss、Kinetica、Milvus、Redis和Weaviate等向量搜索供应商也在利用NVIDIA NeMoRetriever 微做事，为企业供应快速相应的RAG 功能。
可用性
开拓者可以在ai.nvidia.com免费试用NVIDIA微做事。企业则可以在NVIDIA认证系统和领先的云平台上利用NVIDIA AIEnterprise 5.0 支配生产级NIM 微做事。
(8612917)