Nvidia希望彻底改变软件微服务领域毫不奇怪它从AI部署开始

为了帮助各种规模的企业拥抱新的人工智能驱动世界，Nvidia推出了一种新的软件和微服务访问方法，并声称这种方法可能会改变一切。

该公司的Nvidia推理微服务(NIM)产品将寻求取代当前创建或运行软件所需的大量代码和服务。

相反，NIM会将一组容器化模型及其依赖项整理到一个包中，然后可以在需要的地方分发和部署。

黄仁勋指出，随着世界各地的公司都希望采用最新技术，AI工具和LLM可能会成为NIM部署中的常见现象。他举了一个例子，Nvidia本身正在使用这样的一个NIM来创建一个内部聊天机器人，旨在解决制造时遇到的常见问题，帮助全面提高知识和能力。

Nvidia补充说，NIM专为可移植性和控制性而构建，不仅可以部署在云端，还可以部署在内部数据中心甚至本地工作站，包括其RTX工作站和PC以及其DGX和DGX云服务。

开发人员可以通过遵循每个领域行业标准的API访问AI模型，从而简化应用程序开发，NIM将作为NvidiaAIEnterprise的一部分提供，NvidiaAIEnterprise是该公司新的AI服务平台和中心，为企业提供一站式了解和访问新工具的服务，NIMAI用例涵盖LLM、VLMS、药物发现、医学成像等领域。