
IT之家 2 月 22 日消息,英伟达于 2 月 20 日发布博文,宣布推出 NVIDIA In-Game Inferencing(NVIGI)SDK,简化 AI 模型在游戏中的部署,实现从云端到本地 PC 的无缝衔接,从而推动游戏 AI 的革新。
IT之家援引英伟达官方介绍,NVIGI SDK 是一款基于插件的 GPU 优化推理管理器,旨在简化 ACE 模型与游戏和交互式应用的集成,提供以下功能:
开发者通过结合 NVIGI 与 ACE 技术,可以创造出具备高级生成式 AI 能力的自主角色。这些角色不仅能进行实时 NPC 对话,还拥有上下文记忆和逼真的动画,从而极大地提升游戏的沉浸感和互动性。
NVIGI 的架构支持灵活集成各类 AI 功能,并能编排智能代理工作流程,使游戏角色能够实时地听、推理、说话和做出动画反应。
开发者只需初始化 NVIGI,加载插件和模型,创建运行时配置,启用 GPU 调度和渲染集成,即可开始使用 ACE 的设备端推理功能。NVIGI SDK 提供了丰富的插件选择,包括支持不同硬件和模型的语音识别(ASR)、语言模型(GPT)以及 RAG 嵌入等功能,为开发者提供了强大的 AI 工具箱。