NVIDIA需要聊天距离会话AI的一步

来自NVIDIA的新的人工智能（AI） - 从NVIDIA的演讲识别被配置为在Microsoft Bing中的语音助手搜索和新一代的聊天禁令。该技术可能导致聊天系统的开发，可以更像真正的人类。

NVIDIA声称新系统可以电源聊天，而不是现有的AI系统操作更现实。为实现这一目标，它表示新的NVIDIA平台已被优化以在庞大的数据集上运行查询。

根据NVIDIA的说法，聊天禁令，智能个人助理和搜索引擎非常困难，因为无法实时部署极大的AI模型，以人力级理解运行。为了克服这一限制，Nvidia表示，它向其AI平台增加了关键优化，它表示可以在超过两毫秒的时间内提供完整的AI推论。

“大型语言模型正在彻底改变AI的自然语言，”NVIDIA应用深度学习研究的副主席布莱恩卡坦佐罗说。“他们正在帮助我们解决异常困难的语言问题，让我们更接近真正对话AI的目标。”

Microsoft Bing的rangan Majumder，Group Program Manager表示：“与NVIDIA密切合作，Bing进一步优化了使用NVIDIA GPU的流行自然语言模型BERT的推理，其中一部分AIID AI基础设施，这导致了在去年在去年部署的排名搜索质量Bing的最大改进。

“与基于CPU的平台相比，我们通过Azure NVIDIA GPU实现了两倍的延迟减少和五次吞吐量改善，使Bing能够为全球所有客户提供更相关，具有成本效益，实时的搜索体验。 “

使用NVIDIA的T4 GPU运行其TensorRT库，新平台仅在Bert-Base Squad数据集中在Bert-Base Squad数据集中在NVIDIA表示的是许多实时应用的10毫秒处理阈值下的推断。