英伟达的新软件希望阻止AI聊天机器人产生幻觉

Nvidia开发了开源软件来帮助开发人员创建保持消息状态的AI 应用程序，解决幻觉问题(即 AI 只是编造东西。)

适当命名的NeMo Guardrails 软件专门用于与 ChatGPT 和其他流行的 AI 聊天机器人等大型语言模型 (LLM) 进行交互。它可以确保聊天机器人的响应“准确、恰当、切合主题且安全”。该软件套件包含公司将聊天机器人安全可靠地集成到平台中所需的所有代码。

这对你意味着什么?您的手机、平板电脑等设备上的各种应用程序很快就会出现大量 AI 聊天机器人。Snap 和 Bing 等大型平台已经实施了聊天机器人，但 Nvidia 的软件将允许小型企业实施人工智能。

这可能会超越应用程序，并进入例如银行的电话系统。Nvidia 还表示，他们认为这款软件在各个行业都很有用，从为制药品牌设计新药到从头开始编写新软件。

NeMo Guardrails 是开源软件，因此有进取心的用户可以轻松进行更改以满足他们的特定需求。它的工作原理是防止 AI 聊天机器人转向不需要的区域，并确保它提供准确和适当的信息。在宏观层面上，一个不受欢迎的话题可能是有争议或令人厌恶的话题，但在微观层面上，它可能只是指不符合特定公司愿景的话题。换句话说，隶属于银行的 AI 聊天机器人可以与您谈论您的钱，但不会谈论最新一集的Succession。

还有其他防护措施可以防止 AI 连接到有风险的网站，从而有利于可靠的来源。Nvidia 的 NeMo Guardrails 软件现已上市，但我们还需要一段时间才能开始在应用程序和服务中看到结果。