共计 570 个字符，预计需要花费 2 分钟才能阅读完成。
微软近日推出了一项名为“修正”的新功能，旨在进一步提升其 AI 系统的安全性和准确性。这项功能不仅能够识别 AI 输出中的错误，还能自动进行修正，从而确保输出的内容更加准确可靠。
图片：Hugo Herrera / The Verge
“修正”功能作为 Azure AI Studio 的一部分，提供了一个预览版本。Azure AI Studio 是一套专门设计的安全工具，旨在检测和防止 AI 系统中的漏洞和恶意提示。一旦启用，“修正”系统会自动扫描 AI 输出，并与客户的源材料进行比对，识别并标记出不准确的内容。随后，系统会提供详细的错误信息，并自动重写相关内容，确保用户在看到输出之前，所有的不准确之处都已被修正。
尽管这项功能看似能够有效解决 AI 模型经常产生的无意义内容问题，但微软也承认，它并非完全可靠。微软发言人表示，“修正”系统使用小型和大型语言模型来使输出与接地文档对齐，但仍可能存在错误。因此，虽然“修正”功能有助于提高 AI 输出的准确性，但用户仍需谨慎对待。
谷歌的 Vertex AI 平台也提供了类似的功能，通过检查输出与谷歌搜索、公司自有数据以及第三方数据集的匹配情况，来确保 AI 模型的输出更加接地和准确。
总的来说，微软的这项新功能标志着 AI 安全领域的一次重要进步，它不仅能够帮助企业更好地管理和控制 AI 系统的输出，还能在一定程度上提升 AI 系统的可靠性和用户信任度。
正文完
