共计 609 个字符，预计需要花费 2 分钟才能阅读完成。
OpenAI 已经开发出一种用于标记 ChatGPT 生成文本的水印系统和相应的检测工具，这一系统已经准备就绪大约一年时间，但公司内部对于是否发布这一工具存在分歧。一方面，这似乎是负责任的做法；另一方面，这可能会损害其财务状况。
OpenAI 的水印技术通过调整模型预测最可能跟随前文出现的单词和短语的方式，从而创建一个可检测的模式。这一技术对于试图阻止学生将写作作业交给 AI 的教师来说可能是一个潜在的福音。据报道，公司发现水印并未影响其聊天机器人的文本输出质量。在一项公司委托的调查中，全球范围内的人们以四比一的比例支持 AI 检测工具的想法。
在《华尔街日报》发表其报道后，OpenAI 在今天的一篇博客文章更新中确认了其在水印文本方面的工作。公司表示其方法是极其准确的，并且能够抵抗篡改，如改述。但它表示，使用另一个模型重新措辞这样的技术使得不良行为者轻易绕过。公司还表示，它担心 AI 工具的有用性会因非母语使用者而受到污名化。
但似乎 OpenAI 也担心使用水印可能会使调查中的 ChatGPT 用户失去兴趣，近 30% 的用户告诉公司，如果实施水印，他们会减少使用该软件。尽管如此，据报道，一些员工仍然认为水印是有效的。鉴于用户情绪的持续困扰，一些人建议尝试在用户中可能争议较小但未经证实的方法。在今天的博客文章更新中，公司表示它正处于探索嵌入元数据的早期阶段。它表示，现在还为时过早来了解其效果如何，但由于它是加密签名的，因此不会有误报。
