OpenAI因不准确悄悄关闭AI文本检测工具

OpenAI关闭了其人工智能文本检测工具，理由是在确定书面工作是由人类还是其人工智能聊天机器人ChatGPT撰写时，准确率较低。

“我们正在努力纳入反馈，目前正在研究更有效的来源技术，”OpenAI说

该公司正在开发文本的改进版本，并表示已“承诺”对音频和视频内容采取同样的做法，比如用其Dall-E图像生成器生成的内容。

OpenAI于2023年1月首次发布了文本检测工具，理由是拥有能够嗅探人工智能生成的虚假声明的系统非常重要。OpenAI发表了一篇论文

“生成语言模型已经有了很大的改进，现在可以产生真实的文本输出，很难与人类书写的内容区分开来，”论文写道。对于恶意行为者来说，这些语言模型带来了自动创建令人信服和误导性文本的前景。

这种恶意行为的范围可能很广，从学生试图在作业中作弊，到干预选举，以及介于两者之间的一切。白皮书承认，既然人工智能技术已经开发并公开发布，那么任何人都无法完全阻止人工智能对人类世界的影响，并表示“不能指望任何合理的缓解措施来完全防止人工智能影响操作的威胁。”

AI检测工具可能是一个开始，尽管OpenAI的工具从一开始就有限且不准确。它需要有人手动输入一段至少1000个字符的文本，然后OpenAI会认为这是人工智能或人类。它只成功地将26%的人工智能书写的文本归类为“可能的人工智能书写的”，并在9%的时间内错误地将人类书写的文本标记为人工智能。

在被关闭之前，AI分类器在处理以非英语语言编写的1000个字符以下的文本时表现尤其糟糕。总体而言，OpenAI并不建议将其作为“主要的决策工具”，但该公司仍将其公之于众，以获取反馈和培训。OpenAI于7月20日禁用了该链接，并未表示改进版本将于何时推出。