当前位置:首页 > 电脑快讯 > 正文

OpenAI的ChatGPT太好了,它自己的人工智能检测不到

OpenAI的ChatGPT太好了,它自己的人工智能检测不到

OpenAI已经关闭了其检测人工智能书写工作的人工智能工具分类器,因为我们在它发布时发现:它很臭。

当OpenAI在一月份推出分类器时,它应该足够聪明,能够检测到用户(比如学生)何时使用ChatGPT或其他人工智能程序来创作作品。例如,OpenAI将分类器作为一种方式,让教师识别一篇作文是否是人工智能创作的,而不是原创作品。

但当我们测试它时,这个工具遇到了困难,包括将著名作品识别为人工智能创作的作品。显然,OpenAI非但没有解决问题,反而直接关闭了它。分类器页面是空白的,OpenAI在最初发布的分类器工具中添加了以下内容:

截至2023年7月20日,由于准确率较低,AI分类器不再可用。我们正在努力纳入反馈,目前正在研究更有效的文本来源技术,并已承诺开发和部署机制,使用户能够了解音频或视频内容是否由人工智能生成。“

在分类器推出时,OpenAI表示,该分类器将26%的人工智能创作的文本识别为真人文本,并将9%的人工智能创作的文本视为人工智能创作的文本。

我们之前的测试发现,一项与之竞争的服务–蜂巢适中–似乎奏效了。该工具是一个免费的AI检测工具,它执行相同的功能,但返回置信度百分比,即文本样本包含AI文本的可能性。

学生们在网上大声抱怨,即使他们真的写了原创作文,有缺陷的人工智能检测应用程序也会让他们绊倒。由于大学和高中的荣誉守则几乎不允许抄袭,一个假阳性可能会毁了一个学生的学术生涯。分类器的消亡可能会被用作重新考虑教育机构如何处理这一问题的理由。

有话要说...