OpenAI致教师：检测ChatGPT生成的文本的工具不起作用

当教师点击这些工具来检测学生是否使用ChatGPT作弊时，OpenAI表示不必费心：这些工具不可靠。

该公司在一份新的常见问题解答中发布了这一建议，指导教育工作者如何在学校使用ChatGPT，包括试图检测人工智能编写的文本时的潜在陷阱。

已经出现了一些工具来解决人工智能支持的聊天机器人如何帮助学生在家庭作业和考试中作弊。但根据OpenAI的说法，依靠一种工具从学生的作业中找出人工智能编写的文本是充满问题的。

该公司在FAQ中写道：“虽然有些公司(包括OpenAI)已经发布了声称可以检测人工智能生成的内容的工具，但这些工具都没有被证明能够可靠地区分人工智能生成的内容和人类生成的内容。”

OpenAI补充道：“我们的一个重要发现是，这些工具有时表明，人工智能生成了人类书写的内容。”例如，该公司自己的调查发现，人工智能探测器工具可能会错误地将剧作家威廉·莎士比亚和《独立宣言》中的人类书写的文本标记为人工智能生成的文本。

该公司补充说：“也有迹象表明，这可能会对已经或正在学习英语作为第二语言的学生以及写作特别公式化或简洁的学生造成不成比例的影响。”

这一结果有可能导致教师错误地指责学生使用ChatGPT作弊。OpenAI还指出，一些教师可能

在ChatGPT中输入他们怀疑是人工智能生成的文本，并询问这些内容是不是它写的。但这种方法也有缺陷，因为聊天机器人程序的内存有限，无法回忆起其他用户的对话历史。OpenAI甚至指出，ChatGPT“有时会对诸如‘这篇文章是你写的吗？’之类的问题做出回应。”或者‘这可能是人工智能写的吗？’“

FAQ当然指出了试图检测人工智能编写的文本时的挑战。但OpenAI并没有为检测基于ChatGPT的作弊行为提供解决方案。相反，该公司正在倡导一种注重透明度的方法，让学生向老师和他们的同学展示他们是如何使用聊天机器人回答问题的。

OpenAI说，学生们可以展示他们与人工智能互动的能力，以及他们对人工智能系统缺陷的理解。教育工作者可以评估提出的问题的质量、获得的信息的相关性，以及学生对挑战、复查和考虑这些信息中的潜在偏见的理解程度。

当然，阻止ChatGPT作弊的一种方法是简单地禁止在学校使用ChatGPT，并强迫学生在没有互联网接入的情况下完成作业。然而，OpenAI预计人工智能工具的使用将在社会上变得“司空见惯”，它表示，这突显了教会学生如何负责任地使用这项技术的必要性。

因此，OpenAI正在倡导教育工作者将ChatGPT作为一种教学工具。在一篇相关的博客文章中，该公司分享了几名教师如何与他们的学生使用ChatGPT，包括将AI程序变成辩论伙伴。这篇博文还指出，可以利用ChatGPT来帮助教育工作者为他们的学生快速创建测验、测试和教案。它甚至包括几个示例提示，教师可以使用它们来帮助他们完成工作。