编译 | 卜金婷
在去年的一篇雷帕霉素抗老应用的论文中,ChatGPT被列为改论文的一作,引发了业内的争议。
人工智能实验室OpenAI于去年11月发布ChatGPT,这种聊天机器人能根据简短的提示生成文采斐然的文字。
现在,人们用它来写情书、诗歌、小说,甚至还有他们的课程作业。ChatGPT的爆火,显然已经对高校教育工作者带来了挑战。
这不,北美密歇根大学哲学系教授Antony Aumann就遇到了这样的教学问题。
ChatGPT写了一篇“全班最好的论文”
上个月,Aumann在为他的世界宗教课程批改论文时,惊喜地读到了一篇他所谓的 “全班最好的论文”。
这篇论文以简洁的段落、恰当的例子和严谨的论证,探讨了罩袍禁令的道德问题。但,Aumann对这篇文章存在质疑。
随后,Aumann质问学生这篇论文是否他本人所写。最终,这名学生承认使用了ChatGPT。
这令Aumann大为震惊。最终他决定改变他的课程论文写作方式,他要求学生们使用受访问限制的浏览器,并且在教室里完成初稿。在随后的草稿中,学生们必须解释每一次修改的理由。
Aumann表示,他可能会在以后的学期中放弃论文的考核方式,他还计划将ChatGPT纳入课程,比如要求学生评估ChatGPT的回答。
Aumann遇到的问题绝不是个例。
在全美范围内,很多大学教授、系主任和行政人员正在开始全面改革教案,以应对ChatGPT对教学活动的影响。一些教授正在重新设计他们的课程,更多地采用口试、小组合作和手写文章作为考核方式,而不是在电脑上撰写文章。
超过89%的学生曾使用ChatGPT作弊
随着ChatGPT的发展,学生和教师都开始意识到它在学术界的用途。目前,TikToks推广其在论文写作和其他学校作业中的应用,话题已经转向这种开创性的AI对高等教育造成的影响,导致许多人考虑禁止其使用。
近日,http://Study.com调查了100多名教育工作者和1000多名学生对使用ChatGPT的看法。调查显示,其中超过89%的学生曾使用ChatGPT帮助他们完成家庭作业。
除此之外,48%的学生承认使用ChatGPT来完成家庭测试,53%的学生使用它写论文,22%的学生使用它写论文提纲。
令人惊讶的是,72%的大学生认为ChatGPT应该在学校中被禁止,表明学生同样担心作弊成为常态。此外,超过三分之一(34%)的教育工作者认为ChatGPT应该在学校中被禁止。
教育工作者担心AI对学生的教育产生重大影响是可以理解的,他们正在求助于AI检测应用程序,试图检测出学生是否使用ChatGPT作弊。
斯坦福团队推出DetectGPT
为应对大型语言模型(LLMs)生成文本工具的“入侵”,斯坦福大学的一个研究团队提出了名为DetectGPT的新方法,旨在成为首批打击高等教育中LLMs生成文本工具之一。
研究团队基于“LLM 生成的文本通常徘徊(hover around)在模型的对数概率函数的负曲率区域的特定区域周围”这一发现,提出了一种用于判别 LLM 生成文本的新指标,这一方法既不需要训练单独的分类器,也不需要收集真实或生成的段落的数据集。
该团队在假新闻文章的数据集上测试了DetectGPT,它在检测机器生成的文本方面的表现优于其他方法。他们发现DetectGPT 可以将20B参数GPT-NeoX生成的假新闻文章的检测从0.81 AUROC提高到0.95 AUROC。
研究团队表示,这一方法在检测机器生成的文本方面优于其他零样本方法,或在未来的机器生成文本检查方面非常有前途。另外,他们也将尝试将这一方法用于 LLM 生成的音频、视频和图像的检测工作中。
随着LLMs的不断使用,检测机器生成文本的相应系统的重要性将变得越来越关键。总之,DetectGPT是一种不需要任何额外数据或训练的零散方法,是识别机器生成文本的有效工具。
参考链接:
https://www.nytimes.com/2023/01/16/technology/chatgpt-artificial-intelligence-universities.html
https://www.neowin.net/news/stanford-introduces-detectgpt-to-help-educators-fight-back-against-chatgpt-generated-papers/
https://arxiv.org/abs/2301.11305