人工智能与教育：AI的第一学年以失败告终

神译局是36氪旗下编译团队，关注科技、商业、职场、生活等领域，重点介绍国外的新技术、新观点、新风向。

编者按：对于生成式人工智能的崛起，老师也许是最焦虑的人之一。本文描述了人工智能（AI）在大学教育里的滥用问题。确实有些学生用人工智能工具作弊，自己一点都不下功夫，但也有许多学生仅仅是借助人工智能工具来生成想法、帮助解决问题、重新表述段落或检查语法。不过，对于教师来说，区分哪种行为属于作弊并不容易。此外，本文还探讨了人工智能对教育的影响，师生双方也许都需要重新审视作业以及学术诚信的问题，但这也会对双方产生额外的压力。文章来自编译。

百分之一百是人工智能写的。这就是软件对一篇学生论文的盖棺定论。我指导的学术项目中有位教授发现了这个结果，问我该如何处置。然后另一个人看到了这名学生写的另一篇论文也得出了相同结果——100% 由人工智能生成，而且也想知道：这是什么意思？我不知道。我暂时还不知道。

这个问题可以拆解成更多的问题：是否可能确定学生使用了人工智能，“使用”人工智能写论文意味着什么，以及这种使用何时构成了作弊。给我们学生的论文打标记的软件也是多层的：我们的课件系统 Canvas 上面跑的是 Turnitin，这是一种流行的抄袭检测服务，这个服务最近又安装了一种新的人工智能检测算法。所以所谓的作弊证据来自教育科技黑匣子里面的套娃。

这是 ChatGPT 第一学年结束时的大学生活：背负罪责，充满困惑。在过去几周的时间里，我与数十名教育工作者和学生进行了交谈，现在，他们正第一次面对大量的人工智能“作弊”。他们的故事让我目瞪口呆。来自校园的报告暗示，人工智能在教育当中的合法使用可能与不道德的使用没有区别，而且识别作弊者或多或少是不可能的，追究他们的责任就更不用说了。

曾几何时，学生们作弊的手段是分享考试或向同学传试卷。然后，在互联网的帮助下，他们开始将家庭作业外包出去。EssayShark（声称其销售的学期论文仅用于“研究和参考目的”）等在线企业已经让这个过程变得专业化。现在，学生可以从 Chegg 等“辅导”服务购买作业答案——这种做法用孩子们的说法叫做“chegging”。但是随着去年秋天人工智能聊天机器人的横空出世，过去所有这些作弊方法似乎都过时了。Chegg 的首席执行官在本月的财报电话会议上承认：“我们现在相信 [ChatGPT 正在] 对我们的新客户增长率造成影响”。自那以后，该公司的市值已经损失了约 10 亿美元。

几家欢喜几家愁，也有从同一场动荡中受益的公司。截止 2018 年，Turnitin 的年收入已经超过了 1 亿美元，其功能是可以帮助教授们找出不当行为。它的软件被嵌入到学生用来提交作业的课件中，软件会将学生提交的内容与现有材料（包括 Turnitin 之前使用过的其他的学生论文）的数据库进行比较，并标记可能被抄袭的材料。该公司声称自己为全球 15000 家教育机构提供服务。2019 年，该公司以 17.5 亿美元的价格被收购了。上个月，它推出了人工智能检测插件（教师没法选择退出）。就像聊天机器人本身开始接管作业一样，反人工智能聊天机器人的举措也开始接管局面。

现在，随着聊天机器人的第一个春天即将结束，Turnitin 的新软件正在提供大量的正向识别：这篇论文“有 18% 的可能性是人工智能写的”；那篇“100% 是 AI 写的”。但是所有这些数字到底意味着什么？令人吃惊的是，你很难确定。反正我听说的每一个“100% 是人工智能写的”的案例当中，学生们都坚称自己没有让 ChatGPT 或任何其他 AI 工具完全承担他们所有的工作。

但根据该公司的说法，这个标记确实表明一篇文章 100%（也就是每一个句子）都是由计算机生成的，而且，这个判断的确定性为 98%。Turnitin 发言人通过电子邮件承认，包括语法检查器和自动翻译器在内，“由其他使用算法或其他计算机支持系统的工具创建的文本”可能会导致误报，而某些“非伪造的”写作可能跟人工智能生成的作品类似。她告诉我：“有些人的写法就是很容易预测”。公司声称其分析的置信度为 98% 是否考虑到了所有这些注意事项呢？

也许这无关紧要，因为 Turnitin 拒绝从其结果中得出任何关于不当行为的结论。该公司的发言人说：“这只是一个数字，旨在帮助教育工作者确定是否有必要进行额外审查或与学生进行讨论。教学是一项人类努力。”该公司为面对软件产生误报的“小”风险的人提供了一份指南。自然地，它建议运用更多的 Turnitin 资源（如人工智能滥用规则及人工智能滥用检查表），并多做一些工作。

换句话说，我的课程计划当中作业被标记为“100% 人工智能”的学生可能用了一点人工智能，或者大量用了人工智能，或者介于两者之间。至于任何更深层次的问题——他究竟是怎么使用人工智能的，以及他这样做是否错误—— 一如既往地，像我这样的老师只能靠我们自己解决。

部分学生可能 100% 用了人工智能：自己一点都没思考，完全由人工智能代劳。但也有很多人只是借助 ChatGPT 和其他工具来产生想法，在遇到困难时用人工智能来帮忙解决问题，改写棘手的段落，或者检查语法问题等等。

一种行为从什么地方变成了另一种行为并不总是一目了然。北佐治亚大学的英语教授 Matthew Boedy 告诉我，他有个学生散漫到有时候会穿着睡衣上课。当那个学生今年春天提交了一篇看起来十分老道的论文时， Boedy 认为这里面也许有聊天机器人的功劳，OpenAI 的验证工具也证实了这一点。该学生承认，他不知道该从何入手，所以他要求 ChatGPT 帮写引言，然后推荐资源。由于缺乏针对人工智能作弊的确切政策，Boedy 亲自与学生讨论了相关材料，并根据谈话对他给出了成绩评分。

在我任教的圣路易斯华盛顿大学，由于学校的态度来了个大转弯，从疫情流行早期的完全开卷作业，突然转变成今年的“除了人工智能，你可以使用任何东西”，一名计算机科学专业的学生从中窥探出一些讽刺的味道。 （学生的名字我就不说了，这样他们才可以开诚布公地讨论所使用的人工智能工具的情况。）这位同时担任助教的学生知道，计算机科学课程安排的几乎所有技术练习计算机都可以帮助解决，还有一些概念性的习题也能搞定。但他说，利用这项技术“感觉没那么道德败坏，起码没有花钱买 Chegg 之类的东西那么不道德。”与聊天机器人打交道的学生是在为自己做某种工作，并学习如何在未来生活。

与我交谈过的另一位学生在波莫纳学院学习政治，他把人工智能当作对自己的想法进行压力测试的一种手段。该学生的任务是撰写一篇关于中东殖民主义的研究论文。他先是撰写了一篇论文，然后问 ChatGPT 对这个想法的看法。他说：“它告诉我这是错的。然后我开始与机器辩论——在这样做的过程中，ChatGPT 对我的论点提出了一些严肃的反驳，而我在论文里面也继续思考了那些看法。”该学生还用该机器人来推荐资源。他说：“我把 ChatGPT 看作是同事，以及感兴趣的听众”。

这位波莫纳的学生对人工智能的使用似乎既聪明又完全光明正大。但如果他借用了太多计算机生成的语言，Turnitin 可能仍会把他的作品标记为不真实。教授无法真正知道学生是以微妙的方式使用了 ChatGPT，还是明目张胆地作了弊。没问题，你可能会说：只要和学生建立起一种相互信任的关系，和他们开诚布公地讨论这件事就行。乍一看这似乎是个好主意，但人工智能可能会瓦解教师和学生的利益。宾夕法尼亚州格林斯堡塞顿希尔大学（Seton Hill University）教授 Dennis Jerz 告诉我：“人工智能很危险，因为它极具诱惑力”。对于那些没有在课堂上投入的学生，分数甚至不必很好——足够好、做得快就可以了。 “人工智能让过得去变得更容易。”

教师们已经在为让学生看到完成作业的长期利益而烦恼。他们的任务只会越来越难。关于用人工智能作弊的事情，佛罗里达州的一位英语老师告诉我：“这太令人沮丧了。从去年 9 月份的时候我仍深爱我的工作，但今年 4 月我已经决定要彻底放弃。”（我不会写出这位教师的名字或雇主，以保护他免受与工作相关的影响。）他布置的作业是典型的作文：论文写作、参考书目、大纲以及论文。但这位老师觉得，人工智能在师生之间引发了一场无关紧要的军备竞赛。他说：“有了像 ChatGPT 这样的工具之后，学生们认为他们没有理由再去关注这些技能”。在学生承认使用 ChatGPT 完成了上一学期的作业之后（有一名学生所有作业都是 AI 做的），老师想知道为什么自己还要浪费时间给学生自己也许甚至都没有读过的自动化作业打分。这种毫无意义的感觉影响了他的教学过程。“这简直让我崩溃。我热爱教学，也热爱课堂，但在 ChatGPT 的掺和下 ，一切都变得毫无意义了。”

他所描述的损失比学术诚信能保护的任何东西都更加深刻、更意义重大：即师生之间的一种特定的存在方式，尽管它可能正在衰退。他告诉我说：“人工智能已经把教室变成我不再认识的样子”。从这个角度来看，人工智能不是未来的预兆，而是快要消失的一个行业的最后一根稻草，在（美国）资金崩盘、枪支暴力、国家过度扩张、经济衰退、文凭主义等的影响下，教育这个行业快要消失了。新技术正抵达那片凄凉的海岸，让功课变得一文不值，其目的不是为了教或学，而是为了让机器转动起来。

我想知道，这位老师离开教育这个行当后打算做什么，于是我问他。但我其实早该知道答案，因为选项只有一个：他要设计软件。

人工智能时代教育的共同点是：它会迫使教师去适应。亚利桑那州立大学心理学教授 Athena Aktipis 借此机会重组了她的整个班级，她现在更喜欢组织讨论，让学生设计项目，而不是布置家庭作业。她告诉我：“学生们说，这门课确实让他们感受到了其他班级所没有的人情味。”

但对于很多学生来说，大学不仅仅是写论文的地方，走捷径可以提供一种不同的人情味。参与我课程计划的学生有篇论文被 Turnitin 贴上了“100% 人工智能”的标签，他告诉我他用语法检查软件检查了自己的文字，并要求 ChatGPT 改进某些段落。效率对他来说似乎比质量更重要。他说：“有时候我想打篮球。有时候我想去锻炼身体。”这听起来可能很离谱：大学就是为了学习，这意味着要完成你的作业！但是压力源、成本以及其他外部因素给大学校园制造了心理健康危机。根据这位学生的说法，AI 正在帮助减轻这种压力，而其他一切则没有起到这种作用。

类似的压力对教师也适用。从某些方面来说，教师和自己的学生一样被聊天机器人的力量所吸引，因为聊天机器人可以减轻他们觉得烦人或者干扰其职业目标的工作。（正如我上个月所指出的那样，与大学论文一样，传统的推荐信可能也受到了人工智能的威胁。）即便如此，教师们还是担心学生们在欺骗自己——并且对他们被夹在中间感到恼火。在荷兰蒂尔堡大学教授文化研究的 Julian Hanna 认为，对人工智能更娴熟的使用主要有利于那些已经准备好取得成功的学生，而会让处境不利的学生面临更大的风险。他说： “我认为最好的学生要么不需要 AI，要么会担心被抓到，或者两者兼而有之。”其他人则可能会比以前学得更少。另一个需要考虑的因素：将英语作为第二语言的学生可能更依赖语法检查软件，或者更倾向于让 ChatGPT 帮他们进行句子级措辞的调整。如果是这样的话，那他们就会被挑出来被当成是作弊的，而且这种情况多得不成比例。

不管怎样，军备竞赛仍将继续下去。学生会很想过分地使用人工智能，而大学会试图阻止他们。教授们可以选择接受某些形式的人工智能支持，并禁止其他形式的人工智能支持，但他们的选择将取决于他们能拿到什么软件。技术本身将比官方政策或深刻反思更有力量。

大学也将努力适应。大多数学术诚信理论都依赖于将工作归功于人，而不是机器。这意味着过去的荣誉准则需要进行适度的更新，调查可疑作弊者的小组被迫需要应对新的人工智能检测“证据”的神秘特质。然后一切都会再次改变。当新的系统出现的时候，技术和使用它的习惯很可能已经发生了改变。请记住， ChatGPT 也才诞生了六个月而已。

根据人工智能来重新思考如何布置作业可能是必要的，就像要根据在线学习做出调整一样。但这样做也会让教师和学生都筋疲力尽。没有人能够跟上，但每个人都别无选择，只能这么做。在所有这些结构性变化以及他们做出的紧急反应之间，也许教师们仍然会找到一种老师可以教、学生也可以学的办法。

译者：boxi。