自从去年11月 ChatGPT 面世以来,全美最大的学区已禁止了人工智能聊天机器人进入学校,原因是担心学生会使用快速文本生成器来作弊或抄袭。
教师和教授担心这项技术让学生很容易将其用作论文或其他写作作业和考试的捷径,并且它生成内容的方式可以绕开检测,结果是学校无法判断学生是否自己完成作业、哪些知识已经掌握。
仓促禁止该ChatGPT可能不是正确的做法,但是,一些教育技术专家表示:人工智能将成为年轻人未来的一部分,它现在也必须逐渐成为课堂的一部分。
“每个人都在谈论作弊。如果你担心这一点,你的评估可能一开始就不太好,”非营利组织国际教育技术协会的首席执行官理查德库拉塔(Richard Culatta)表示。“如今,学校里的孩子们正在从事的学习和工作,并不是每个环节都是人的协作交互。”
什么是ChatGPT?
使用 ChatGPT 网站的任何人,可以就任何主题向聊天机器人提出问题,并以段落形式得到快速、详细的答复。(GPT 代表生成型预训练变换模型,Generative Pre-trained Transformer)
拥有该工具的旧金山软件公司 OpenAI 发言人表示,该公司“将 ChatGPT 作为研究预览,从实际使用中学习,我们认为这是开发和部署功能强大、安全的 AI 系统的关键部分。”
在该网站上,它将 ChatGPT 的积极属性列为“记住用户早些时候在对话中所说的话”和“允许用户提供后续更正”的能力,以及如何训练它“拒绝不适当的请求”。
“为什么学校禁止使用 ChatGPT?”
该公司承认这项技术的一些缺陷。
根据OpenAI 的网站描述,其聊天机器人偶尔会“生成不正确的信息”和“产生有害的指令或有偏见的内容”。它还列出了第三个不足:“对2021年后的世界和事件的了解有限”。
当问及该聊天机器人:“为什么学校禁止使用 ChatGPT?”
聊天机器人的回答是,“我不知道有任何学校专门禁止 ChatGPT”。“但是,一些学校或教育机构可能制定了禁止在课堂或考试期间使用某些技术的政策,特别是如果它被认为是一种分散注意力或潜在的作弊手段。
此外,ChatGPT 等 AI 模型的使用引发了对技术潜在滥用的道德担忧,例如假冒或传播错误信息。“因此,一些学校可能会选择禁止或限制使用此类技术作为预防措施。”
回到现实,学校禁止使用ChatGPT的真实原因是什么?最近,美国一些学校管理者对技术的担忧涉及学生利用维基百科和 SparkNotes(英美文学考研试题平台)等网站收集信息,而无需自己进行研究或阅读。
一位学校发言人 Shannon Hebert 表示,洛杉矶联合学区计划进行更多培训。洛杉矶联合学区去年12月暂时阻止了对 ChatGPT 和 OpenAI 网站的访问,“以保护学术不诚实,同时进行风险/收益评估。”
纽约市今年1月阻止了全州学校拥有的设备和网络使用 ChatGPT。该部门引用了当地学校教师对学生自主学习的担忧。加利福尼亚州奥克兰联合学校和西雅图公立学校目前已采取行动阻止 ChatGPT,部分原因是它会产生难以分别的类似人类的回应。
西雅图公立学校发言人蒂姆·罗宾逊 (Tim Robinson) 表示,尽管有禁令,该地区仍在努力允许教师将其作为课程的一部分。他表示,该学区还在学校设备上屏蔽了其他与作业有关的人工智能生成器。
在加州奥克兰,学区希望在学校使用人工智能工具,发言人约翰·佐佐木 (John Sasaki)表示,但要等到教师和教育工作者接受“关于人工智能的道德使用方面的培训,以避免对学生学习产生整体负面影响”。
到目前为止,其他大型学校系统(包括迈阿密戴德和休斯顿)并未禁止 ChatGPT。“学区正在调查此事,”迈阿密戴德区发言人杰奎琳·卡尔扎迪拉·迪亚兹 (Jaquelyn Calzadilla Diaz) 回应,“在这一点上,尚未做出决定。”
学院和大学如何处理 ChatGPT?
据美国有线电视新闻网报道,鉴于文本生成器已通过明尼苏达大学和宾夕法尼亚大学沃顿商学院的研究生水平考试,一些大学担心 ChatGPT 将如何影响学生的工作和评估。
但与 K-12学校不同,高校的禁令很少。包括普林斯顿在内的大学拒绝禁止聊天机器人,而是建议教授制定自己的政策。据 Vice 报道,纽约大学教授建议学生不要使用 ChatGPT。
高校在使用 ChatGPT 时应该考虑什么?
首先,封锁特定平台可能远没有学校想象的那么有效。
“如果他们不在课堂上使用它,他们可以在家里使用它,也可以在他们的个人设备上使用它,” 非营利组织 All4Ed 的教育技术专家Adam Phyall 认为该技术可以用于支持传统教育上服务不足的学生。
OpenAI 平台是第一个成功生成段落文本以响应用户问题的同类平台之一,但还有其他类似的平台。在 TikTok 上,学生们亦有分享其他公司创建的基于人工智能的类似工具如何帮助完成学业。
“我们要讨论如何解除封锁吗?还是想一下:如果我们害怕,让我们封锁它,然后继续下一步?” Adam Phyall 提到。
他说,例如学校可以使用 ChatGPT 来教孩子们如何提高写作水平。
Culatta 的组织建议学校制定有关使用 ChatGPT 的规则。他认为,学校应该在 AI 到来之前就让教师做好准备。现在课堂上使用的其他类型的人工智能工具包括数学辅导助手Thinkster Math、虚拟助教Jill Watson和转录服务 Nuance。
“我们多年来一直在关注这一(AI应用在教育的)趋势”。“这对任何人来说都不应感到惊讶。”
ChatGPT创建者OpenAI怎么说?
OpenAI的一位发言人表示,该公司希望帮助学校解决他们的问题,用户应该坦率地使用他们的人工智能生成的文本。该发言人表示,该公司正在开发一个系统,让教师检查学生是否使用ChatGPT作弊或剽窃。
“我们不希望 ChatGPT 在学校或其他任何地方被用于误导目的,”该发言人在一封电子邮件中表示,“因此我们已经在开发缓解措施,以帮助任何人识别该系统生成的文本。”
(举报)