封面新闻见习记者 马晓玉

 

就在7月9日,ChatGPT代码解释器(Code interpreter)测试版正式向所有Plus用户开放。这意味着,即使不是程序员,只需要用自然语言向ChatGPT下达指令,也可以完成需要复杂编程技术的任务。

ChatGPT自问世以来就面临诸多争议,其所带来的学术伦理问题也让这一切并不那么容易实现。如何让日渐成熟的人工智能更好地服务于学界,还有很长的路要走。

人工智能生成内容引发学术伦理问题,AI检测应运而生

基于 ChatGPT 的强大算力,使其逐渐成为学生们撰写论文的工具,并引起了学术圈的震荡。鉴于此种担忧,美国纽约、西雅图、洛杉矶等地的一些公立学校禁止学生使用ChatGPT。

许多科学家也不赞同将其以作者的称号而被署名到文章里,Science期刊的主编曾言:“我们不允许AI被列入我们发布论文的作者,并且在没有适当引用的前提下,使用AI生成的文本可能会被视为剽窃”。

Nature期刊的主编也明确说明:“任何大型语言模型(LLM)都不会被接受为研究论文的署名作者。这是因为任何作者的归属都意味着对研究工作的责任,而人工智能工具不能承担这种责任”。

与此同时,包括Turnitin、GPT Zero 和 Compilatio在内的众多AI检测软件应运而生,不少高校教师已将其运用到日常教学当中,而其中最著名的莫过于GPT Zero。

GPT Zero

被称为最强反AI工具的GPT Zero,是今年3月由一位来自普林斯顿大学大四学生Edward Tian发布的编程,旨在帮助教育工作者检测ChatGPT生成的写作,目前还获得了融资。而Edward Tian本人也被冠以“全美学生公敌”的称号。

稍微调整就可以通过检测,AI检测工具真的有效吗?

GPT Zero称其AI文本检测器工具使用深度分析技术来识别文本的来源,检测准确率高达98%。并将不断完善,将错误率下降到低于2%。然而,其测试的准确率真的有效吗?

德国柏林技术与经济应用科学大学的媒体和计算教授黛博拉·韦伯·伍尔夫与来自多所大学的一组研究人员合作,评估了包括GPT Zero 在内的 14 种检测工具。

该团队使用 ChatGPT 生成了两份文本,每份都经过了轻微的调整,以隐藏它是人工智能生成的。其中一组是由研究人员手动编辑,他们重新排列句子并替换单词,而另一组是使用名为 Quillbot 的人工智能转述工具重写。

他们发现,尽管这些工具识别 ChatGPT 文本的准确率为 74%,但当其生成的文本经过稍微调整后,准确率降至 42%。这表明,学生只需要稍微调整人工智能生成的文章,就可以通过检测工具。

谷歌专门研究自然语言生成的高级研究科学家达芙妮·伊波利托提出了另一个担忧。“如果要在教育环境中使用自动检测系统,了解其误报率至关重要,因为错误地指责学生作弊可能会对他们的学术生涯产生可怕的后果”。

培养 AI 的高级用户,ChatGPT或可实现与教育共存

一方面是ChatGPT不断完善,并逐渐向所有用户开放,受到学生大力热捧。一方面是学术造假引发争议,而AI检测工具尚不完善。ChatGPT究竟会给人类教育带来什么?我们应该把它当作朋友拥抱,还是当作敌人排斥,通过检测让其无处遁形。

南京师范大学道德教育研究所教授冯建军教授认为,在近百年的教育发展史中,每当新技术问世,都会引发社会担忧和学术争论。ChatGPT因其智能性,人们更加担忧它是否可能取代教师,甚至取代教育。

他认为,这种担忧就如同在问:当我们有了汽车、学会了开车,是否还需要学走路?当我们有了计算机,是否还需要学数学?而这些都只是人借助的工具而已,没有改变人。

面对ChatGPT的到来,盲目排斥的态度不可取。技术进步是社会发展的必然,是不可阻挡的。未来的教育,既不全是人的,也不全是ChatGPT的,而是人 ChatGPT,因此,教育必须谋求人与ChatGPT的共生共存。

可汗学院首席学习官Kristen DiCerbo曾言,“GPT-4 正在开辟教育的新领域。很多人对这种技术的梦想已经很久了。这是变革性的,我们计划负责任地进行测试,以探索它是否可以有效地用于学习和教学。”

香港中文大学和深圳大学的一项联合研究认为,ChatGPT不仅能够为学生提供个性化和定制化的学习体验,辅助学生的备考、翻译、背诵和编程等学习活动。还能帮助教师从一些简单的基础性工作中解放出来。对于教育测评和行政管理,ChatGPT 还能起到多种辅助作用。

而面对人工智能技术应用进程中可能存在的风险和消极影响,或可通过培养学生成为 AI 的高级用户,即以信息科技课程为载体,探索学生数字素养及 AI 素养培养的有效途径。同时也要促使教师成为人机协同的调停者,担当监护职责,及时规避 AI 对尚不具备专业知识和能力的学生产生误导。

另一方面,为兼顾AI在教育领域内应用的同时,避免触及伦理道德的红线。要启动监管技术,完善 ChatGPT 应用的伦理规范风险评估和治理体系。并在某一领域内达成规则共识,包括 ChatGPT 是否应该拥有署名权以及其工作量如何评判的问题。

【如果您有新闻线索,欢迎向我们报料,一经采纳有费用酬谢。报料微信关注:ihxdsb,报料QQ:3386405712】

作者 admin