封面新闻见习记者 马晓玉
就在7月9日，代码解释器（Code ）测试版正式向所有Plus用户开放。这意味着，即使不是程序员，只需要用自然语言向下达指令，也可以完成需要复杂编程技术的任务。
自问世以来就面临诸多争议，其所带来的学术伦理问题也让这一切并不那么容易实现。如何让日渐成熟的人工智能更好地服务于学界，还有很长的路要走。
基于 的强大算力，使其逐渐成为学生们撰写论文的工具，并引起了学术圈的震荡。鉴于此种担忧，美国纽约、西雅图、洛杉矶等地的一些公立学校禁止学生使用。
许多科学家也不赞同将其以作者的称号而被署名到文章里，期刊的主编曾言：“我们不允许AI被列入我们发布论文的作者，并且在没有适当引用的前提下，使用AI生成的文本可能会被视为剽窃”。
期刊的主编也明确说明：“任何大型语言模型（LLM）都不会被接受为研究论文的署名作者。这是因为任何作者的归属都意味着对研究工作的责任，而人工智能工具不能承担这种责任”。
与此同时，包括、GPT Zero 和 在内的众多AI检测软件应运而生，不少高校教师已将其运用到日常教学当中，而其中最著名的莫过于GPT Zero。
GPT Zero
被称为最强反AI工具的GPT Zero，是今年3月由一位来自普林斯顿大学大四学生 Tian发布的编程，旨在帮助教育工作者检测生成的写作，目前还获得了融资。而 Tian本人也被冠以“全美学生公敌”的称号。
稍微调整就可以通过检测，AI检测工具真的有效吗？
GPT Zero称其AI文本检测器工具使用深度分析技术来识别文本的来源，检测准确率高达98%。并将不断完善，将错误率下降到低于2%。然而，其测试的准确率真的有效吗？
德国柏林技术与经济应用科学大学的媒体和计算教授黛博拉·韦伯·伍尔夫与来自多所大学的一组研究人员合作，评估了包括GPT Zero 在内的 14 种检测工具。
该团队使用 生成了两份文本，每份都经过了轻微的调整，以隐藏它是人工智能生成的。其中一组是由研究人员手动编辑，他们重新排列句子并替换单词，而另一组是使用名为 的人工智能转述工具重写。
他们发现，尽管这些工具识别 文本的准确率为 74%，但当其生成的文本经过稍微调整后，准确率降至 42%。这表明，学生只需要稍微调整人工智能生成的文章，就可以通过检测工具。
谷歌专门研究自然语言生成的高级研究科学家达芙妮·伊波利托提出了另一个担忧。“如果要在教育环境中使用自动检测系统，了解其误报率至关重要，因为错误地指责学生作弊可能会对他们的学术生涯产生可怕的后果”。
培养 AI 的高级用户，或可实现与教育共存
一方面是不断完善，并逐渐向所有用户开放，受到学生大力热捧。一方面是学术造假引发争议，而AI检测工具尚不完善。究竟会给人类教育带来什么？我们应该把它当作朋友拥抱，还是当作敌人排斥，通过检测让其无处遁形。
南京师范大学道德教育研究所教授冯建军教授认为，在近百年的教育发展史中，每当新技术问世，都会引发社会担忧和学术争论。因其智能性，人们更加担忧它是否可能取代教师，甚至取代教育。
他认为，这种担忧就如同在问：当我们有了汽车、学会了开车，是否还需要学走路？当我们有了计算机，是否还需要学数学？而这些都只是人借助的工具而已，没有改变人。
面对的到来，盲目排斥的态度不可取。技术进步是社会发展的必然，是不可阻挡的。未来的教育，既不全是人的，也不全是的，而是人+，因此，教育必须谋求人与的共生共存。
可汗学院首席学习官 曾言，“GPT-4 正在开辟教育的新领域。很多人对这种技术的梦想已经很久了。这是变革性的，我们计划负责任地进行测试，以探索它是否可以有效地用于学习和教学。”
香港中文大学和深圳大学的一项联合研究认为，不仅能够为学生提供个性化和定制化的学习体验，辅助学生的备考、翻译、背诵和编程等学习活动。还能帮助教师从一些简单的基础性工作中解放出来。对于教育测评和行政管理， 还能起到多种辅助作用。
而面对人工智能技术应用进程中可能存在的风险和消极影响，或可通过培养学生成为 AI 的高级用户，即以信息科技课程为载体，探索学生数字素养及 AI 素养培养的有效途径。同时也要促使教师成为人机协同的调停者，担当监护职责，及时规避 AI 对尚不具备专业知识和能力的学生产生误导。
另一方面，为兼顾AI在教育领域内应用的同时，避免触及伦理道德的红线。要启动监管技术，完善 应用的伦理规范风险评估和治理体系。并在某一领域内达成规则共识，包括 是否应该拥有署名权以及其工作量如何评判的问题。
相关文章
