从每经记者亲身体验来看，目前，要靠这个AI文本检测器来抓作弊还有些困难。
据的一份文件，该检测器将文本标记为“非常不可能”由AI生成的可能性小于10%；“不太可能”由AI生成的可能性为10%~45%；“不清楚它是否是”AI生成的可能性为45%~90%；“可能”是AI生成的几率为90%~98%。
在准确性上，也承认，“鉴于AI生成的内容在互联网上的激增，它可能无意中将一些AI编写的文本错误分类为人类编写的文本。”
“AI枪手”引担忧，“猫鼠游戏”就此开始？
1月中旬，北密歇根大学的论文作弊事件让学术界着实震惊了一把。在这次事件之后，在美国，许多大学教授、系主任和管理人员都在对课堂进行大规模的调整，以应对对教学活动造成的巨大冲击。很多教授在重新设计课程，更多地采用口试、小组合作和手写文章作为评估方式。
纽约和西雅图等最大的学区最近已禁止在其设备和网络中使用 ，许多大学也在考虑采取类似措施。
在更早之前，全球最大的编程技术问答网站Stack 紧急宣布，在该站暂时封禁。Stack 在官方通告中表示，做出这个规定的主要原因是，自动生成的答案质量太低，错误太多，而且看上去还挺像那么回事，即使是完全不懂的人也能随便生成答案。
在“AI枪手”带来的担忧之下，一些其他的AI文本检测器也如雨后春笋般涌现，以满足当前的需求。
在推出自己的检测器之前，普林斯顿大学的一名学生 Tian开发了，来检测文本是否可能是AI生成。据报道，1月3日，该网站一经上线，一周内就有超过3万人试用。
一名用户展示的检测效果 图片来源：推特
不过，一些用户也报告了检测的错误结果。 Tian也承认，检测并非百分之百准确，他仍在努力提高模型的准确性。
据此前报道，包括斯坦福大学在内的一些机构联合提出一种名为的新方法，来区分AI生成的文章。
开源AI社区 Face也推出了一种工具来检测文本是否由 GPT-2 创建，GPT-2 是用于开发 的 AI 模型的早期版本。据悉，南卡罗来纳州的一位哲学教授用这个工具抓获了一名提交了 AI 编写的作业的学生。
除此之外，谷歌搜索以及检测学术抄袭的也正在开发自己的AI生成文本检测器，谷歌搜索据悉至少会推出6个应用程序来对AI和人工文本进行区分。
科技媒体对此评论称，这很可能会成为一场猫捉老鼠的游戏。随着文本生成AI的改进，检测器也会改进——这是一种永无止境的来回交流，类似于网络犯罪分子和安全研究人员之间的交流。
正如 所写，虽然检测器在某些情况下可能有所帮助，但它们永远不会成为确定文本是否由AI生成的可靠唯一证据。“也就是说，目前还没有灵丹妙药可以解决AI生成的文本所带来的问题，”这样写道。
相关文章
