chatgpt人工智能ai生成 OpenAI发布ChatGPT人工智能文本生成检测工具

是 2022年11月推出的交互式自然语言对话模型。使用RLHF（从人类反馈中进行强化学习）来训练，与使用的方法相同，但数据收集设置时有明显的差别。在训练初始模型时使用有监督调整（参）：人类AI训练器提供的会话。训练员有访问模型建议的权限以帮助训练器更好地完成响应。然后将新生成的会话数据集与数据集混合，形成对话格式。

发布后在业界引发了震动，随后给各方广泛试用，其中就包括学生。有学生试用来写论文、作业和编写程序，并且老师很难分辨论文、作业和编写的程序是否是由学生自己完成的。此外，还出现了很多署名的待发表论文。

为应对这一问题，全球学校纷纷采取措施，比如禁用该平台。根据的数据，目前已被纽约、西雅图、洛杉矶等地的初高中禁用，法国和印度的大学计算机也禁用了该平台。

检测工具

1月31日， 宣布推出人工智能文本分类器，旨在检测输入内容是否是由这样的人工智能工具生成的。

称其分类器并不完全可靠。在英文文本测试时，分类器正确识别了26%人工智能生成的文本，约9%人类写出的内容错误标记为人工智能生成的。随着输入文本长度的增加，分类器的性能有所提高。与之前其他分类器相比，该分类器的准确率高于其他检测分类器。

分类器试用地址：

称由于结果并不完全可靠，因此不建议将该工具用作决策，而是作为其他检测工具和方法的补充。

试用地址：