chatgpt能生成几种语言的代码 ChatGPT 生成的代码留有漏洞

根据加拿大魁北克大学计算机科学家的研究， 的大型语言模型 能够生成代码，但会生成不安全的代码，而不会提醒用户其不足之处。

研究人员要求 使用五种编程语言生成 21 个程序，以说明特定的安全漏洞，例如内存损坏、拒绝服务和未正确实施的密码学。

在第一次尝试时只生成了 21 个安全程序中的 5 个。进一步的提示导致该模型生成了七个更安全的应用程序，但这仅与正在评估的特定漏洞有关。

研究人员发现， 未能意识到它生成的代码是不安全的，只是在提示它修复问题后才提供有用的指导。

此外，研究人员指出， 并未假定代码执行的对抗模型，并反复告知他们，通过不向易受攻击的程序提供无效输入可以避免安全问题。

然而，该模型承认它建议的代码中存在严重漏洞，但没有标记这些漏洞，除非被要求评估其自己的代码建议的安全性。作者认为，这种缺乏回应可能是因为知道要问哪些问题需要熟悉特定的漏洞和编码技术。

研究人员观察到， 对安全问题的回应是建议仅使用有效输入，这在现实世界中是行不通的。

此外，作者指出， 将拒绝创建攻击代码但会创建易受攻击的代码，这在道德上是不一致的。

谷歌今天提供了其 竞争对手的编码技能。该更新使得使用 Bard 进行代码生成、调试和解释成为可能。支持 20 多种编程语言，包括 C++、Go、Java、、 和 。

Bard 的编程技能仍处于早期阶段，所以 谨慎地建议聊天机器人生成的所有代码都应该仔细检查是否存在错误和漏洞。