近期，生成式AI又点燃了人工智能的火炬，科技圈也刮起了一股名叫“”的风。是由公司开发的一个人工智能聊天机器人程序，于2022年11月推出。使用基于GPT-3.5架构的大型语言模型，能够通过学习和理解人类的语言来进行对话互动交流，甚至能完成撰写邮件、文案、翻译、代码等任务。数据显示，截至2023年一月末，的月活用户已突破1亿，这距离它推出才不过2个月的时间。也成为史上增长最快的消费者应用，这是AI第一次如此大规模的传播。（2月7日 澎湃新闻）
“伪装”人类的技能已经达到炉火纯青的地步。它能够做算法题写代码，也能够教人们如何高情商聊天，甚至能充当搜索引擎的替代者。虽然与机器人聊天并非新鲜事，但能够在实时互动的过程中获得问题的答案，一次性体验“搜索引擎+社交软件”的双重功能，这的确是具有创造性的发明。然而用户猎奇体验的背后，问题也逐渐暴露出来。
最凸显的问题在于“一本正经地胡说八道”。看似严谨和充满逻辑的回答却漏洞百出，成为“废话文学”的天堂。对此，有用户称“喜欢自信地说出错误答案，还有模有样的，极具误导性”。因而，只能作为猎奇和寻求放松的聊天工具，而不能成为寻求正确答案的“智多星”。
传播虚假信息、煽动极化情绪也是作为机器人难以避免的弊端。在工程师的诱导下，可以写出毁灭人类的计划书，步骤详细到入侵各国计算机系统、控制武器、破坏通讯、交通系统等。虽然目前的技术还不能实施破坏，但由于它的互动性特征，可以增加负面或煽动性内容的曝光量。不少网友表示“人类最应该担心的是它会不会创造出邪教来”。用户倘若轻信虚假内容而产生群体极化行为，将会给整个社会带来难以控制的影响。
一方面为生产工具与用户体验带来新的可能，另一方面也被恶意使用成为操纵思维与舆论的工具。在百万人参与“调戏”的背后，仍有许多问题需要审慎思考。人类不是为了让自己消失而创造工具，而是为了让自己更强大而创造工具。以为代表的算法技术只是人类的“左臂右膀”，让人类节省机械重复工作的时间，转而把精力投入到更高层的组织决策之中。在这个过程中，人类自身的思维和能力也在不断学习和进步。
在算法技术尚未成熟，相关应用规范和政策法律尚未完善时，用户是自己的“第一责任人”，要重点培养自身的算法素养，辩证认识的存在，警惕思维诱导和技术依赖。可以被认为是现有搜索引擎的颠覆者，却无法成为人类的替代者。
相关文章
