据路透社报道，当地时间3月31日，意大利个人数据保护局宣布，即日起暂时禁止使用聊天机器人，已就聊天机器人涉嫌违反数据收集规则展开调查，并暂时限制处理意大利用户数据。
该机构称，尽管根据发布的条款，针对的是13岁以上的用户，但并没有年龄核实系统来验证用户年龄。
个人数据保护局说，3月20日平台出现了用户对话数据和付款服务支付信息丢失情况。此外平台没有就收集处理用户信息进行告知，缺乏大量收集和存储个人信息的法律依据。
美联社消息称，开发聊天机器人的美国公司当天深夜表示，应政府要求，已为意大利用户禁用了。该公司表示，相信自己的做法符合欧洲隐私法，并希望很快再次推出。
意大利成首个禁止的西方国家
意大利个人数据保护局称：“没有任何法律依据表明，为了‘训练’平台运营背后的算法而大规模收集和存储个人数据是正当的。”
瑞典乌莫大学人工智能研究员兼副教授约翰娜·比约克伦（ Bjö）对路透社表示：“缺乏透明度是真正的问题。”。“如果你做人工智能研究，你应该对自己的研究方式非常透明。”
此前3月20日，公司宣布开源库中出现错误，致部分用户与的聊天记录被泄露。
该公司表示：“我们的调查发现，1.2%的 Plus用户可能向另一位用户泄露了个人数据。”。“我们认为，实际向他人透露数据的用户数量极低，我们已经联系了那些可能受到影响的用户。”
当地时间2023年3月31日，意大利皮埃蒙特大区曼塔，人工智能网站主页的计算机屏幕，展示了机器人。意大利隐私监管机构表示，已经屏蔽了有争议的，称这款人工智能应用程序不尊重用户数据，也无法验证用户的年龄。图/视觉中国
意大利个人数据保护局也质疑用于训练平台算法的“大规模收集和处理个人数据”是否有法律依据。他还表示，有时会生成并存储有关个人的虚假信息。他指出，没有系统来验证用户的年龄，这使儿童面临“与他们的年龄和意识完全不相称”的反应。
公司回应称，他们“在训练等人工智能系统时减少了个人数据，因为我们希望我们的人工智能了解世界，而不是个人。”
该公司表示：“我们也认为监管人工智能是必要的，因此我们期待着与意大利个人数据保护局密切合作，并教育他们如何构建和使用我们的系统。”。
尽管世界各地的一些公立学校和大学因担心学生抄袭而将从其本地网络中屏蔽，但意大利的行动是“西方国家首次在全国范围内限制主流人工智能平台，”监测全球互联网接入的倡导组织“网络块”（）的负责人阿尔普·托克（Alp Toker）对美联社说。
引发个人数据隐私安全担忧，致歉
3月23日，的首席执行官Sam 发布致歉推文，表示已经修复了错误并完成验证，他表示“我们对此感到很难过”。
据悉，公司必须在20天内通过其在欧洲的代表，向意大利个人数据保护局通报公司执行保护局要求而采取的措施，否则将被处以最高2000万欧元或公司全球年营业额4%的罚款。
意大利监管机构此举正值人们对人工智能热潮的担忧加剧之际。
自去年11月发布以来，掀起了一股科技热潮，包括微软、谷歌和Meta在内的几乎所有科技巨头都参与到了该领域。企业纷纷将或类似技术集成到自己的应用程序和产品中。
根据瑞银上月发布的一份研究报告，今年1月，也就是发布两个月后，其月活跃用户就已经达到了1亿，成为史上增长最快的应用程序。微软的新必应搜索引擎也由技术提供支持，自1月份发布以来的两周内，169个国家的100多万人使用了该搜索引擎。
人工智能网站主页的手机屏幕页面。图/视觉中国
值得一提的是，欧盟执法机构欧洲刑警组织本周警告称，可能被滥用于网络钓鱼、虚假信息和网络犯罪，这引发了从法律到道德问题等一系列担忧。
本周三（3月29日），埃隆·马斯克（Elon Musk）和现代人工智能方法的创始人之一约舒亚·本吉奥（ ）等人以社会面临重大风险为由，呼吁暂停开发比新推出的GPT-4更强大的系统六个月，以便公众有时间权衡风险。
一些行业专家和业内人士对《金融时报》表示，这一呼吁是虚伪的，这只是让人工智能“落后者追赶”公司的一种方式，而此时大型科技公司正在积极竞争发布和谷歌的Bard等人工智能产品。
意大利个人数据保护局表示，根据其内部分析，“并不总是提供准确的信息”，这导致了个人信息的滥用。
意大利个人数据保护局主席帕斯夸尔·斯坦齐奥内（ ）3月31日晚间告诉意大利国家电视台，他是签署上诉的人之一。斯坦齐奥内表示，他这样做是因为“尚不清楚人工智能开发人员最终追求的目标是什么”。
斯坦齐奥内说，如果人工智能“影响”一个人的“决定权”，那么“这是非常危险的”。他还形容13岁以下用户没有过滤器“相当严重”。
另一边，公司首席执行官Sam 在本周宣布，他将于5月开始一次六大洲之旅，与用户和开发人员讨论该技术。这包括计划在布鲁塞尔与欧盟立法者谈判全面的新规则，以限制高风险的人工智能工具，以及访问马德里、慕尼黑、伦敦和巴黎等。
相关文章
