AI want your data？
专家表示，与生成式AI模型分享任何形式的个人数据都可能存在风险。
谷歌的人工智能聊天机器人Bard最近开始要求用户提供准确的地理位置信息，这可能对于许多人来说并不奇怪，因为该科技巨头希望尽可能了解每个人的信息。谷歌的一系列产品，如地图和搜索，也会提示用户提供此类信息。但是隐私专家警告称，其AI聊天机器人的请求代表了大型语言模型数据收集不断蔓延的趋势，这可能导致各种潜在的隐私危害。
“关于位置数据的安全性及其对系统使用者隐私的影响，存在一整套令人担忧的原因”研究人工智能社会影响的研究机构AI Now 的执行董事Sarah Myers West表示。
这包括执法机构可能要求获得该数据，这是一个特别突出的问题，因为人们越来越担心在将堕胎定为违法行为的情况下执法机构如何获取地理位置数据。滥用或泄露地理位置数据也可能导致其他伤害，例如跟踪。
与人工智能模型分享位置数据的顾虑反映了一个快速增长的行业的“荒野”本质，该行业没有多少监管，并且对消费者和立法者来说基本上是不透明的。像Bard这样的消费者技术还不到一年，因此目前尚不清楚它们可能对隐私产生什么后果。
该行业的快速增长使得美国及其他国家监管机构必须解决在当前隐私法规下如何对该技术进行监管的问题。作为该领域的领导者，今年早些时候在意大利陷入麻烦，因为该国数据保护机构指责其违反了欧盟的数据保护规定。最近，美国监管机构警告称，正在“疯狂”地训练其模型以获取更多的数据的AI公司仍然要遵守现有的消费者保护规定，否则将会面临执法。
根据 Bard的隐私政策，使用它收集的数据 – 包括有关位置的信息，“用于提供、改进和开发产品和服务以及机器学习技术，包括的企业产品，例如 Cloud。”“默认情况下，用户在Bard活动将被存储长达18个月，用户可以随时在自己的“我的活动”页面上更改为3个或36个月，”在一份声明中说。谷歌的隐私政策称，它可能会与执法部门等第三方共享数据。
的隐私政策表示，它可能会与执法部门共享地理位置数据，但在的用户政策中是否或在什么情况下收集此数据尚不清楚。没有回应澄清请求。
精准的地理定位数据并不是公司收集的唯一位置信息形式。例如，Bard以及其竞争对手的也收集IP地址数据，该数据揭示了用户的地理位置信息但不包括精确的物理位置。
然而，详细的地理定位数据“显然更加敏感”，因为它可以用来跟踪您的确切移动轨迹，非营利性倡导组织 的高级顾问Ben 解释道。
位置数据被认为是如此敏感，以至于一些国会议员试图禁止向数据经纪人出售位置数据。在推翻罗伊诉韦德（Roe v. Wade）案后，承诺从Maps用户对生殖健康诊所的访问中删除位置数据，尽管最近的报道显示删除并不一致。
专家表示，与生成式AI模型共享任何形式的个人数据都可能存在风险。今年3月，将下线修复了一个漏洞，该漏洞允许用户查看其他用户聊天的提示，并在某些情况下，可以查看订阅者的与支付相关的信息。在许多情况下，用于训练大型语言模型的数据最终会流向何处，或者是否会在未来泄露给其他用户也不清楚。
包括苹果和三星在内的一些主要公司已限制员工使用这些工具，因为它可能导致商业机密泄露。领先的立法者还向AI公司施加压力，要求他们采取具体措施保障敏感用户数据免受滥用和泄漏。
“这项技术相当不成熟，”AI Now 的Myers West说。“而我认为他们自己还没有完全摸清隐私保护功能。”
作为对其中一些问题的回应，今年四月份为用户引入了数据控制功能，包括允许他们关闭聊天记录。 Bard也允许用户查看和删除他们的聊天记录。
专家指出，谷歌对地理定位数据的争夺也涉及到AI产业竞争问题，因为大型科技公司将能够利用不断增长的生成式AI市场进一步扩大对消费者的数据收集，以获得竞争优势。
“我认为有一个趋势是增加数据收集的密度，”温特斯指出，谷歌的举动可能会给其他行业提供升级数据收集的理由。
West表示，用户应该谨慎对待那些除了他们的输入和账户信息以外还收集任何东西的模型，以及那些声称使用数据进行输出或潜在改进模型之外的任何目的的模型。
尽管大型语言模型的监管规定仍处于初级阶段，但一些监管机构已向该行业发出警告，要求其注意。
相关文章
