“你站在天才的肩膀上，以尽可能快的速度完成某件事，在你知道自己拥有什么之前，你就为它申请了专利，将其包装并放在塑料午餐盒上，现在你正在出售它。你想卖掉它。”
这句话是由伊恩·马尔科姆博士（ 《侏罗纪公园》中身穿皮衣的数学家）提供给我们的，但它可以轻松地描述最近人工智能*驱动工具的爆炸式增长，而不是迅猛龙的复活。
事实上，目前人工智能的处境可能比侏罗纪公园还要危险。在那部电影中，使恐龙起死回生的误导性科学至少局限于一个岛屿并由一家公司控制。在我们当前的现实中，恐龙是松散的，任何想要玩的人都可以玩**。
自 公开发布以来的六个月（截至撰写本文时），人工智能驱动的浏览器扩展急剧增加。其中有数百个 – 在 网上应用店中搜索“AI”，在到达列表末尾之前您就会厌倦滚动。
这些浏览器扩展程序的功能多种多样：有些会总结网页和电子邮件，有些会帮助撰写文章或产品描述，还有一些则承诺将纯文本转换为能代码。
这些人工智能浏览器扩展带来的安全风险也很广泛：有些是简单的恶意软件，只是等待窃取你的数据，有些是复制粘贴隐私政策的不可靠操作，还有一些是受人尊敬和认可的人工智能实验品牌。
我们认为，没有任何人工智能驱动的浏览器扩展程序不存在安全风险，但目前，大多数公司甚至没有制定政策来评估不同扩展程序带来的风险类型和级别。在缺乏明确指导的情况下，世界各地的人们都在安装这些小助手并向其提供敏感数据。
人工智能浏览器扩展的风险在任何情况下都令人担忧，但在这里我们将重点关注工人如何使用人工智能以及公司如何管理这种使用。我们将介绍三大类安全风险，以及评估价值和限制各种扩展的使用的最佳实践。
*是的，大型语言模型（LLM）实际上并不是人工智能，因为它们实际上并不智能，但我们将在这里使用通用术语。
**我们并不是真正将法学硕士与恐龙进行比较，因为围绕人工智能的世界末日语言在很大程度上分散了人们对现实世界数据安全和就业市场风险的注意力，但你明白了。
恶意软件冒充 AI 浏览器扩展
AI 浏览器扩展最直接的安全风险是其中一些只是恶意软件。
3 月 8 日， 报告称，一个名为“快速访问聊天 GPT”的 扩展程序正在劫持用户的 帐户，并窃取“存储在浏览器上的所有（强调他们的） 的列表，包括安全和会话令牌……”更糟糕的是，尽管该扩展程序仅在 商店发布一周，但每天有超过 2000 名用户下载。
作为对这份报告的回应，谷歌删除了这个特定的扩展，但更多的扩展不断出现，因为主要的技术平台似乎缺乏有效监管这个领域的意愿或能力。正如瓜迪奥指出的那样，这一延期应该给谷歌和 双方敲响警钟，但他们什么也没做。
这种对犯罪分子的自由放任态度可能会让大型科技公司的用户感到震惊，他们认为 商店上提供并在 上做广告的产品已经通过了某种质量控制。引用瓜迪奥的文章，这是“我们过去盲目给予那些负责我们大部分在线业务和活动的公司和大牌的信任受到了麻烦的打击”的一部分。
特别令人不安的是，基于 AI 的恶意扩展（包括我们刚刚提到的扩展）可以像合法产品一样运行，因为将它们连接到 的 API 并不困难。在其他形式的恶意软件中——比如毒害谷歌搜索结果的开源诈骗——一旦他们下载的工具不起作用，人们很快就会意识到自己被骗了。但在这种情况下，用户不会收到任何警告信号，因此恶意软件可以作为舒适的寄生虫存在于他们的浏览器（也可能在其他地方）中。
合法的人工智能浏览器扩展存在哪些安全风险？
即使是最顽固的人工智能传播者也会同意恶意浏览器扩展是不好的，我们应该尽一切努力阻止人们下载它们。
当我们谈论合法人工智能浏览器扩展固有的安全风险时，事情就会变得棘手（并且不可避免地引起争议*）。
以下是一些潜在的安全问题：
您与生成式人工智能工具共享的敏感数据可以合并到其训练数据中并由其他用户查看。对于如何实现这一点的简化版本，假设你是一位高管，希望为你的战略报告添加一点活力，因此使用人工智能驱动的浏览器扩展来增强写作。第二天，你最大竞争对手的一位高管询问人工智能，它认为你公司的战略是什么，它提供了令人惊讶的详细且富有启发性的答案！
对此类泄密的担忧促使包括 、亚马逊和苹果在内的一些公司禁止或严格限制生成式人工智能的使用。正如The Verge关于苹果禁令的文章所解释的那样：“鉴于 在改进代码和集思广益等任务方面的实用性，苹果可能有理由担心其员工会将机密项目的信息输入到系统中。”
扩展程序或人工智能公司本身可能会发生数据泄露。公平地说，这是与合作的任何供应商都会面临的安全风险，但值得一提的是，因为该行业的主要参与者之一已经发生过这种情况。今年 3 月， 宣布他们最近遇到了一个错误，“该错误允许某些用户查看其他活跃用户的聊天记录中的标题”，并且“某些用户可以查看其他活跃用户的名字和姓氏、电子邮件地址、付款地址”，如下所示：以及一些其他付款信息。
浏览器扩展程序受到破坏的程度取决于它们保留了多少用户数据，而在这个问题上，许多“受人尊敬的”扩展程序都模糊得令人沮丧。
整个版权+抄袭+法律混乱。当 首次亮相时，我们写了整篇文章，但值得重复的是，法学硕士经常生成与独特的人类来源明显相似的图片、文本和代码。截至目前，这是否构成版权侵权仍是一个悬而未决的法律问题，但这是一个很大的赌注。这甚至还没有涉及到输出本身的质量——LLM 生成的代码是出了名的错误，并且经常复制众所周知的安全缺陷。
这些问题非常严重，以至于 6 月 5 日，Stack 的志愿者版主发起罢工，抗议该平台允许人工智能生成内容的决定。在一封公开信中，主持人写道，人工智能将导致“错误信息（“幻觉”）和不受约束的剽窃的扩散。”
人工智能开发人员正在真诚地努力减轻所有这些风险，但不幸的是，在这个新领域，区分好人与坏人是一项挑战。
即使像萤火虫（转录会议和视频）这样广泛使用的扩展程序也有相当于“买家小心”的服务条款。除此之外，他们要求用户负责确保其内容不违反任何规则，并承诺仅采取“合理的手段来保护此类数据的隐私和安全”。这种语言是否表明缺乏责任感，或者只是法律术语的样板？不幸的是，你必须自己决定。
*写关于人工智能的伟大之处在于，当你提出自己的担忧时，每个人都非常冷静，一点也不奇怪。
AI“无法解决”的威胁：即时注入攻击
最后，让我们来谈谈一个可能是其中最可怕的新兴威胁：通过链接的人工智能工具窃取数据的网站。
这方面的第一个证据于 5 月 19 日出现在 上。
如果这个解释让你摸不着头脑，威利森用“披萨术语”来解释它。
鉴于 LLM 的固有性质，这些即时注入攻击被认为是无法解决的。简而言之：法学硕士需要能够根据从输入中发现的内容自动做出下一步决策。但如果这些输入是邪恶的，那么法学硕士可能会被欺骗做任何事情，即使是被明确告知不应该做的事情。
现在评估这种威胁对数据治理和安全的全面影响还为时过早，但目前看来，无论单个法学硕士、扩展或插件如何负责或安全，这种威胁都会存在。
这里的风险非常严重，唯一真正安全的选择是：永远不要将网络连接的人工智能链接到关键服务或数据源。人工智能可以被诱导泄露任何你允许它访问的东西，并且这个问题没有已知的解决方案。在此之前，我们需要避开。
定义哪些数据和应用程序是“关键”并与员工沟通这些策略应该是您的第一个人工智能项目。
应该为员工制定哪些人工智能政策？
人工智能革命在一夜之间发生，我们仍在适应这个美丽的新世界。每天，我们都会更多地了解这项技术的应用：好的、坏的和令人畏惧的地方。每个行业的公司都面临着巨大的压力，需要分享他们如何将人工智能融入到他们的业务中，如果你今天没有答案也没关系。
然而，如果你负责制定公司的人工智能政策，那么你就不能再等待就员工如何使用这些工具制定明确的指导方针。
可以采取多种途径来管理员工人工智能的使用。可以走苹果的路线，完全禁止它，但全面禁止对于许多希望鼓励员工尝试人工智能的公司来说太极端了。尽管如此，在实行良好安全性的同时拥抱创新仍然是一件很棘手的事情。对于浏览器扩展来说尤其如此，它们本质上是面向外的，并且通常默认打开。因此，如果打算允许使用它们，这里有一些最佳实践：
教育：就像刚从蛋里孵出来的小恐龙一样，人工智能扩展看起来很可爱，但需要非常小心地对待。一如既往，这要从教育开始。大多数员工并没有意识到这些工具带来的安全风险，因此他们不知道要谨慎对待下载哪些工具以及共享哪些类型的数据。对员工进行有关这些风险的教育，并教他们如何评估恶意产品与合法产品。
列入许可名单：即使接受过教育，期望每个员工在下载之前深入了解扩展程序的隐私政策也是不合理的。考虑到这一点，最安全的选择是根据具体情况将扩展程序列入白名单。正如我们在博客中所写的那样，应该尝试寻找危险工具的更安全替代品，因为彻底禁止可能会伤害员工并迫使他们使用 IT。在这种情况下，请寻找明确承诺不会将数据输入其模型的产品。
可见性和零信任访问：如果不知道员工正在使用哪些扩展，无法采取任何措施来保护公司免受基于人工智能的扩展的安全风险。为了了解这一点，IT 团队需要能够查询整个公司的机群以检测扩展。从那里，下一步是自动阻止具有危险扩展的设备访问公司资源。
这就是我们在 所做的，当时我们为 编写了一个 Check ，该检查可以检测设备上是否存在该设备，并阻止该设备进行身份验证，直到 被删除。我们还允许管理员编写自定义检查以根据需要阻止各个扩展。但同样，简单的阻止不应该是您策略的最后一步。相反，它应该开启对话，讨论为什么员工认为他们需要这些工具，以及公司如何为他们提供更安全的替代方案。
这些对话可能会很尴尬，尤其是当检测并阻止用户已经安装的扩展时。我们的首席执行官 杰森·梅勒 (Jason ) 为Dark 撰写了有关消除恶意扩展的文化困难的文章：“对于许多团队来说，帮助最终用户的好处不值得冒推倒已经摇摇欲坠的苹果车的风险。”但不愿与最终用户交谈为恶意软件创造了滋生地：“由于与最终用户建立牢固信任关系的安全团队太少，恶意软件作者可以利用这种沉默，变得根深蒂固，并造成一些真正的损害。
相关文章
