提示：本文配音由语音转换软件自动转换，难免出现差错，仅供辅助阅览用。
【编者按】2023年5月9日，受国家机关委托，中国科学院战略咨询研究院举办“智库沙龙”品牌活动，国家发改委经济与国防协调发展研究中心毕志勇主任主持活动并讲话作指示。各领域专家学者20余人，围绕“类工具发展对国家全的影响”展开深入讨论。北京正策信息科技有限公司副总、强军智库主编马飞参加沙龙并发言。现将马飞同志发言摘要转载，抛砖引玉。
类工具对国家安全影响
一是类工具在军事领域应用前景广阔。在舆论战方面，这类工具能够针对任何事产生无限的、近乎免费的“观点”，进而影响网络上的各类活动，网络用户无法知晓在网络上与之交流的是否为真实人类；在认知战方面，类工具可以伪造信息和声音对公众进行误导，一张伪造的图片、一段伪造的视频，都可能引起轩然大波，从而扰乱公众对事物真实情况的认知；在网络战方面，类工具可以帮助黑客更便捷地设计、编写和执行恶意代码、生成钓鱼邮件等等；在情报收集方面，类工具的用户在与其交互过程中不断将包含自身特点的信息“喂养”给程序，令其可以对用户进行持续画像分析；在卫星图像检索方面，研究人员使用生成式人工智能工具和地球图像数据集，可以在短短几个小时内发现全球任何地方的物体。美国人工智能公司辛谢迪科创始人兼CEO雅斯科尔斯基拿今年1月份对中美关系影响巨大的气球事件举例称，如果使用该公司的卫星图像扫描工具（一种类工具），能够在短短几天内将气球的运动轨迹追溯至中国。
二是类工具对我国构成巨大风险挑战。一是“人有我无”造成我国科技断代风险。美国政府2022年8月开始实施贸易限制，我国企业已经无法获取英伟达A100芯片，目前可以获得的是A100的阉割版本A800，但在国内市场也处于严重缺货状态。缺少该类芯片将制约我国类工具的开发及运用，当美西方逐渐成熟运用该类工具，我国未来科技发展可能会在人工智能时代落伍，受到较大负面影响。二是技术成熟后形成对外技术依赖风险。类工具需要不断“喂养”数据进行训练来迭代发展，目前处于领先位置，如果一直缺乏相同量级的竞争对手，则可能形成人工智能的“寡头化”，一家独大后，我国在自动驾驶等人工智能衍生领域对其形成依赖，和芯片问题一样，一旦对方实施封锁，就会对我造成巨大损失。三是技术突破导致军事实力代差风险。俄乌冲突中人工智能已经有相当突出的表现。当人工智能容错率小于十万分之一后，即可以产生几乎不需要人工干预的自动化武器装备，传统战争可以升级为无人战争。目前在无人作战领域，美国国防部高级研究计划局正在实施一系列计划，致力于研究无人机、自主水面无人艇和水下潜航器以及陆基移动无人平台的组群使用，以实现相应的作战目的。一旦类工具取得相应突破，将进一步改变战争形态，敌我军事力量在新的维度下处于不对等状态，给我国家安全带来巨大风险。
三是类工具在我国发展存在制约因素。一是算力不足制约类工具开发。的背后是强大的算力，微软的Azure云服务为构建了超过1万枚英伟达A100 GPU芯片的AI计算集群。国内云计算技术人士公认的观点是，AI大模型的算力门槛是1万枚英伟达A100芯片。一个搭载1万枚A100芯片的智算集群建设成本约30亿元，加上模型训练成本和日常运营成本，生成式AI的投资规模高达百亿元以上，我国的三大互联网公司阿里、腾讯和百度，其年度资本支出也全部在百亿数量级，普通科技公司更难独立投资该类工具；二是中文语言会削弱其功能发挥。一些用户发现，要使用英语聊天才有好的表现，其中文水平明显弱于英文，有时会表现出“一本正经的胡说八道”，这其中一方面有中文训练样本不足的因素，另一方面还因为中文文字与英文相比具有特殊性，给类工具开发带来困难；三是类工具技术伦理限制。当前的研发并未受技术伦理限制，但后续发展将迎来限制。3月29日，包括图灵奖得主约书亚·本吉奥、特斯拉CEO埃隆·马斯克、苹果公司联合创始人史蒂夫·沃兹尼亚克在内的1000多名科技专家共同签署了《暂停大型人工智能研究》的公开信。在我国，国家网信办公布了《生成式人工智能服务管理办法（征求意见稿）》，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗。
四是类工具在我国发展的意见建议。一是不应对类工具的发展“谈虎色变”。类工具超越人类智慧还有一定距离。是利用人类社会已有的海量信息生成内容，而人类可以从有限信息生成无限内容。例如，司马迁在《史记-孔子世家》中记载了“孔子学琴”的故事，孔子从一首琴谱的信息中，先后感知到了弹奏的技巧、曲子的意境，最后能够领悟出琴谱歌颂的人物。人类具备从有限信息中不断生成无限内容的能力，促进智库建设，用人类智慧对抗人工智能短期内具有较高性价比；二是在芯片领域努力打破国外限制。芯片代表算力，IDC报告显示，算力规模与经济发展水平呈现显著的正相关关系，算力规模越大，经济发展水平越高。算力将成为决定GDP发展的最核心因素。在军事领域，算力就是战斗力，没有算力，就很难打赢未来战争；三是加速发展电磁脉冲武器。无论人工智能武器装备发展多么先进，其根本组成部分仍然是电子设备，需要进行电子通信，电磁脉冲武器被称为“隐形食脑者”，可以在瞬间破坏特定区域内的人工智能武器的电子元器件，使人工智能操纵的无人武器系统丧失战斗力，对打赢未来无人战争意义重大。
——【“沃德研究院”只传递清醒正能量！但愿您能喜欢赏欣、支持！】
相关文章
