“我朋友说，三号线有个美女，搞露出”
近日，一张美女“露出”的照片在微信群广泛传播。但经过网友深挖和对比发现，图片是从一位博主那里盗过来的，造谣生事者对其进行了AI恶意合成，变成了所谓“广州地铁三号线裸女”。
该话题直冲微博热搜，除却对造谣者的愤怒与批评外，也有很多网友表达了对于AI技术的担忧，将“AI犯罪”再次抬到了世人眼前。
01
AI犯罪频发 技术手段高明
随着AI技术的不断发展，利用AI技术进行犯罪已成频发事件。
早在2017年，浙江绍兴就破获了全国首例利用AI技术窃取公民个人信息的案件，截获了10亿余组公民个人信息。该犯罪组织利用AI批量测试同一个账号密码在不同平台登录，从而不断获取更多更加详细的个人信息。
其中，在输入验证码环节中，犯罪分子就利用通过训练的AI破译验证码，据警方公布，这次抓捕的团伙所使用和训练的 AI，已经能够识别出 98% 以上的验证码。
此类AI是通过训练识别图片信息来进行破译，这也是为什么曾经图片数字验证码，逐渐被滑动，或者点拼图的验证模式所取代的原因。
更为常用的AI犯罪手段，则是利用AI来进行电信诈骗。
去年4月20日，据央视报道，一个涉及全国多地的诈骗团伙利用AI机器人拨打电话 万个，获取有效客户电话 多万条，为境外诈骗团伙大量引流，他们的这种手段被称为“引流打粉”。
而根据外媒公布的报告，数以千计的受害者声称他们被冒充亲人的顶替者所骗。这类冒名顶替诈骗已成为美国第二大热门的欺诈类型，2022年提交的案件超过36000起。美国联邦贸易委员会官员进一步表示，在这36000起案件中，超过5000名受害者通过电话被骗走钱财，损失总额达1100万美元。
而利用AI换脸技术制作色情视频、图片来进行牟利、造谣的犯罪更是重中之重。
2020年，哈利·波特中赫敏扮演者艾玛的30秒换脸色情视频，在各个平台已经超过了上千万次的播放量。（更离谱的是，这个视频居然还是推广AI换脸技术的APP制作商投放的。）
2021年，王某因为被不法分子利用AI换脸技术合成不雅视频而被敲诈了11万元。
就在本月初，苏州大学一名大学生多次通过恶意P图、特效合成的手段在色情网站上传播多位女性同学的色情内容。
还有刘昊然、杨幂、迪丽热巴等等，只要你能想象到的明星，在一些色情网站上几乎应有尽有，甚至还有一条龙的收费定制化服务。
随着、、 这些划时代AI工具的诞生，利用AI技术进行犯罪的手段也开始变得越来越多，越来越高明。
同样就在这个月，警方还通报了一起“苏州金鸡湖女仆party诈骗”案件。某店家宣称三千元一位，就能享受女仆贴身服务的诱人活动，但使用的女仆宣传照片竟全是AI所绘制的图片。
还有在AI绘画制作过程中对于各类网红、素人、明星肖像权、名誉权被侵犯的问题。
以上种种还算“低级别”的AI犯罪。对于一些黑客来说，的问世，简直可谓是“久旱逢甘霖”。
知名安保公司在“黑客滥用”的报告中，披露了几个黑客利用创造勒索软件攻击代码的具体案例：
比如基于的窃取器代码，这是一种允许在系统中搜索12种常见文件类型，然后压缩上传到硬编码FTP服务器的代码；又如生成一个加密密钥，然后允许对特定目录所有文件进行加密，且使用RSA 密钥、PEM 格式存储证书、MAC签名和哈希函数实现加密操作的脚本……
更不必谈有着GPT4等大模型加持下的犯罪升级了，以前，“卖茶女”的背后虽是“抠脚大汉”，但好歹是一个真人，未来可能连“人”都不是了。
随着AI技术的迅猛发展，这些犯罪行为成本陡然降低，犯罪手段开始多种多样，犯罪手段愈发高超，但执法成本也是陡然增高。
02
技术无罪？但人会犯罪
这些事件的接连出现对于AI从业者，尤其是对于企业、平台方来说，这可谓是当头一棒，也几乎是种必然。
美国前联邦检察官 指出，如果或类似的聊天机器人协助某人实施网络犯罪，那么创造出的公司可能要承担责任。
人工智能发展所面临的法律与道德问题正在日益凸显。平台方只能通过强调“技术无罪”“加强审查”来避免此类问题的发生，进而成为“背锅侠”。
（画师集体反对AI）
（学术期刊反对使用）
这让笔者联想到了曾经轰动一时的“快播案”。
快播曾经是无数宅男的”圣地”，依靠极快的下载速度、海量的资源、免费在线观看等功能，在那个智能手机才刚刚普及的年代，用户量迅速破亿，说它是那个年代的“抖音”毫不为过。
但同样，快播的盛行也带来了淫秽视频的传播、诈骗广告频出、正版影音著作权被肆意侵犯等问题。直到2014年8月，拥有三亿用户量，放任快播野蛮生长下的王欣被抓。
2016年，随着“快播案”的一审开庭，庭审语录瞬间刷屏全网，而其中有一句话最为“经典”：不能因为有人用菜刀杀人了，就说菜刀公司有罪。王欣与辩护人在庭审中企图用“技术中立”“技术无罪”的保护伞进行辩护。
但快播依旧被判有罪。这个案件最大的问题在于，王欣及辩护人所表达的“菜刀杀了人，卖菜刀是否判刑”是明显的偷换概念，而快播案的本质是，如果卖菜刀的店主明知买菜刀的人要买这把菜刀去杀人，依然还卖给他，那店主必然犯罪。
03
如何预防AI犯罪？
当年的快播，仅仅是基于不算先进的P2P技术就实现了肆意成长，造成了如此大的社会影响。而当、、 这些划时代的AI工具诞生，如果不加以制衡，任其野蛮生长，那么利用此类工具进行犯罪必然会更加猖獗。
我们是否有一些手段能够避免事情进一步的恶化？
用“AI”对抗“AI”
面对AI绘画中侵权的问题，芝加哥大学计算机科学学院的SAND Lab开发出一款名为Glaze的工具，Glaze通过“误导”AI的方式，使AI难以真正成功地学习创作者作品中的风格，而风格是艺术工作者的名片，此举旨在限制利用AI进行艺术抄袭的行为。
面对AI语音诈骗问题，在全球顶级信息安全峰会 2021上，腾讯朱雀实验室分享了该团队在应对VoIP电信诈骗方面的最新研究成果。他们提出使用AI技术提取真实语音和虚假语音的特征，再根据特征差异来分辨真实语音和生成语音。
面对AI文本作弊问题，斯坦福大学研究团队在近日提出了一种名为的方法，他们发现，由大型语言模型生成的文本通常在模型的对数概率函数的负曲率区域徘徊。通过这个发现，该团队开发了一种新的指标，用于判断文本是否是机器生成的，并且不需要训练人工智能或收集大型数据集来比较文本。
近日，一些学校已经开始采用“AI检测”系统，一些利用GPT进行论文写作的学生，被发现学校系统查重识别出来了“AI高风险”。
平台方自身努力
Adobe在近期发布的最新生成式AI工具中强调，给模型训练使用的全部图片都是没有版权问题的图片。
而也表示会开发新的水印工具，可以区分生成的文本和“AI制造”的文本。之父Sam 在各个公开场合都表示过自己对于“AI安全”的担心，并花费巨量财力人力投入到“使AI更加安全”之上。
而像等一系列AI工具也都加了审查系统，以防止人们利用此类工具进行犯罪。（当然，漏洞也很多）
笔者也咨询了一下GPT的想法，它是如此回答的：
04
后记
2020年底，《赛博朋克2077》这款游戏问世，笔者第一时间进行了购买游玩，被如此逼真的“赛博朋克”概念所震撼。
在游戏里，随着科学技术爆发式的发展，社会的秩序逐渐崩坏，人工智能、巨型企业、黑客、人类之间开始有着各式各样的矛盾，各种科技野蛮发展，人们贫富差距不断扩大，每个人的身体上充斥着植入式的机械义体…
近几年来，随着元宇宙、AIGC、AGI等概念逐步从未来走向台前，一方面，笔者会感慨科技进步之快，另一方面，也会有着对于“赛博朋克”的隐隐担忧。
然而当我将视角拉向宏观，蒸汽机、电力、计算机…的问世，哪一个不是惊天动地，哪一个的归途不是让人类过得更好？
同样，在各式各样的科幻电影与游戏之中，我们总是能遇到那些远超想象的敌人，但在形形色色的敌人与怪物的背后，最后只会是“人”去操控。与AI的对抗，实际上到目前为止，还是与“人”之间的交锋。
拒绝技术是愚昧的，崇拜技术是盲目的，我们应当理性看待技术，积极拥抱技术，正确使用技术。
归根结底，随着科学技术的发展，生产力的解放与社会的进步对于全人类来说，终究是一大幸事。
相关文章
