你有想过你领英（）上的联系人可能是AI合成的虚拟骗子吗？ 日前，《泰晤士报》上的一篇文章引起了圈哥的兴趣。
（图：《泰晤士报》）
不知道小伙伴们是否察觉，当我们浏览社交媒体网站（例如 ），收到一些推广产品或服务的消息时，认真观察发件人的个人头像，其中一些照片有没有透露着一点奇怪？
丢了一只耳环？牙齿偏离中轴线？他们的眼睛在图像的正中间？
（图：《泰晤士报》）
文章作者表示，我们看到的这些面孔可能并不是真人照片，而是一种“深度伪造”而成的图像——是人工智能在社交媒体上伪造生成的数千张人物图片之一。这些照片被用来扮演机器人推销员，取得真实客户的信任。
照片是如何合成的
斯坦福互联网观察站的研究人员，在职业社交网站 上发现了 1000 多个类似的帐户。
这些面孔不属于任何真实的人类，无论是活着的，还是已经死去的人类。
（图：）
这种图像也不是通过真实人物的外貌特征，拼接编造的。它们完全是由人工智能计算机程序创建的。
据介绍，这种程序通过查看数以千计的真实面孔，学会了如何在看起来像照片一样清晰逼真的图像环境中，创建使人信服的面部特征、肤色、头发质地、服装和珠宝。所以他们看起来几乎像一个真人那样生动。
（图： Jin/NPR)
天文台技术研究经理 Renée 曾致力于研究虚假信息计划。当她在社交网站上，收到一个名为 的女销售员的消息时，她注意到正在代表一家通讯公司推销网络通话软件。
通常情况下， 会将这类消息视为垃圾邮件。但当注意到 的个人资料图片后，发现她的商务照图片中只戴了一只耳环，且部分头发似乎消失了。更重要的是，她的眼睛完全定位在图片的正中心。
（图： )
分析，生成对抗网络（GAN）是最可能用于创建 照片的技术。
该技术出现在2014年。在那个时候，该技术通过对真实人物照片的大数据集进行分析训练，在迅速创建逼真人像面孔方面已经做的很好了。
而今天，该技术网站允许任何人免费下载计算机生成的面孔图片。
（图： of ）
为了确认非真实存在，美国国家公共广播电视台（NPR）方面深入了解了她在 个人资料中描述的背景。
据查证，公司没有任何名为 员工的记录。她列举的有关以前雇主之一的 I/O公司也没有相关人士记录。
纽约大学发言人约翰贝克曼也回应了有关的学历信息。他表示，纽约大学没有任何关于 本科学位的记录。
虚拟人并非为诈骗公司服务
最初认为 的信息可能用于网络诈骗。尤其是当她收到，其他自称是公司员工的人发送消息时，他们的个人资料照片看起来也都像是计算机生成的。
（图：）
出于好奇，和斯坦福大学博士后研究员Josh ，开始在上搜索有关等人的个人资料进行研究。
在研究中他们发现，在 上已有超过1,000个AI生成面孔的虚拟帐户。
而令人意外的时，这些账户并不是试图欺骗人们的骗子或网络钓鱼者。相反，它们绝大多数都是为合法公司招揽正规生意而制造的。
（图：）
文章表示，一些合法的销售公司使用虚假图片创建虚假账户，并使人们相信这些个人资料来自于他们公司的真实员工。他们通过个人资料页面中，列出的虚假教育信息和工作经历，增加虚构角色的可信度。
而这一做法可以使销售公司发送大量推销消息，既无需雇用额外的员工，也不会违反所规定的信息数量限制。
如果有人回复了他们其中的一条消息，公司就会让真正的员工与其建立联系。
还表示，一些公司其实很希望将这些基础体力劳动自动化处理，从而节省成本与时间。
（图：）
文章表示，目前来看，尽管这种做法违反了的相关政策，却并不触及法律。相关专家人员在研究取证中也并没有发现诈骗证据。
甚至有人产生质疑，如果这些虚构账户是用于合法公司联络潜在客户，那又有什么害处呢？
博士后表示，一些销售公司将虚假图片作为其服务的一部分进行宣传。他们中的一些人甚至明确表示‘使用人工智能生成的头像。这对于诚信问题是一个危险的信号。
而与研究人员合作的美国国家公共广播电台 ( Radio) 报道称，许多正在销售产品的公司表示，他们不知道人工智能生成的图像正在被使用。
（图：）
圈哥了解到，“”一词通常指代经过修改以诽谤真人的视频。
它们常被用在一些花边绯闻爆料中，好事之人喜欢将部分名人的脸移植到色情镜头中制造新闻。此前就有人担心这种技术会被用来制作政客们的虚假视频，从而对他们进行故意抹黑。
AI生成图像的社交媒体帐户，被用于传播虚假信息和阴谋论的案例屡见不见。但目前，正规企业商业运作中也出现这样的操作却着实令人担忧。
（图：）
虚拟信息已成产业链？
资料显示，平台有相关明确规定，任何不真实的个人资料，包括那些使用非真实用户图片的个人资料，都违反了平台相关规则。
方面还表示，该平台自己的人工智能程序具备发现虚假个人资料的能力。并且，在平台已经删除的虚假账户中，有 97% 是被其自动防御系统发现的。
（图：）
对此事件，的发言人重申，他们的政策明确规定，每个个人资料都必须代表一个真实存在的人。他们正在不断更新技术防御系统，以便更好地识别虚假资料，并将其删除。
另一方面，在斯坦福研究人员确定的虚假个人资料中，有 60 人声称是的员工。但该公司表示，这些人都没有在公司工作过。
表示，他们确实聘请过其他代理公司来接触潜在客户，并与的内部销售人员进行会议。其中一家不方便透露名字的外部供应商创建了虚假配置文件。
（图：)
的首席信息安全官 表示，她不知道有人代表 制作虚构个人资料，并且她非常不赞成这种做法。
在接受NPR记者采访时表示，这不是他们做生意的方式，但这企业来说却是一个很好的提醒。技术变化的速度使人应接不暇，但企业必须警惕什么是不正确的。
发言人 在一份声明中表示，虽然此举在过去可能是行业潜在的一种做法，但今后将被视为不可接受的，此做法违背了企业对客户的承诺。公司内部已采取具体措施，来更新潜在客户的开发方法。
（图：）
根据最新透明度报告，在2021年前上半年删除了超过1500万个虚假账户。报告显示，绝大多数虚假账户是在注册期间检测到的，其余大部分是在成员举报之前由其自动防御系统发现的。
NPR 试图联系了十余家，根据斯坦福研究人员确定的，提供营销服务雇主的公司。
其中一家名为 的公司，在其网站上宣传了一种叫做“”的套餐，套餐内容包括两个机器人或“完全品牌化的头像配置文件”，以及为每月支付1300美元的客户提供无限信息。
但当NPR对其进行询问后，该公司从网站上删除了该项服务和定价和描述。
创始人 Foti在一封电子邮件中告诉 NPR，他过去曾尝试过AI生成照片技术，但现在已经停止了该种操作。
调查中的其他企业并未对此做出明确回应。
（图：）
使用人工智能生成个人资料，来销售商品虽然看似平淡无奇，但这项技术的传播却让数字取证专家感到担忧。
Farid和其他研究人员预估，随着人工智能技术的不断进步，用肉眼检测计算机创建的图像将变得更加困难。而越来越多虚假的音频和视频可能带来更加危险的信号。
比如俄乌战争中，社交媒体上广泛流传的不实视频，造就了错综复杂的政治导向问题，追踪虚假图像背后的原因可能更加令人担忧。
（图：）
教你如何识别AI人脸图像
说了这么多，那么我们如何在日常生活中识别人工智能所编制的图像照片呢？
Renée 表示，当我们在社交软件上，以小尺寸或“缩略图”尺寸查看照片时，它们看起来可能非常真实。但如果我们将其放大，就可能会发现一些明显的缺陷。
• 他们的瞳孔可能不是圆形，看起来更像八字形。
• 他们的眼镜框或镜腿，看起来可能是模糊的，或有部分缺失。
• 他们的头发可能会与背景融为一体，或者在某些地方看似消失一般。
• 他们的衬衫领子可能与他们的脖子或背景融为一体。
• 他们的下牙与上牙，或面部的中心无法对齐。
圈哥在此提醒小伙伴们一定要注意网络信息安全！
相关文章
