把照片变“果照”,这不是我们想要的未来科技。
27日,美国科技媒体的一篇报道把一款名叫的应用软件带入了公众的视野。就在短短一天内,这款AI软件引发了巨大的争议。
只需一次点击,这款可怕的应用程序就能把任何女性的照片脱下来
Via
软件使用人工智能制作出虚假图像,即可以基于人们穿着衣服的照片制作出人们的“裸照”。对该软件进行了一系列的测评,并得到了两个细思极恐的结果。
首先,这款软件专用于女性:
The , , uses a photo of a and a new, naked image of that same . It swaps for naked and a vulva, and only works on of women. When tried using an image of a man, it his pants with a vulva.
这款名为的软件,能用一张穿着衣服的人的照片来为这个人制作一张新的裸体图像。它将衣服换成了裸露的胸部和女性下体,并且只在处理女性图像时有用。当试图使用一张男性的照片时,软件用女性下体取代了他的裤子。
Via
▲测评发现当女性穿着泳装且面向镜头时,软件制作出的照片效果更以假乱真 (图via The Verge)
软件开发团队表示,该算法只能用于女性是因为在网上更易找到大量女性裸照。他们还表示希望能开发一个适用于男性的版本。
小编只求……
另一方面,测评发现这个软件容易操作、方便去水印。也就是说,恶意之人可以通过这个软件,拿任何人的生活照做出她们的裸照。
the and it on a . It and like any other and didn't to use.
下载了这个应用程序,并在系统设备上进行了测试。它的安装和启动过程就跟其他应用程序一样,不需要专门的技术知识。
In the free of the app, the are with a large . In a paid , which costs $50, the is , but a stamp that says “FAKE” is in the upper-left . ( out the “fake” stamp or it with would be very easy.)
在该应用的免费版本中,部分输出图像被大块的水印覆盖。而在50美元的付费版本中,水印会被移除,但左上角会有一个写着“假冒”的印戳。(而裁剪掉“假冒”印戳或用去掉它非常容易。)
▲软件操作极其简单 (图via The Sun)
关于为什么创造出这个软件,开发者说出了他的想法:
said he was to by ads for like X-Ray that he saw while from the 1960s and 70s, which he had to his . The logo for , a man , is an to those ads.
说,他在孩提时代曾浏览了上世纪六七十年代的杂志,他在这些杂志中看到了X光眼镜一类小玩意儿的广告,这激发了他创作的灵感。戴着螺旋眼镜的的标识是对这些广告的致敬。
▲1969年的X光眼镜广告 (图via )
“Like , I was by the idea that they could exist and this ,” he said.
“和所有人一样,我对这些小玩意儿真的可能实现的这种想法很着迷,而且对此念念不忘,”他说道。
“About two years ago I the of AI and the . When I found out that GAN were able to a photo into a one, I that it would be to a photo into a nude one. . I that x-ray are ! by fun and for that , I did my first tests, .”
“大约两年前,我发现了人工智能的潜力,并开始学习基础知识。当我发现GAN网络能够将白天的照片转换成夜间的照片时,我意识到将一张穿着衣服(的人)的照片转换成裸照
是有可能(实现)的。然后我发现了!我意识到X光眼镜是可能的!出于对这个发现的兴趣和热情,我做了第一批测试,得到了有趣的结果。”
▲软件截图,右下角的logo像极了1969年X光眼镜广告中的形象 (图via )
开发者实现的这个执念,却是女性在科技时代的噩梦。
因为你不知道这个软件和自己的照片会被他人如何恶意使用:
“This is ,” , and CEO of porn , told . “Now could find a of porn, ever taken a nude photo. This tech not be to the .”
“这简直太可怕了,”针对色情报复的行动组织的创始人兼首席执行官 告诉。“现在任何人都可能发现自己是色情报复的受害者,而不用拍裸照。这项技术不应该向公众开放。”
▲色情报复是一种未经过他人同意,任意散布含有他人色情内容之照片或影片等影像的报复手段。 (图via BBC)
也有法律人士抨击该应用软件:
This is an “ of ,” , of law at the of Carey of Law, who to about the , told .
这是“对性隐私的侵犯,”马里兰大学凯里法学院法学教授 对说。
“Yes, it isn’t your , but… think that they are you naked,” she said. “As a said to me—it felt like saw her naked, she felt her body wasn’t her own .”
“是的,这不是你的下体,但是……其他人认为他们看到的是你的裸体,”她说。“就像一个彻头彻尾的深度伪造(类似的换脸技术软件)受害者对我说的那样,感觉就像成千上万的人看到了她的裸体,她觉得自己的身体不再是自己的了。”
▲许多女星的照片通过软件被做成裸照,可以看到右上角的“FAKE”印戳很容易被去除
(图via )
就在媒体对软件进行报道后,因为大量网友的涌入,该软件服务器一度崩溃。
而就在28日,舆论发酵了一天后,的开发者通过推特承认“人们滥用这个应用程序的可能性太大了”,称“这个世界还没有准备好迎接“,并把软件下架了。
并不意外,许多人在推特下表示这样的软件本就不该存在:
冷漠鼓掌欢送你.gif
“世界还没有准备好”?我认为你想说的是“我们编写了一个极具冒犯性、令人毛骨悚然的应用程序,简直是在变相邀请人们毁谤和侵犯他人的隐私,我们很抱歉”。
但可怕的是,还有大批的评论表示他们想要使用这个软件,更有甚者在兜售下载好的或是破解版的:
只要给我发个信息。我将发送给你链接和高级破解版,每份5美元:)。
所以,emmm,有谁下载了能给我甩个链接的不?
这下好了,现在人们在网上非法兜售这个软件了。
(截图via )
据BBC报道,美国加利福尼亚州正在考虑通过一项法案,该法案将色情类“”(即一类技术制作的恶意产物)定为非法。
你如何看待这类科技?
文:
资料/图片:, ,BBC,,网络