2016年，微软公司的人工智能聊天机器人Tay上线不到一天，就成了“反犹主义者”，于是被微软公司紧急下线 。
也曾推出过一个“”滤镜，能够让用户“变成”黄种人，也因涉及到种族歧视而遭到抗议和抵制 。
由于人工智能是通过机器学习，利用大量数据让计算机自己学习，从而形成算法 。因此，前期数据集的偏差、价值观，以及人类行为都会体现在最后的算法上 。
比如，如果研究者给出的简历数据集，以男性工资更高、职位更好时，那么相应的算法也会出现类似特征 。
2014年，亚马逊公司曾研推出过一款AI招聘引擎——算法筛选系统，试图通过此系统来帮助亚马逊在招聘的时候筛选简历 。
研发小组开发出了500个模型，与此同时也教算法识别了50000个曾在简历中出现的术语；以此让算法去学习在不同能力分配的权重 。
听起来高大上、但是久而久之，开发团队发现算法竟对男性应聘者有着明显的“喜好”，而且当算法识别出“女性”（women and women’s）等相关词汇时，便会以“偏见”的看法给女性简历相对较低的分数 。
例如，女子足球俱乐部等，算法甚至会直接给来自于两所女校的学生降级 。随着“偏见问题”愈演愈烈，这种情况现已经引起学术界和业界的特别关注 。
前不久，麻省理工学院的计算机科学和人工智能实验室为此研发了一种新的基于深度学习的人工智能预测模型，可提前5年为人类预测乳腺癌的病变 。
团队为了能确保白人女性和黑人女性的预测结果同等准确，他们采用了更加多样化的数据来进行训练 。在这件事情上，研发团队就特别有意识地运用了“更公平”的数据 。
不过，要真正消除人工智能算法中的“偏见”，单凭“更公平”的数据来填补是远远不够的，我们真正需要消除的是：根深蒂固在“人类头脑中的偏见” 。
“俄罗斯软件，美国佬别用”
尽管存在算法偏见或者隐私问题，凭借独特的功能还是吸引了一大波粉丝 。
自2017年“种族歧视”事件后，就积累了超过8000万活跃用户之后，现在已经是121个国家iOS App Store中排名第一的应用程序 。它的粉丝也已涵盖了体育界、音乐界以及政界 。
近日，美国民主党的全国委员会（ ，DNC）就发出预警，警告他们不要使用换脸应用 。参议院少数党领袖Chuck 也已经正式要求FBI和FTC对该应用展开国家安全调查 。
那么，美国政府担心的隐私问题是否真的会存在呢？那要探究下“云端”（即服务器）到底在不在俄罗斯了 。
事实上，这些服务器主要是在美国，而不是俄罗斯 。据福布斯报道称，“.io的服务器位于美国的亚马逊数据中心” 。
当然，还有一些服务器也由谷歌托管在其他国家，包括爱尔兰和新加坡 。此外，还使用了第三方代码 。
当然，鉴于的开发商公司位于圣彼得堡，因此这些面孔将会在俄罗斯进行查看和处理 。与此同时，这些亚马逊数据中心的数据也将反映到俄罗斯的计算机 。
【免费的ai换脸app推荐 变脸软件有哪些】对于“隐私”问题，俄罗斯是否真的有泄漏？不管我们是否相信，这一隐私问题已经引发了参议院少数党领袖、纽约州民主党参议员Chuck 的关注，又一次被推上了舆论风口 。
323AI导航网发布
相关文章
