继 AI 拍照写真软件 ” 妙鸭相机 ” 一夜爆红后，一个基于 AI 技术克隆声音的网站 .AI 又火了一把。这款声称可免费克隆声音的网站，不但可以克隆声音，还可以利用克隆的声音输出音乐和流利口播。虽然有不少年轻人玩起来了，但更多的网友表达了担忧，担心这会给诈骗分子提供便利。
免费克隆你的声音，并输出音乐和流利口播
只需花费 9.9 元，上传二十几张照片，就能获取一套人工智能生成的写真集。日前，” 妙鸭相机 ” 成为我国生成式人工智能领域的一个爆款应用。刷屏的同时，妙鸭也刷出了用户隐私保护、消费者权益保护等 ” 暗雷 “。
人们对于 ” 妙鸭相机 ” 的大讨论尚未结束，一个基于 AI 技术克隆声音的网站 .AI 又乘着 AI 的东风小火了一把。这个克隆声音的网站有多 ” 神奇 “？可以在这里克隆你的声音后生成歌曲、口播语音。此外，让它得到广大网友 ” 安利 ” 的原因还在于，目前这个网站是可以免费使用的。
8 月 3 日，现代快报记者登录该网站，进入后显示有 25 个声音样本等待采集，依次点击声音样本，朗读样本中的提示语句，将 25 个样本全部采集完成，就可以进行声音克隆。在声音克隆完成后，网友还可以前往各个模块，生成歌曲和口播语音。方法也很简单，选择自己想唱的歌曲，进入后点击 ” 同步我的声音 “，即可将原歌曲一键变为由你演唱的作品。
免费玩家每月可享受 2000 个 TTS（文字转语音），每个 TTS 要在 500 个字符以内。如果是人民币玩家，则可以享受到更广范围的服务。例如每月 10 元的标准玩家，每月可以享受 50000 个 TTS，每个 TTS 可扩大至 1000 个字符。每月 30 元的流行玩家，则每月享受 个 TTS，每个 TTS 可扩大至 1500 个字符。
” 三无 ” 网站让网友质疑：自己的声音是否被随意采集使用
这个克隆声音的网站吸引了很多网友 ” 尝鲜 ” 使用，但在使用过程中，一些细心的网友注意到，这个克隆声音的网站，是个名副其实的 ” 三无 ” 网站。这个网站无备案号、无网络经营执照、无审核管理方，甚至网站上连运营方的名称和联系方式都没有。网友们纷纷质疑，一个 ” 三无 ” 网站如何保证声音采集后的安全性？自己的声音会不会被不法分子用作诈骗？
今年 5 月，一个名为 “AI 孙燕姿 ” 的虚拟歌手在视频平台上火啦。这个虚拟歌手用孙燕姿的声音翻唱了周杰伦、赵雷、郭顶等多名歌手的经典歌曲，让网友们惊叹不已。随着 AI 模拟人声技术被广泛使用，在这个过程中，AI 技术也被有心之人利用，甚至做出违法的事。
今年 6 月，江苏警方接到一工厂员工报警称，其同事可能遭遇诈骗。民警赶到现场时，被骗女子情绪激动，不愿配合调查。民警一直坚持耐心劝导，终于在女子与骗子通话近 3 个小时后将其拦下。挂断骗子来电后，女子的哥哥就打来电话询问是否要向其借钱。民警立刻识破这是一种利用 AI 技术进行诈骗的新方式，骗子通过 AI 合成声音，甚至影像，向受害人亲友借钱。同时在通话过程中，骗子还盗取了女子的身份进行网贷。最终，民警联系网贷平台中断放款，成功为女子挽回 5 万元损失。
律师建议：应尽快出台详细法律法规，对 AI 拟声进行监管
人工智能作为近几年兴起的领域，竞争激烈，不少企业前赴后继，想要在这个领域抢占先机，分一杯羹，这也导致行业中鱼龙混杂，存在着对用户隐私和消费者权益的潜在隐患。江苏漫修律师事务所律师衡晓春建议，国家应尽快出台详细的法律法规，对其进行约束和规范。
” 目前 AI 拟声在法律层面，尚未出台明确的规定。” 衡晓春表示，2023 年 5 月 23 日，国家互联网信息办公室 2023 年第 12 次室务会会议审议通过《生成式人工智能服务管理暂行办法》（以下简称 ” 办法 “），办法中提到生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。值得注意的是，办法中还明确，对于生成式人工智能产品，提供者应当对生成的图片、视频等内容进行标识。
” 但是对 AI 拟声该如何保护，办法中却没有明确提及。” 衡晓春解释，办法只是笼统的规定，当发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合本办法要求时，应当采取措施，停止生成，防止危害持续。衡晓春建议，” 在未来，还需要对不同主体进行更加明晰的责任认定，最好细化到对于用户声音的采集和 AI 拟声内容生成、发布的每一个阶段。”
现代快报 + 记者 季雨
（校对 胡涛）
相关文章
