7月26日，小程序“妙鸭相机”正式上线刚满十天，便遭到上海市消保委点名。上海市消保委在文章中称，妙鸭相机在付款页面以灰色小字标注的“一旦购买成功，不支持退款”涉嫌侵害消费者的公平交易权。此外，妙鸭相机还曾因为眼镜、耳饰等配件无法识别等问题引发用户讨论。
潇湘晨报记者在妙鸭相机小程序发现，这款软件通过AI学习消费者上传的照片来构建人脸模型，然后把人脸模型套用其他模型合成照片。页面有灰色小字提示：“制作AI数字分身需要花费昂贵的算力，我们需要收取一点费用保障服务的稳定性。”目前，使用妙鸭相机生成写真照片的价格是9.9元20张。
7月26日17时，妙鸭相机官方就争议进行回复：“妙鸭相机提供的是基于算力的服务，因此照片生成后即视为服务完成。如果因为技术问题，造成数字分身生成失败，可以退款而且免费再次生成。AI算法具有一定不确定性，眼镜等配件有可能出现无法识别的情况。为此会优化算法，尽快解决问题。”
对不支持退款的问题，妙鸭相机则表示，由于下载照片涉及虚拟币充值，虚拟币和现金目前只能单向流转，充值协议已进行明确约定，因此目前不支持退款。
7月27日，上海市消保委公众号再次发布与妙鸭相机运营方未序网络科技（上海）有限公司（以下简称“未序网络科技公司”）的沟通结果。称未序网络科技公司第一时间就与上海市消保委进行了沟通反馈。
针对上海市消保委提出的问题，未序网络科技公司表示，目前妙鸭相机在微信公众号端已设有客服入口，但由于团队处于创业初期，客服人员配置不足给用户造成了不便。对此，公司表示深感歉意，并承诺将尽快增加客服人员，同时增加小程序端客服入口，以畅通与用户的沟通渠道，高效处理用户反馈问题。
对于用户反映的“一旦购买成功，不支持退费”问题，未序网络科技公司表示将优化退费说明，增加合理的提示，对没有成功提供生成服务的情况予以退费，以保护消费者权益。
对“妙鸭相机”及背后公司的反馈速度，评论区不少网友持有肯定态度。并称：“新赛道的产品第一次面试，肯定不是十全十美，总的来说功能还是很好用的。”
但也有些人不是那么愿意将自己照片上传用于生成AI，一则关于是否愿意上传照片生成虚拟形象的调查中，选择“不愿意，保护隐私最重要”的网友暂时占据多数。
曾有安全研究员表示，类似于AI换脸软件从用户处获得的信息主要是肖像图片，从技术角度而言，它并不比其他上传照片的App有更多风险，但若该类软件向用户索取了更多的肖像使用授权，这意味着用户会暴露更多的风险。
对于类似问题，妙鸭相机在7月20日曾向用户表示：“在这里郑重地向大家承诺，您所上传的照片只会用于数字分身制作，不会提取也不会用于识别和其他用途，且分身制作完成后自动删除。”
尽管如此，依然有人觉得AI算法自诞生以来一直面临很多争议、AI算法也有不确定性，对于上传个人照片才能获取照片，有的人则“觉得没必要”。
潇湘晨报记者了解到，2023年7月，七部门联合公布的《生成式人工智能服务管理暂行办法》将于2023年8月15日起施行。该《办法》既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要，其中明确生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动，使用具有合法来源的数据和基础模型；涉及知识产权的，不得侵害他人依法享有的知识产权；涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形。
潇湘晨报记者邓力菲综合报道
相关文章
