热闻|9.9元一套写真，数千人排队“尝鲜”，生成式AI风险多

(资料图片仅供参考)

上传20张以上照片，再支付9.9元，选择喜欢的模板，生成自己的“数字分身”，效果以假乱真，堪比市场价几十元甚至几百元的艺术照。最近，一款名叫“妙鸭相机”（以下简称“妙鸭”）的小程序在互联网上火爆出圈。

9.9元的平民定价、简单的玩法、惊喜的效果，加之裂变技巧，不到一周时间，妙鸭相机就成为爆款。在使用高峰，一晚上就有 5000 多人排队使用，用户可能要等上几小时甚至十几小时，才能拿到属于自己的作品。有网友直言：“和线下动辄几百上千的拍照体验相比，真是太香了。”

随着社交媒体上越来越多用户分享着这份“9.9元带来的快乐”时，争议问题也随之而来，网友开始担心上传那么多个人照片，安全吗？应用方是否会将用户照片挪作他用？若上传的照片被用于AI模型训练，那用户的一些面部特征是否会出现在其他地方的生成图片？而这些不仅仅是妙鸭相机，也是更多需要上传照片的相机应用所面临的问题。

网友们的担忧并不是完全没有道理，毕竟随着AI模型迭代，训练数据集的扩大、算法的迭代以及算力水平的提升，AI生成内容越来越逼真，内容侵权、信息造假、AI欺诈等风险让人不得不在心里多留几个心眼。

据上海辟谣平台调查发现，妙鸭是生成式人工智能（AIGC）技术的一种应用。生成式AI将改变工作方式、重塑商业模式，越来越多的企业已开始积极探索相关应用，以期提升创新效率、实现高质增长，随着它的走红，如何预防技术风险和信息安全风险，显得愈发重要。

AI相机靠谱吗

生成式AI带来敏感个人信息泄露风险

朝阳区居民阿珊表示，看到大家在朋友圈发妙鸭相机生成的照片，很想尝试。但在体验中发现需要上传20张照片，这一要求直接将其劝退，“向一个APP里传这么多我的照片，感觉很不安全”。

一次性上传20张照片才能生成“数字分身”的前提同样劝退了从事技术工作的孟小姐，“我看了同事的成品，发现最后的结果与上传照片质量很有关系——上传的照片越清晰、越正面，最后产生的作品越真实。但是，我把自己的照片交给这样一个小程序，安全吗？我上传的照片，以及生成的图片，企业会妥善处理吗？”她还做了一个实验：使用妙鸭生成的画像，能成功骗过那些采用图片比对进行人脸识别的应用，“如果有人用我的‘数字分身’从事不法行为，我能免责吗？”

妙鸭小程序的自我介绍