上传20张以上照片,再支付9.9元,选择喜欢的模板,就能生成自己的“数字分身”,效果以假乱真,堪比市场价几十元甚至几百元的艺术照。最近,一款名叫“妙鸭相机”(以下简称“妙鸭”)的小程序在互联网上流传开来。在使用高峰,用户可能要等上几小时甚至十几小时,才能拿到属于自己的作品。
可妙鸭的走红,也伴随着争议:有网友质疑信息安全——上传那么多个人照片,安全吗?也有媒体和消保组织质疑妙鸭的用户条款,因为其中出现了生成的“数字分身”所有权归企业、充值后不退款等内容。虽然妙鸭及时进行了修改,可仍有网友提出,企业的个人信息保护承诺真能兑现吗?
(相关资料图)
上海辟谣平台调查发现,妙鸭是生成式人工智能(AIGC)技术的一种应用,随着它的走红,如何预防技术风险和信息安全风险,显得愈发重要。
“数字分身”会反扑“真身”吗?
妙鸭到底妙不妙,消费者有分歧。
“我觉得很不错,虽然是风格模板,但更像我,如果不告诉他人,还以为我新拍了艺术照。”在某热门证件照拍摄机构消费过数次的陈女士觉得,妙鸭的成像效果已经超过了部分机构,“那些机构也是模板拍摄,背景、妆容都是统一的,单次价格至少几十元,只有几张照片,而且并不完全让人满意。”她举例,自己是圆脸,却被机构的修图师流水线作业修成了尖脸;她脖子较长,不适合V字领服装,但在某些风格照中,只能选择V字领。
不过,一次性上传20张照片才能生成“数字分身”的前提劝退了从事技术工作的孟小姐,“我看了同事的成品,发现最后的结果与上传照片质量很有关系——上传的照片越清晰、越正面,最后产生的作品越真实。但是,我把自己的照片交给这样一个小程序,安全吗?我上传的照片,以及生成的图片,企业会妥善处理吗?”她还做了一个实验:使用妙鸭生成的画像,能成功骗过那些采用图片比对进行人脸识别的应用,“如果有人用我的‘数字分身’从事不法行为,我能免责吗?”
妙鸭小程序的自我介绍(截屏)
记者调查发现,妙鸭的原理是基于AIGC技术,通过捕捉用户上传照片包括面部特征等关键信息点,与小程序的风格模板融合,生成不同风格的“数字分身”。但目前妙鸭并没有推出虚拟空间等应用场景,所以产生的“数字分身”只是图片形式,更像是数字画像。
这不算什么创造性的新应用。当下仍有不少网友使用的美图秀秀“AI头像”、此前红过的“小咖秀”“脸萌”“足迹”等产品,都与之类似。只不过基于AIGC技术,妙鸭生成的数字画像在真人相似度、细节精细度、画面质量上可能比此前的产品略胜一筹,所以引发关注。
但随着被用户、媒体、消保组织发现妙鸭的用户条款和隐私政策存在问题后,更多人关注到新应用的数据安全和信息安全话题。虽然妙鸭已经更新了用户条款和隐私政策,但消费者仍有担忧:企业承诺不泄漏用户隐私,真能做到吗?
“针对妙鸭数据安全的关注并非只针对一家企业,而是体现了数据时代的监管新挑战。”某一线执法人员指出,根据相关法规,企业在收集用户信息前都应告信息使用范围和存储情况,这些内容须体现在“用户条款”或“隐私政策”中,得到用户确认。但以上内容是企业的单方面承诺,就消费者而言,缺乏监督工具,“比如,企业说销毁了使用过的用户信息,怎样证明?再比如,现有的摄影机构也会留存用户的数字照片,难道就不存在风险了吗?”
该人士认为,解决这些问题的关键有两点,一是督促企业依法落实隐私政策,保护个人信息;二是加大技术监管力度,用技术力量保护消费者。
“支持包括妙鸭相机在内的创新型企业在消费新模式和新场景的探索与开拓;也希望未序网络科技公司能在今后的经营活动中,不断改进和完善产品功能,提升用户服务质量。”上海市消保委的观点很能代表业内人士对妙鸭等新生事物的态度:欢迎妙鸭等AIGC时代的新产物,但在提供产品和服务时,应当将消费者权益放在第一位,并提供有说服力的举措。
“李逵”还不完善,“李鬼”蠢蠢欲动
值得一提的是,在预防新应用的风险方面,消费者还要当心“蹭热点”中的风险。
以妙鸭相机为例,市场热议的产品由未序网络科技公司运营,目前仅通过微信小程序提供服务。但在苹果手机的App Store以及安卓应用市场中,以“妙鸭”“妙鸭相机”为关键词搜索后,显示出很多与妙鸭及其开发企业完全无关的应用软件,其中部分产品的名称与logo与妙鸭很是相似。也就是说,刚刚亮相的妙鸭已经遭遇了“李鬼”。
查看这类应用软件,大部分也主打AI绘画、AI头像生成,开发者既有企业也有个人,很难依靠短短的软件介绍来判断其可信度。记者试用这些软件发现,同样得上传大量照片。
在苹果应用软件市场搜索“妙鸭相机”,出现很多与妙鸭名称或logo类似的软件,可它们都与妙鸭无关
那么,这些应用软件的安全性有保障吗?不依靠技术手段和监管力量,无法确认。
可见,AI时代的新产品、新服务伴随着新风险。消费者在尝鲜时,一定要注意保护个人信息:
首先,要必要查看应用软件的开发者、用户评价、慎选那些来历不明或用户评价不高的产品。
其次,认真阅读产品的用户条款、隐私条款等,拒绝那些明显存在“霸王条款”的产品,避免将个人信息、隐私拱手送出。
最后,务必通过正规的应用软件市场下载软件。
从记者实测看,眼下正规应用软件市场尚存在应用软件良莠不齐的情况,更不要提那些非正规下载渠道提供软件的安全风险了。在以往披露的网络诈骗案件中,有不少诈骗软件就来自非正规渠道。公众如果被诈骗分子的误导,或者被所谓的“特别效果”“免费服务”等诱导,绕开正规应用软件市场下载,那么个人隐私遭泄露的风险更大,而且不能排除不法分子直接通过非法软件窃取个人信息。
(文章来源:上海网络辟谣)
标签:
精彩推荐
上传20张以上照片,再支付9 9元,选择喜欢的模板,就能生成自己的“数
专访丨黄招根:修好“高速公路”“要想把产品卖好,最重要的是把高速公
自1998年以来,中国的房价经历了长达二十多年的猛烈上涨。然而从2017年
新华社日本福冈7月27日电(记者李嘉、周欣、岳晨星)福冈游泳世锦赛27
在厨卫行业,“九牧”品牌已经为广大消费者所熟知,然而市场上部分家用
1、春蚕到死丝方尽,蜡炬成灰泪始干。2、——李商隐《无题·相见时难别
杨蕙菁这次获得参加支线赛事的参赛资格,说明主教练马琳认可了她对陈梦
7月27日,针对“金辉集团调整薪酬体系,工资同销售回款率挂钩”一事,
hello大家好,我是城乡经济网小晟来为大家解答以上问题,韩红年轻时是
2023年临桂区生源地信用助学贷款受理公告一、贷款办理时间贷款受理开始
平报融媒记者杨元琪7月12日,市退役军人事务局传来消息,即日起,全市
HELLO,我是智能手机网小溪,我来为大家解答以上问题。色心的种类,色
50亿入股大众中国董事长谈与小鹏汽车合作:交流了几个月超开心
1、美国对中国的监督法案2、中方:反对美法案夹带涉华消极内容3、以上
回天新材7月27日在投资者互动平台表示,广州回天通信电子新材料扩建项
“杜苏芮”路径拐了个直角?网友看到这“似魔鬼的步伐”,纷纷猜测它会
7月21日,第14届清洁能源部长级会议(CEM14)在印度果阿召开,会议通过了
快科技7月25日消息,7月初,大众汽车在华合资公司上汽大众对ID 3车型来
高能同步辐射光源配套工程完工- "记者昨天从施工方获悉,高能同步辐射
自23083期体彩大乐透贵州开出5注追加一等奖之后,彩民就一直期待大奖得
资讯News
10-09
08-15
07-07
11-03
11-03
11-03
11-03
11-03
11-03
11-03
11-03
11-03
11-03
聚焦Policy
当好农民工的“护薪人” 近日,罗某等7名农民工在收到被拖欠的工资后,纷纷打电话向江西省南昌市...
“通讯录里所有人都知道我欠钱了” □ 本报记者 韩丹东 □ 本报见习记者 张守坤 ...
大连宝马车撞人案肇事司机被判死刑 本报讯 记者韩宇 10月29日,辽宁省大连市中级人民法院一审...
医院财务迷上网络赌博输光5000万元公款 □ 本报记者 马维博 □ 本报通讯员 汪宇堂 曹...
辊环车削 雕琢毫厘(工匠绝活) 【绝活看点】 23年来,雷虎始终扎根一线,改进钢材轧制工艺...
交警严查超标电动自行车挪用“白牌” 截至昨晚6时,处罚电动自行车违法行为共计6585笔;下一步将...
明起寒潮来袭 北方气温普降10℃以上 中央气象台预计,本周日北京平原地区最低气温降至-4℃左右...
多种蔬菜价格降幅达五成 包括菠菜、蒿子秆等 预计本月中旬蔬菜恢复供需平衡 本报讯(记者...
北京周日最低气温或达-4℃ 本报讯(记者 赵婷婷)北京青年报记者昨天从中央气象台获悉,新一股...
昌平一家四口确诊新冠肺炎 天通北苑第二社区升级为中风险地区 朝阳两涉疫校区及16所学校停课 ...