前沿 资讯 要闻 书画 人物 插画 展览 油画雕塑

好用但不能越位 警惕AI写真小程序越过隐私红线

2023-08-19 10:07:29      来源:红网


(资料图片仅供参考)

今年被认为是“AIGC元年”,众多AI应用相继问世。从年初的ChatGPT,到如今的妙鸭相机,AI逐渐“飞入寻常百姓家”。最近,一款名为“妙鸭相机”的小程序火爆朋友圈,人们纷纷分享自己的AI写真。这些写真七八分“像”,两三分“美”,精准地拿捏住了赛博世界里的用户心态,得到了广泛的自发传播。

妙鸭相机是一款聚焦人像写真的AIGC产品。使用者足不出户,只需点开微信小程序或者APP,动动手指,上传一张清晰的正面照以及至少20张多光线、多视角、多表情的上半身照片,花费9.9元,即“一杯奶茶的钱”,等待数个小时,即可获得一套AI写真,媲美专业写真机构出品的精修写真,如果不满意还可更换其他模板,或者多生成几次挑选满意的写真,省去了定档期、化妆、造型、拍摄、选图、修图、交片等步骤所耗费的大量时间精力。

妙鸭相机的开发团队给妙鸭背后的AI模型起名为“提香”(Tiziano),希望未来可以像肖像画艺术巨匠提香·韦切利奥一样,给每一个人带来美好和艺术,这种设想正逐步变为现实。妙鸭相机的火爆,原因在于其最大的两个特性,即“方便”和“便宜”。操作便利、收费不贵,在专业化的生成式AI的技术支持下,又有懒人式的操作方式,加之商业化的营销宣传,契合消费者痛点。人们将生成出的“数字分身”发布到网络上,吸引了大批用户的参与和互动,妙鸭相机得以快速出圈,在社交媒体上发酵,形成病毒式传播。

但在火爆的同时,妙鸭相机这样的AI写真生成小程序带来隐忧。此前,妙鸭相机就因不支持退款涉嫌侵害消费者的公平交易权而被上海市消保委点名、也因涉嫌泄露隐私风险而被央视调查批评。

隐私风险是几乎所有AIGC生成软件无法避免的问题。妙鸭相机在最初版本的用户服务协议称:“您特此授权我方在全世界(包括元宇宙等虚拟空间)范围内享有永久的、不可撤销的、可转让的、可转授权的、免费的和非独家的许可,使得我方可以任何形式、任何媒体或技术(无论现在已知或以后开发)使用您的内容”。尽管妙鸭相机现已对此做出了撤回修改,但隐私问题仍是消费者心头挥之不去的忧虑。面部信息对于消费者来说本身比较敏感,而基于大数据模型生成出的人像过于逼真,被不法分子利用会极具欺骗性。AI写真生成小程序需要收集用户上传的照片,从中提取面部信息并进行处理。开发者应当严格遵守相关法律和规定,明确告知用户数据处理的目的和方式,确保用户的照片和信息不被滥用或泄露。

与此同时,相关法律法规积极完善。8月15日,国家网信办等部委联合发布的《生成式人工智能服务管理暂行办法》正式生效施行。《办法》通过明确规定用户隐私保护、投诉举报机制、虚构承诺的禁止行为以及处罚措施,能够引导AI写真生成小程序行业向着更加规范和可靠的方向发展,为用户提供更安全可靠的服务,推动构建生成式人工智能的安全围栏。因此,对于AI写真生成小程序的推广和宣传,要坚持合法合规的原则。如果将用户的照片运用于商业或其他未经授权的领域,这涉及到知识产权和肖像权的问题。开发者必须遵守相关法律,尊重用户的权益和意愿,避免侵犯他人的利益。

AI写真生成式小程序的兴起为用户带来了独特的体验,然而在使用这类应用时,消费者需要保持警惕和理性。在使用该类小程序之前,消费者应该了解应用会收集和使用的个人数据,包括照片和面部信息。隐私保护意识的提升、选择正规平台、审慎授权、了解数据用途、保留原始照片、警惕虚假宣传以及维护权益等都是消费者应该关注的重点。遵循合理的授权原则,确保在使用AI写真生成式小程序时的隐私安全和合法权益得到有效保障。

在AI写真生成式小程序如火如荼的发展背后,研发团队不能践踏隐私红线,消费者应保持理性、警惕和知情。随着《生成式人工智能服务管理暂行办法》的正式施行,更加规范和有序的发展环境正在构建。AI写真生成式小程序能够在保护消费者权益的道路上不断前行,为消费者带来源源不断的美丽与趣味。(余崔琬)

相关阅读

最近更新

网友评论

今日推荐
精选图文
48小时频道点击排行