大皖新闻讯 如果有人说,AI即人工智能技术可以让逝去的亲人“复活“并与你互动,你会怎么想?大皖新闻记者观察到,社交平台小程序、电商平台均有提供类似的服务,有商家表示价格从10元到几百元不等,若达到95%的相似度,价格在2万-8万。面对与感动同时而来的争议讨论,律师分析认为,此类服务背后存在信息安全等隐患,依法依规进行监管须提上日程。
现象:用AI换脸“复活”亲人
近日,辽宁的孙先生在社交平台发布一条视频,视频中,他介绍用AI换脸“复活”了已病逝的父亲,以父亲的口吻,向九旬的奶奶报平安。视频发布后,感动了很多人。
而此前的报道中,知名音乐人包小柏表示,经过反复尝试、训练后,他如愿复刻出“数字女儿”,不仅可以及时回应对话,还为妻子唱了一首生日歌,“AI让我明确地知道,能把思念的模式换一种工具来表达。”据公开报道,2021年12月20日,包小柏在个人社交媒体宣布了爱女离世的噩耗。
“就服务的客户而言,AI换脸‘复活’最大的意义是对后人的治愈。”一位不愿具名的从业人士向记者介绍,客户或带着遗憾,或是源于思念等情感的需求提出想法。
其表示,就大家关心的制作流程,一般需要有逝者生前的视频和音频资料,根据目前的AI技术,可模拟出和真人高度相似的“数字人物形象“,来创造更真实的体验,实现一种跨越生死的互动, “制作需要一周左右。”
观察:有商家报价2万-8万不等
记者以“AI换脸”为关键词搜索,在某社交平台有多个提供服务的小程序。在电商平台也有不少商家提供用AI技术“复活”已故亲人的服务,价格从10元到几百元不等。有商家称可提供定制,若达到95%的相似度,价格在2万-8万不等。
“看你的需求,只是照片动起来50元,时长是13秒。”一平台商家表示,让照片开口讲话则按时长收费,一秒10元。其介绍,如果要定制,需提供一张正面照,一段音频,“如果没有,你提供文字内容生成配音。”
对还原的相似度,其未正面回应。记者注意到,有网民购买后评论称“这家真实,看到了奶奶真好。”另一商家客服人员表示,需提供照片,还原效果可眨眼微笑,由客户提供音频,声音相似度为80%。
“AI数字人亲人复活技术,一比一还原。”一商家介绍,简单的制作还原几十块到百十块钱,如果是AI换脸,想要一比一复刻出逝去亲人的,最少万起,不管是声音还是外貌相似几乎一样,95%以上相似度,价格在2万-8万不等。
一家智能科技有限公司在其官方微信发布的信息显示,已助力数千家庭AI重聚,1:1克隆还原本人的外貌、声音、性格,为用户呈现拥有个人情感、真实外形的数字化智能体。
声音:温暖互动也担心被滥用
对用AI换脸“复活”亲人的现象,有网民表示,“这才是AI的正确打开方式!”“这是AI技术的新型运用,科技就应该用在温暖的地方。
但有不少网民表示担忧,“将这种技术变成一门生意,会不会引发一些道德和伦理问题?”有网民直接发问“会不会被滥用,制造虚假信息误导大家,甚至用于诈骗?”
记者注意到,在电商平台提供此类服务的商家不少都标明了不做人脸识别,只做去世怀念。在沟通中,商家客服也多次强调,没有办法克隆或者模拟声音,人脸识别请绕道。
警惕:有人利用AI造谣被处罚
随着科技的不断发展, 近年来,AI人工智能技术的应用已十分普遍,但相关的争议也一直不断,有不法分子动起了歪脑筋,AI换脸诈骗、利用AI造谣等案例也出现在公众视野。
3月11日下午,安徽警方发布打击整治网络谣言和网络暴力专项行动典型案例。其中一起案例中,网民杨某在某平台发布战斗机飞行视频并宣称要打仗了。经核实,杨某为博取关注,在某平台发布使用AI技术制作战斗机飞行视频,并配发“即将打仗”的谣言信息。目前,六安警方已依法对杨某予以行政处罚。
据央视3月份报道,在香港警方披露的一起多人“AI换脸”诈骗案中,一家跨国公司香港分部的职员受邀参加总部首席财务官发起的“多人视频会议”。经查,所谓的视频会议中只有受害人一个人是“真人”,其他“参会人员”都是经过“AI换脸”后的诈骗人员,涉案金额高达2亿港元。
北京市朝阳区人民法院法官提示,利用AI技术实施诈骗的套路,主要有定向诈骗、声音合成诈骗和换脸诈骗。
那么,如何判断对面是真人还是“AI”人,中国科技大学网络空间安全学院执行院长俞能海此前提醒,可以让对方摁鼻子、摁脸,通过观察其面部变化来判断对方身份的真实性。
分析:服务背后存在信息安全等隐患
北京天驰君泰(合肥)律师事务所张慧律师分析认为,这种服务背后存在不少安全隐患,一方面是信息安全,其表示,要创造逝者的AI虚拟数字人形象,首先需要获取到逝者本人的肖像、声音、姓名、聊天文本等各种敏感信息与数据,这些个人信息都关涉个体的核心隐私权利和自主性,很容易在创设虚拟数字人的过程中产生隐私暴露风险,侵犯逝者的人格尊严。
同时,应考虑到数据安全,“平台收集消费者隐私数据后保护措施是否充分,是否会对消费者提供的数据进行存储和使用,其数据库可能存在数据被黑客攻击或非法获取的风险。”其认为,这些技术可能被不法分子盗取滥用,甚至用于网络犯罪,造成社会公益、个人合法权利的损害。
另一方面,使用AI虚拟数据技术“复活”已故亲人,可能引发道德和伦理上的争议,“如对死者的尊重、对生者情感的影响等,这种服务可能会给逝者亲人留下的情感和记忆带来混淆和困惑。 ”
建议:依法依规进行监管须提上日程
面对门槛越来越低、技术愈发成熟的AI虚拟数据人技术,北京天驰君泰(合肥)律师事务所江启航律师也表示,对其依法依规进行监管须提上日程。
“虽然这类使用AI虚拟数据技术‘复活’已故亲人的服务在一定程度上满足了人们的情感需求,但在实际应用中需要关注其合法性、伦理性及安全隐患,并采取相应的措施来保障用户的权益和安全,应当认识到该项新服务的局限性和潜在的社会风险,不能放任其滥用。”
其认为,此类服务应当重点关注逝者的人格权保护,确保不侵害逝者及其家属的合法权益。“相关部门应对这类服务及市场主体进行监管,制定相关法规和准则,明确使用者提供个人信息的权限和限制,确保其合规合法经营。”同时,其认为该类服务的供应商应提供合理清晰的用户协议,电商平台和服务提供者应采取有效措施保护用户数据安全,防止信息泄露和滥用,确保数据合法合规使用。
“作为用户,在选择使用这种服务时,应理性对待,权衡利弊,避免沉溺于虚拟的亲人之中,影响正常的生活和社交。”
大皖新闻记者 赵琳
编辑 张思平