眼见未必是真!
一张“人像照片”、一段“人物视频”,都有可能成为不法分子犯罪的新手段和新工具。
2024年国家网络安全宣传周期间,关于AI换脸、换声等对个人隐私侵害的话题再次成为大家关注的焦点。
实际上,就在网安周前一周举行的外滩大会期间,也同样在热议这一话题。
AI换脸是一种在深度学习(Deep Learning)算法的加持下的计算机篡改人脸图像的深度伪造(Deepfake)技术。
随着AI换脸技术的不断迭代,在提高文娱、电商等产业生产效率的同时,也带来了层出不穷的风险。
9月初,韩国出现“深度伪造”技术下的新“N号房”案件,韩国女性陷入“AI换脸恐慌”,甚至在中国社交网络上发帖求助。
同时,新浪科技发现,如今在小红书、闲鱼、B站等平台,利用AI美女视频教程吸引用户,号称“流行赛道,5天破万粉,日入四位数”的教程,成为行业灰产的温床。
近日,有网友在社交平台反映,自己不但被做成了换脸视频,还被放在收费论坛获取非法收入。
而另一方面,依靠“AI美女”的幌子,一些人依靠数千元高价“课程”赚取利润,并且即便最终不能实现所谓的月收入5万也无法退费,一条灰色产业链就此形成。
在另一边,无论是“AI一键换脸”,还是让照片动起来,在一些阴暗的角落,生成式AI技术的崛起,也引发了一系列的行业乱象。
今年6月,在国内,警方也破获了一起利用AI技术“一键去衣”赚取灰色收入的案件。
涉案人白某在境外网站发布广告,只需要一张日常生活照片,就可以完成“一键去衣”效果。
而据此人描述,在被抓获时,他已经在QQ上向351个人贩卖过相关图片,图片数量将近7000张。
此外,2024年中央广播电视总台3·15晚会就曝光了使用“AI换脸”进行诈骗的行为。
据此前媒体调查,60%的受访者表示凭借肉眼辨认不出AI换脸视频。
不过,一些技术人员也表示,只要稍加留心,AI换脸还是有明显破绽的。
“马脚”就在面部轮廓和光线上,可以仔细观察下是否清晰。
有必要的话,还可以要求对方快速大幅度地做点头等动作,从而观察其面部轮廓是否有异常模糊。
此外,近年来殡葬行业选择以元宇宙、AI数字人等方式来进行服务扩展,这种尝试除了吸引大众眼球之外还有什么实际的价值?
这种贩卖AI换脸教程的可能会引发什么问题?
对社会造成什么危害?
“AI复活亲人”的相关服务会变成行业流行的趋势吗?
对此,新浪科技罗宁和书乐进行了一番交流,本猴以为:
这种AI换脸,就是昔日PS换头一样,可以让人随意去生成任何人的“虚构内容”,其行为哪怕出于自娱自乐,也同样侵犯了被换脸对象的个人权益。
此外,这样的换脸术,可能应用的空间很大,包括但不限于恶意捏造、构陷的各种传播,以及通过换脸术实施各种诈骗和绕开人脸识别系统的行为。
是的,因为每个人的照片或视频,并不仅限于个人拥有,且在摄像头林立的大时代,你甚至不知道你的头像被多少陌生人获得,其风险完全不可测。
特别是一些公众人物,甚至未必是人类,都可能成为潜在受害者。
至于AI复活亲人,则是另一个范畴,但同样有风险。
不得不说有需求即市场,AI复活亲人,某种意义上是一种基于黑科技的情感满足和精神慰藉,但这一产业极为垂直和长尾,且属于个性化定制,难以标准化生产,市场规模难以做大。
如果是“复活”亲人,本质上和老照片修复的性质相似,只是加入了更多互动和个性元素,但整体上依然是“缅怀”。
其“复活”的亲人,也不会向《流浪地球2》中演绎的那样进一步学习、成长。
仅仅为了缅怀而复活亲人,本质上没有伦理问题,主要在服饰、形象和互动言语上,把握好度即可,前提是亲人必须是直系,用途也基于缅怀和陪伴。
其最大的隐患在于内容生产方往往缺乏对需求方的资格审核,而让所谓复活亲人不再局限于“复活”,也未必是直系亲人,而导致“作品”被滥用。
例如类似充气娃娃式的虚拟形象、电信诈骗,以及用AI生产真人形象进行各种违法行为等。
无论是在元宇宙还是AI数字人,其“复活”的成都总归和亲人相去甚远,只是怀念。
但更多的也只是带有互动效果的遗像,而且可能还是会走样,并不会成为流行大趋势。
本文来自新知号自媒体,不代表商业新知观点和立场。 若有侵权嫌疑,请联系商业新知平台管理员。 联系方式:system@shangyexinzhi.com