您现在的位置：主页 >  行业要闻>正文

【环球快播报】“AI换脸”被滥用,有商家提供一条龙服务 世界观点

2023-06-08 13:48:05     来源 : 中工网-工人日报

上传照片,15秒内生成“换脸”视频;提供一段人脸视频,3到5天训练出一套高清定制模型——

(资料图片)

“AI换脸”被滥用,有商家提供一条龙服务

阅读提示

“AI换脸”技术被滥用的新闻近日登上热搜。除了被应用于电信诈骗,“AI换脸”还常被用于影视剧二次创作、趣味恶搞小视频,甚至淫秽色情影像的合成中,而在网络上有商家提供各类“换脸服务”。律师指出,从娱乐“玩梗”到违法犯罪,藏在“面具”背后的用户若对该技术不当使用,会承担多项法律责任。

近日,“AI诈骗”“AI造谣”等话题频频登上微博热搜,再次引发公众对于“AI换脸”等合成技术的关注。早在2019年,一款名为“ZAO”的AI换脸软件就曾火爆一时,只需上传一张人脸图片,它就可将影视作品中的明星脸替换成自己的脸,这着实让很多用户过了一把瘾。然而,这款软件很快就因为隐私、版权风险等问题引发争议,最终被下架处理。

如今,随着AI技术的迅速发展,“AI换脸”正进入越来越多的生活场景中。《工人日报》记者在网络上搜索发现,AI换脸软件的获取非常容易,有商家提供各类“换脸服务”。律师表示,若对该技术使用不当,可能会涉嫌行政违法、民事侵权甚至刑事犯罪。

“朋友”视频借钱骗走430万元

朋友打来视频电话借钱,你还会怀疑对方身份的真实性吗?

据媒体报道,今年4月,福州市郭先生的好友突然通过视频电话联系他,想通过郭先生公司账户走账430万元。由于通过视频聊天已“确认”了朋友身份,郭先生便放心转账。事后,郭先生通过和好友沟通才得知自己被骗,原来对方竟通过AI换脸和拟声技术,佯装好友对其实施了诈骗。

事实上,除了被应用于电信诈骗外,“AI换脸”还常被用于影视剧二次创作、趣味恶搞小视频,甚至淫秽色情影像的合成生产中。比如,多名演员就遭遇过“AI换脸”,被人制作私人视频并对外传播。某网红博主也曾发文称,有人盗用她的“脸”制作了色情视频。

AI换脸容易操作吗?在某手机应用商城,《工人日报》记者以“换脸”作为关键词搜索到多款“AI换脸”的App,在其他网络平台上,用户也能搜索到部分“AI换脸”的小程序。

记者下载了某款App使用,其中有多款“换脸”模板可以选择,包括型男、古风视频、美女视频等。如果想“解锁”更多模版,则需要额外付费。以记者试用的这款App为例,其月会员29元、季会员59元,终身会员98元。根据提示,用户充值后只需一键上传照片,便可在15秒内生成对应模版的“换脸”视频。

网上各类“换脸服务”涌出

记者通过调查发现,除了直接提供“AI换脸”服务,还有不少卖家会提供“换脸”技术教程。

记者在网上联系到一名卖家,他向记者展示了一段利用AI换脸软件实现主播换脸的样本视频。视频中主播的人脸已被替换成一位金发碧眼的外国女性,而且表情自然,几乎看不出破绽。

“只需要提供一段人脸视频,3到5天就可以训练出一套高清定制模型,以后直播可以随便用。如果需要明星换脸的素材,我们这里都有,在软件使用上我们包教包会。”这名卖家说,这样一套模型收费3500元。

卖家还提醒记者,如果要进行直播换脸,最好配备上配置较高的电脑系统,“这样我们完全可以做到防遮挡,观众基本分不出来真假,‘换脸’会更加灵动。”他说。而当记者询问能否直接帮忙做“换脸”视频时,对方则显得很谨慎,“现在查得严,用途不当的不做,其他的时长半小时内收费1500元。”

“正是由于相关技术门槛的降低,才使得如今‘AI换脸’技术被滥用。”对于如今涌出的各类“换脸”服务,北方工业大学信息学院副教授张远说。

张远分析认为,“一方面,随着AI技术代码的开源,很多人可以直接拿到成熟模型的源代码,有编程基础的人在此基础上稍加修改,便可以制作成一款AI换脸软件。另一方面,由于GPU算力的进步,软件实时换脸能力相较于之前也大幅提升,这就令AI换脸更容易实施。”

治理技术滥用应引入多方力量

“这种换脸视频是否涉嫌侵权?”在换脸相关短视频的评论区里,有不少人提出这样的疑问。

对此,北京市京都律师事务所律师张雁峰指出,从娱乐“玩梗”到违法犯罪,藏在“面具”背后的用户若对该技术不当使用,会涉嫌行政违法、民事侵权甚至刑事犯罪,面临多项法律风险。

“从行政违法的角度来说,虽然现行法律没有明确‘AI换脸’必然会受到行政处罚,但如果使用场景涉及到寻衅滋事、捏造诽谤、不正当竞争等,则可能因此而受到警告、罚款、拘留等行政处罚;从民事侵权的角度来说,未经他人允许便擅自使用AI换脸技术可能侵犯如肖像权、隐私权、名誉权和知识产权等一系列权利。”张雁峰说。

对此,互联网分析师张孝容则认为,伴随着AI大模型的发展,声音合成、人脸交换越发逼真,AI换脸技术的不当应用,不仅涉及法律问题,还可能造成新型社会危害。

“因此,AI作品制作需要强制实施主动识别原则,令软件生成的所有作品加上AI水印。”张孝荣说,“另外,传播平台也需提供相应的说明字样。”

事实上,2023年1月10日起施行的《互联网信息服务深度合成管理规定》已提出,服务者若提供智能对话、合成人声、仿声、人脸生成、替换等深度合成服务时,应当进行显著标识,避免公众混淆或者误认。4月11日国家网信办发布的《生成式人工智能服务管理办法(征求意见稿)》,也对生成式人工智能产业做出了包括定义、提供者的合规义务在内等多方面的详尽规定。

“治理AI换脸技术滥用现象,除了法律途径,还需引入多方力量。”在张远看来,“企业和高校可以合作开展更多‘反AI换脸’的技术研发工作,就像计算机病毒需要引入杀毒软件来查杀一样,我们也可以研发更多的‘假脸克星’,例如现在技能竞赛DFDC(人脸伪造检测挑战赛)就在做相关尝试。”

张远还提出,网络服务平台作为大数据采集端,可以提高识别能力,主动通过技术方法分析、研判、定位存在有法律风险的合成视频,严控问题视频的传播,完善事前处理机制。

标签：

推荐文章

X 关闭

最新资讯

X 关闭

精彩图文