23年最新ai工具（4款软件仅2款有标识）

VCG供图

“换脸诈骗”有法管，《互联网信息服务深度合成管理规定》实施满月，记者实测发现

近年来，随着合成技术发展，技术门槛降低，不少合成技术例如AI换脸、合成人声等可达到“难分真假”、“眼见未必为实”的地步，该项技术甚至被不少不法分子利用当做诈骗工具。去年底，国家互联网信息办公室、工信部、公安部发布《互联网信息服务深度合成管理规定》（下称《规定》），其中明确提供合成人声、人脸生成、沉浸式拟真场景等生成或显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。该《规定》自今年1月10日实施以来已满一个月，《规定》的实施为合成技术的使用带来了什么改变？新快报记者对多款AI换脸软件进行了测试。

■采写：新快报记者 麦婉诗 杨喜茵 陈慕媛

【背景】

“假靳东”事件两年多后 短视频平台仍能搜索到相关账号

看似复杂的深度合成技术离我们真的还远吗？其实并不然。2020年，就发生了“假靳东”事件，并在全国范围内掀起了广泛的讨论。事情的起因是江西一位六旬已婚女性自称在抖音上结识了“靳东”，甚至在他的“召唤”下去长春找他，想要和他一起生活。事实上，她所结识的“靳东”是不法分子盗用名人的照片或视频片段通过剪辑配音制作出短视频。随后，不少中年女性被骗的案例被爆出，靳东工作室针对网络用户在短视频平台假冒靳东的名义、利用靳东的形象开设账号一事发布声明，表示“东弟弟”“靳东”等一系列账号均非本人，将依法追责。

时至今日，新快报记者通过关键词“东弟”搜索发现，仍存在部分使用深度合成技术发布虚假短视频在社交平台传播。新快报记者在一个名叫“东弟，。”的短视频账号之下看到，该账号的粉丝量已经超过1.8万，获赞数已达6.6万，置顶的视频内容就是诱导网友提供“姐姐，想你的时候怎么联系你呢，很想知道你在干什么......把联系方式给弟弟。”头像使用的是靳东的照片，发布的16条视频中均使用了靳东的照片，但各条视频的配音音色都不相同。

新快报记者调查发现，“假靳东”的骗术并不高明，视频当中往往采用非常粗糙的抠图技术，说话的口型也与音频完全对不上，甚至人物口音也是飘忽不定、截然不同。然而，“假靳东”的嘘寒问暖，视频整体呈现贴合中老年人的审美风格，给这类视频披上了亲和的滤镜。就是这些年轻人看起来“一眼假”的视频，不太熟悉网络环境的中老年人而言却难以意识到这场骗局。

“我每天早早就刷到你的视频，几次告诉你我的联系方式，但没收到你的回应。”“亲爱的弟弟，你好吗，姐姐想你了，想见到你。”点开这些“东弟弟”账号留言不难发现，留言网友多为中老年人，这些账号有的是诱导点赞、评论赚取流量，有的甚至通过理财、卖货等方式来欺骗中老年网友。老人一旦上当受骗，不但钱财遭受损失，身心健康也会受到严重伤害。

【案例】

去年广东首例涉人脸识别公益诉讼案公开宣判

去年7月，广东省首例涉人脸识别公民个人信息保护民事公益诉讼案公开宣判。在该案中，郑某通过即时通讯软件向社会发布可代查高清身份证照片、身份证号码等个人敏感信息的广告，并组建群组专门用于个人信息非法交易。看到广告后，任某、戴某、陈某3人打起了贩卖身份证等个人信息的歪心思。他们通过广告加入了该群组，按照顾客提供的个人信息，从郑某手中购得与个人信息相匹配的高清身份证照片，利用照片中的头像制作AI（人工智能）视频卖出，从中赚取差价。

这些利用高清身份证照片制作的AI视频，可以完成点头、眨眼等动作，能够通过一些APP的人脸识别身份验证，也就是说，在当事人不知情的情况下可能就被一些软件判定人脸识别成功，造成个人信息泄露。截至案发，郑某等4人出售公民个人信息2000余条，造成了大量公民个人信息被泄露甚至被冒用，严重侵害公民个人信息安全。

而就在《规定》实施后的第一天，上海市金山区人民法院公布了一起因“AI换脸”APP违法使用他人视频引发的肖像权纠纷案件。该案中，小芝是一名网红达人，热爱古风汉服，经常在某视频网站发布古风汉服照片和视频，粉丝人数40余万，在圈内外具有一定的知名度。2022年6月，小芝发现上海A公司运营的“AI换脸”APP中有自己发布在网络平台的古风造型视频模板。小芝认为，该公司未经自己同意将自己的视频作为视频模板供用户进行“AI换脸”，严重侵犯了自己的肖像权，于是将A公司诉至法院，要求赔礼道歉、刊登道歉声明并赔偿损失。最终法院判决被告A公司在其运营的“AI换脸”APP首页显著位置发布道歉声明并赔偿原告小芝经济损失。