(资料图片)

“点进直播间一看，‘迪丽热巴’居然在直播卖货。”近日，有网友点开直播间，却发现正在卖货的竟是当红女星。然而再定睛一看，这些带货“明星”很快露出了马脚——身穿中式服装，正在卖力带货的“明星”们，其实只是使用了AI实时换脸技术的普通主播。（据《法治日报》5月29日报道）

通过“AI换脸”技术，普通主播摇身一变成了当红“明星”，公然在直播间卖货，吸引了不少流量。显然，这样将“明星脸”作为促销工具使用，并未获得明星本人的许可，涉嫌侵犯肖像权，某种程度上也是对消费者的欺诈。

在小程序中上传一张照片，“一键换脸”生成一段以自己为“主角”的新视频；生成一位自己喜爱歌手的AI版，然后指挥它去唱歌；用言语简单描述自己希望看到的画面，自动生成一幅精美画作……近年来，随着科技的快速发展，曾经离我们很遥远的AI技术，如今正迅速进入到大众生活中。但是，随着AI技术应用场景越来越丰富，一些触碰法律底线的事件也开始出现，给当事人造成困扰伤害，影响正常的社会秩序。

“AI换脸”，不能“想换就换”。为了规范人工智能发展，去年12月，《互联网信息服务深度合成管理规定》正式发布，对人脸生成、替换、操控等都有明确约束。近期，也有短视频平台发布了“关于人工智能生成内容的平台规范暨行业倡议”，明确禁止利用生成式人工智能技术创作、发布侵权内容。同时，还提出“发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实”等要求。应该说，无论是管理规定还是行业倡议，都是在对包括“换脸”在内的技术应用行为进行规范，具有很强的现实针对性。

AI技术是一把双刃剑，需要善加利用。在引导AI技术合规发展的同时，也要给直播间里的“AI换脸”划定法律“红线”，防范不当使用。一方面，有关部门和相关平台应积极推动加密防伪技术，在“AI换脸”领域强制使用“数字水印”，利用技术手段实现可追溯功能，发现违法侵权及时处理。另一方面，也要依法实行前置管理与保护，为“AI换脸”戴上“紧箍”，筑牢防护墙，防止失范失控。（江德斌）