【阅读提示】演员吴越遭AI假冒带货，凌晨发文怒斥：太恶劣！你骗了多少人的钱？如数奉还

　　光明网评论员：近日，一位演员在社交媒体发文，控诉某视频账号以“明星同款”为由，用AI生成她的形象和声音推销一款护肤品，并在视频里信誓旦旦称：“这个产品闭着眼睛用闭着眼睛囤，孕妇妈妈都能用。”该单品近30天销售额达50万元，但据媒体调查，某平台上针对该系列产品的投诉多达1900条。在同一账号内，“乒乓球冠军推荐”等AI换脸的带货视频同样醒目。

　　眼下，借助AI工具，仅凭一张照片、一段音频，就能克隆出容貌和声线高度仿真的数字人视频，该人物甚至能在直播中“有问必答”，这成为不少电商平台商家采用的营销方式。

　　技术本身不是问题。数字人营销在降低企业成本、多语言推广、助力电商出海等方面的作用显而易见，一些公众人物也曾主动尝试授权个人肖像用于AI生成。但未经授权的换脸、偷声，就滑向了黑灰产，触碰了法律红线，不仅涉嫌侵犯人格权、虚假宣传，对于骗取钱财数额较大的行为，还可能构成诈骗罪。技术是营销利器还是非法工具，关键在于使用者行为是否守法合规。

　　电商、视频已成为AI换脸“重灾区”。浏览购物网站，模特换成了数字人；点开客服咨询，机器人上线；看电商直播，一个酷似真人的AI形象正详细介绍商品。

　　市场选择让AI算力自然流向降本增效最快的场景，相关领域也迎来蓬勃发展。但同时，这一比例也实实在在地提示了AI使用风险集中的领域，即视频生成和电商领域。换句话说，近一两年来，频繁出现的AI带货乱象，已非个例，而是上升为具有一定公共性的新技术应用问题。

　　去年，运动员全红婵卷入“AI仿冒带货”风波，影视明星换脸带货纠纷见诸法庭；音乐家刘欢离世不久，AI生成的“妻子”和“儿子”便打着家属身份的幌子，讲述“临终故事”顺带推销保健品；甚至，有虚拟生成人物发布“真实”商品使用体验。一个又一个案例指向AI适用的法律规范和伦理边界，也提示了监管亟待加强的领域：AI换脸、偷声正在从偶发侵权变成规模化、产业化的灰色生意，治理手段需要加速跟进。

　　平台已通过技术手段下架非法视频和关停风险账号，但还不够。想想看，若无论有无授权，视频上都只显示一行小字“作者提示：含AI生成内容”，黑灰产与合法AI营销如何有效区分？若等被换脸者自行举报维权，不法商家关掉一个直播间再开一个营销号、被举报一个虚假明星就再换一个明星，又当如何？受害者维权成本高、周期长，而侵权者换个马甲就能重来，这种不对称本身也需要纠正。

　　由此，监管应当提前介入。AI数字人直播有无备案？肖像授权有无合规文件？带货商品有无品类限制？这些不应等到被发现了再去追问，而应成为平台审核的常规动作。平台的人脸识别能力需要提升，审核流程需要完善，对高风险账号的监测需要常态化。

　　AI渗透越深的领域，越是治理需要加速的领域。通过有效识别和拦截违规内容，引导AI合理使用，从更广泛的层面看，也才有可能推动算力资源要素流向真正有价值的地方。

　　（转载请注明来源“光明网”，作者“光明网评论员”）

　　【上一篇】广交会70年的“变”与“不变”