一、1200件蛋白棒已发货：张文宏脸+AI声 30分钟直播全程假货
5月14日晚，一段“张文宏医生直播带货蛋白棒”的视频在抖音热传。画面中，张文宏的脸与声音几乎以假乱真，直播间在线人数峰值达3.2万。然而，张文宏本人次日通过微博澄清：“从未直播带货，脸部与声音均被AI深度伪造。”
记者实测发现，该直播间商品链接指向某不知名蛋白棒，已售出1200余件，销售额近30万元。目前，抖音已下架该直播，但商品链接仍在多个社群流传。律师表示，消费者若因AI假冒名人购买商品，可依据《消费者权益保护法》要求“退一赔三”，并举报商家欺诈。
二、AI克隆 30 分钟生成：开源模型+云显卡=百元成本
“DeepFaceLive+ElevenLabs，30分钟就能克隆脸和声音。”某AI技术博主透露，目前市面上多数AI伪造直播均采用开源模型，配合云显卡（RTX 4090），成本不足100元。
具体流程：
抓取公开视频（B站、微博、采访）→ 提取 10 秒人脸素材；
DeepFaceLive 实时换脸；
ElevenLabs 克隆声音，输入文本即可生成语音；
OBS 推流，直播间背景、购物车链接提前配置。
“甚至不需要专业显卡，租一张云 GPU 一小时 5 元就能跑。”该博主称，此类教程在B站、知乎大量存在，关键词“AI换脸直播”搜索量近半年上涨 380%。
三、法律红线：未经授权使用他人形象=违法
北京某律师事务所合伙人表示，AI假冒名人带货涉嫌三重违法：
侵犯肖像权：未经本人许可商业使用；
欺诈消费者：故意误导购买，可主张“退一赔三”；
虚假广告：违反《广告法》第四条，可处广告费用 3~5 倍罚款。
消费者维权步骤： ① 保存直播录屏、订单截图；② 向平台投诉“虚假宣传”；③ 12315 举报商家欺诈；④ 起诉要求退一赔三。
四、平台责任：抖音、快手为何拦不住？
目前，抖音、快手均上线“AI内容标识”功能，但依赖用户自主标注，监管滞后。
《网络信息内容生态治理规定》明确要求平台建立“深度伪造”审核机制，但AI实时换脸帧率极高，传统 MD5 哈希无法识别。
技术解决方案：
区块链存证：直播流实时哈希上链，发现伪造即下架；
数字水印：给真人直播嵌入不可见水印，AI 无法复制；
云端渲染备案：主播提前备案人脸模型，平台实时比对。
抖音回应：已封禁 127 个 AI 换脸账号，并将 AI 假冒纳入重点风控模型。
五、消费者如何识别 AI 伪造直播？
看嘴唇：AI 换脸边缘常有轻微抖动或模糊；
听声音：克隆语音语调过于平稳，无呼吸声；
查账号：认证信息与商品链接是否一致；
问本人：通过名人官方微博/公众号核实。
六、结语：技术无罪，用法有界
AI 让创作门槛降低，也让“造假”门槛降低。平台、商家、消费者三方都需提高警惕：
平台应强制“AI 直播备案+实时比对”；
商家勿碰法律红线，别为流量丢掉商誉；
消费者遇到 AI 假冒，敢于维权，积极举报。
本文来源于用户投稿，如侵犯您的权益，请留言或者邮件（leiquenet@163.com）联系我们。我们将会在三天内核实处理。如若转载，请注明出处：https://www.leique.com/l/1729.html
