如今，从智能家居的语音助手到自动驾驶汽车，从高效能的数据分析到医疗领域的精准诊断，AI正以前所未有的方式改变着世界。然而，随着AI技术的不断发展和应用，其双刃剑的特性也逐渐显现。其中，深度伪造技术就带来了不小的隐患。
AI数字人主播、虚拟代言人……近年来，越来越多的AI数字人开始出现在各领域，从事直播带货、知识讲解等工作。如果受市场变化及技术限制等因素影响，AI数字人无法正常使用，责任应该由谁来承担呢？近日，上海市金山区人民法院审理了一起与AI数字人直播有关的服务合同纠纷案。
原标题：直播带货“工厂直发”有多少是真的？记者调查发现3500元就能搭建“生产流水线”一个卖糖果的直播间，主播被“埋”在糖果堆里，只露出上半身，一边打包糖果一边和观众互动。看着这堆积如山的糖果，就好像来到了糖果屋。有好奇的网友说想看看全景，结果立马就被主播踢出了直播间。
近期，一段“张文宏带货”视频在网络上热传。 网络图近期，一段“张文宏带货”视频在网络上热传。视频中的“张文宏”在介绍一种蛋白棒，其形象、口型、声音均与张文宏本人一致。据媒体报道，虽然该视频系AI合成，许多老人却信以为真并下单甚至转发，账号商品橱窗内显示蛋白棒售已售出一千余件。
“张文宏是不是带货了？”最近，有网友称在网络卖货视频中看到知名医生张文宏在售卖一种蛋白棒产品。不过，经常刷短视频的朋友很快就能分辨出这是AI合成的视频，并非本人。随着人工智能技术的迅猛发展，AI换脸已经能够做到以假乱真。当AI技术被不当使用，用户该如何识破骗局？
新华社杭州/墨西哥城5月21日电 特稿｜AI带货——“世界超市”迎来外贸商机“二次方”新华社记者翁忻旸 陈璐 吴昊“老板娘，我们下周见！”“好的，下周见！”挂了电话，孙丽娟的嘴角笑意难掩。“有订单我就开心！”这是她时常挂在嘴边的一句话。
央广网上海12月17日消息（记者沈梅 见习记者郑晓蔚）近日有网友反映称，家中老人误以为张文宏医生视频带货一种蛋白类产品，于是下单购买。经核实，该视频为AI（人工智能）合成，而视频商品橱窗内售卖链接显示已出售1200多件。目前，该账号已搜索不到。
近年来，随着人工智能技术的飞速发展，其应用场景日益广泛，为人们的生活带来诸多便利。然而，令人忧心的是，AI技术却被一些不法之徒利用，衍生出AI假冒名人带货这一乱象。正如央视所揭露的那般，今年以来此类事件频发，不仅侵害了名人的合法权益，更扰乱了市场秩序，触碰了法律红线，亟待整治。
近日，浙江省市场监督管理局印发《浙江省网络直播营销行为规范指引》（以下简称《指引》），明确三部分总计30条重点规范内容，对AI数字人使用提出明确要求加以规范，另外在约束虚假引流广告、混淆形式、标题党、功效宣称、优惠活动弄虚作假、鉴定检测造假、各类数据造假、制造虚假紧迫感、虚假代言
AI数字人主播、虚拟代言人……你的身边有“数字同事”了么？近年来，越来越多的AI数字人开始出现在各类电子屏幕上，它们昼夜无休，触及直播带货、知识讲解、新闻播报和品牌代言等各行各业。但如果受到市场变化及技术限制等因素影响，导致AI数字人无法正常使用，责任应该由哪一方来承担呢？
最近，有网友询问“张文宏是不是带货了”。根据网友提供的一段视频显示，“张文宏”在卖一种蛋白棒，家里的老人信以为真已经下单，还转发了很多群。据报道，有媒体记者核实发现，这个账号名为“般画234”。在视频中，“张文宏”反复介绍一种产品，口型是他的，声音也是他的。
近日，北京市市场监督管理局发布了《北京市直播带货合规指引》（以下简称《指引》），并宣布即日起实施。事实上，近两年来，多地都出台了相似的指引规范文件。直播电商消费者依然不时被售后难、虚假宣传、“低价”诱惑、产品质量等问题困扰。
原标题：AI仿冒侵权，伤害之后不能一笑而过日前，“微信珊瑚安全”微信公众号发布关于打击利用AI仿冒知名人士进行营销宣传的公告，表示微信平台已针对此类行为，累计处置内容532条，关闭账号209个。此前，张文宏被AI仿冒于深夜带货骗取大量订单的新闻上了热搜。
图片来自于网络去年以来，一股利用AI深度合成技术假冒名人进行带货的歪风邪气悄然兴起，令人瞠目结舌。最近，有人发现全国政协委员张文宏在一直播间带货，且成功售出了1200多件蛋白棒产品。其实这不是真的，而是商家利用AI技术合成了张文宏的形象与声音。
