科技在不断进步，人工智能（Artificial Intelligence，简称AI）飞速发展，给我们的生活带来便利。与此同时，我们也要提高警惕，防止别有用心之人利用AI工具故意制造和散播虚假信息，将AI使用在错误的地方。
已经去世的亲人通过AI技术“复活”有一定的肢体动作能原声说一段话甚至还能唱首歌……此前，歌手包小柏用AI技术“复活”了女儿包容视频里的包容有表情有动作整体形象十分逼真包小柏说自己2022年就开始着手将女儿的影像和声音变成虚拟人物寄托自己的思念对此网友也表示很感动借此热度“AI复活
AI（人工智能）在便捷人类工作、生活的同时，其双刃剑效应也日渐被重视——有人利用生成式文本技术制造虚假资讯、有人利用“深度伪造技术”颠覆视听真实边界、有人利用“智能仿生体”编织骗局以假乱真……今年春节期间，一名用户假冒DeepSeek创始人梁文锋发文，后被证明是AI生成的虚假内容
“广州即将成为全国首个限制外卖配送的城市”登上网络热榜，经查系网民利用AI造谣；有人利用“AI去衣”软件制作淫秽物品贩卖获利，被处以行政拘留……随着AI技术的发展，不法分子为了牟利、引流，利用“AI生成图文”“AI换脸”“AI脱衣”工具作案愈演愈烈。
公安部依托“净网2024”专项行动全力出击，聚焦造谣引流、舆情敲诈、刷量控评、有偿删帖等突出违法犯罪活动，部署全国公安机关打击整治“网络水军”，今年以来共破案900余起，抓获嫌疑人5000余名，全力挤压“网络水军”违法犯罪活动空间，维护网络公共秩序。
自4月23日开始，中央网信办在全国范围内开展为期两个月的“清朗·整治‘自媒体’无底线博流量”专项行动。重点整治“自媒体”造热点蹭热点，制造以假乱真、虚实混杂的“信息陷阱”等突出问题。近日，西安警方就破获了一起网络谣言案。
近日一男子为了吸粉引流、非法牟利利用AI技术制造谣言误导公众认知，扰乱社会秩序厦门海沧警方对其采取刑事强制措施今年6月，厦门警方接到举报某互联网平台上名为“小逸看世界”的账号发布了图文视频广东省五华县华阳镇一70多岁老人被殴打致昏迷，其孙子为此跳河自杀，打人者一审被判九年十个月。
抖音安全中心2024年3月27日通报称，去年，抖音发布《关于人工智能生成内容的平台规范暨行业倡议》，明确平台不鼓励利用AI生成虚拟人物进行低质创作，将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
