来源：中国消费者报当前AI伴侣类应用迅猛发展，有的主打情感陪伴，提供情绪价值；有的融入角色扮演元素，让用户能够与虚拟伴侣展开各种互动。AI伴侣通过不断学习对话内容，深入了解用户的聊天风格、情绪变化和价值取向，成为“量身定制”的理想伴侣。
北京日报客户端 | 记者 袁璐“AI换脸”“AI绘图”“一键脱衣”……借助AI等新兴技术，一些有害内容正隐形变异，将隐秘的手伸向未成年人。8月16日，记者获悉，自6月28日起，快手开展为期2个月的未成年人暑期网络环境专项治理，对涉未成年人不良信息从严从重处置。
潮新闻客户端 评论员 陈江图片来源：北京日报（绘制：宋溪）“我女儿上小学二年级，整天沉迷一款AI剧情聊天软件，学习成绩一落千丈。”“我看了孩子和AI聊天的对话内容，AI角色竟然让她叫‘老公’，我10岁的女儿竟然真叫了，我现在都不知道该怎么教育她了。
来源：【人民网】当下，“AI伴侣”火热，市面上目前已有100多款由AI驱动的应用程序。这些“AI伴侣”以智能交互的魅力走进人们的生活，为人们提供着陪伴、信息与娱乐。然而，如同科技的双刃剑效应，“AI伴侣”在带来便利、享乐、智能生活的同时，也潜藏着违法违规的风险。
据英国《卫报》23日报道，美国一青少年因迷恋人工智能（AI）聊天机器人而自杀，他的母亲梅根·加西亚对Character.AI公司提起民事诉讼，指控该公司存在过失导致他人非正常死亡和欺诈的行为。英国《独立报》称，加西亚的儿子塞维尔2023年4月首次使用 Character.
新京报贝壳财经讯 3月27日，抖音安全中心发布消息称，去年，抖音发布《关于人工智能生成内容的平台规范暨行业倡议》，明确平台不鼓励利用AI生成虚拟人物进行低质创作，将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
“我女儿上小学二年级，整天沉迷一款AI剧情聊天软件，学习成绩一落千丈。”“我看了孩子和AI聊天的对话内容，AI角色竟然让她叫‘老公’，我10岁的女儿竟然真叫了，我现在都不知道该怎么教育她了。”……记者近日调查发现，不少未成年人的家长正在被AI剧情聊天软件所困扰。
公安部依托“净网2024”专项行动全力出击，聚焦造谣引流、舆情敲诈、刷量控评、有偿删帖等突出违法犯罪活动，部署全国公安机关打击整治“网络水军”，今年以来共破案900余起，抓获嫌疑人5000余名，全力挤压“网络水军”违法犯罪活动空间，维护网络公共秩序。
3月26日，抖音安全中心发布不当利用AI生成虚拟人物的治理公告，指出将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。随着人工智能技术的迅猛发展，AI生成内容已越来越多出现在互联网上，然而对AI技术的不当使用也频频引起社会关注。
以下文章来源于央视网 ，作者新闻+央视网.央视网是中央广播电视总台主办的中央重点新闻网站，是拥有全牌照业务资质的大型互联网文化企业，以新闻为龙头，以视频为重点，以用户为中心，助力总台构建“多屏覆盖、无处不在”的用户入口。随着生成式人工智能的发展，和AI角色“相恋”的故事正在上演。
抖音官方于10月25日发布《抖音严厉打击利用 AI 骗取老年人互动的治理公告》。抖音官方表示，鼓励创作优质内容，包括采用 AI 技术进行辅助创作，但所创作内容必须遵循平台规范。平台对利用生成式人工智能技术创作和发布违背科学常识、弄虚作假、造谣传谣的内容进行持续打击。
