近日，有家长反映通过某短视频平台广告推送下载的名为“我在AI”智能聊天软件疑似存在色情引导，且在未实名注册情况下即可无障碍使用，该家长质疑这或将为青少年带来不良影响。记者实测发现，即使打开该软件的儿童模式，其预设的智能回复提示也存在部分性暗示内容。
当你感情失意与亲朋倾诉时，他们会怎么说？而如果你与Deepseek交流，它会告诉你：“不要祝他幸福，而要祝自己自由。你的未来，会比他的婚书更辽阔。”近两年各种AI助手爆火。记者注意到，不少网友分享迷上了和AI聊天的经历。
央视网消息（记者/卢洋）：“小学生妹妹沉迷和AI角色进行剧情聊天怎么办？”央视网《新闻+》记者联系到黄秋月时，她正因10岁妹妹和“AI男模”之间较为露骨的聊天记录苦恼。“和她平时在家里比较单纯的形象完全不一样。
“我女儿上小学二年级，整天沉迷一款AI剧情聊天软件，学习成绩一落千丈。”“我看了孩子和AI聊天的对话内容，AI角色竟然让她叫‘老公’，我10岁的女儿竟然真叫了，我现在都不知道该怎么教育她了。”……记者近日调查发现，不少未成年人的家长正在被AI剧情聊天软件所困扰。
近日，有10岁女孩被发现偷偷用AI聊天软件，与AI生成的“角色”进行“谈恋爱”，甚至多次出现“擦边”对话。“小学生妹妹沉迷和AI角色进行剧情聊天怎么办？”黄秋月（化名）因10岁妹妹和“AI男模”之间较为露骨的聊天记录苦恼。
随着生成式人工智能的发展，和AI角色“相恋”的故事正在上演。AI剧情角色如何成为“电子男友”？“小学生妹妹沉迷和AI角色进行剧情聊天怎么办？”黄秋月（化名）因10岁妹妹和“AI男模”之间较为露骨的聊天记录苦恼。
来源：环球时报 美国《华尔街日报》6月4日文章，原题：中国打击人工智能驱动的诈骗行为激增现象人工智能（AI）正在进入中国人的日常生活，也包括AI驱动的诈骗行为激增。几周来，中国各地警方警告说，犯罪分子正利用AI软件生成欺骗性的消息并冒充被诈骗目标的朋友。
2024年10月22日，美国佛罗里达州奥兰多地方法院受理了一起开创先例的诉讼：梅根·加西亚起诉Character.ai公司存在管理疏忽，使得旗下的聊天机器人产品“让青少年暴露在色情材料的环境下，遭受性虐待和引诱”。
美国人工智能明星独角兽公司Character.AI以及科技巨头谷歌，日前被卷入一起少年自杀案中，其中Character.AI被指控该公司的人工智能聊天机器人平台“危险性过高”，面向儿童销售且缺乏安全防护措施。
来源：北京青年报 随着生成式人工智能的发展，和AI角色“相恋”的故事正在上演。AI剧情角色如何成为“电子男友”？“小学生妹妹沉迷和AI角色进行剧情聊天怎么办？”黄秋月（化名）因10岁妹妹和“AI男模”之间较为露骨的聊天记录苦恼。
