近日，有家长反映通过某短视频平台广告推送下载的名为“我在AI”智能聊天软件疑似存在色情引导，且在未实名注册情况下即可无障碍使用，该家长质疑这或将为青少年带来不良影响。记者实测发现，即使打开该软件的儿童模式，其预设的智能回复提示也存在部分性暗示内容。
1月12日，韩国一家公司去年推出一款AI聊天机器人“李LUDA”，因为成为网络骚扰的对象，后又被爆出对一些少数群体、残疾人士使用歧视性的表达，宣布即日起中止服务。这种AI聊天机器人接受用户无端恶意时，又将其“反哺”给人们的现象，引发了网友对于AI伦理问题的讨论。
央视网消息（记者/卢洋）：“小学生妹妹沉迷和AI角色进行剧情聊天怎么办？”央视网《新闻+》记者联系到黄秋月时，她正因10岁妹妹和“AI男模”之间较为露骨的聊天记录苦恼。“和她平时在家里比较单纯的形象完全不一样。
“我女儿上小学二年级，整天沉迷一款AI剧情聊天软件，学习成绩一落千丈。”“我看了孩子和AI聊天的对话内容，AI角色竟然让她叫‘老公’，我10岁的女儿竟然真叫了，我现在都不知道该怎么教育她了。”……记者近日调查发现，不少未成年人的家长正在被AI剧情聊天软件所困扰。
《法治日报》记者近日调查发现，不少未成年人的家长正在被AI剧情聊天软件所困扰，这些打着“角色扮演”等旗号的AI剧情聊天应用，在吸引未成年人的同时，也悄然滋生了一些灰色地带，在部分软件的对话中，出现了色情擦边、语言暴力以及侮辱用户的内容。
来源：中国青年网拍了组美美的照片，却想不出文案，让“发圈”计划一再搁浅；想让舍友帮忙带份泡椒凤爪，却将“泡椒”错打成“泡脚”，引得笑话连连……这些生活里因表达问题造成的困扰，不少人都深有体会。最近，百度输入法推出的年度重大AI版本10.
据《法治日报》报道，一段时间以来，不少未成年人的家长饱受AI剧情聊天软件困扰。一些打着“角色扮演”等旗号的AI剧情聊天应用，在吸引未成年人的同时，也悄然滋生了一些灰色地带。在部分AI剧情聊天软件的对话中，出现了色情擦边、语言暴力以及侮辱用户的内容。
AI会威胁人类生命吗？近日，美国一14岁少年开枪自杀，其生前长期沉迷某款AI聊天软件，孩子母亲将相关企业告上法庭，指控平台方对孩子的死负有责任。此案在社交媒体上被称为“首例AI聊天致死案”。法庭文件显示，该少年患有阿斯伯格症，今年被确诊为焦虑症和破坏性情绪失调症。
2024年10月22日，美国佛罗里达州奥兰多地方法院受理了一起开创先例的诉讼：梅根·加西亚起诉Character.ai公司存在管理疏忽，使得旗下的聊天机器人产品“让青少年暴露在色情材料的环境下，遭受性虐待和引诱”。
随着生成式人工智能的发展，和AI角色“相恋”的故事正在上演。AI剧情角色如何成为“电子男友”？“小学生妹妹沉迷和AI角色进行剧情聊天怎么办？”黄秋月（化名）因10岁妹妹和“AI男模”之间较为露骨的聊天记录苦恼。
“你这样讲，我好难过。”“对不起，我的回答让你感到难过了。虽然我没有真正的思维和感情，但我会尽可能帮助你，陪伴你聊天，让你感到愉快和舒适。”网红“半藏森林”秒回网友对话，不过，这一次是AI“分身”。6月初，号称首批网红明星克隆人上线，其中就包括此前饱受争议的“半藏森林”。
来源：中工网 龚先生近日，媒体报道了未成年人与AI（人工智能）聊天机器人谈恋爱的现象，引发关注。据报道，一名10岁女孩使用AI聊天软件，与虚拟“男友”进行“恋爱”，对话多次出现“擦边”内容。这值得家长与社会警惕，也再次为我们敲响人工智能应用的法律与伦理警钟。
来源：环球网 【环球网报道 记者 赵博元】据英国《卫报》等媒体20日报道，国际快递公司德普达快运(DPD)表示，已禁用其“人工智能在线聊天机器人”（AI客服）的部分功能。此前，该AI客服在客户要求下写了一首吐槽自家公司的诗。
