9日，美国得克萨斯州一对父母向法院提起诉讼，称聊天机器人Character.AI暗示他们17岁的孩子，杀死父母是对他们限制其电子设备使用时间的“合理回应”。（美国一聊天机器人暗示孩子杀死父母，被起诉。）当时，这名青少年向聊天机器人Character.
当地时间22日，美国佛罗里达州奥兰多地方法院受理了一起开创先例的诉讼：梅根·加西亚起诉Character.ai公司存在管理疏忽，使得其旗下的聊天机器人产品“让青少年暴露在色情材料的环境下，遭受性虐待和引诱”。
据《环球时报》援引欧洲新闻网2月19日报道称，近日美国极右翼社交平台Gab用AI交互技术，开发出了诸如“希特勒聊天机器人”“本·拉登线上版”等争议产品，业内人士担忧这一趋势将滋长网络极端主义。报道称，这一系列AI产品的开发者是美国极右翼社交平台“Gab”。
来源：环球时报 美国《纽约时报》9月4日文章，原题：当机器人夺人之爱时，会发生什么？纵观历史，鲜少有技术能够为数百万计的民众提供公共对话的空间。报纸、电报和电台等现代信息技术问世后，技术领域的任何重大变革都可能导致政治动荡。
以 2024 年为例，智能情趣用品线上 GMV 同比增长 67%，其中 AI 交互类产品占比超 30%。在 2023 年，AI 成人机器人的全球销售额约为 50 亿美元，到了 2024 年，这一数字飙升至 100 亿美元，增长率高达 100% 。
美国人工智能明星独角兽公司Character.AI以及科技巨头谷歌，日前被卷入一起少年自杀案中，其中Character.AI被指控该公司的人工智能聊天机器人平台“危险性过高”，面向儿童销售且缺乏安全防护措施。
11年前的美国电影《她》讲述社恐男爱上AI萨曼莎的故事，如今电影场景已成为现实。在社交平台搜索“AI伴侣”，很多网友分享了自己与AI伴侣的日常。近期举办的2024年世界互联网大会热议了今年发生的“全球首例AI机器人致死案”。AI技术延伸更多领域的同时也带来更复杂的潜在风险。
举枪自杀（请勿模仿！）文|沧海旅行家编辑|沧海旅行家前言：AI发展越来越快，不光是作为工具，现在甚至已经出现了AI聊天机器人，不少人也接触过。但是最近在美国，竟然有一个未成年的小男孩在和一个AI聊天之后不久，就拿起手枪自杀身亡。那就让人好奇了，男孩到底和AI聊了什么？
