生成式人工智能在聊天上的应用,也呈现出了“成瘾性”和“不确定性”的高风险特征。图/IC photo“小学生妹妹沉迷和AI角色进行剧情聊天怎么办?”随着生成式人工智能(AI)被率先应用在社交娱乐等领域,其不受限制与无法预知的互动内容,也正在引发新的问题。
每经记者:郑雨航 每经实习记者:宋欣悦 每经编辑:兰素英当地时间10月23日,据外媒报道,美国佛罗里达州的14岁少年塞维尔·塞泽(Sewell Setzer III)在与AI初创公司Character.AI的聊天机器人进行长时间对话后,于今年2月28日开枪自杀身亡。
据英国《卫报》23日报道,美国一青少年因迷恋人工智能(AI)聊天机器人而自杀,他的母亲梅根·加西亚对Character.AI公司提起民事诉讼,指控该公司存在过失导致他人非正常死亡和欺诈的行为。英国《独立报》称,加西亚的儿子塞维尔 2023 年 4 月首次使用 Character.
光明网 美国人工智能明星独角兽公司Character.AI以及科技巨头谷歌,日前因卷入一起少年自杀案而遭到起诉。此案的原告是美国佛罗里达州的一位律师,她年仅14岁的儿子塞维尔·塞策三世对Character.AI中的虚拟陪伴者“龙妈”产生了情感依恋。