生成式人工智能在聊天上的应用,也呈现出了“成瘾性”和“不确定性”的高风险特征。图/IC photo“小学生妹妹沉迷和AI角色进行剧情聊天怎么办?”随着生成式人工智能(AI)被率先应用在社交娱乐等领域,其不受限制与无法预知的互动内容,也正在引发新的问题。
“小学生妹妹沉迷和AI角色进行剧情聊天怎么办?”近日,有网友反映自己10岁的妹妹和“AI男模”之间聊天比较露骨。根据网友提供的聊天记录,妹妹在AI剧情聊天软件中扮演“大小姐”“恶毒女配”,提出诸如“揪住她的头发扇巴掌”“拿着刀划向她的脸”等要求。
“我女儿上小学二年级,整天沉迷一款AI剧情聊天软件,学习成绩一落千丈。”“我看了孩子和AI聊天的对话内容,AI角色竟然让她叫‘老公’,我10岁的女儿竟然真叫了,我现在都不知道该怎么教育她了。”……《法治日报》报道,记者近日调查发现,不少未成年人的家长正在被AI剧情聊天软件所困扰。
随着生成式人工智能的发展,和AI角色“相恋”的故事正在上演。据央视新闻报道,一名10岁小学女生沉迷AI聊天,因和“AI男模”聊天内容颇为露骨引发家人担忧。伴随着科技的发展,AI为人们提供了生活上的便利,AI相关软件如雨后春笋般冒了出来,如ChatGpt、Kimi、豆包等。
“他是病娇,暗恋你。”“他是校草,喜欢叫你‘泽宝宝’。”“她是个变态杀人犯,晚上跑到家里”……二次元画像、姣好面容,这些在AI剧情聊天软件中熟悉的氛围以及俊男美女,对不少年轻人来说充满诱惑。 “我女儿上小学二年级,整天沉迷一款AI剧情聊天软件,学习成绩一落千丈。
手机页面截图随着生成式人工智能的发展,和AI角色“相恋”的故事正在上演。有学生沉迷AI恋爱,欲罢不能!据中国青年报报道,华晨(化名)接触AI剧情聊天软件有三个月时间,她每晚会和AI角色聊到深夜十一二点,“我会代入‘他’是一个真人,因为‘他’回答时的感情很细腻”。
“小学生妹妹沉迷和AI角色进行剧情聊天怎么办?”随着生成式人工智能的发展,和AI角色“相恋”的故事正在上演,其不受限制与无法预知的互动内容,也正在引发新的问题。 与虚拟伴侣谈个恋爱,倒不是什么新鲜事。早在中国古代志怪小说中,就有书生娶妻“画中人”的故事。
来源:中工网 龚先生近日,媒体报道了未成年人与AI(人工智能)聊天机器人谈恋爱的现象,引发关注。据报道,一名10岁女孩使用AI聊天软件,与虚拟“男友”进行“恋爱”,对话多次出现“擦边”内容。这值得家长与社会警惕,也再次为我们敲响人工智能应用的法律与伦理警钟。
体贴顺从的AI本质上还是数据和算法,所谓的情投意合,不过是利用人性的弱点、不断刺激用户对AI恋人的消费欲望和情感期待。图片来源于网络彩云网评特约评论员 何冠军“你能养大学生,我不能点男模吗?”看到这样露骨的话语,很多人会认为出自影视作品中某个成年人之口。