央广网北京11月19日消息（记者王迟）近年来，人工智能（AI）技术发展迅速，成为全球科技领域的热点。AI已经从单纯的学术研究发展成为改变人类生活方式的重要力量。然而，却有一些别有用心之人将其变为造谣、敛财的工具。
刷脸支付、刷脸打卡、刷脸门禁，随着人脸识别应用的广泛普及，人脸信息已经成为数字时代身份鉴定、访问认证、核验查证的重要载体。这也给了不法分子可乘之机。近日，广州互联网法院公布了一起买卖公民个人信息案件，涉案人员利用人工智能将人脸照片生成视频，伪造人脸识别认证，从而非法牟利。
3月26日，抖音安全中心再次发布关于AI生成虚拟人物的声明称：去年，抖音发布《关于人工智能生成内容的平台规范暨行业倡议》，明确平台不鼓励利用AI生成虚拟人物进行低质创作，将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
如今AI技术快速发展，一方面有人运用AI技术推动产业创新发展，另一方面却也有不法分子利用AI干起了违法的勾当。7月23日，一宗使用“AI换脸”技术破解平台认证非法获取计算机信息系统数据案在广州南沙宣判。据悉，该案是广州市中级人民法院依据法律规定委托广州市南沙区人民法院代为宣判。
近年来，AI换脸拟声技术发展迅速，通过专业模型训练与后期处理，可达到以假乱真的效果，有的不法分子利用AI技术，合成虚假的“私密照片、录音”进行敲诈勒索，也有的用AI视频干扰“人脸识别”安全系统，从事非法活动获利，给社会公众带来了极大危害。
为确保网约车辆规范运营，一些出行平台通过人脸核验等技术对司机开展身份验证，在确保人车一致后再派单。因此，一个司机只能注册一个账号接单。然而，为了实现登录他人账号或使用多个账户接单，有些不法分子滥用技术，为司机用户提供专门性的工具规避平台监管。
为确保网约车辆规范运营，一些出行平台通过人脸核验等技术对司机开展身份验证，在确保人车一致后再派单，因此一个司机只能注册一个账号接单。然而，为了实现登录他人账号或者使用多个账户接单，有些不法分子滥用技术，为司机用户提供专门性的工具规避平台监管。
AI换脸凶猛，技术突飞猛进，把无数人卷入“黑镜世界”的荒谬和无助中，曾经以为是科幻电影里才有的情节，真真实实成为普通人的日常风险远在大连生活的张桂菊，却成了株洲市芦淞区一家百货店的经营者，株洲当地市场监管部门的答复是“她本人做了‘四级实名’验证，办理流程合法合规”。
抖音安全中心2024年3月27日通报称，去年，抖音发布《关于人工智能生成内容的平台规范暨行业倡议》，明确平台不鼓励利用AI生成虚拟人物进行低质创作，将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
随着人工智能等新技术的落地应用，类似AI换脸诈骗、“一键脱衣”等乱象层出不穷。据央视新闻近日报道，北京一程序员通过研发“一键脱衣”的AI软件，仅两个月批量制作了近7000张裸图，并以每张1.5元售卖牟利。日前，该程序员已被北京海淀区检察院提起公诉。 如何防止有人利用AI技术作恶？
“代实名”中介伪造上传身份证照片，并代当事人通过人脸识别认证进行公司注册。新京报记者 程亚龙 摄只要一张身份证照片，就能让身份证持有人成为一家公司法人？据新京报8月21日报道，一些不法人员通过破解政务App的人脸识别系统，可利用他人身份信息注册公司，或对已成立公司的股东进行撤换。
