问题的关键在于，找出技术的负面价值，将其规范化，治理好。和迪丽热巴“接吻”、与刘亦菲“深情对视”、24小时AI主播带货、“赛博美女”、乘地铁的照片被“一键脱衣”……AI生成内容最近在网络中屡屡刷屏，似乎“有图有真相”的时代彻底结束了。
5月9日，抖音于其官方公众号上发布“关于人工智能生成内容的平台规范暨行业倡议”，其中重点提到创作者、主播、用户、商家、广告主等平台生态参与者应对人工智能生成内容进行显著标识，同时虚拟人需在平台进行注册，虚拟人技术使用者需实名认证。
用户在DeepSeek手机客户端上提问。 新华社记者 黄宗治 摄新华社记者 颜之宏近日，DeepSeek凭借其高超的“深度思考”能力在一夜之间收获诸多拥趸。一些用户在与之几轮对话后，迅速“触类旁通”，让其为自己撰写“年度工作总结”或者“会议发言材料”。
随着人工智能技术的迅猛发展，AI生成内容已越来越多出现在互联网上，然而对AI技术的不当使用也频频引起社会关注。3月26日，抖音安全中心发布不当利用AI生成虚拟人物的治理公告，指出将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。
3月27日消息，抖音安全中心发布关于不当利用AI生成虚拟人物的治理公告。公告称，针对违规使用AI生成虚拟人物的行为，平台会对违规视频下架，对违规账号进行取消其投稿和营利权限、抹除账号粉丝、封禁账号等处置，并利用模型、技术识别能力等手段，进行长期系统的识别发现和处置。
新华社 近日，DeepSeek凭借其高超的“深度思考”能力在一夜之间收获诸多拥趸。一些用户在与之几轮对话后，迅速“触类旁通”，让其为自己撰写“年度工作总结”或者“会议发言材料”。事实上，早在生成式人工智能诞生时起，就有人尝试利用它们撰写“爽文小说”，或者生成短视频，以此赚取流量。
1月7日9时05分，西藏日喀则市定日县发生6.8级地震，牵动着许多网友的心。但与此同时，一些网友为了流量，利用AI技术生成“灾区”群众被埋、房屋坍塌等虚假照片进行发布，并配文日喀则地震等关键词，造成网友误解。其中，一张“被压废墟下的小男孩”图片引发广泛关注。
【抖音：禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容】财联社3月27日电，“抖音安全中心”微信公号3月27日发布抖音关于不当利用AI生成虚拟人物的治理公告。公告称，近期平台发现，站内仍有不当使用AI技术生成虚拟人物发布内容的账号，平台进行了严厉处置。
每经记者：刘雪梅 每经编辑：李卓| 2024年3月28日 星期四 |NO.1 抖音：已掌握部分黑产团伙不当使用AI生成虚拟人物用于犯罪的线索，将报警打击抖音安全中心发布关于不当利用AI生成虚拟人物的治理公告。
金发碧眼美女，一口流利的中文谈论婚姻和中国话题，仿佛成了流量密码。“我们国家生产的许多产品都是中国制造，中国有五千年的历史，我对这个国家的热爱深厚。”屏幕上，一个所谓“俄罗斯美女”侃侃而谈，而这只是新京报贝壳财经记者以6元价格买到的“换脸视频”。
在 Sora、Claude 3 将人工智能推向新高峰时，人工智能的触手也被拿来伸向黑暗。澎湃新闻对齐 Lab 梳理近期 AI 新型诈骗典型案例后发现：当下利用 AI 技术的诈骗手段呈现出门槛更低，效果更逼真的趋势，让人更加防不胜防。
原标题：多个城市出台扶持人工智能的相关政策 AI概念股持续火热（引题）“AI换脸”技术使用风险需警惕（主题）广州日报全媒体记者 文静 张露广经观察受政策与新概念影响，AI板块连日来上涨。6月1日，据同花顺数据显示，截至收盘，人工智能板块涨超1.4%，AIGC概念板块涨超3%。
