“当技术普惠与人性弱点结合时，我们正面临一场前所未有的认知战争。”清华大学新闻与传播学院副教授陆洪磊这样说道。2月24日，今日头条“平台治理开放日”活动在北京举办，相关业务负责人与学界专家围绕网络虚假谣言、同质化发文、AI低质内容等领域的安全治理问题进行了深入讨论。
每经记者：杨昕怡 每经编辑：陈俊杰北京每经2月24日电（记者 杨昕怡）在今日的“今日头条平台治理开放日”上，今日头条生态治理运营负责人韩雨桐表示，随着AI技术的发展，关于低质AI生成内容的治理已成为内容平台的新挑战。
网信办等四部门新出台的AI内容标识新规，将于今年9月1日施行，以应对AI技术滥用引发的虚假信息治理难题。3月17日至18日，南都针对23款应用软件的测试发现，主流AI平台、社交平台普遍已开始落地AI内容标识的要求。
2月24日，在今日头条“平台治理开放日”活动上，今日头条的发布《2024年度治理报告》显示：平台全年累计拦截不实信息超500万条，拦截和处置涉嫌诈骗内容超200万条。随着人工智能的发展，今日头条也迎来了诸多挑战，去年，拦截低质AI内容超93万条，处罚同质化发文超781万篇。
1月27日，抖音发布了2024年平台治理报告，报告显示，2024年发布AI虚拟人物治理规范，建立热点事件核实机制，推出剧情演绎标注工具，溯源打击“伪成功学”、网络水军等违规内容。经过治理，抖音不当言论展现量下降63%，正向内容得到鼓励，平台生态持续向好。
作 者丨肖潇编 辑丨王俊《哪吒2》员工愿意996是因为公司在成都分房、梁文峰在知乎上首次回应DeepSeek走红、80后死亡率突破5.2%……类似的信息正在占领互联网。它们看起来有精确的细节，但没有信息来源，仔细搜索后还有明显事实错误。不少此类内容，被指出由AI生成。
来源：中国新闻网 互联网平台，对内容领域乱象正加码治理。2月24日，今日头条“平台治理开放日”活动在北京举办。相关业务负责人与学界专家围绕网络虚假谣言、同质化发文、AI低质内容等领域的治理进行了深入探讨。据介绍，这是今日头条自成立以来首次举办平台治理开放日。
眼下，随着信息的生产、传播速度的不断加快，识别信息真伪的难度也直线上升，一些不实信息和谣言更容易获得广泛的传播。作为全网重要的信息传播渠道，内容资讯平台如何履行好“把关人”角色，一手消灭假消息，一手传播真内容，就显得尤为重要。
“冷冻馒头不能吃，超过两天会长黄曲霉毒素”“截至2024年末，80后死亡率突破5.2%”……一段时间以来，诸如此类夺人眼球、传播广泛的不实信息，浮现于各类互联网平台，让人防不胜防。数字时代，信息来源纷繁复杂，传播速度快且范围广，这类信息不仅扰乱社会秩序，也持续污染网络生态。
近日，今日头条发布2024年度治理报告，公布平台针对网络虚假谣言、网络诈骗、同质化发文、低质AI内容等问题的多项治理举措与成果。《报告》显示，平台全年累计拦截不实信息超500万条，处置不友善内容超3亿条，处罚同质化发文超781万篇。
随着AIGC（利用人工智能技术来生成各种类型的内容）创作的快速发展与迭代，网络空间变得更加丰富多元。比如，用各种模版一键上传照片，就可以生成各种有趣的小视频；看AI小猫小狗做饭，也成了近段时间的热议话题。但与此同时，AI生成的各种低质内容也铺天盖地而来，给广大用户造成信息干扰。
