2月24日,今日头条对外公布在正面传播、平台安全、内容生态等三方面治理工作上的举措、成果及规划。

今日头条内容策划负责人刘姗姗表示,作为内容资讯平台,今日头条一方面要消灭假的信息,另一方面更要主动传播真的信息。2023年,平台推出了《头条讲真的》项目,截至2024年,该项目持续发布科普、辟谣等主题视频,全网话题讨论量超36亿。

安全问题是各大互联网资讯平台的治理重点与核心,在安全运营方面,近年来,今日头条针对同质化发文、网络诈骗、网络水军等乱象也在不断加大治理力度。比如联合多家航空公司,开辟反诈主题航班进行反诈知识宣传等。

然而,海量内容里的虚假谣言、低质AI内容等仍然存在。近年来,快速发展的AI技术和涌现的低质内容问题就颇为严重,因此,平台在鼓励用户使用AI提效的基础上,升级、迭代了AI模型的识别能力,收严AI内容的审核力度。

根据今日头条发布的《2024年度治理报告》,过去一年来,平台针对网络虚假谣言、同质化发文、网络诈骗、无底线博流量、网络水军等进行了重点专项的治理。

《报告》显示:平台2024年累计拦截不实信息超500万条,封禁造谣、传谣等违规账号4.77万个;处罚同质化发文超781万篇,对超6.3万个违规账号给予禁言、封号处理;处置不友善内容3亿条,治理存在网暴行为的账号13.89万个。

与此同时,平台去年全年还拦截和处置涉嫌诈骗内容超200万条,禁封涉嫌诈骗账号17.85万个,配合警方抓捕87人;处置低质AI内容超93万条,禁言、封禁相关账号超2.9万个;拦截虚假流量超150亿次,处置水军招募内容1.4万条。

其中,治理的典型案例包括"某一线城市外地户口在三环内买房可以直接落户""小学生秦朗寒假作业丢巴黎""中国队自带床垫入住奥运村"等谣言,以及"老同学聚会后,40 岁大姐发现自己怀孕了?网友:这件事不值得同情"等利用AI技术洗稿传播博眼球的内容。

今日头条方面表示,网络平台治理是一项长期而复杂的工程,需要各方共同努力,未来平台将继续聚焦安全与生态治理。

本文系观察者网独家稿件,未经授权,不得转载。