3月30日,抖音总裁韩尚佑在2025中国网络媒体论坛上宣布,"抖音安全与信任中心"网站(95152.douyin.com)上线,面向社会公开抖音算法原理、社区规范、治理体系和用户服务机制。
据悉,该网站首次公开抖音推荐算法原理,介绍其推荐算法如何预估用户行为概率,并通过多目标建模等方式实现更优质、丰富的内容推荐。
韩尚佑在会上透露,很多人对推荐算法技术存在误解,认为算法是给内容打上对应标签,再通过给用户打上对应的属性,最后通过数据运算,把对应标签的内容,推荐给有对应属性的用户。
但随着机器学习技术的发展,抖音的推荐系统,已经几乎不依赖对内容或者用户打标签,而是通过一系列神经网络计算,直接预估每一个用户对每一个内容的目标行为,比如点赞、关注、分享、评论的概率,并挑选出概率最大的一部分内容,推荐给用户。
这意味着,算法无需理解内容类型或语义,就能直接预测用户行为。
而算法需由平台治理体系对其进行约束和规范,近年来,网络暴力、谣言等平台生态治理问题备受关注。对此,该网站也披露了抖音平台治理的审核流程,阐述平台如何应对谣言、网暴等违规内容带来的挑战。
韩尚佑表示,抖音投入了非常多额外资源,建设了一套完整的内容治理体系。通过对内容进行机器和人工识别,在不同阶段过滤掉不好的内容,来解决因为系统对内容理解缺失带来的安全问题。
在用户最终看到这些内容之前,抖音会通过一些聚类打散和重组的方式,避免内容过度密集和同质化。
与此同时,针对抵制网络暴力、未成年人保护、AI生成违规内容治理、谣言治理等典型问题,抖音也设置了相应的治理标准、识别策略、处置手段和风险巡查能力。
今年1月,抖音宣布拟推出10项措施,推动平台工作透明化。抖音方面曾表示,将以安全与信任中心为依托,介绍社会关切议题,借此让公众对平台工作更加亲身可感,回应公众关切,接受公众监督。此次网站上线,意味着相关措施正逐一落地。
不过,韩尚佑直言,抖音平台工作尚不够完善,依旧存在提高空间,欢迎大家的讨论和监督。