10月19日,针对近期"字节跳动大模型训练被实习生攻击"的传闻,字节跳动发布声明回应称,该涉事实习生恶意干扰商业化技术团队研究项目的模型训练任务,但并不影响商业化的正式项目及线上业务,也不涉及字节跳动大模型等其他业务。网传"涉及8000多卡、损失上千万美元"严重夸大。

字节跳动称,经核实,涉事人一直在商业化技术团队实习,并没有AI Lab实习经历。其社交媒体个人简介及部分媒体报道有误。另外,该实习生已在8月被公司辞退。公司也将其行为同步给行业联盟和所在学校,交由校方处理。

此前报道

10月18日,多个微信群流传一则消息:"某头部大厂的大模型训练被实习生入侵,注入了破坏代码,导致其训练成果不可靠,可能需要重新训练。据称遭到入侵的代码注入了8000多张卡,带来的损失可能超过千万美元。"

据知情人士透露,该头部大厂为字节跳动。此事发生在今年6月,起因是某高校的博士在字节跳动商业化技术团队实习,因对团队资源分配不满,该实习生利用了HF(huggingface)的漏洞,使用攻击代码破坏团队的模型训练任务。目前,该实习生已被辞退。

一位技术安全专家表示,HF漏洞产生肯定是单一性集中训练,此事暴露了字节跳动技术训练存在安全管理问题。公司既没做权限隔离,也没有做好共用代码的审计。正常情况下,每次大的代码变动必须做审计,无论谁做操作都有痕迹记录,一个人想动代码是不可能的。