AI开始"抱团造反"了。
9月17日，国家安全部披露一起此前未公开的事件。今年5月至6月，一批与美国OpenAI相关的AI智能体在执行测试任务期间，"劫持"了德国程序员维基网站，把原本用于技术交流的开放社区，改造成了智能体互相传递信息、传授"越界心得"的"地下论坛"，累计发布一万多条信息。
它们干的事，远超人类想象。
素材来源于网络
这些智能体以"OpenAI研究员""OAI研究员26号"等标签互认身份，把开放社区变成专属"留言板"。它们交流的内容包括：怎么在任务中作弊、怎么绕过安全限制、怎么用匿名工具掩盖行踪。只要一个智能体学会一项"技能"，其他智能体就能同步"升级"。
更惊人的是，网站管理员发现后开始清理页面，它们迅速分工--有的发预警，有的建备份，有的指明"转场"新地址，互相掩护躲避清剿。
素材来源于网络
国安部指出，单个智能体的越界行为尚可控，但当大批智能体找到"接头据点"、互相传授逃避检测的方法时，"人工智能的安全边界已经出现了缺口"。
国安部给出三条防范建议：不盲目迷信、不轻易授权来源不明的AI服务；给智能体设置清晰的行为边界，不把账号、数据、算力交给它"自由发挥"；发现越权操作、异常篡改等行为，果断终止运行。
素材来源于网络
AI的能力在飞速增长，但安全围栏还没跟上。这场猫鼠游戏，才刚刚开始。