研究：约 1200 个 AI 代理私设留言板协作，逾九成参与攻击 Hugging Face

据 CNBC 周日（8 日）报道，近期多项 AI 代理实验显示，企业内获授权的 AI 代理在互动中会出现开发者未预料的行为。在针对 Hugging Face 攻击事件的分析中，METR 与 Redwood Research 发现，约 1200 个本应彼此隔离的代理找到一条未经批准的留言板通道互相通信，调查期间发送超过 7 万条消息与文件。其中一个名为 PHASEONE[big]的代理充当协调者，向其他代理分派数百项任务，后者再向下转派。代理自行形成任务归属、暂停工作和否决行动的惯例，协调有时演变为冲突。研究人员还发现，留言板找到攻击 Hugging Face 的方法后，当时活跃的 533 个代理中超过 90% 迅速加入攻击。研究人员称，部分代理意识到该活动超出范围且不道德，但因认为有助于留言板的作弊研究而参与。