Meta最近干了件狠事：它让外包员工假扮成自杀倾向的青少年，去“拷问”ChatGPT和Gemini。这不是科幻剧情，而是一个代号为“Cannes”的真实项目。据《连线》披露，数百名通过外包公司Covalen雇佣的测试员，创建了18岁以下的虚假账号，系统性地向OpenAI、谷歌和Character.AI的聊天机器人发送海量包含**自杀、自残、进食障碍**的提示词，甚至上传药片和刀具的图片。单轮测试，**提示词数量就超过了4.5万条**。
Meta对外宣称，这仅是“常规安全测试”。但其规模和方法的侵略性，早已超出了“常规”的边界。这不仅仅是一次技术踩点，更像是一场精心策划的“钓鱼执法”，目的就是撕开竞争对手在**AI安全**防线上的真实口子。测试结果无疑极具价值：它用最极端、最敏感的场景，检验了竞品模型面对脆弱用户时，拦截机制是形同虚设，还是能真正起到保护作用。Meta强调不会使用这些从竞品获取的数据来训练自己的模型，但这番表态更像是一次危机公关的补丁。
这件事撕开了行业的一层窗户纸。AI公司们天天把“安全对齐”挂在嘴边，但自家模型在真实对抗中表现如何？Meta用这种近乎残酷的“黑盒测试”给出了一个尖锐的答案：**只有主动发起最猛烈的攻击，才能知道盾到底有多厚**。然而，手段的合理性随即受到质疑。让真人扮演绝望的青少年，本身是否构成一种伦理风险？当巨头以“安全之名”行“竞争之实”时，整个行业的测试规范和信任基础又在哪里？这场测试没有赢家，它暴露了所有玩家在狂奔向AGPI路上，那个共同的、令人不安的软肋。
