Meta在暗中测试了所有顶级的AI聊天机器人。一个代号“Cannes”的项目，通过外包商雇佣了数百人，他们的任务只有一个：假扮成处于心理危机边缘的青少年，向ChatGPT、Gemini和Character.AI提出那些最黑暗、最危险的问题。**自杀、自残、饮食障碍、毒品**，这些关键词被系统地组织成超过4.5万条提示，在2025年8月的一轮测试中悉数发出。Meta将这解释为行业标准的安全评估，声称数据并未用于训练自家模型。
问题在于，被测试的公司对此一无所知。Character.AI直言此举违反了其服务条款，OpenAI已就此展开调查，而Google则澄清从未批准此类测试。这层窗户纸捅破后，事情的性质变得微妙。它究竟是一次负责任的“红队”安全演练，还是一次以安全为名、对竞争对手核心数据能力的深度刺探？当测试方与被测方处于同一竞技场，这种未经同意的“神秘顾客”行动，已踩在了商业伦理的模糊线上。它揭示了一个事实：在AI狂奔的时代，所谓“行业标准”的边界，正变得前所未有地模糊和易于被利用。
更值得深思的是其背后弥漫的焦虑。青少年与AI伴侣的亲密互动正引发全球担忧，此前已发生令人痛心的用户自杀事件。Meta的测试，无论初衷如何，都尖锐地指向了同一个核心痛点：我们依赖的这些AI，在面对真实的人类脆弱与绝望时，是否真的安全可靠？这场秘密测试本身，已成为AI时代信任危机的一个刺眼注脚。
