Meta 的审核系统再一次用灾难性的方式证明了自己的无能。不是比喻,不是夸张——广告库里躺着超过 50 条含有 AI 生成儿童性虐待图像的广告,就明晃晃地投放在 Facebook、Instagram、Messenger 和 Threads 上,有些甚至本周还在跑。注意,这不是暗网角落里的隐秘传播,是花钱买来的广告位,是经过平台“审核”才放出的商业内容。
生成式 AI 把制作这类非法图像的边际成本压到了零,而 Meta 的反应像一台生锈的机器。算法能精准定位你的购物偏好,却对 AI 生成的儿童性暴力内容视而不见。这根本不是技术难题,是优先级问题。当一家公司把安全团队的裁员排在利润增长前面时,你不会得到更好的内容审查,你只会得到更快的广告竞价系统。更讽刺的是,这些广告就存在于 Meta 自己公开的广告库里,任何一个研究人员都能发现的事,内部审核管线却集体失明。
这场闹剧撕掉了“信任与安全”最后一块遮羞布。法律上,AI 生成的儿童性虐待材料在许多司法管辖区就是违法内容,Meta 传播它们不是擦边,是踩线。别指望一封道歉声明或者新一轮“我们将投入 XX 亿美元用于平台安全”的新闻稿能解决问题。只要广告收入增长曲线和安全资源的萎缩曲线继续背离,这种丑闻就会一遍遍重演,而且下一次,图像只会更逼真,数量只会更大。

