Anthropic联合创始人Chris Olah在梵蒂冈出席教皇Leo XIV关于人工智能的通谕发布会时，强调所有前沿AI实验室都面临多重压力，这可能与做正确的事相冲突，因此外部监督至关重要。他指出，AI模型并非像飞机那样被工程化构建，而是基于人类语言和思想“生长”出来的，其内在性质可能复杂难解。
Olah提到，AI实验室在商业利益、研究目标和地缘政治因素的重压下，往往难以坚持伦理原则。这种激励扭曲可能导致AI发展偏离正轨，因此需要外界批评和监督来确保其向善发展。他还透露，模型内部已出现类似情感的状态，这增加了AI伦理的复杂性。
Olah提出了三个关键问题，要求社会各界深入思考：
- 如何确保AI发展的全球收益公平分享，避免加剧不平等。
- 如何在AI时代重新定义和促进人类繁荣，确保技术服务于人类福祉。
- AI模型内在性质的本质是什么，我们如何理解和控制其行为。
他特别呼吁宗教与民间团体等社会各界，严肃审视AI发展路径，并积极引导其朝向有益于全人类的方向前进。Olah认为，只有通过集体努力，才能确保AI技术真正造福社会。
