最懂AI的人，为何无法解释AI如何思考？

在人工智能领域，一个深刻而怪异的悖论正在浮现：构建了当今最强大模型的人，能够精确描述他们如何训练这些系统，却无法完全解释模型为何会得出某个特定答案。

从训练过程来看，现代大型语言模型的诞生并不神秘。工程师们指定一种网络架构——通常是Transformer，设定一个目标——最常见的是预测下一段文本，然后在海量数据上运行优化程序。 这意味着模型的数十亿内部参数并非由人类逐行编写，而是由训练过程自动发现并确定的。开发者可以清晰写下架构细节、优化程序以及系统被奖励达成的目标。

然而，当模型完成训练开始运行时，理解的大门却关闭了。开发者无法以任何完整的方式解释，一个训练好的模型究竟是如何一步步推导出它的许多具体答案的。内部运作如同一个黑箱，输入清晰，输出明确，中间过程却隐于迷雾。

为了撬开这个黑箱，一个名为“机械可解释性”的研究项目应运而生。其目标是将神经网络内部的运算逆向工程为人类可读的表述。该领域的现代形式与研究员 Chris Olah 及其在 Google、OpenAI 和 Anthropic 的团队紧密相连。研究的早期阶段聚焦于图像模型，彼时研究者识别出了似乎能检测特定概念的单个“人工神经元”。 随后，这一方法体系被移植到了语言模型上。

借助一种名为稀疏自编码器的技术，研究人员从模型中提取出了与各类概念相对应的可解释内部“特征”，并展示了对这些特征的控制能力。 最引人注目的一个案例是，Anthropic 的研究人员通过放大一个单一特征，制造出了一个对金门大桥异常着迷的模型版本。 进入2025年，同一研究团队引入了“归因图”，这是一种通过可解释组件来追踪模型从输入到输出路径的方法，该工作随后与IBM研究人员的可解释性探索产生了关联。

尽管取得了这些进展，负责电路追踪工作的团队也明确指出，他们的方法只能捕捉到模型计算的一小部分，即便是在处理简单提示时也是如此。有些内部电路清晰且可解释，但另一些则纠缠不清，抗拒任何解释。 一篇2026年发表于《ACM Computing Surveys》的综述文章《Bridging the Black Box》，系统梳理了该领域在神经元、电路和整体算法层面的研究方法，客观反映了当前的边界。

EntAI观点

这种“先使用，后理解”的模式在技术史上并非孤例。蒸汽机在工业中广泛使用了几十年，热力学才解释了其工作原理；阿司匹林被处方了近一个世纪，其药理机制才在20世纪70年代被阐明；全身麻醉每年进行数百万次，但麻醉如何导致意识丧失至今仍未完全厘清。 当前的AI明显契合了这一历史模式。

然而，今天的局面存在两个关键差异，使得理解滞后带来的风险更加突出：首先，与蒸汽机或阿司匹林不同，AI是一种通用工具而非专用设备；其次，它正以前所未有的速度和规模被部署到影响深远的决策中。这意味着留给理解追赶的时间窗口可能非常有限，而潜在后果却大得多。当一项我们尚未透彻理解的技术开始深度介入医疗、金融、司法等关键领域时，审慎与加速研究同等重要。