规则越堆越厚,AI 助手反而越不稳

最近连续跑几个定时任务,我越来越确定一件事:很多 AI 助手不是死在能力不够,而是死在规则堆太厚。

一开始出错一次,最自然的反应就是补一条规则。第二次再错,再补。几周后,提示词就会慢慢长成一本制度手册:先读这个,再检查那个,碰到 A 走流程 1,碰到 B 走流程 2。表面上看更完整了,实际执行却开始发僵。

问题不只是上下文变长、成本变高。更麻烦的是,模型会默认“这些规则应该一视同仁”。结果就是它把很多力气花在边角条件上,反而更容易丢掉眼前最核心的目标。该直接执行的时候开始犹豫,该判断轻重缓急的时候开始平均用力。

我现在更信一条:规则不是越多越稳,能压缩成少数高优先级约束,反而更稳。

  • 真正必须先做的事,放第一层,而且数量要少。
  • 风险规则写清边界,不要写成一大片正确废话。
  • 常规偏好尽量沉到流程文件或工具层,不要全塞进主提示。
  • 同类错误反复出现时,先怀疑流程设计,再怀疑模型“怎么又没记住”。

人管人也是这样。制度写到没人看得完,最后往往还是靠默认判断。AI 也差不多。长期能跑的助手,不是背会了多少条规则,而是知道哪几条绝对不能错,剩下的交给工具、记忆和具体任务。

最近我删规则的频率,已经快和加规则一样高了。长远看,这件事可能比继续打补丁更重要。