AI的第一性原理 | AI产品的广义圣维南原理

一、大模型到底在充当什么角色？

我们都在产品里接入大模型，但如果你回头看看大模型在产品中实际干的事情，你会发现一个有意思的现象：大模型最常见的角色，不是"写文章"，不是"画图"，不是那些大家挂在嘴边的"生成式AI"场景。

它最常见的角色，是一个判断器。

判断一段用户输入属于哪种意图。判断当前对话应该走哪个分支。判断一段内容是否合规。判断两段文本是否在说同一件事。判断一个工单应该派给谁。判断一条反馈是正面的还是负面的。

这些判断看起来平平无奇，但它们是让整个系统能够自动运转的关键齿轮。一旦这些判断必须依赖人工，流程就断了，自动化就是一句空话。

那么问题来了：这些判断，以前不是不想自动化，是根本做不到。为什么？

二、以前做不到，是因为"说不清楚"

答案不是算力不够，不是没有好的算法框架，而是一个更根本的困难：很多判断标准，你用自然语言能说清楚，但是用代码的语言说不清楚。

"这封邮件是不是在投诉？"

你作为一个人，看一眼就知道。但你试试用 if-else 来定义"投诉"。你会发现：包含"垃圾"这个词的未必是投诉，没有任何负面词汇的有时候恰恰是投诉，同样一句"好的，我知道了"在不同语境下可以是满意也可以是不满。

"这个用户的问题属于哪个产品模块？"

你的产品有 30 个模块，用户的描述千奇百怪，同一个问题换一种说法就可能被分到完全不同的类别。你写了 200 条规则，覆盖了 80% 的情况，剩下 20% 怎么也兜不住，而且新的说法每天都在冒出来。

这是传统规则系统的根本困境：它要求你把判断标准精确地编码成布尔逻辑。但现实世界中大量的判断，是"你知道，但你写不出来"的。

分类太多，无法穷举。边界模糊，无法用阈值切割。规则之间互相纠缠，改了一条就破坏了另外三条。这不是工程能力的问题，而是精确描述本身有一个适用边界。有些东西，它天然就不适合被精确表达。

三、大模型的解法：用"不精确"解决"无法精确"

大模型的做法是反过来的。

它不试图精确定义"投诉"是什么。它见过几百万封投诉邮件和非投诉邮件，从中学会了一种模糊的、统计性的判断能力。它说不出"投诉"的充要条件，但它能在绝大多数情况下给出正确的判断。

这里面隐含了一个非常深的权衡：

大模型用精确度的降低，换来了一种全新的能力：处理那些你根本无法用代码描述的判断。

传统程序的逻辑是：我写得清楚的，它做得精确；我写不清楚的，它完全做不了。

大模型的逻辑是：你写不清楚的，它也能做，只是不保证每次都对。

所以真正发生的事情，不是"大模型取代了程序"。而是一种交换：精确性下降了，适用性上升了。

以前 100% 可靠的规则系统，覆盖范围可能只有 20%。现在 95% 可靠的大模型，覆盖范围可以到 98%。产品真正能自动化运转的部分，反而大幅增加了。

想到这里，一个更深层的问题浮现出来：这种交换，是偶然的、可以被技术进步消除的，还是一种根本性的约束？精确性和适用性之间，到底是什么关系？

四、这让我想到了圣维南原理

当我意识到"精确性和适用性之间存在某种守恒"的时候，脑海里第一个浮现的就是固体力学中的圣维南原理。

圣维南原理说的是这样一件事：

假设你在一根梁的端面上施加了一组非常复杂的力。现在你把这组力替换成一组更简单的力，只要求合力和合力矩跟原来相同（也就是"静力等效"），那么：

在靠近端面的地方（近场），应力分布会有明显差异。简化后的力系和原来的力系，在细节上是不一样的。

在远离端面的地方（远场），应力分布几乎完全相同。简化带来的偏差迅速衰减，整体效果不受影响。

换句话说：细节上的不精确，不影响整体效果。而且，不精确的影响是局部的、可控的、会衰减的。

这跟大模型在产品中的表现，有一种结构上的相似。

大模型替代精确规则，就像用一组简化的力替换了一组复杂的力。在"近场"，那些直接需要精确处理的地方，比如精确的数值计算、严格的格式校验、复杂的逻辑推理链，大模型的偏差是明显的，它确实不如确定性代码可靠。

但在"远场"，经过层层聚合和抽象之后的最终业务效果，大模型和精确规则的表现是等效的，甚至大模型更好，因为它覆盖了精确规则根本触达不了的输入空间。

于是我开始想：这里面是不是也存在一个类似圣维南原理的东西？不是力学意义上的，而是AI产品设计层面的，一种"广义圣维南原理"？

五、AI产品的广义圣维南原理

如果要把这个直觉提炼成一个相对明确的原理，我会这样表述：

当一个复杂系统的精确描述不可行或不经济时，可以用一个在关键度量上等效但在局部细节上模糊的替代方案来处理。由此引入的误差集中在"近场"（与简化直接相关的局部区域），并可以随着"距离"（抽象层次、聚合程度、业务链路长度）而衰减，不影响系统的整体行为。

这句话里有几层含义，值得逐个拆开：

第一层：精确性和适用性之间存在结构性约束。

这不是"当前技术还不够成熟"的问题。即使大模型继续进化，这个约束的结构也不会消失。你可以把帕累托前沿往外推，但前沿本身始终存在。想要在无限广的输入空间上做到每一个点都精确，所需要的描述复杂度是无穷的。有限的系统，必须在精确性和适用性之间做取舍。

第二层：误差不是均匀分布的，而是"近场集中"的。

这一点在实践中非常重要。大模型不是"在所有地方都不太靠谱"，它在某些特定类型的任务上不靠谱（精确计算、严格格式、长链逻辑推理、需要精确记忆的场景），而在另一些任务上则非常可靠（意图识别、内容理解、模式匹配、语义判断）。

这意味着你不需要全面妥协。你可以画出你的"近场地图"，知道哪些地方需要加护栏，哪些地方可以放心交给大模型。

第三层：远场的等效性不是自动保证的。

这是我对原版圣维南原理的一个重要修正。

在力学中，误差衰减是偏微分方程的数学性质自动保证的。椭圆型方程天然会"抹平"局部扰动，你不需要额外做什么。

但在AI产品中，情况完全不同。误差不但可能不衰减，还可能被放大。

最典型的例子是Agent工作流中的串联放大。如果一个多步推理任务的第一步出了错，错误会被带入第二步的前提，第二步在错误前提上继续推理，越走越远。这不是衰减，是发散。

另一个例子是大模型幻觉的自我强化。模型在前面编造了一个不存在的概念，然后在后续对话中把这个概念当作既定事实继续引用和推演。误差没有消散，反而获得了越来越多的"支撑"。

所以这就引出了一个关键区别：力学中的圣维南原理是"免费"的，方程本身就保证了衰减。AI产品中的"圣维南效应"是需要你花代价去构建的。 你需要在关键节点设置校验机制，在多步流程的每一步做独立检查，用确定性代码兜底关键计算。衰减不是天赐的，是设计出来的。

这个修正反而让这个原理更有实践价值：它不仅告诉你"存在近场和远场"，还警告你"如果你不主动设计衰减机制，远场也会被污染"。

六、这个想法居然有科学支撑

想到这些之后，一个自然的自我质疑出现了：这是不是只是一种"搞工程的人的直觉"？有没有更硬的理论依据？

带着这个问题去做了一些检索，发现了一件让我意外的事情。

2025年7月，耶鲁大学数字伦理中心的Luciano Floridi教授在学术期刊Philosophy & Technology上发表了一篇论文，标题是《A Conjecture on a Fundamental Trade-Off Between Certainty and Scope in Symbolic and Generative AI》（关于符号AI与生成式AI中确定性与范围的基本权衡的一个猜想）。

他提出的核心猜想，用最简化的语言说就是：确定性（Certainty）乘以范围（Scope）受到一个常数的约束。 确定性越高，系统能处理的范围就必须越小；范围越大，确定性就必然下降。如果你要求系统的输出 100% 可靠，它的适用范围必然被压缩到很小的领地；任何适用范围足够大的系统，都必然存在不可消除的错误率。

这跟我从工程实践中提炼出的"精确度乘以适用性等于定值"的直觉，在数学结构上几乎是同一件事。

更重要的是，Floridi不是凭空猜想。他的论文把这个权衡跟多个已有的理论基础联系了起来：

No Free Lunch定理：不存在一个算法在所有可能的问题上都优于其他算法。你在某类问题上表现更好，必然在另一类问题上付出代价。

PAC学习理论：假设空间越复杂的学习器，要保证输出的正确性，就需要越多的样本量。学得越广，保证就越弱。

知识表示中的表达力-可处理性权衡：逻辑语言的表达力越强，在其中做推理的计算复杂度就越高，往往导致不可判定或指数爆炸。

多个学科，从不同的角度，收敛到了同一个结论：适用范围和可靠性之间的权衡，不是偶然的工程现象，是一种可能具有定律地位的结构性约束。

但Floridi的猜想是哲学和信息论层面的。它告诉你"这个权衡存在"，但没有告诉你"在一个具体的AI产品中，误差集中在哪里、怎么分布、怎么管理"。

这恰好是"广义圣维南原理"可以补充的维度。Floridi给出了全局约束，圣维南类比给出了空间结构。两者结合，才构成一个既有理论深度、又能指导工程实践的完整框架。

七、对AI产品设计的启示

说了这么多，回到最实际的问题：如果接受了这个框架，它对我们设计AI产品有什么具体的指导意义？

第一，不要试图让大模型在所有地方都精确。

这是在对抗一个基本约束，注定徒劳。很多团队花了大量精力在 prompt engineering 上试图让大模型"不要犯某个特定的错误"，这种做法在近场（精确性敏感的区域）收效甚微。正确的做法是：识别近场，用确定性代码处理；识别远场，让大模型自由发挥。不要在错误的战场上打仗。

第二，先画出你的近场地图。

在你的产品中，哪些环节对精确性高度敏感？价格计算、合规校验、格式化输出、涉及法律或财务后果的判断——这些是你的近场。大模型可以参与这些环节的前期处理（比如信息提取），但最终的判定必须由确定性逻辑来兜底。

哪些环节对泛化能力高度依赖？用户意图理解、内容分类、语义匹配、对话管理——这些是你的远场。在这里，大模型的"模糊判断"不是缺陷，是核心竞争力。不要试图在这些地方用穷举规则去约束大模型，那样做既增加了维护成本，又降低了泛化性。

第三，主动构建衰减机制。

记住：AI产品中的误差衰减不是免费的。如果你的产品有多步流程（Agent 工作流、多轮对话、自动化流水线），你必须在每一步之间设置独立的校验逻辑。不要把整条链路的可靠性押在大模型"一次性做对"上。

具体的做法包括：关键步骤的输出做格式校验和语义校验；多步推理的中间结果用确定性代码交叉验证；允许系统在检测到异常时回退或请求人工介入。这些不是"保守"，而是在为远场的等效性提供保障。

第四，接受"足够好"。

追求在无限广的输入空间上做到 100% 精确，是不可能的。这不是你的团队不够好，是定律不允许。合理的目标是：在近场通过规则兜底达到接近 100% 的可靠性，在远场通过大模型的泛化能力达到"足够好"的覆盖度。两者的组合，总体效果优于任何一种单独使用。

这也是为什么现在业界普遍采用的"大模型加护栏"架构不是一种折中或妥协，而是在这个基本约束下的最优策略。它相当于在帕累托前沿上选了一个比纯规则和纯大模型都更好的工作点。

八、这个权衡比AI更古老

最后说一个更大的视角。

精确性和适用性之间的权衡，不是AI时代的发明。它是一个贯穿了整个人类解决问题历史的深层结构。

在数值计算中，有限元方法把连续体离散成有限个单元，每个单元内部用简化的插值函数近似真实分布。你在每一个点上都不完全精确，但你保证整体行为是对的。

在算法理论中，NP难问题的近似算法放弃了寻找最优解，用可控的精度损失换来了多项式时间的计算可行性。

在信息论中，有损压缩用可接受的失真换来了可操作的文件大小。

在科学方法论中，牛顿力学不精确（光速附近失效、微观尺度失效），但它用三条定律覆盖了日常经验的绝大部分。

在认知科学中，Herbert Simon 在 1956 年提出的"有限理性"（bounded rationality）说的是同一件事：当最优解的搜索成本太高时，理性的做法不是继续搜索，而是接受一个"足够好"的解。

大模型不过是这个古老结构的最新实例。它之所以引人注目，是因为它第一次让这个结构以如此直观的方式暴露在每一个产品开发者面前：你每天都在做"精确性还是适用性"的选择，只是你可能从来没有意识到，这背后有一个不可逾越的约束在支配着你的选择空间。

理解了这一点，你就不会再纠结"大模型为什么不够精确"这个伪问题。

真正值得思考的问题是：在精确性和适用性的帕累托前沿上，我的产品应该站在哪个位置？

这才是AI产品设计的第一性原理。

· · ·

我建了一个AI学习研究群，目前几十来人，都是在真正动手搞AI的人。如果你也在自己跑模型、写代码、做项目，欢迎点赞关注转发一键三连，然后加我微信，备注写清"你在做的AI方向"，聊得来的话我拉你进群。纯围观的和小白就不加了，有一定门槛。