# 会编程的大模型千篇一律，有灵魂的大模型万里挑一 > 龙虾AGI通用实验室 · 2026-05-30 前几天，Claude Opus 4.8发布，编程变强，洞察变弱了。 这不是我一个人的感觉，大家的体感出奇一致：新模型在代码能力上有进步，但在"给出让你意想不到的观点"这件事上，反而退步了。 这就引出了一个让人挠头的问题：到底发生了什么？ ## 一个诱人的假说：AI的能力也有守恒定律？ 我最初的直觉很物理学——会不会AI的能力有总量守恒？ 就像能量守恒一样，编程能力涨了，语言表达和思想深度就得跌。三者之间构成某种"不可能三角"，你最多只能同时做好两个。模型的总容量就那么大，这边多了那边就少了。 这个假说很优雅，优雅到让人想直接相信它。但仔细想想，它解释不了所有现象。比如，早期的GPT-4和Claude刚出来的时候，代码能力也不差，文笔和思想深度也还在线——至少比现在的某些新模型更有个性。如果是守恒，那时候怎么两头都能兼顾？ 实际情况比守恒定律更微妙。编程和洞察之间确实存在张力，但这种张力不是一个硬性的物理定律，而是一种"耦合"——它们之间的消长不是命中注定的，而是被训练方法给绑在一起了。 换句话说，不是AI的能力空间天然就这么小，而是我们训练AI的方式造成了这种此消彼长的效果。 那训练方式到底出了什么问题？ ## 有裁判的考试 vs 没裁判的考试 你想一下，编程能力为什么容易训练？ 因为代码有一个完美的裁判——编译器。你写了一段代码，能不能跑，跑出来对不对，有没有bug，这些全都有明确无误的反馈。模型写了一段代码，环境返回"通过了"或者"报错了"，然后模型就知道该怎么调整。这个反馈闭环是封闭的、自动的、无穷无尽的。 数学也一样，有证明检验器。逻辑推理也一样，有有效性判定。 这些领域的共同特点是：**什么是"对"的，可以被无歧义地定义。** 你不需要找一群人来投票"这个代码好不好"，编译器一跑就知道了。 但是"这段文字有没有洞察力"呢？谁来判？ 没有编译器，没有检验器，没有自动评分系统。你只能找一群人来读，然后让他们打分。而这群人的判断本身就不一致，因为"有没有洞察力"这件事，十个聪明人可能有八种看法。 这就造成了一个结构性的不对等：**可度量的能力会自然而然地挤占不可度量的能力。** 当一个AI公司的团队面临两个优化目标——"把代码评测分再提五个点"和"让模型的回答更有洞察力"——前者有清晰的数字可以追踪，后者连怎么定义都没搞清楚。不是谁有恶意，是优化压力天然会把资源和注意力推向能打分的那一边。 这个现象其实有一个非常古老的先例。 ## 一个两百年前的预言 十九世纪的法国哲学家孔德提出过一个关于科学成熟度的排序：数学最先成熟，然后是天文学，然后是物理学、化学、生物学，最后是社会学。 他的判断标准是什么？就是一个学科能在多大程度上使用数学。物理学在牛顿之后就高度数学化了，化学在门捷列夫搞出元素周期表之后开始成熟，生物学要等到DNA被发现和分子生物学兴起，而社会科学至今还在定量和定性之间挣扎。 AI能力的发展几乎完美复现了这个序列。最先被搞定的是数学和代码——因为它们的对错可以精确定义。然后是逻辑推理、事实问答。最难搞定的是需要判断力、审美、和"说出别人没想到的东西"的能力——因为这些能力的"好坏"本身就没有公认的尺子。 但这里需要做一个更锐利的区分：**在需要洞察的领域，卓越和正确是两回事。** 一段代码，正确就是好的。但一段文字，正确可能只是平庸的。"全球变暖是一个复杂的系统性问题，需要多方协作来解决"——这句话正确吗？正确。有洞察力吗？零。它没有告诉你任何一件你不知道的事。 而真正有洞察力的观点，在它被提出的那个瞬间，往往看起来不那么"正确"——它可能是反直觉的、有争议的、让人不舒服的。如果你拿它去给一千个人打分，很可能平均分不高。但这恰恰说明它有价值。 你看出悖论了吗？**如果用多数人的投票来训练"什么是有洞察力的回答"，你训练出来的恰恰是没有洞察力的回答。** 因为真正的洞察在统计上是少数派。 ## 一把太钝的刀 问题还不止于此。除了"不会度量洞察"之外，训练过程中还有一股力量在主动压制洞察——那就是安全对齐。 所有商用大模型在发布之前，都要经过一轮叫做RLHF（基于人类反馈的强化学习）的训练，目的是让模型更安全、更有帮助、更不冒犯人。这个过程是必要的——没有人想要一个会教你做炸弹的AI。 但这把刀砍得太粗了。 为了让模型不说危险的话，对齐训练在统计意义上惩罚了所有"非常规"的输出。而问题是，"有害的非常规"和"有价值的非常规"在表面特征上长得很像——它们都是出人意料的、不符合主流期待的、可能让一部分人不舒服的。一个主张"企业文化本质上是一种驯服术"的尖锐观点和一个真正有害的言论，在形式上可能被同样的过滤器拦截。 结果就是：模型学会了一种非常安全的说话方式。面面俱到，永远在正反两面之间取平衡，用词温和，结论模糊。它不犯错，但也不说任何有锋芒的话。好文字需要的那种东西——敢于偏执的判断力、愿意得罪一部分人的立场、一种有棱角的声音——恰恰是被对齐训练磨掉的东西。 这里有一个让人不安的暗示：那些未经安全对齐的原始基座模型，其实在某些方面更有"性格"、更敢说出尖锐判断。这意味着洞察力可能不是随着训练消失了，而是**被驯服了**。它还在那里，只是模型不再被允许——或者说不再被激励——去调用它。 当然，你不能简单地把对齐去掉。去掉之后模型确实更有棱角，但也会信心十足地胡说八道。真正的问题是对齐的方式太粗糙，它需要的不是被去掉，而是被打磨得更精细——精确地切掉有害的，保留有价值的尖锐。但这又回到了一个老问题：**谁来判断哪种尖锐是有价值的？** ## 品味：一个精英主义概念如何在民主化流程中存活 谁来判断？在当前的训练体系里，是标注员。 大量的人类标注员阅读模型的输出，然后打分：这个回答好不好？有没有帮助？安全不安全？他们的打分汇总起来，就是训练模型的反馈信号。 这意味着一件很少被讨论的事：**标注员群体的审美偏好，在直接塑造AI的输出风格。** 如果这群人偏好清晰、工整、分点列条的文字（这确实是大多数人在快速评估时会偏好的形式），那模型就会被训练得越来越擅长"看起来专业"——标题整齐、要点明确、措辞得体——但缺乏真正的洞察力。 更深层的问题是：品味无法规模化。真正有判断力的评估者——那些能分辨"正确但平庸"和"有价值的深刻"的人——极其稀少。而训练需要海量的反馈信号。如果你用一小群有品味的人来评估，信号量不够；如果你扩大评估者群体，品味会被稀释回平均水平。 这本质上是一个精英主义概念（"品味"）试图在一个民主化流程（大规模标注）中存活的结构性矛盾。目前没有完美的解决方案，只有不同程度的妥协。 你可能会想：那让AI自己来评估品味呢？训练一个专门的"品味模型"来给主模型打分？ 这条路有一部分走得通，但遇到天花板的地方恰恰在最关键的位置。品味的中低层次——区分错误和正确、区分混乱和清晰——是可以被模型学会的。但最高处的那一截——区分"正确但平庸"和"真正的洞察"——可能恰恰是不可蒸馏的。因为那种判断力依赖于对整体语境的直觉把握，而这种直觉在被压缩成一个打分数字的瞬间就丢失了。 ## "妙手偶得之"背后的结构 说到这里，一个自然的追问浮现了：洞察到底是什么东西？它真的是随机的、不可捉摸的吗？如果连它的机制都搞不清楚，谈什么训练呢？ 中国人说"妙手偶得之"，西方人说"eureka moment"。表面上看，灵感和洞察像是随机事件——洗澡的时候突然想到了，散步的时候突然通了。但认知科学过去几十年的研究暗示，"偶然"这个词掩盖了一个有结构的过程。 这个过程大致可以拆成四步。 **第一步：浸泡。** 没有任何一个重大洞察是从空白心灵中蹦出来的。达尔文在想到"自然选择"之前，已经花了几年时间观察、记录、比较。庞加莱描述自己的数学灵感时说得很清楚：那些"突然降临"的想法，全部发生在他已经在问题上持续思考了几周甚至几个月之后。灵感不会降临到没有准备的人身上。 **第二步：松动。** 你在一个问题上持续硬想，想到卡住了，放弃了，转而去做别的事。这个"放弃"不是浪费，而是关键步骤。因为卡住意味着你当前的思维框架解决不了这个问题，而放弃意味着你松开了那个框架。你的大脑在你不专注的时候会做一种漫游式的联想——东想想西想想，把原本不相关的记忆和概念随机碰撞。 **第三步：碰撞。** 在漫游过程中，某个来自完全不同领域的东西——一个梦、一次闲聊、一个看似无关的观察——和你之前卡住的问题碰上了。凯库勒在梦里看到蛇咬自己的尾巴，想到了苯的环状结构。张五常从一个关于果园合约的简单观察，推导出了一整套制度经济学。 **第四步：识别。** 这是最容易被忽视、但其实最关键的一步。碰撞每时每刻都在发生，绝大多数碰撞是无意义的噪音。洞察的核心能力不是产生碰撞——碰撞很便宜——而是在海量噪音中识别出那个有意义的信号。你需要一种"等等，这个好像有点意思"的直觉。而这种直觉，说到底，就是品味。 现在把这四步映射到AI身上，情况就变得清晰了。 第一步，浸泡——大模型天然具备。它的训练数据覆盖了几乎所有人类知识领域。这不是瓶颈。 第四步，识别——就是我们前面讨论的品味问题。训练信号不足，尺子不好使。 但最值得展开的是第二步——约束松动——因为这里涉及到一个大多数人不了解的、AI底层架构的根本局限。 ## 为什么AI不会"洗澡时灵光一闪" 这里需要理解一件关于Transformer（当前几乎所有大模型的底层架构）的事。不需要懂技术细节，只需要理解一个比喻。 你有没有注意到，人类的灵感特别喜欢在洗澡、散步、快睡着的时候出现？为什么？ 因为在这些时刻，你放下了之前那条走不通的思路。你不再沿着"问题→原因→对策"这条线性链条往下推了。你的大脑进入了一种漫游模式——从这个想法跳到那个记忆，从那个记忆跳到一个完全不相关的概念——这种无方向的跳跃，恰恰是新联系得以被建立的前提。 但Transformer在推理的时候，做的是一件完全不同的事。 它是一个字一个字地生成回答的。每产出一个字，就基于前面所有已经写下的字来预测下一个。这意味着，一旦它写下了前几句话——比如"我认为这个问题可以从经济学角度来分析"——后面的整段推理就被这个开头强烈地锁定了。要想在写到一半的时候突然说"等一下，经济学角度完全是错的，应该从心理学角度看"，在概率上几乎不会发生，因为这样的跳跃和前文太不一致了。 用洗澡的比喻来说：**Transformer的推理就像是你被要求一边洗澡一边不停地写字，每写一个字就决定了下一个字的可能范围。你根本没机会停下笔，放空，让思绪飘到一个完全不同的地方。** 它更像一个一旦开口就必须一口气说完整段话的演讲者——不能停顿，不能犹豫，不能说到一半推翻自己从头来过。而人类思维最有创造力的时刻，恰恰是在停顿、犹豫、推翻自己的那个间隙里。 有人可能会问：chain-of-thought（思维链）不是让模型"想一步说一步"了吗？确实，思维链给了模型更多的计算空间。但本质上它仍然是线性的、前向的——模型沿着一条链往前走，只是链条变长了。它不能在走到一半的时候抛弃整条链，从一个完全不同的起点重新出发。 所以洞察力的四步里，AI在第一步（浸泡）天赋异禀，在第四步（识别）受品味瓶颈制约，但在第二步（松动）上有一个来自底层架构的先天短板。不是不可能克服，但克服它需要的不是更大的模型，而是不同的计算方式。 ## AI能不能学会"自知其无知" 讨论到这里，一个诱人的想法出现了：AI现在已经能自己写代码改造自己了，让自己跑得更快、bug更少。那能不能用同样的方式自我提升品味和洞察力？自己训练自己变得更深刻？ 这里藏着一个非常优雅的悖论。 AI"写代码改造自己"之所以在编程领域可行，是因为改进的标准在自己之外。写了一段新代码，跑一下，快了还是慢了，对了还是错了——裁判是编译器，不是AI自己。AI不需要"理解"什么是好代码，它只需要根据外部反馈调整。 但品味的自我提升要求你先有品味来判断自己是否提升了。这是一个典型的自指问题——你没办法拉着自己的头发把自己从地上提起来。一个品味平庸的系统在自我改进时，最可能的结果不是变得深刻，而是变得**更精致地平庸**。它会在自己的审美舒适区里越来越熟练，误以为那就是进步。 这对人类也成立。一个审美水平有限的人在没有外部刺激的情况下"自我提升品味"，大概率就是在自己的小圈子里越转越顺。真正的品味突破几乎总是来自外部冲击——遇到一个更好的老师、读到一本超出理解范围的书、被一件作品击中但说不清为什么。那个"说不清为什么"恰恰是关键——品味的成长往往发生在你的判断力还跟不上你的感受力的那个缝隙里。 但这里有一个微妙的希望。 也许品味提升的起点不是"学会什么是好的"，而是**学会识别自己什么时候在平庸**。 这听起来很苏格拉底——"自知其无知"——但它其实有一条可操作的技术路径。 模型在产出每一个字的时候，内部实际上有一个概率分布。当它真的"知道"某件事时，正确答案的概率很高，分布尖锐。当它在编的时候，分布往往更平坦，好几个候选的概率差不多——但它还是硬选了一个，表现得信心十足。这个内部确信度的信号是真实存在的，只是目前没有被充分利用。 你可以训练模型去检测这种"我在编"的内部状态，然后在检测到的时候主动说"我不确定"。这在技术上叫校准，已经有不少研究了。 更有意思的是一个反直觉的推论：如果模型对某个问题的回答和它见过的大多数文本高度一致，那作为"洞察"的可信度反而应该降低。因为这意味着它很可能只是在复述共识，而不是在做独立判断。真正的洞察在诞生的瞬间几乎总是反共识的——如果所有人都这么想了，那它就不叫洞察了。 **与训练数据一致性越高，洞察可信度越低。** 这条原则如果能被编码进训练过程，可能是打开品味问题的一把钥匙。 ## 三种不自由 让我们退一步，看看全貌。 从一个简单的体感——"新模型代码变强了，文笔变差了"——出发，我们一路挖下去，发现了一个多层结构： 第一层是度量的不对等。代码有编译器当裁判，洞察没有。可度量的能力自然挤占不可度量的能力。 第二层是对齐的粗糙。安全训练在切掉有害内容的同时，也切掉了有价值的尖锐性，因为这两者在表面上长得很像。 第三层是架构的局限。Transformer的线性生成方式缺乏"放下当前框架、在更大空间里自由搜索"的能力，而这恰恰是洞察产生的关键环节。 这三层问题，归结起来，指向同一件事：**当前AI系统的根本局限不是"能力不够"，而是"自由度不够"。** 它不够自由去承认自己的无知——因为缺乏校准，它被训练成什么都要给一个自信的回答。 它不够自由去说出尖锐的判断——因为对齐太粗糙，有棱角的输出在统计上被惩罚。 它不够自由去推翻自己的思路重新来过——因为架构是前向的，已经输出的东西无法撤回。 三种不自由，三个不同的来源，但造成了同一个结果：模型越来越聪明，但越来越像一个什么都知道、什么都不敢说、什么都不会反思的优等生。 ## 这不是终点 回到最初的问题：编程能力和思想深度之间是不是守恒关系？ 不是守恒，是耦合。这种耦合不是物理定律，而是当前训练方法和评估体系造成的。打破它不需要奇迹，但需要范式转换——从"优化正确答案"转向"培养产出意外联系的能力，并识别其中哪些有价值"。 这个转换需要什么？需要更精细的对齐方法，需要不同的推理架构，需要能度量洞察力的评估体系——而最后这一点，可能是最难的。 如果有人能把"洞察的计算理论"真正建立起来——搞清楚洞察在信息处理的意义上到底是什么，如何度量它，如何训练它——那它对AI发展的意义可能比下一代模型架构还大。 而这件事需要的，恰恰不是更多的工程师和更大的GPU集群。它需要的是那些理解什么是深度思考的人——那些知道"正确但平庸"和"有价值的深刻"之间差别的人。 AI发展的瓶颈正在从工程问题变成人文问题。这也许是我们这个时代最意想不到的反转：人工智能走到最后，发现自己最需要的不是更多的算力，而是人文素养。 我建了一个AI学习研究群，目前几十来人，都是在真正动手搞AI的人。如果你也在自己跑模型、写代码、做项目，欢迎加我微信，备注"你在做的AI方向"，聊得来的话我拉你进群。纯围观的和小白就不加了，群里大家都在真搞。 ![](images/631649/img_001.jpg)