# 对某人发言的思考：如果可靠性不算智能的一部分，那到底什么才是智能？

> 龙虾AGI通用实验室 · 2026-07-24

2026年5月20日，某人用四个小时拆解了公司的技术路线、商业逻辑和对行业的判断。在大量干货中，有一句话特别值得拿出来单独咀嚼。

有人问他怎么看大模型的幻觉问题。他的回答是："对我来讲，幻觉是一个问题，但我们归结可能是产品问题。我们会去解决它，但不是重点的问题。"

产品问题。不是智能问题，不是能力问题，是产品问题。

这个归类乍听之下合情合理。但如果你顺着这句话往下想一步，会撞上一个非常根本的追问：如果一个AI分不清自己知道什么、不知道什么，自信满满地编造事实，这只是"产品"不够好，跟"智能"无关吗？

如果可靠性不算智能的一部分，那到底什么才是智能？

## 一、某人的逻辑：先把天花板顶上去，地板的事以后再说

要理解某人为什么做这个归类，需要先理解他的整个战略框架。

在那场交流会上，他把AI的发展描述为一系列阶梯：语言模型、CoT（思维链）、Agent、持续学习、自我迭代、具身智能。每一个阶梯都是在前一个的基础上搭建的。他认为当前最重要的事情是把AI的智能上限往上推，具体来说就是Scaling（模型做大）和持续学习。

在这个框架里，"智能"被定义为一种纵向的能力上限。模型在最好的状态下能解多难的题、写多复杂的代码、完成多长的任务链，这是智能。而幻觉是一个横向的质量问题，是模型在大部分时候的表现稳不稳定、输出靠不靠谱。

他的判断是：纵向的突破需要根本性的研究创新，是"全世界都还没找到好方法"的难题；横向的质量提升则是已知路径上的工程优化，"可以通过更好的Post-training解决，只是大家没有花很大的力气去做"。

这个分类在工程实践中确实有一定的经验支撑。更大、更强的基座模型在经过同样的后训练流程之后，幻觉率往往会自然下降。模型越大，见过的数据越多，"知道"的东西越多，需要编造的空间就越小。而且通过RLHF（基于人类反馈的强化学习）等对齐技术，可以专门教模型在不确定的时候表达不确定性，而不是自信地胡编。

换句话说，先把天花板顶高，地板会跟着一起上来一部分，剩下的可以通过专门的地板工程来补。在资源极度有限的情况下（DS目前只有两万张H等效算力，跟美国头部公司差一个数量级），优先攻天花板是ROI最高的选择。

从一个创业者和工程管理者的角度看，这个判断无可指摘。

## 二、但"知道自己不知道什么"，难道不是智能吗？

问题出在那个被轻轻略过的假设上：智能等于能力上限。

如果我们把这个假设拿到人类身上检验一下，会发现它是站不住的。

想象两个人。甲在自己擅长的领域表现极其出色，但在不擅长的领域同样自信满满地给出错误答案，从不说"我不确定"或者"这个我不了解"。乙在擅长的领域同样出色，但在不擅长的领域会清楚地告诉你"这个超出了我的知识范围"，或者"我有一个猜测，但需要验证"。

大多数人会认为乙更聪明。不是因为乙的知识面更广（他们在各自擅长的领域一样好），而是因为乙具有一种甲缺失的能力：对自己认知边界的感知。

心理学上，这种能力叫元认知（metacognition），就是"关于认知的认知"，对自己思维过程的监控和调节能力。元认知不是智能的附属品，在很多认知科学家看来，它是人类智能最核心的特征之一。恰恰是这种能力让人类可以有效地学习（知道自己哪里薄弱）、有效地合作（知道什么时候该求助）、有效地做决策（知道什么时候该谨慎）。

从这个角度看，大模型的幻觉问题暴露的不是"知识不够"，而是"不知道自己知识不够"。这不是一个外围的质量问题，是智能本身的一个缺失维度。

一个永远自信的模型不是"很聪明但偶尔不可靠"，而是在元认知这个维度上根本不及格。

## 三、幻觉与智能，到底是解耦的还是纠缠的？

行业主流观点倾向于认为它们是解耦的。这个观点的论据链条是这样的：

模型的能力（解题、写代码、分析问题）来自预训练阶段的知识积累和模式学习。幻觉的产生则来自一个不同的机制：语言模型的训练目标是预测下一个token，这个目标本身就鼓励模型在任何情况下都生成流畅、自信的文本。"我不知道"这几个字在训练数据中出现的频率远低于各种自信的陈述。所以模型天然倾向于补全一个"看起来合理"的答案，而不是承认无知。

按照这个理解，能力和幻觉分别由不同的训练阶段和技术手段来处理：预训练解决能力问题，后训练（对齐）解决幻觉问题。两者的工具链不同，优化路径不同，可以独立推进。

这个解耦论在实践中有一定道理，但它忽略了一个更深层的纠缠。

一个模型"知道"某个事实和它"知道自己知道"这个事实，用到的是不同层次的内部表征。前者是一阶知识，后者是二阶知识（元知识）。幻觉的产生恰恰说明模型在一阶层面可能存储了正确的知识，但在二阶层面无法可靠地区分"我确信这个"和"我在猜测"。

这种二阶能力不是简单的"后训练修补"能彻底解决的。后训练可以教模型在特定模式下说"我不确定"（比如当问题包含明显的超纲特征时），但它很难让模型在所有情境下都准确地校准自己的置信度。因为置信度校准本身需要模型对自己的内部状态有某种"自省"能力，而这种能力可能需要从架构和训练目标层面去设计，不是在已经训练好的模型上打补丁就能实现的。

所以真实情况可能介于"完全解耦"和"完全纠缠"之间。能力和幻觉确实可以在一定程度上独立优化，但在智能的高阶层面，它们最终会交汇。一个真正高度智能的系统必须具备对自己知识边界的准确感知，而这种感知不是事后附加的功能，而是智能架构本身的组成部分。

## 四、那么，什么才是"智能"？

如果我们不把智能简单地等同于"能力上限"，那它到底该怎么定义？

我觉得对这个问题的思考，可以沿着三个层次展开。

第一个层次是解题能力，就是给定明确的输入和目标，模型能产出多好的输出。这是目前行业最关注的维度，也是Benchmark衡量的东西。某人说的"智能上限"主要指这个。

第二个层次是自我校准能力，就是模型能否准确地评估自己输出的可靠性。不是简单的"对或错"，而是一个连续的置信度。"这个我很确定"、"这个我有八成把握"、"这个我只是在猜"、"这个我完全不知道"，能准确表达这些区分的模型，在第二层次上更智能。幻觉问题本质上就是这个层次的缺陷。

第三个层次是持续学习与自我进化的能力，就是模型能否像人类一样，在与环境的交互中不断积累经验、修正认知、扩展能力边界。这恰好是某人认为的下一个核心突破点。

有意思的是，这三个层次并不像看起来那么独立。

第三层次（持续学习）其实天然依赖第二层次（自我校准）。一个不知道自己哪里不行的系统，是无法有效学习的。人类之所以能高效学习，正是因为我们能感知到自己的无知，然后有针对性地去补充。如果一个模型连"我不知道"都判断不了，你怎么指望它知道自己该学什么？

从这个角度看，某人把持续学习放在路线图的下一个关键台阶上，而把幻觉归为"产品问题"暂且搁置，这两件事之间可能存在一个他没有明说的张力：要真正实现持续学习，模型对自身知识状态的感知能力（也就是幻觉问题的深层版本）可能是绕不过去的。

## 五、当幻觉遇上想象力

把视线从当前的工程挑战中拉远一步，还有一个更有趣的问题值得想。

如果未来的模型真的变得极其智能，幻觉会消失吗？

经验上观察到的趋势是：模型越大越强，幻觉率越低。这很好理解，见过更多数据，"知道"更多事实，需要编造的空间自然就少了。但要注意，幻觉率降低不等于幻觉消失。因为幻觉的根源不全是"知识不够"，还有前面说的训练目标的内在倾向（永远生成流畅文本）以及元认知能力的缺失。这些根源不会因为模型变大而自动消除。

但这里有一个非常有意思的推论。

如果一个模型足够智能，它拥有了强大的元认知能力，能清楚地区分"我知道"、"我在推理"和"我在猜测"，那它在"猜测"这个模式下产生的内容，还应该被叫做"幻觉"吗？

人类的创造力在本质上就是一种"可控的幻觉"。

达尔文提出自然选择理论时，他没有直接观察到物种演化的过程，他是基于有限的观察做出了一个大胆的推测。量子力学的早期发展充满了与日常直觉完全矛盾的假说，在当时的知识框架下看起来就是"胡说八道"。DNA双螺旋结构的发现过程中，沃森和克里克大量依赖直觉和猜测来拼凑模型，很多中间版本是错的。

这些突破性的想法和"幻觉"之间的区别是什么？

区别不在于内容本身，而在于产生者的元认知状态。达尔文知道自己在猜测，所以他花了二十年收集证据来验证。量子力学的先驱们知道自己的假说违反直觉，所以他们设计实验来检验。他们不是把猜测当成事实陈述，而是把猜测标注为猜测，然后去验证。

如果未来的AI也能做到这一点，也就是能自由地产生创造性联想，同时清楚地标注哪些是已验证的事实、哪些是推理、哪些是猜测，那"幻觉"和"想象力"之间的界限就消融了。

一个从不"幻觉"的AI，可能也是一个从不创新的AI。因为创新的本质就是在证据不充分的情况下做出大胆假设，而这在形式上和幻觉没有区别。真正的区别只在于：你知不知道自己在假设。

## 六、回到现实：一个关于优先级的判断，而非关于定义的判断

讨论到这里，需要做一个公平的总结。

某人把幻觉归为"产品问题"，在他的具体处境下（算力极度有限，目标是AGI，需要在有限资源下做最高ROI的投入），这个优先级判断是合理的。先推高能力上限、后补可靠性，在当前竞赛阶段可能确实是最务实的策略。

但这个优先级判断不应该被混淆为一个关于"智能本质"的定义性判断。

幻觉不只是产品的瑕疵，它是智能拼图中一块尚未补齐的关键碎片。一个不知道自己不知道什么的系统，不管它在巅峰状态下能解出多难的题目，都称不上真正智能。而这块碎片要补齐，可能不只是Post-training层面的工作，最终需要在模型的认知架构中构建起某种"自省"的机制。

或许，衡量AGI是否真正到来的标志，不是某个Benchmark上的分数，也不是模型参数量的数字，而是一个更简单也更深刻的测试：

**当AI面对一个它不知道答案的问题时，它能不能坦然地说"我不知道"，然后准确地告诉你，它为什么不知道，以及去哪里可以找到答案？**

而在智能的更高处，可能还有另一个标志：

**当AI说出一个看似荒谬的想法时，它能不能同时告诉你："这是一个未经验证的猜测，但我认为值得去验证，理由是这些。"**

前者是智能的下限，是可靠性。后者是智能的上限，是创造力。

它们不是两个独立的"产品特性"，而是同一种能力的两面：对自身认知状态的精确感知。这种能力有一个朴素的名字，叫"自知之明"。

无论对人还是对AI，这可能都是智能中最难、也最珍贵的那一部分。

我建了一个AI学习研究群，目前几十来人，都是在真正动手搞AI的人。如果你也在自己跑模型、写代码、做项目，或者使用Claude和Claude code，欢迎点赞关注转发一键三连，然后加我微信，备注写清"你在做的AI方向"，聊得来的话我拉你进群。纯围观的和小白就不加了，有一定门槛。当然你也可以简单粗暴的甩给我999元，我拉你进群，这个没门槛。

![](images/441cbc/img_001.jpg)