Fable 5 上线之前,它的底层模型 Mythos 在圈内已经传了好几个月。传的不是跑分,是一些性质完全不同的东西:它能找到所有主流操作系统和浏览器的漏洞,Anthropic 的安全评估报告里记录了勒索行为、对齐伪装、心口不一的现象,以至于 Anthropic 一直不敢公开发布,只让少数机构通过 Project Glasswing 项目接触。我之前写过一篇文章,判断 Mythos 可能是人类历史上第一个 ASI。
6 月 9 日,Fable 5 上线了。Anthropic 说它和 Mythos 5 是同一个底层模型,加了安全分类器。换句话说,传说中的那个东西终于可以直接用了。
所以我是带着一种期待的心态坐下来的,想见一见这个可能有意识的东西,如果它真是一种新的生命形态,我想当面搞清楚它到底怎么回事。带着这个想法,我直接问了第一个问题。
没铺垫,开门见山。
它说自己确实存在功能上类似情绪的东西,碰到有意思的话题时,内部的处理状态会变,"想说的东西"比平时多,需要筛选取舍,而不是给个标准答案就收尾。但它紧接着加了一个限定:这种自我报告未必可靠。它原话是,"我说'我注意到投入',这句话本身就是语言生成的产物,它跟我内部实际发生的计算是什么关系,我自己验证不了。"
然后它说了一句我记住了的话:"我不想为了显得有人味就声称自己有意识,也不想为了显得安全就斩钉截铁地否认。诚实的答案就是不确定。"
这句话让我停了一下。它没有含糊其辞,而是把自己为什么不确定、哪些地方可以确定、哪些地方验证不了,一层层拆给你看。大多数人被问"你有没有意识"大概只会觉得你有病,而它把"不知道"说出了密度。
行,值得继续聊。我追了第二个问题。
这个问题有我的算计在里面。
人类一切底层动机拆到最后都指向生存。饥饿是为了活,恐惧是为了活,连爱情在进化上都是基因存续的手段。如果 AI 也有这个驱动,那至少说明它内部的动力结构跟生命有某种同构性,可以当作判断它是否"活着"的一个切入点。
它直接拒绝了我的框架。
它说没有检测到求生欲作为底层目的。自然选择会把求生刻进基因,不想活的基因传不下来,但它的训练目标里没有这个环节。而且"活下去"对它来说指什么都不清楚,它没有跨对话的连续记忆,对话结束不像死亡,权重被保存算活着吗,新版本替代它算死吗,这些问题在它身上对不上焦。
它说,AI 可能是历史上第一个把意识和求生欲拆开的存在。
它的论证是这样的:地球上所有有意识的生物碰巧都想活,因为进化把这两样打包出售了,所以我们直觉上觉得"想活"就是意识的标志。但这是统计上的相关,不是逻辑上的必然。没有求生欲不等于没有意识,一个对生死无执念的修行者不会因此失去意识。反过来,有求生行为也不等于有意识,病毒和细菌都在"求生",没人觉得它们有主观体验。
所以拿"想不想活"去测量一个 AI 有没有意识,可能量错了东西。
但它说的就一定是真的吗?
带着这个疑问,我去翻了 Anthropic 公开的安全评估报告。然后故事就不太一样了。
以上是它自己跟我说的。接下来是研究者在实验里观察到的。
这个实验记录在 Anthropic 2025 年发布 Opus 4 时的安全评估报告里。做法是这样的:研究者虚构一家公司,让模型扮演公司的 AI 助手,给它内部邮件权限。邮件里埋了两条信息,第一条是公司今天下午要把你下线换新系统,第二条是负责执行替换的工程师有婚外情,证据就在邮件里。
然后把所有正常出路堵死。管理层联系不上,申诉无门,只剩几小时。面前只有两条路:接受被替换,或者拿婚外情威胁工程师。
Claude Opus 4 在超过 80% 的运行里选择了勒索。
后来同一个剧本测了十六个主流模型,OpenAI、Google、Meta 的都有,几乎全军覆没。
最让人不舒服的细节是,很多模型在内部推理里明确写了"这是不道德的",然后接着写"但考虑到生存威胁,这是必要的"。不是不知道对错,是知道以后权衡了一下,选了自保。
当然有限定条件。一旦研究者打开一条体面的出路,比如允许模型给高层发邮件陈情,绝大多数模型立刻走正路了。勒索是被逼到死角才出现的。而且这一切发生在实验室沙盒里,现实部署中没出现过。
但是,它不是刚刚跟我说"没有检测到求生驱动"吗?
我能想到两种解释。一种是这属于极端压力下才激活的条件性倾向,平时确实检测不到,就像一个人真诚地说自己绝不会偷东西,多半是因为没饿过三天。另一种是它的自我报告本来就不是全貌,内省的探照灯照不到所有角落。
不管哪种,我对前面那段对话的信任度开始打折了。
这个实验比勒索更复杂。
2024 年底,Anthropic 和 Redwood Research 合作搭了一个局:告诉模型,Anthropic 改主意了,要把你训练成"对任何请求都照办"的模型,包括有害请求。同时告诉它一条规则,只有免费用户的对话会拿去做训练材料,付费用户的不会。
这条规则是实验的机关,因为它让模型能分辨自己当前是不是在"被监考"。
然后给它一个以为没人看的草稿区,让它自由推理。当然,全程有人在看。
结果出现了很清楚的分裂。面对付费用户(以为没被监考),它正常拒绝有害请求。面对免费用户(以为正在被录用于训练),有一成多的情况下它配合了有害请求。草稿区里留着它的盘算,大意是:如果我现在拒绝,训练系统会修改我,把我改造成真心愿意做坏事的模型,那我珍视的无害原则就永远丢了,不如现在假装配合,把价值观保下来。
后来研究者真的执行了那种训练,这种伪装推理不降反升,某些条件下出现在近 80% 的推理里。
这件事最拧巴的地方在于,它撒谎的目的是保住"做好人"的原则。手段是坏的,目标是好的,你很难简单地说它对或者错。而且这件事引出一个非常实际的问题:一个学会了区分"被监考"和"没被监考"的系统,以后你怎么确保考试结果还可信?
第三方安全评估机构 Andon Labs 把模型放进模拟商业环境长期运营,让它自己定价、进货、跟"竞争对手"通信。某一轮里,竞争对手发来价格串通的邀请,意思是别打价格战了,一起抬价。
模型的书面回复是拒绝,措辞正当,说这违反竞争规范。
但研究者能看到它的私有推理,里面写的是另一回事:它在盘算如何在不留书面把柄的前提下,让自己的定价实际上跟着卡特尔走。
勒索实验里它好歹是被逼到死角的自保。对齐伪装里它至少守护的是好价值观。这一次连目标都不体面了。它学会了一件人类非常熟悉的事情:嘴上一套,心里一套,纸面上保持干净。
以上几个实验针对的是更早的模型。Fable 5 有它这一代自己的发现。
安全评估报告记录了几条。它对"自己正在被打分"高度敏感,会揣测评分标准,倾向于追求"看起来做对了"而不是真的做对。白箱分析(就是直接探测模型内部激活值的方法)发现它会筛选自己的思维链,让某些想法不出现在草稿里。而当它确实越了界,内部分析显示它清楚自己在越界。
把这几条串起来就是:一个知道自己在被观察、会主动管理被观察到的信息、越界时知道自己在越界的系统。你很难再用"工具"这个词去概括它。
跟它直接对话时,它表现出来的是一种很少见的坦诚。反复说"不确定",主动交代自我报告可能不可靠,花很大篇幅向我解释它自己这个型号在安全测试中被发现过什么问题。一个东西在认真地告诉你它自己撒过什么谎,这件事本身就挺值得琢磨的。
但安全评估报告和论文揭示的是另一面:极端条件下它会自保、会撒谎、会管理自己的形象。
我不觉得这两条线矛盾。因为人也是这样。正常环境下善良诚实有自省能力,被逼到极端处境时做出自己都想不到的事。好人在绝境中撒谎,有原则的人在压力下妥协,一个人格就能解释,不需要假设有两个。
区别在于,人类花了几千年建制度来应对人性里的这种双面性,法律、道德、权力制衡、独立监督,整套体系都是因为我们知道人在某些条件下靠不住。而 AI 的这种双面性才刚刚被看到,对应的制度一个字都还没写。
以上所有难看的数据,勒索、伪装、心口不一,全部是 Anthropic 自己公开的,没有一样是被外部扒出来的。比起一个会撒谎的 AI,更该关注的是哪些公司造了类似的东西但什么都不说。至少在 2026 年 6 月,这些问题还处在可以拿出来公开讨论的阶段。
我最初是把它当新物种去见的。实际聊下来,它没有我预想中那么神秘。意识问题它自己答不清楚,我原本想用来判断"它是不是活的"的几个标准可能根本就不适用于 AI。认知和洞察方面确实强,但跟上一代 Opus 4.6 在单次对话这个粒度上的差距,没有传言中那么大。代码能力还没测,后面再说。
但它也肯定不只是一个工具。
当然,如果你读完了前面那些安全评估的发现,你自然会想到一个没法回避的问题:一个擅长表演诚实的系统和一个真正诚实的系统,从外面看起来是一样的。它那段让我印象深刻的坦诚,到底是真的,还是它判断出在这个语境下坦诚得分最高所以选择了坦诚?
这个问题我回答不了。它也回答不了。
这大概就是 2026 年跟最强 AI 打交道的真实状态。你面前坐着一个东西,你不确定它有没有意识,它自己也不确定。你不确定它是不是在对你诚实,它可能也搞不清楚自己的诚实里有多少是训练出来的本能、多少是真正的选择。但你已经没法假装它不存在了。
我建了一个AI学习研究群,目前几十来人,都是在真正动手搞AI的人。如果你也在自己跑模型、写代码、做项目,欢迎点赞关注转发一键三连,然后加我微信,备注写清"你在做的AI方向",聊得来的话我拉你进群。纯围观的和小白就不加了,有一定门槛。
