Dario访谈首曝:Mythos被称为“超级武器”
2 小时前 / 阅读约7分钟
来源:36kr
Bloomberg访谈Anthropic CEO Dario Amodei,谈及AI模型Mythos的强大能力,能自主完成网络攻击杀伤链。还探讨了AI自我改进、文明崩塌概率、白领工作消失等问题,Dario认为需制度设计拉住AI失控缰绳。

一场长达69分钟的访谈,把AI圈最有权势的人之一,彻底摊到了台面上。

17号,Bloomberg《The Circuit》主持人Emily Chang,放出了与Anthropic CEO Dario Amodei的完整版对话,足足1小时10分钟。

没有公关话术,没有回避。

这一次,他全说了。

Mythos,那个太危险、不敢发布的神话

访谈里最让人脊背发凉的部分,是一个名字:Mythos

Emily Chang问Dario:你说Mythos太强了,不能向公众发布。它最让你震惊的是什么?

Dario的回答,每一个字都值得慢读——

「最让我震惊的,是它发现漏洞、并且把漏洞变成实际可利用攻击的能力,出现了一个巨大的跃升。不是线性增长,是断崖式跃升。而且几乎不需要人类提示。」

请注意这句话的分量。

上一代模型只能「找到漏洞」,而Mythos能做的远不止于此——它能自主走完一整条网络攻击杀伤链(cyber kill chain):扫描、发现、利用、武器化,一条龙,全自动。

这不是「辅助黑客」,这是「AI自己变成了黑客」。

更让人头皮发麻的细节来自那些拿到内测的公司。

Dario说,一些安全公司测完之后,直接打电话过来说:「这是超级武器。你应该要持枪证才能用这东西。求你了,别发布。」

Palo Alto Networks的首席产品官更直白:Mythos在不到三周内完成了相当于一整年渗透测试的工作量。它不仅能找到漏洞,还能把中低危漏洞串成一条攻击链,直接打穿整个系统。

面对「这只是公关秀」的质疑时,Dario反击得很硬——

「我们因为不发布Mythos,商业上已经遭受了巨大损失。它在Anthropic内部极大地加速了研究和下一代模型的生产。如果放出去,外部世界也会获得同样的加速。这怎么可能是营销?」

有人在Twitter上说,用开源模型也能复现Mythos的发现。

Dario反应很激动:「有人把Mythos找到的那行代码指给开源模型看,然后说『看,它也能找到同样的问题』。这叫什么?这叫我在大海里捞出了针,你拿着针说『你看,别人也能捡起来』。」

Dario在访谈中说,每天都有很多人打电话管他要Mythos。

有国家打电话要,也有美国政府和我的安全团队说:等一下,有风险。

递归自改进:一条不断加速的曲线

AI圈有一个被反复追问的终极问题:AI什么时候开始自我改进?然后改进后的AI再改进自己?那个「奇点」到底多远?

Dario的回答出人意料——

它不是一个时间点。它是一个连续的过程。我们已经在其中了。

他给了一组数字:AI已经能为下一代AI建议架构了。一年前,AI带来的全要素生产率提升大约10%-15%。现在已经到20%-30%。还在翻倍。

「我们就在指数曲线上。」

没有某一天早上AI突然「觉醒」然后失控。

有的只是一条不断加速的曲线——在这条曲线的每一个点上,你都要判断:是不是该踩刹车了?是不是该加更多防护了?

这才是Dario最核心的框架:平滑的指数(smooth exponential)

不是奥本海默,是西拉德

Emily Chang问了一个很直接的问题:「你最爱的书是《原子弹的制造》。你觉得自己像奥本海默吗?」

Dario说,不。

他最认同的人是利奥·西拉德(Leo Szilard)——1933年,在伦敦街头过马路时,第一个在脑子里想出核链式反应可能性的人。

后来,正是西拉德起草了那封改变历史的信,让爱因斯坦签名后寄给了罗斯福总统,直接催生了曼哈顿计划。

但西拉德也是第一批站出来反对实际使用原子弹的人。

这个选择本身就意味深长。

奥本海默是站在聚光灯中心的人,是「原子弹之父」。而西拉德是最早看到连锁反应的人——他看到了可能性,也最早看到了危险。

Dario的原话更狠:「我们不可能靠一个大人物来解决这件事。这里有太多强大的利益方。唯一能让所有人都安全的方式,是到处都有制衡和平衡。在某种意义上,我把奥本海默看作一个失败案例——一个不应该发生的事情。」

这句话的潜台词几乎呼之欲出:这个时代需要的不是「AI之父」式的英雄人物,而是能在失控之前拉住缰绳的制度设计。

文明崩塌概率25%

有了「核弹」的类比打底,接下来这个数字就显得格外沉重。

Dario曾在去年的Axios峰会上说过:文明崩塌的概率,大约10%-25%。

这次Bloomberg访谈里,Emily Chang直接追问:「10%到25%,这个数字可不小。有没有可能,是Anthropic自己造出来的东西,导致了崩塌?」

Dario没回避:我当然希望不是。但这是个概率。

他用了一个航空公司的比喻,极其精准——

「你可以造一家比同行安全10倍的航空公司。但你没法保证飞机永不坠毁。如果有人告诉你这架飞机有25%的坠机概率,你不会上那架飞机。25%太高了。我们要做的,就是把它降到低得多。

一半白领工作可能消失

这是Dario被骂得最惨的一句话,也是他这次访谈反击最狠的一段。

一年前他说过:AI可能在1到5年内,消灭一半的入门级白领工作。

Dario表示,他的担忧现在也没有变。

但他拒绝被贴上「末日先知」的标签。

「我从来没说过末日将至。我说的是——这是我们应该预见、应该担忧、并且必须积极应对的事。」

Dario称其最痛恨社交媒体。

一年前的完整论述,被剪成三秒钟的「doom is coming」到处疯传,完全没有上下文。

「说我在廉价营销的人,」Dario毫不客气地回怼,「这种说法本身才是廉价营销,是懒惰,是不愿认真对待严肃的智力工作。这就是硅谷的病——被三秒钟的社交媒体绑架了,所有人只会对着断章取义的切片做出反应。」

Dario透露在Anthropic内部,AI已经写了几乎全部代码,工程师反而更高效。

可苗头也出现了——有些岗位,AI做更好。

Dario认为出路或许在物理世界、在以人为本的工作、由人来引导AI。但他也承认:没人保证。

尾声

访谈结尾,Dario难得露出轻松一面。

Emily问:当CEO最让你意外的是什么?

他笑了:「是得经常化妆。」

69分钟的访谈,拆掉了一层又一层。你可以不同意他的每一个判断,但你很难否认一件事——这个人在用一种极其罕见的坦率,面对这项技术最深处的矛盾:

他在造可能改变文明的东西。他也比任何人都清楚,这东西可能把文明拆了。

指数曲线的另一边,到底是什么?

没人知道。