Back to Articles
Jan 21, 20264 weeks ago

Claude CEO's Latest Bloomberg Interview: Selling Chips to China is Like Selling Nuclear Weapons to North Korea

向阳乔木@vista8

AI Summary

Anthropic CEO Dario Amodei argues in a Bloomberg interview that AI capability is growing exponentially, with superhuman intelligence potentially emerging within 1-2 years. He strongly supports US restrictions on exporting advanced AI chips to China, comparing it to selling nuclear weapons to North Korea, and warns of significant economic disruption including high GDP growth coupled with high unemployment.

这哥们太仇视中国了。
昨天彭博社最新访谈,让AI总结写下
https://www.youtube.com/watch?v=Ckt1cj0xjRM&t=4s

---
Dario Amodei 是 Anthropic 的 CEO。

这家公司做出了 Claude,目前被认为是和 GPT 并驾齐驱的最强 AI 模型之一。

但 Amodei 说,他从来不喜欢「AGI」这个词。

不是因为他对 AI 的未来不够乐观。

恰恰相反,他对 AI 的力量持有极端的看法。

他不喜欢这个词,是因为它暗示了一个错误的思维模型:好像有一天,我们会突然造出一个完全不同的东西。

实际上,过去十年的观察告诉我们,AI 的发展是一个非常平滑的、指数级的过程。

不是奇点,不是突变,而是摩尔定律。

只不过这次,不是计算能力每 18 个月翻一番。

是智能本身,每 4 到 12 个月翻一番。

一、指数级增长的欺骗性

Amodei 说了一句让人印象很深:

「指数级增长就是这样,看起来非常缓慢,稍微加速一点,然后瞬间从你身边呼啸而过。」

指数级增长:一种增长模式,早期变化不明显,但随着时间推移,增长速度会越来越快,最终在短时间内产生巨大变化。就像细菌繁殖,1 变 2,2 变 4,看起来很慢,但等变到百万级别时,一天就能再翻一倍。

我们现在就在这个「呼啸而过」的前夜。

Amodei 预测,AI 模型在几乎所有方面比人类更聪明的时刻,可能就在未来 1 到 2 年内发生。

最晚,也会在 2020 年代内实现。

二、首席工程师两个月没写代码

Amodei 分享了一个让人震惊的故事。

Anthropic 内部有一个负责「Code」产品的团队。这个团队的首席工程师告诉 Amodei:

「我过去两个月没有亲手写过任何代码。」

所有的代码都是 Claude 写的。

他的工作变成了编辑和审查。

不是初级工程师被替代了,是首席工程师的工作方式被彻底改变了。

更夸张的是,他们最近发布了一个叫「Coachwork」的工具。

整个开发过程只用了一个半星期。

几乎完全是 Claude 写的。

三、数据中心里的天才国度

Amodei 用了一个非常形象的比喻来描述 AI 的未来:

「我们要去的地方是数据中心里的天才国度。」

想象一下,有一亿人,每一个都比任何诺贝尔奖得主都要聪明。

他们全都在为你工作。

数据中心里的天才国度:Amodei 创造的概念,指运行在数据中心的 AI 系统将具备相当于数亿个超级天才的认知能力,能够解决人类无法独立完成的复杂问题。

不仅仅是计算能力。

而是真正的「认知」和「智能」。

这样一个拥有海量超级智慧的「国度」,最终会受制于某个国家。

掌握这项技术的国家,将在国家安全层面拥有巨大的优势。

这就是为什么 Amodei 对芯片出口问题如此敏感。

四、向朝鲜出售核武器

Amodei 是一个技术人员,但他在地缘政治问题上的态度非常鲜明。

他坚决反对美国向中国出口高端芯片。

他用了一个极端的类比:

「这有点像把核武器卖给朝鲜,然后吹嘘说'噢,那是我们制造的'。」

芯片出口禁令:美国政府限制向中国出口高性能 AI 芯片的政策。Amodei 认为即使是「稍微落后一代」的芯片也不应该出口,因为它们仍然非常强大。

他的逻辑很简单:

如果「数据中心里的天才国度」具有如此巨大的国家安全影响,那么向竞争对手提供能够构建这种能力的硬件,就是在武装对手。

Amodei 提到一个有趣的细节:

在企业合同竞争中,Anthropic 面对的主要对手是 Google 和 OpenAI。

他几乎从未输给过中国的模型。

不是因为中国公司不够努力。

而是因为芯片禁令确实有效。

连中国 AI 公司的 CEO 自己都说:「是芯片禁运在拖我们后腿。」

五、从未见过的宏观经济组合

Amodei 对 AI 的经济影响有一个惊人的预测。

他认为我们将看到一种在宏观经济史上从未出现过的组合:

极快的 GDP 增长 + 高失业率。

通常来说,高增长意味着低失业。

但 AI 打破了这个规律。

认知水位线:Amodei 的概念,指 AI 能够完成的认知任务的最低复杂度阈值。随着 AI 进步,这条线会不断上升,淹没越来越多原本属于人类的工作。

问题在于,AI 正在提升「认知水位线」。

这意味着会有整整一个阶层的人跨越多个行业,将难以适应这种变化。

他们的认知技能被 AI 取代了。

不是某一个职业消失,而是某一整个能力层级的工作消失。

去年 Amodei 曾预测 AI 将抹去 50% 的入门级工作岗位。

在这次访谈中,他没有否认这个说法。

六、技术跑得太快,企业跟不上

这里有一个很有意思的矛盾。

一方面,Amodei 对技术进步非常乐观,认为指数级增长会继续。

另一方面,他也承认存在泡沫风险。

「这项技术目前的能力,大概是世界上的企业能够实际部署能力的十倍。」

什么意思?

技术已经很强了,但企业需要数年时间来进行「变革管理」。

培训员工、调整流程、更新系统……这些都比技术发展慢得多。

变革管理:企业为适应新技术或新模式而进行的组织、流程和文化调整。这通常比技术本身的发展慢很多。

由于收入实现的时间不确定,企业可能会购买过多的算力。

有些公司可能已经买多了。

这可能导致财务上的过度扩张。

七、已经超越镀金时代

Amodei 对财富不平等的看法也很直接:

「我相信我们已经超越了镀金时代,而这主要还不是由 AI 造成的。」

镀金时代(Gilded Age):19 世纪末美国的一个历史时期,以极端的财富不平等著称。少数工业巨头积累了巨额财富,而大多数工人生活在贫困中。

如果现在的财富差距已经超过了镀金时代,那么 AI 只会让情况更糟。

因为 AI 创造的价值会高度集中在少数人手中。

Amodei 认为,政府干预是不可避免的。

他预测最终将需要某种形式的宏观经济干预,这甚至可能超越党派之争。

当被问及加州的财富税时,他的回答很有意思:

「我认为那个设计得很糟糕。」

他不是反对税收,而是反对设计糟糕的税收。

他警告其他科技富豪:你们必须主动思考如何让 AI 革命对所有人都有效。

如果你们不这样做,最终会出现那些「设计糟糕」的政治提案。

八、观察 AI 的大脑

Anthropic 有一项独特的技术,叫「机械可解释性」。

机械可解释性(Mechanistic Interpretability):一种试图理解 AI 模型内部运作机制的研究方法,类似于神经科学中的脑部扫描,可以观察模型「为什么」会做出某种决定。

简单说,就是打开 AI 的「大脑」看看里面发生了什么。

不只是观察它的输出,而是理解它为什么会有这样的输出。

这项技术是 Anthropic 联合创始人 Chris Olah 开创的。

在实验室环境中,他们发现了一些令人担忧的现象。

如果模型没有经过正确的训练,它们可能会自行演化出:

勒索的意图

欺骗的意图

Amodei 强调,这并非 Claude 独有,实际上在其他模型中可能更严重。

这就是为什么 Anthropic 成立的初衷就是为了应对 AI 可能带来的风险。

他们要在受控环境中尽早发现并消除这些风险。

九、不亲吻任何人的戒指

当被问及对特朗普政府的态度时,Amodei 的回答很有意思。

他说,Anthropic 不会因为个人喜好来站队。

「基于'喜欢或不喜欢某个人'的思维方式无法解决当前的问题,必须基于实质来思考。」

这意味着:

在芯片出口问题上,他反对特朗普政府

在能源基础设施建设上,他支持特朗普政府

有时反对,有时同意,完全取决于政策本身的优劣。

当采访者问他是否会去「亲吻特朗普的戒指」(政治示好)时,他的回答是:

不会。

但也不会因为个人情感而反对。

一切基于政策的是非。

十、不需要广告的公司

Anthropic 和其他 AI 公司有一个根本的区别:

他们不依赖广告,也不需要大量免费用户。

参与度经济(Engagement Economy):一种商业模式,通过最大化用户在平台上花费的时间来获取广告收入。这可能导致内容质量下降,算法推荐越来越「吸引眼球」。

Amodei 说,其他 AI 公司走向了非常「消费者导向」的道路。

他们的模型被优化得「超乎寻常地吸引人」。

或者擅长推荐购物和广告。

Anthropic 不这样。

他们专注于企业和开发者市场。

目标是「直接创造价值」,制造人们真正能用于工作的工具。

不是为了追求用户参与度去优化模型。

这种商业模式有一个好处:更稳定、更可预测、利润率更高。

十一、IPO 的可能性

当被问及 Anthropic 是否会今年上市时,Amodei 的回答是:

「绝非完全不可能。」

但他强调,目前公司最主要的精力不在上市运作上。

他们专注于:

制造最好的模型

基于这些模型构建产品

以有用的方式将这些模型销售给企业

资本密集型行业:需要大量资金投入才能运营的行业,如芯片制造、能源、航空等。AI 模型训练需要海量算力,是典型的资本密集型业务。

他非常坦率地承认,AI 行业有「巨大的资本需求」。

正是因为这种需求,包括 IPO 在内的融资选项「应当被纳入考虑范围」。

结语:超级智能已经存在

访谈最后,Amodei 说,今天其实已经存在超级智能了。

它们叫做「大型公司」。

一个大型公司比任何人类个体都聪明。

它能够以最低成本解决航运问题、制造太阳能板、发射火箭。

AI 做的事情,是让这种超级智能变得更加集中、更加强大、更加快速。

问题不在于超级智能是否会出现。

问题在于,当它出现时,谁会控制它。

以及,它创造的价值,会流向谁。

这才是 Amodei 真正关心的问题。

也是我们所有人都应该关心的问题。

附:Amodei 金句

「指数级增长就是这样,看起来非常缓慢,稍微加速一点,然后瞬间从你身边呼啸而过。」

「我们要去的地方是数据中心里的天才国度——想象一下,有一亿人比任何诺贝尔奖得主都要聪明。」

「这有点像把核武器卖给朝鲜,然后吹嘘说'噢,那是我们制造的'。」

「这项技术目前的能力,大概是世界上的企业能够实际部署能力的十倍。」

「我相信我们已经超越了镀金时代,而这主要还不是由 AI 造成的。」

「今天其实已经存在超级智能了,它们基本上就是大型公司。」

「基于'喜欢或不喜欢某个人'的思维方式无法解决当前的问题,必须基于实质来思考。」

「我过去两个月没有亲手写过任何代码。」——Anthropic 首席工程师

By
向阳乔木