跟着 AI 智能体和强化学习（RL）的爆发式增长，蓝本在 AI 波浪初期被旯旮化的通用处理器（CPU），正遭逢前所未有的算力挤兑，成为继 GPU 之后新的基础要领瓶颈。
近期，跟着各大科技巨头财报陆续落地，市集对 AI 基础要领的怜惜点正在发生高明更正。投资者不仅紧盯 GPU 的订单与请托，更初始寻找 AI 愚弄落地带来的新增长极。
4 月 8 日，驰名半导体分析机构 SemiAnalysis 首席分析师 Dylan Patel 在一次深度访谈中指出，由于 AI 责任负载的范式正在节约单的文本生成向复杂的"智能体（Agents）"和"强化学习（RL）"演进，CPU 正濒临极其严重的产能短缺。
在 AI 发展的头几年，核默算力需求简直全被 GPU 占据。正如 Dylan Patel 所言："在 AI 的头几年，CPU 确乎严重滞后……负载很轻。你发一个字符串，它回一个字符串，肤浅的推理，对 CPU 需求不大。"
然则，这一场合在夙昔几个月里发生了颠覆性的变化，中枢驱能源恰是以 OpenAI o1 为代表的具备逻辑推理和智能体属性的新一代模子。
智能体与强化学习推升 CPU 需求
模子不再只是是"生成文本"，而是初始自主实际任务、调用数据库并自我考证，这让 CPU 的责任量呈指数级上升。
Dylan Patel 给出了一个极具冲击力的数据：
"就在最近六个月吧，代码智能体的收入在很短的本领内从几十亿好意思金涨到了跨越 100 亿好意思金。这些智能体的任务时长也大幅加多：比如 Claude Code 不错运动责任六七个甚而七八个小时……它不错我方去 ping、去执取、以智能体方式自主责任。这也需要多量的 CPU。"
与此同期，强化学习的磨砺轮回变得越来越良好。畴昔的 AI 不仅要作念数学题，还要在物理模拟器中导航，这条件生成器（模子）生成的每一步都需要在 CPU 集群上进行高频考证。
"这个轮回在夙昔几年变得越来越紧……在夙昔六个月里，咱们看到通盘云市集的 CPU 都跑光了。"
云厂商荒诞扩容，微软"卖空" CPU 已致 GitHub 不稳
市集需求的骤增平直导致了云表算力的虚浮。为了满足头部 AI 实验室的需求，大型云厂商甚而烽火了其他业务的观念性。Dylan Patel 直言：
"我不知说念你们最近有莫得常常和 GitHub 打交说念，它真的很不观念……那是因为微软把他们统统闲置的 CPU 都卖给了别东说念主。"
这种短缺正在阻挡企业进行极点的工程转移。据知道，OpenAI 此前简直只在 x86 CPU 上运行，但为了获取算力，他们平直向亚马逊要存量处理器。
"亚马逊有多量的 ARM CPU，于是他们把通盘栈都移植了夙昔——只须能拿到 CPU，到那处我都欢叫移植我的代码库。"
对于 CPU 的市集价钱，Dylan Patel 说说念：
" CPU 的利润率没那么高，但正在攀升，因为 Intel 和 AMD 在加价而且供应垂危。"
从数据来看，扩容正在全行业献技。"亚马逊装配的 CPU 工作器数目，本年比旧年同比增长了 3 倍。到处都莫得容量了。"
此外，为了不让腾贵的 GPU 闲置恭候，客户必须保持 CPU "热池"持续运行，这种买卖逻辑进一步放大了对 CPU 的需求。
硬件淘金热延迟：存储暴涨，3nm 产能全线告急
算力的短缺也曾沿着产业链赶紧进取传导，不仅英特尔和 AMD 发出了加价见告，甚而连面向 C 端的 PC 市集也受到触及（如苹果 Mac mini 脱销）。
Dylan Patel 用一句极其机动的话刻画当下的硬件市集：
"普通，出现淘金热的时候，连拿着坏镐头的东说念主也能卖掉他的镐头。"
他补充了市集高度怜惜的存储和芯片制造智商的加价数据：
"内存价钱在夙昔一年涨了 4 倍，而且还会连接涨。目下 SSD 价钱也涨了 3-4 倍，而且至少还会再涨 60%。"
更令市集担忧的是晶圆代工产能的挤压。AI 芯片正在吸干台积电的泉源进制程产能：
" AI 正在买走统统 3 纳米和 2 纳米的产能……目下统统 AI 芯片都在往 3 纳米转移：AMD 的 MI350 系列、亚马逊和谷歌的 Trainium 3 和 TPU v7、英伟达的 Rubin ——统统这些都在 3 纳米上。"
这甚而迫使苹果、高通等移动端巨头向下转移，或者让英伟达将部分订单更正至三星。
以下是访谈的笔墨记载：
主办东说念主：
大家好。很欢快请到 Dylan。我第一次看他视频是一次采访，他谈到：固然咱们有 CPU，但咱们要野心 Neo clouds 以及它们为什么有存在的权柄。那对我来说相称专门念念，因为今天的主题恰是：当智能体（agents）也曾到来时，新的基础要领基元是什么？你那时把 Neo clouds 与超大鸿沟云工作商的不同之处，以及它们为什么应该存在，叙述得相称明晰。能跟咱们共享一下吗？
Dylan Patel：
天然。在 AI 期间，超大鸿沟云工作商的作为有点慢，对吧？谷歌、亚马逊、微软，进入 AI 鸿沟都有点慢。于是一批全新的公司冒了出来，而且出现了一个新的低门槛——亚马逊、微软、谷歌构建的那些复杂软件，好多其实并不需要。事实上，那些复杂软件反而拖慢了 AI 的发展：它们有自界说收罗，但那些收罗对 AI 并不太友好，更怜惜可靠性和存储流量，而不是像在收罗上作念 all-reduce 之类的事情。
是以这些大型云厂商、超大鸿沟云工作商有好多东西，Neo clouds 不错平直跳过，然后构建专注、优化的责罚决议，并提供更低的老本，因为它们的支出要低得多——这些 Neo clouds 里莫得两万个谷歌的名堂司理坐在会议室里（尽管有些 Neo clouds 也曾初始招聘谷歌的名堂司理，从而延缓了速率）。它们在能源上行动赶紧，在搭建 GPU 集群上行动赶紧，是以它们能够斥地出一块市集。那是早期的那些。自那以后，出现了好多师法者或跟班者——好多莫得见效，好多正在见效。这骨子上等于一场比谁最有才气的战争。
那么，是不是统统——我想草率有 200 家摆布这样的 Neo clouds，对吗？——你看到它们之间有各异化吗？是不是有些只是在复制最早那批的软件栈？有些在作念别的事情？你有莫得看到这些 Neo clouds 中哪些作念法见效、哪些不太见效？
是的，有好多成分能区别它们。咱们有一个叫 "Cluster Max" 的东西，给统统 Neo clouds 名次。咱们会测试各式东西：可不雅测性、可靠性、收罗、安全、料理、编排等等，这些都不一样。比如，有东说念主会测试他们的 GPU 在用户优游时是否责任日常——那是主动健康搜检照旧被迫健康搜检？电扇转速是否适当？功耗是否正确？节点是否有问题？收罗是否有问题？性能是否达标？有各式各样的搜检和测试，因为 GPU 是不可靠的。还有 GPU 之上的软件类型：好多东说念主一初始只作念裸金属，比如微软与 CoreWeave 的泉源左券全是裸金属——你只需 SSH 进去，微软我方搭建环境。
但跟着发展，东说念主们想要更多：有东说念主想要装配 Slurm，那很肤浅；有东说念主想要装配 Kubernetes，略略难少量，但仍然很肤浅；有东说念主想要在 Kubernetes 上装配 Slurm，因为这样更容易推送功课等等。目下初始有东说念主作念托管 Ray 工作之类的东西，用于强化学习（RL）。是以有一类 Neo clouds 在构建这些东西，而另一类 Neo clouds 则说 " 我不在乎，我只建 GPU，然后以裸金属方式出租 "。老本上也有各异：领有好软件的 Neo clouds 频频收费更高，某种进度上又回到了传统模式——谷歌、微软、亚马逊有好软件，收费也高得多。而且你会看到好多这类云公司初始尝试推出推理工作和其他东西。
肖似地，顺着这个念念路，我就想说到 CPU 了。历史上，咱们有客户条件像 OpenClaw 那样的东西——有些东说念主说 " 我需要我的沙箱或 CPU 盒子长本领运行，你能给我一个 5 好意思元像 Hetzner 那样的产物吗？" 我说不行，因为那是裸金属机器，老本很低。但当你提供更大的软件产物时，老本就会更高，是以很难与之竞争。是以我猜在 Neo clouds 里也一样，正如你提到的，裸金属的销售老本比那些往软件标的走的要低。
我只是好奇它们为什么有存在的权柄——这有点像咱们作念的事情的类比。但真实的问题是，你提到了这少量，咱们正在念念考的标的是：CPU 成了新的瓶颈。以前每个投资东说念主、每个我聊过的东说念主都只谈 GPU。目下你出了一份大酬金讲 CPU，我心里想 " 好的，没错，谢谢你 "。是以你酬金里说本年会是瓶颈。那么请从 TDR 层面瀽瓴高屋地告诉咱们：为什么 CPU 目下是瓶颈？你看到了什么？
是的，在 AI 的头几年，CPU 确乎严重滞后。它被用于一些存储、一些搜检点、一些数据预处理和预磨砺，但负载很轻。推理方面，模子还不够好，无法成为智能体——你不成让它一步情景行动。是以那时莫得才气让模子去实际作为并把它们串起来，基本上是你发一个字符串，它回一个字符串，肤浅的推理，对 CPU 需求不大。
但夙昔几年——其实不光是夙昔几年，比如 Q* 初始，OpenAI 有那些风云，然后最终 o1 预览版发布——说真话那是 15、16 个月前的事了（嗅觉上久远得多）。o1 是第一个这类模子。然后表示了一大都模子。以前东说念主们会作念肤浅的事，比如用正则抒发式搜检模子输出，望望是否正确，或者作念结构化输出用于函数调用等等。但跟着本领的推移，对模子的搜检变得鸿沟大得多，何况也曾完全集成到磨砺中——通过强化学习。
不再只是用正则抒发式，而是用各式分类器；不再只是分类器，而是作念代码单位测试和编译；再进一步，你运行智能体经过，它骨子上去调用数据库之类的，或者与一个对 CPU 负载很重的环境（如物理模拟或生物模拟）交互。模子输出内容，然后搜检它——这个环境（强化学习环境）——然后再且归基于它进行磨砺。这个轮回在夙昔几年变得越来越紧。
而最近——就说最近六个月吧——代码智能体的收入在很短的本领内从几十亿好意思金涨到了跨越 100 亿好意思金。这些智能体的任务时长也大幅加多：比如 Claude Code（或肖似模子）不错运动责任六七个甚而七八个小时。在这个过程中，它会调用数据库，调用各式东西（至少咱们用了好多 Cron 工作器），归正什么都作念——它不错我方去 ping、去执取、以智能体方式自主责任。这也需要多量的 CPU。是以夙昔六个月这方面也急剧膨大。再加上强化学习磨砺轮回变得越来越紧。因此在夙昔六个月里，咱们看到通盘云市集的 CPU 都跑光了——我不知说念你们最近有莫得常常和 GitHub 打交说念，它真的很不观念。
我想你是今天第三个提到这事的东说念主了。
好的。咱们一直在搜检 GitHub 的统计数据：宕机多频繁？提交失败多频繁？情况很糟。那是因为微软把他们统统闲置的 CPU 都卖给了别东说念主——要么是里面实验室我方用，但更多的是外部实验室。他们和 Anthropic、OpenAI 签了左券，是以我方简直莫得 CPU 剩下了。
咱们在好多其他公司也看到了同样的情况。以前，每个 CPU 工作器对应好多 GPU 工作器，比如 100 兆瓦的 GPU 可能只由 1 兆瓦甚而更少的 CPU 来工作。但目下这个比例正在变得相称接近，无论是对于 RL 磨砺照旧推理（智能体推理）。然后你就看到统统方位的 CPU 都跑光了。亚马逊装配的 CPU 工作器数目，本年比旧年同比增长了 3 倍。到处都莫得容量了。这不仅导致 GitHub 很不观念，可能其他方位亦然。
我的意思意思是，今天咱们批驳了好多基础要领干系的事情。每天都能看到某个基础要领提供商——不管是 GitHub 照旧别的什么（不点名了）——出现宕机，这也曾变得很常见了。这可能是 CPU 短缺的原因，也可能是责任负载鸿沟等原因。
也可能是统统东说念主的基础要领代码都是 "vibe coded"（凭嗅觉乱写）的。
对，也可能是统统东说念主的基础要领代码都是 vibe coded。我不认为全是，但可能有一部分是。我看到很专门念念的是，运行在咱们这里的 CPU 责任负载数目—— Daytona 基本上有三个用例：代码和号召实际（比如肖似 cloud code 的东西需要跑在 CPU 上）；还有有计划机使用用例，这个咱们骨子上看到增长相称快。咱们今天刚晓喻了 Windows 沙箱，它也跑在 CPU 上。
如果你需要一个智能体去向理留传软件（比如金融、客服等鸿沟，十足在那里）。另外正如你所说，强化学习方面，咱们有好多普通用 Kubernetes 的东说念主，目下初始用咱们。但意思意思意思意思的是，这些负载的鸿沟和体量极其宏大，买球投注平台app而且还在极其快速地增长。而咱们是天下上最小的云。是以我好奇的是：如果咱们这样小的公司都有这样大的量，那么在大鸿沟下会是什么相貌？
而且咱们遇到过——我想知说念你有莫得这方面的瞻念察——光是 RL，更不必说长本领运行的智能体了（仅就后者而言，咱们看到客户进来，其中一个客户在昨天 6 小时内跑了 100 万个 BCP 责任负载。就一个客户）。那么有几许客户在作念 RL？他们都会需要这个。我不知说念你有莫得什么视力，但我很好奇。
我的意思意思是，有些方针特殊惊东说念主—— 100 万 vCPU 听起来很荒诞。但有些东说念主签的左券和责任负载的鸿沟甚而比这还要离谱。
我信赖那是因为咱们确乎很小。
对，是这原因。是以我想，当你再看像 Anthropic、OpenAI 这样的公司时，他们也曾完全吃掉了多个云的一皆容量。最近亚马逊和 OpenAI 交游的一大推能源——是的，OpenAI 想要钱，他们需要算力，但他们也平直去找亚马逊说 " 把你的 CPU 给咱们 "。
之前 OpenAI 的栈简直只在 x86 CPU 上运行，但亚马逊有多量的 ARM CPU，于是他们把通盘栈都移植了夙昔——只须能拿到 CPU，到那处我都欢叫移植我的代码库。这就能看出东说念主们欢叫参预的工程水平了，因为普通树立者都懒得动，平直去别的方位找容量，但目下别的方位也莫得容量了。
是的，专门念念。咱们全是 x86，独一这些。咱们目下还莫得 ARM。但除了这两家，还有 Nvidia 有我方的 CPU，还有其他东说念主也在造我方的 CPU。这些 CPU 之间也有各异。它们都只是通用 CPU 吗？你可能比我懂得多，我超等好奇。
对于 CPU 的类型。
目下种类太多了。以前基本上独一 x86 和 ARM。目下有了不同类型的 CPU。是因为大家都跑光了，照旧它们在某些方面确乎更好？有什么卓著的吗？
普通，出现淘金热的时候，连拿着坏镐头的东说念主也能卖掉他的镐头。CPU 市集目下相称动态。目下主如果 Intel 和 AMD ——我猜你们主要用 Intel 和 AMD 的 CPU。这两家都说我方完全卖光了，也曾向客户发了加价见告。它们甚而不再相互竞争了，只是想着 " 我能造几许卖几许 "。同样，亚马逊有 Graviton CPU，也曾发展到第五、第六代了。Nvidia 有 Grace 和 Vera CPU。
但之前没东说念主真实部署过 Grace 零丁 CPU 机箱—— Nvidia 为了 PR 作念了一些小鸿沟部署，但骨子上零丁 CPU 部署相称少。为什么呢？只是因为它们不够好。但目下上前看，也许它们的 CPU 变好了，也许系结销售得更好，但更紧迫的是因为它们有容量（因为其他东说念主都没容量了），是以它们能在我方的各式 CPU 上拿到更多左券，草率本年晚些时候或来岁头初始部署。
是以这是一个相称动态的市集。然后微软和谷歌也初始部署我方的 CPU，而且初始上量。Arm 几周后要发布一款 CPU，Meta 会秉承，Cloudflare 等几家公司也会秉承。是以会有更多的 ARM 零丁决议，而不单是 Arm 授权 IP 给别家。市集上会出现更多的万般化——这恰是在淘金热时会发生的。然后咱们会看到，当供需缺口徐徐弥合时，到底谁的品性最佳、谁能留住来。
但看起来需求的鸿沟照旧会增长。至少我看到的：第一，RL ——似乎 RL 大部分是在作念后磨砺，但目下也曾有供应商和公司在倾销并创建及时 RL 的工作。因为你有了一些智能体，你有了一些在后台是智能体的 SaaS，然后它会在一天限度时作念 RL，基本上是为了从我方的步履中学习。
是以那在增长。另外，这些长本领运行的智能体——如果它们能责任更长本领、责罚更多问题，你基本上不错让它们作念更多事情，它们会启动越来越多的这类智能体，这意味着越来越多的 CPU 盒子。那么从你的视角看，你领略市集动态，最终可能会不停，但我嗅觉在需求消弱之前，它还会变得更宽。
是的，完全是这样。因为泉源统统的 RL 都是 " 来作念数学解释 "，数学解释对资源需求很低。而且模子（生成器）会生成多量输出，然后把正确谜底（或它认为的谜底）发给工作器，工作器去考证。但跟着本领的推移，不再是那样了：模子会屡次提交，或者在它的智能体过程中屡次尝试编译，或者屡次尝试作念单位测试。这加多了生成器（也等于模子）发送给考证器的频率，这个轮回越来越紧。跟着咱们进入更复杂的 RL，模子骨子上会连续地考证我方的输出。
比如说，联想一下畴昔一两年磨砺的模子——比如一个机器东说念主模子，在一个天下模子中考证：视觉言语模子（VLM）活着界上导航，试图提起东西、放下东西。每一步都需要被考证，而物理模子跑在某个 CPU 集群上。那需要的 CPU 量会多得荒诞，远比你作念单位测试或跑数学解释要多。看 o1，它基本只可作念数学。再看像 GPT-5.4 或 Opus 4.6 这样的模子，它们能作念智能体软件。但当咱们进入下一阶段——不管是什么——会有能够领略 " 我需要系鞋带，系的时候鞋带强度是几许？抗拉强度是几许？" 的模子。统统这些都需要有计划，因为考证器只是在生成下一步，但每一步都需要更频繁地被搜检，而且搜检这一步的有计划强度也会随本领加多。
但还有另一件事，你可能比我知说念得更明晰：GPU 的强度决定了它们能并行处理一定数目的 CPU 盒子。跟着下一代 GPU 的出现，我合计它们会比目下能够启动、料理或处理更多的 CPU，这会给 CPU 带来另一个压力。
是的，敬佩是这样。GPU 的功耗也在变得更高，是以一个 GPU 随本领推移会对应越来越多的 CPU 用量。而且 GPU 每一代都变得更贵，而 vCPU 价钱持平或略有下跌。是以鸿沟确乎不同了：一个 Blackwell 对比一个 Rubin，性能升迁了 X 倍，价钱也升迁了 X 倍。
而 CPU 呢，你买上一代照旧新一代——这一代有 192 个 vCPU，上一代草率是 96 个，是以你有更多的 CPU，但价钱上升的幅度和你获取的出奇 vCPU 数目是成比例的。是以 vCPU 的比例会增长，但老本标的可能亦然有意于 CPU 的，但不笃定幅度多大。
是的，另一个压力——咱们在较大客户身上看到过：他们 GPU 有本领配额，他们不但愿 GPU 闲置。是以他们同意付钱给一个热池来运行 CPU，这样当 GPU 有任务来时，CPU 是热的（骨子上在责任）。是以他们会——因为咱们作念的——大多数 CPU 某种进度上是低廉的资源（固然咱们不合计我便捷宜），但对于这个场景来说是低廉的资源。这骨子上会残害更多的 GPU，因为闲置 GPU 的老本太高了。
对，这的确一个很专门念念的点。买卖模式上，没东说念主——天然有按需 GPU，但比如 Lambda 有 5 万多块 GPU，其中独一 4000 块是按需的，而且老是卖光。是以骨子上莫得东说念主真实有按需 GPU。每个东说念主都至少签耐久左券（多月的），大多数情况下是多年的。而 CPU 的使用方式是不错随时启停——这等于为什么大家当初都上云。但在这些责任负载下，GPU 生成器（跑在 GPU 上的模子）生成一堆东西，发给考证器。如果考证器莫得准备好等着，GPU 就在空转。你也曾为 GPU 付了钱，如果你不成在 CPU 那边瞬时拿到资源，骨子上你应该预启动。你不是在加载模拟器或环境，你是在浪用钱。是以确乎如斯。
不仅如斯，一朝这些跑起来，你又会启动另一个热池，这样每一次新的迭代都在持续增长。那么总体来说这意味着什么？咱们跳过了 RAM，没谈内存。以前 GPU 是瓶颈，咱们测量过，目下是 CPU。那么对大多数东说念主来说更亲自的是：目下 PC 很难买，因为超等贵。CPU 也会这样吗？你刚才提到它们相对低廉且价钱持平。市集压力会鼓动它们加价吗？
是的，PC、札记本电脑、拼装 PC 都很难买到。比如 Apple 的 Mac mini 基本卖光了。咱们买了一大都 Mac mini，因为以前用 Excel 和 Windows 的东说念主目下想用 Claude Code，而 OSX 显然树立环境更好。是以东说念主们买了好多 Mac mini 在部署使用。我合计通盘鸿沟都肖似，而数据中心对资源的购买愈加珍贵弹性，这也导致价钱上升。GPU 一直很贵，英伟达的利润率一直在 70% 以上。
CPU 的利润率没那么高，但正在攀升，因为 Intel 和 AMD 在加价而且供应垂危。内存价钱在夙昔一年涨了 4 倍，而且还会连接涨。目下 SSD 也涨了，统统资源都在涨：SSD 价钱也涨了 3-4 倍，而且至少还会再涨 60% ——莫得 DRAM 那么多，但也好多。是以玄虚来看，Intel 和 AMD 的 CPU 产能某种进度上不错在 PC 和数据中心之间调动，内存和存储则相称可互换。效果就造成了：去他的普通用户——你得目下买 Mac mini，不然你就始终脱离不了永恒底层阶层了，差未几是这种念念路。
临了一个问题，咱们本领快到了。不是财务提议，Intel 之前处境相称恶运，最近初始有起色。但 CPU 需求会把他们拉出逆境吗？
他们会好一些，但这并不是说公司得救了——公司估值基于畴昔现款流。而且有一种可能性是他们会得到 Apple 或其他客户。更专门念念的是，不是因为 CPU 需求高到 Intel 能从中获取一些短期利润——其他东说念主（AMD、亚马逊等）会赶上来的，他们会补上我方的产能。更紧迫的是，AI 正在买走统统 3 纳米和 2 纳米的产能，几年内东说念主们将不得不转向其他标的。比如英伟达收购 Grok，东说念主们编了各式无厘头原理，一部分是因为他们想要极快的推理，但另一部分是因为 Grok 是用三星制造的——因为台积电那边莫得 3 纳米产能给他们了，他们需要别处流片。
如果 AI 真的像咱们信赖的那样荒诞，需求像咱们信赖的那样荒诞，来岁会更荒诞。那么只须造出任何像样的芯片就能卖掉——差未几是这种玄学。显然他们在架构等方面作念了更多事情，但同样的情况也适用于 Apple：台积电告诉 Apple，" 嘿，从 3 纳米下来吧，快点转移到 2 纳米，我能作念。" 因为统统 AI 芯片都在 3 纳米上，这需要本领。袖珍移动芯片比大 AI 芯片容易制造。目下统统 AI 芯片都在往 3 纳米转移：AMD 的 MI350 系列、亚马逊和谷歌的 Trainium 3 和 TPU v7、英伟达下周要发 Rubin ——统统这些都在 3 纳米上。台积电让 Apple 下来，让高通和联发科下来。这三家公司可能会想 " 也许咱们该用 Intel，因为 Intel 莫得让咱们下来 " ——但 Intel 作念不了啊。是以大家都很难。
我还有好多问题想问，但咱们只剩下 20 秒了。我下一个问题敬佩会超时。那就先到这里买球投注平台app官网，相称感谢你来和咱们不异。谢谢！
立博体育LIBO中国官网
备案号: