这几天Meta一系列动作向大家宣告,AI推理的时代正在拉开帷幕。
几周前,The Information曝出Meta已经砍掉了最先进的训练芯片项目Olympus,转头签下了科技史上最大的两笔芯片采购合同。
从Nvidia采购数百万颗 GPU(规模达数百亿美元),向AMD买了6吉瓦 GPU(多年多代合作)。
这周,它又高调宣布:我们自己造了四款芯片。
Meta工程副总裁直接喊出:"我们看到推理需求正在爆炸。这是我们当前的首要聚焦方向。"
2025年5月英伟达财报会解读中,王煜全告诉大家推理需求崛起已经势不可挡,这是英伟达下一个大发展的机会,也是Agent生态崛起的信号。
下周的英伟达GTC大会,王煜全会分享哪些新的判断呢?如果你想第一时间掌握,一定要锁定前哨科技特训营的周四直播!
接下来,我们一起和你聊聊Meta动作背后的趋势。
先搞清楚一件事:训练和推理有什么区别?
如果你把AI模型比作一个学生:
- 训练就是上学,读教材、做习题、考试、纠错,最终形成知识体系。成本极高、算力极大、周期极长。
- 推理就是毕业后工作,用学到的知识回答问题、做决策、执行任务。每次调用成本低,但调用频次极高。
过去三年,AI行业的焦点一直在训练侧,谁能训出更大的模型、谁能拿到更多GPU来训练。
但现在,游戏规则变了。
当模型训好之后,面对上亿用户每天使用,推理成本的暴涨已经是必然。
每一次你和ChatGPT对话、每一次AI Agent执行任务、每一次Meta在Facebook上给你推荐内容,都是一次推理调用。
Meta自己就有40亿用户。每天产生的推理请求是一个天文数字。
这就是为什么Meta说"推理需求正在爆炸"。
Facebook 数据中心机房内部(早期自建数据中心)
Meta既要又要的三层战略
表面看,Meta的行为很矛盾:刚放弃自研芯片,花了几百亿买Nvidia和AMD的芯片,转身又要自己造?
其实一点都不矛盾。这是目的明确的三层芯片战略:
AMD 与 Meta 扩大合作Meta 副总裁说得很直白:"这(自研+采购)让我们在硅供应上有更多多样性,在采购上有更多的筹码(leverage),一定程度上抑制了价格波动。"
翻译成大白话:Nvidia你涨价?没关系,我有AMD备选!AMD交不了货?没关系,我自己能造。
这是在Nvidia的定价权上插了一刀。
说到这可能有人会问,前面训练芯片失败了,为什么推理芯片有机会?
原因也很简单,训练芯片的技术壁垒太高了,除了要搞定万卡级别的并行计算,还要支持FP32/FP16/BF16/FP8各种精度格式,什么都没做,看到这些专业名词是不是就觉得头大?
到这还没完,还要搞定Nvidia在这个领域20年的软件生态(CUDA)。
但推理芯片完全是另一个故事: 模型已经训好,要做的就是让它跑起来就行,只要符合需求,不用搞什么万卡集群,也不需要支持多种精度格式,还能针对模型优化芯片,大幅降低成本。
这正是Google(TPU)和Amazon(Inferentia)走过的路。
Meta的选择非常理性:训练交给Nvidia(花钱买最好的),推理自己做(自己造最省的)。
关键细节:每6个月一款新芯片
Meta自研芯片最重要的其实是这句:"每6个月发布一款新芯片。对任何芯片公司或团队来说,这都是非常罕见的节奏。"
为什么这么急?Meta的AI基建扩张速度太快了:
- 5吉瓦的Hyperion超级数据中心正在路易斯安那州建设
- 据Bloomberg报道,Meta还在接盘OpenAI/Oracle退出的Stargate德州数据中心
Meta MTIA 400 芯片每建一个数据中心,就需要装满芯片。如果全用Nvidia GPU,成本将是天文数字。
而MTIA芯片由台积电代工,设计完全由Meta控制,预期使用寿命5年以上。
这是一道简单的数学题:40亿用户 × 爆炸式推理需求,既然在基建上已经花了1350亿美元,再花点钱自研推理芯片更划算。
"推理为王"时代已经到来?
把Meta今天的动作放到整个产业背景里看,一个清晰的趋势浮现了:
所有巨头都在从"训练优先"转向"推理优先"。
为什么所有人同时转向推理?王煜全最近用三讲直播,为大家梳理了AI行业正在发生的拐点:
- 阶段性的模型瓶颈:由于一个硬件技术限制,模型性能进展暂时放缓
- Agent时代到来:扫描787家Agent公司,呈现了AI的几个超级赛道
简单说:训练决定你的AI有多强,推理决定你能不能靠AI赚钱。