The MAD Podcast with Matt Turck
OpenAI 算力负责人:真正的风险是建得不够,不是建过头
负责 OpenAI 工业算力的 Sachin Katti 直接否掉了产能过剩这套说法:「今天的需求远远超过算力供给。所以我们能接进来多少,就立刻消耗掉多少。」每一次公司以为算力够了、于是松一口气,事后都后悔。他真正担心的恰恰相反:燃气轮机、变压器和持证电工这些实体供应链,根本跟不上所需要的节奏。今年 OpenAI 的算力支出大约 500 亿美元,整个行业则接近 7000 亿美元。他确认收入几乎和算力一一对应地增长,算力翻三倍,收入也翻三倍;即便是所谓的训练负载,如今也以推理为主,因为合成数据生成和 post-training 本质上都是推理;OpenAI 自研的 Jalapeño 芯片从设计到流片只用了九个月,优化目标是每瓦 token 数,因为电力才是真正的硬约束。值得注意的是,OpenAI 在自己的这些数据中心里是租户而不是业主,融资压力落在 Microsoft、Oracle、Google、Amazon 等公司身上。他最惊人的一句话是:「AI 来设计训练和运行下一代 AI 所需要的系统,这样的递归离我们并不远」,芯片也在其中。
- #hardware
- #agents
