The MAD Podcast with Matt Turck
OpenAI 算力負責人:真正的風險是建得不夠,不是建過頭
負責 OpenAI 工業算力的 Sachin Katti 直接否掉了產能過剩這套說法:「今天的需求遠遠超過算力供給。所以我們能接進來多少,就立刻消耗掉多少。」每一次公司以為算力夠了、於是鬆一口氣,事後都後悔。他真正擔心的恰恰相反:燃氣輪機、變壓器和持證電工這些實體供應鏈,根本跟不上所需要的節奏。今年 OpenAI 的算力支出大約 500 億美元,整個行業則接近 7000 億美元。他確認收入幾乎和算力一一對應地增長,算力翻三倍,收入也翻三倍;即便是所謂的訓練負載,如今也以推理為主,因為合成資料生成和 post-training 本質上都是推理;OpenAI 自研的 Jalapeño 晶片從設計到流片只用了九個月,最佳化目標是每瓦 token 數,因為電力才是真正的硬約束。值得注意的是,OpenAI 在自己的這些資料中心裡是租戶而不是業主,融資壓力落在 Microsoft、Oracle、Google、Amazon 等公司身上。他最驚人的一句話是:「AI 來設計訓練和執行下一代 AI 所需要的系統,這樣的遞迴離我們並不遠」,晶片也在其中。
- #hardware
- #agents
