The MAD Podcast with Matt Turck
OpenAI の compute 責任者、本当のリスクは過剰投資ではなく投資不足だと語る
OpenAI で industrial compute を率いる Sachin Katti は、過剰投資論をきっぱり否定する。「今日、需要は compute の供給をはるかに上回っている。だからオンラインにできたものは、すぐに消費してしまう」。十分な量を確保できたと考えてペースを緩めるたび、同社はそれを後悔してきた。彼の本当の懸念は逆方向にある。ガスタービン、変圧器、資格を持つ電気工事士といった物理的なサプライチェーンが、求められるペースにまるで追いつけないことだ。今年の compute 支出はおよそ 500 億ドル、業界全体では 7000 億ドル近くになる。売上が compute とほぼ正確に連動してきたこと(片方が 3 倍になれば、もう片方も 3 倍)、合成データ生成も post-training も inference である以上、いわゆる training ワークロードの中でさえ今や inference が支配的であること、そして OpenAI 独自の Jalapeño チップが設計から tapeout まで 9 か月だったこと(電力が制約条件になるため、tokens per watt を最適化している)を、いずれも彼は認めている。注目すべきは、OpenAI がデータセンターの所有者ではなくテナントであり、資金調達は Microsoft、Oracle、Google、Amazon などが担っている点だ。最も印象的な発言はこれだ。「AI が、次世代の AI を training し動かすために必要なシステムを自ら設計する、そんな再帰の世界はそう遠くない」。チップも含めて、である。
- #hardware
- #agents
