AI Builders Digest

Core Automation の創業者いわく、ボトルネックは compute ではなく transformer そのもの

Jerry Tworek は OpenAI で、RL をスケールさせればそれで決着がつくと信じて RL を推し進めてきた人物です。本人いわく、2025年はすべてが解決される年になるはずでした。ところが benchmark のスコアは伸び続ける一方で、現実のタスクは相変わらず雑然としたまま。eval と学習データは表裏一体で、どちらも実際の deployment とは噛み合っていないからだ、というのが彼の見立てです。結論は、モデルは test time に学習できなければならない、しかし transformer は構造上それができない、というもの。そこで Core Automation は代替となる architecture を探しており、AGI を「human in the loop なしに自分自身を改善するモデル」と定義しています。本人の言葉を借りれば、人間と LLM のハイブリッドはいまめちゃくちゃうまくいっている、でも人間抜きの LLM はそうでもない。Rohan Anil は現実的な壁を付け加えます。彼らが開催した QR kernel のコンペでは、cuSolver を60倍上回るために、地球上に3人ほどしかいない人材と、4週間で10万ドル分の coding agent が必要でした。frontier model はどれも、これを解くには程遠いとのことです。

• #research
• #agents
• #hardware

Vercel、社内オペレーションを自前の agent 一つに集約

Guillermo Rauch によれば、Vercel の日々の業務はいまやすべて @v という社内 agent を経由しており、1日あたりのやり取りも token 消費も指数関数的に伸びています。財務、広報、ドキュメント、マーケティング、エンジニアリング、分析まで守備範囲は広い。ユーザーごとの memory、workflow、スケジュールを保持していて、Eve の設計のベースにもなっています。面白いのは routing の話です。Vercel はかつて数十個もの agent を個別に作っていて、Rauch はそれを「agent 一つひとつに専用のドメイン名を与えるようなもの」と評します。そこで @v は agent 兼 router となり、sub-agent と skill、そして委譲の仕組みを備えるようになりました。既製ベンダーの Slack 連携をつなぐだけで済ませない理由は、オーナーシップです。agent が現代の企業そのものと同義になるのなら、source から runtime、データ、token に至るまで自分たちで握っておきたい、という主張です。

• #agents
• #products

最も難しい仕事から自動化されるのは、それが最も検証しやすいから

Aaron Levie の整理はこうです。数学、セキュリティ、コードが早い段階で自動化されるのは、難しいにもかかわらずではなく、正しさを客観的にテストできるからです。だから学習時の報酬シグナルが明確になり、deployment がうまくいっているかどうかも大規模に確認できる。対して契約条項、マーケティングキャンペーン、営業メッセージ、予算策定には唯一の正解がなく、運用側のリスク許容度に左右され、そもそもモデルが出力してからずっと後にならないと採点できないことも多い。この含意は、純粋なモデルのスケーリング一辺倒とは逆を向きます。能力が指数関数的に伸びたとしても、価値の大半は applied AI のレイヤーで作られ、業務プロセスそのものも変わらざるをえない。ソフトウェアがすでにそうしているように、ナレッジワークをテストするまったく新しい手法が必要になるかもしれない、と彼は言います。

• #evals
• #agents

Dan Shipper が描く「主体性の断裂」の三段階

これまで一つひとつ自分の手を必要としていた作業を、モデルがこなしていくのを眺めるのは、ある種の死のように感じられます。私たちは自分自身と自分の産物を同一視しているうえ、誰も許可を求めてこなかったからです。Shipper によれば、その反応は予測可能な弧を描きます。最初は AI しか目に入らないので「AI が例の Erdős 問題を解いた」と言う。次に人間側の足場に気づいて「自分の仕事は Claude のお守りだけだ」と言う。最後にはその足場そのものを軸に主体性を組み直し、足場こそが本当の仕事に見えてくる。そして再び「これは自分がやった」と言うようになる。AI の存在は言外に含んだうえで。こうした断裂を遊び心と好奇心に消化できるかどうかが、AI 経済で誰が伸びるかを左右する、というのが彼の賭けです。そして能力が一段跳ねるたびに、数学者のようにこれまで無傷だった層にも新しい断裂が生まれる、と付け加えています。

• #agents
• #culture

「VC は事実上、完全に vibes capital になった」

Nikunj Kothari は、early stage と mid stage のバリュエーションがもはや fundamentals から完全に切り離されていると言います。中身がないのにとんでもないラウンドを調達する会社がある一方で、誰が見ても手堅いはずの会社が苦戦する。結果を決めるのは、いま流行りのセクターにいるかどうかです。多くの人が予想する調整局面ではなく、dry powder と AI の追い風によって、この状況は少なくとも12〜18か月は続くと彼は見ています。公開市場も同じ燃料で走っていて、時価総額1兆ドル級の銘柄が vibes とモデルのリリースだけで5%以上動く。直近ではメモリ株や KOSPI がその例で、ローテーションの速度も上がっています。アドバイスとしては、最終的に勝つのはやはり収益性ときれいな cap table だということ。ただし創業者は、資本市場に手を出す前にいまの渦の構造を理解しておくべきだ、と釘を刺しています。

• #funding
• #markets

数学ではすでに Jevons のパラドックスが見えている。需要はむしろ増えている

Thariq は、数学における AI はチェスがたどった道と同じように進んでいると論じます。動きの総量は増え、理解しやすくなり、数学者が外部の人とより高い抽象度で議論する時間も増えた。結論は displacement の物語とは正反対です。数学を考え、数学を知る人材への需要は、減るどころか増える。

• #research
• #culture

Amjad Masad の LLM チェスエンジンが Lichess で稼働中、Elo 1253

エンジンはいま、人間とボットの両方を相手に自律で実戦を戦っていて、同時に3局を並行して進めています。対局はサイト上でライブ観戦できます。現在のレートは Elo 1253 です。

• #agents
• #products

Hermes は自作 skill が slop 化するのをどう防いでいるか

Hermes は仕事をこなすために自分で skill を作ります。当然の疑問として、そのライブラリが腐っていくのを何が止めるのか、という話になります。Nous Research 共同創業者の karan4d が Peter Yang に語った答えは Hermes Curator でした。agent の内側で定期的に走る background task で、slop はどこにあるか、どこをもっと効率化できるかを問いながら、skill と memory を掃除していきます。open source なので、slop の定義を自分で渡せば、それに合わせて掃除の loop 自体を書き換えてくれます。

• #agents
• #open-source

computer-use agent がサポートチャットに出て、議論に勝った

Swyx はこのテーマの podcast に向けて Codex の computer-use 事例を集めていて、いまのところの目玉は、早期解決のためのエスカレーションを狙って agent が本人に代わってサポートチャットを担当した件です。サポート担当は問題を彼の側のせいにしようとしましたが、agent は完璧な証拠を揃えて返してきました。本人のコメントはこうです。人間側は、自分がボットと話していることにまるで気づいていない。

• #agents
• #products

Garry Tan いわく、結果こそが現地であり、それ以外はすべて地図にすぎない

実力主義についての Tan の見方は、みんな地図を現地そのものと取り違え続けている、というものです。市場における現地とは、要するに人が欲しがるものを作れたかどうかだけ。併せて彼は、AI による経済成長こそいま手に入る最良の white pill だと呼び、驚きの総量が放物線を描いて増えたまさにその瞬間に、世間の驚く感覚のほうが消えてしまったと指摘しています。

• #culture
• #markets

アプリの時代が終わるなら、ソフトウェアのどこが目に見えるまま残るのか

Ryo Lu は、初期の師匠として Rdio、Mailbox、そして Apple を挙げます。ソフトウェアをよりシンプルに、直感的に触れるものにしたパターンを発明したアプリたちです。その時代が終わろうとしているいま、彼が問うているのは、ソフトウェアのどの部分がそもそも目に見えるまま残るのか、そしてその部分はどう感じられるべきなのか、ということです。

• #design
• #products

Karpathy、pelican on a bicycle テストを遊べて fork できる形で公開

Simon Willison による pelican on a bicycle テストの最新版を受けて、Karpathy がソースをアップロードしました。ブラウザ上で動き、誰でも fork できます。余談として一言、GTA VI より先に GTA Hobbiton が出るかもしれないので注意、とのことです。

• #evals
• #open-source