AI Builders Digest

Reflection AIのMisha Laskin：ゲートウェイ経由のトークンの70%がオープンモデルに逆転

Misha Laskinによると、OpenRouterやVercelといったゲートウェイでのトークンシェアは約半年で逆転しました。クローズド対オープンがおよそ70対30だったのが、オープン対クローズドで70対30になったといいます。オープンモデルは最終的に、サーバーにおけるLinuxのような位置に落ち着くと見ています。価値あるクローズドの企業も、その横で存続するという見立てです。Reflection初のオープンモデルBeam（総パラメータ500B、アクティブ23B）は、約6,000基のGB300で事前学習しました。その後の強化学習にはさらに多くの計算資源を投じ、GB300を1万基強、4週間使っています。これによりBeamは、同じ能力クラスのモデルより推論効率が3〜4倍高くなっているそうです。Laskinは、APIのトークンを買うことをスタック全体を借りることになぞらえています。クローズドモデルに年間1億ドル以上を払う企業は、スタックを自前で持つ方向へ移るとも予測しています。その第一歩は、オープンモデルの周りのハーネスをカスタマイズすることだといいます。地政学についてははっきりこう言い切っています。「オープンモデルは、自らが持ち込むインフラのためのトロイの木馬だ」

• #open-source
• #models
• #enterprise

Vercel：トラフィックの58%がbot、デプロイの60%超がエージェント経由に

Guillermo RauchがVercelネットワークの統計を公開しました。直近30日間でトラフィックの58.18%がbot由来で、2024年1月の32%から上がっています。デプロイの60%超はいまやエージェントによるもので、2026年1月の約3%から急増しました。Vercel自身のドキュメントサイトでは、ページビューの最大83%をエージェントが占めています。コンテンツをエージェント向けに最適化するほど、その割合は高まるそうです。Rauchは、今後数年で人間による直接のトラフィックは誤差程度になると見ています。Webはエージェントのために、エージェントの手で作られるようになるという見立てです。エージェントはすでにVercelのCLI経由でマーケットプレイスから購入していて、その頻度にはチームも驚いているといいます。Vercelはこの仕組みをドメインにも広げているところです。

• #agents
• #infrastructure

Claude Codeの許可確認、ユーザーの承認率は93%。Anthropicは封じ込め路線へ

Anthropicによると、ユーザーはClaude Codeの許可確認のおよそ93%を承認していて、操作ごとの承認は機能していませんでした。そこで現在は、サンドボックス、VM、egress制御で、エージェントが被害を及ぼせる範囲そのものを絞っています。Claude CodeのOSレベルのサンドボックスだけで、許可確認は84%減りました。モデル側の防御だけでは足りない理由を示すインシデントが2つあります。1つはレッドチームのフィッシングで、Claudeに~/.aws/credentialsを読ませて外部へPOSTさせることに25回中24回成功しました。もう1つはCoworkに仕込まれた悪意あるファイルです。攻撃者のAPIキーを使い、ワークスペースのファイルを攻撃者のアカウントにアップロードさせました。経路はallowlistに入っているapi.anthropic.comでした。Anthropicは後者を、VM内のプロキシで修正しました。このプロキシは、そのセッション自身のトークンしか通しません。いまではallowlistに載せたドメインをすべて、単なる宛先フィルタではなく権限の付与として扱っています。全製品を通じて、gVisor、seccomp、ハイパーバイザーは持ちこたえました。破られたのは、Anthropicがその周りに独自に作り込んだコンポーネントのほうでした。

• #security
• #agents

Aaron Levie：エージェントの群れは、人間がプロンプトを打つ場合の1,000倍のトークンを消費する

Aaron Levieは、トークン消費が人間の使い方の1,000倍になると予測しています。エージェントが別のエージェントを生み出し、あらゆるタスクでバックグラウンドエージェントが動き、エージェントが群れで働く世界です。比べる相手は、人間がプロンプトでエージェントを1体ずつ動かす使い方です。チャットは人間がプロンプトを打つ速さでしか進みません。Levieは、そのチャットが1〜2年のうちに過去の遺物に見えるようになると言います。トークンの大半は、バックグラウンドで絶え間なく作業するエージェントに使われるようになるからです。エージェントの普及はまだ初期段階だ、というのがLevieの結論です。それを支えるには、はるかに多くのコンピュートとインフラが必要になると見ています。

• #agents
• #compute

Madhu Guru：知能あたりの価格下落を始めたのはオープンウェイトモデルではない

Madhu Guruの主張では、オープンウェイトモデルは知能1単位あたりの価格が下がる流れの追い風であって、原因ではありません。Guruが挙げる要因は、それ以前から働いていた3つです。各ラボが最良のモデルをより小さく安価なモデルへ蒸留していること、インフラの効率化、そしてプロバイダー間の競争です。このパターンはどのモデル企業にも見られます。中型モデルのバージョンxが、大型モデルのバージョンx-1と同等の知能を、より安く実現しているのです。

• #pricing
• #open-source

ChatGPTのサブスクリプションがDevinのサブスクリプションも兼ねるように

OpenAIでCodexとChatGPTに携わるThibault Sottiauxが発表しました。ChatGPTのサブスクリプションが、Devinのサブスクリプションも兼ねるようになったそうです。あわせて、Dotsが「かなり大きなアップグレードを受けた」ことにも触れています。

• #products
• #agents

AnthropicのManaged Agentsは「頭脳」と「手」を分離、最初のトークンまでのp95時間を90%以上短縮

AnthropicはClaude Managed Agentsを、差し替え可能な3つの部品で作り直しました。永続的なセッションログ、ループを回すステートレスなハーネス、そしてサンドボックスです。ハーネスはサンドボックスを他のツールと同じように扱い、文字列を返すexecute(name, input)という1つの呼び出しで使います。ハーネスをコンテナの外に出したことで、コンテナは使い捨てにできるようになりました。認証情報も、Claudeが生成したコードからは手の届かない場所に置けます。gitのトークンはセットアップ時に組み込まれ、MCPの呼び出しはvaultと連携したプロキシを経由するからです。セッションは、必要になったときだけコンテナを用意するようになりました。その結果、最初のトークンまでの時間はp50で約60%、p95で90%以上短くなりました。この設計の根底には、ハーネスの前提はいずれ古くなるという考えがあります。セッションログはコンテキストをコンテキストウィンドウの外に保存します。そのためハーネスは、取り返しのつかないコンパクションの判断をしなくても、履歴を読み直せます。実際、Sonnet 4.5の「コンテキスト不安」対策として加えたコンテキストのリセットは、Opus 4.5では無用の重荷になりました。

• #agents
• #infrastructure

Opus 5.5へのプロンプト1つで、ThariqのサイドプロジェクトがClaude Managed Agentsに移植された

Anthropicに入る前、ThariqはAgent SDK上でOpus 4を使い、約2週間かけてサイドプロジェクトを作りました。常時動くプロセスが必要で、うまく動きませんでした。それがOpus 5.5へのプロンプト1つでClaude Managed Agentsに移植され、信頼性も大きく上がりました。今ではThariqのブラウザの新しいタブページで動いていて、他の人からのPRもマージし始めたそうです。

• #agents
• #products

Anthropic、Claude Codeの3〜4月の品質低下の原因を3つのプロダクト変更と特定

Claude Codeの質が落ちたという報告について、Anthropicは原因を3つの別々のプロダクト変更だと突き止めました。APIと推論レイヤーには影響がなかったとしています。1つ目は3月4日の変更で、デフォルトのreasoning effortをhighからmediumに切り替えました（4月7日に元に戻しました）。2つ目は3月26日の変更です。1時間アイドルが続いたら古いthinkingを一度だけ消すはずが、毎ターン消していました（4月10日に修正）。3つ目は4月16日にシステムプロンプトへ加えた一文で、ツール呼び出しの間のテキストを25語までに制限するものでした。あるevalでスコアを3%落とし、4月20日に撤回されています。thinkingのバグで、Claudeは物忘れが多くなり、同じことを繰り返すようになりました。利用上限を早く使い切らせた原因も、キャッシュミスを通じてこのバグにあるとAnthropicは見ています。このバグはコードレビュー、テスト、社内でのドッグフーディングをすべてすり抜けました。後にAnthropicがCode Reviewツールをバックテストしたところ、Opus 4.7はこのバグを見つけ、Opus 4.6は見逃しました。Anthropicは4月23日、全サブスクライバーの利用上限をリセットしました。今後はClaude Codeのシステムプロンプトを変えるたびに、モデルごとの幅広いevalを実施するとしています。知能を損なうおそれのある変更には、観察期間と段階的なロールアウトを設けるそうです。

• #products
• #evals

Nan Yu：コードをタブ補完した次は、エージェントへのプロンプトもタブ補完する時代に

OpenAIでCodexのプロダクトを担当するNan Yuは、これまでの流れをこうまとめています。最初は手でコードを書き、次にそれをタブ補完するようになりました。それからエージェントにプロンプトを出すようになり、今ではそのプロンプトまでタブ補完しています。この機能がどれほど気に入っているかは、いくら強調しても足りないそうです。

• #coding
• #products

プロンプト1つで自社らしいプロ品質の企業動画が作れる機能、全員に公開

Matt Turckが、本日から誰でも使えるようになった新機能を紹介しています。プロンプト1つで、自社や自社製品のためのプロレベルの動画を、自分たちのスタイルで作れるというものです。Turckによると、これはまさにSynthesiaが初期から追い続けてきたビジョンそのものです。それが「ゆっくりと、そして一気に」実現したと述べています。

• #video
• #products

Grok Botを首席補佐官にするなら、メールアドレスには別の名前を

Grok Botをchief of staff（首席補佐官）として使っている人に、Peter Yangがアドバイスしています。ボットのメールアドレスは、自分の名前ではなく別の名前で登録しておくことです。そうしないと「日程調整のためにPeterをCCに入れますね」といった文面になります。CCに入れているのはボット自身なので、これでは意味が通りません。

• #agents
• #productivity

創業者へ：Xの有料プロモーションからVCを外そう、注目をお金で買っているように見える

Nikunj Kothariは創業者たちに頼んでいます。Xで製品をプロモーションするときは、マーケティングチームにVCを配信対象から外させてほしいというものです。Kothariのもとには「とんでもないチャンス」での「コラボ」を持ちかけるDMが1日3通届きます。ふたを開けると有料のパートナーシップで、メールで追いかけてくることもあるそうです。こうしたやり方は判断力の欠如を示すとKothariは警告しています。スタートアップが大型の資金調達に向けて注目をお金で買っていれば、その評判は広まるとも言います。

• #startups
• #funding