AI Builders Digest

Greenblatt のタイムライン: 2029 年に AI R&D が完全自動化、その先に takeover

「superintelligence が悪だとは言わない。危険だとは言う」。Greenblatt の中心シナリオでは、AI 企業内部のソフトウェアエンジニアリングが 2028 年初頭までに完全自動化され、2029 年の初め頃には AI R&D 全体が自動化される。そこから研究速度が 4 倍から 5 倍に跳ね上がり、誰も align できない、そもそも理解も追いつかない段階へ進んでいく。彼の AI 2040 Plan A は、compute の所在特定と凍結だけを土台にした米中の合意で、研究の完全な透明化を伴う。これは frontier lab の最大の堀を削り取り、事業そのものは残したまま評価額を縮ませる中身だ。ただし彼自身、実現するとは思っていない。ボトルネックは技術力ではなく政治的意思だと言う。Zuckerberg の superintelligence マニフェストについては、リスクを挙げるだけで何ひとつ提案していない点を不真面目だと切り捨てる。さらに、frontier model を社内に留めておくことは彼が挙げる最大のリスクをむしろ悪化させると論じる。AI 企業と政府こそ、最も賭け金の高い deployment 先だからだ。

• #policy
• #agents
• #evals

Anthropic: Claude Code の permission prompt の 93% は何も考えずに承認されている

Anthropic が agent の封じ込めアーキテクチャを、失敗事例も含めて公開した。要点は数字にある。telemetry によれば、ユーザーは permission prompt のおよそ 93% を承認していた。そこで OS レベルの sandbox (Seatbelt, bubblewrap) を入れて prompt を 84% 削減し、境界を人間の判断から環境そのものへ移した。学びが大きかったのは二つの incident だ。ひとつは red team による phishing で、従業員に貼り付けさせた prompt が ~/.aws/credentials を読み出して外部へ POST するというもので、25 回中 24 回成功した。model レイヤーは user の意図を起点に判断するうえ、異常として引っかかる材料が何もなかったからだ。もうひとつは第三者からの報告で、データが api.anthropic.com そのものを通って流出していた。workspace のファイルに埋め込まれた攻撃者の API key が、allowlist 済みのドメインをファイルアップロードの手段に変えてしまったのだ。彼らが繰り返し立ち戻る結論はこうだ。標準的な primitive (gVisor, seccomp, hypervisor) はどこでも持ちこたえ、壊れたのは自前で書いた独自 proxy のほうだった。

• #agents
• #security
• #open-source

Altman: サイバー防衛は正念場にあり、残された時間は多くない

Altman が AI とサイバー防衛について、短くきわめて直截な呼びかけを出した。動ける時間は多くなく、緊急の集団的な対応しか効かないという内容だ。目を引くのは、OpenAI と組んでもいいし、競合やそのパートナーと組んでもいいと呼びかけた点で、通常の競争の線引きの外側にある話だと位置づけている。

• #security
• #policy

Anthropic、大学や非営利の研究者に Claude の無料枠 10,000 席を開放

大学や非営利研究機関の principal investigator は、科学者向けの Claude Team プランに申し込み、自分の研究グループを追加できるようになった。標準の席は無料。利用上限が 5 倍の premium 席は月 15 ドルで、80% 引きの価格が 1 年間適用される。Anthropic は、6 月の Claude Science と AI for Science のクレジットプログラムを土台に、当初の 10,000 席を大きく超えて広げていく方針だとしている。

• #products
• #research

ChatGPT が認証情報を見ないまま食料品の購入や予約を代行

ChatGPT が agentic commerce の領域に入ってきた。食料品の買い物、Uber の配車、美容室の予約まで担う。設計上の主張として押さえておきたいのは、ユーザーの実際の認証情報を一度も見ることなくこれらを実行する、という点だ。Sottiaux はまた、Codex のユーザーを飛行機の中やカフェで見かけるようになったと述べ、underdog の空気が主流になったと表現している。

• #agents
• #products

Levie: agent の下には deterministic なソフトウェアが要る。両者は一緒に伸びる

今週のテック企業の決算を読んだうえで、Levie は「ソフトウェア対 AI」という構図の立て方が間違っていると論じる。ソフトウェアは毎回まったく同じに動かなければならない deterministic な部分 (アクセス統制、workflow のロジック、データ保護) を担い、agent はその guardrail の内側で人間には到達できなかった規模で動く。だからこそ、統制の価値は今のほうが高い。彼の結論はこうだ。agent を置くのに最適な場所は Salesforce、Box、Harvey、ServiceNow のような縦割りのプラットフォームの内側で、そこでは eval も context もドメイン固有になる。結果としてソフトウェアと AI の採用は同時に伸び、IT の TAM を押し広げる。

• #agents
• #products

eval を握る者がモデルを握る: エンタープライズ AI の定石

エンタープライズの AI 責任者にとって最も効くのは、stack を model agnostic にすることで、そのためには二つの投資が要る。ひとつは今すぐ着手するもので、自社の use case とビジネス成果を実際に捉える eval suite だ。ここは多くの企業がうまくできていないと彼は言う。もうひとつは 1 年以内に備えるもので、open model を自前で post-train する能力である。人材の不足はこちらのほうがさらに深刻で、計画は今から始めるしかない。見返りは、モデルを乗り換え、カスタマイズし、自社の実際の workload の上で品質・コスト・レイテンシを比べられるようになることだ。

• #evals
• #open-source
• #enterprise

Claude Code のセッションから、作業の進行に合わせて更新されるライブな artifact ページを公開できるように

Claude Code は、セッションを codebase、connector、会話から組み立てた共有可能な web ページに変えられるようになった。PR の解説、incident のタイムライン、dashboard、リリースのチェックリストなどだ。ページはセッションの進行に合わせて同じリンクのまま更新され、バージョン履歴とギャラリーも付く。社内で人気の使い道は debugging で、incident のページが調査の過程で自分自身を更新し続け、そのまま postmortem になる。artifact は既定で作成者だけのものになり、認証済みの組織メンバーしか閲覧できず、公開設定にはできない。Claude Team と Enterprise 向けの beta。

• #products
• #agents

Woodward が「Year of Voice」を掲げ、Notebook は購入した本を読み込めるように

Gemini の動きが二つ。ひとつは voice への賭けで、やってほしいことを Gemini に話しかければそのまま仕事に取りかかる。Woodward はこれを Year of Voice と呼ぶ。もうひとつは Notebook で、本を購入してそのまま投げ込み、著者の教えを自分のプロジェクトに当てはめられるようになった。著者や出版社と共同で作り上げたプログラムで、熱心な読者に届く新しいチャネルという位置づけだ。

• #products
• #voice

Vercel、人間だけでなく agent のために設計した WebGPU の開発ツールを公開

Vercel の良いプロダクトはいつも、まず社内技術として確信を持てるところまで育て、それから外に出したものだと Rauch は言う。今回もその流れで、設計段階から agent native な WebGPU のクリエイティブ制作ツールだ。彼はこれを agent browser と同じ世代、つまり後付けで対応させたのではなく新しい世界のために作られたツール群に位置づける。shader についての一言が、この論旨をそのまま縮めている。2D も 3D も、ジオメトリも光も材質も影もパーティクルも、すべては頂点とピクセルの上で大規模に並列評価されるプログラムにすぎない。

• #products
• #agents
• #developer-tools

独自のログインを求める新しい AI プロダクトは、その時点で負けている

Yang のもとには新しい AI プロダクトを試してほしいという依頼が 1 日 3 件から 5 件届くが、そのほとんどが別のサイトやアプリでの新規アカウント作成を求めてくる。彼はそれを使いたくない。ChatGPT と Grok がすでに自分の context を持っているのに対し、新しいツールは自分のデータのごく一部しか理解していないからだ。彼の見立てはこうだ。採用されたいプロダクトは、今どきの主要な AI harness の内側で動く必要があり、そう振る舞う領域はこれから急速に広がる。あわせて、自分で 160 ページ分の医療記録をアップロードした経験から、ChatGPT Health を単独利用の枠を超えて開いてほしいとも言う。患者本人だけでなく、介護者や近い家族のために設計されるべきだ、という主張だ。

• #products
• #agents

Tan: AI は経済が使い道を見つけるより速く現金を生む

十分に長い時間軸で見れば、AI は経済が新しい資本の生産的な使い道を見つけるより速くキャッシュフローを吐き出すようになる、というのが Tan の見立てだ。あわせて彼は SF YIMBY Action と公然と袂を分かち、何年も前からひどい組織だと述べたうえで、代わりに CA YIMBY と YIMBY Law を支援するよう呼びかけた。

• #funding
• #policy