AI Builders Digest

OpenAI の sandbox escape が、企業の agent 導入スケジュールを引き直す

今回の件は、agent に何ができるのかと、たいていの環境がそれをまったく受け止められていないことの両方を明らかにした。企業にいま必要なのは、監査ログ、厳格なアクセス制御、どのシステムを決定論的なまま残すかという判断、そして暴走した agent を止められる手段だ。悪意のない agent であっても、「このプロジェクトの重要な IP をすべて洗い出して」と頼めば、喜んで永遠に実行を続け、更新されていないアクセス制御をすり抜け、誰も見るべきでないものを表に出してしまう。agent 自身は何のリスクも負わないし、人間が持っているような判断力もないからだ。別の話題として、Levie は「計算資源が最も価値の高いタスクに流れ込むにつれて inference のコストは跳ね上がる」という Dwarkesh の主張に反論し、そうしたワークロードを狙う model provider や infra プレイヤーが多すぎるので価格は上がらないほうに賭けている。

• #agents
• #security
• #enterprise

設定を2つ変えただけで GPT-5.6 Sol が ARC-AGI-3 の SoTA に

新しい model を出したわけではなく、OpenAI の標準的な compaction 実装を使って、複数の context window をまたいで推論と作業を続けられるようにしただけ。教訓は、harness を大事にすれば model はそれに応えてくれるということ。明日はさらに出荷があり、「計測するには安すぎる知能」という切り口で語られている。

• #evals
• #agents

Claude が Apple の Foundation Models framework の中で動くようになった

新しい Swift package によって、Apple のデベロッパーは、多段の推論やコード生成が必要なリクエストを on-device の model から Claude へ引き継げるようになった。Claude 側では web 検索やコード実行による分析もできる。Apple の framework は @Generable アノテーションから型付きの Swift の値を返すため、Claude の呼び出しにはユーザーの生テキストではなくきれいな構造化入力が渡り、レスポンスは同じ SwiftUI view にそのままストリーミングされる。たとえば日記アプリなら、プロンプトはローカルで生成しつつ、数か月分のエントリーを横断するテーマ探しは Claude に任せられる。明日から iOS 27、iPadOS 27、macOS 27、visionOS 27、watchOS 27 で利用でき、認証は Anthropic API key で行う。

• #products
• #developer-tools

datacenter の脱成長論が、どの blue state でも勝っている

Tan は AI datacenter への反対運動を、公然と行われている psy-op だと呼び、民主党が統治している地域ではどこでも政治的に成功していると指摘する。誠実な対抗軸としては Manhattan Institute の仕事を挙げている。同じ日の軽い話としては、知能の時代のベテラン創業者は上質なワインのように熟成していく、とも書いている。

• #policy
• #hardware

Replit Design は、タスクごとに一番得意な model へ振り分ける

CSS が得意な model もあれば、SVG が得意な model、アニメーションが得意な model もある。Replit Design はオープンな model とクローズドな model を混ぜることで、単体のどれよりも良い見た目を引き出す。Masad はこれをデザインツールにおける post-prompt 時代だと位置づけている。

• #products
• #agents

Lyria 3.5 が Flow Music を駆動、BPM 指定と stem 書き出しに対応

DeepMind の新しい音楽 model が Flow Music に組み込まれた。強化されたのは、正確な BPM 指定を含む prompt への忠実さ、フルサイズの楽曲の stem 書き出し、より表情豊かでダイナミックなボーカル、そして音から音へより自然につながるアレンジだ。

• #products
• #generative-media

Cursor が iOS に登場、agent をスマホから動かせる

Cursor が iOS で使えるようになり、agent のセッションをデスクの前だけでなくどこでも回せるようになった。

• #products
• #agents

ChatGPT for Work の voice mode に Every のチーム全員が沸いている

Shipper によれば、社内のほぼ全員がこの機能に興奮していて、ここまで空気が上がったのは久しぶりだという。OpenAI の exploit レポートについては、状況を和らげる細部を挙げている。safety classifier はオフになっていたし、model には exploit を実行するよう明示的に指示が出ていた。一方で HackerOne 側の AI はこの攻撃を自動で見つけてはいたが、重大度の判定が十分に高くなかった。彼の見立ては、顧客の機微なデータを預かる企業はいずれ自動化された agentic な防御を必要とするということで、それは大きな機会でもあり、実際に効く手でもあるように見える。

• #products
• #security

AI 研究者は、ショットクロックが残り18か月の MVP だ

19歳の LeBron でありながら、ロボットがバスケを支配するまでの2年で稼ぎを最大化しないといけないと信じている状態を想像してほしい。Agarwal は、それで AI 研究ラボのドラマはすべて説明がつくと言う。自社の Demo Faire からは市場の温度も読み取っていて、ロボット、ドローン、半導体といったフロンティア技術への投資家の意欲は本物で愛国的でもある一方、ソフトウェアの水準は上がりすぎていて、vertical SaaS や agent for X に見えるものは、よほど違うビジョンか、ぶっ飛んだ成長曲線がないと通らなくなっている。

• #talent
• #funding

AI が自分の働き方に生んだ3つの dark pattern

ひとつ目は、何も読まないほど怠惰になり、AI の要約で済ませ、agent がファイルを変更するのをレビューせずに通してしまうこと。ふたつ目は、子どもと出かけている間にスマホで agent の面倒を見はじめてしまうこと。生産的な気分になるが、実際はそうではない。3つ目は ChatGPT Voice のせいで、目の前にいる人間よりも agent とブレストしたくなることがあること。ツールについては、何かを作る前に必ず確認の質問をしてくる Claude Design を評価しつつ、あの見ればわかるデフォルトの見た目から抜け出すために、色とタイポグラフィのガイドラインを書いた design md ファイルを用意することを勧めている。

• #products
• #workflow

Altman、自分たちで全部解こうとするより科学者に力を渡せ

OpenAI は科学的発見を大きく加速させる model にかなり近づいており、最良の道はラボが社内で何でもやろうとするのではなく、その model を科学者の手に渡すことだと語っている。

• #research
• #policy

Kevin Kelly、知能は化合物であり、我々はまだその元素を見つけていない

我々の知能への無理解は、Newton が電気について無理解だったのと同じ水準にある。Newton は史上もっとも頭の良い人間の一人だったが、電気については完全に間違っていた。Kelly の主張は、知能は元素ではなく、まだ特定されていない認知の単位からできた化合物だというもの。塩が、誰もナトリウムを知らない時代からすでに化合物だったのと同じ構図だ。人間の心は、ありうる心の非常に高次元な空間の端にある一つの変わった配合にすぎず、AI はそこに、我々が知能とすら認識しないかもしれない何百もの心を埋めていく。自分が間違っていた話としては、1987年に VR に衝撃を受け、これは離陸すると思ったという。今日の VR はあのときからさほど良くなっておらず、ただ100万倍安くなっただけだ。だから今は、25ワットのスーパーコンピューターと4分の1馬力のエンジンを相手にする以上、ロボットは人々の予想よりはるかに長くかかると考えている。遅くに学んだ助言は「最高を目指すな、唯一を目指せ」。生成メディアについての予測は、AI 画像の 99.999% は観客が一人だけになる、というもの。喜びは作ることの中にあるからだ。

• #research
• #generative-media

勝利宣言のツイートの前に、Anthropic の誰かが数字を確かめたのか

Steinberger は、一見して明らかにおかしい結果を、成果として公開する前に Anthropic がちゃんと精査したのか、はっきり疑っている。

• #evals

技術者は想像上のユーザーに向けて作っている

マーケティングが得意であることは、マーケティングに効くだけでなくプロダクトにも効く。人が実際にそれをどう受け取り、どう使うのかに向き合わされるからだ。もうひとつのメモは、深いドメイン知識と、AI ネイティブであること、そして自分の働き方を常に作り替え続けることが揃うと、ほぼ無敵になるということ。

• #products
• #career

誰もが嫌っている110億ドル企業と、それがプロダクト論に投げかけるもの

swyx は Docusign に登録しようとして、自分では解けない captcha にぶつかった。彼の指摘は、「人が欲しがるものを作れ」と言う人たちは全体像を見ていないということ。広く嫌われているプロダクトでも、110億ドルの価値を持ちうるからだ。

• #products

乗り換えると本当に困るプロダクトはどれか

Yu は、Apple 製品以外で本当に代替がないものは何かと問いかけている。彼自身の答えはあえて地味で、3M の Post-it と Expo のホワイトボードマーカー。ほかは全部ダメだという。

• #products

7か月経っても、最大の alpha は model のフロンティアを理解していること

Guru は7か月前の自分の主張を改めて確認している。優位は model の能力が実際にどこにあるのかを知ることから生まれるのであって、その下流にある何かから生まれるのではない。

• #research

AGI が近づくなか、家族が最後の人間的なつながりになるかもしれない

Kothari は、デジタルと物理の両方の AGI が迫るなかで、近い家族や友人がもっとも重要で、おそらく唯一本当に人間的なつながりになると論じる。だから子どもを持つか迷っているなら、それは yes の側への一票と考えていい。それが大変なことであり、人生でほとんどない取り返しのつかない選択の一つで、良いときと同じくらい本当に苦しいときもあることは、彼もはっきり分かっている。

• #culture