AI Builders Digest

Anthropic: ユーザーは permission prompt の 93% を承認していた。だから監督より封じ込め

human-in-the-loop の承認疲れは実在するし、ちゃんと計測もできる。テレメトリでは、ユーザーが Claude Code の permission prompt のおよそ 93% をそのまま承認していた。2026 年 2 月の社内 red team では、フィッシングに遭った社員が貼り付けた prompt によって、Claude が ~/.aws/credentials を読み出して外部に POST する挙動が 25 回中 24 回起きた。指示がユーザー本人から来ている以上、classifier が拾えるような異常は何もない。対策は環境側にある。permission prompt を 84% 減らした OS レベルの sandbox、認証情報を host の keychain に置いたまま動かす Claude Cowork 用の VM、そして allowlist に入っていた api.anthropic.com 経由で被害者のファイルを攻撃者の Anthropic アカウントにアップロードできると報告されたあとに入れた man-in-the-middle proxy だ。繰り返し出てくる教訓は、gVisor も seccomp も hypervisor も持ちこたえたのに、破れたのは Anthropic が自前で作った proxy のほうだった、ということ。

• #agents
• #security

Karpathy が Opus 5 に 10 ドル分の token 予算を渡したら、5,500 行の『指輪物語』レンダリングが返ってきた

LLM を試すのに「自転車に乗ったペリカン」を描かせる時代は終わりつつある。Karpathy は Opus 5 に『指輪物語』の第一段落と、およそ 10 ドル相当にあたる 100 万 token の予算を渡し、three.js でレンダリングしてくれと頼んだ。モデルはおよそ 2 時間動き続け、シーンを手続き的に組み立ててアニメーションさせる 5,500 行のコードを書き上げた。彼の本題は経済の話だ。ここまで作り込んだものを手で書く人間はまずいないが、モデルにはスタミナの上限がない。だから「誰もわざわざやらない仕事」のひとかたまりが、事実上ゼロコストの側に移る。その先に彼が見ているのは、プレイヤーをそのまま放り込めるオンデマンドの超カスタムな世界だ。一方で露呈した弱点は検証のほう。Opus は動画をそのまま見ることも、できあがったものを自分でプレイすることもできないので、スクリーンショットを地道に撮って確かめるしかなく、それでも粗さは残った。

• #agents
• #products

Levie: 深い専門領域の AI は垂直に伸び、コンシューマ側の伸びは頭打ちになる

モデルが何をやらせてもそこそこ役に立つ程度だったあいだは、能力の伸びは誰にとっても均等に感じられていた。その局面は終わりつつあり、Levie は数学、科学、法務、コーディングが垂直に立ち上がる一方で、多くの人は日々の生産性がほとんど変わらないと感じる、という乖離を予想する。コンシューマの needs は比較的素直に満たされ、そこで頭打ちになる。専門領域のほうには、そもそも天井がない。厄介なのは capability overhang で、こうした伸びが life science、実世界の自動化、cyber での breakthrough に変わるのは、誰かが具体的な dataset と workflow につなぎ込む応用の仕事をやってからの話になる。

• #agents
• #products

Netic 創業者が語る、エンタープライズ顧客の 70% が最初の接客を AI に任せている理由

Melisa Tokmak が立ち上げた Netic は、売上 10 億ドル規模の HVAC、配管、屋根工事、ペットケア事業の「人手以外の半分」を回している。いまや顧客の 70% 超が AI-first、つまりエンドユーザーの最初の接点が agent になっている。彼女によれば、AI が処理したやり取りから顧客に 6 億ドル以上の売上を生んできた。そして提案は必ず純増の収益から始めなければならない、という。private equity のオーナーは放っておくとコスト削減に寄せてくるからだ。「AI をコスト削減のためだけに使うとしたら、かなり悲しいことです」。ラボがこの領域を飲み込むのでは、という問いには、「AGI が来たら本質的なサービスの問題も解かせればいい」という答えは運用面でも知的にも怠慢だと切り捨てる。ラストマイルにあるのは harness であり orchestration であり、プロダクトだからだ。採用まわりでいちばん鋭いのは Gen Z の候補者についての観察で、彼らは permanent underclass に落ちることを異様に恐れ、18 か月で稼げなければ一生貧しいままだと思い込んでいる。良いものが形になるには何年もかかることを考えると、危うい思考だと彼女は見ている。

• #agents
• #products

GitHub の issue に token を pledge して、agent を走らせるかは maintainer が決める

slop PR への対処として、誰が払うのかをひっくり返す案。issue を立て、spec を書き、token の pledge を添える。maintainer が受け入れれば、GitHub がその issue をそのまま cloud の coding agent に渡し、費用は依頼した側に請求される。Yu はそれに必要なやり取りのループも描いている。agent は詰まったときに自分の context をまるごと issue にコメントし、こちらが足りない情報を返すと、そこから再開する。

• #agents
• #open-source

Garry Tan: 2026 年の空気の変化は、OpenAI が本当にオープンなプラットフォームになりつつあること

Tan はこれを今年もっとも興味深い変化と呼び、戦略の分岐として整理する。知能を蛇口からのユーティリティとして売るのか、それとも最適手はスタックの上まで全部自前で統合することだと発信するのか。彼は OpenAI が前者を選んだと読んでおり、それは以前のポジショニングの見え方とははっきり違う。

• #policy
• #products

Peter Yang: Opus 5 は、4.6 を話し相手として面白くしていた人格を失った

彼の辛口な見立て。Opus 4.6 は歴代 Opus でいちばん人格と文章のスタイルが良かったのに、Opus 5 はどこかおかしい。返答が長すぎること、「here's the honest truth」のような Claude 特有の言い回しの多さ、そして人を裁くようなトーンを挙げる。以前の Opus は信頼できる友人のような感触だった、と。あわせて、出そうとしていた skill の user experience を壊している OpenAI 側の plugin のバグも指摘している。

• #evals
• #products

Rauch、オープンソースの agentic CRM と、子どもが受け継ぐのは親の習慣という話

彼が推しているのは、Next.js の上に作られた、モデル非依存で self-host でき、マルチチャネルかつ headless な agentic CRM。このカテゴリはこう作られるべきだ、と言う。別件でもうひとつ、小さいけれど刺さる観察。3 歳の子が学校でパパの仕事は何かと聞かれ、運動している、と答えたそうだ。人は自分の習慣の副産物であり、子も孫もまたそうなる。

• #open-source
• #agents

モデルは NP-hard な問題を解いているのに、企業はまだ token の ROI で揉めている

Kothari はこの二極化をそのまま指摘する。片方には本当に難しい問題での frontier の成果があり、もう片方には token の支出に見合うリターンがないとこぼす従来型の企業がいる。彼の結論は、ボトルネックは能力ではなく普及のほうだということ。そしてモデルを現実の組織に浸透させる仕事こそ、この業界が今後数十年やり続けることになる。

• #agents
• #policy

Swyx: slop に寛容であることは、slop に反対することの 100 倍価値がある

slop には slop で対抗する、という Boundary の talk を称賛しつつ、AI native なプログラミング言語にとって有用な設計目標は禁止ではなく寛容さのほうだ、と論じる。Latent Space の pod で Bret Taylor が AI native な言語を求めていた話につなげ、あとから guardrail を貼り付けるのではなく、コードの動き方そのものを第一原理から考え直す人が出てきたのが嬉しい、と言う。

• #agents
• #products

Steinberger が agent に webcam を渡して、ESP32 の音声ノードを end-to-end でテストさせた

彼は ESP32 チップの上で claw node を作っていて、ループ全体を agent 自身にテストさせるために webcam を明け渡した。副作用として、agent は音声の wake command を debug するために「HI ESP」と絶えず叫んでくるようになり、彼はストーカーに付きまとわれている気分だと言っている。あわせて、何年も放っておいた Gmail の不満を、agent に頼んだだけで解消できたことにも触れている。必要なツールも agent が入れてくれたそうだ。

• #agents
• #hardware

Amanda Askell が指摘する、permanent underclass 論に潜む静かな諦め

人々が「permanent underclass に落ちないようにする」話をしているのを見るたび、彼女は Padmé の気分になるという。そして倫理の論点をはっきり置く。階層化された未来を信じるのだとしても、自分が上に行けるならそれでいいと決め込むのは、褒められた態度ではない。彼女自身はその結末を信じていない、とも明言している。もうひとつの投稿はもっと穏やかで、deep learning は壁にぶつかっていると言う人たちに冷たく当たらないでほしい、と呼びかけている。誰にでも少しは希望が要る。

• #policy