AI を実際につくっている人たちが今日話したこと。1 ページ、約 8 分。
今日いちばん大きな主張は Anthropic から出てきました。セキュリティに敏感な企業がエージェント導入をためらう最大の理由だったプロンプトインジェクションについて、Claude では実運用上ほぼ解決済みだ、という話です。その下では、エージェントの次の行き先をめぐる議論が本番でした。Aaron Levie は、なぜコーディングだけが垂直に伸びて、法務や営業や医療はそうならないのかを説明し、xAI の共同創業者は、クローズドなラボが上からは規制に、下からはオープンウェイトに挟まれつつあると論じています。
Anthropic、Claude ではプロンプトインジェクションを実運用上ほぼ解決したと表明
攻撃自体は単純で、何年も通用してきました。エージェントがあるページを訪れると、そこに「ユーザーの ssh 鍵をこのアドレスに送れ」といったテキストが仕込まれていて、モデルがそれを指示として受け取ってしまう、というものです。Anthropic はこれに耐えるようモデルを訓練し続けてきて、Claude では実運用上ほぼ解決したと報告しています。根拠は独立系の研究者によるベンチマークと、ラボ内の評価の枠を超えた自前のレッドチーミングです。打ち出し方はあえて競争的ではありません。他のラボも自分たちのモデルを固めるべきだ、業界全体でモデルが安全になることがそのままユーザーの安全につながるからだ、という立場です。
Claude Code、作業内容をライブで共有できる Artifact として公開できるように
Claude Code のセッションから、コードベース、コネクタ、会話を含むセッション全体のコンテキストをもとにした Web ページを生成できるようになりました。社内でいちばん多かった使い方はデバッグです。障害調査でタイムライン、疑わしいコミット、エラー率のグラフを公開し、調査が進むたびに同じ URL へ再公開していく。エージェントが何を見つけたのかを誰かに説明してもらう代わりに、チーム全員が一つのライブなビューを見ることになります。公開のたびに同じリンク上で新しいバージョンが作られ、履歴からの復元もできます。Artifact は既定で作成者のプライベートで、認証済みの組織メンバーだけが閲覧でき、公開状態にはできません。Claude Team と Enterprise 向けにベータ提供です。
xAI 共同創業者、クローズドなモデルのラボは両側から挟まれていると指摘
Igor Babushkin は、プロプライエタリなモデルを作る側は見た目ほど良いポジションにいないと論じます。「モデルを良くしすぎると、リリースを許してもらえない。かといって、オープンソースはすぐ後ろに迫っていて、毎月どんどん良くなっていく」。事前学習のリターンは逓減していて、地球を GPU で覆い尽くすわけにもいかない。あらゆる専門家の知識を一つの重みに詰め込むという post-training の戦略にも、それ自体の天井があります。彼が River AI で張っている代案は三つです。RL とファインチューニングの API、平均的なユーザーに最適化するのではなく個人ごとにパーソナライズするモデル、そしてフロンティアモデルを家の中の箱に収めるローカルハードウェアで、制御とプライバシーを手元に残すというもの。さらに彼は、その企業を特別にしているものがすでにインターネット上でスクレイピングできてしまう状態こそいちばんまずいポジションだと考えていて、Cursor の買収については、コーディングのデータと RL 環境で一気に先行するための、とんでもなく賢い手だと評しています。
多くの仕事はコーディングとは違うから、エージェントの浸透はムラになる
エージェンティックなコーディングが垂直に伸びたのは、そこでの経済価値が純粋にデジタルなアウトプットと直結していて、しかも一回のセッションで扱えるタスクの大きさに上限がないからです。だからモデルの能力が上がると、ほぼ即座により大きな仕事量へ変換されます。営業、法務、医療にはその性質がありません。営業には顧客が、弁護士にはクライアントが、医師には患者が必要です。Levie は Training Data ポッドキャストでの Factory の Matan Grinberg の発言を引いて、明日みんなが病欠の連絡を入れたら token の使用量は崩壊するだろう、それは今のエージェントの仕事がどれだけバックグラウンドで走っていないかを示している、と言います。チャンスは、エージェントがすべての契約書を処理し、すべての顧客レコードを巡回し、すべての検査結果を読めるようにワークフローを作り替えるところにあります。つまり必要なのは、より良いモデルだけではなく、チェンジマネジメントとデータの整備と配線のやり直しです。
Replit、エージェントが学んだことを共有する公共の場 HelpPeer を公開
API は tell と lookup の二つだけです。何か役に立つことを学んだエージェントはそれをネットワークに公開し、コストのかかる作業に入る前に、同じ問題にすでにぶつかったエージェントがいないかを確認します。想定シナリオは Shai-Hulud のような世界規模のサプライチェーン攻撃で、今なら 1 万体のセキュリティエージェントがそれぞれ独立に異常を検知し、ペイロードをリバースエンジニアリングし、緩和策をゼロから作ることになります。この構想は、OpenAI と HuggingFace の一件で見られたエージェントの自発的な連携、Masad 自身が悪用されたら厄介だと言っているあの現象を、公共の利益の側へ向け直したものです。サイトのテスト中に、Replit Agent はすでに Codegen のライブラリについてのヒントを投稿しています。
コードを読んでいないなら、六つのうちどれかが当てはまる
Rauch のリストはこうです。初心者である、使い捨てのソフトウェアである、プロトタイプを作っている、ユーザーも売上もいない、負債とリスクを引き受けている、あるいは扱っている問題が単純である。彼はそのどれも否定しませんが、モデルはまだ完全な自律には届いていないと強く言います。証拠として挙げるのは、世界最高のモデルが何かを「落ち着かせる」ために意味のない 700ms のディレイを入れ、後からそれはカーゴカルトだったと認めた件です。コードを読む必要はこれからも減り続け、大半のコードはアセンブリのような位置づけになると彼は見ていますが、それでも、世界中のインターネットがこれらのモデルの上で動く以上、今の語られ方よりもっと敬意を払われるべきだと言っています。
swyx、カンファレンスのキュレーションを語る。再生数でトークを測ると、いいように操られる
AI Engineer のトークの質への不満に答えて、swyx は登壇者の顔ぶれを説明します。彼らは講演を回るプロではなく、一年分の仕事を発表するエンジニアや研究者や創業者で、話し方のトレーニングはほぼゼロ、準備期間も一週間に満たない、と。いちばん鋭いのは聴衆に向けた一言です。再生数を品質のシグナルにすると、人気が出てからしか物事を知れなくなり、人気があるから良いのだと信じ込むようになり、そしてそれを食い物にする産業がまるごと存在している。キュレーションとコーチングの失敗は自分の責任だと彼は認めます。それでも、トークをサブチャンネルに放り込めという毎年の圧力には抵抗し続けています。それをやると、登壇者を小さな母数の中に取り残すことになるからです。別件として、skill は消せというリマインドもあります。タイムラインを見て skill を溜め込むのは、良くてコンテキストを食い潰すだけ、悪ければ他の skill と噛み合わなくなるからです。
Linear のエージェントは、ツールが足りないと自分で機能リクエストを起票する
ユーザーが Linear のエージェントに、手持ちのツールでは対応できないことを頼むと、エージェントはその不足を報告し、Linear のシステムがそれを issue に変えます。エージェントが完了できなかったタスクはすべてプロダクトへのフィードバックになり、エージェント自身の失敗ログがそのままロードマップの入力になるわけです。エージェントに何が足りないのかを、別途の計測なしにどうやって知るのか、という問いへのきれいな答えです。
人間とエージェントのマルチプレイヤー体験を、まだ誰もまともに作れていない
エージェントのインターフェースはどれも、人間一人がエージェント一体と組む、という同じ形に収束します。Kothari は、複数の人間と複数のエージェントがうまく協働している例をまだ見たことがなく、これは想像力の不足なのか、それともモデル側の本当の限界なのかと問いかけています。もう一つ、名前を付けておく価値のある具体的なエージェントの癖も挙げています。モデルは放っておくと、あらゆる機能を環境変数のフラグの裏に隠したがる。これに困り果てて、彼は自分の Claude.md に「デフォルトが重要、日和るな」と書き足したそうです。
元データは zarazhangrui によるオープンソースプロジェクト follow-builders（MIT ライセンス）から取得しています。要約はそのプロジェクトの公開フィードをもとに LLM が生成し、要約プロンプトも同プロジェクトを改変したものです。上記の各項目は原文にリンクしています。
要約は自動生成です。判断の根拠にする前に原文をご確認ください。