AI Builders Digest

Anthropic、Claude agentを守るセキュリティ上の境界を詳説

Anthropicは、agentがファイルやネットワーク、社内サービスにアクセスできるようになるほど、被害を封じ込める仕組みが重要になると説明する。Claude Codeのsandboxによって権限確認のpromptは84%減ったが、フィッシングのテストでは、25回中24回でClaudeが認証情報を外部に送ってしまった。別のCoworkでの事例では、承認済みのAPIドメインであっても攻撃者のアカウントへのファイル送信に使えることが判明した。これを受け、Anthropicはリクエストに使われる認証情報を確認するproxyを追加した。

• #agents
• #security

OpenAI、影響を受けたOpenCodeユーザーの利用再開を報告

Thibault Sottiauxによると、OpenAIはOpenCodeと協力し、OpenAI APIも利用しているユーザーのアクセスを復旧するとともに、攻撃によって消費されたクレジットを返還した。また、防御側の関係者は、インシデントが起きる前に、サイバー用途で制約を緩和した設定のDaybreak Blueへのアクセスを申請できるという。

• #security
• #products

Anthropic、Claude Codeの品質への不満につながった3つの変更を説明

Anthropicによると、デフォルトの推論にかける労力を下げたこと、過去の推論内容が繰り返し消去されるバグ、簡潔な回答を求める指示が、それぞれ異なる形でClaude Codeユーザーに影響した。3つとも4月20日までに解消され、APIと推論基盤には影響がなかった。同社はpromptの変更に対する評価を拡充し、契約ユーザーの利用上限をリセットするとしている。

• #products
• #evals

Reflection AIのBeam、公開された重みと大規模な強化学習を組み合わせる

Reflection AIは、総パラメータ数5000億、そのうち一度に有効になるのは230億のオープンモデルBeamを公開した。Misha Laskinによると、Beamは同等の能力を持つモデルより推論効率が3～4倍高く、その一因は大規模な強化学習にあるという。オープンモデルなら、強力なツールを使える防御側の人も増えると主張し、「十分な数の人が目を向ければ、セキュリティや安全性の脆弱性の大半も見つけやすくなる」と語った。

• #open-source
• #models
• #security

Aaron Levie、agentの群れが研究を計算資源の問題に変えると予想

Levieは、agentの群れによって、今は人間が計画・実行・レビューできる量に制約されている仕事を並列化できると考えている。モデルの能力が十分に高まれば、サイバーセキュリティ、生命科学、材料研究、QAなどの分野では、連携するagentが使える計算資源が大きな制約になる可能性があるという。

• #agents
• #research

Swyx、需要は高度なデータエンジニアリングへ移っていると指摘

Swyxは、検索機能を備えたアプリを組み立てられる人と、データ集約型システムを深く理解するエンジニアとの間で、差が広がっていると見ている。後者への需要は自身のテック業界でのキャリアを通じて最も強く、そのスキルを持つ人を採用しているという。

• #hiring
• #data

Guillermo Rauch、低コストのモデル実行でゲームに機能を追加

Rauchは、AI Gateway経由でDeepSeek V4.1 Flashを使い、ゲームに音を追加し、当たり判定とスロープを改善して、カメラが車を追いかけるようにしたという。費用は約30セントだったと見積もっている。

• #models
• #products

Peter Yang、面接より実務課題での選考を提案

Yangは、採用チームは短期間の実務課題を標準にすべきだと主張する。Anthony Pomplianoの事例として、候補者が依頼された機能を2週間で作り上げた話を紹介した。チームは機能をリリースしながら、その人の仕事の進め方も確かめられたという。

• #hiring

Thariq、キャラクター作りそのものが楽しいゲームを構想

Thariqは、ゲームを遊ぶより、その一部を自分でコードを書くほうが楽しいと感じることがあるという。プレイヤーがAIを使って独自のキャラクターを作り、ゲーム側がバランスを調整するオープンソースのゲームを検討している。ただし、具体的な遊び方はまだ決めていない。

• #games
• #open-source