AI構建者摘要

TypeSafe 的 Jev 希望讓 AI 決策可靠到足以用於軟體

Diogo Almeida 說，Jev 返回的是開發者可以測試、並據此自行設定閾值的機率，而不是一段看似漂亮、卻可能掩蓋錯誤決策的回答。他希望開發者把一個個小而可靠的決策組合起來，構建更大的自動化工作流。他這樣形容當前模型：“95% 是 Einstein，5% 是 Mr. Bean。如果它不告訴你自己什麼時候變成了 Mr. Bean，你還怎麼自動化？”

• #products
• #automation
• #evals

Aaron Levie 預測，後臺 agent 可能讓 token 用量增加 100 到 1,000 倍

Levie 認為，讓多個 agent 並行處理審查、審計和其他資訊任務，消耗的 token 可能是如今來回聊天的 100 到 1,000 倍。他也認為，Meta 的開放權重模型 Muse 能幫助企業把前沿模型與成本更低、針對特定需求定製的模型搭配使用，處理可重複的工作流。

• #agents
• #open-source
• #compute

Anthropic 與 Gray Swan 計劃舉辦 prompt 注入攻防競賽

Boris Cherny 說，Claude 在抵禦 prompt 注入方面取得了顯著進展，但隨著 agent 承擔越來越多工作，這個問題對整個行業也愈發緊迫。Anthropic 正與 Gray Swan 合作舉辦一場競賽，尋找其中的薄弱環節。

• #agents
• #security

Dan Shipper 質疑可解釋效能揭示多少 AI 的計劃

Shipper 的觀點很直接：找到一個會對 Eiffel Tower 產生反應的神經元，能說明模型認得 France，卻不能說明它打算做什麼。他不認為只憑可識別的內部特徵，就足以理解模型的行為。

• #interpretability
• #safety

Aditya Agarwal 認為，對齊是一個工程問題

Agarwal 說，Goodfire 可能成為 SPC 孵化出的最重要公司之一。原因是它的工作表明，模型可解釋性和對齊都可以作為工程問題來處理。

• #interpretability
• #safety

Zara Zhang 做了一份圖片會動的報紙

Zhang 分享了 The Toddler Times，一份 Harry Potter 風格的報紙，裡面的圖片可以動起來。這是利用互動媒體重新構想熟悉形式的一個具體例子。

• #products