AI构建者摘要

TypeSafe 的 Jev 希望让 AI 决策可靠到足以用于软件

Diogo Almeida 说，Jev 返回的是开发者可以测试、并据此自行设定阈值的概率，而不是一段看似漂亮、却可能掩盖错误决策的回答。他希望开发者把一个个小而可靠的决策组合起来，构建更大的自动化工作流。他这样形容当前模型：“95% 是 Einstein，5% 是 Mr. Bean。如果它不告诉你自己什么时候变成了 Mr. Bean，你还怎么自动化？”

• #products
• #automation
• #evals

Aaron Levie 预测，后台 agent 可能让 token 用量增加 100 到 1,000 倍

Levie 认为，让多个 agent 并行处理审查、审计和其他信息任务，消耗的 token 可能是如今来回聊天的 100 到 1,000 倍。他也认为，Meta 的开放权重模型 Muse 能帮助企业把前沿模型与成本更低、针对特定需求定制的模型搭配使用，处理可重复的工作流。

• #agents
• #open-source
• #compute

Anthropic 与 Gray Swan 计划举办 prompt 注入攻防竞赛

Boris Cherny 说，Claude 在抵御 prompt 注入方面取得了显著进展，但随着 agent 承担越来越多工作，这个问题对整个行业也愈发紧迫。Anthropic 正与 Gray Swan 合作举办一场竞赛，寻找其中的薄弱环节。

• #agents
• #security

Dan Shipper 质疑可解释性能揭示多少 AI 的计划

Shipper 的观点很直接：找到一个会对 Eiffel Tower 产生反应的神经元，能说明模型认得 France，却不能说明它打算做什么。他不认为只凭可识别的内部特征，就足以理解模型的行为。

• #interpretability
• #safety

Aditya Agarwal 认为，对齐是一个工程问题

Agarwal 说，Goodfire 可能成为 SPC 孵化出的最重要公司之一。原因是它的工作表明，模型可解释性和对齐都可以作为工程问题来处理。

• #interpretability
• #safety

Zara Zhang 做了一份图片会动的报纸

Zhang 分享了 The Toddler Times，一份 Harry Potter 风格的报纸，里面的图片可以动起来。这是利用交互媒体重新构想熟悉形式的一个具体例子。

• #products