AI构建者摘要
真正在做 AI 的人今天说了什么。一页读完,约 5 分钟。
Anthropic 给 Claude 配了一个属于它自己的浏览器,同时让 Claude in Chrome 正式全量开放,还公开了一组攻击数据来支撑这种自主性。NVIDIA 收购了 Hugging Face,开源 AI 的重心一夜之间就定在了那里。Box 交出了 14 个季度以来最好的固定汇率增长,并给出一个判断:agent 的上限,取决于它能读到多少非结构化内容。
Claude Blog
Claude in Chrome 全量开放,不再每一步都要你点同意
Claude in Chrome 已在所有付费套餐上全量开放,Claude 现在会自动放行它判断安全的操作,而不是每次都来问你。支撑这一点的有三层:拿不断扩充的真实 prompt injection 攻击样本库做训练;在 Claude 动用工具结果之前先做扫描的探针;以及一个分类器,逐条比对待执行的操作和你真正提出的要求。数据是具体的。在更难的那套红队评测里,触达模型的攻击在没有任何防护时对 Opus 4.5 的成功率是 17.6%,对 Opus 5 是 3.8%;加上探针和安全分类器之后,对 Sonnet 5 和 Opus 5 没有一次成功,Fable 5 在低危场景下的成功率是 0.3%。
- #agents
- #security
- #evals
Aaron Levie
Box CEOBox 单季 3.21 亿美元,认为超级智能的上限在于它能读到什么
Box 二季度收入 3.211 亿美元,同比增长 9%,按固定汇率计算增长 11%,是 14 个季度以来最好的固定汇率增速,全年目标上调到 12.90 亿美元。面向企业客户的说法是:世界上最先进的超级智能,有用程度取决于它能接触到多少企业知识,而企业知识的大头不在数据库里,在合同、财务和路线图这类非结构化内容里。技术负责人反复提的是两件事:随着 token 用量上升,能在现有工作流上直接替换模型和 agent;以及硬性的护栏、审计日志和实时告警,确保不管是人还是 agent,都碰不到不该碰的数据。
- #agents
- #products
Claude
Claude 的浏览器不用装,也和你自己的隔着一道墙
当 Cowork 里的任务牵涉到某个网站时,侧边栏会打开一个浏览器,Claude 在里面导航、填表单,把活干完。没有什么要安装的:它内置在桌面端里,和你自己的浏览器与登录状态相互隔离,未来一周内向所有付费套餐陆续开放。Claude in Chrome 也已在所有付费套餐上全量开放,你要是本来就在用,它还是你的默认选项。
- #agents
- #products
Aditya Agarwal
SPC General PartnerDeepCogito 拿下 4300 万美元 A 轮,赌前沿在 post-training
观点很直接:决定 AI 前沿的将是 post-training,不是预训练。DeepCogito 是一家做 post-training 的研究实验室,方向是大规模强化学习和递归自我改进,核心方法是迭代式蒸馏与放大,已经在 3B 到 600B+ 参数的模型上公开验证过。本轮参与方包括 Benchmark、TQ Ventures、Atreides、Nexus VP 和 Zscaler。两位创始人 Drishan Arora 和 Dhruv Malrana 认识 14 年了,2024 年 3 月以 Founder Fellows 的身份加入 SPC。
- #funding
- #research
AI & I by Every
一家百亿美元对冲基金把用 AI 定成硬性要求,还让员工别再藏着
Walleye 的老板兼操盘者给全公司发了一封信,开头就是「这封邮件我是用 ChatGPT 写的,你们也应该用,而且应该为此自豪」,接着补了一句「作为一家对冲基金,明明有工具能让我们更快、更聪明、更有效,却视而不见,把钱留在桌上,这是该羞愧的事」。他真正要解决的问题是羞耻感:有人先让机器生成草稿,再刻意把它改得粗糙一点,好让它看起来不像机器写的。现在这家 400 人的公司里,大约 75% 每周会用到聊天助手,约三分之一在用 AI 编程工具;一个叫 Current 的内部产品把监管文件、券商研报和财报电话会纪要转成分析,供多空团队使用,已经有 50 多家外部机构主动要求做 beta 用户。他对边界很谨慎:这些工具不会替你省掉思考,它们买回的是敲字这种机械时间,好让你多想一些;一份读起来就是不过脑子生成出来的内部报告,照样不合格。他也不认同在真实公司里给生产力提升做基准测试有什么意义,并且认为在这场转变中,领导者的工作是定下一种氛围:当着三分之一的公司演示翻车,不用付出任何代价。
- #enterprise
- #products
Dan Shipper
Every CEOCodex 原生应用发布
OpenAI 的 Codex 现在有原生应用了。Shipper 的说法是,这是通才和哲学家的黄金时代,也是对认知性绝望的一剂不错的解药。
- #products
数据来源
源数据来自 zarazhangrui 的开源项目 follow-builders,以 MIT 许可发布。摘要由 LLM 基于该项目的公开 feed 生成,摘要 prompt 亦改编自该项目。上面每一条都链接到原始出处。
摘要由程序自动生成。据此做判断前请先看原文。
