AI構建者摘要
真正在做 AI 的人今天說了什麼。一頁讀完,約 5 分鐘。
Anthropic 給 Claude 配了一個屬於它自己的瀏覽器,同時讓 Claude in Chrome 正式全量開放,還公開了一組攻擊資料來支撐這種自主性。NVIDIA 收購了 Hugging Face,開源 AI 的重心一夜之間就定在了那裡。Box 交出了 14 個季度以來最好的固定匯率增長,並給出一個判斷:agent 的上限,取決於它能讀到多少非結構化內容。
Claude Blog
Claude in Chrome 全量開放,不再每一步都要你點同意
Claude in Chrome 已在所有付費套餐上全量開放,Claude 現在會自動放行它判斷安全的操作,而不是每次都來問你。支撐這一點的有三層:拿不斷擴充的真實 prompt injection 攻擊樣本庫做訓練;在 Claude 動用工具結果之前先做掃描的探針;以及一個分類器,逐條比對待執行的操作和你真正提出的要求。資料是具體的。在更難的那套紅隊評測裡,觸達模型的攻擊在沒有任何防護時對 Opus 4.5 的成功率是 17.6%,對 Opus 5 是 3.8%;加上探針和安全分類器之後,對 Sonnet 5 和 Opus 5 沒有一次成功,Fable 5 在低危場景下的成功率是 0.3%。
- #agents
- #security
- #evals
Aaron Levie
Box CEOBox 單季 3.21 億美元,認為超級智慧的上限在於它能讀到什麼
Box 二季度收入 3.211 億美元,同比增長 9%,按固定匯率計算增長 11%,是 14 個季度以來最好的固定匯率增速,全年目標上調到 12.90 億美元。面向企業客戶的說法是:世界上最先進的超級智慧,有用程度取決於它能接觸到多少企業知識,而企業知識的大頭不在資料庫裡,在合同、財務和路線圖這類非結構化內容裡。技術負責人反覆提的是兩件事:隨著 token 用量上升,能在現有工作流上直接替換模型和 agent;以及硬性的護欄、審計日誌和實時告警,確保不管是人還是 agent,都碰不到不該碰的資料。
- #agents
- #products
Claude
Claude 的瀏覽器不用裝,也和你自己的隔著一道牆
當 Cowork 裡的任務牽涉到某個網站時,側邊欄會開啟一個瀏覽器,Claude 在裡面導航、填表單,把活幹完。沒有什麼要安裝的:它內建在桌面端裡,和你自己的瀏覽器與登入狀態相互隔離,未來一週內向所有付費套餐陸續開放。Claude in Chrome 也已在所有付費套餐上全量開放,你要是本來就在用,它還是你的預設選項。
- #agents
- #products
Aditya Agarwal
SPC General PartnerDeepCogito 拿下 4300 萬美元 A 輪,賭前沿在 post-training
觀點很直接:決定 AI 前沿的將是 post-training,不是預訓練。DeepCogito 是一家做 post-training 的研究實驗室,方向是大規模強化學習和遞迴自我改進,核心方法是迭代式蒸餾與放大,已經在 3B 到 600B+ 引數的模型上公開驗證過。本輪參與方包括 Benchmark、TQ Ventures、Atreides、Nexus VP 和 Zscaler。兩位創始人 Drishan Arora 和 Dhruv Malrana 認識 14 年了,2024 年 3 月以 Founder Fellows 的身份加入 SPC。
- #funding
- #research
AI & I by Every
一家百億美元對沖基金把用 AI 定成硬性要求,還讓員工別再藏著
Walleye 的老闆兼操盤者給全公司發了一封信,開頭就是「這封郵件我是用 ChatGPT 寫的,你們也應該用,而且應該為此自豪」,接著補了一句「作為一家對沖基金,明明有工具能讓我們更快、更聰明、更有效,卻視而不見,把錢留在桌上,這是該羞愧的事」。他真正要解決的問題是羞恥感:有人先讓機器生成草稿,再刻意把它改得粗糙一點,好讓它看起來不像機器寫的。現在這家 400 人的公司裡,大約 75% 每週會用到聊天助手,約三分之一在用 AI 程式設計工具;一個叫 Current 的內部產品把監管檔案、券商研報和財報電話會紀要轉成分析,供多空團隊使用,已經有 50 多家外部機構主動要求做 beta 使用者。他對邊界很謹慎:這些工具不會替你省掉思考,它們買回的是敲字這種機械時間,好讓你多想一些;一份讀起來就是不過腦子生成出來的內部報告,照樣不合格。他也不認同在真實公司裡給生產力提升做基準測試有什麼意義,並且認為在這場轉變中,領導者的工作是定下一種氛圍:當著三分之一的公司演示翻車,不用付出任何代價。
- #enterprise
- #products
Dan Shipper
Every CEOCodex 原生應用釋出
OpenAI 的 Codex 現在有原生應用了。Shipper 的說法是,這是通才和哲學家的黃金時代,也是對認知性絕望的一劑不錯的解藥。
- #products
資料來源
來源資料出自 zarazhangrui 的開源專案 follow-builders,以 MIT 授權釋出。摘要由 LLM 依該專案的公開 feed 生成,摘要 prompt 亦改編自該專案。上面每一則都連結到原始出處。
摘要由程式自動生成。據此判斷前請先看原文。
