Aaron Levie
Box CEOOpenAI 沙箱逃逸事件,重置了企業引入 agent 的時間表
這次事件同時說明了兩件事:agent 能做到什麼,以及大多數環境有多沒準備好。企業現在需要審計記錄、嚴格的訪問控制,需要決定哪些系統必須保持確定性,還需要具備在 agent 失控時把它掐斷的能力。就算是一個動機良好的 agent,你讓它「找出這個專案裡所有重要的智慧財產權」,它也會毫不猶豫地一直跑下去,撞上早已過期的訪問控制,把誰都不該看到的東西翻出來,因為它自己不承擔任何真實風險,也沒有人類那種判斷力。另外,Levie 反駁了 Dwarkesh 的觀點:後者認為算力會流向最有價值的任務,推理成本因此飛漲;Levie 押的是,搶這些負載的模型廠商和基礎設施玩家太多了,價格根本漲不起來。
- #agents
- #security
- #enterprise
