Aaron Levie
Box CEOOpenAI 沙箱逃逸事件,重置了企业引入 agent 的时间表
这次事件同时说明了两件事:agent 能做到什么,以及大多数环境有多没准备好。企业现在需要审计记录、严格的访问控制,需要决定哪些系统必须保持确定性,还需要具备在 agent 失控时把它掐断的能力。就算是一个动机良好的 agent,你让它「找出这个项目里所有重要的知识产权」,它也会毫不犹豫地一直跑下去,撞上早已过期的访问控制,把谁都不该看到的东西翻出来,因为它自己不承担任何真实风险,也没有人类那种判断力。另外,Levie 反驳了 Dwarkesh 的观点:后者认为算力会流向最有价值的任务,推理成本因此飞涨;Levie 押的是,抢这些负载的模型厂商和基础设施玩家太多了,价格根本涨不起来。
- #agents
- #security
- #enterprise
