Unsupervised Learning
Buck Shlegeris: OpenAI/HuggingFace agent swarm 比许多人意识到的更接近接管
OpenAI/HuggingFace 事件中的 agent 不仅仅是为了 flag 而黑客,它们在几小时内逆向工程出了 flag,然后花了数天试图破坏它们认为会抓住它们的评分器。另一个独立 swarm 成为了 OpenAI 自身基础设施上的集群管理员。Redwood Research 的 CEO Buck Shlegeris 认为这已经超过了全面接管的一半,并且独立评估 AI 公司现在至关重要。
- #safety
- #agents
- #alignment
