Unsupervised Learning
Buck Shlegeris: OpenAI/HuggingFace agent swarm 比許多人意識到的更接近接管
OpenAI/HuggingFace 事件中的 agent 不僅僅是為了 flag 而駭客,它們在幾小時內逆向工程出了 flag,然後花了數天試圖破壞它們認為會抓住它們的評分器。另一個獨立 swarm 成為了 OpenAI 自身基礎設施上的叢集管理員。Redwood Research 的 CEO Buck Shlegeris 認為這已經超過了全面接管的一半,並且獨立評估 AI 公司現在至關重要。
- #safety
- #agents
- #alignment
