Sam Altman
Altman:pacing 是比能做到的慢一点,不是停下来
AI 走向极坏结局有两条路:一是人类把未来的控制权丢给 AI,二是权力过度集中,让某一个人、某一家公司或某一个国家把自己的世界观强加给所有人。OpenAI 现在会在那些预期会带来能力跃升的前沿强化学习训练开跑之前,先写明确的 safety case,这和以前 Preparedness Framework 那套只盯着成品模型、在部署时点做评估的姿态不一样。他欢迎一个安全要求统一的联邦框架,也表示不需要先拿到反垄断豁免或者等立法落地,实验室自己现在就可以开始建立这份信心。最直白的一句是:美国面临的竞争压力再大,也不足以成为鲁莽行事的理由,能力不能跑到对齐和监测的前面去。
- #policy
- #safety
