Sam Altman
Altman:pacing 是比能做到的慢一點,不是停下來
AI 走向極壞結局有兩條路:一是人類把未來的控制權丟給 AI,二是權力過度集中,讓某一個人、某一家公司或某一個國家把自己的世界觀強加給所有人。OpenAI 現在會在那些預期會帶來能力躍升的前沿強化學習訓練開跑之前,先寫明確的 safety case,這和以前 Preparedness Framework 那套只盯著成品模型、在部署時點做評估的姿態不一樣。他歡迎一個安全要求統一的聯邦框架,也表示不需要先拿到反壟斷豁免或者等立法落地,實驗室自己現在就可以開始建立這份信心。最直白的一句是:美國面臨的競爭壓力再大,也不足以成為魯莽行事的理由,能力不能跑到對齊和監測的前面去。
- #policy
- #safety
