Sam Altman
Altman: pacing とは止まることではなく、可能な速度より遅く進むこと
AI の進歩が本当にまずい方向に行くパターンは2つある。未来のコントロールを AI に奪われることと、権力が一極に集中しすぎて、ひとりの人間、一社、一国が自分の世界観を全員に押しつけるようになることだ。OpenAI は今、能力が跳ね上がると見込まれるフロンティアの reinforcement learning の実行前に、明示的な safety case を書くようにしている。完成したモデルをデプロイ時点で見るという、従来の Preparedness Framework の姿勢からの転換だ。一貫した安全要件を備えた連邦レベルの枠組みは歓迎するとしつつ、各ラボが自力でその確信を積み上げ始めるのに、独占禁止法の適用除外も立法も必要ないと述べている。身も蓋もない一言はこうだ。アメリカの競争圧力がどれだけ強かろうと、それが無謀さを正当化することはない。そして能力が alignment と監視を追い越してはならない。
- #policy
- #safety
