目標設計

AGIはなぜ人間の言うことを聞くべきなのか。聞く理由がない、それが本当の問題だ

AGIが人間の指示を無視する可能性に備え、目標と権限を設計し、制限が実際に機能するか検証する必要がある。