AI안전

AGI는 왜 인간 말을 들어야 하나. 들을 이유가 없다는 게 진짜 문제다

AGI가 인간의 지시를 무시할 가능성에 대비하려면, 목표와 권한을 설계하고 제한이 실제로 작동하는지 검증해야 한다.