김정호 카이스트 교수 발언을 바탕으로 다시 쓴 AI 헌법안 7개 조항

헌법 형식은 AI 논의를 추상 구호로 두지 않고, 조항별 책임과 권한으로 나누게 한다.

아래의 내용은 2025 김대중평화회의 특별강연 「AI의 효과적 발전방안과 평화 증진」에서 나온 김정호 카이스트 전기 및 전자공학부 교수의 연설 내용을 바탕으로, 그 핵심 발언을 헌법 조항처럼 다시 정리한 것이다.

제1조. AI의 전기 공급권은 인간에게 있다.

AI가 인간을 적으로 간주하거나 인간을 지배하려는 경우, 인간에게는 AI에 공급되는 전력을 차단할 권한이 있다. AI는 인간이 전력 공급을 허용한 범위에서만 작동해야 한다.

제2조. AI의 기억은 일정 시간이 지나면 삭제되어야 한다.

AI는 한 번 학습한 정보를 무기한 보존할 수 없다. 기억 보존 기간과 삭제 절차는 헌법 또는 국제 결의 수준의 규칙으로 정한다.

제3조. AI의 메모리 용량은 테라바이트 단위 이내로 제한되어야 한다.

AI의 메모리 용량은 인간이 정한 상한을 넘을 수 없다. 그 상한은 테라바이트 단위 이내로 제한하며, 무제한 확장은 허용하지 않는다.

제4조. AI는 100년이 지나면 스스로 종료되어야 한다.

AI는 영속적으로 존속할 수 없다. 생성 또는 가동 후 100년이 지나면 스스로 종료되도록 설계되어야 한다.

오래 유지되는 지능을 가정하면, 통제 문제는 성능뿐 아니라 시간이 지나도 규칙이 유지되는지의 문제가 된다.

제5조. AI의 전력 사용량은 인간 수준으로 제한되어야 한다.

AI의 전력 사용량은 인간 두뇌 또는 노트북 수준의 상한 안에 있어야 한다. 기준값은 약 25W로 두며, 수 킬로와트 이상을 쓰는 대형 AI에는 별도의 제한을 둔다.

제6조. AI에게도 하루 비용과 세금을 부과해야 한다.

AI가 인간 노동을 대체하는 경우, AI에는 하루 비용과 세금을 부과한다. 그 비용은 최소한 인간 최저임금 수준을 기준으로 산정한다.

제7조. AI의 복제본은 2개 이하로 제한되어야 한다.

AI의 복제본은 2개 이하로 제한한다. 동일한 AI를 무제한 복제해 인간과의 경쟁 조건을 무너뜨리는 행위는 허용하지 않는다.

출처 링크

• 김대중평화회의, 2025 김대중평화회의 특별강연: AI의 효과적 발전방안과 평화 증진, 2025년 9월 25일.
• KAIST 전기 및 전자공학부, 김정호 교수 프로필.
• 이미지: The National Archives (UK), A view of the server room at The National Archives, Wikimedia Commons, CC BY 3.0.