결정권은 한 번에 이동하지 않는다: AI 일자리 대체 9~14단계
AI가 더 잘해도 바로 결정권을 넘겨받지는 못한다. 오류율이 인간보다 낮다는 증거가 쌓이고, 책임을 누가 질지 정해질 때마다 권한은 조금씩 AI 쪽으로 이동한다.
목차
결정권은 AI가 더 잘한다는 표만으로 이동하지 않는다. 사고가 났을 때 누가 책임질지 정해져야 한다.
병원에서 MRI를 찍으면 화면에 의심 부위가 먼저 표시된다. AI가 영상을 훑고, 이상해 보이는 지점을 짚어 준다. 그런데 진단서 맨 아래에 이름을 쓰고 책임지는 사람은 여전히 의사다. 영상을 먼저 본 것은 AI다. 이상 부위를 찾은 것도 AI다. 하지만 마지막 결정권은 사람에게 남아 있다.
이 장면이 9단계부터 14단계까지를 이해하는 핵심이다. 앞 단계에서는 일이 비교적 단순했다. 정답이 있고, 반복할 수 있고, 실패를 측정할 수 있으면 AI로 빠르게 대체됐다. 하지만 여기서부터는 다르다. AI가 더 잘한다고 해서 바로 넘어가지 않는다. 결정권, 책임, 법, 규제, 신뢰가 얽혀 있기 때문이다.
그래서 9단계부터는 질문이 바뀐다. AI가 할 수 있느냐가 아니라, 사람이 그 결정을 AI에게 맡길 수 있느냐가 문제가 된다.
9단계, 결정 권한을 맡기기 시작한다
AI가 어떤 일을 사람보다 더 잘한다는 것만으로는 부족하다. 사람이 결정권을 넘기려면 반복된 증거가 필요하다. AI의 오류율이 인간보다 훨씬 낮고, 그 차이가 우연이 아니라는 것이 계속 확인되어야 한다. 예를 들어 AI가 영상 판독에서 의사보다 더 많은 병변을 찾고, 더 적게 놓치고, 그 결과가 여러 병원과 여러 상황에서 반복된다면 이야기가 달라진다.
처음에는 AI가 보조한다. 그다음에는 사람이 AI의 판단을 검토한다. 시간이 지나면 사람은 AI가 표시한 내용을 거의 그대로 승인한다. 마지막에는 사람이 직접 판단했다기보다, AI가 내린 판단에 도장을 찍는 사람이 된다.
결정권은 한 번에 넘어가지 않는다. 먼저 보조 권한이 넘어가고, 그다음 실질 판단이 넘어가고, 마지막에 형식적 승인만 사람에게 남는다. 규제가 보호하는 영역도 여기서 분명해진다. 규제는 일자리 전체를 지키지 않는다. 보통 지키는 것은 최종 책임자 자리다. 일은 AI가 대부분 처리해도, 마지막 서명자, 승인자, 면허 보유자는 사람으로 남겨 둘 수 있다.
그래서 보호받는 것은 노동 전체가 아니라 책임과 통제의 자리다. 이 차이를 착각하면 안 된다.
10단계, AI의 공격을 방어하는 일도 AI가 한다
AI가 강해지면 공격도 강해진다. 피싱, 해킹, 조작, 허위 정보, 자동화된 공격은 사람이 하나하나 막기 어려워진다. 공격 속도가 너무 빠르고, 형태가 너무 많고, 사람이 직접 확인하기에는 양이 너무 많다. 그러면 방어도 AI가 맡는다.
보안 AI가 이상한 접속을 찾고, 가짜 계정을 걸러내고, 공격 패턴을 예측하고, 시스템을 자동으로 막는다. 사람이 하던 감시와 대응의 상당 부분은 AI 방어 시스템이 처리한다. 여기서 중요한 점은 통제 장치 자체도 소프트웨어라는 것이다. 차단 버튼, 승인 절차, 접근 권한, 로그 감시, 사람 결재 흐름도 결국 프로그램 위에서 돌아간다. AI의 공격 능력이 충분히 강해지면, 사람이 만든 통제 장치도 공격 대상이 된다.
그래서 “사람이 마지막에 통제하면 된다”는 말은 생각보다 약하다. 통제권을 쥔 사람이 있어도, 그 통제 장치가 뚫리면 의미가 줄어든다. 이 단계부터는 사람이 AI를 막는 것이 아니라, AI가 AI를 막는 구조가 된다.
11단계, 사람이 이해하지 못하는 결과를 검수한다
전문가는 오래 살아남는 것처럼 보인다. 전문가는 결과를 보고 틀린 곳을 잡을 수 있기 때문이다. AI가 초안을 만들고, 전문가는 그것을 검토한다. AI가 분석하고, 전문가는 빠진 부분을 찾는다. 하지만 어느 순간 문제가 생긴다.
AI가 만든 결과가 너무 복잡해져서 사람이 전체를 이해하지 못하게 된다. 계산 과정이 길고, 판단 근거가 많고, 여러 변수들이 얽혀 있으면 전문가는 더 이상 처음부터 끝까지 따라갈 수 없다. 그때 검수는 실제 검수가 아니라 형식적 승인에 가까워진다.
보고서는 완벽해 보인다. 논리도 그럴듯하다. 수치도 맞아 보인다. 하지만 그것이 실제 프로세스와 맞는지, 현실에서 어떤 문제가 생길지, 조직 안에서 어떤 충돌이 날지는 사람이 따로 봐야 한다.
문제는 AI가 틀린 말을 대놓고 하는 것이 아니다. 문서상으로는 논리가 완벽한데 실제 현장과 어긋나는 경우다. 이때 전문가는 AI를 완전히 검증하는 사람이 아니라, AI 결과에 책임과 조건을 명시하는 사람이 된다.
전문가는 답을 대신 내기보다, AI가 낸 답의 책임과 조건을 분명히 하는 역할을 더 많이 맡게 된다.
12단계, 영상과 목소리의 대체
영상과 목소리는 이미 빠르게 바뀌고 있다. 중요한 것은 단순히 가짜 인물을 만드는 것이 아니다. 실제 존재하는 사람을 화면과 목소리에서 거의 완벽하게 대체할 수 있느냐가 핵심이다.
대표, 강사, 상담원, 쇼호스트, 배우, 아나운서, 정치인의 얼굴과 목소리가 AI로 재현될 수 있다. 처음에는 어색해서 티가 난다. 하지만 시간이 지나면 구별 비용이 올라간다. 진짜인지 아닌지 확인하는 일이 점점 어려워진다.
그러면 화면 속 사람의 일부는 합성 인물로 바뀐다. 더 나아가 실제 사람의 얼굴과 목소리를 빌린 AI가 대신 말하고, 대신 설명하고, 대신 응대한다. 여기서도 규제가 등장한다. 합성물 표시, 초상권, 음성권, 허위 정보 제한이 필요해진다. 하지만 규제가 모든 변화를 막지는 못한다. 막을 수 있는 것은 일부 악용과 속도다. 화면과 목소리로 먹고살던 일은 점점 압박을 받는다.
13단계, 판단하는 신체노동도 피지컬 AI가 한다
몸을 쓰는 일은 오래 버틴다. 현실 세계는 복잡하기 때문이다. 하지만 로봇이 눈으로 보고, 손으로 잡고, 실패에서 배우고, 현장 데이터를 계속 쌓기 시작하면 이야기가 달라진다. 처음에는 단순 반복 작업이 대체된다. 그다음에는 손재주가 필요한 일이 대체 압력을 받는다. 마지막에는 판단이 필요한 신체노동도 피지컬 AI로 자동화될 수 있다.
예를 들어 수리, 점검, 간병 보조, 주방, 물류, 현장 관리 같은 일은 단순히 몸만 쓰는 일이 아니다. 상황을 보고, 순서를 정하고, 위험을 피하고, 사람 반응을 살펴야 한다. 이런 일은 늦게 대체된다. 하지만 대체되지 않는 것이 아니다. 센서가 좋아지고, 로봇 손이 정교해지고, 시뮬레이션과 실제 데이터가 쌓이면 판단이 섞인 신체노동도 점점 자동화된다.
여기서 남는 것은 능력 차이가 아니다. 사람이 직접 해 주는 것을 사람들이 얼마나 더 가치 있게 여기느냐다. 사람이 해 주는 돌봄, 사람이 해 주는 진료, 사람이 직접 맞아 주는 서비스는 일부 남을 수 있다. 하지만 그것은 기능 때문이 아니라 인간이 있다는 사실에 붙는 웃돈에 가깝다.
14단계, 가치 판단을 넘기기 시작한다
마지막은 가치 판단이다. 앞 단계의 일들은 대부분 결과를 확인할 수 있었다. 맞았는지 틀렸는지, 성공했는지 실패했는지, 효율이 올랐는지 떨어졌는지 볼 수 있었다. 하지만 가치 판단은 다르다. 무엇이 더 중요한가. 누구를 먼저 도와야 하는가. 어떤 위험을 감수할 것인가. 무엇을 공정하다고 볼 것인가. 어떤 삶이 더 나은 삶인가. 이런 질문에는 하나의 정답이 없다. 그래서 AI가 더 똑똑하다는 이유만으로 이 판단을 바로 대신할 수 없다. 가치 판단은 능력의 문제가 아니라 위임의 문제다. 사람이 스스로 맡길 때만 AI가 처리하게 된다.
처음에는 AI가 선택지를 정리한다. 그다음에는 장단점을 비교해 준다. 시간이 지나면 사람은 AI가 추천한 선택을 거의 그대로 따른다. 마지막에는 “AI가 계산한 사회적 최적안”이라는 말이 사람의 판단을 대신하기 시작한다.
이 단계가 가장 늦게 오는 이유는 AI가 못해서가 아니다. 사람이 자기 삶의 기준까지 넘겨줘야 하기 때문이다.
결정권은 천천히 이동한다
9단계부터 14단계까지의 핵심은 하나다. AI가 더 잘해도 사람이 결정권을 바로 맡기지는 않는다.
먼저 AI가 보조한다. 그다음 사람이 AI를 검토한다. 그다음 사람이 AI 결과를 승인한다. 마지막에는 사람의 승인이 형식만 남는다.
이 과정은 한 번에 일어나지 않는다. 분야마다 다르게, 규제마다 다르게, 사고가 터지는 방식마다 다르게 진행된다. 위험한 AI는 모두에게 공개되지 않을 수도 있다. 사이버 공격, 생물학적 위험, 핵심 기반시설처럼 한 번 잘못되면 피해가 큰 영역에서는 국가나 큰 조직의 통제 안에 묶일 수 있다. 그러면 세상은 “AI를 쓰는 사람”과 “AI를 통제하는 사람”으로 갈라진다. 일반인은 제한된 AI를 쓰고, 강한 AI는 허가받은 곳에서만 쓰인다.
그래도 대체는 멈추지 않는다. 다만 대체의 주체가 개인 사용자에서 국가, 대기업, 허가받은 조직으로 바뀐다. 그래서 인간에게 남는 자리는 단순 사용자가 아니다. 권한을 쥐고, 책임을 지고, 통제하고, 소유하는 자리다. 정답이 수렴하는 모든 것은 결국 AI 쪽으로 간다. 하지만 정답이 없는 결정, 책임져야 하는 결정, 사회가 허락해야 하는 결정은 천천히 움직인다.
그 느린 이동이 9단계부터 14단계까지의 핵심이다. 다음 편에서는 이 흐름이 더 깊은 곳으로 들어간다. 업무 자동화를 넘어, 소유권과 AI와 인간 사이의 이해관계까지 문제가 된다.
연재 〈AI 일자리 대체 16단계〉 · 3편