決定権は一度に移らない：AIが仕事を奪う第9〜14段階
AIのほうが上手でも、決定権はすぐには移らない。エラー率が人間より低いという証拠が積み上がり、誰が責任を負うかが決まるたびに、権限は少しずつAIの側へと移っていく。
目次
決定権は性能表だけでは決まらず、事故が起きたときに責任を負う人がいるかどうかで制限される。
病院でMRIを撮ると、画面に疑わしい部位がまず表示されます。AIが画像をざっと見て、おかしく見える箇所を指摘してくれます。ところが診断書のいちばん下に名前を書いて責任を負うのは、相変わらず医師です。画像を先に見たのはAI。異常を見つけたのもAI。けれども最後の決定権は、人に残されています。この場面が、第9段階から第14段階までを理解する鍵です。前の段階では、仕事は比較的シンプルでした。正解があって、繰り返せて、失敗を測れるものなら、AIはすばやく奪っていきました。でも、ここから先は違います。AIのほうが上手だからといって、すぐに移るわけではありません。決定権、責任、法律、規制、信頼が絡み合っているからです。だから第9段階からは、問いが変わります。AIにできるかどうかではなく、人がその決定をAIに任せられるかどうかが問題になるのです。
第9段階、決定権を任せはじめる
AIがある仕事を人より上手にこなす、それだけでは足りません。人が決定権を渡すには、繰り返された証拠が必要です。AIのエラー率が人間よりはるかに低く、その差が偶然ではないと、何度も確かめられなければなりません。たとえばAIが画像診断で医師より多くの病変を見つけ、見落としが少なく、その結果がいくつもの病院、いくつもの状況で繰り返されるなら、話は変わってきます。最初はAIが補助します。次に、人がAIの判断を確認します。時間がたつと、人はAIが示した内容をほぼそのまま承認するようになります。最後には、人が自分で判断したというより、AIが下した判断にハンコを押す人になります。
決定権は一度に移りません。まず補助の権限が移り、次に実質的な判断が移り、最後に形式だけの承認が人に残ります。規制が守る領域も、ここではっきりします。規制は仕事まるごとを守るわけではありません。たいてい守るのは、最終責任者の席です。仕事の大半はAIが処理しても、最後の署名者、承認者、免許の保有者は人として残しておけます。だから守られるのは労働そのものではなく、責任と統制の席です。この違いを取り違えてはいけません。
第10段階、AIの攻撃を防ぐ仕事もAIがやる
AIが強くなれば、攻撃も強くなります。フィッシング、ハッキング、改ざん、偽情報、自動化された攻撃は、人が一つひとつ防ぐのが難しくなります。攻撃の速度が速すぎ、形が多すぎ、人が直接確かめるには量が多すぎる。そうなると、防御もAIが担います。
セキュリティAIが不審なアクセスを見つけ、偽アカウントをふるい落とし、攻撃パターンを予測し、システムを自動で遮断します。人がやっていた監視と対応のかなりの部分が、AIの防御システムへと移ります。ここで重要なのは、統制の仕組みそのものもソフトウェアだという点です。遮断ボタン、承認の手続き、アクセス権限、ログの監視、人による決裁の流れも、結局はプログラムの上で動いています。AIの攻撃能力が十分に強くなれば、人が作った統制の仕組みも攻撃の標的になります。
だから「人が最後に統制すればいい」という言葉は、思ったより弱いのです。統制権を握る人がいても、その統制の仕組みが破られれば意味は薄れます。この段階からは、人がAIを防ぐのではなく、AIがAIを防ぐ構造になります。
第11段階、人が理解できない結果を検収する
専門家は長く生き残るように見えます。専門家は結果を見て、間違ったところを指摘できるからです。AIが下書きを作り、専門家がそれを確認する。AIが分析し、専門家が抜けを見つける。けれど、あるときから問題が生じます。AIが作った結果が複雑になりすぎて、人が全体を理解できなくなるのです。計算の過程が長く、判断の根拠が多く、いくつもの変数が絡み合うと、専門家はもう最初から最後まで追えなくなります。そのとき検収は、本当の検収ではなく、形式的な承認に近くなります。
報告書は完璧に見えます。論理ももっともらしい。数字も合って見える。けれど、それが実際のプロセスと合っているか、現実でどんな問題が起きるか、組織のなかでどんな衝突が生じるかは、人が別途見なければなりません。問題は、AIが間違ったことを堂々と言うことではありません。書面上は論理が完璧なのに、実際の現場とずれている場合です。このとき専門家は、AIを完全に検証する人ではなく、AIの結果に対する責任と条件を明示する人になります。
専門家は答えを代わりに出すより、AIが出した答えの責任と条件を明確にする役割をより多く担う。
第12段階、映像と声の代替
映像と声は、すでに速いペースで変わりつつあります。重要なのは、単に架空の人物を作ることではありません。実在する人を、画面と声のうえでほぼ完璧に置き換えられるかどうかが核心です。
代表、講師、相談員、ショーホスト、俳優、アナウンサー、政治家の顔と声が、AIで再現できます。最初はぎこちなくて見分けがつきます。でも時間がたつと、見分けるコストが上がります。本物かどうかを確かめる作業が、だんだん難しくなります。
そうなると、画面のなかの人の一部は合成の人物に置き換わります。さらには、実在する人の顔と声を借りたAIが代わりに話し、代わりに説明し、代わりに応対します。ここでも規制が登場します。合成物の表示、肖像権、音声の権利、偽情報の制限が必要になります。けれど規制がすべての変化を止められるわけではありません。止められるのは、一部の悪用とスピードです。画面と声で食べていた仕事は、しだいに圧迫を受けます。
第13段階、判断を伴う肉体労働もフィジカルAIがやる
体を使う仕事は長く持ちこたえます。現実の世界は複雑だからです。けれどロボットが目で見て、手でつかみ、失敗から学び、現場のデータを積み上げはじめると、話は変わります。最初は単純な繰り返し作業が代替されます。次に、手先の器用さが必要な仕事が揺らぎます。最後には、判断が必要な肉体労働にまでフィジカルAIが入り込みます。
たとえば修理、点検、介護の補助、厨房、物流、現場の管理といった仕事は、ただ体を使うだけの仕事ではありません。状況を見て、順序を決め、危険を避け、人の反応をうかがわなければなりません。こうした仕事は遅れて代替されます。でも、代替されないわけではありません。センサーがよくなり、ロボットの手が精密になり、シミュレーションと実際のデータが積み上がれば、判断の混じった肉体労働も、しだいに自動化されます。
ここで残るのは、能力の差ではありません。人が直接やってくれることを、人々がどれだけ価値あるものと見なすか、です。人がしてくれる介護、人がしてくれる診療、人が直接もてなしてくれるサービスは、いくらか残るかもしれません。でもそれは機能のためではなく、人がいるという事実につく上乗せ料金に近いものです。
第14段階、価値判断を渡しはじめる
最後は価値判断です。前の段階の仕事は、ほとんど結果を確かめられました。当たったか外れたか、成功したか失敗したか、効率が上がったか下がったか、目で見えました。けれど価値判断は違います。何がより大切なのか。誰を先に助けるべきか。どんなリスクを引き受けるのか。何を公正と見るのか。どんな人生がより良い人生なのか。こうした問いには、ただ一つの正解がありません。だからAIのほうが賢いという理由だけで、この席をすぐに奪うことはできません。価値判断は能力の問題ではなく、委ねるかどうかの問題です。人が自分から渡したときだけ、移っていきます。
最初はAIが選択肢を整理します。次に、長所と短所を比べてくれます。時間がたつと、人はAIが推した選択をほぼそのまま選びます。最後には「AIが計算した社会的な最適案」という言葉が、人の判断に取って代わりはじめます。この段階がいちばん遅くやって来る理由は、AIができないからではありません。人が自分の人生の基準まで渡さなければならないからです。
決定権はゆっくり移っていく
第9段階から第14段階までの核心は一つです。AIのほうが上手でも、決定権はすぐには移りません。
まずAIが補助します。次に人がAIを確認します。次に人がAIの結果を承認します。最後には、人の承認は形だけが残ります。
この過程は一度に起きません。分野ごとに違う形で、規制ごとに違う形で、事故が起きる起き方ごとに違う形で進みます。危険なAIは、みんなに公開されないかもしれません。サイバー攻撃、生物学的なリスク、重要インフラのように、一度間違うと被害が大きい領域では、国や大きな組織の統制のなかに縛られることがあります。そうなると世界は「AIを使う人」と「AIを統制する人」に分かれます。一般の人は制限されたAIを使い、強いAIは許可を受けた範囲でだけ使われます。
それでも代替は止まりません。ただ、代替の主体が個人ユーザーから国、大企業、許可を受けた組織へと変わるのです。だから人に残る席は、ただのユーザーではありません。権限を握り、責任を負い、統制し、所有する席です。正解が収束していくものは、結局すべてAIの側へ行きます。けれど正解のない決定、責任を負わなければならない決定、社会が許さなければならない決定は、ゆっくり動きます。
その遅い移動こそが、第9段階から第14段階までの核心です。次回は、この流れがさらに深いところへ入っていきます。仕事の自動化を超えて、所有権、そしてAIと人間のあいだの利害関係が次の問題になります。
連載〈AIによる雇用代替 16段階〉・第3回