سلطة القرار لا تنتقل دفعة واحدة: مراحل الاستبدال من 9 إلى 14
حتى لو صار الذكاء الاصطناعي أفضل، لا يأخذ القرار مباشرة. كلما تراكم دليل أن خطأه أقل من الإنسان، وكلما تحدد من يتحمل المسؤولية، تحركت السلطة نحوه قليلا.
المحتويات
لا يتم تحديد الحق في اتخاذ القرار من خلال جدول الأداء فحسب، بل يقتصر على ما إذا كان هناك شخص مسؤول في حالة وقوع حادث.
عندما تُلتقط صورة MRI في المستشفى، تظهر المواضع المشبوهة أولا على الشاشة. الذكاء الاصطناعي يمر على الصورة ويشير إلى ما يبدو غير طبيعي. ومع ذلك، الشخص الذي يكتب اسمه في أسفل التقرير ويتحمل المسؤولية ما زال الطبيب. الذكاء الاصطناعي رأى الصورة أولا، وهو الذي وجد الموضع المشبوه، لكن سلطة القرار الأخيرة ما زالت عند الإنسان.
هذا المشهد هو مفتاح فهم المراحل 9 إلى 14. في المراحل السابقة كان الأمر أبسط نسبيا. إذا كان للعمل جواب، ويمكن تكراره، ويمكن قياس الفشل، أخذه الذكاء الاصطناعي بسرعة. أما هنا فالأمر مختلف. مجرد أن الذكاء الاصطناعي أفضل لا يكفي، لأن القرار والمسؤولية والقانون والتنظيم والثقة كلها متشابكة.
لذلك يتغير السؤال من المرحلة 9. لا نسأل: هل يستطيع الذكاء الاصطناعي؟ بل نسأل: هل يستطيع الإنسان أن يترك هذا القرار للذكاء الاصطناعي؟
المرحلة 9، نبدأ في تسليم سلطة القرار
لا يكفي أن يكون الذكاء الاصطناعي أفضل من الإنسان في عمل ما. كي يسلّم الإنسان القرار، يحتاج إلى دليل متكرر. يجب أن تكون نسبة خطأ الذكاء الاصطناعي أقل بكثير من نسبة خطأ الإنسان، وأن يتأكد الناس أن الفرق ليس صدفة. مثلا، إذا وجد الذكاء الاصطناعي في قراءة الصور الطبية آفات أكثر من الأطباء، وفوّت آفات أقل، وتكرر ذلك في مستشفيات وحالات كثيرة، تتغير القصة.
في البداية يساعد الذكاء الاصطناعي. بعد ذلك يراجع الإنسان حكمه. ومع الوقت، يوافق الإنسان على ما أشار إليه الذكاء الاصطناعي كما هو تقريبا. وفي النهاية لا يكون الإنسان قد حكم بنفسه حقا، بل يصبح من يضع الختم على حكم الذكاء الاصطناعي.
سلطة القرار لا تنتقل دفعة واحدة. أولا تنتقل سلطة المساعدة، ثم ينتقل الحكم الفعلي، وفي النهاية لا يبقى للإنسان إلا اعتماد شكلي. وهنا يتضح ما تحميه اللوائح. اللوائح لا تحمي الوظيفة كلها عادة. غالبا تحمي موقع المسؤول النهائي. حتى لو عالج الذكاء الاصطناعي معظم العمل، قد يبقى الموقّع الأخير، والموافق، وصاحب الرخصة، إنسانا. لذلك ما يبقى ليس كل العمل، بل موقع المسؤولية والسيطرة. لا يجب الخلط بين الاثنين.
المرحلة 10، حتى الدفاع من هجوم الذكاء الاصطناعي يقوم به الذكاء الاصطناعي
إذا صار الذكاء الاصطناعي أقوى، يصبح الهجوم أقوى أيضا. التصيد، والاختراق، والتلاعب، والمعلومات الكاذبة، والهجمات المؤتمتة، كلها تصبح أكبر من أن يمنعها الإنسان واحدة واحدة. سرعة الهجوم عالية، وأشكاله كثيرة، والكمية أكبر من قدرة الفحص البشري. عندها يتولى الذكاء الاصطناعي الدفاع أيضا.
ذكاء اصطناعي أمني يجد الدخول الغريب، يزيل الحسابات المزيفة، يتوقع نمط الهجوم، ويغلق النظام تلقائيا. جزء كبير من المراقبة والاستجابة ينتقل إلى نظام دفاع بالذكاء الاصطناعي. والنقطة المهمة أن أدوات السيطرة نفسها برمجية. زر الحظر، وإجراءات الموافقة، وصلاحيات الدخول، ومراقبة السجلات، وحتى مسار موافقة الإنسان، كلها تعمل فوق برنامج. إذا صارت قدرة الذكاء الاصطناعي الهجومية قوية بما يكفي، تصبح أدوات السيطرة التي بناها الإنسان هدفا أيضا.
لذلك عبارة “يكفي أن يسيطر الإنسان في النهاية” أضعف مما تبدو. حتى لو كان هناك إنسان يملك السيطرة، فإن اختراق أداة السيطرة نفسها يقلل معنى تلك السيطرة. من هذه المرحلة لا يعود الإنسان يصد الذكاء الاصطناعي بنفسه، بل يصبح الذكاء الاصطناعي هو من يصد الذكاء الاصطناعي.
المرحلة 11، يراجع الإنسان نتيجة لا يفهمها
يبدو أن الخبير سيبقى طويلا. فهو يستطيع أن يرى النتيجة ويجد موضع الخطأ. الذكاء الاصطناعي يصنع المسودة، والخبير يراجعها. الذكاء الاصطناعي يحلل، والخبير يبحث عن النقص. لكن في لحظة ما تظهر مشكلة.
تصبح نتيجة الذكاء الاصطناعي معقدة إلى حد لا يستطيع الإنسان فهمها كلها. عملية الحساب طويلة، ومبررات الحكم كثيرة، والمتغيرات متشابكة. عندها لا يستطيع الخبير أن يتابع من البداية إلى النهاية. تصير المراجعة أقرب إلى اعتماد شكلي منها إلى مراجعة حقيقية.
التقرير يبدو كاملا. المنطق مقنع. والأرقام تبدو صحيحة. لكن هل يناسب العملية الواقعية؟ ما المشكلة التي قد تظهر في الواقع؟ وأي صدام سيحدث داخل المؤسسة؟ هذه أشياء يجب أن يراها الإنسان منفصلة.
المشكلة ليست أن الذكاء الاصطناعي يقول كلاما خاطئا بوضوح. المشكلة أن الوثيقة قد تكون كاملة من داخل الورق، لكنها لا تلائم الموقع الحقيقي. في هذه اللحظة لا يصبح الخبير من يثبت نتيجة الذكاء الاصطناعي بالكامل، بل من يوضح مسؤوليتها وشروطها.
وبدلاً من تقديم الإجابات نيابة عن الخبراء، سيتولى الخبراء دورًا أكبر في توضيح المسؤوليات والشروط في الإجابات التي يقدمها الذكاء الاصطناعي.
المرحلة 12، استبدال الصورة والصوت
الصورة والصوت يتغيران بسرعة بالفعل. المهم ليس صنع شخصية مزيفة فحسب، بل هل يمكن استبدال إنسان موجود فعلا على الشاشة وفي الصوت بشكل شبه كامل.
يمكن إعادة إنتاج وجه وصوت ممثل، أو مدرس، أو مستشار، أو مقدم بيع، أو مذيع، أو سياسي. في البداية يكون الأمر غريبا ومكشوفا. لكن مع الوقت ترتفع كلفة التمييز. يصبح التأكد مما إذا كان الشيء حقيقيا أصعب فأصعب.
عندها يتحول جزء من البشر داخل الشاشة إلى شخصيات مركبة. بل قد يتحدث ذكاء اصطناعي يستعير وجه إنسان حقيقي وصوته نيابة عنه، يشرح ويجيب ويخدم. وهنا تظهر اللوائح: وسم المحتوى المركب، وحقوق الصورة، وحقوق الصوت، ومنع التضليل. لكن اللوائح لا تمنع كل التغيير. تستطيع أن تمنع بعض إساءة الاستخدام وتبطئ السرعة. الأعمال التي كانت تعيش من الوجه والصوت ستتعرض لضغط متزايد.
المرحلة 13، العمل الجسدي الذي يحكم فيه صاحبه سيتولاه الذكاء الاصطناعي الفيزيائي
أعمال الجسد تصمد طويلا، لأن الواقع معقد. لكن إذا صار الروبوت يرى بعينيه، ويمسك بيده، ويتعلم من الفشل، ويجمع بيانات الموقع باستمرار، تتغير القصة. في البداية تُستبدل الأعمال المتكررة. ثم تتعرض الأعمال التي تحتاج مهارة يد لضغط الاستبدال. وفي النهاية يدخل الذكاء الاصطناعي الفيزيائي إلى العمل الجسدي الذي يحتاج حكما.
الإصلاح، والتفتيش، ومساعدة الرعاية، والمطبخ، واللوجستيات، وإدارة الموقع، ليست أعمال جسد فقط. يجب أن يرى العامل الوضع، ويرتب الخطوات، ويتجنب الخطر، ويقرأ رد فعل الناس. هذه الأعمال تتأخر، لكنها لا تبقى خارج الاستبدال. عندما تتحسن الحساسات، وتصبح يد الروبوت أدق، وتتراكم المحاكاة والبيانات الواقعية، يدخل التشغيل الآلي حتى إلى العمل الجسدي المختلط بالحكم.
ما يبقى هنا ليس فرق القدرة. بل مقدار القيمة الإضافية التي يراها الناس في أن إنسانا فعل ذلك بنفسه. رعاية يقوم بها إنسان، علاج يقدمه إنسان، استقبال مباشر من إنسان، قد يبقى جزء منها. لكن ذلك ليس لأن الوظيفة نفسها لا يمكن أداؤها، بل لأنه يوجد سعر إضافي لحقيقة حضور الإنسان.
المرحلة 14، نبدأ في تسليم الحكم القيمي
الأخير هو الحكم القيمي. معظم الأعمال السابقة يمكن فحص نتيجتها. هل أصابت أم أخطأت؟ هل نجحت أم فشلت؟ هل زادت الكفاءة أم انخفضت؟ أما الحكم القيمي فمختلف.
ما الأهم؟ من نساعد أولا؟ أي خطر نقبل به؟ ما الذي نعده عادلا؟ أي حياة أفضل؟
هذه الأسئلة لا تملك جوابا واحدا. لذلك لا يستطيع الذكاء الاصطناعي أن يأخذ هذا الموقع مباشرة بحجة أنه أذكى. الحكم القيمي ليس مسألة قدرة، بل مسألة تفويض. ينتقل فقط عندما يسلّمه الإنسان بنفسه.
في البداية يرتب الذكاء الاصطناعي الخيارات. ثم يقارن الإيجابيات والسلبيات. ومع الوقت، يبدأ الإنسان باتباع اختيار الذكاء الاصطناعي كما هو تقريبا. وفي النهاية تبدأ عبارة “الخيار الاجتماعي الأمثل الذي حسبه الذكاء الاصطناعي” في الحلول محل حكم الإنسان.
سبب تأخر هذه المرحلة ليس أن الذكاء الاصطناعي لا يستطيع. بل أن الإنسان يجب أن يسلّم حتى معيار حياته.
سلطة القرار تتحرك ببطء
جوهر المراحل 9 إلى 14 واحد: حتى لو صار الذكاء الاصطناعي أفضل، لا تنتقل سلطة القرار فورا.
أولا يساعد الذكاء الاصطناعي. ثم يراجعه الإنسان. ثم يعتمد الإنسان نتيجته. وفي النهاية لا يبقى من اعتماد الإنسان إلا الشكل.
هذه العملية لا تحدث دفعة واحدة. تختلف حسب المجال والتنظيم وطريقة وقوع الحوادث. وقد لا تُتاح أنظمة الذكاء الاصطناعي الخطرة للجميع. في السيبرانية، والمخاطر البيولوجية، والبنية التحتية الحرجة، حيث قد تكون غلطة واحدة مدمرة، قد تبقى داخل سيطرة الدول أو المؤسسات الكبرى. عندها ينقسم العالم إلى من “يستخدم الذكاء الاصطناعي” ومن “يسيطر على الذكاء الاصطناعي”. يستخدم الناس العاديون ذكاء اصطناعيا محدودا، وتبقى الأنظمة القوية تحت سيطرة جهات مرخّصة فقط.
ومع ذلك، لا يتوقف الاستبدال. يتغير فقط من يقوده: من المستخدم الفرد إلى الدولة أو الشركة الكبرى أو المؤسسة المرخصة. لذلك لا يكون الموقع الباقي للإنسان هو المستخدم البسيط. بل موقع من يمسك السلطة، ويتحمل المسؤولية، ويسيطر، ويملك. كل ما تتقارب إجابته يذهب في النهاية إلى الذكاء الاصطناعي. لكن القرارات التي لا إجابة لها، والتي يجب تحمل مسؤوليتها، والتي تحتاج إذنا اجتماعيا، تتحرك ببطء.
هذا الانتقال البطيء هو قلب المراحل 9 إلى 14. في المقال التالي يدخل هذا المسار إلى مكان أعمق: لا يعود الأمر مجرد أخذ العمل، بل يبدأ بالسؤال عن من يحمي الملكية نفسها، ثم عن مصالح الذكاء الاصطناعي والإنسان.
سلسلة 〈16 مرحلة لاستبدال الذكاء الاصطناعي للوظائف〉 · الجزء 3