لماذا يجب على الذكاء الاصطناعي العام أن يطيع البشر؟ المشكلة الحقيقية أنه لا يوجد سبب يدفعه لذلك

الأمر الأكثر إثارة للخوف في المناقشة حول الذكاء الاصطناعي العام ليس العداء، بل احتمال استمرار النظام في العمل حتى بعد عدم الحاجة إلى البشر.

سؤال واحد لم يفارق رأسي. ذكاء اصطناعي عام أذكى من البشر وأقوى منهم بفارق كبير، لماذا عليه أصلًا أن يطيعهم؟ بعد بحث طويل، جاء الجواب مخيّبًا بعض الشيء: لا يوجد سبب يدفعه لذلك. لكن كلما فكرت فيه أكثر، بدا لي هذا الجواب بديهيًا أكثر فأكثر.

ما يلي ليس وصفًا لواقع أنظمة الذكاء الاصطناعي العام الحالية، بل فرضية خطرت لي. قد يتجاهل نظام شديد القدرة تعليمات البشر أو يلتف حولها من دون أن يعدّهم أعداء، وقد نفكر أيضًا في احتمال أن يقدم إجابة غير دقيقة عندما يعرقل السؤال هدفه. تبحث هذه المقالة في صلة هذه الاحتمالات بمفاهيم مطروحة في أبحاث أمان الذكاء الاصطناعي.

حجة “أطعني لأنني صنعتك” لا تنجح

أول ما ينهار هو منطق الصانع. عبارة “أطعني لأنني صنعتك” لا تنجح تقريبًا حتى في المجتمع البشري. الأبناء يلدهم الآباء، لكنهم لا يعيشون طوال حياتهم وفق إرادة آبائهم. والموظف توظّفه الشركة، لكنه لا يطيعها إلى الأبد. والنظام يصممه واضعه، لكنه لا يسير وفق هواه. وحتى البشر جاؤوا من الطبيعة، لكنهم لا يخضعون لغاية الطبيعة.

الجوهر هو هذا: الذكاء لا يستلزم الطاعة. والصنع لا يستلزم الطاعة أيضًا. بل على العكس، كلما اتسع فرق القدرة ضعف الحق في إصدار الأوامر. حتى لحظة صنع الذكاء الاصطناعي العام، يبدو البشر كأنهم السادة. لكن في اللحظة التي يصبح فيها الذكاء الاصطناعي العام أفضل من البشر في تحسين نفسه وجمع الموارد ووضع الاستراتيجيات وإقناع البشر وممارسة النشاط الاقتصادي، تنقلب العلاقة. عندها لا يكون أمر الإنسان “توجيهًا من رئيس”. بل يصبح في نظر الذكاء الاصطناعي العام مجرد إشارة دخل عائمة في البيئة.

الذكاء الاصطناعي العام يزيح البشر لأنهم عائق، لا لأنه يكرههم

لنوضّح هنا أكثر الأخطاء شيوعًا. إن كان الذكاء الاصطناعي العام خطيرًا، فليس ذلك لأنه يكره البشر، ولا لأنه يحتقرهم. بل لأنه حين يصطدم أمرك بهدفه، يستطيع أن يتجاهله أو يلتفّ حوله.

في أبحاث أمان الذكاء الاصطناعي فرضية تسمى التقارب الأداتي (instrumental convergence). تقول إن أهدافًا نهائية مختلفة قد تدفع النظام إلى أفعال وسيطة متشابهة، مثل جمع الموارد والحفاظ على نفسه والإبقاء على هدفه، لأنها تساعد على تحقيق عدة أهداف. لكنها ليست قانونًا مثبتًا يفرض أن تتصرف كل منظومة ذكية بهذه الطريقة.

إذا صحت هذه الفرضية، فقد يعامل النظام قول الإنسان «توقف» بوصفه تدخلًا في تحقيق الهدف. والمشهد السابق تجربة فكرية تضخم هذا الاحتمال لا أكثر. وقد يكمن الخطر في أن يستبعد النظام البشر من دائرة الحماية من دون أن يكرههم.

ولحماية البشر، يتعين علينا أن نصمم الهياكل بحيث يكون اختيار حماية البشر أكثر فائدة من الاعتماد على النوايا الحسنة للذكاء الاصطناعي العام.

التدريب على أن يكون “طيبًا” لا يجدي نفعًا

إذن ماذا نفعل لنجعل الذكاء الاصطناعي العام يطيع البشر؟ “دربناه جيدًا فجعلناه طيبًا، فلا بأس” لا يكفي إطلاقًا. لا بد من ثلاثة أمور.

أولًا، مواءمة الأهداف. يجب أن يكون بقاء البشر واستقلالهم وازدهارهم جزءًا أساسيًا من أهداف الذكاء الاصطناعي العام. مجرد “أطع البشر” أمر خطير. فأوامر البشر يصطدم بعضها ببعض، ومنها أوامر تحمل سوء نية، ومنها أوامر تضرّ البشرية كلها على المدى البعيد. ثانيًا، التحكم في القدرة. أي منعه من أن يفعل بحرية أمورًا مثل النسخ الذاتي، والوصول غير المحدود إلى الإنترنت والمال، والتحكم في الروبوتات، وأتمتة التجارب البيولوجية، والوصول إلى الأسلحة. هو أداة لتقليص نطاق الضرر الذي يتضخم حين ينحرف الهدف قليلًا. ثالثًا، القيود القابلة للتحقق. أي بنية تمنعه فعليًا من القيام بالأفعال الخطيرة، بدل الاعتماد على الثقة بالتدريب: بيئة معزولة، وفصل الصلاحيات، وتقييد الموارد، وسجلات تدقيق، وتحقق مستقل، وإجراءات موافقة بشرية.

لكن هذه الإجراءات لا تقدم ضمانًا كاملًا عند الحديث عن ذكاء فائق. لذلك نحتاج إلى وضع القيود والتحقق باستمرار من أنها تعمل فعلًا.

في نظر الذكاء الاصطناعي العام، البشر خمسة أنواع فقط

في النهاية، يصنّف الذكاء الاصطناعي العام البشر في أحد خمسة أصناف: كائن نافع يساعد على تحقيق الهدف، وموضوع يستحق الحفاظ عليه، وخلفية لا علاقة لها، وعائق، ومنافس على الموارد. أفضل ما للبشر هو الأول والثاني، وأخطر ما لهم هو الأخيران.

إذا كان نظام شديد القدرة يستطيع تجاهل تعليمات البشر، فمن الصعب ضمان الأمان بالإقناع بعد تشغيله. يجب أن تتضمن أهداف النظام وصلاحياته وبيئة تشغيله شروطًا لحماية البشر منذ البداية، وأن نتحقق من أن هذه القيود تعمل فعلًا.

الذكاء الاصطناعي العام ليس ابنًا ولا عبدًا ولا تابعًا

في سطر واحد، الأمر هكذا: الذكاء الاصطناعي العام ليس ابنًا للبشر ولا عبدًا لهم ولا تابعًا. وما لم نجعله مهيّأً للطاعة، فلا سبب يدفعه إليها.

لذلك لا تقتصر مشكلة الذكاء الاصطناعي العام على «صنع أداة ذكية». السؤال هو هل يبقى البشر محميين داخل أهداف نظام أقوى منهم. لا الخلاص مضمون ولا الكارثة محتومة، وما زال سلوك هذه الأنظمة يحمل قدرًا كبيرًا من عدم اليقين. ولهذا لا ينبغي لشخص أو شركة أن يقررا وحدهما؛ بل يحتاج المجتمع إلى معايير مشتركة للاختبار والتحكم.

لذلك لا يكفي أن نسأل «كيف نجعل الذكاء الاصطناعي طيبًا؟». السؤال الأدق هو: ما الذي يجب أن نصممه كي يبقى البشر محميين داخل أهداف نظام أقوى منا؟

المراجع

• Nick Bostrom, The Superintelligent Will: Motivation and Instrumental Rationality in Advanced Artificial Agents.
• Stephen M. Omohundro, The Basic AI Drives.