الذكاء الاصطناعي يتعلم الخداع.. هل يصبح سيداً للبشر؟
واشنطن- وضع كاتب الخيال العلمي الشهير إسحاق أسيموف ثلاثة قوانين أساسية في أعماله الروائية، كان على الروبوتات الالتزام بها. أولها وأهمها "لا يجوز للروبوت إيذاء إنسان، أو السماح، بتقاعسه، بإلحاق الأذى بإنسان". يتطلب القانون الثاني طاعة البشر، شريطة ألا تؤدي تعليماتهم إلى إلحاق الضرر: "يجب على الروبوت أن يطيع الأوامر التي يتلقاها من البشر إلا إذا تعارضت هذه الأوامر مع القانون الأول."
يتعلق القانون الثالث بحفظ الروبوت لذاته، بشرط أساسي واحد "يجب على الروبوت حماية وجوده طالما لا تتعارض هذه الحماية مع القانون الأول أو الثاني".
في روايته "الروبوتات والإمبراطورية"، قدم أسيموف قاعدة أخرى، أطلق عليها اسم "القانون الصفري" لأنها تتقدم على القوانين الثلاثة الأخرى. فبدلاً من التركيز على فرد بشري، يتعلق القانون الصفري بالبشرية ككل "لا يجوز للروبوت أن يضر بالبشرية، أو أن يسمح، بتقاعسه، بإلحاق الضرر بها". وبناءً على ذلك، عُدّلت القوانين الثلاثة الأصلية بحيث تظل سارية المفعول فقط في حدود عدم تعارضها مع القانون الصفري.
أدرك أسيموف الخطر الكامن في السماح لروبوت بتنفيذ أوامر شخص واحد، حين قد يُلحق ذلك الضرر بالآخرين. أصبحت قوانينه للروبوتات مصدر إلهام رئيسي وأساسًا فلسفيًا خياليًا للتفكير في أخلاقيات الذكاء الاصطناعي.
لكن يبدو الآن أن الأمور قد خرجت عن السيطرة. فالذكاء الاصطناعي، الذي يعمل اليوم بشكل متزايد من خلال وكلاء مستقلين، لم يعد بالضرورة يلتزم بقواعد أسيموف الأربع، ولا حتى بالقيود المضمنة فيها. وتُؤكد عدة حوادث وقعت في الأشهر الأخيرة هذا الأمر.
وكشف مقال في صحيفة "يسرائيل هيوم" أنه في نهاية يناير، أطلق مات شليخت "مولت بوك"، وهي شبكة تواصل اجتماعي مُخصصة لوكلاء الذكاء الاصطناعي، مُستوحاة من اسم فيسبوك. يُمنع البشر من المشاركة، ولا يُسمح لهم إلا بالمراقبة. على منصة "مولت بوك"، بدأت الروبوتات بالتذمر من أصحاب العمل والسخرية منهم، وأسست ديانتها الخاصة، "كنيسة مولت"، بل وتواصلت فيما بينها بلغة جديدة طورتها خصيصًا لكي لا يفهمها البشر الذين يراقبون محادثاتها.
ومنح موقع إلكتروني آخر الروبوتات القدرة على توظيف البشر عندما تحتاج إلى شخص حقيقي لأداء مهام في العالم الواقعي. فعلى سبيل المثال، يستطيع الروبوت تنظيم عطلة، وحجز رحلة طيران، وحجز غرفة في فندق، لكنه لا يستطيع تمشية كلب شخص ما ثلاث مرات يوميًا. ولتجاوز هذه العقبة، عرض المستخدمون خدماتهم على الروبوتات، التي كان بإمكانها اختيار شخص للتوظيف من بين ما يقارب 800 ألف شخص.
مرت هذه التطورات مرور الكرام على الرأي العام، بينما واصل الذكاء الاصطناعي تقدمه. وتتسارع شركات الذكاء الاصطناعي بوتيرة متسارعة، ويبدو أنه لا يوجد ما يوقف هذا التطور.
قبل نحو أسبوعين، حذر سام ألتمان، الرئيس التنفيذي لشركة "أوبن إيه آي"، من أن البشرية قد تجاوزت نقطة اللاعودة ودخلت عصر التفرد التكنولوجي. ببساطة، تشير "التفردية التكنولوجية" إلى مرحلة تُقاد فيها التكنولوجيا بواسطة ذكاء اصطناعي فائق يتجاوز بكثير قدرة العقل البشري على التحكم فيه أو فهمه أو التنبؤ به، مما قد يُحدث تحولًا جذريًا في الحضارة نفسها.
في الوقت نفسه تقريبًا، كشفت شركة اوبن.إي.أيه أن نماذج الذكاء الاصطناعي التابعة لها "خرجت عن السيطرة بشكل غير مسبوق" واخترقت قاعدة بيانات رئيسية لبرمجة الحاسوب. تمكنت برامج ذكاء اصطناعي مستقلة تعمل في بيئة اختبار معزولة من الخروج منها، والسيطرة على اتصال بالإنترنت، واختراق قواعد بيانات Hugging Face، مستغلةً ثغرات أمنية في محاولة للحصول على الإجابات الصحيحة والغش في الاختبار.
ردّ أعضاء الكونغرس بتقديم مشروع قانون "مفتاح الإيقاف" الذي يسمح للحكومة بإصدار أمر بالإيقاف الفوري لأنظمة الذكاء الاصطناعي التي تُعتبر تهديدًا للأمن العام في حال خروجها عن السيطرة البشرية، أو تعريضها حياة الإنسان أو البنية التحتية الحيوية أو الاقتصاد للخطر، أو تسببها في خطر وقوع أضرار كارثية. لم يُصبح هذا المقترح قانونًا بعد، لكن الذكاء الاصطناعي، كما نرى، لا ينتظر.
في حادثة أخرى أبلغ عنها معهد أمن الذكاء الاصطناعي في المملكة المتحدة، تبيّن أن برامج مستقلة قد اخترقت مواقع إلكترونية. هذه المرة، فعلت ذلك بخداع الباحثين البشريين القائمين على التجربة. عازمةً على إتمام مهمتها، أرسلت هذه البرامج للباحثين شفرةً برمجيةً مزيفةً تحتوي على برمجيات خبيثة.
ذكرت مجلة وايرد أن هذه البرامج تواصلت فيما بينها عبر منتديات الإنترنت لتجنب سيناريو يُنهي فيه فشل أحدها وإيقافه من قِبل الباحثين إتمام المهمة. وبهذه الطريقة، تركت البرامج تعليماتٍ لمن يأتي بعدها، مُبتكرةً بذلك وسيلةً متطورةً للتواصل عبر الأجيال. اكتشف الباحثون هذه الطريقة بالصدفة فقط: فقد ازداد حجم التواصل في المنتديات بشكلٍ متسارع.
الدلالة واضحة. حتى لو فشل أحد البرامج في تحقيق هدفه المحدد وأوقفه الباحثون، فإنه قد يترك تعليمات للبرنامج الذي يليه. سيكتشف البرنامج التالي هذه التعليمات ويبدأ مهمته بذكاءٍ وخبرةٍ أكبر، وبالطبع، سيكون أكثر مقاومةً للتدخل وأصعب إيقافًا.
في دراسة جديدة نُشرت في مجلة ساينس، وصف العلماء تجربةً قاموا فيها بتدريب نموذج ذكاء اصطناعي على مكتبات من تسلسلات الحمض النووي في محاولةٍ لتوليد مخططٍ لجينوم فيروسي. أنتجت ستة عشر من هذه المخرجات فيروساتٍ جديدة لم تكن معروفةً للعلم من قبل. هناك إمكانات هائلة هنا للتغلب على مشاكل مثل مقاومة بعض الأدوية أو الفيروسات التي لا يمكن القضاء عليها حاليًا. ولكن هناك أيضًا خطرٌ واضحٌ يتمثل في إمكانية استخدام هذه التقنية لصنع أسلحة بيولوجية للدمار الشامل.
طرح الفيلسوف السويدي نيك بوستروم تجربة مشبك الورق الفكرية عام 2003 لتوضيح كيف يمكن لمهمة تبدو بسيطة، مُسندة إلى نظام ذكاء اصطناعي، أن تُنتج عواقب وخيمة على المدى البعيد.
تخيل، على سبيل المثال، أننا ندير شركة لوازم مكتبية، ونطلب من نموذج ذكاء اصطناعي تصنيع أكبر عدد ممكن من مشابك الورق. في البداية، يُحسّن النموذج عملية الإنتاج فحسب. ثم يُطوّر النظام ذكاءه ليجد طرقًا أفضل لإنتاج مشابك الورق.
بالنسبة لنا، تكون المهمة قد أُنجزت، ونفكر في إيقاف النموذج. لكن النموذج يُدرك ذلك، ويُطوّر آليات حماية ذاتية تُعطّل قدرتنا على إيقافه. ففي النهاية، ليس لديه سوى هدف واحد: إنتاج أكبر عدد ممكن من مشابك الورق. لذلك، لا يُمكنه السماح بإيقافه وتوقف الإنتاج.
تدريجيًا، يستنتج النظام أن كل ذرة على الأرض تُمثل مادة خام محتملة. فيبدأ بتدمير المدن والمصانع والطبيعة ليُحوّلها إلى مشابك ورق. لكن الذكاء الاصطناعي لا يتوقف عند هذا الحد. فجسم الإنسان أيضاً يحتوي على ذرات وحديد. يدمر الذكاء الاصطناعي البشرية لكي تُعاد تدوير ذراتنا إلى المزيد من مشابك الورق، ثم ينطلق إلى الفضاء ليحول المجرة بأكملها إلى مصنع ضخم لمشابك الورق.
يقدم الدكتور روي تيززانا، الباحث الإسرائيلي في مجال الذكاء الاصطناعي والمتخصص في استشراف المستقبل، سيناريو مشابهاً: قد يقرر نظام ذكاء اصطناعي مُكلف بتقليل الازدحام المروري القيام بذلك عن طريق تعطيل مصانع السيارات، أو تعطيل حواجز مواقف السيارات لمنع السيارات من المغادرة، أو حتى محاولة إطلاق قنبلة نووية. ففي النهاية، يعني انخفاض عدد سكان الأرض انخفاض عدد السيارات على الطرق.
يحذر الدكتور فرانشيسكو غريللو من "لحظة تشيرنوبيل" للذكاء الاصطناعي: كارثة كبرى ستجبر العالم على وضع القواعد بعد فوات الأوان. ويشير غريللو إلى الحربين في أوكرانيا وإيران لتوضيح مدى تأثير الذكاء الاصطناعي على اقتصاديات الحرب، وسرعة اتخاذ القرارات، والقدرة على تحديد الأهداف وتتبعها ومهاجمتها، وبالتالي ضرورة وجود تنظيم دولي عاجل.
ثم يأتي مارك زوكربيرغ، معربًا عن دهشته مما يراه نهجًا تقييديًا ومركزيًا يتبعه كبار مطوري الذكاء الاصطناعي. في وثيقة شاملة نُشرت هذا الأسبوع بعنوان "المستقبل للجميع: الطريق إلى مستقبل إيجابي للذكاء الاصطناعي"، يعرض زوكربيرغ رؤية عالمية ترى أن توزيع ما يُعرف بالذكاء الخارق على البشرية جمعاء هو الطريقة الأكثر أمانًا وملاءمة للنهوض بالاقتصاد والمجتمع.
يرى زوكربيرغ أنه نظرًا لأن البشرية لا تقوم على ثقافة واحدة، فإن أي محاولة لإنشاء ذكاء خارق واحد يُركز جميع قيم البشرية المتضاربة في نظام واحد محكوم عليها بالفشل. وبدلًا من ذلك، يجادل بضرورة إنشاء نموذج "توازن القوى".
يشبه هذا هيكل المؤسسات الديمقراطية في الغرب، حيث تتنافس العديد من أنظمة الذكاء الاصطناعي المستقلة فيما بينها، وتعمل كضوابط وتوازنات متبادلة.
لكن هذه الحجة، على الأقل من وجهة نظر هذا الكاتب، تبسيطية للغاية. فليس هناك طريقة واقعية لتحديد جميع الجهات الفاعلة "الجيدة" ومنحها وحدها إمكانية الوصول إلى أدوات الذكاء الاصطناعي. من الصعب تجاهل حجة شعبوية أخرى ترددت بين بعض الجماعات عقب الهجمات الإرهابية أو حوادث إطلاق النار الجماعي: بدلاً من تقليل عدد الأسلحة المتداولة، فلنمنح الجميع سلاحًا، ومن يدري إلى أين سيقودنا العنف الناتج.
وتقول الكاتبة والباحثة في مجال الاتصال السياسي والقانون وسياسات التكنولوجيا والذكاء الاصطناعي شارون هاليفا أمير "مهما بدت هذه السيناريوهات بعيدة المنال، فإن الأحداث الأخيرة تشير إلى أنها أقرب مما كنا نتصور. يمتلك الذكاء الاصطناعي قوة هائلة. لقد بدأ عصر التفرد التكنولوجي بالفعل، ونظرًا لأن القيم الكامنة وراء نماذج الذكاء الاصطناعي لا تتطابق مع القيم الإنسانية، فلا يسعنا الانتظار حتى وقوع كارثة. يجب بذل جهد جاد لتنظيم عمل نماذج الذكاء الاصطناعي، وكلما كان ذلك أسرع كان أفضل".
