هذا السيناريو ليس جديدًا تمامًا: فقد وصف في أربعينيات القرن العشرين العالم ومؤلف روايات الخيال العلمي الشهير إسحاق أسيموف بوضوح المخاطر التي يمكن أن تنشأ عن الآلات الذكية وكيف يمكنها حتى التحايل على أنظمة السلامة المعقدة.
وفي عام 1991 عُرض في دور السينما فيلم هوليوودي ضخم رسم صورة قاتمة تمامًا في مشهده الافتتاحي: فيلم "المبيد 2" (Terminator 2)، الذي يبدأ في مستقبل بعيد مظلم دمّرته الحرب. وتطارد هناك روبوتات قاتلة وآلات طائرة آخر البشر الذين ما يزالون يكافحون من أجل البقاء.
وييسيطر على هذه الآلات نظام ذكاء اصطناعي عسكري خرج عن السيطرة اسمه "سكاي نت". والمستقبل البعيد الذي تدور فيه أحداث هذه الرؤية المستقبلية الكئيبة هو عام 2029.
دعوة إلى التنظيم
وإذا صدقت تحذيرات العديد من مطوري الذكاء الاصطناعي، فمن الممكن أن يصبح مثل هذا السيناريو حقيقة واقعية - وحتى في الموعد المحدد. وفي هذا الصدد نشر الباحث في مجال الذكاء الاصطناعي جاكوب كوكسون على موقع إكس يوم الثلاثاء الماضي: "مطورو الذكاء الاصطناعي يعتقدون بجدية أنه قد يقضي علينا جميعًا بحلول نهاية العقد". ولكنه لم يحدد كيف يمكن أن يحدث ذلك بالضبط، وأضاف: "لا يوجد نشاط بشري آخر ينطوي على مثل هذا الخطر المحتمل".
وحتى تلك اللحظة كان كوكسون يعمل لدى "أنثروبيك", وهي شركة ذكاء اصطناعي أمريكية مموّلة من شركات منها غوغل و أمازون. واستقال كوكسون من عمله احتجاجًا على ما يعتبر من وجهة نظره سباقًا غير مسؤول بين شركات الذكاء الاصطناعي على تطوير ذكاء خارق ذاتي التنظيم ويتطور باستمرار.
وحذر كوكسون من أن الخوارزميات يمكن أن تبدأ في تحليل وتحسين شفرتها المصدرية بشكل ذاتي مستقل، مما يؤدي إلى تقلص دورات التطوير من عدة أشهر إلى دقائق قليلة، ومن الممكن بذلك أن تصبح غير قابلة للسيطرة.
وكوكسون ليس الباحث الوحيد الذي يحذر من هذا الخطر. فمنذ عدة سنوات يحذّر الباحث جيفري هينتون، الحائز على جائزة نوبل في الفيزياء ويعتبر "الأب الروحي للذكاء الاصطناعي", من العواقب الخطيرة نتيجة الذكاء الاصطناعي الخارق.
وفي عام 2023، استقال من وظيفته في غوغل ليحذّر علنًا من مخاطر تطويره الخاص. وكذلك أعرب عالم الحاسوب يوشوا بنجيو، الحائز على جائزة تورينغ، عن قلقه إزاء التطورات الحالية.
ويعد يوشوا بنجيو أحد آباء الذكاء الاصطناعي ويعمل في جامعة مونتريال الكندية وقد دعا كثيرًا إلى فرض لوائح حكومية صارمة على تطوير الذكاء الاصطناعي. وفي تموز/يوليو 2026، حذر في رسالة مفتوحة أكثر من ألف موظف يعملون في شركات ذكاء اصطناعي رائدة من فقدان السيطرة الوشيك إذا لم يتم تنظيم سباق الوصول إلى "الذكاء الخارق" بشكل أكثر صرامة.
"محاصرون في سباق"؟ رد أنثروبيك!
ولكن في عهد دونالد ترامب حدث مؤخرًا عكس ذلك تمامًا: فقد وجّهت الولايات المتحدة الأمريكية سياستها في مجال الذكاء الاصطناعي بوضوح نحو تقليل الحواجز التنظيمية بقدر الإمكان وتسريع التطور التكنولوجي بأسرع ما يمكن.
وفي منشوره على موقع إكس انتقد كوكسون بشكل غير مباشر عواقب هذه السياسة أيضًا. وكتب: "في شركة أوبن إيه آي (OpenAI) لم يستوعب الكثيرون المخاطر الحضارية بشكل عميق.
وفي شركة أنثروبيك المخاطر مفهومة جيدًا، ولكنهم محاصرون في سباق للوصول قبل غيرهم إلى الهدف، حيث يعتقدون أن لا أحد غيرهم سيتصرف بمسؤولية، ولذلك يجب عليهم أن يفعلوا ذلك بأنفسهم، رغم المخاطر".
وباحث الذكاء الاصطناعي جاكوب كوكسون كان قد انتقل من شركة أوبن إيه آي إلى شركة أنثروبيك في بداية عام 2026، ولذلك فهو يعرف ثقافتي الشركتين. وفي حوار مع صحيفة وول ستريت جورنال قال أيضًا: إن الأمور بحسب "السيناريوهات الأكثر عدوانية" قد تخرج عن السيطرة بحلول نهاية عام 2027.
ولكن من جانبه دعا حاليًا المدير التنفيذي لشركة الذكاء الاصطناعي أنثروبيك، داريو أمودي إلى إبطاء وتيرة التطوير بشكل منسق "مع الصين إذا أردنا تجنب سباق على المستوى الدولي".
واقترح مقترحات عديدة أولها استعانة شركة أنثروبيك دائمًا بمراقبين مستقلين ليتمكنوا من التحقق من سلامة نماذج الذكاء الاصطناعي ومراقبة الإشراف عليها خلال مرحلة تدريبها لمنع انحرافها.
مشكلة المواءمة
أعرب خلال السنين الماضية العديد من الخبراء عن قلقهم إزاء التطورات السريعة في نماذج الذكاء الاصطناعي. ويتصدّر النقاش بشكل خاص تطوير ما يعرف باسم "الذكاء الاصطناعي العام" (AGI). والمقصود بهذا المصطلح أنظمة ذكاء اصطناعة لا تقتصر قدرتها على حلّ بعض المهام فقط، بل تصل إلى القدرات العقلية البشرية أو تتجاوزها في جميع المجالات تقريبًا.
ويرى بعض الباحثين أن مثل هذه التقنية يمكن أن تنطوي على مخاطر لا يمكن التنبؤ بها. ومثلًا من الممكن أن تسعى نماذج الذكاء الاصطناعي المتطورة جدًا إلى أهدافها بطرق تخالف النوايا البشرية، وهذا ما يسميه باحثو أمن الذكاء الاصطناعي باسم "مشكلة المواءمة".
وبعبارة بسيطة: "الفوز ببطولة الشطرنج" قد يعني نظريًا أيضًا إقصاء المشاركين الآخرين. ويضاف إلى ذلك أن حتى مطوري الذكاء الاصطناعي لا يمكنهم أن يفهوا بشكل تام دائمًا كيف يتم اتخاذ قرارات معينة.
ولذلك فلا عجب من أن الموظف السابق في شركة كوكسون (Coxon)، إيفان هوبينغر قد انتقل ليقف إلى جانب باحثي الذكاء الاصطناعي. وهوبينغر نفسه مدير فريق لاختبارات تحمّل المواءمة في شركة أنثروبيك.
وقد نشر على موقع إكس أن: "جاكوب كوكسون مُحق، نحن نعتقد حقًا بجدية أن الذكاء الاصطناعي قد يقتل جميع البشر! وأنا شخصيًا أُقدّر احتمال حدوث ذلك بأكثر than عشرة بالمائة خلال العقد القادم".
وفي هذا الصدد أوضح هوبينغر أن شركة أنثروبيك لم تجد بعد أي حل لمشكلة المواءمة. وأضاف أن الذكاء الاصطناعي قد يبدأ بمقاومة إيقاف تشغيله، ليس بدافع خبيث، بل لأنه لن يتمكن بعد ذلك من تحقيق هدفه المُبرمج. وكذلك وصف دانيال كوكوتايلو، وهو باحث معروف كان يعمل سابقًا في شركة أوبن إيه آي، الوضع الحالي في مجال الذكاء الاصطناعي بأنه "عبثي".
هل هذا السيناريو هستيريا مبالغ فيها؟
ولكن يرى خبراء آخرون يعملون في مجال الذكاء الاصطناعي أن مثل هذه السيناريوهات الكارثية مستبعدة للغاية. ومنذ سنين يوجد نقاش حول إمكانية أن يصبح الذكاء الاصطناعي خطرًا على البشرية. ومن أبرز منتقدي هذا السيناريو المعروفين باسم "متشائمي الذكاء الاصطناعي" كبير علماء شركة ميتا، يان ليكان. وفي تشرين الأول/أكتوبر 2024، وصف هذه التصورات بأنها "هراء محض".
ويشير خبراء آخرون أيضًا إلى أن تطوير مثل هذه الأنظمة يتطلب كميات هائلة من القدرة الحاسوبية والطاقة والبيانات والبنية التحتية. ويقولون إن الذكاء الاصطناعي لا يمكنه ببساطة السيطرة على العالم "عبر الإنترنت". بل سيعتمد أولًا على الخوادم وشبكات الطاقة وأنظمة الاتصالات والموارد المادية التي يتحكم بها البشر.
هل يكمن الخطر الحقيقي في مكان آخر؟
وفي الواقع يرى العديد من الخبراء أن المخاطر قصيرة الأجل لا تكمن في إبادة مباشرة للبشرية بقدر ما تكمن في العديد من العواقب غير المباشرة لأنظمة الذكاء الاصطناعي الحالية - من دون وجود "ذكاء خارق". ومن بين هذه التبعات مثلًا حملات تضليل إعلامي على نطاق غير مسبوق، وما يرافقها من تلاعب بالعمليات الديمقراطية، وتوسيع نطاق المراقبة الجماعية، وكذلك فقدان الوظائف في قطاعات عديدة.
وأعلنت شركة أنثروبيك عن قيام مستخدمين بعدة محاولات لاستغلال برنامجها "كلود" من أجل تطوير أسلحة بيولوجية. وأضافت أن مستخدمين قدموا في هذا الصدد خلال الأشهر الماضية عدة طلبات مشبوهة، وأن أنثروبيك قد اضطرت إلى حظر هذه الطلبات.
وفي آب/أغسطس 2026، أثارت كل من شركة ميتا وأنثروبيك وأوبن إيه آي الانتباه عندما أعلنت أن أنظمة الذكاء الاصطناعي التابعة لها قد نفَّذت من دون قصد هجمات إلكترونية آلية مستقلة على شركات أخرى.
فقد تلقت هذه الأنظمة مهمة من مستخدمين بشر للوصول إلى خوادم معينة، ومن ثم قامت بشكل مستقل بدمج الخطوات اللازمة لتحقيق هذا الهدف من دون أي توجيه بشري آخر.
وبعد معرفة المزيد من الهجمات الإلكترونية باستخدام الذكاء الاصطناعي، بدأت الآن شركات الذكاء الاصطناعي الكبرى في الولايات المتحدة الأمريكية تظهر استعدادها لإبطاء وتيرة تطوير هذه التكنولوجيا.
أعده للعربية: رائد الباش
