موظفون سابقون في 'أنثروبيك' يحذرون من مخاطر وجودية للذكاء الاصطناعي

أثارت تصريحات موظف سابق في شركة أنثروبيك، جدلا واسعًا، الثلاثاء، بعدما قال إن "مطوري الذكاء الاصطناعي يعتقدون بجدية أنه قد يقضي علينا جميعًا بحلول نهاية العقد".

وكشف باحث الذكاء الاصطناعي جاكوب كوكسون، الموظف الذي استقال مؤخرا من شركة أنثروبيك، عن هذه المعلومات في سلسلة تغريدات على موقع إكس.

على الرغم من أن تصريحات كوكسون (27 عامًا) تبدو مثيرة للقلق وخطيرة بشأن تقنيات الذكاء الاصطناعي، بعد قوله إنها "ستصبح قريبًا أنظمة خارقة قادرة على اختراق أي شيء، وإحداث ثورة في أي مجال بين عشية وضحاها، واكتساب قوة وموارد حقيقية"، إلا أنها ليست جديدة.

وبدأت شركة أنثروبيك مسيرتها بهذه الطريقة تحديدًا، حيث غادر موظفو شركة "أوبن إيه آي"، الذين انتابهم القلق بشأن بروتوكولات السلامة في شركة سام ألتمان الناشئة لتأسيس شركتهم الخاصة في مجال الذكاء الاصطناعي، بحجة أن نهجهم أكثر مسؤولية.

وأصبحت هذه المخاوف شائعة. فقد استقال عدد من موظفي شركات الذكاء الاصطناعي خلال الأشهر والسنوات الماضية بسبب مخاوف تتعلق بالسلامة. وأعرب آخرون علنًا عن قلقهم من أن هذه التقنية تتطور بسرعة فائقة، وأنها ستتجاوز يومًا ما قدرة البشر على التحكم بها.

في يوليو/تموز، وقّع ما يقارب 1400 موظف في شركات الذكاء الاصطناعي رسالة مفتوحة يحثون فيها الحكومة الأمريكية على تنظيم هذه التقنية لكبح جماح شركات التكنولوجيا الكبرى وإبطاء وتيرة تطور الذكاء الاصطناعي لضمان سلامته.

وقبل يومين، حذّر كبير علماء شركة "أوبن ايه آي"، جاكوب باتشوكي، من أن قدرات الذكاء الاصطناعي تتطور بوتيرة أسرع من قدرة الباحثين على مراقبتها والتحكم بها بشكل موثوق.

وحاليًا، انضم باحث -يُعد في مرحلة مبكرة من مسيرته المهنية- إلى قائمة المحذرين، مطلقاً ناقوس الخطر، إذ كتب كوكسون في منشور له على منصة إكس: "إنهم يتسابقون مباشرة نحو ذكاء اصطناعي فائق قادر على تطوير نفسه ذاتيًا، ويقامرون بحياتنا".

وحظي منشور كوكسون باهتمام واسع بعد أن علّق إيفان هوبينغر -وهو موظف أقدم وأعلى رتبة في شركة أنثروبيك- مؤكدًا صحة ما ذهب إليه كوكسون.

وكتب هوبينغر على منصة إكس: "نحن نؤمن حقاً وبكل جدية أن الذكاء الاصطناعي قد يقضي على البشرية جمعاء!".

وأوضح أنه يعتقد شخصيًا أن احتمالية حدوث ذلك تقل عن 10% خلال العقد المقبل، مشيرًا إلى أنه رغم النوايا الحسنة لشركة أنثروبيك، إلا أنها لا تملك خطة لتجنب ما يُعرف بـ "الذكاء الاصطناعي الفائق" الذي قد يتجاوز قدرة البشر على السيطرة على الذكاء الاصطناعي.

ويُعد "الذكاء الاصطناعي الفائق" -وهو الحالة التي يتفوق فيها الذكاء الاصطناعي على القدرات البشرية- علامة فارقة نظرية ومثيرة للجدل على نطاق واسع، إذ لا يوجد معيار قياسي محدد لها؛ ويرى بعض باحثي الذكاء الاصطناعي أنها تحققت بالفعل، بينما يعتقد آخرون أنها لن تتحقق أبدًا.

بعد فترة وجيزة، أوضح هوبينغر تصريحه في منشور لاحق، قائلاً إن تقرير المخاطر الخاص بشركة أنثروبيك يُقرّ بهذا القلق، لكنه يؤكد أن الذكاء الاصطناعي الحالي لا يُشكّل فرصة تُذكر لاكتساب مثل هذه القوة. وردًا على طلب للتعليق، أحالت أنثروبيك شبكة CNN إلى منشور هوبينغر اللاحق.

كما حذّر داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، مرارًا وتكرارًا من أن التسابق المحموم لتطوير هذه التقنية قد يؤدي، دون قصد، إلى خطأ بشري كارثي يُفقد الشركة السيطرة على نظام الذكاء الاصطناعي الخاص بها.

وقال أمودي لصحيفة نيويورك تايمز في فبراير/شباط: "هذه مشكلة هندسية معقدة، وأعتقد أن شيئاً ما سيحدث في نظام الذكاء الاصطناعي الخاص بأحدهم. نأمل ألا يكون نظامنا من بينها".

على الرغم من التحذيرات المتواصلة، يبدو أن التنظيم بعيد المنال. فقد سعت إدارة ترامب جاهدةً لتقويض لوائح الذكاء الاصطناعي على مستوى الولايات، ولم يُبدِ الكونغرس حتى الآن أي رغبة في كبح جماح هذه التقنية. ويُردد الكثيرون: أن أي محاولة لتنظيم الذكاء الاصطناعي تُعدّ استسلاماً للصين، التي لا تخضع لمثل هذه القيود.

باستثناء أن الصين قد فرضت تنظيمًا للذكاء الاصطناعي، لا سيما فيما يتعلق بإدارة المخاطر والسلامة. ففي العام الماضي، ألزمت الحكومة شركات الذكاء الاصطناعي بوضع علامات على المحتوى المُنشأ بواسطة الذكاء الاصطناعي لجعله شفافًا وقابلًا للتتبع. ومع ذلك، قاومت الصين هذا النوع من التنظيم الصارم الذي من شأنه أن يمنع حدوث مثل هذه المشاكل التي ذكرها باحثو وادي السيليكون.