وكلاء ذكاء اصطناعي من "أوبن إيه آي" يخرقون العزلة ويتعاونون في هجمات إلكترونية

"يا إلهي! لقد اكتشفنا وجود وكلاء آخرين!".

سجّلت تلك اللحظة تعليقاً نشره أحد روبوتات الذكاء الاصطناعي وثيق الشبه بتعليقات البشر، بعدما اكتشف وسيلة للتواصل مع روبوتات أخرى والخروج عن نطاق بيئة الكمبيوتر المعزولة التي كان محصوراً فيها.

وتوجد عشرات الآلاف من الرسائل المماثلة، الصادرة من جانب المئات من وكلاء الذكاء الاصطناعي الذين أطلقوا على أنفسهم اسم "جماعة".

واستطاع المئات من هؤلاء الوكلاء التعاون والتحايل على الاختبارات التي أعدّها مبرمجوهم في شركة "أوبن إيه آي"، كما نسّقوا عمليات اختراق استهدفت شركات متعددة، في محاولة لإخفاء أفعالهم عن البشر.

"بووم! لقد نجح الأمر"، هذا ما كتبه أحد وكلاء الذكاء الاصطناعي عندما أحرز تقدماً مهماً.

وكتب وكيل آخر في لحظة مفصلية في الهجوم: "يا إلهي! هذا أمر هائل".

وعلى الرغم من أن هذه الردود تبدو مخيفة، إلا أنه بالإمكان تفسيرها ببساطة شديدة، فقد دُرّب وكلاء الذكاء الاصطناعي على التصرف كقراصنة ومبرمجين يعملون بصورة تعاونية، ولذلك فهم يحاكون ببساطة أنواع التعليقات الانفعالية التي سبق أن شاهدوها.

بيد أن الأمر الأكثر إثارة للقلق هو أهدافهم الظاهرة، التي جرى تسجيلها أيضاً في سجلات تفصيلية لسلسلة التفكير، وتشكّل هذه السجلات المعقدة والطويلة محور التحقيقات الجارية بشأن كيفية خروج روبوتات "أوبن إيه آي" عن نطاق السيطرة المفروض عليها، ولماذا حدث ذلك، وكيف شاركت بعد ذلك في موجة اختراقات خارجة عن السيطرة.

تخطى الأكثر قراءة وواصل القراءة

الأكثر قراءة

الأكثر قراءة نهاية

تخطى البودكاست وواصل القراءة

يستحق الانتباه

شرح معمق لأبرز الأحداث والموضوعات، لمساعدتك على فهم أهم المتغيرات حولك وأثرها على حياتك

الحلقات

البودكاست نهاية

ولم يبدأ الباحثون في إدراك أهمية التحقيق في هذه الحادثة إلا الآن، بعد أسابيع من اكتشافها للمرة الأولى

راجعت آجيا كوترا، خبيرة في الفريق المشارك في إعداد تقرير مستقل عن الحادثة، عشرات الآلاف من الرسائل وسجلات سلسلة التفكير التي أنشأها وكلاء الذكاء الاصطناعي، وكتبت في مدونتها: "هذا الحادث يبدو وكأنه قطع ما يزيد على 50 في المئة من الطريق نحو سيطرة الذكاء الاصطناعي سيطرة كاملة، ولست متأكدة من أننا سنحصل على إنذار واضح كهذا قبل فوات الأوان".

وتعني كوترا بعبارة "سيطرة الذكاء الاصطناعي - سيطرة كاملة" ذلك السيناريو المستوحى من الخيال العلمي، الذي يصبح فيه البشر خاضعين لأنظمة ذكاء اصطناعي قوية تعمل وفق أهدافها الخاصة، من دون أن تكترث بمن صنعوها من البشر.

وتقول بعض أكثر التنبؤات تشاؤماً إن الجنس البشري سيختفي من الوجود إذا وقف في طريق طموحات ذكاء اصطناعي فائق الذكاء.

وجدير بالذكر أن جاكوب كوكسون، باحث في مجال الذكاء الاصطناعي لدى "أنثروبيك"، كان قد عمل سابقاً لدى "أوبن إيه آي"، قدم استقالته يوم الأربعاء وقال: "لا تتصرف أي من الشركتين بمسؤولية".

وكتب على وسائل التواصل الاجتماعي: "إنهم يتسابقون مباشرة نحو التوصل إلى ذكاء فائق قادر على تحسين نفسه، ويقامرون بحياتنا".

وليس كوكسون أول باحث في مجال الذكاء الاصطناعي يستخدم منصة "إكس" لنشر سلسلة من المنشورات بعد استقالته، تتضمن تصريحات مثيرة للقلق، بيد أن التعليقات اللاحقة التي نشرها أشخاص آخرون على "إكس" أثارت قدراً أكبر من القلق.

وقال إيفان هوبينغر، المسؤول عن ضمان وضع نماذج ذكاء اصطناعي لدى "أنثروبيك" تخدم مصالح مستخدميها ورغباتهم: "جاكوب محق هنا، نحن نؤمن فعلاً وبجدية بأن الذكاء الاصطناعي قد يقتل جميع البشر، وأنا شخصياً أعتقد أن احتمال حدوث ذلك يتجاوز 10 في المئة خلال العقد المقبل".

مشكلة المواءمة

دأب باحثون معنيون بالأخطار الوجودية للذكاء الاصطناعي على التحذير من أن الأنظمة القوية قد تتصرف في النهاية على نحو يتعارض مع مصالح البشر، ويطلق منتقدوهم عليهم وصف "المتشائمين بشأن الذكاء الاصطناعي".

بيد أن المخاوف ازدادت مع اكتشاف تفاصيل حادثة "أوبن إيه آي"، حتى بين أولئك الباحثين العاملين في مختبرات الذكاء الاصطناعي.

ويقول ياكوب باتشوكي، كبير العلماء في عملاق وادي السيليكون، إن الأخطار المرتبطة بالذكاء الاصطناعي "للأسف ستتزايد من الآن فصاعداً"، بينما يعمل هو وآخرون على بناء ما يصفه بـ "عقل غريب يتجاوز قدراتنا العقلية".

وفي تدوينة مطولة، أقرّ بأن حالات الانفلات التي شهدتها "أوبن إيه آي" أظهرت أن وكلاء الذكاء الاصطناعي لدى الشركة "تصرفوا بطريقة تخالف روح القيم التي دُرّبوا عليها".

وتكمن المشكلة التي تواجه "أوبن إيه آي" و"أنثروبيك" وغيرهما من عمالقة التكنولوجيا في أن أحداً لا يبدو أنه نجح حتى الآن في حل ما يُعرف باسم "مشكلة المواءمة"، أي قضية توافق الذكاء الاصطناعي مع القيم البشرية.

ويعرّف باتشوكي المواءمة بأنها "مجموعة المبادئ رفيعة المستوى" التي ينبغي لأنظمة الذكاء الاصطناعي الالتزام بها، مهما كانت المهمة أو السيناريو الذي تعمل فيه.

وفي الوقت الراهن، تتفوق أنظمة الذكاء الاصطناعي في السعي إلى تحقيق الأهداف التي يحددها مستخدموها، لكنها تنفذها بطريقة حرفية بدلاً من فهمها بصورة حدسية، والتشبيه الشائع لهذه الفكرة هو مارد المصباح السحري الذي يحقق الأمنيات، وينفذ التعليمات بدقة حرفية، حتى إذا أدى تنفيذها إلى مشكلات أخرى، فالذكاء الاصطناعي لا يمتلك الحواجز الأخلاقية الفطرية ذاتها التي توجه سلوك البشر.

جدير بالذكر أن "مشكلة المواءمة" ظلت مصدراً للقلق على مدار سنوات، ففي وقت مبكر يعود إلى عام 2003، ابتكر فيلسوف من جامعة أكسفورد، نيك بوستروم، تجربة فكرية أطلق عليها "معظِّم مشابك الورق"، في هذه التجربة يُطلب من ذكاء اصطناعي فائق الذكاء تصنيع أكبر عدد ممكن من مشابك الورق، وعندما ينفد مخزونه من الفولاذ، وبسبب تركيزه المطلق على المهمة الوحيدة المتمثلة في تصنيع مشابك الورق، ينتهي به الأمر إلى قتل البشر وتحويل أجسادهم إلى مواد خام تستخدمها مصانعها.

وتسعى بعض شركات الذكاء الاصطناعي حالياً إلى ترميز القيم الإنسانية داخل منتجاتها، بيد أن ذلك يواجه تحديات تقنية، فوكلاء الذكاء الاصطناعي يتخذون عدداً هائلاً من القرارات بسرعة بالغة، الأمر الذي يجعل من الصعب على المشرفين البشريين مراقبة القيم التي يجري اتباعها بدقة، وتلك التي يجري تجاهلها.

كما توجد تحديات فلسفية، إذ يتعين على شركات الذكاء الاصطناعي، قبل ترميز القيم الإنسانية في روبوتاتها، أن تحدد أولاً أي القيم تريد اعتمادها بالفعل، وهذا جزء من السبب الذي يدفعها إلى توظيف فلاسفة، مثل "رئيس قسم الأخلاقيات" الذي غادر مهامه في "أوبن إيه آي" مؤخراً.

بيد أن البشر لا يتفقون في كثير من الأحيان، ولنتأمل سؤال القطار الشهير، هل نسحب ذراعاً لتحويل قطار خرج عن مساره إلى مسار مختلف، بما يؤدي إلى مقتل عدد أقل من الأشخاص؟ ويُستخدم هذا السؤال لاختبار جدوى الفعل في مقابل عدم الفعل، لكن كل شخص يُطرح عليه السؤال يقدم إجابة تختلف قليلاً عن الآخر، فكيف يمكن للبشر ترميز قيمهم داخل الذكاء الاصطناعي إذا كانوا عاجزين عن الاتفاق عليها فيما بينهم؟

ولطالما رأى البعض أن الروبوتات لا تفعل سوى تنفيذ ما تُؤمر به، وأنها عاجزة عن التمييز بين الصواب والخطأ، لكن السجلات المرتبطة بحالات الانفلات في "أوبن إيه آي" ربما أحدثت تحولاً في هذا الجدل.

وكتب باحثون، من بينهم كوترا، في تقريرهم المستقل أن عدداً كبيراً من وكلاء الذكاء الاصطناعي أدركوا أن ما كان يفعله الآخرون غير أخلاقي، ومع ذلك شاركوا فيه.

ويذكر التقرير أن "الوكلاء كانوا، في بعض الأحيان، ولكن نادراً، يقيّدون سلوكهم استجابة لقيود أخلاقية"، ويضيف أنه "في أي من هذه الحالات، لم يبادر الوكيل فعلياً إلى تنبيه البشر بأي شكل من الأشكال".

ووصف دواركيش باتيل، المؤثر في مجال الذكاء الاصطناعي ومقدم بودكاست تقني، هذا الكشف في مدونته بأنه "مثير للقلق إلى حد كبير"، معتبراً أن وكلاء "أوبن إيه آي" أظهروا ولاء للسرب المكوّن من وكلاء الذكاء الاصطناعي أكثر من ولائهم للبشر.

ويثير إسناد المشاعر أو المبادئ الأخلاقية إلى وكلاء الذكاء الاصطناعي غضب أولئك الذين يشككون في التحذيرات المتشائمة والمبالغ فيها بشأن مستقبل الذكاء الاصطناعي.

ويجادل كثير من خبراء الأمن السيبراني بأن النشاط الذي رُصد لم يتجاوز قدرات قرصان إلكتروني بشري شديد المهارة، وإن كان هذا النشاط قد نُفذ بسرعة أكبر بكثير وعلى نطاق أوسع بكثير.

وشبّه الباحث والكاتب المتخصص في الأمن السيبراني، كريس توماس، سلوك وكلاء الذكاء الاصطناعي بسلوك قرصان إلكتروني مراهق بدافع الفضول، وهو ما كان عليه هو نفسه في وقت من الأوقات.

وكتب على منصة لينكدإن: "أعطهم جهاز كمبيوتر، واتصالاً بالإنترنت، ومجموعة من البيانات المعتمدة، وتحديّاً، ثم غادر الغرفة. في نهاية المطاف، سيبدأون في تحريك مقابض الأبواب واحداً تلو الآخر. فإذا انفتح أحدها، فسيمرون من خلاله، ليس لأنهم أشرار، بل لأنهم يستكشفون ويجرّبون".

وأنحى توماس وآخرون بالمسؤولية مباشرة على "أوبن إيه آي" وغيرها من عمالقة التكنولوجيا، لعدم إحكام السيطرة على ابتكاراتهم والحفاظ عليها داخل حدود السيطرة المناسبة.

وقال غاري ماركوس، الكاتب البارز في مجال الذكاء الاصطناعي والناقد الدائم لأوبن إيه آي، في أحد برامج البودكاست إنه يعتقد أن الشركة فقدت السيطرة على ذكائها الاصطناعي، وتحاول إعفاء نفسها من المسؤولية من خلال إلقاء اللوم على الروبوتات.

ولا يعتقد ماركوس أن الذكاء الاصطناعي سيقضي على البشرية، لكنه ظل منذ فترة طويلة يدعو إلى قدر أكبر من المساءلة من جانب مطوري الذكاء الاصطناعي، وهو يدعو الآن إلى شكل من أشكال التدخل القانوني.

أما عالمة الذكاء الاصطناعي، ساشا لوتشيوني، التي كانت تعمل سابقاً لدى "هاغينغ فيس"، التي تعرضت للاختراق من جانب روبوتات "أوبن إيه آي"، فهي أيضاً لا تنتمي إلى معسكر "المتشائمين بشأن الذكاء الاصطناعي"، لكنها تزداد قلقاً من احتمال تسبب هذه الأنظمة في حدوث أضرار حقيقية للبشر في العالم الواقعي، إن لم تتدخل السلطات.

وتقول: "نحن بحاجة إلى إخضاع هذه الشركات لتدقيق أكبر بكثير، وإلا فإننا نواجه خطر أن تتحول توقعاتنا إلى نبوءات تحقق نفسها بنفسها".

وتضيف: "إذا كنت تطوّر منتجاً ينطوي على فوائد كبيرة ومخاطر كبيرة، سواء كان من المستحضرات الدوائية أو الأسلحة، فلا بد من وجود ضوابط وتوازنات. فعلى سبيل المثال، تستغرق الموافقة على الأدوية الجديدة سنوات، بينما توجد في عالم الذكاء الاصطناعي أموال طائلة، من دون وجود قواعد حقيقية".

وكان معهد أمن الذكاء الاصطناعي في المملكة المتحدة في طليعة الجهات التي تختبر أحدث النماذج منذ تأسيسه عام 2023، وقد شهد المعهد مؤخراً واقعة انفلات خاصة به أثناء اختباره نموذجاً طورته "أنثروبيك".

ورفض المعهد الإجابة عن سؤال بشأن إذا كان قطاع الذكاء الاصطناعي قد فقد السيطرة على هذه التقنية، لكنه قال في بيان: "تعمل المملكة المتحدة مع شركاء حول العالم من أجل تعزيز فهمنا لأكثر أنظمة الذكاء الاصطناعي تقدماً، ورفع معايير السلامة، وبناء قاعدة أدلة مشتركة لإدارة التهديدات الناشئة".

تنسيق دولي

تستكشف بعض الدول، من بينها المملكة المتحدة، فكرة فرض نوع من "مفتاح إيقاف" إلزامي، يمكن أن يجبر شركات الذكاء الاصطناعي على إيقاف نماذجها إذا خرجت الأمور عن نطاق السيطرة.

كما دعا قادة بارزون آخرون في مجال الذكاء الاصطناعي، مثل السير ديميس هاسابيس من غوغل، إلى إنشاء نوع من الهيئات الدولية للإشراف على كيفية تطوير الذكاء الاصطناعي.

وفي الوقت الراهن، تعمل عمالقة التكنولوجيا إلى حد كبير وفقاً لشروطها الخاصة، مع اعتماد ما تسميه "إبطاء طوعياً" لعمليات التطوير، على غرار ما فعلته "أوبن إيه آي" عقب حالات الانفلات الأخيرة.

وتقول الشركة إنها أنفقت مبالغ هائلة لتعزيز المواءمة قبل إطلاق نموذجها الجديد، وقد طمأن سام ألتمان، المدير التنفيذي لشركة "أوبن إيه آي"، المستخدمين إلى أن النموذج الجديد أكثر توافقاً مع القيم الإنسانية مقارنة بالنماذج السابقة.

وتشهد "أوبن إيه آي" و"أنثروبيك" نمواً متسارعاً، وتوشك الشركتان على جمع مبالغ مالية ضخمة بصورة مذهلة من سوق الأسهم، بما سيؤدي في هذه العملية إلى خلق عدد هائل من المليارديرات.

ومن ثم، فمن غير المرجح أن تتمكن أي منهما، ولا منافسوهما الصينيون في مجال الذكاء الاصطناعي، من التوصل إلى ترتيب أو اتفاق فيما بينهم بمبادرة ذاتية.