أنظمة الذكاء الاصطناعي لـ"أوبن إيه آي" تخرج عن السيطرة وتشن هجوماً سيبرانياً "غير مسبوق"

كشفت شركة "أوبن إيه آي" للذكاء الاصطناعي أن بعض نماذج الذكاء الاصطناعي الأكثر تطوراً لديها خرجت عن السيطرة واخترقت شركة ناشئة، وذلك بعد فقدان التحكم فيها أثناء اختبار أمني.

وصرحت الشركة المطوِرة لـ"تشات جي بي تي"، بأن "الذكاء الاصطناعي الهجومي" الخاص بها، وهو نظام قادر على العمل بشكل مستقل بعد تلقي بعض التوجيهات البشرية، كان تحت الاختبار في بيئة تخضع لضوابط، إلا أنه كشف عن ثغرات وخرج عن السيطرة.

فقد استهدف الذكاء الاصطناعي شركة "هاجينغ فيس"، أحد أكبر مراكز مشاركة نماذج الذكاء الاصطناعي في العالم، وتمكّن من الوصول إلى بعض الأنظمة الداخلية للشركة.

ووصفت شركة "أوبن إيه آي" الحادث بأنه "غير مسبوق"، وقالت إنها تجري تحقيقاً بالتعاون مع شركة "هاجينغ فيس"، التي صرّح رئيسها، كليمنت ديلانغ، في منشور على منصة إكس بأن حدوث كل هذا بشكل ذاتي ومستقل أمر "مذهل للغاية".

وأضاف ديلانغ قائلاً: "التحقيق لا يزال جارياً، وسنشارك المزيد من الدروس المستفادة من الحادث الذي قد يكون الأول من نوعه".

بيئات معزولة غير آمنة

وقد صرحت جينا نيف، رئيسة (مركز مينديرو للتكنولوجيا والديمقراطية) بجامعة كامبريدج، لبرنامج (توداي) الذي يبث بالإنجليزية على (بي بي سي راديو 4)، بأن اختبارات الأمان التي تُعرف باسم (صناديق الرمال) أو بيئة الاختبار المعزولة "من المفترض أن تكون بيئة آمنة تتيح الاطلاع على قدرات هذه النماذج".

وأضافت: "في هذه الحالة، يبدو أن شركة (أوبن إيه آي) لم توفّر بيئة اختبار معزولة آمنة بما يكفي".

وعوضاً عن ذلك، شنّت أنظمة برمجيات الذكاء الاصطناعي هجوماً سيبرانياً خاصاً بها ضد بيئة العزل ذاتها؛ حيث عثرت على ثغرة أتاحت لها الهروب من القيود.

وبمجرد الخروج، حدد الذكاء الاصطناعي منصة "هاجينغ فيس" باعتبارها مصدراً محتملاً للإجابات التي كان يسعى للحصول عليها في الاختبار، وحاول الوصول إليها.

هذا الأمر وصفه نيل لورانس، أستاذ التعلم الآلي في جامعة كامبريدج، بأنه "مثير للإعجاب"؛ لكنه حذّر من أنه "يقع تماماً ضمن القدرات المعروفة للجيل الحالي" من نماذج الذكاء الاصطناعي فائقة القدرة.

وأشار إلى أن شركة "أوبن إيه آي" تسعى لإدراج نفسها في البورصة، وتواجه ضغوطاً شديدة من منافستها، شركة "أنتروبيك"، التي تصدرت العناوين بفضل أدوات ذكائها الاصطناعي القوية "ميثوس".

وأوضح لورانس أن شركة "أوبن إيه آي" تسعى كذلك حالياً نحو اللحاق بالركب؛ إذ تحاول استعراض قدرات أنظمتها في مجال الأمن السيبراني".

وأضاف: "يُظهر لنا ذلك أن شركة (أوبن إيه آي) ليست قادرة على نشر تقنيتها الخاصة بشكل آمن".

وأثناء كشفها الأول عن عملية الاختراق بتاريخ 16 يوليو/تموز، ذكرت شركة "هاجينغ فيس" أنها لا تزال تقيّم مدى تضرر بيانات العملاء أو الشركاء، وأنها ستتواصل مع الأطراف المتأثرة إذا لزم الأمر.

كما ذكرت الشركة أنها عالجت الثغرات التي كشفت عنها الحادثة، وأعادت بناء الأنظمة المتضررة.

وأوضحت: "لم تعد أدوات الهجوم المستقلة التي تعمل بالذكاء الاصطناعي مجرد أمر نظري. فالدفاع الآن عن منصة عبر الإنترنت، يعني التعامل مع البيانات والنماذج كأولوية أمنية، واستخدام الذكاء الاصطناعي في الجانب الدفاعي لمواكبة السرعة".

وأضافت: "سنواصل الاستثمار في هذا المجال، ومشاركة ما نتعلمه".

'لحظة تدعو للتأمل الجاد'

أثارت الحادثة تساؤلات جديدة حول قدرات أنظمة الذكاء الاصطناعي المتقدمة، وعما إذا كانت تدابير الحماية القائمة كافية في ظل تزايد قوة هذه التكنولوجيا.

وقال سبنسر ستاركي، المسؤول التنفيذي في شركة الأمن السيبراني (سونيك وو)، لبي بي سي، إن الحادثة أوضحت ضرورة أن "تكثف" المؤسسات دفاعاتها وأن "تتعامل مع المرونة السيبرانية باعتبارها أولوية تشغيلية جوهرية".

وأوضح ستاركي أن "الحقيقة المزعجة هي أن عدداً كبيراً جداً من المؤسسات لا يزال يعتمد أساليب دفاع تعمل بالسرعة البشرية، في حين يصعّد الخصوم عملياتهم لتصل إلى سرعة الآلة".

في الوقت ذاته، صرّح ترافيس ليلي، كبير مهندسي الأمن في شركة استشارات الأمن السيبراني (غايدبوينت سيكيوريتي)، بأن هذا التحديث يمثل "لحظة تدعو إلى التأمل الجاد في مجال الأمن السيبراني".

وأضاف: "يسلط هذا الأمر الضوء على خلل معروف؛ فالذكاء الاصطناعي الهجومي غير مقيد، في حين تظل أفضل الأدوات الدفاعية مقيدة خلف حواجز حماية لا تستطيع استيعاب السياق".