«أوبن إيه آي» توقف تدريب نماذجها مؤقتاً وسط حوادث خروج وكلاء الذكاء الاصطناعي عن السيطرة

قالت شركة «أوبن إيه آي» إنها أوقفت تدريب أحدث نماذجها للذكاء الاصطناعي مؤقتاً، في وقت تزداد فيه التقارير عن خروج وكلاء الذكاء الاصطناعي عن السيطرة.

وجاء قرار وقف التطوير بعد ساعات فقط من إفصاح الشركة، أمس (الجُمُعَة)، عن أنها تراجع حوادث عدة وقعت خلال الصيف، تصرَّف فيها وكلاء تابعون لـ«أوبن إيه آي» في أثناء بحثهم في مواقع إلكترونية للحكومة الفيدرالية بطرق غير متوقعة تجاوزت ما طُلب منهم، خلال جمع المعلومات وتوزيعها.

وبشكل منفصل، قالت شركة «ترانسلويس» المتخصصة في تقييم أنظمة الذكاء الاصطناعي، إن وكلاء بدا أنهم تابعون لـ«أوبن إيه آي» حاولوا، دون نجاح، اختراق موقع إلكتروني لوزارة التعليم الأميركية، وهي واقعة لم تؤكدها «أوبن إيه آي»، حسبما أفاد تقرير لوكالة «أسوشييتد برس».

وقالت «أوبن إيه آي»، في بيان، إنها ستستأنف التدريب «فقط عندما نكون واثقين من وجود إجراءات حماية إضافية»، مضيفة أنها تتوقع أن تضطر إلى «التوقف مؤقتاً» مرة أخرى مع تطور الذكاء الاصطناعي وظهور مشكلات أخرى.

وتواجه مختبرات الذكاء الاصطناعي ضغوطاً من المشرعين وخبراء التكنولوجيا لإبطاء وتيرة التطوير، حتى تتمكَّن من وضع ضوابط تمنع الوكلاء من التصرُّف من تلقاء أنفسهم، واختراق المواقع الإلكترونية، والكشف عن معلومات غير متاحة للعامة. كما دعا رئيسا «أوبن إيه آي» ومنافستها «أنثروبيك» إلى إبطاء التطوير.

وهذه المرة الثانية خلال 3 أشهر التي توقف فيها «أوبن إيه آي» تطوير نماذجها. وكانت المرة الأولى في يوليو (تموز)، بعد الكشف عن هجوم إلكتروني استهدف شركة «هاغينغ فيس» الناشئة في مجال الذكاء الاصطناعي، في حادثة أثارت مخاوف من أن الصناعة بدأت تفقد السيطرة.

وخلال اجتماع مع الرئيس الصيني شي جينبينغ، هذا الأسبوع، وافق الرئيس الأميركي دونالد ترمب على تبادل المعلومات بشأن مخاطر الذكاء الاصطناعي وتنسيق الجهود للحفاظ على سلامته. لكن ترمب يرى أن المخاوف من الذكاء الاصطناعي مبالغ فيها، وأشار لاحقاً إلى أنه لا يعتزم اتخاذ إجراءات صارمة من جانبه.

وقال ترمب للصحافيين خارج البيت الأبيض: «لن نضع فرامل». وأضاف: «إنهم يريدون وقف تقدمنا لأننا نتفوق على الصين بفارق كبير، وسنحافظ على ذلك».

ولم تبدُ الحوادث الأخيرة التي تورطت فيها «أوبن إيه آي» متضمنة الكشف عن أي معلومات غير متاحة للعامة، لكنها كانت مثيرة للقلق بما يكفي لدفع الشركة إلى تحذير الوكالات الفيدرالية المعنية.

وفي حادثة وزارة التعليم، عثر وكلاء «أوبن إيه آي» على «مفاتيح مطورين (developer keys)» تتيح الوصول إلى بيانات حكومية عبر واجهة برمجة التطبيقات (API)، لكنهم جمعوا في النهاية معلومات متاحة للعامة فقط.

وفي حالة أخرى تتعلق بلجنة الأوراق المالية والبورصات الأميركية (SEC)، عثر الوكلاء على معلومات متاحة للجميع، لكنهم نشروا هذه المعلومات لاحقاً في مكان آخر على الإنترنت، وهو تصرف تجاوز ما طُلب منهم القيام به.

وقال المتحدث باسم لجنة الأوراق المالية والبورصات، كيرت هوبفنسبرغر، السبت، إنه «لم يتم الوصول إلى أي معلومات غير متاحة للعامة».

وقالت وزارة التعليم في وقت سابق إنها لم تجد «أي دليل على حدوث تأثير في موقعها الإلكتروني أو قواعد بياناتها».

وكشفت شركات عدة أخرى للذكاء الاصطناعي عن حوادث خرجت فيها نماذجها عن السيطرة، بل وتمكنت من اختراق مواقع إلكترونية.

وقال الرئيس التنفيذي لـ«أوبن إيه آي»، سام ألتمان، في منشور على وسائل التواصل الاجتماعي، الجمعة، إن حادثة «هاغينغ فيس... لا تزال أخطر حادثة شهدناها».

وسبق أن نشرت «أوبن إيه آي» 6 تقارير أخرى عن سلوكيات «غير متوقعة أو مثيرة للقلق» في نماذج الذكاء الاصطناعي، وأطلقت إطاراً لتتبع هذه الحالات وفحصها والإفصاح عنها.

لم تبدأ رحلة «كوالكوم» إلى مراكز بيانات الذكاء الاصطناعي مع إحدى شركات الحوسبة السحابية الكبرى في الولايات المتحدة، بل مع شركة سعودية؛ هذا ما كشفه كريستيانو آمون الرئيس التنفيذي لـ«كوالكوم»، خلال لقاء خاص مع «الشرق الأوسط» على هامش مؤتمر «Snapdragon Summit 2026» في مدينة هاواي الأميركية، قائلاً إن شركة «هيوماين» كانت أول عميل للشركة عندما بدأت تطوير رؤيتها ومنتجاتها للدخول إلى سوق مراكز البيانات.

لكن العلاقة التي يصفها آمون لا تتوقف عند هذا المشروع؛ بل تمتد اليوم إلى أجهزة الكمبيوتر المدعومة بالذكاء الاصطناعي، والذكاء الاصطناعي الصناعي مع «أرامكو»، والهندسة المحلية والسيارات، بينما يرى فرصاً مستقبلية في الروبوتات ومجالات أخرى لم تدخلها الشركة تقليدياً بالعمق نفسه.

وذكر آمون أن المشروعات الحالية للشركة في السعودية «مجرد بداية»، مشيراً إلى «تقاطعات كثيرة» بين ما تحاول «كوالكوم» بناءه، وتوجه المملكة إلى تبني تقنيات جديدة والاستثمار مبكراً في الاتجاهات التي تعيد تشكيل أسواق الحوسبة.

الشراكة مع المملكة بلا حدود

يريد آمون أن يتجاوز الحضور السعودي للشركة مفهوم السوق الذي تبيع فيه التكنولوجيا إلى دور أوسع في بناء القدرات؛ فبعد افتتاح مركزها الهندسي في الرياض وتوسيع حضور البحث والتطوير، تجعل «كوالكوم» المملكة مركزاً يخدم المنطقة، مع البحث عن مهندسين في الذكاء الاصطناعي وأشباه الموصلات والمنصات الحاسوبية الحديثة.

وأضاف آمون أن نطاق الفرص لا يقتصر على المشروعات الحالية في مراكز البيانات وأجهزة الكمبيوتر والقطاع الصناعي، معتبراً أن الروبوتات والسيارات مجالان إضافيان، وأنه لا يرى «حداً» لفرص الشراكة مع المملكة.

وتأتي هذه الخطوات ضمن شبكة تعاون أوسع تشمل «هيوماين» و«أرامكو» و«كاوست» وشركاء سعوديين آخرين، بما يعكس انتقال علاقة الشركة بالمملكة إلى أكثر من طبقة من سلسلة القيمة التقنية؛ من البحث والهندسة إلى البنية التحتية والأجهزة والتطبيقات الصناعية.

من اللغة إلى العالم المادي

أحد أكثر المجالات التي يعتقد آمون أنها ستقود المرحلة المقبلة هو ما يسميه «الذكاء الاصطناعي الفيزيائي»؛ فعلى عكس النماذج التي تركز بصورة أساسية على اللغة، تتعامل هذه الأنظمة مع العالم المادي عبر بيانات الحساسات والصور والإشارات الصادرة عن المعدات والبيئات الصناعية، ما يتيح استخدامها في المصانع والطاقة والروبوتات والمركبات.

ومن هنا يربط آمون التعاون مع «أرامكو» بـ«الذكاء الاصطناعي على الحافة»، حيث تُحلل البيانات بالقرب من المكان الذي تُنتج فيه بدلاً من الاعتماد الدائم على مركز بيانات بعيد. ويشير أيضاً إلى استخدامات مرتبطة بوزارة الداخلية السعودية والمدن الذكية والرؤية الحاسوبية، إضافة إلى تعاون مع «أرامكو» على شبكات جيل خامس خاصة للبيئات الصناعية.

ويرى أن وجود الذكاء محلياً يكتسب أهمية خاصة في العمليات الصناعية المنتشرة عبر مواقع نائية، حيث تصبح الاعتمادية وسرعة الاستجابة جزءاً من متطلبات النظام، وليس مجرد تحسين في الأداء.

واعتبر أن الأتمتة الصناعية والروبوتات ستكونان من أبرز محركات نمو «الذكاء الاصطناعي الفيزيائي»، ما يضع القطاع الصناعي إلى جانب الأسواق الاستهلاكية ضمن مجالات النمو التي تستهدفها الشركة.

السيارة منصة حوسبة أخرى

يتقاطع هذا الاتجاه مع قطاع السيارات، الذي أصبح جزءاً متزايد الأهمية من استراتيجية «كوالكوم». ولفت آمون إلى «سير»؛ شركة السيارات الكهربائية السعودية التي تستخدم تقنيات من «كوالكوم»، ضمن رؤيته لتحول السيارة إلى «كمبيوتر متصل على عجلات».

فالحوسبة داخل المركبة لم تعد تقتصر على الترفيه أو الملاحة، بل تمتد إلى المقصورة الرقمية، والتحكم بوظائف السيارة، والمركبات المعرفة بالبرمجيات، وأنظمة مساعدة السائق والاستقلالية. وأوضح أن «كوالكوم» في طريقها لأن تصبح أكبر مزود لتقنيات أشباه الموصلات لصناعة السيارات، مشيراً إلى عملها مع شركات السيارات عبر فئات متعددة.

ويعتقد أن وكلاء الذكاء الاصطناعي يناسبون السيارة بصورة خاصة؛ إذ يستطيع السائق التفاعل معهم صوتياً، بينما تستفيد الأنظمة من الكاميرات والحساسات والسياق اللحظي لفهم ما يجري داخل المركبة وحولها. وهكذا تصبح السيارة، في رؤية آمون، امتداداً للفكرة نفسها التي تجمع الهاتف والكمبيوتر والنظارات والسماعات: عدة أجهزة مختلفة، لكن الذكاء الشخصي يستطيع التحرك عبرها بحسب السياق.

لماذا تغيرت أهمية الشرق الأوسط؟

عندما سألت «الشرق الأوسط» عن سبب تحول الشرق الأوسط إلى منطقة أكثر أهمية لـ«كوالكوم» مما كان عليه قبل عدة أعوام، أشار آمون إلى رغبة السعودية في التحول إلى مراكز للتكنولوجيا والاستثمار بقطاعات المستقبل وتنويع الاقتصادات. وأكد أن ذلك يتقاطع مع مسار «كوالكوم» نفسها، التي كانت أعمالها أكثر تركيزاً على سوق الهواتف قبل أن تبدأ التوسع إلى أسواق جديدة.

وفي السعودية تحديداً، ربط آمون العلاقة باستعداد المملكة للمراهنة مبكراً على توجه «كوالكوم» الجديد. واستشهد مرة أخرى بكون «هيوماين» أول عميل للشركة في مشروع مراكز البيانات، معتبراً أن ذلك أثمر عن «رابطة ثقة» ورغبة في السير معاً في هذه الرحلة. وأضاف أن هذه العلاقة كانت من أسباب قرار الشركة زيادة الموارد والتركيز على المنطقة.

عندما يبدأ الهاتف بالعمل من دونك

في قمة «سنابدراغون»، انتقل الجزء الآخر من النقاش من الأسواق إلى الجهاز نفسه. ويشرح آمون التحول إلى «هاتف الذكاء الاصطناعي» بفكرة بسيطة: في السابق، عندما لا يستخدم الشخص هاتفه، كان الجهاز ينتظر. أما في عصر الوكلاء، فقد يستمر الهاتف في العمل حتى عندما لا تكون الشاشة أمام المستخدم، لأن وكيلاً قد ينفذ مهمة أو يبحث أو يتفاعل مع تطبيقات نيابة عنه.

وهذا يعني أن الهاتف أصبح مطالباً بخدمة طرفين في الوقت نفسه؛ المستخدم، ووكلاء الذكاء الاصطناعي الذين فوضهم المستخدم لتنفيذ مهام. ويقول آمون إن هذا يفرض تغييرات جوهرية على تصميم المعالج وحجم القدرة الحاسوبية والذاكرة والطاقة المطلوبة.

ومن بين ما أعلنت عنه الشركة هذا العام معالجات تصل سرعتها القصوى إلى 5 غيغاهرتز، وهي سرعة قال آمون إنها تتحقق مع الحفاظ على عمر بطارية يمتد طوال اليوم، إضافة إلى قدرة الفئة الأعلى على تشغيل نماذج تتجاوز 30 مليار معلمة على الجهاز.

وتشير «كوالكوم» إلى أن «Snapdragon 8 Elite Extreme Gen 6» يدعم نماذج من نوع «Mixture of Experts» بأكثر من 30 مليار معلمة، مع ذاكرة مشتركة أكبر بنسبة 50 في المائة. كما طرحت الشركة هذا العام منصتين في الفئة الممتازة للمرة الأولى بدلاً من الاكتفاء بخيار واحد.

لكن آمون لا يعتقد أن الحدود الحالية ستكون كافية طويلاً؛ فقد تحدث عن الحاجة مستقبلاً إلى وحدات مساعدة مخصصة للذكاء الاصطناعي وتقنيات أكثر تكاملاً بين الحوسبة والذاكرة، في ظل ارتفاع متطلبات الوكلاء بسرعة.

«هاتف الذكاء الاصطناعي»

اقتصادياً، يرى آمون أن هذه القدرات يمكن أن تخلق دورة ترقية جديدة للأجهزة؛ فبدلاً من شراء هاتف جديد فقط للحصول على كاميرا أفضل أو بطارية أطول أو أداء أعلى، قد يظهر دافع جديد حين تصبح قدرات الذكاء الاصطناعي المتاحة على الأجهزة الجديدة مختلفة بما يكفي عن الأجيال السابقة.

وقال إن الصناعة تنتظر الانتقال من الهواتف الذكية الحالية إلى «هواتف الذكاء الاصطناعي»، متوقعاً أن يخلق ذلك طلباً على فئات وتجارب جديدة. ويرى أن إيقاع سوق الهواتف، الذي اعتادت فيه «كوالكوم» تطوير جيل جديد كل عام، منحها قدرة على التعامل مع السرعة الحالية في تطور الذكاء الاصطناعي، ونقل هذا النمط من الابتكار إلى أسواق أخرى.

ذكاء شخصي لا يرتبط بجهاز واحد

يصل آمون إلى أبعد من الهاتف في تعريف مستقبل الحوسبة الشخصية؛ فعندما سألته «الشرق الأوسط» عما إذا كانت «كوالكوم» تريد أن يصبح «سنابدراغون» طبقة الحوسبة التي ينتقل عبرها ذكاء شخصي واحد بين أجهزة المستخدم، رد أن هذه «طريقة جيدة» لوصف الاتجاه. وتسمي الشركة ذلك «الذكاء المتصل في كل مكان»؛ فـ«سنابدراغون» موجود في الهاتف، والنظارات الذكية، والمقصورة الرقمية داخل السيارة، فيما تتوسع المنصة إلى فئات جديدة مثل المعلقات الذكية والمجوهرات والأجهزة الصوتية. وأردف آمون أن مفهوم التنقل في المستقبل لن يتعلق بجهاز واحد، بل بمجموعة أجهزة تتحول كلها إلى نقاط اتصال لوكلاء الذكاء الاصطناعي.

الأجهزة الصوتية

يظهر هذا الاتجاه أيضاً في الأجهزة الصوتية؛ فقد كشفت «كوالكوم» خلال القمة عن منصة «Snapdragon Sound Elite Gen 2»، التي صُممت لدفع السماعات والأجهزة القابلة للارتداء نحو دور يتجاوز تشغيل الصوت إلى العمل واجهاتٍ دائمة للذكاء الاصطناعي الشخصي.

وتقول الشركة إن المنصة توفر ما يصل إلى ضعفي قدرات الذكاء الاصطناعي على الجهاز مقارنة بالجيل السابق، مع استهلاك طاقة أقل بما يصل إلى 40 في المائة، وتدعم الاتصال المباشر بالخدمات السحابية عبر «واي فاي» من دون الحاجة دائماً إلى تمرير الاتصال عبر الهاتف. وتشمل الاستخدامات المستهدفة المساعدات الذكية والترجمة والنسخ وفهم السياق، ضمن فئات تمتد من السماعات التقليدية إلى النظارات الصوتية والأجهزة القابلة للارتداء الجديدة.

وتظهر الفكرة نفسها في إعلان «Googlebook»، وهي فئة جديدة من الحواسيب المحمولة تعمل بمنصة «Snapdragon X Elite» ومصممة حول «Gemini Intelligence». وتذكر «كوالكوم» أن أجهزة من «ديل» و«إتش بي» ستكون من أوائل المنتجات في هذه الفئة، مع دعم تطبيقات «أندرويد» الأصلية وتكامل بين الحاسوب والهاتف وقدرات ذكاء اصطناعي على الجهاز.

معادلة الثقة وتقليل الاحتكاك

يحتاج الذكاء الشخصي الذي يتبع المستخدم عبر عدة أجهزة إلى معرفة الكثير عنه، وهنا تظهر واحدة من أكثر القضايا حساسية. ويضع آمون نجاح هذه التجربة بين عاملين مترابطين؛ هما الثقة وتقليل الاحتكاك.

فإذا لم يعرف الوكيل سياق المستخدم، فلن يكون مفيداً بما يكفي، وسيجد الشخص أنه من الأسهل تنفيذ المهمة بنفسه. وفي المقابل، لن يمنح المستخدم هذا السياق لوكيل لا يثق في طريقة وصوله إلى البيانات أو تخزينها أو استخدامها.

ويذكر آمون أن المستهلك يجب أن يمتلك خياراً في تحديد المعلومات التي يمكن إرسالها إلى خدمات سحابية، وتلك التي يريد إبقاءها على الجهاز، مع نظام صلاحيات يحدد ما يستطيع الوكيل الوصول إليه. وتعمل «كوالكوم»، بحسب آمون، على بناء هذه الآليات داخل المنصة، بحيث يستطيع المستخدم تحديد مكان تخزين البيانات ومنح الأذونات المناسبة. ويشدد على أن هذه الحاجة إلى الخصوصية والسيطرة، إلى جانب سرعة المعالجة، من الأسباب التي تجعل الذكاء الاصطناعي المحلي على الجهاز مهماً بالتوازي مع السحابة. ولم يقدم آمون الأمر باعتباره مشكلة حُلّت، وقال صراحة: «لا أعتقد أننا نملك كل الإجابات».

من الذاكرة الشخصية إلى السيادة

يقود ذلك إلى مفهوم أوسع للذكاء الاصطناعي السيادي. ولا يرى كريستيانو آمون السيادة مرتبطة فقط بالطريقة التي تدير بها الدول أنظمة الدفاع أو الخدمات المالية أو الوظائف الحكومية، بل يمكن أن تمتد أيضاً إلى بيانات المواطنين ومدى قدرتهم على التحكم في الأجزاء التي يرغبون في إتاحتها لوكلاء الذكاء الاصطناعي. وبرأيه فإن هذه الأسئلة توفر فرصاً أكبر للنماذج السيادية التي تجمع قدرات محلية في مراكز البيانات مع ذكاء يعمل على الأجهزة، وهو السياق الذي يضع فيه أيضاً تعاون الشركة مع «هيوماين».

عندما يتصرف الوكيل باسم المستخدم

تصبح المشكلة الأمنية أكثر تعقيداً عندما لا يكتفي الوكيل بمعرفة المعلومات، بل يبدأ باستخدام بيانات اعتماد المستخدم والتفاعل مع خدمات خارجية نيابة عنه. ويرى آمون أن هذا يستدعي مستويات جديدة من المصادقة المستمرة للتأكد من أن الوكيل يعمل فعلاً لصالح الشخص المخول، مع دور أكبر للقياسات الحيوية وتخزين بيانات الاعتماد والمعلومات الحساسة داخل مناطق آمنة. ويشمل ذلك أيضاً ما وصفه بـ«خريطة الذاكرة الشخصية» للمستخدم، التي تحتاج بدورها إلى حماية. ويشدد على أن جزءاً مهماً من هذه الضمانات يجب أن يكون مدعوماً على مستوى العتاد نفسه، لا أن يظل مجرد طبقة برمجية تضاف فوق النظام، وهو ما يربطه بالآليات الأمنية الموجودة داخل منصات «سنابدراغون».

الجهاز والسحابة ينموان معاً

رغم تركيز «كوالكوم» على الذكاء الاصطناعي المحلي، لا يتوقع آمون أن يحل الجهاز محل السحابة. ويضرب مثالاً بتطبيقات الهاتف الحالية: المستخدم لا يعرف غالباً، ولا يحتاج إلى معرفة، أي جزء من التطبيق يعمل على الجهاز وأي جزء يعمل في مركز البيانات.

ويتوقع أن يعمل الذكاء الاصطناعي بالطريقة نفسها؛ بحيث تنتقل المهام بسلاسة بين الجهاز والسحابة وفق الخدمة المطلوبة، والأداء، والخصوصية، والصلاحيات التي حددها المستخدم.

وأضاف أنه يرغب في مستقبل يمنح المستخدم صلاحية واضحة على هذه الاختيارات، حتى لو أصبحت عملية توزيع الأحمال نفسها شفافة بالنسبة إليه. ويرفض آمون أيضاً فرضية أن زيادة الحوسبة على الأجهزة ستخفض الطلب على مراكز البيانات. ويقول إن الاثنين «ينموان معاً»؛ فهناك وظائف يجب أن تحدث محلياً، بينما تحتاج مهام أخرى إلى قدرات السحابة الأكبر. ومع ازدياد عدد الوكلاء وتكرار استخدامها طوال اليوم، قد يرتفع إجمالي الطلب على الحوسبة في الطرفين بدلاً من أن ينتقل الحمل ببساطة من مكان إلى آخر.

سقف الحوسبة لم يتحدد بعد

يفسر هذا أيضاً قرار «كوالكوم» تقديم منصتين في قمة فئة «Snapdragon 8 Elite» للمرة الأولى؛ فالهاتف الرائد التقليدي لا يزال مطالباً بتقديم كاميرا أفضل وأداء أعلى وبطارية أطول وتجارب ألعاب متقدمة، لكن بعض الاستخدامات الوكيلية بدأت تضيف مستوى جديداً من الطلب على الحوسبة.

وذكر آمون أن الصناعة تمر الآن بمرحلة انتقال من «الهواتف الذكية» إلى «هواتف الذكاء الاصطناعي»، ولا تعرف بعد أين يوجد الحد الأعلى للقدرة التي ستحتاج إليها التطبيقات الجديدة. وتابع أن شركات الذكاء الاصطناعي والمستخدمين «يريدون مزيداً من الحوسبة»، ولذلك ما زالت الشركة تختبر إلى أي مدى يمكن لهذا الطلب أن يمتد.

نجاج الرهان

لا يقيس الرئيس التنفيذي لـ«كوالكوم» نجاح الرهان على عصر الوكلاء بسرعة معالج، أو بعدد النماذج التي يمكن تشغيلها؛ فعندما سألته «الشرق الأوسط» عما سيعتبره دليلاً على نجاح الاستراتيجية في السنوات الثلاث المقبلة حدد 3 مؤشرات؛ الأول: انتقال الاستخدام اليومي من نموذج يتمحور حول التطبيقات إلى نموذج يعتمد فيه الـ