مُنتقد سابق في أوبن إيه آي يحذر من ثقافة التطوير السريع ويصف مخاطر أنظمة الذكاء الاصطناعي المتقدمة

انتقد موظف سابق في قسم السلامة لدى (أوبن إيه آي)، قدم استقالته في الآونة الأخيرة، نهج الشركة تجاه سلامة الذكاء الاصطناعي، قائلا إن الثقافة المتسارعة التي تركز على التطوير السريع تزيد من مخاطر الإخفاقات.

وفي مقال نشرته مجلة «ذي أتلانتيك» اليوم السبت بعنوان «استقلت من أوبن إيه آي لأن ثقافتها معيبة»، قال ديفيد روبنسون إن شركات الذكاء الاصطناعي، بما في ذلك أوبن إيه آي، لا تتحلى بالحذر الكافي وينبغي لها أن تولي اهتماماً أكبر للخبرة والبحوث في مجال السلامة قبل تطوير أنظمة بقدرات أكبر.

وقال روبنسون: «انتهى عصر التجربة والخطأ»، وأكد أن أنظمة الذكاء الاصطناعي المتقدمة تتطلب إجراءات وقائية أقرب إلى تلك المستخدمة في قطاعات مثل الطاقة النووية والطيران.

وأضاف روبنسون أن أوبن إيه آي تعتمد إلى حد كبير على ما تسميه «النشر التكراري»، إذ تطلق الأنظمة وتعزز إجراءات الحماية عند ظهور المشكلات.

و تأتي هذه التعليقات لتزيد من الجدل الدائر داخل قطاع الذكاء الاصطناعي حول ما إذا كانت الشركات تتحرك بسرعة مفرطة لتطوير أنظمة ذات قدرات متزايدة. وواجهت أوبن إيه آي والشركة المنافسة لها (أنثروبيك) تدقيقاً شديداً عقب وقائع لم تفلح فيها ضوابط السلامة، أو تصرفت فيها الأنظمة التجريبية بنحو غير متوقع.

وكتب روبنسون، الذي قال إنه أمضى ثلاث سنوات ونصف سنة في أوبن إيه آي وساعد في صياغة إطار عمل التأهب الخاص بالشركة وأشرف على تقارير السلامة في 12 عملية إطلاق لنماذج رائدة «مع اندفاع الشركة من عملية إطلاق إلى أخرى، فإنها تفشل في تحقيق مستوى العناية الذي «أعتقد أنه ضروري».

و قال متحدث باسم أوبن إيه آي في بيان: «نحرص على ألا تصبح نماذجنا قدراتها أكبر مما يمكننا إدارته بأمان أو تأمينه، ونوقف التدريب مؤقتاً أو نؤجل إطلاق النماذج عندما نحتاج إلى إبطاء وتيرة العمل».

وحذر روبنسون من أن قدرات الذكاء الاصطناعي تتقدم بوتيرة أسرع من فهم الباحثين لمفهوم «المواءمة»، وهو مجال يركز على ضمان أن تعمل أنظمة الذكاء الاصطناعي وفقاً لأهداف البشر وقيمهم.

يبدو أن وكيل «دوتس» الجديد من «أوبن إيه آي» لا يحتاج إلى انتظار سؤال جديد كي يبدأ العمل، فالفكرة الأساسية تقوم على وكيل دائم يمكن تكليفه بهدف، وربطه بالتطبيقات التي يحتاج إليها، وتركه يواصل تنفيذ المهامّ في الخلفية، حتى بعد انتهاء المحادثة مع المستخدم.

فقد أعلنت الشركة عن «Dots»، خلال مؤتمرها للمطورين في نهاية سبتمبر (أيلول) الماضي، وقدّمتها بوصفها نقلة من نموذج الذكاء الاصطناعي الذي يجيب عن الطلبات إلى نظام يستطيع متابعة مشروعات مفتوحة، والعمل عليها على مدار الساعة.

وتعتمد الخدمة على نموذج «GPT-6 Astra»، ويملك كل «دوتس» جهاز كمبيوتر سحابياً خاصاً به ومتصفحاً مستقلاً، مع إمكان الاتصال بأكثر من 4 آلاف تطبيق عبر منظومة الإضافات التابعة للشركة.

كما يمكن للمستخدم تكليف «دوتس» بمشروع ثم العودة إليه لاحقاً، بينما يواصل الوكيل العمل على مهامّ أخرى، في الوقت نفسه. كما يستطيع المستخدم التواصل معه عبر «شات جي بي تي» و«سلاك» و«تيمز»، مع احتفاظ الوكيل بالسياق بين هذه القنوات. وتقول «أوبن إيه آي» إن الرسائل النصية ستُضاف لاحقًا.

كيف ستستخدم التقنية؟

في تطوير البرمجيات، يمكن للوكيل متابعة ملاحظات العملاء، وتحديد الأخطاء المتكررة، وبناء الإصلاحات واختبارها قبل تقديمها للمراجعة. وفي العمل البحثي، يستطيع إعادة تشغيل التحليلات عند وصول بيانات جديدة وتحديث الرسوم والنتائج. أما في صناعة المحتوى، فيمكنه تحليل نص مقابلة واستخراج مقاطع مناسبة وتجهيز ملاحظات وصياغة منشورات للسوشيال ميديا قبل إرسالها للموافقة.

وتشير الشركة إلى حالة، خلال الاختبارات المبكرة، لاحظ فيها أحد الوكلاء أن مستخدماً نسي إصدار فاتورة لإحدى الجهات، فجهّزها ثم أرسلها بعد حصوله على الموافقة.

جهاز سحابي خاص بالوكيل

أحد الاختلافات التقنية في «Dots» هو أن الوكيل لا يعمل فحسب داخل نافذة دردشة، بل يحصل على بيئة حوسبة سحابية خاصة يستطيع استخدامها لتصفح المواقع وتشغيل الأدوات المرتبطة به.

ويمكن للمستخدم فتح جهاز الوكيل السحابي في أي وقت، لمشاهدة ما يقوم به، كما تسمح الخدمة، عند منح الإذن، بربط الوكيل بحاسوب المستخدم نفسه، بينما يظل الجهاز الشخصي منفصلاً افتراضياً عن بيئة الوكيل، ما لم يقرر المستخدم خلاف ذلك.

ويضع ذلك «دوتس» ضِمن سباق أوسع بين شركات الذكاء الاصطناعي لتطوير وكلاء دائمين، بدلاً من المساعدات التي تبدأ عملها وتُنهيه داخل جلسة واحدة. ووصفت «رويترز» الإطلاق بأنه جزء من توسع «أوبن إيه آي» في سوق الوكلاء المستقلين، في مواجهة منتجات منافِسة؛ من بينها «ميوز» من «ميتا».

العمل في الخلفية... ضمن حدود

تمنح فكرة الوكيل الدائم النظام وصولاً أوسع إلى التطبيقات والبيانات، ولذلك خصصت «أوبن إيه آي» جانباً من الإعلان للضوابط والصلاحيات. فعندما يعمل «دوتس» بصورة استباقية في الخلفية، تقول الشركة إنه يستخدم التطبيقات المرتبطة به في وضع للقراءة فقط، ما يمنعه في هذه الحالة من إرسال الرسائل أو تغيير المحتوى داخل التطبيقات أو التحكم في المتصفح والحاسوب. ويمكن للمستخدم أيضاً تحديد إجراءات مسموح بها مسبقاً، أو اشتراط الموافقة قبل تنفيذها، أو منعها تماماً.

وتخضع بعض الإجراءات لمراجعة تلقائية، لتحديد ما إذا كان يمكن تنفيذها مباشرة أم تحتاج إلى موافقة المستخدم. وتبقى مهامّ حساسة معينة، مثل تغيير كلمات المرور، بيد المستخدم نفسه. كما تؤكد الشركة أن «Dots» قد ترتكب أخطاء، وتوصي بمراجعة الأعمال ذات العواقب المهمة.

تأتي هذه الضوابط مع تصاعد النقاش حول مخاطر الأنظمة القادرة على اتخاذ إجراءات بصورة مستقلة. وذكرت «أكسيوس» أن الإطلاق يضع وعود السلامة لدى الشركة أمام اختبار جديد؛ لأن التحدي لم يعد متعلقاً فحسب بما قد يقوله النموذج، بل بما قد يفعله عندما يحصل على أدوات وصلاحيات للعمل.

وكلاء متخصصون داخل الشركات

لا تقتصر خطة «أوبن إيه آي» على وكيل شخصي واحد، فالشركة تختبر أيضاً «دوتس» متخصصة للمؤسسات، يكون لكل منها هوية وصلاحيات خاصة وربط مباشر بأنظمة الشركة.

وتشمل الاستخدامات التي جُرّبت داخل «أوبن إيه آي» المشتريات، ومعالجة الفواتير، والتسويق عبر البريد الإلكتروني، ودعم العملاء والعقود التجارية، كما تعمل الشركة مع «مايكروسوفت» لدمج هذه الوكلاء مع أدوات الحوكمة والأمن في «Agent 365».

ويجري طرح «Dots» تدريجياً لمشتركي «برو» و«بيزنس بريميوم» في الأسواق المؤهلة، مع نسخة تجريبية للمؤسسات عند تفعيلها من مسؤولي بيئة العمل.

ويبدأ المستخدم حالياً بوكيل رئيسي واحد، بينما تتحدث «أوبن إيه آي» عن مرحلة لاحقة يمكن فيها لفِرق كاملة من الوكلاء العمل معاً نيابة عن المستخدم.

وبهذا تنتقل المنافسة في الذكاء الاصطناعي إلى سؤال مختلف عن جودة الإجابة وحدها: إلى أي مدى يمكن للنظام أن يتذكر السياق، ويواصل العمل، ويتصرف عبر تطبيقات متعددة، دون أن يحتاج المستخدم إلى توجيه كل خطوة؟ وهذه هي المساحة التي تحاول «Dots» دخولها.

طوّر مهندسون في معهد ماساتشوستس للتكنولوجيا «MIT» روبوتاً سبّاحاً فائق النحافة يعتمد على طبقة واحدة من الخلايا العضلية الحية لتوليد الحركة، في تصميم يهدف إلى تقليل حجم الروبوتات الحيوية الهجينة، وتحسين كفاءتها مقارنة بالأنظمة التي تعتمد على كتل عضلية ثلاثية الأبعاد أكبر حجماً.

الروبوت الذي يصفه الباحثون بأنه رقيق إلى حد يشبه الورق، مبني على هيكل من مادة هلامية يبلغ طوله وعرضه تقريباً حجم قطعة من العلكة. وينقسم الهيكل إلى جزأين يعملان كزعانف، تغطي كل واحدة منهما طبقة من الخلايا العضلية الحية أرق من شعرة الإنسان. وقد عُدلت هذه الخلايا وراثياً بحيث تنقبض عندما تتعرض للضوء.

الحركة بالضوء بدلاً من المحركات

عندما يسلط الباحثون الضوء على إحدى الزعانف، تنقبض الخلايا العضلية الموجودة على سطحها؛ ما يؤدي إلى حركة كافية لدفع الروبوت عبر الماء. ويمكن تغيير اتجاه السباحة وسرعتها عبر التحكم في أي زعنفة تُضاء، وتوقيت نبضات الضوء الموجهة إليها.

وفي الاختبارات، تمكن الروبوت من السباحة والالتفاف داخل متاهة مائية بسيطة. وبلغت سرعته القصوى نحو 4 أضعاف طول جسمه في الدقيقة، وهي سرعة محدودة مقارنة بالسباحين السريعين، لكنها أظهرت أن طبقة عضلية شديدة الرقة تستطيع إنتاج قوة كافية لتحريك جسم كامل داخل الماء.

وتقول ريتو رامان، الأستاذة المشاركة في الهندسة الميكانيكية في «MIT» وإحدى مؤلفي الدراسة، إن الحركة في الماء تتطلب قوة أكبر من الحركة في الهواء؛ ما يجعل قدرة الروبوت على السباحة بهذا الحجم والسمك مؤشراً على القوة التي يمكن أن تنتجها البنية العضلية المستخدمة.

تقليل حجم الروبوتات الحيوية

تجمع الروبوتات الحيوية الهجينة بين مواد صناعية وأنسجة أو خلايا حية لتوليد الحركة، إلا أن كثيراً من التصاميم السابقة اعتمد على كتل ثلاثية الأبعاد من العضلات المزروعة مخبرياً؛ ما يتطلب أعداداً كبيرة من الخلايا، ويؤدي إلى أجهزة أكثر سماكة وتعقيداً.

أما التصميم الجديد، فيعتمد على طبقة رقيقة جداً من العضلات، وهو ما يمكن أن يقلل كمية الخلايا المطلوبة، ويتيح تصنيع روبوتات أبسط وأخف وزناً وأكثر كفاءة في الحركة. ويصف الفريق النظام بأنه أول مثال على روبوت عضلي ثنائي الأبعاد شديد الرقة قادر على الحركة الذاتية. ويرى الباحثون أن الأنسجة الحية تقدم خصائص يصعب تحقيقها باستخدام مكونات ميكانيكية تقليدية فقط، فهي لينة وقادرة على الاستجابة لبيئتها، ويمكن أن تتمتع بقدرات على إصلاح نفسها.

البحث عن «هيكل» مناسب للعضلات

لم يكن التحدي مقتصراً على زراعة الخلايا، بل شمل أيضاً تطوير قاعدة تستطيع تحويل انقباضاتها الصغيرة إلى حركة مفيدة؛ فقد اعتمد الفريق في أعمال سابقة على مادة الفيبرين، وهي مادة هلامية شديدة الليونة، لكنه وجد أنها يمكن أن تنكمش بسرعة عند تعرضها لقوة العضلات؛ ما يقلل كفاءة نقل القوة؛ لذلك اختبر الباحثون تركيبات مختلفة من مادة «GelMA» المستخدمة في هندسة الأنسجة، مع تغيير صلابتها وسمكها وشكل الأخاديد الموجودة على سطحها.

وأظهرت التجارب أن الأخاديد ذات الشكل الأقرب إلى القنوات المربعة ساعدت الخلايا على الاصطفاف بصورة أفضل. وكلما زاد انتظام الخلايا، كان اندماجها في ألياف عضلية أقوى وأكثر تنسيقاً، كما وجد الفريق أن الطبقة الهلامية بسماكة نحو نصف مليمتر توفر توازناً مناسباً بين خفة الوزن والقدرة على دعم العضلات في أثناء انقباضها.

«تدريب» العضلات قبل الاستخدام

عمل الباحثون أيضاً على تقوية العضلات نفسها عبر سلسلة من نبضات الضوء، في عملية شبيهة بالتدريب، بهدف زيادة قدرتها على الانقباض. وبعد تحسين المادة الحاملة وترتيب الخلايا، صمم الفريق الروبوت بزعنفتيه، مع أخاديد على الجانبين تسمح للخلايا العضلية بالنمو في اتجاهات منظمة. وعند تشغيل الزعنفتين معاً، يتحرك الروبوت إلى الأمام، بينما يسمح تشغيل زعنفة واحدة بتغيير الاتجاه.

تطبيقات محتملة في البيئات الحساسة

لا يزال التصميم في مرحلة بحثية مبكرة، ويقول الفريق إن الخطوة التالية تتمثل في تحسين شكل الجسم لزيادة سرعة السباحة وكفاءتها، لكن الباحثين يرون أن الروبوتات الحيوية الهجينة الرقيقة قد تكون مناسبة مستقبلاً للمهام التي تتطلب أجهزة لينة وصغيرة داخل بيئات لا تتلاءم معها الروبوتات التقليدية، مثل مراقبة بعض البيئات المائية الحساسة أو استكشاف مناطق هشة لا تتحمل أجهزة صلبة أو كبيرة. ونُشرت الدراسة في دورية «Advanced Functional Materials»، بينما تلقى المشروع دعماً جزئياً من مكتب البحوث البحرية الأميركي.