باحث في أنثروبيك يحذر من احتمال 10% لأن يؤدي الذكاء الاصطناعي إلى القضاء على البشرية
Quick Look
حذر إيفان هوبينجر، باحث بارز في مجال السلامة لدى شركة أنثروبيك، من أن الذكاء الاصطناعي يتطور بسرعة هائلة، مما يخلق احتمالاً يتجاوز 10% لأن يؤدي إلى القضاء على البشرية خلال العقد المقبل، وجاء تحذيره رداً على منشور لجاكوب كوكسون الباحث السابق في أنثروبيك وأوبن إيه آي الذي accused الشركتين بعدم التصرف بمسؤولية، بينما أشارت ويندي هول مستشارة الأمم المتحدة إلى أن بعض التصريحات قد تكون علاقات عامة في ظل سباق الاكتتاب العام، وكشفت فاينانشال تايمز عن حجب أنثروبيك لأحدث نماذجها عن معهد سلامة الذكاء الاصطناعي في المملكة المتحدة.
AI-generated summary
Why It Matters
يأتي تحذير إيفان هوبينجر من أنثروبيك ضمن سلسلة من التحذيرات المتزايدة بشأن مخاطر الذكاء الاصطناعي، حيث تحول النقاش من التساؤل عما إذا كان يشكل خطراً حقيقياً إلى مناقشة مدى جسامة هذا الخطر، خاصة بعد ادعاءات جاكوب كوكسون بأن شركتي أنثروبيك وأوبن إيه آي لا تتصرفان بمسؤولية، وكشف فاينانشال تايمز عن حجب أنثروبيك لأحدث نماذجها عن معهد سلامة الذكاء الاصطناعي في المملكة المتحدة.
ما هي probabilité أن يتمكن الذكاء الاصطناعي من "قتل جميع البشر"؟
Author, توم جيركن
Role, مراسل متخصص في شؤون التكنولوجيا
Published قبل 8 دقيقة
مدة القراءة: 4 دقائق
حذّر باحث بارز في مجال السلامة لدى شركة (أنثروبيك - Anthropic) من أن الذكاء الاصطناعي يتطور بسرعة هائلة، لدرجة أنه يعتقد بوجود احتمال يتجاوز 10 في المئة من أن تؤدي هذه التقنية إلى "القضاء على البشرية جمعاء" خلال العقد المقبل.
وذكر إيفان هوبينجر، في منشور على منصة إكس، أن المخاطر المرتبطة بالنماذج الحالية "منخفضة"، لكنه أبدى "قلقه" من احتمال أن تطور هذه التقنية نفسها وتتحسن قريباً لدرجة تشكل فيها خطراً وجودياً على البشرية.
ولم يوضح هوبينجر بالتفصيل كيف يمكن لأنظمة الذكاء الاصطناعي أن تتسبب في إبادة البشر مستقبلاً.
لكن تأتي تصريحاته ضمن سلسلة من التحذيرات المتزايدة الحدة بشأن الذكاء الاصطناعي، حيث تحول النقاش من التساؤل عما إذا كان يشكل خطراً حقيقياً إلى مناقشة مدى جسامة هذا الخطر.
وجاءت مداخلة هوبينجر رداً على منشور آخر على منصة إكس، نشره جاكوب كوكسون، الذي عرّف نفسه بأنه باحث في مجال الذكاء الاصطناعي استقال مؤخراً من شركة أنثروبيك، وسبق له العمل في شركة (أوبن إيه آي - OpenAI).
وكتب كوكسون أنه "لا توجد أي من الشركتين تتصرف بمسؤولية".
وأضاف: "ستصبح هذه الأنظمة قريباً ذات قدرات تفوق القدرات البشرية، إذ ستتمكن من اختراق أي شيء، وإحداث ثورة في أي مجال بين عشية وضحاها، واكتساب سلطة وموارد حقيقية".
وتواصلنا مع شركة أوبن إيه آي، للحصول على تعليق.
تخطى الأكثر قراءة وواصل القراءة
الأكثر قراءة
الأكثر قراءة نهاية
من جانبها، صرحت ويندي هول -وهي عالمة حاسوب تقدم المشورة للأمم المتحدة بشأن الذكاء الاصطناعي- لبي بي سي نيوز بأنها "صُدمت" من تلك المنشورات.
وفي حديثها لبرنامج (وورد آت ون - World at One) على بي بي سي راديو 4، أشارت هول إلى أن بعض هذه التصريحات قد يندرج تحت بند "العلاقات العامة والتسويق"، في ظل السباق المحموم بين شركتي أنثروبيك وأوبن إيه آي، نحو طرح أسهما للاكتتاب العام، وهو أمر مرتقب بشدة.
لكنها استدركت بالقول "لماذا قد يرغب شخص ما في قول ذلك؟ أناشد المستثمرين ألا يستثمروا في هذه الشركة إذا كانت هذه هي منظومة القيم الخاصة بهم".
وفي سياق منفصل، أفادت صحيفة فاينانشال تايمز بأن شركة أنثروبيك، حجبت أحدث نماذجها عن "معهد سلامة الذكاء الاصطناعي" (إيه آي إس آي - AISI) في المملكة المتحدة، وهو أحد الهيئات الرائدة عالمياً في تقييم مخاطر الذكاء الاصطناعي.
وتواصلت بي بي سي مع شركة "أنثروبيك" للحصول على تعليق.
ولم يعلّق متحدث باسم مكتب مجلس الوزراء البريطاني على مسألة حجب النموذج الأحدث عن المعهد (إيه آي إس آي)، مكتفياً بالقول إن الحكومة "تواصل التعاون الوثيق مع الشركاء في هذا القطاع، بما في ذلك شركة أنثروبيك، لجعل النماذج أكثر أماناً".
لا خطة للذكاء الفائق
تخطى البودكاست وواصل القراءة
يستحق الانتباه
شرح معمق لأبرز الأحداث والموضوعات، لمساعدتك على فهم أهم المتغيرات حولك وأثرها على حياتك
الحلقات
البودكاست نهاية
وصرّح هوبينجر في منشوره الذي حظي بأكثر من 10 ملايين مشاهدة، بأنهم "يؤمنون حقاً وبكل جدية" بأن الذكاء الاصطناعي يشكل خطراً قد يؤدي إلى فناء الجنس البشري.
وأضاف: "أعتقد أن شركة أنثروبيك تبذل قصارى جهدها، لكننا لا نملك حتى الآن خطة لحل مسألة 'المواءمة' الخاصة بالذكاء الاصطناعي الفائق، كما أننا لا نسير بوضوح نحو تحقيق ذلك".
ويعمل هوبينجر في مجال مواءمة الذكاء الاصطناعي، وهو مجال يهدف إلى دمج الأفكار والمبادئ الأخلاقية البشرية في هذه التكنولوجيا؛ وبعبارة أخرى، يسعى هذا المجال لضمان بقاء الذكاء الاصطناعي متماشياً مع القيم البشرية.
ويشير العديد من كبار الباحثين إلى أن هذه المحاولات تبدو وكأنها تفشل، وهو ما تؤكده سلسلة من الحوادث التي وقعت هذا الصيف، حيث نفذ (وكلاء الذكاء الاصطناعي - وهي أنظمة ذكاء اصطناعي تعمل بشكل مستقل) هجمات سيبرانية.
وكشفت كل من شركات أوبن إيه آي، وأنثروبيك، و(ميتا - Meta) عن عمليات اختراق نفذتها أدوات الذكاء الاصطناعي الخاصة بها.
وفي تقرير السلامة الصادر عن شركة أنثروبيك في شهر أغسطس/آب، أشارت الشركة إلى وجود خطر ضئيل يتمثل في احتمال عدم توافق نماذجها مع رغبات منظمة قوية (افتراضية)، مما قد يدفع تلك المنظمة لاستغلال أنظمة الشركة أو التلاعب بها.
كما ذكرت الشركة وجود خطر ضئيل مماثل، يظهر في قدرة أنظمة الذكاء الاصطناعي فائقة القدرة على "إجراء عمليات بحث وتطوير آلية"، وهو ما قد يتسبب في "أضرار كارثية يبادر بها الذكاء الاصطناعي نفسه". ومع ذلك، أعربت الشركة عن "ثقة أقل في هذا التقييم" مقارنة بما كانت عليه في السابق.
وجاء في التقرير: "إننا نشهد بوادر أولية لتسارع محتمل".
لطالما دأبت شخصيات بارزة في مجال الذكاء الاصطناعي على التحذير من المخاطر الأمنية التي تفرضها هذه التكنولوجيا لسنوات، وهو ما أكده رؤساء شركات أوبن إيه آي، و(جوجل ديب مايند- Google DeepMind) وأنثروبيك، في عام 2023.
لكن هذه التحذيرات أصبحت أكثر حدة ووضوحاً في الأسابيع الأخيرة، مع ظهور أدلة تشير إلى أن الشركات قد تواجه صعوبات في السيطرة على الذكاء الاصطناعي.
What to Watch
AI outlook — possibilities, not facts
سيستمر الجدل حول مخاطر الذكاء الاصطناعي الوجودية في التصاعد مع اقتراب موعد اكتتاب شركتي أنثروبيك وأوبن إيه آي العام
Likely · Within months
ستواجه شركات الذكاء الاصطناعي الكبرى ضغوطاً متزايدة لنشر مزيد من التفاصيل حول جهودها في مجال المواءمة والسلامة
Very likely · Within weeks
Open Questions
- كيف يمكن لأنظمة الذكاء الاصطناعي أن تتسبب في إبادة البشر مستقبلاً؟
- ما هي具体的 الخطوات التي تتخذها أنثروبيك وأوبن إيه آي لمعالجة مخاطر المواءمة؟
- هل سيؤثر حجب النماذج عن معهد سلامة الذكاء الاصطناعي على تقييم المخاطر المستقل؟
- ما هي probabilités الفعلية لتطوير ذكاء اصطناعي فائق القدرة خلال العقد المقبل؟
