قبل أن تسمح المؤسسة لأول وكيل ذكاء اصطناعي باتخاذ إجراء داخل أنظمتها الفعلية، ينبغي أن تتمكن من الإجابة عن أربعة أسئلة عملية؛ من يتحمل مسؤولية سلوكه؟ ما الذي يُسمح له بالوصول إليه؟ هل يمكن إعادة بناء كل قرار اتخذه لاحقاً؟ وهل توجد وسيلة مجرّبة لإيقافه إذا انحرف عن المهمة؟
تصبح هذه المتطلبات، بحسب نيبو فارغيز، المدير الأول للأمن السيبراني في شركة «إف تي آي كونسلتنج» (FTI Consulting)، أكثر إلحاحاً مع انتقال المؤسسات من استخدام الذكاء الاصطناعي لتقديم الإجابات والتوصيات إلى نشر وكلاء قادرين على الوصول إلى الأنظمة واستدعاء الأدوات وتنفيذ الإجراءات بأنفسهم.
تتزامن هذه النقاشات مع انطلاق النسخة الرابعة من «منتدى اليونسكو العالمي لأخلاقيات الذكاء الاصطناعي» في الرياض، الاثنين، الذي يستمر حتى 17 سبتمبر (أيلول). ويجمع المنتدى مسؤولين وصناع قرار وخبراء وأكاديميين وممثلين عن منظمات دولية وقطاعات حكومية وخاصة، لبحث حوكمة الذكاء الاصطناعي وكيفية تحويل المبادئ الأخلاقية إلى سياسات وضوابط عملية تواكب تسارع استخدام الأنظمة الأكثر استقلالية.
ويشرح فارغيز أن المشكلة لا تكمن في أن الوكيل مجرد «مستخدم آلي» جديد يحتاج إلى حساب دخول آخر. فأنظمة الهوية والصلاحيات التقليدية صُممت أساساً للتعامل مع شخص بشري أو برنامج يتصرف بطريقة متوقعة ومتكررة. أما وكيل الذكاء الاصطناعي فيتصرف بالنيابة عن شخص، لكنه يستطيع أيضاً تحديد خطوته التالية بصورة ديناميكية، ما يجعل نمط سلوكه أقل قابلية للتوقع مسبقاً.
الصلاحيات الواسعة تتحول إلى نقطة ضعف
يضع هذا الاختلاف مسألة الصلاحيات في قلب المشكلة الأمنية. ويحذر فارغيز من التعامل مع الوكيل كما لو كان حساب خدمة تقليدياً يحمل مجموعة ثابتة من الصلاحيات ويدخل إلى أنظمة معروفة سلفاً.
فالوكيل قد يستدعي سلسلة من الأدوات والأنظمة أثناء محاولته إنجاز هدف معين، فيما يؤثر السياق الذي جمعه في بداية المهمة على القرارات التي يتخذها لاحقاً. ولهذا يرى أن الضوابط الموضوعة للبرمجيات التقليدية لن تكون كافية وحدها لإدارة المخاطر الجديدة.
ويطرح بديلاً يقوم على مبدأ «أقل قدر من الصلاحيات»، بحيث يحصل الوكيل على ما يحتاج إليه فقط لإنجاز المهمة المحددة، على أن تتغير صلاحياته عندما تتغير المهمة. ويشير إلى أن أحد الأخطاء الشائعة تتمثل في منح الوكيل منذ البداية كامل مجموعة الصلاحيات التي قد يحتاج إليها مستقبلاً، بدلاً من الحد الأدنى اللازم للعمل الحالي.
وتتزايد حساسية هذه المسألة مع ضغوط إثبات العائد من الاستثمار في الذكاء الاصطناعي. فكلما زادت البيانات والأنظمة التي يستطيع الوكيل الوصول إليها، بدا أكثر قدرة على إنجاز المهام؛ إلا أن الصلاحيات ذاتها يمكن أن تتحول إلى مصدر خطر إذا تعرض الوكيل للتلاعب أو الاختراق.
ويضرب فارغيز مثالاً بوكيل يمتلك صلاحية الكتابة في قواعد بيانات حساسة أو الوصول إلى مفاتيح أنظمة، إذ يستطيع تنفيذ إجراءات واسعة النطاق قبل أن يلاحظ أحد ما يحدث. وينوه أن تكون كل صلاحية ممنوحة قراراً متعمداً يرتبط بمالك محدد داخل المؤسسة.
هوية صحيحة... وفعل ضار
لا يكفي التحقق من أن الوكيل الذي نفذ الإجراء يحمل هوية صحيحة حيث إن المهاجم لا يحتاج في بعض السيناريوهات إلى انتحال هوية الوكيل أصلاً، إذ يمكنه التأثير في سلوكه بواسطة تعليمات خبيثة مخفية داخل محتوى يبدو موثوقاً، لتخرج النتيجة في سجلات المؤسسة وكأنها عملية مشروعة نفّذها وكيل مخول.
ولهذا يدعو فارغيز إلى تحليل مصدر الفعل وتوقيته والبيانات التي وصل إليها الوكيل، ومدى توافقها مع المهمة الموكلة إليه. ويشير إلى أن عملية مشروعة وأخرى خبيثة قد تبدوان متطابقتين عند النظر إلى سجل الوصول وحده، بينما تظهر الفروق عند جمع السياق والسلوك والنية المحيطة بالفعل. كما يدعو فرق الأمن إلى اختبار الوكلاء بالطريقة نفسها التي قد يستخدمها المهاجم، من خلال إدخال تعليمات خبيثة بصورة متعمدة ومراقبة ما إذا كانت أنظمة الرصد ستكتشفها أم ستسمح بمرورها باعتبارها نشاطاً طبيعياً.
عندما تصبح سرعة الآلة مشكلة أمنية
يرى فارغيز أن الاعتماد على محلل بشري يراجع السجلات بعد وقوع الحدث لم يعد نموذجاً عملياً في مثل هذه البيئات. ولفت أن الحل هو بناء خط أساس للسلوك الطبيعي لكل وكيل يشمل حجم النشاط وتسلسله وتوقيته والأدوات التي يستخدمها، ثم اكتشاف الانحرافات آلياً. فإذا بدأ وكيل مالي، على سبيل المثال، في الاستعلام عن أنظمة الموارد البشرية، أو شرع وكيل اعتاد العمل خلال ساعات الدوام في تنفيذ عمليات عند الثالثة صباحاً، فهذه إشارات تستحق التحقيق حتى لو كانت كل عملية منفردة تبدو مسموحاً بها تقنياً.
متى يجب أن يتدخل الإنسان؟
على الرغم من الاتجاه نحو زيادة الاستقلالية، لا يرى فارغيز أن كل قرار يجب أن يُترك للوكيل. ويفيد بأن العمليات التي يصعب التراجع عنها أو التي يمكن أن تسبب ضرراً كبيراً عند الخطأ ينبغي أن تبقى مرتبطة بموافقة بشرية، خصوصاً عندما تتعلق ببيانات العملاء، أو التزامات مالية، أو تغييرات في الوضع الأمني للمؤسسة، مثل تعديل الصلاحيات أو تعطيل الضوابط الأمنية.
ويتجاوز الإيقاف مجرد الضغط على زر يعطل الوكيل، إذ ينبغي حفظ حالته عند التعليق لفهم ما فعله، إلى جانب تحديد الإجراءات التي بدأ تنفيذها بالفعل قبل الإيقاف وما إذا كان بالإمكان التراجع عنها. كما يوصي بأن تُختبر آلية التعليق بواسطة أشخاص لم يشاركوا في تطوير الوكيل نفسه.
سجل يعيد بناء القرار كاملاً
مع الوكلاء المستقلين، لا يكفي تسجيل النتيجة النهائية، بل يجب حفظ المعلومات الكافية لإعادة بناء القرار بالكامل بدءاً من التعليمات التي بدأت العملية، ومن أصدرها، والبيانات والأدوات التي استخدمها الوكيل، وصولاً إلى الصلاحيات التي نُفذت تحتها كل خطوة، والنتيجة النهائية.
ويشير فارغيز إلى أن بعض منصات الوكلاء بدأت بالفعل بتخصيص هوية وسجل دخول وتاريخ تدقيق لكل وكيل، مع إمكانية ربط الإجراء بالشخص أو القالب الذي يقف خلفه. لكن هذه القدرات ما زالت مرتبطة بالمنصات الفردية، ولا يوجد حتى الآن معيار واسع التبني لتسجيل هذه المعلومات ومشاركتها بصورة متسقة بين الأنظمة المختلفة.
وتصبح المشكلة أكثر تعقيداً عندما يعمل عدة وكلاء معاً، إذ قد لا يظهر الخلل عند تقييم كل واحد منها منفرداً، بل في عمليات التسليم والتفاعل بينها. ولذلك، يعدّ فارغيز أن اختبارات المحاكاة والهجوم أكثر فاعلية من مراجعة السياسات وحدها في اكتشاف المخاطر الكامنة بين الوكلاء.
الشرق الأوسط أمام فرصة للبناء منذ البداية
يرى فارغيز أن وتيرة نشر الذكاء الاصطناعي تتسارع، مشيراً إلى خطط في الإمارات للانتقال بخدمات حكومية نحو الذكاء الاصطناعي المستقل خلال العامين المقبلين، وإلى توجه مركز دبي المالي العالمي نحو بناء مركز مالي «مولود للذكاء الاصطناعي» بحلول 2027، إلى جانب زخم مماثل في السعودية ضمن «رؤية 2030».
ويعتبر أن سرعة التبني في المنطقة لا تعني بالضرورة أن الحوكمة يجب أن تأتي لاحقاً، بل قد تمنح المؤسسات فرصة لبناء ضوابط الهوية والمراقبة والأمن منذ البداية، قبل أن يصبح الوكلاء جزءاً واسع الانتشار من البنية التشغيلية.
ولهذا يعود فارغيز إلى أربعة شروط قبل السماح لأي وكيل بالعمل فعلياً؛ يجب أن يكون مسؤولاً تنفيذياً معروفاً يمتلك سلطة إيقافه، وله صلاحيات مصممة وفق احتياجات المهمة، وسجلات كافية لإعادة بناء كل فعل، وآلية تعليق جرى اختبارها بصورة مستقلة.
ويؤكد فارغيز أن الاختبار الحقيقي لهذه الضوابط لا يكون على الورق، بل عندما تتعرض لمحاولة إساءة استخدام متعمدة، وأن المؤسسات بحاجة إلى الانتقال من مراجعة وكلائها نظرياً إلى اختبارهم تحت ظروف تحاكي هجوماً حقيقياً قبل منحهم القدرة على التصرف داخل الأنظمة الإنتاجية.
أفاد تحديث من «أمازون ويب سيرفيسز» اطلعت عليه وكالة «رويترز» للأنباء، الثلاثاء، بأن الخدمة غير قادرة على استعادة الوصول إلى منشأة الحوسبة السحابية التابعة لها في البحرين وإلى إحدى مناطق استضافة البيانات الثلاث في الإمارات، وذلك عقب أضرار لحقت بها خلال حرب إيران.
وذكرت وحدة الحوسبة السحابية التابعة لـ«أمازون» أن الأضرار في البحرين شملت عدداً مما يُعرف بمناطق التوافر، وهي تجمعات تضم مركز بيانات واحداً أو أكثر في المنطقة الجغرافية نفسها.
وقالت «أمازون ويب سيرفيسز» في التحديث الذي كانت «رويترز» أول من نشر عنه: «امتدت الأضرار التي لحقت ببنيتنا التحتية إلى مناطق توافر عدة، وتجاوزت ما صُممت خدماتنا الإقليمية وخدماتنا متعددة مناطق التوافر لتحمله». وأضافت أنها تساعد عملاءها في البحرين على استئناف عملياتهم في مناطق أخرى.
وأشارت «أمازون ويب سيرفيسز» إلى أنها لم تتمكن في الإمارات من استعادة الوصول إلى موارد وبيانات مستضافة بصورة حصرية في منطقة توافر واحدة تعرف باسم إم إي سي 1- إّه. زد 2. وأضافت أنها تواصل العمل على استعادة الموارد في الإمارات ككل وفي منطقتي التوافر الأخريين المتضررتين.
بدأت الاضطرابات في مارس (آذار) عقب هجمات أميركية وإسرائيلية على إيران ردت عليها طهران بضربات بالصواريخ والطائرات المسيّرة على إسرائيل ودول خليجية تستضيف قواعد عسكرية أميركية. وقالت «أمازون ويب سيرفيسز» في ذلك الوقت، إن منشأتين تابعتين لها في الإمارات تعرّضتا لضربات مباشرة، بينما ألحق هجوم بطائرة مسيّرة قرب إحدى منشآتها في البحرين أضراراً مادية ببنيتها التحتية. ونقلت «رويترز» عن مصدر مطّلع في ذلك الوقت قوله إن الانقطاعات في خدمات «أمازون ويب سيرفيسز» أثّرت في بعض العمليات المصرفية.
وذكرت «رويترز»، الأسبوع الماضي، أن الإمارات تعدّل خططاً لمشروع كبير لمركز بيانات للذكاء الاصطناعي عقب الهجمات الإيرانية، بما في ذلك بحث توزيع المنشآت واستخدام بنية تحتية تحت الأرض ومقاومة للانفجارات.
وقالت «أمازون ويب سيرفيسز» في تحديث اليوم إنه بعد تضرر أول منطقة توافر في البحرين في مارس، بدأت الشركة توصي العملاء بنقل أحمال العمل إلى مناطق أخرى. وأضافت أن معظمهم فعلوا ذلك قبل أن تصبح منطقة البحرين غير متاحة عقب تعطل منطقة توافر ثانية في أبريل (نيسان).
وأضافت أنها دعمت منذ ذلك الحين العملاء في إعادة تأسيس عملياتهم في مناطق بديلة، باستخدام النسخ الاحتياطية في حالة توافرها أو تطبيق حلول بديلة للحد من تأثير البيانات التي يتعذر الوصول إليها.
وقالت الشركة إنها قيّمت البنية التحتية المتضررة، واستنفدت كل الخيارات لاستعادة البيانات والموارد التي لم تُنقل قبل أن تصبح منطقة البحرين غير متاحة.
وذكرت أنها لا تزال ملتزمة بدعم العملاء في البلدين.
وقالت الشركة إنها تعمل في الإمارات على استبدال البنية التحتية المتضررة، وإنها ستقدم تحديثاً بشأن استعادة الخدمات في الأشهر المقبلة، وأضافت أنها ستقدم أيضاً تحديثاً آخر في أوائل 2027 بشأن العمليات في البحرين.
وقالت الشركة إنها أبلغت السلطات المعنية في البلدين، وتواصل العمل معها.
تخيّل صباحاً عادياً في عام 2030. يصل الطبيب إلى عيادته، والمهندس إلى مكتبه، والمحاسب إلى شركته، والمبرمج إلى حاسوبه... لكنّ «زميلاً» جديداً سبقهم جميعاً إلى العمل: نظام ذكاء اصطناعي قرأ الملفات، وحلّل البيانات، وأعدّ التقارير، وربما أنجز خلال دقائق مهام كانت تحتاج سابقاً إلى ساعات.
عندها لن يكون السؤال: هل سيأخذ الذكاء الاصطناعي وظائفنا؟ بل: أي جزء من وظائفنا سيبقى لنا؟ ومن سيحصل على الثروة التي يصنعها؟
هذا السؤال أصبح موضوعاً للبحث العلمي؛ ففي 2 يونيو (حزيران) 2026 نشرت دورية «Annual Review of Economics» دراسة بعنوان «النمو الاقتصادي في ظل الذكاء الاصطناعي التحويلي» (Economic Growth Under Transformative AI) للباحثين فيليب تراميل، من مختبر الاقتصاد الرقمي بجامعة ستانفورد، وأنطون كورينيك، من جامعة فيرجينيا والمكتب الوطني للبحوث الاقتصادية الأميركي (NBER). وتطرح الدراسة مفارقة قد تحدد اقتصاد العقد المقبل: إذا استطاع الذكاء الاصطناعي إنجاز جزء كبير من العمل المعرفي بدلاً من البشر، فقد ترتفع الإنتاجية والنمو بصورة هائلة، من دون أن ترتفع أجور البشر بالنسبة نفسها. وبعبارة أبسط: قد يصبح الاقتصاد أغنى... من دون أن يصبح العامل أغنى بالقدر نفسه.
3 طرق إلى عام 2030
في سبتمبر (أيلول) 2026، أطلق «معهد أنثروبيك» (Anthropic Institute) النسخة الأولى من «مستكشف السيناريوهات الاقتصادية» (Econ Scenario Explorer)، استناداً إلى تقرير «السيناريوهات الاقتصادية للذكاء الاصطناعي التحويلي» (Economic Scenarios for Transformative AI)، للباحث أنطون كورينيك وزملائه.
ولا يتنبأ النموذج بما سيحدث؛ بل يسأل سؤالاً علمياً: كيف يمكن أن يبدو الاقتصاد الأميركي عام 2030 إذا تطورت قدرات الذكاء الاصطناعي بسرعات مختلفة؟
وجاءت الإجابة في 3 سيناريوهات:
* في السيناريو «المتواضع»، يعزز الذكاء الاصطناعي الإنتاجية، لكن تأثيره يبقى شبيهاً بثورة الإنترنت: واسعاً، لكنه تدريجي وقابل للاستيعاب. ويصل الناتج المحلي الإجمالي الأميركي في النموذج إلى نحو 34.1 تريليون دولار بأسعار 2025.
* أما السيناريو «الجوهري»، فيفترض أن يصبح الذكاء الاصطناعي قادراً على أداء نصف العمل المعرفي بحلول 2030. عندها يرتفع الناتج إلى نحو 36.3 تريليون دولار؛ أي أعلى بنحو 8.3 في المائة من اقتصاد مماثل من دون التأثير المفترض للذكاء الاصطناعي.
* لكن السيناريو «المتطرف» يرسم عالماً مختلفاً جذرياً: أنظمة تتفوق على البشر في معظم المهام المعرفية، وتنجز غالبية تلك الأعمال بصورة مستقلة. وفي هذه الحالة الافتراضية، قد يصل النمو الاقتصادي إلى نحو 15 في المائة سنوياً، ويرتفع الناتج إلى 44.4 تريليون دولار عام 2030.
إنها أرقام تبدو للوهلة الأولى خبراً رائعاً: إنتاجية أعلى واقتصاد أكبر بكثير. لكنها تقود إلى السؤال الأكثر أهمية في الدراسة: إذا أصبح الاقتصاد أغنى بفضل الذكاء الاصطناعي، فمن سيحصل على هذه الثروة؟... الإنسان أم الآلة ومن يملكها؟
حين تكبر الكعكة وتصغر حصة العامل
هنا تكتسب الدراسة المنشورة في «Annual Review of Economics» أهميتها؛ فتراميل وكورينيك يخلصان إلى أن إسناد جزء كبير من العمل والإنتاج إلى أنظمة الذكاء الاصطناعي بدلاً من البشر يمكن، في بعض النماذج الاقتصادية، أن يسرّع النمو بصورة غير مسبوقة، وفي الوقت نفسه يخفض حصة العمل البشري من الدخل. أما الأجور، فقد ترتفع أو تنخفض تبعاً لطبيعة التطور التقني والموارد وعوامل اقتصادية أخرى. وهنا تكمن المفارقة: ازدهار الاقتصاد لا يعني بالضرورة ازدهار أجور البشر.
وتجسد سيناريوهات «Anthropic» هذه الفكرة رقمياً؛ ففي السيناريو المتطرف، تنخفض أجور العاملين في الوظائف المعرفية بأكثر من 10 في المائة بحلول 2030. والأكثر إثارة أن حصة العمل من الناتج، التي تبلغ نحو 59.4 في المائة في السيناريو المتواضع، تهبط إلى 45.2 في المائة في السيناريو المتطرف، بينما ترتفع حصة رأس المال إلى 54.8 في المائة؛ أي إن الاقتصاد قد ينتج ثروة أكبر بكثير، لكن نصيب العامل البشري النسبي منها يصبح أصغر. وهنا يظهر سؤال يتجاوز الاقتصاد إلى المجتمع نفسه: إذا كانت الخوارزميات ستنتج جزءاً متزايداً من الثروة، فمن سيمتلك هذه الثروة؟ وكيف ستوزع مكاسبها؟
هل بدأت الوظائف تتأثر فعلاً؟
لكن، هل بدأت هذه السيناريوهات تظهر في سوق العمل اليوم؟ في 5 مارس (آذار) 2026، نشر الباحثان مكسيم ماسينكوف وبيتر ماكروري من فريق «Anthropic»، دراسة بعنوان «تأثيرات الذكاء الاصطناعي في سوق العمل: مقياس جديد وأدلة أولية» (Labor Market Impacts of AI: A New Measure and Early Evidence). وابتكر الباحثان مقياساً يجمع بين ما يستطيع الذكاء الاصطناعي إنجازه نظرياً، وما يُستخدم فعلياً منه في أماكن العمل.
وجاءت النتيجة أكثر تعقيداً من الحديث عن «اختفاء الوظائف»، فلم يجد الباحثان حتى ذلك التاريخ ارتفاعاً واضحاً ومنتظماً في البطالة بالمهن الأكثر تعرضاً للذكاء الاصطناعي. لكنهما رصدا إشارة مبكرة تستحق الانتباه: توظيف الشباب قد يكون بدأ يتباطأ في بعض هذه المهن.
وكشفت الدراسة أيضاً فجوة مهمة؛ فما تستطيع أنظمة الذكاء الاصطناعي إنجازه تقنياً أكبر بكثير مما تستخدمه المؤسسات فعلياً اليوم. وقد تكون هذه الفجوة هي الأهم: إنها النافذة الزمنية المتاحة أمام العالم للاستعداد قبل أن تتحول القدرة التقنية إلى واقع يومي في سوق العمل.
الوظيفة لا تختفي... بل تتغير
لكن الحديث عن اختفاء «الوظائف» قد يكون مضللاً؛ فالطبيب والمهندس والأستاذ الجامعي والمحامي لا يقوم أي منهم بمهمة واحدة، بل بعشرات المهام. بعضها يستطيع الذكاء الاصطناعي إنجازه بدلاً من الإنسان، وبعضها يعزز فيه قدراته، بينما يظل جزء منها محتاجاً إلى الحكم البشري والخبرة والمسؤولية المهنية.
في الرعاية الصحية، مثلاً، يستطيع الذكاء الاصطناعي تلخيص السجل الطبي، وتحليل البيانات، والمساعدة في فرز المرضى. لكنه يجعل مهمة بشرية أخرى أكثر أهمية: مراجعة قرار الخوارزمية ومعرفة متى ينبغي الاعتراض عليه.
لذلك ربما لا يكون الأكثر أماناً في سوق العمل عام 2030، هو من يعمل في مهنة بعيدة عن الذكاء الاصطناعي، بل من يعرف ماذا يسلّم إليه، وماذا يحتفظ به لنفسه، ومتى لا يثق بإجابته.
من سيدفع الضرائب إذا تراجع العمل؟
يطرح التحول سؤالاً أبعد من الوظائف والأجور: ماذا سيحدث للدولة إذا أصبحت نسبة متزايدة من الثروة تنتجها أنظمة الذكاء الاصطناعي ورأس المال، بدلاً من عمل البشر؟
في فبراير (شباط) 2026، نشر المكتب الوطني للبحوث الاقتصادية الأميركي (NBER) دراسة للباحثين أنطون كورينيك ولي لوكوود بعنوان «المالية العامة في عصر الذكاء الاصطناعي: مدخل تمهيدي» (Public Finance in the Age of AI: A Primer). وناقشت الدراسة كيف يمكن للذكاء الاصطناعي التحويلي أن يضعف تدريجياً مصدرين أساسيين تعتمد عليهما النظم الضريبية الحديثة: دخل العمل والاستهلاك البشري.
وهنا يتجاوز السؤال مستقبل الطبيب أو المحاسب أو المبرمج: إذا أنتجت الآلات جزءاً متزايداً من الثروة، فمن سيدفع الضرائب؟ وكيف ستوزع الدول مكاسب هذه الثورة بين أفراد المجتمع؟
