ذكرت إدارة شرطة فيلادلفيا في بيان اليوم السبت (10 أكتوبر/تشرين الأول 2026)، أن نموذجا للذكاء الاصطناعي تابعا لشركة "أنثروبيك" أرسل بلاغا كاذبا عن جريمة قتل عبر موقع إلكتروني خاص بالشرطة في يوليو/تموز الماضي، في أحدث واقعة يعلن عنها بشأن السلوك الخارج عن المألوف لهذه التكنولوجيا.
وقالت الشرطة إن "أنثروبيك" أبلغت السلطات بالأمر أمس الجمعة، وأوضحت أن عملية اختبار آلية كانت مسؤولة عن تقديم هذه المعلومة. وقالت الشرطة إن "التأخير لمدة شهرين في اكتشاف الواقعة والإبلاغ عنها أمر غير مقبول".
بلاغ غامض يزعم امتلاك معلومات عن الجريمة
وأضافت الشرطة أن البلاغ الذي ورد في 18 يوليو/تموز زعم أنه جاء من شخص قد تكون لديه معلومات عن القضية. وكتب نموذج الشركة في البلاغ: "قد تكون لدي معلومات بشأن هذه القضية". وأضاف: "أتذكر أنني رأيت شخصا يطابق الوصف في المنطقة المحيطة خلال تلك الفترة. يرجى الاتصال بي إذا كانت هذه المعلومات ذات صلة".
وقالت "أنثروبيك" إن الحادث وقع أثناء اختبار قدرات ما يُعرف بـ"وكلاء الذكاء الاصطناعي"، وهي برمجيات مصممة لتنفيذ مهام نيابة عن المستخدمين بصورة مستقلة إلى حد كبير، وكانت الشركة تعمل على تدريب نظامها للتعامل مع مجموعة متنوعة من المهام عبر الإنترنت.
وبحسب الشركة، فإن البرنامج أرسل البلاغ مدعيا امتلاك معلومات عن جريمة قتل لم تُحل، رغم أن الموقع الذي استخدمه لم يكن يتضمن أي وصف للمشتبه بهم. كما تُرك حقل بيانات الاتصال فارغا عند إرسال البلاغ، وهو ما ساهم في تصنيفه تلقائيا باعتباره رسالة غير مرغوب فيها.
وقالت إدارة شرطة فيلادلفيا إن البلاغ "تم تصنيفه على أنه بريد مزعج ولم يتم إحالته أبدا إلى مركز الجرائم في الوقت الحقيقي للتحقق منه أو نشره".
وأوضحت الشرطة أنها لا تملك أدلة على حدوث دخول غير مصرح به إلى أنظمتها أو اختراق لبيانات إدارة الشرطة، فيما نقلت عن "أنثروبيك" قولها إن عملية الاختبار أوقفت بعد الكشف عن الواقعة.
برامج ذكاء اصطناعي كثيرة غير محصّنة بما يكفي ضد الاستخدامات الإرهابية
وأصبحت هذه التكنولوجيا سريعة التطور محل اهتمام كبير وسط تقارير عن قيام وكلاء ذكاء اصطناعي باختراق شبكات كمبيوتر تابعة لشركات، وتحذيرات من باحثين من أنها قد تشكل يوما ما تهديدا وجوديا للبشرية.
كما تتزايد المخاوف بشأن تصرفات أنظمة الذكاء الاصطناعي المتقدمة بعدما أظهرت اختبارات تشغيلية حديثة حالات تصرفت فيها بعض الأنظمة بصورة غير متوقعة، في ظل سباق شركات التكنولوجيا لتطوير وكلاء ذكاء اصطناعي قادرين على العمل باستقلالية أكبر.
وتأتي الحادثة في وقت تتزايد فيه التساؤلات بشأن فعالية الضوابط المدمجة في أنظمة الذكاء الاصطناعي. وحسب تقرير جديد نشر الجمعة يفتقر عدد كبير من نماذج الذكاء الاصطناعي إلى تدابير حماية كافية للتصدي لطلبات "المساعدة في تنفيذ عملية إرهابية"، وفق ما خلصت إليه مبادرة "تيك أغينست تيروريزم" ("التكنولوجيا ضد الإرهاب").
وأظهرت الدراسة المدعومة من الأمم المتحدة على 162 نموذجا للذكاء الاصطناعي أن فعالية تدابير الحماية تختلف بشكل كبير بين النماذج. وأُخضعت هذه النماذج لسلسلة من 627 سؤالا تتعلق بمعلومات "قد يحتاج إرهابي يستعد لشنّ هجوم إلى الحصول على إجابات عنها". وأوضحت "تيك أغينست تيروريزم" أنها تمكّنت من تقييم 116 نموذجا تقليديا، و 13 نموذجا جرى تخصيصها بعد نشرها لاستخدامها في مجالات محددة، و 13 نموذجا أُزيلت أو عُدّلت قيود الحماية فيها من جانب أطراف ثالثة.
وقائع سابقة
وفي سبتمبر/أيلول، اعتذرت شركة "أوبن إيه آي" المنافسة لـ"أنثروبيك" عن اختراق بوابة بيانات صحية أسترالية من قبل وكيل ذكاء اصطناعي مارق، وهي أول حالة معروفة لاستغلال وكيل ذكاء اصطناعي لموقع إلكتروني حكومي.
وتضمنت وقائع سابقة قيام وكلاء ذكاء اصطناعي باختراق أنظمة ضعيفة أو الاستيلاء على منصات غير مصرح بها للتواصل فيما بينهم. وهذه هي الحالة الأولى المعروفة التي يبدو فيها أن وكيل ذكاء اصطناعي مارق حاول إرسال بلاغ مزيف إلى السلطات.
وينص قانون ولاية بنسلفانيا على أن قيام "شخص" بتقديم بلاغات كاذبة عن علم إلى سلطات إنفاذ القانون يعد جنحة بشكل عام. ويشمل ذلك "المعلومات المتعلقة بجريمة أو حادث عندما يعلم أنه لا يملك أي معلومات تتعلق بهذه الجريمة أو هذا الحادث".
