مشروع "noRecognition" يطور أنماطًا لإرباك أنظمة التعرف بالذكاء الاصطناعي
Quick Look
طور الباحث الأمني الأمريكي بيل سويرينغن مشروع "noRecognition" الذي يستخدم أنماطًا بصرية مصممة خصيصًا لإرباك خوارزميات التعرف بالذكاء الاصطناعي، بعد إجراء 31 مليون اختبار على مدار عام، ونجح في تعطيل أحد عشر نظامًا للتعرف الآلي بما فيها أنظمة Flock وAxon وClearview AI، وبدأ ببيع التصاميم عبر تمويل جماعي رغم حدود فعاليتها أمام تحديثات النماذج.
AI-generated summary
Why It Matters
مع الانتشار المتسارع لكاميرات المراقبة المدعومة بالذكاء الاصطناعي، بات التعرف التلقائي على الأشخاص والمركبات جزءا من الحياة اليومية في العديد من المدن والأماكن العامة.
مع الانتشار المتسارع لكاميرات المراقبة المدعومة بالذكاء الاصطناعي، بات التعرف التلقائي على الأشخاص والمركبات جزءا من الحياة اليومية في العديد من المدن والأماكن العامة.
وفي مواجهة هذا الواقع، طرح الباحث الأمني الأمريكي بيل سويرينغن مشروعا جديدا يهدف إلى تقليل قدرة هذه الأنظمة على تتبع الأفراد من خلال أنماط بصرية مصممة خصيصًا لإرباك خوارزميات التعرف.
31 مليون اختبار للوصول إلى النمط المناسب
بحسب صحيفة فوكوس الألمانية، أطلق سويرينغن مشروعه تحت اسم "noRecognition" انطلاقًا من قناعته بأن الخصوصية حق أساسي يجب حمايته.
ولتحقيق ذلك، أجرى نحو 31 مليون اختبار على مدى عام كامل لتطوير أنماط يصعب على أنظمة الذكاء الاصطناعي تفسيرها بشكل صحيح.
وأوضح موقع شيب الألماني أن عملية التطوير اعتمدت على اختبار عدد هائل من التصاميم وتعديلها باستمرار، حتى الوصول إلى أنماط تحقق أعلى نسبة من إرباك خوارزميات التعرف المختلفة.
كيف تعمل الملابس المضادة للمراقبة؟
لا تمنع هذه الملابس الكاميرات من التصوير، كما أنها لا تجعل مرتديها غير مرئي للعين البشرية. لكن الأنماط المطبوعة عليها تستهدف البرمجيات المسؤولة عن تحليل الصور.
ووفقًا لما ذكرته صحيفة فوكوس الألمانية، فإن هذه الأنماط قد تدفع أنظمة التعرف إلى الفشل في تصنيف الشخص أو المركبة الموجودة أمامها، ما يقلل من قدرة الأنظمة الآلية على اكتشاف الهدف أو إصدار التنبيهات المرتبطة به.
ويؤكد سويرينغن أن تصاميمه نجحت في تعطيل أحد عشر نظامًا معروفًا للتعرف الآلي، من بينها أنظمة Flock الخاصة بقراءة لوحات المركبات، وكاميرات Axon المثبتة على أجسام عناصر الشرطة، إضافة إلى نظام Clearview AI للتعرف على الوجوه.
من مؤتمر "ديف كون" إلى الأسواق
شهد مؤتمر "ديف كون" في لاس فيغاس أول عرض عملي واسع للتقنية، حيث تم تغليف سيارة بأحد الأنماط المطورة وقيادتها أمام نظام مراقبة يعتمد على الذكاء الاصطناعي. وبحسب المطور، أخفق النظام في التعرف على السيارة رغم استمرار الكاميرا في تسجيلها.
وأشار موقع شيب الألماني إلى أن التجربة كشفت أيضًا عن بعض التحديات التقنية، إذ ظلت العجلات من العناصر التي لم ينجح التمويه في إخفائها بالكامل عن أنظمة التحليل.
أداة واعدة وإن بحدود
بدأ سويرينغن بالفعل يبيع التصاميم على قمصان وسترات بغطاء رأس عبر حملة تمويل جماعي، كما يخطط مستقبلًا لتطوير أغلفة مخصصة للمركبات.
لكن فعّالية هذه التقنية ليست مضمونة على الدوام، إذ أنّ نجاحها مرتبط بأنظمة محددة تم اختبارها مسبقًا.
فمع تحديث نماذج الذكاء الاصطناعي أو استخدام خوارزميات مختلفة، قد تتراجع قدرتها على التضليل. ومع ذلك، يسلط المشروع الضوء على محاولات متزايدة لإيجاد توازن بين التقدم التقني وحق الأفراد في الحفاظ على خصوصيتهم.
تحرير: وفاق بنكيران
What to Watch
AI outlook — possibilities, not facts
ستزداد الطلب على أدوات تمويه التعرف بالذكاء الاصطناعي مع crescente الوعي بقضايا المراقبة
Likely · Within months
سيحتاج مطورو أنظمة التعرف إلى تحديث نماذجهم باستمرار لمواجهة تقنيات التمويه الجديدة
Very likely · Within months
Open Questions
- ما مدى فعالية هذه الأنماط أمام أنظمة التعلم العميق الحديثة؟
- هل ستؤدي هذه التقنيات إلى سباق تسلح بين أدوات الخصوصية وأنظمة المراقبة؟
- ما هي الإطارات القانونية التي قد تنظم استخدام مثل هذه الأدوات؟
