رئيسة تطبيق سيغنال: الاستخدام غير المسؤول للذكاء الاصطناعي هو التهديد الحقيقي
Author, ميغا موهان
Role, مراسلة شؤون الهوية والجندر
Published قبل 2 دقيقة
مدة القراءة: 5 دقائق
تحذير: يحتوي هذا المقال على ألفاظ حادّة.
لا تُبدي ميريديث ويتاكر كثيراً من الصبر تجاه أفكار "نهاية العالم بالذكاء الاصطناعي" التي تهيمن على العناوين، وتعتقد أن التحذيرات من تمرد الذكاء الاصطناعي على البشرية هو خوف "لا يستند إلى أسس علمية".
وتقول رئيسة مؤسسة "سيغنال"، التي تدير تطبيق المراسلة المشفر الذي يحمل الاسم نفسه، "الخطر حقيقي جداً، لكنه ليس تلك القصص اللامعة عن الأشباح التي يتحدث عنها الفتيان ذوي النظرات الجامحة".
وبدلاً من ذلك، تعتقد أن الخطر الأكثر إلحاحاً يتمثل في استخدام هذه التكنولوجيا بلا مبالاة.
وتشير إلى حادثة مزعومة أوردتها شبكة سي إن إن، عن روبوت مستخدم من أجهزة الاستخبارات الأمريكية، اختلق معلومات عن سفينة صينية تنقل مواد نووية، ما دفع الولايات المتحدة، بحسب التقارير، إلى الاستعداد لرد عسكري.
وتقول ويتاكر لبرنامج "غلوبال وومن" (نساء عالميات) على بي بي سي: "كدنا ندخل في حرب مع الصين".
وتضيف: "النظام الذي ينتج معلومات استخباراتية خاطئة ويكاد يجرنا إلى حرب مع الصين لا ينبغي اعتباره فائق الذكاء بأي معيار".
ويُقدّر عدد مستخدمي تطبيق سيغنال ما بين 40 و70 مليون مستخدم، وهو عدد ضئيل مقارنة بـتطبيق "واتساب" الذي يضم مليارات المستخدمين.
تخطى الأكثر قراءة وواصل القراءة
الأكثر قراءة
الأكثر قراءة نهاية
لكن سيغنال معروف بموقفه الصارم في حماية خصوصية المستخدمين – فهو يخفي هوية مرسل الرسائل حتى عن خوادمه الخاصة، مما يحد من كمية البيانات المتاحة للمراقبين الخارجيين أو القراصنة الإلكترونيين.
الاحتجاج على مشروع "مايفن"
تخطى البودكاست وواصل القراءة
يستحق الانتباه
شرح معمق لأبرز الأحداث والموضوعات، لمساعدتك على فهم أهم المتغيرات حولك وأثرها على حياتك
الحلقات
البودكاست نهاية
اختارت مجلة "تايم" ويتاكر كواحدة من أكثر الأشخاص نفوذاً في مجال الذكاء الاصطناعي. وهي تتنقل بين غرف يُناقش فيها مستقبل هذه التكنولوجيا، من قاعات اجتماعات وادي السيليكون إلى داونينغ ستريت ودافوس والفاتيكان.
درست الأدب في الجامعة، وانضمت إلى غوغل عام 2006 في وظيفة مبتدئة مؤقتة من دون شهادة في علوم الحاسوب.
وفي أواخر عام 2017، لمع اسمها عندما أخبرها أحد زملائها عن مشروع "مايفن»، وهو عقد سري أبرمته غوغل مع وزارة الدفاع الأمريكية لبناء أنظمة ذكاء اصطناعي تستهدف الطائرات المسيّرة.
وأدركت ما يعنيه "اختصار سلسلة القتل": أي تقليص الزمن بين قيام آلة بتحديد هدف واتخاذ شخص قرار إطلاق النار، بما يقلل من وقت التريث. فعارضت ذلك مع آلاف من زملائها.
وتتذكر أنها جادلت علناً قائلة: "هذا سيؤدي إلى شرعنة معلومات استخباراتية سيئة وبيانات سيئة".
وفي العام التالي، ساعدت ويتاكر في تنظيم إضراب عن العمل شارك فيه نحو 20 ألف موظف احتجاجاً على طريقة تعامل الشركة مع عدد من القضايا، بما في ذلك ما اعتبروه إدخالاً متسرعاً لتكنولوجيا جديدة.
وتخلت غوغل عن العقد، وتولت شركة "بالانتير" تنفيذ المشروع.
وترسم ويتاكر خطاً مباشراً يربط بين مشروع "مايفن» والهجوم الصاروخي الأمريكي على مدرسة في إيران هذا العام، والذي تقول إنه اعتمد على النظام وعلى معلومات استخباراتية قديمة حددت المدرسة باعتبارها هدفاً عسكرياً.
وتضيف: "هذا بالضبط ما كنا نحذر منه في عام 2017".
ورداً على ذلك، قالت شركة بالانتير لبرنامج "غلوبال وومن" إنه "لا يوجد أي دليل على أن برمجيات بالانتير كانت سبباً في هذه المأساة المروعة".
وأضافت أن "بالانتير ليست مسؤولة عن البيانات الأساسية أو عن تحديد أوجه القصور في المعلومات الاستخباراتية". وقال مدير الشركة في بريطانيا وأوروبا، لويس موسلي، لبي بي سي في وقت سابق من هذا العام: "يوجد دائماً إنسان ضمن الحلقة، وبالتالي هناك دائماً شخص يتخذ القرار النهائي".
ولم يعلن الجيش الأمريكي بعد نتائج تحقيقه في ضربة ميناب في إيران، لكن وزير الدفاع بيت هيغسيث قال إن الجيش "لن يستهدف على الإطلاق أهدافاً مدنية".
"أملك الشجاعة"
وتجادل الحكومات، ومن بينها الحكومة البريطانية، بضرورة الحصول على مزيد من الوصول إلى المحادثات على تطبيقات المراسلة. ويقولون إن الهدف من ذلك هو حماية النساء والأطفال.
وخلال أسبوع لندن للتكنولوجيا 2026، قال رئيس الوزراء آنذاك، كير ستارمر، إنّ شركات التكنولوجيا ستكون مطالبة باكتشاف صور العري وحجبها عن أجهزة الأطفال، وإلا ستواجه تشريعات ملزمة.
وترى ويتاكر أن الأطفال سيتمكنون من التحايل على أي إجراءات من هذا النوع، ووصفت نهج الحكومة بأنه "نظام غير مسبوق للتحكم في الاتصالات والمعلومات".
وقالت وزارة العلوم والابتكار والتكنولوجيا في بريطانيا لبي بي سي إنها تُعدّ تشريعات.
وهل ستغادر سيغنال أي بلد، بما في ذلك بريطانيا، إذا أجبرها على إضعاف التشفير الذي تستخدمه؟
تجيب: "نعم! يا إلهي، لديّ الشجاعة". وتقول: "هذا لا يتغير تبعاً للمزاج. ولا يتغير بناء على (توصيات) المستشارين".
وتضيف قائلة إنه إذا كان البديل هو تعريض الأشخاص "الذين يعتمدون علينا، أحياناً في سياق يتعلق بالحياة أو الموت، لمراقبة يمكن استخدامها ضدهم كسلاح"، فإن "سيغنال ستغادر السوق".
ويُحظر التطبيق كلياً أو جزئياً في روسيا والصين وإيران.
وقالت راني غوفيندر، رئيسة قسم سلامة الأطفال على الإنترنت في الجمعية الوطنية لمنع القسوة على الأطفال، لبي بي سي إن الجمعية تستمع إلى شهادات أطفال جرى استدراجهم ثم نقلهم إلى منصات تستخدم التشفير التام بين الطرفين، حيث يُجبرون على إنتاج مواد تتعلق بالاستغلال الجنسي للأطفال.
وأضافت: "شركات التكنولوجيا مسؤولة عن خيارات التصميم التي تتخذها، ولا يمكنها تجاهل المخاطر التي قد تخلقها تلك الخيارات للأطفال".
لكن سيغنال تحظى أيضاً بدعم من بعض المنظمات النسائية، ولا سيما تلك الموجودة في "دول الجنوب العالمي" التي تستخدم التطبيق بنفسها.
وتقول هيرا حسين، مؤسسة جمعية "تشاين" الخيرية المعنية بالانتهاكات الجندرية، والتي تنشط في أنحاء جنوب آسيا: "في زمن المراقبة الحكومية والهجمات الإلكترونية، يمثل سيغنال أداة للبقاء".
وأضافت: "مثل أي منصة أخرى، يمكن أن يسيء استخدامها أيضاً أصحاب النوايا السيئة، وعلينا أن نعترف بهذه الحقيقة أيضاً".
ماذا سنفعل بشأن المطابخ؟
وقال محامٍ يمثل أحد الضباط إن الرجال كانوا يعتقدون أن تطبيق سيغنال يتمتع بقدر من الخصوصية والأمان يماثل منازلهم.
فترد ويتاكر: "إذا أجروا ذلك الحديث في المطبخ ثم قام أحد أصدقائهم بالوشاية بهم، فهل سيكون السؤال: ماذا سنفعل بشأن المطابخ؟".
وتضيف: "إما أن يجدي ذلك للجميع أو لا أحد". هذا هو مبدأ الحقوق الأساسية. وهي تنطبق حتى على الحمقى".
وتشير إلى حالة امرأة أمريكية سُجنت بعد أن سلّمت شركة ميتا رسائل أظهرت أنها ساعدت ابنتها في الحصول على إجهاض في ولاية يُجرّم فيها ذلك.
وتقول إن الاتصالات الخاصة تحمي الناس من أنواع عديدة من الأذى، من "زوج مسيء، أو ضابط إنفاذ قانون معادٍ للنساء يمكنه الوصول إلى قاعدة بيانات، أو حكومة سلطوية لا تعتقد أن النساء يجب أن يحصلن على التعليم".
فأجابت: "هل تحبين هذا المجال؟ هل تجلسين أمام الجهاز وتشعرين بتدفق الطاقة؟ هل تستمتعين بالتعامل مع أنظمة الذكاء الاصطناعي وتحديدها؟"
فسألتها إن كانت هذه البيئات مليئة بالمتنمرين.
عندها قال أحد زملائها: "أعتقد أن الساعة أصبحت الثانية بعد الظهر"، وهو الوقت الذي كنا قد اتفقنا على إنهاء المقابلة عنده.
ابتسمت ميريديث وقالت: "أقول: لا تكوني متملقة".
واستخدمت مصطلحاً يُطلق على الشخص الذي يُظهر خضوعاً أو تبجيلاً مفرطاً لأصحاب السلطة.
وأضافت: "لن يفيدك ذلك. لا تضحكي على النكتة إذا كنتِ لا تجدينها مضحكة".
