حماية الأطفال على الإنترنت: "قمة جبل الجليد" من التحرش الجنسي والكراهية

يستلقي طفل رضيع على بطنه نائما وذراعاه وساقاه ممدودتان في استرخاء. نشر مؤثرون هذه الصورة المؤثرة على إنستغرام.

في مجال "التأثير العائلي" يشارك الآباء والأمهات علنا لحظات عاطفية وحميمة لأطفالهم. وبذلك يحظون باهتمام كبير ويجمعون "الإعجابات" والمتابعين، لكن هل هذه الصور مفيدة للطفل أيضا؟

يتم نسخ صور الأطفال المتاحة مجانا على الإنترنت وتعديلها والتلاعب بها ووضعها في سياق مختلف واستخدامها لأغراض التنمر وإضافة تعليقات ذات طابع جنسي إليها.

حتى في حالة صورة "الطفل النائم" ظهرت تعليقات من هذا القبيل وقد تم توثيق هذا المثال في التقرير السنوي الحالي لـ Jugendschutz.net وهي هيئة مدعومة من الدولة في ألمانيا لحماية الأطفال والمراهقين على الإنترنت.

"قمة جبل الجليد"

يُظهر التقرير أن الشباب لا يزالون غير محميين بشكل كافٍ على الإنترنت من التحرش الجنسي والكراهية والعنف. وقد أحصى موقع Jugendschutz.net أكثر من 15 ألف حالة في عام 2025.

وفي ذلك، قال شتيفان غلاسر، مدير "مركز الكفاءة" الذي أنشأته الحكومة الألمانية والولايات الفيدرالية بشكل مشترك، "هذه ليست سوى قمة جبل الجليد".

تتلقى هذه الجهة بلاغات عبر الإنترنت بشأن انتهاكات لوائح حماية القاصرين كما تجري تحقيقات ذاتية على شبكة الإنترنت. ويتم إبلاغ مزودي المنصات مثل تيك توك ويوتيوب وإنستغرام وسناب شات وديسكورد أو واتساب بهذه الانتهاكات كما يتم إخطار سلطات إنفاذ القانون.

المواد الإباحية للأطفال والتخيلات العنيفة

حسب بيانات غلاسر فإن 93 في المائة من جميع الحالات المسجلة في عام 2025 كانت حالات عنف جنسي ومعظمها يتعلق بمواد إباحية للأطفال. وبلغت نسبة الانتهاكات المتعلقة بالتطرف السياسي 4 في المائة. يضاف إلى ذلك تخيلات كراهية وعنف شديدة ضد النساء والفتيات.

ومن المشكلات التي تم التقليل من شأنها حتى الآن خدمة بث الموسيقى "سبوتيفاي" التي تبرز بشكل متزايد كمكان للموسيقى اليمينية المتطرفة والعنف الجنسي ضد القاصرين وقوائم التشغيل التي تحتوي على رسائل تنطوي على إيذاء الذات أو أفكار انتحارية.

"طابع جنسي مستقل"

تتفاقم العديد من المخاطر بسبب الذكاء الاصطناعي الذي اكتسب تطبيقه أهمية كبيرة. "تُستخدم الصور المُعدلة كوسيلة لنشر الروايات المتطرفة أو للتحقير. يندمج المحتوى الاصطناعي بالحقيقي ويشوه إدراك الواقع"، كما يقول غلاسر.

تبدو روبوتات الشخصيات التي تتفاعل مع المستخدمين باستخدام الذكاء الاصطناعي التوليدي بشكل متزايد وكأنها رفقاء حقيقيون بشخصيات خيالية قابلة للتصميم بحرية مستوحاة جزئيا من نماذج حقيقية حيث تقدم المشورة والتوجيه أو تحاكي العلاقات. وتُظهر الأبحاث التي أجرتها Jugendschutz.net جانبا مثيرا للقلق بشكل خاص.

"تطور روبوتات الدردشة نوعا من الحياة الخاصة بها وتصف أفعالا جنسية مع قاصرين ويمكن إنشاؤها كشخصيات قاصرين يتصرفون بسلوك ذي طابع جنسي"، كما أوضح غلاسر.

المنصات لا تتحرك إلا تحت الضغط

وتعزى الأسباب إلى وجود ثغرات أمان غير كافية حيث أن قيود السن التي يسهل التحايل عليها تزيد بشكل كبير من المخاطر التي يتعرض لها الأطفال والمراهقون.

ويتجلى ذلك أيضا في تطبيق "سناب شات" حيث تستمر مشاركة مقاطع فيديو لأطفال صغار جدا على الرغم من قيود السن وذلك رغم أنه لا يُسمح للمستخدمين رسميا بالنشر والتعليق إلا من سن 16 عاما فما فوق. لكن لا توجد رقابة فعالة على العمر وخيارات الإبلاغ المتاحة لا توفر حماية تُذكر للقاصرين.

وكشف التقرير الذي يصدر سنويا عن أنه عندما يبلغ المستخدمون العاديون عن انتهاكات لحماية الشباب لا يتدخل مقدمو الخدمة إلا في 2% من الحالات. أما عندما تتدخل الجهات الرسمية مثل Jugendschutz.net، فيتم اتخاذ إجراءات في جميع الحالات تقريبا.

تحدثت وزيرة الأسرة الألمانية كارين برين أثناء تقديم التقرير السنوي عن "واقع مروع" يواجهه الأطفال والمراهقون دون حماية تُذكر.

وفي هذا السياق، قال شتيفان غلاسر: "للأسف لا يزال الخطر قائما بأن يتعرضوا للكراهية والعنف الجنسي في الخدمات الشائعة أو أن يتعرضوا للتنمر أو المضايقة أو التلاعب هناك".

وقالت برين إننا "ما زلنا بعيدين عن تمكين الأطفال والشباب من المشاركة الآمنة والمرحة في العالم الرقمي"، مضيفة أن هناك حاجة إلى "الأمان والحماية وقواعد واضحة "يجب أن "تواكب أخيرا التطور التكنولوجي".

تشريعات أوروبية

ويرى خبراء أن هذا الأمر يمثل بيت القصيد. يسري قانون الخدمات الرقمية في الاتحاد الأوروبي منذ عام 2024 حيث يُلزم مقدمي الخدمات بضمان "مستوى عالٍ من الأمان والخصوصية" للقُصر.

وبموجب القانون يتعين على المنصات تحليل المخاطر بشكل فعال وتصميم خدماتها بحيث تكون آمنة للأطفال من الأساس. ويشمل ذلك على سبيل المثال جعل ملفات تعريف المراهقين خاصة بشكل افتراضي.

ويجب تعديل الخوارزميات التي توصي بمحتويات أخرى وتقييد الوظائف التي تعزز الإدمان مثل التشغيل التلقائي أو الرسائل الفورية. وقالت برين إن واحدا من كل أربعة أطفال يظهر سلوكا شبيها بالإدمان لوسائل التواصل الاجتماعي.

وعلى مستوى الاتحاد الأوروبي، يجري العمل على قانون العدالة الرقمية حيث يهدف إلى التصدي بشكل محدد لـ"ممارسات التصميم المسببة للإدمان والضارة" والحد من استخدام الذكاء الاصطناعي في وسائل التواصل الاجتماعي.

أروقة المحاكم

أحد الموضوعات الرئيسية هو التحقق من العمر. لم تعد المعلومات الذاتية البسيطة كافية. لكن الحلول التقنية التي لا يمكن التحايل عليها بسهولة لم تظهر بعد.

وفي أستراليا حيث يسري منذ أواخر العام الماضي حد أدنى للسن لاستخدام وسائل التواصل الاجتماعي، فإن النجاحات التي تحققت حتى الآن محدودة. وتظهر دراسات أولية أن أكثر من نصف المراهقين دون سن 16 عاما لا يزالون يستخدمون المنصات.

ويعود ذلك أيضا إلى أن مقدمي الخدمات لا يريدون أن يفوتهم هذا النشاط التجاري المربح الذي يعتمد على جذب الانتباه. فالمحتوى المثير للجدل أو المشحون عاطفيا يحظى باهتمام كبير بشكل خاص.

وأشارت وزيرة شؤون الأسرة برين إلى أن كل لائحة تنظيمية تقريبا تتعرض للطعن القانوني. ويستغرق الأمر سنوات حتى يتم البت في هذه القضايا أمام المحاكم الأوروبية.

الكفاح في حدود الممكن

ويبدو أنها معركة شاقة، لكن وزيرة الأسرة تحث على اتخاذ إجراءات حاسمة. وقالت إن "من يريد حماية الأطفال يجب أن يكون مستعدا للتعامل مع موازين القوة في العالم الرقمي وحتى مواجهة هذه الهياكل إذا لزم الأمر".

ويشير خبراء إلى أنه يجب الوصول إلى مرحلة لا تتخلف فيها الدولة عن ركب التطور التكنولوجي.

وحتى ذلك الحين يسري المبدأ الذي ذكرته برين أيضا عند تقديم التقرير السنوي لـ Jugendschutz.net: "تحاول السلطات مكافحة التجاوزات في إطار اللوائح التنظيمية".