منصات التواصل الاجتماعي تتجه لتشديد آليات التعرف على المحتوى المُنشأ بالذكاء الاصطناعي

تتجه منصات التواصل الاجتماعي إلى تشديد آليات التعرف على المحتوى المُنشأ بالذكاء الاصطناعي، في ظل ازدياد استخدام هذه الأدوات في إنتاج الصور والفيديوهات والنصوص، وما يرافق ذلك من مخاوف تتعلق بالمعلومات المضللة والحسابات المزيفة والمحتوى المزعج.

في هذا السياق، أعلنت «تيك توك» إطلاق مجموعة من الموارد التعليمية والتقنيات الجديدة لمساعدة المستخدمين على فهم المحتوى المُنشأ أو المعدّل بالذكاء الاصطناعي، إلى جانب تطوير أنظمة للكشف عن الحسابات التي تعتمد على هذه الأدوات لنشر كميات كبيرة من المحتوى.

وتعتزم المنصة اختبار أنظمة محسَّنة تهدف إلى رصد الحسابات المخصصة لنشر المحتوى المُنشأ بالذكاء الاصطناعي، مع تركيز أولي على المجالات التي يمكن أن تؤثر في الثقة العامة أو سلامة المستخدمين.

وتشمل هذه المجالات السياسة والأحداث الجارية والنصائح المالية والمعلومات الطبية، وهي موضوعات قد يؤدي فيها المحتوى الزائف أو غير الدقيق إلى أضرار تتجاوز الترفيه أو الاستخدامات الإبداعية.

ووفق الشركة، تأتي هذه الخطوة استناداً إلى أنظمة الإنفاذ القائمة، التي أدت إلى إزالة أكثر من 86 مليون حساب مزيّف، خلال الربع الأول من 2026.

ولم تُوضح «تيك توك» في إعلانها المعايير التقنية التي ستستخدمها للتمييز بين الحسابات التي تُوظف الذكاء الاصطناعي بصورة مشروعة وتلك التي تستخدمه لإنتاج محتوى مزعج أو مضلل.

وتبرز هذه المسألة تحدياً رئيسياً أمام المنصات؛ لأن استخدام الذكاء الاصطناعي لا يعني، في حد ذاته، أن المحتوى مخالف، بينما تتعلق المشكلة بطبيعته وسياقه وحجمه والغرض من نشره.

علامات توضيحية

ذكرت «تيك توك» أنها وضعت علامات توضيحية على أكثر من ثلاثة مليارات فيديو مُنشأ بالذكاء الاصطناعي، من خلال الجمع بين بيانات اعتماد المحتوى وأدوات الإفصاح المتاحة لصُناع المحتوى وتقنيات العلامات المائية غير المرئية.

وتهدف هذه الأدوات إلى منح المستخدم مؤشراً حول ما إذا كان الفيديو قد أُنشئ بالذكاء الاصطناعي، أو خضع لتعديلات كبيرة باستخدامه، بدلاً من تركه يعتمد على التقدير الشخصي أو الفحص البصري وحده.

ومع ذلك، لا تضمن العلامات التوضيحية أن جميع المواد المُنشأة بالذكاء الاصطناعي ستُكتشف، لأن فاعليتها تعتمد على التزام مُنشئي المحتوى بالإفصاح، وعلى وجود بيانات تقنية مرفَقة بالملف، وعلى قدرة أنظمة المنصة على التعرف على التعديلات التي قد تُجرى خارجها.

كما أعلنت الشركة انضمامها إلى اللجنة التوجيهية لـ«ائتلاف التحقق من مصدر المحتوى وأصالته»، المعروف باسم «C2PA»، وهو تحالف يعمل على تطوير معايير تقنية تساعد في توثيق مصدر المحتوى والتعديلات التي طرأت عليه.

كانت المنصة قد بدأت استخدام معيار «Content Credentials» قبل نحو عامين، بهدف قراءة البيانات التي توضح ما إذا كان المحتوى قد جرى إنشاؤه أو تعديله باستخدام أدوات الذكاء الاصطناعي.

موارد تعليمية

إلى جانب الحلول التقنية، أطلقت الشركة موارد تعليمية جديدة، بالتعاون مع الرابطة الوطنية للتربية الإعلامية وخبير الذكاء الاصطناعي هنري أجدر.

وتركز هذه الموارد على مساعدة المستخدمين في التعرف على مؤشرات المحتوى المُنشأ بالذكاء الاصطناعي، وفهم حدود هذه الأدوات، وتقييم المواد التي يشاهدونها قبل مشاركتها أو الاعتماد عليها.

وتصرح «تيك توك» بأن محتوى تعليمياً طورته بالشراكة مع جهات؛ من بينها «No Filter» و«Raspberry Pi»، تجاوز 200 مليون مشاهدة، منذ إطلاق البرنامج في نوفمبر (تشرين الثاني) 2025، في حين خصّصت أكثر من أربعة ملايين دولار لدعم هذه المبادرات.

ولا تقيس أرقام المشاهدة وحدها مدى تحسن قدرة المستخدمين على التمييز بين المحتوى الحقيقي والمصطنَع، لكنها تعكس اتساع الاهتمام بموضوع التربية الإعلامية مع ازدياد انتشار أدوات التوليد.

الاستخدام الإبداعي

يتزامن تشديد أدوات الكشف مع توسع استخدام الذكاء الاصطناعي في إنتاج المحتوى الإبداعي، بما يشمل تصميم المشاهد وتحرير الفيديوهات وتلخيص الأفكار واقتراح بنية أولية للمقاطع.

وفي منطقة الشرق الأوسط وشمال أفريقيا، يستخدم بعض صناع المحتوى هذه الأدوات في التعليم والسرد البصري والتجارب الفنية، بينما تعمل المنصات على الموازنة بين دعم الابتكار والحد من الاستخدامات التي قد تُقوض الثقة.

وأشارت «تيك توك» إلى أدوات مثل «Smart Split» و«AI Outline»، إضافة إلى ميزة «Manage Topics»، التي تتيح للمستخدمين التحكم، بدرجة أكبر، في كمية المحتوى المُنشأ بالذكاء الاصطناعي التي تظهر لهم.

وتعكس هذه الإجراءات تحولاً أوسع في تعامل المنصات مع الذكاء الاصطناعي، إذ لم يعد التركيز مقتصراً على توفير أدوات للإنتاج، بل امتد إلى تصنيف المحتوى وتوضيح مصدره وتقليل انتشاره عندما يُستخدم بصورة آلية أو مضللة.

ويبقى نجاح هذه الجهود مرتبطاً بدقة أنظمة الكشف ووضوح معايير الإنفاذ وقدرة المستخدمين على فهم العلامات التوضيحية، خصوصاً في الموضوعات التي تتطلب مستوى مرتفعاً من الدقة والثقة.