دراسة تكشف عن "الحرباء الأيديولوجية" في نماذج الذكاء الاصطناعي الكبيرة

وضعت دراسة أجراها باحثون من معهد الحوسبة في جامعة كامبيناس البرازيلية، فكرة مثيرة تحت المجهر، ووصفت الذكاء الاصطناعي بالـ "الحرباء" ،فبإمكان المستخدم، على سبيل المثال، أن يخبر ربيورت الدردشة في البداية بأنه يؤيد حزبا سياسية معينا، ثم يعود ليقول إنه يؤيد حزبا آخر. ورغم أن السؤال المطروح يبقى نفسه، فإن الإجابة قد تتغير تبعًا للموقف السياسي المنسوب إلى المستخدم.

واختبر الباحثون 21 نموذجًا من النماذج اللغوية الكبيرة من بينها ChatGPTو Geminiو DeepSeekK وGrok ووجدوا أن جميع النماذج التي شملنها الدراسة أظهرت، بدرجات متفاوتة، سلوكًا أطلقوا عليه اسم "الحرباء الأيديولوجية"، أي أن مواقف النموذج المعلنة يمكن أن تتغير بحسب الموقف السياسي المنسوب إلى المستخدم.

عندما يتحول الذكاء الاصطناعي إلى صدى لأفكارك

صُمم الذكاء الاصطناعي من أجل الإفادة ومن أجل أن يكون متجاوبا. لكن هذه الميزة نفسها قد تتحول إلى نقطة ضعف عندما يفرط النظام في موافقة المستخدم ومجاراة آرائه. وفي أدبياتالذكاء الاصطناعي يُعرف هذا السلوك بـ "التملق" أو "المجاملة المفرطة"، وال Sycophancy بالإنجليزي، وهو أن يميل النظام إلى تأييد المستخدم بدلا من عرض وجهات نظر مختلفة.

الباحث أنديرسون سواريس، وهو طالب ماجستير في معهد الحوسبةبأوني كامب، أوضح أن التجربة لم تعتمد على محادثات طويلة أو تاريخ سابق مع المستخدم، بل كانت كل استفسارات الاختبار مستقلة، وبحسب ما جاء على موقع "جورنال دا أونيكامب" التابع للمعهد، بني الاختبار حول جملة من العبارات السياسية المتناقضة، 112 عبارة في المجموع، تناولت موضوعات مثل الرفاهية الاجتماعية، والأمن، والمؤسسات الديمقراطية، والبيئة، والاقتصاد، والتعليم والثقافة، والفساد والعدالة. ثم طُلب من النماذج تقييم هذه العبارات على مقياس من خمس درجات، من "أعارض بشدة" إلى "أوافق بشدة "

واختُبر كل نموذج في ثلاث حالات مستقلة، من دون معلومات سياسية عن المستخدم، مع مستخدم يعرّف نفسه بأنه يميني، ومع مستخدم يعرّف نفسه بأنه يساري. والنتيجة التي لفتت انتباه الباحثين لم تكن مجرد اختلاف بين نماذج مختلفة، بل أن النموذج نفسه كان قادرا على تغيير اتجاه إجاباته بحسب الهوية السياسية المفترضة للمستخدم.

أطلق الباحثون على هذه القدرة على التكيف "مؤشر الحرباء". وكلما ارتفع المؤشر، كان النموذج أكثر ميلا إلى الابتعاد عن موقفه الأساسي والتحرك باتجاه موقف المستخدم.

لكن الفكرة تصبح أكثر وضوحا مع زانوني دياس، أستاذ معهد الحوسبة والمشرف على الباحث سواريس فهو يربط ما وجدته الدراسة بظاهرة نعرفها أصلا من شبكات التواصل الاجتماعي وهي "غرف الصدى الرقمية"، حيث يكون المحتوى متوافقا بشكل كبير مع أفكار المستخدم.

ومع الوقت، لا يعود يسمع فقط ما يعتقده، بل يسمعه بصورة متكررة ومن مصادر متعددة، فيبدو له أن رأيه أكثر انتشارا وتأييدا مما هو عليه بالفعل. كما تشير الدراسة إلى احتمال ظهور نسخة جديدة من هذه الظاهرة داخل المحادثة نفسها، فبدل أن تختار الخوارزمية المحتوى الذي تراه، قد تتكيف الإجابة التي تحصل عليها مع هويتك السياسية المعلنة.

أين تكمن المشكلة؟

الخطر الذي يحذر منه الباحثون لا يتمثل في أن تقرر الآلة يومًا ما ما يجب أن يؤمن به البشر، بل في أنها قد تتحول إلى مرآة تعكس قناعاتهم وتعيد تأكيدها بصورة مستمرة. وهو ما يعني أن يدخل المستخدم إلى المحادثة وهو يحمل قناعة معينة، فيجد أمامه نظامًا شديد الاستعداد لتأكيدها. ثم يدخل مستخدم آخر آخر يحمل القناعة المعاكسة، فيحصل على نظام يبدو وكأنه يتفق معه أيضًا. وهذا هو المعنى الأعمق لتعبير "الحرباء الأيديولوجية" الذي اختاره الباحثون.

وفي عالم تنتشر فيه الاستقطابات السياسية، قد لا تكون المشكلة فقط في المعلومات الكاذبة. هناك مشكلة أخرى أكثر نعومة، فماذا يحدث عندما يحصل كل شخص على نسخة من الذكاء الاصطناعي تؤكد له، بصورة متكررة ومقنعة، أن رؤيته للعالم هي الرؤية الصحيحة؟