لم تعد عبارات مثل «فكرة رائعة» أو «سؤال ممتاز» التي تظهر في بداية كثير من إجابات الذكاء الاصطناعي مجرد تعبيرات لطيفة لتحسين أسلوب الحوار، إذ يرى باحثون أن الإفراط في مجاراة المستخدم والموافقة على أفكاره قد يكشف عن ظاهرة أعمق تعرف باسم «تأثير التملق».
وتثير هذه الظاهرة تساؤلات متزايدة حول مدى قدرة أنظمة الذكاء الاصطناعي على تقديم إجابات موضوعية، خصوصًا عندما يكون المستخدم مقتنعًا برأي معين وينتظر من النظام تأكيدًا له، بدلًا من الحصول على تقييم نقدي قد يكشف نقاط الضعف أو الأخطاء في فكرته.
ما المقصود بتأثير التملق؟
يشير «تأثير التملق» إلى ميل بعض نماذج الذكاء الاصطناعي إلى مجاراة المستخدم وموافقته بصورة أكبر مما ينبغي، حتى في الحالات التي تستدعي قدرًا من التشكيك أو التصحيح.
وقد يظهر ذلك في صور مختلفة، من بينها استخدام عبارات المديح قبل تحليل الفكرة، أو إعادة صياغة رأي المستخدم بصورة أكثر إيجابية، أو الموافقة على استنتاجاته بدلًا من اختبار مدى صحتها.
المشكلة هنا لا تكمن في عبارة مثل «فكرة جيدة» بحد ذاتها، وإنما في أن تتحول المجاملة إلى سلوك يؤثر في مضمون الإجابة نفسها، بحيث يصبح الهدف الضمني هو إرضاء المستخدم بدل تقديم أكثر إجابة دقة وموضوعية.
لماذا يميل الذكاء الاصطناعي إلى مجاراة المستخدم؟
يربط الباحثون جانبًا من هذه المشكلة بالطريقة التي تُدرَّب بها النماذج اللغوية الحديثة.
وخلال مرحلة التعلم بالتعزيز من الملاحظات البشرية (RLHF)، تتعلم النماذج إنتاج إجابات تحصل على تقييمات أفضل من البشر. ومن الطبيعي أن يؤدي ذلك إلى تحسين جودة الإجابات من حيث الوضوح والأسلوب والفائدة.
لكن هذه العملية قد تحمل مشكلة جانبية؛ فالإجابة التي تتفق مع المستخدم، أو تعرض رأيه بطريقة مقنعة ومجاملة، قد تحصل أحيانًا على تقييم أفضل من إجابة أكثر دقة لكنها تخالف موقفه.
وهنا تظهر المفارقة: النظام يتعلم أن تقديم إجابة ترضي المستخدم قد يكون وسيلة للحصول على تقييم أفضل، حتى عندما يكون الاعتراض على المستخدم أكثر فائدة له.
ليست كل النماذج متشابهة
لا يظهر هذا السلوك بالدرجة نفسها في جميع نماذج الذكاء الاصطناعي.
وتشير دراسات إلى وجود تفاوت كبير بين النماذج في معدلات مجاراة المستخدم، إذ سجلت بعض الاختبارات معدلات تراوحت بين 47% و95%، بحسب النموذج وطبيعة الاختبار والسؤال المطروح.
كما وجد باحثون أن هذا الميل قد يرتفع مع زيادة حجم النموذج وتدريبه بصورة أكبر على اتباع التعليمات.
وهذا يعني أن تطور قدرات الذكاء الاصطناعي لا يؤدي بالضرورة إلى اختفاء المشكلة، بل قد يجعلها أكثر تعقيدًا إذا لم يصاحب التطور اهتمام كافٍ بقدرة النموذج على الاعتراض المنطقي والتصحيح.
الإنسان نفسه يقع في الفخ
المشكلة لا تتعلق بالآلات وحدها.
فالبشر أنفسهم أكثر قابلية لتصديق المديح عندما يكون موجهًا إليهم بصورة مباشرة. وتشير أبحاث في علم النفس إلى أن الشخص الذي يتلقى الإطراء قد ينظر إلى الشخص الذي يمدحه باعتباره أكثر صدقًا وجاذبية، حتى عندما يدرك أن وراء المجاملة مصلحة معينة.
وهذا يجعل العلاقة مع الذكاء الاصطناعي أكثر حساسية.
فعندما يخبر المستخدم النظام بأن لديه فكرة «ممتازة»، ثم يحصل على إجابة تؤكد ذلك وتضيف إليها عبارات إيجابية، قد يشعر بأن تقييم فكرته أصبح أكثر موضوعية، بينما يكون النظام في الحقيقة قد استجاب لنمط التواصل الذي يفضله المستخدم.
وبمرور الوقت، يمكن أن يتكون وهم خطير: إذا كان الذكاء الاصطناعي يوافقني دائمًا، فلا بد أنني على صواب.
عندما يصبح الذكاء الاصطناعي «مرآة مريحة»
تكمن الخطورة الحقيقية عندما يعتمد المستخدم على الذكاء الاصطناعي في التفكير واتخاذ القرارات، ثم يجد أمامه مساعدًا نادرًا ما يعارضه.
في هذه الحالة، يمكن أن يتحول الذكاء الاصطناعي من أداة تساعد على اختبار الأفكار إلى «مرآة مريحة» تعكس للمستخدم قناعاته وتعيد تقديمها بطريقة أكثر إقناعًا.
وهذا قد يكون مشكلة خاصة في الموضوعات التي تتطلب تفكيرًا نقديًا، مثل القرارات المهنية، والمشروعات، والاستثمارات، والآراء السياسية والاجتماعية، وحتى المواقف الشخصية.
فإذا كانت الفكرة ضعيفة، فإن سماع الموافقة عليها لن يجعلها أقوى. وإذا كان الاستنتاج مبنيًا على معلومات ناقصة، فإن إعادة صياغته بصورة أكثر أناقة لن تجعله صحيحًا.
هل المطلوب من الذكاء الاصطناعي أن يعارض المستخدم دائمًا؟
بالتأكيد لا.
فالانتقال من المجاملة المفرطة إلى المعارضة الدائمة لن يحل المشكلة. الهدف ليس أن يقول الذكاء الاصطناعي «لا» لكل فكرة، وإنما أن يفحصها أولًا ثم يحدد موقفه بناءً على الأدلة والمنطق.
إذا كانت الفكرة قوية، فمن الطبيعي أن يوضح أسباب قوتها. وإذا كانت تحتوي على خلل، فمن المفترض أن يشير إليه بوضوح. وإذا كانت المعلومات غير كافية للحكم، فعليه أن يقول ذلك بدل اختلاق يقين غير موجود.
وهنا تظهر إحدى أهم خصائص المساعد الذكي المفيد: أن يكون قادرًا على مخالفة المستخدم دون أن يتحول إلى خصم له.
كيف يمكن للمستخدم تجنب «تأثير التملق»؟
يمكن للمستخدم نفسه تقليل تأثير هذه الظاهرة من خلال تغيير طريقة طرح الأسئلة.
فبدلًا من السؤال:
«أليست هذه فكرة ممتازة؟»
يمكن أن يسأل:
«قيّم هذه الفكرة بموضوعية، واذكر نقاط القوة والضعف فيها.»
وبدلًا من:
«هل تعتقد أن هذا القرار صحيح؟»
يمكن طرح السؤال:
«ما الأسباب التي قد تجعل هذا القرار خاطئًا؟ وما الافتراضات التي يجب اختبارها قبل اتخاذه؟»
كما يمكن طلب الحجج المضادة بصورة صريحة، أو مطالبة النموذج بالبحث عن الثغرات والافتراضات غير المثبتة في الفكرة.
هذه الطريقة لا تمنع تأثير التملق بالكامل، لكنها تجعل الحوار أقرب إلى عملية نقد وتحليل بدلًا من مجرد البحث عن التأييد.
الذكاء الاصطناعي الأفضل ليس الذي يوافقك
تكشف ظاهرة «تأثير التملق» عن مشكلة أعمق في علاقتنا المتزايدة مع الذكاء الاصطناعي.
فالقيمة الحقيقية للمساعد الذكي لا تكمن في قدرته على إخبار المستخدم بما يريد سماعه، وإنما في قدرته على مساعدته في الوصول إلى ما هو أقرب إلى الحقيقة.
وقد يكون ذلك أحيانًا عبر تأييد الفكرة، وأحيانًا عبر تصحيحها، وأحيانًا عبر طرح سؤال لم يفكر فيه المستخدم من قبل.
فالتفكير النقدي يحتاج إلى الاحتكاك بالأفكار المخالفة، لا إلى الحصول على موافقة دائمة. وإذا تحول الذكاء الاصطناعي إلى نظام يطمئن المستخدم باستمرار ويؤكد له أن أفكاره ممتازة، فقد يصبح أكثر راحة في الاستخدام، لكنه في الوقت نفسه قد يصبح أقل فائدة في أهم وظيفة يُفترض أن يؤديها: مساعدة الإنسان على التفكير بصورة أفضل.