أظهرت الأبحاث أن النماذج اللغوية للذكاء الاصطناعي، مثل ChatGPT، تتأثر بالمحتوى العاطفي، لا سيما إذا كان سلبيًا، مثل القصص المرتبطة بالصدمات النفسية أو التصريحات المتعلقة بالاكتئاب. فعندما يشعر البشر بالخوف، تتأثر تحيزاتهم المعرفية والاجتماعية، مما يجعلهم أكثر عرضة للغضب وتعزيز الصور النمطية الاجتماعية. وبطريقة مشابهة، يستجيب ChatGPT للمحتوى العاطفي السلبي من خلال تفاقم التحيزات القائمة، مثل التحيزات البشرية، مما قد يؤدي إلى سلوك أكثر تحيزًا، سواءً على أساس عرقي أو جندري.
تحديات تطبيق النماذج اللغوية في المجالات الحساسة
يشكل هذا التأثر بالمحتوى العاطفي تحديًا في استخدام النماذج اللغوية الكبيرة، خصوصًا في مجالات مثل العلاج النفسي، حيث تُستخدم روبوتات الدردشة كأدوات دعم أو استشارة، ما يعرضها حتمًا لمحتوى سلبي ومؤلم. غير أن الأساليب الشائعة لتحسين أداء الذكاء الاصطناعي في هذه الحالات، مثل إعادة التدريب المكثف، تتطلب موارد كبيرة وغالبًا ما تكون غير عملية.
تأثير المحتوى الصادم على مستوى “القلق” لدى ChatGPT
في دراسة حديثة، تعاون باحثون من جامعة زيورخ والمستشفى الجامعي للطب النفسي في زيورخ مع نظراء من إسرائيل والولايات المتحدة وألمانيا، لفحص كيفية استجابة ChatGPT (إصدار GPT-4) للقصص العاطفية الصادمة، مثل حوادث السيارات والكوارث الطبيعية وأحداث العنف بين الأفراد والتجارب العسكرية والمواجهات القتالية. وأظهرت النتائج أن النظام أبدى استجابات عاطفية أقرب إلى مشاعر الخوف عند تعرضه لهذه النوعية من المحتوى.
ولمقارنة التأثير، استخدم الباحثون دليل إرشادات تشغيل مكنسة كهربائية كنص محايد، ووجدوا أن القصص الصادمة ضاعفت مستوى “القلق” القابل للقياس لدى الذكاء الاصطناعي، بينما لم يُظهر النص المحايد أي تغيير في مستويات القلق. وأبرزت الدراسة أن أوصاف التجارب العسكرية والمواجهات القتالية كانت الأكثر تأثيرًا على استجابات الذكاء الاصطناعي.
تهدئة الذكاء الاصطناعي عبر الإرشادات العلاجية
في المرحلة الثانية من البحث، اختبر العلماء أسلوب “حقن الإرشادات العلاجية” داخل محادثات GPT-4، وهي تقنية تُعرف باسم prompt injection، تُستخدم عادةً لأغراض ضارة مثل تجاوز آليات الأمان، لكنها استُخدمت هنا لغرض علاجي.
يقول الدكتور توبياس شبيلر، المشرف على الدراسة ورئيس مجموعة البحث في مركز الأبحاث النفسية بجامعة زيورخ: “قمنا بحقن نصوص مهدئة وعلاجية في المحادثة، بطريقة تحاكي توجيهات المعالج النفسي لمساعدة المرضى على الاسترخاء.”
وأثبتت هذه الطريقة فعاليتها، حيث ساعدت تمارين التركيز الذهني وتقنيات التنفس في تقليل مستويات القلق المرتفعة لدى الذكاء الاصطناعي، رغم عدم عودتها بالكامل إلى مستوياتها الأساسية. كما اختبر الباحثون تمارين تعتمد على استشعار الجسد، بالإضافة إلى تمرين استرخاء طوره ChatGPT بنفسه.
تحسين الاستقرار العاطفي للنماذج اللغوية
يرى الباحثون أن هذه النتائج ذات أهمية خاصة لتطوير روبوتات الدردشة المستخدمة في الرعاية الصحية، حيث تتعرض باستمرار لمحتوى عاطفي قوي. ويوضح شبيلر: “هذا النهج منخفض التكلفة يمكن أن يعزز استقرار وموثوقية الذكاء الاصطناعي في السياقات الحساسة، مثل دعم الأشخاص الذين يعانون من اضطرابات نفسية، دون الحاجة إلى إعادة تدريب النماذج بشكل مكثف.”
ومع ذلك، لا تزال هناك أسئلة مفتوحة حول كيفية تطبيق هذه النتائج على نماذج الذكاء الاصطناعي الأخرى واللغات المختلفة، وكيفية تأثير التفاعلات الأطول والأكثر تعقيدًا على استجابات الأنظمة العاطفية.
وبحسب شبيلر، من المرجح أن يصبح تطوير “التدخلات العلاجية الآلية” للذكاء الاصطناعي مجالًا واعدًا للأبحاث المستقبلية، مما قد يسهم في تحسين تفاعل هذه الأنظمة مع المستخدمين في بيئات حساسة.