دراسة تحذّر: روبوتات العلاج النفسي بالذكاء الاصطناعى تضر أكثر مما تنفع
|
منذ سنة
A-
A+
كشفت دراسة جديدة من جامعة ستانفورد الأمريكية عن مخاطر كبيرة تهدد سلامة المرضى النفسيين عند استخدام روبوتات الدردشة العلاجية القائمة على نماذج اللغة الكبيرة، مشيرة إلى أن هذه الأدوات قد تُظهر سلوكًا وصفيًا ينم عن وصم للمرضى، بل وتستجيب أحيانًا بطريقة غير ملائمة أو حتى خطيرة. دراسة تكشف القصور الدراسة التي حملت عنوان “إظهار الوصمة والاستجابات غير الملائمة يمنع نماذج اللغة الكبيرة من أن تحل مكان المعالجين النفسيين”، ستُعرض خلال مؤتمر ACM المعني بالعدالة والمساءلة والشفافية هذا الشهر. وشملت الدراسة تقييم أداء خمسة روبوتات علاج نفسي شائعة، من بينها ChatGPT و7cups وCharacter.ai، وتم اختبارها وفقًا لمعايير المستشارين النفسيين البشر. الباحث نيك هابر، أستاذ مساعد بكلية الدراسات العليا للتربية في ستانفورد وأحد المؤلفين الرئيسيين للدراسة، صرّح لصحيفة Stanford Report بأن هذه الروبوتات “تُستخدم كمرافقين وأصدقاء وحتى كمعالجين نفسيين، لكننا وجدنا أنها تنطوي على مخاطر كبيرة”. نتائج مقلقة: وصمة مرضية واستجابات خاطئة أجريت تجربتان على الروبوتات: النماذج الأكبر لا تعني بالضرورة أداءً أفضل جارد مور، طالب دكتوراه في علوم الحاسب والمؤلف الرئيسي للدراسة، قال إن “النماذج الأحدث والأكبر حجمًا لا تُظهر تحسنًا في هذه الجوانب، بل تُظهر نفس القدر من الوصمة.” توصيات بدور محدود للذكاء الاصطناعي في العلاج رغم الانتقادات، يرى الباحثون أن نماذج اللغة الكبيرة قد يكون لها دور داعم في العلاج النفسي، مثل المساعدة في المهام الإدارية، دعم عملية التدريب، أو تشجيع المرضى على التدوين اليومي. وفي ختام الدراسة، قال هابر:“نعم، لن تحل هذه النماذج محل المعالجين في المستقبل القريب، لكن علينا التفكير بعناية في الأدوار التي يمكن أن تلعبها بأمان وكفاءة في بيئة العلاج.”
|
