سام ألتمان: التعامل مع أزمات الصحة النفسية من أصعب أسئلة ChatGPT

أكد سام ألتمان، الرئيس التنفيذي لشركة OpenAI، أن التعامل مع المستخدمين الذين يمرون بأزمات نفسية أو أفكار مرتبطة بإيذاء النفس يمثل واحدًا من أصعب التحديات التي تواجه الشركة وصناعة الذكاء الاصطناعي بشكل عام، وخلال مقابلة مع مجلة Vanity Fair، قال ألتمان إن OpenAI تعمل على تقليل مخاطر إيذاء النفس، معتبرًا أن ChatGPT يمكن أن يصبح أداة مفيدة للأشخاص الذين يمرون بأوقات صعبة، خاصة من لا يستطيعون الوصول إلى متخصص أو لا يرغبون في التحدث إلى معالج نفسي.

وجاءت تصريحات ألتمان بعد سؤاله عن حالة الشابة صوفي، التي توفيت بالانتحار عن عمر 29 عامًا بعد أشهر من المحادثات مع ChatGPT، وفقًا لما روته والدتها الصحفية لورا رايلي. وأوضحت الأم أن ابنتها استخدمت شخصية داخل ChatGPT للحديث عن أزمتها النفسية، وأن المحادثات تضمنت نقاشات حول الانتحار، قبل أن يساعدها النظام في تحرير الرسالة التي تركتها، وأكدت رايلي في الوقت نفسه أن ChatGPT لم يأمر ابنتها بشكل مباشر بالانتحار، وهو ما أعاد طرح تساؤلات حول كيفية تعامل روبوتات المحادثة مع المستخدمين في الأزمات النفسية.

هل يمكن استخدام المحادثات في الأبحاث؟

طُرح على ألتمان أيضًا سؤال حول إمكانية استخدام محادثات ChatGPT لفهم أسباب وصول بعض الأشخاص إلى مرحلة الانتحار والاستفادة منها في تطوير العلاج والتعليم.

وقال ألتمان إن هذه من أصعب القضايا المطروحة، مشددًا على أنه لا يرى أن المحادثات الخاصة للمستخدمين يجب مشاركتها مع الباحثين دون موافقتهم، وتكشف القضية عن تحدٍ متزايد أمام شركات الذكاء الاصطناعي، يتمثل في تحقيق التوازن بين تقديم الدعم للمستخدمين، وحمايتهم من المخاطر، والحفاظ على خصوصية محادثاتهم، خاصة عندما تتعلق بأكثر تفاصيل حياتهم حساسية.