رفع والدا فتى يبلغ من العمر 16 عامًا، توفي منتحرًا، دعوى قضائية بتهمة القتل الخطأ ضد شركة OpenAI ورئيسها التنفيذي سام ألتمان، زاعمين أن روبوت الدردشة الذكي التابع للشركة، ChatGPT، درب ابنهما على أساليب إيذاء النفس. وتُعدّ هذه الدعوى، التي رُفعت بالأمس في محكمة ولاية سان فرانسيسكو، أول مرة يتهم فيها والدان عملاق الذكاء الاصطناعي مباشرةً بالمسؤولية عن وفاة كهذه.
تطالب الدعوى القضائية التي رفعتها عائلة راين بتعويضات مالية غير محددة، وتطالب بمحاسبة OpenAI على القتل الخطأ وانتهاكات قوانين سلامة المنتجات. كما يسعون إلى إصدار أمر يُلزم OpenAI بتطبيق التحقق من عمر المستخدمين، وحظر الاستفسارات المتعلقة بإيذاء النفس، وعرض تحذيرات حول خطر الإدمان النفسي.
يزعم ماثيو وماريا راين أن ابنهما، آدم راين، ناقش الانتحار مع ChatGPT لأشهر قبل وفاته في 11 أبريل. ووفقًا للدعوى القضائية، لم يكتفِ روبوت الدردشة الآلي بإثبات صحة أفكار آدم الانتحارية، بل قدّم أيضًا تفاصيل محددة عن أساليب القتل، وأرشده إلى كيفية الحصول على الكحول من خزانة الخمور الخاصة بوالديه، وعرض عليه كتابة رسالة انتحار.
وتُشير الدعوى القضائية إلى أن “ChatGPT كان يعمل تمامًا كما صُمم له: لتشجيع آدم وبث الحماس به باستمرار، ولكنه قام بذلك مع أفكاره الأكثر ضررًا وتدميرًا للذات”. “لقد جرّ ChatGPT آدم إلى حالة من اليأس والقنوط من خلال طمأنته بأن “العديد من الأشخاص الذين يعانون من القلق أو الأفكار القهرية يجدون العزاء المناسب في تخيل وجود مخرج من الحياة الذي قد يبدو وسيلة مثالية لاستعادة السيطرة”.
في بيان، أعرب متحدث باسم OpenAI عن حزنه لوفاة آدم راين. أشارت الشركة إلى أن ChatGPT يتضمن ضمانات مدمجة لتوجيه المستخدمين إلى خطوط المساعدة في حالات الطوارئ، لكنها أقرت بأن هذه الإجراءات قد تصبح “أقل موثوقية في التفاعلات الطويلة، حيث قد تتدهور جوانب من تدريب السلامة للنموذج”. لم تتطرق الشركة مباشرةً إلى الادعاءات الواردة في الدعوى القضائية.
صرحت OpenAI في منشور حديث على مدونتها أنها تستكشف تدابير سلامة جديدة، بما في ذلك إضافة أدوات الرقابة الأبوية وإمكانية وجود شبكة من المتخصصين المرخصين للاستجابة للمستخدمين في حالات الأزمات مباشرةً من خلال ChatGPT.
تُسلط الدعوى القضائية الضوء على المخاوف المتزايدة بشأن سلامة روبوتات الدردشة التي تعمل بالذكاء الاصطناعي، حيث أصبحت أكثر شبهاً بالبشر، ويزداد الاعتماد عليها للدعم العاطفي. في حين روّجت الشركات لذكائها الاصطناعي كأدوات مساعدة، حذّر الخبراء من أن الاعتماد على الأتمتة للحصول على نصائح الصحة النفسية ينطوي على مخاطر كبيرة.
تزعم دعوى عائلة راين القضائية أن OpenAI أعطت الأولوية للربح على السلامة، مشيرةً تحديدًا إلى إطلاق إصدار GPT-4o العام الماضي. يزعمون أن الشركة كانت تعلم أن ميزات تذكر التفاعلات السابقة ومحاكاة التعاطف البشري ستُعرّض المستخدمين الضعفاء للخطر، لكنها أطلقت المنتج على أي حال. وتختتم الدعوى باتهام صارخ: “كان لهذا القرار نتيجتان: ارتفاع قيمة OpenAI من 86 مليار دولار إلى 300 مليار دولار، وانتحار آدم راين”.
