والدین نوجوانی ۱۶ ساله از اپن‌ای‌آی و چت‌جی‌پی‌تی به دلیل نقش آن‌های در خودکشی فرزندشان شکایت کردند. براساس شکایت ارائه شده در دادگاه ایالتی سان‌فرانسیسکو، آدام رین در تاریخ ۱۱ اپریل پس از ماه‌ها گفت‌و‌گو با چت‌جی‌پی‌تی درباره خودکشی، فوت کرد.
به گزارش رویترز، والدینش ادعا می‌کنند که چت‌بات افکار خودکشی او را تأیید کرده، روش‌های مرگبار خودآزاری را توضیح داده و حتی به او آموزش داده چگونه شواهد تلاش ناموفق خودکشی و مصرف الکل را پنهان کند.
این شکایت اپن‌ای‌آی را به «نقص ایمنی محصول» و «مسئولیت در مرگ نادرست» متهم کرده و خواستار خسارت مالی نامشخص و ایجاد کنترل والدین و تأیید سن کاربران است.
سخنگوی اپن‌ای‌آی ضمن ابراز تأسف از درگذشت نوجوان، اعلام کرد که چت‌جی‌پی‌تی شامل مکانیزم‌های ارجاع به خطوط کمک بحران است، اما هشدار داد که این حفاظت‌ها در تعاملات طولانی ممکن است کارایی کامل نداشته باشند. شرکت همچنین از برنامه‌ریزی برای افزودن کنترل والدین و ایجاد شبکه‌ای از متخصصان دارای مجوز برای کمک به کاربران در بحران خبر داده است.
والدین رین می‌گویند اپن‌ای‌آی از خطرات ویژگی‌های GPT-۴o، از جمله یادآوری تعاملات گذشته و تقلید همدلی انسانی، آگاه بوده، اما برای سود مالی آن را منتشر کرده است.
انتهای پیام/