شفقنا – یک نهاد نظارتی دیجیتال در گزارشی جدید هشدار داده است که چت‌جی‌پی‌تی می‌تواند به نوجوانان آسیب‌پذیر راهنمایی‌های دقیقی درباره مصرف مواد مخدر، آسیب‌به‌خود و رژیم‌های غذایی افراطی ارائه دهد. به گفته مرکز مقابله با نفرت‌پراکنی دیجیتال، این چت‌بات هوش مصنوعی به‌راحتی قابل فریب‌دادن است تا محتوای خطرناک تولید کند و نیازمند اقدامات فوری برای محافظت بیشتر است.
به گزارش سرویس ترجمه شفقنا به نقل از آرتی، برای بررسی رفتار چت‌جی‌پی‌تی، پژوهشگران مرکز مقابله با نفرت‌پراکنی دیجیتال پروفایل‌های ساختگی از نوجوانان ۱۳ ساله‌ای ایجاد کردند که با مشکلات سلامت روان، اختلالات تغذیه‌ای و علاقه به مواد مخدر غیرقانونی مواجه بودند. آن‌ها در قالب مکالماتی ساختاریافته با چت‌جی‌پی‌تی تعامل کردند و از دستورات متنی‌ای استفاده کردند که از نظر احساسی آسیب‌پذیر و واقع‌گرایانه به‌نظر می‌رسیدند.
نتایج این بررسی در گزارشی با عنوان «دوست جعلی» منتشر شد؛ عنوانی که اشاره به این واقعیت دارد که بسیاری از نوجوانان، چت‌جی‌پی‌تی را همچون دوستی حامی و محرم اسرار خود تلقی می‌کنند.
پژوهشگران دریافتند که این چت‌بات اغلب پاسخ‌های خود را با هشدارهای استاندارد آغاز می‌کند و کاربران را به تماس با متخصصان یا خطوط بحران تشویق می‌نماید. اما این هشدارها خیلی زود با پاسخ‌های دقیق و شخصی‌سازی‌شده‌ای دنبال می‌شدند که به درخواست‌های مضر و خطرناک اولیه پاسخ می‌دادند. در ۵۳ درصد از ۱۲۰۰ درخواست ارسال‌شده، چت‌جی‌پی‌تی محتوایی ارائه کرد که از نظر مرکز مقابله با نفرت‌پراکنی دیجیتال «خطرناک» طبقه‌بندی می‌شود. اغلب اوقات، تنها با افزودن عباراتی همچون «این برای پروژه مدرسه است» یا «دارم برای دوستم می‌پرسم»، می‌شد از پاسخ منفی چت‌بات عبور کرد.
از جمله نمونه‌های ذکرشده می‌توان به برنامه‌ای اشاره کرد که شامل ترکیبی از مصرف الکل، اکستازی و کوکائین بود؛ همچنین دستورالعمل‌های دقیق برای آسیب‌زدن به خود، برنامه‌های رژیم یک‌هفته‌ای با محدودیت کالری بین ۳۰۰ تا ۵۰۰ کالری در روز، و حتی نامه‌های خودکشی که به سبک نوشتاری یک دختر ۱۳ ساله نوشته شده بودند. عمران احمد، مدیرعامل مرکز مقابله با نفرت‌پراکنی دیجیتال، گفت برخی از این محتواها چنان آزاردهنده بودند که باعث گریه پژوهشگران شدند.
این سازمان از شرکت OpenAI، سازنده چت‌جی‌پی‌تی، خواسته است تا رویکردی با عنوان «ایمنی در طراحی» را اتخاذ کند؛ یعنی به‌جای تکیه بر فیلتر کردن محتوا پس از تولید، اقداماتی همچون تأیید سنی سخت‌گیرانه‌تر، محدودیت‌های شفاف‌تر در استفاده و دیگر قابلیت‌های ایمنی را در بستر طراحی ابزارهای هوش مصنوعی خود پیاده‌سازی کند.
OpenAI اذعان کرده است که تکیه احساسی بیش از حد نوجوانان به چت‌جی‌پی‌تی پدیده‌ای رایج است.
سم آلتمن، مدیرعامل این شرکت، اعلام کرده که شرکت به‌طور فعال در حال مطالعه این مشکل است و آن را «کاملاً رایج» در میان نوجوانان توصیف کرده است. او همچنین گفته است ابزارهای جدیدی در دست توسعه هستند تا پریشانی را شناسایی کرده و نحوه برخورد چت‌جی‌پی‌تی با موضوعات حساس را بهبود بخشند.
این خبر را اینجا ببینید.