شرکت OpenAI قابلیت جدیدی را به مجموعه ابزارهای کنترل والدین در ChatGPT اضافه کرده است که بر اساس آن، والدین و سرپرستان میتوانند در صورت مسدود شدن حساب کاربری فرزند نوجوان خود به دلیل نقض سیاستهای مربوط به خشونت یا تهدیدهای خشونتآمیز، از این موضوع مطلع شوند.
به گزارش ایتنا و به نقل از Engadget، این قابلیت برای حسابهایی در دسترس است که والدین پیشتر آنها را به حساب شخصی خود متصل کردهاند. OpenAI اعلام کرده است هدف از این اقدام، فراهم کردن امکان مداخله زودهنگام خانوادهها در شرایطی است که رفتار آنلاین نوجوانان میتواند نگرانکننده باشد.
توسعه قابلیتهای کنترل والدین در ChatGPT
OpenAI سال گذشته ابزارهای کنترل والدین را برای ChatGPT معرفی کرد. این قابلیت به والدین اجازه میدهد حساب کاربری خود را به حساب نوجوانان متصل کرده و امکاناتی مانند تعیین ساعات مجاز استفاده از ChatGPT، کاهش نمایش محتوای حساس و دریافت هشدار در صورت تشخیص نشانههای احتمالی خودآسیبرسانی را فعال کنند.
اکنون این شرکت دامنه این هشدارها را گسترش داده است تا در صورت غیرفعال شدن حساب نوجوان به دلیل نقض قوانین مربوط به خشونت یا تهدید دیگران نیز والدین در جریان قرار گیرند.
هشدار مستقیم به والدین
OpenAI در نمونهای که منتشر کرده، نشان داده است والدین پیامی با عنوان «بهروزرسانی مهم درباره حساب فرزندتان» دریافت میکنند. با انتخاب گزینه «اطلاعات بیشتر»، توضیح داده میشود که حساب کاربری نوجوان به دلیل نقض سیاستهای استفاده از ChatGPT در زمینه رفتارهای خشونتآمیز غیرفعال شده است.
همکاری با متخصصان مقابله با خشونت آنلاین
OpenAI برای توسعه این قابلیت با شرکت Moonshot که در زمینه شناسایی و مقابله با خشونت آنلاین فعالیت میکند، همکاری کرده است.
«ویدیا رامالینگام»، بنیانگذار Moonshot، در اینباره گفت اطلاعرسانی به والدین هنگام بروز نگرانیهای جدی، فرصتی برای اقدام سریعتر خانوادهها و دریافت کمک تخصصی فراهم میکند و یکی از اقدامات ضروری برای افزایش ایمنی نوجوانان در استفاده از ChatGPT به شمار میرود.
تغییرات پس از حادثه تیراندازی کانادا
این تغییرات پس از آن اعمال شده که مشخص شد مظنون حادثه تیراندازی جمعی سال ۲۰۲۵ (۱۴۰۴) در منطقه تامبلر ریج واقع در استان بریتیش کلمبیا کانادا، پیش از وقوع حادثه از ChatGPT استفاده کرده بود.
پس از انتشار این گزارشها، OpenAI وعده داد پروتکلهای ایمنی خود را تقویت کند. همچنین مقامهای کانادایی این شرکت را به دلیل اطلاع ندادن به نهادهای مسئول پس از مسدود شدن حساب کاربری فرد مظنون مورد بازخواست قرار دادند. در ادامه، سم آلتمن، مدیرعامل OpenAI، نیز بابت این موضوع عذرخواهی کرد.
قابلیتهای جدید برای استفاده ایمنتر نوجوانان
همزمان با معرفی این قابلیت، OpenAI امکان فعالسازی Study Mode یا «حالت مطالعه» را نیز از طریق بخش کنترل والدین فراهم کرده است. در این حالت، ChatGPT به جای ارائه مستقیم پاسخ، ابتدا راهنماییها و نکات آموزشی را در اختیار دانشآموزان قرار میدهد تا فرایند یادگیری تقویت شود.
علاوه بر این، ChatGPT از این پس برای نوجوانانی که مدت زمان طولانی از این سرویس استفاده میکنند، یادآورهای منظم برای استراحت نمایش میدهد تا به ایجاد عادتهای سالمتر در استفاده از فناوری کمک کند.∎