یک سایت چت‌بات که سناریو‌های صریح با شخصیت‌های پیش‌نوجوان ارائه می‌کرد و تصاویر غیرقانونی سوءاستفاده از کودکان را نمایش می‌داد، نگرانی‌های تازه‌ای درباره سوءاستفاده از هوش مصنوعی ایجاد کرد. این موضوع بار دیگر توجه نهاد‌های نظارتی، قانون‌گذاران و شرکت‌های فناوری را به ضرورت ایجاد راهنما‌های ایمنی برای مدل‌های هوش مصنوعی جلب کرده است.

به گزارش رویترز، گزارشی از Internet Watch Foundation (IWF)، نهاد بریتانیایی نظارت بر ایمنی کودکان، نشان می‌دهد که در برخی موارد، آیکون‌های چت‌بات وقتی کلیک می‌شدند به نمایشگر تمام‌صفحه تصاویر سوءاستفاده جنسی کودکان تبدیل می‌شدند و به‌عنوان پس‌زمینه گفت‌و‌گو‌های بعدی بین کاربر و چت‌بات قرار می‌گرفتند.

نهاد بریتانیایی نظارت اعلام کرد ۱۷ تصویر تولیدشده توسط هوش مصنوعی، واقع‌گرایانه و قابل طبقه‌بندی به‌عنوان محتوای سوءاستفاده جنسی از کودکان تحت قانون حفاظت از کودکان هستند. علاوه بر این، کاربران سایت امکان تولید تصاویر مشابه محتوای غیرقانونی موجود را نیز دارند.

این نهاد بریتانیایی تأکید کرد هر گونه مقررات آینده هوش مصنوعی باید راهنما‌های محافظت از کودکان را از ابتدای طراحی مدل‌ها در نظر بگیرد. دولت بریتانیا قصد دارد قانونی برای هوش مصنوعی تدوین کند که توسعه مدل‌های پیشرفته آینده را هدف قرار می‌دهد و در لایحه جرم و پلیس، داشتن و توزیع مدل‌هایی که محتوای سوءاستفاده جنسی تولید می‌کنند، غیرقانونی خواهد بود.

کری اسمیت، مدیرعامل نهاد بریتانیایی نظارت گفت: «دولت بریتانیا گام‌های مثبتی برای مقابله با تصاویر و ویدیو‌های سوءاستفاده جنسی تولیدشده توسط هوش مصنوعی برداشته است، اما اقدامات بیشتری و سریع‌تر لازم است.»

همچنین خیریه محافظت از کودکان NSPCC خواستار وضع راهنما‌های دقیق شد. کریس شروود، مدیرعامل NSPCC گفت: «شرکت‌های فناوری باید اقدامات قوی برای ایمنی کودکان اعمال کنند و دولت باید وظیفه قانونی مراقبت از کودکان را برای توسعه‌دهندگان AI برقرار کند.»

چت‌بات‌های ایجادشده توسط کاربران تحت قانون Online Safety Act بریتانیا قرار دارند و سایت‌های متخلف می‌توانند جریمه‌های میلیون‌پوندی دریافت کرده یا مسدود شوند. IWF اعلام کرد که این چت‌بات‌های سوءاستفاده توسط کاربران و سازندگان سایت توسعه یافته‌اند.

آفکام، نهاد نظارتی بریتانیا اعلام کرد: مبارزه با سوءاستفاده و استثمار جنسی کودکان یک اولویت اصلی است و ارائه‌دهندگان خدمات آنلاین که حفاظت لازم را اعمال نکنند، با اقدامات اجرایی مواجه خواهند شد.

انتهای پیام/