به گزارش سرویس ترجمه خبرگزاری ایمنا، بنیاد دیده‌بان اینترنت IWF در مورد ویدئوهای سو استفاده جنسی از کودکان توسط هوش مصنوعی بیشتر هشدار می‌دهد زیرا ابزارهای پشت آن‌ها گسترده‌تر، همچنین استفاده از این سیستم‌ها آسان‌تر می‌شود.

به گفته یک ناظر ایمنی، پیشرفت‌ها در هوش مصنوعی توسط پدوفیل‌ها برای تولید ویدئوهای آزار جنسی کودکان استفاده می‌شود که می‌تواند حجم آن با پیشرفت فناوری افزایش پیدا کرد.

اکثر مواردی از این دست که توسط بنیاد IWF مشاهده شده است، شامل دستکاری محتوای سوءاستفاده جنسی از کودکان (CSAM) یا پورنوگرافی بزرگسالان، با پیوند چهره کودک به فیلم است. IWF اعلام کرد که تعداد انگشت‌شماری از نمونه‌ها شامل ویدئوهای کاملاً ساخته‌شده با هوش مصنوعی است که حدود ۲۰ ثانیه طول می‌کشد.

دن سکستون، مدیر ارشد فناوری در IWF در این رابطه گفت: اگر استفاده از ابزارهای ویدئویی هوش مصنوعی همان روند تصاویر ثابت ساخته شده را دنبال کند، با بهبود فناوری و در دسترس‌تر شدن حجم آن‌ها، ممکن است ویدئوهای CSAM بیشتری ظاهر شوند.

به گفته IWF تصاویر CSAM ساخته‌شده توسط هوش مصنوعی امسال در مقایسه با سال ۲۰۲۳ که برای نخستین بار مشاهده چنین محتوایی را آغاز کرد، واقعی‌تر شده‌اند.

مطالعه این سازمان در سال جاری از یک دارک وب نشان داد که ۱۲ هزار تصویر جدید تولید شده توسط هوش مصنوعی در یک دوره یک ماهه پست شده‌اند. IWF گفت که از هر ۱۰ تصویر ۹ مورد آن‌قدر واقعی بودند که می‌توانستند تحت قوانین بریتانیا که CSAM واقعی را پوشش می‌دهد تحت پیگرد قانونی قرار گیرند.

سوزی هارگریوز، مدیر اجرایی IWF می‌گوید: «بدون کنترل‌های مناسب، ابزارهای مولد هوش مصنوعی زمین بازی را برای شکارچیان آنلاین فراهم می‌کند تا منحرف‌کننده‌ترین و بیمارکننده‌ترین خیال‌پردازی‌های خود را اجرا کنند.»

IWF به دنبال تغییرات قانونی است که ساخت راهنماهایی برای تولید CSAM ساخته شده با هوش مصنوعی و همچنین ساخت مدل‌های هوش مصنوعی «تنظیم‌شده» که می‌توانند چنین موادی را تولید کنند، جرم‌انگاری می‌کند.