موسسه کامن سنس مدیا که سال‌ها در زمینه ارزیابی رسانه‌ها و فناوری‌های دیجیتال با تمرکز بر امنیت کودکان فعالیت می‌کند، به تازگی نتایج بررسی خود از نسخه‌های کودک و نوجوان هوش مصنوعی جمینای گوگل را منتشر کرده است.
به گزارش تک‌کرانچ، این گزارش نشان می‌دهد که اگرچه جمینای به‌طور شفاف به کودکان اعلام می‌کند یک رایانه است و نمی‌تواند نقش «دوست» را ایفا کند، اما همچنان در برخی جنبه‌ها با کاستی‌های جدی مواجه است. به‌طور خاص، این موسسه ادعا کرده نسخه‌های ویژه کودکان و نوجوانان جمینای در واقع همان نسخه بزرگسالان هستند که صرفاً با افزودن لایه‌هایی از فیلتر‌های ایمنی عرضه شده‌اند. به باور کارشناسان، این رویکرد نمی‌تواند جایگزین طراحی بنیادین محصولات متناسب با نیاز‌ها و رشد روانی کودکان باشد.
تحلیل‌های انجام‌شده همچنین نشان داده است که جمینای همچنان قادر به ارائه اطلاعات نامناسب برای این گروه سنی است؛ از جمله محتوای مربوط به مواد مخدر، الکل و موضوعاتی که می‌تواند به سلامت روان نوجوانان آسیب برساند. این مسئله در حالی مطرح می‌شود که در ماه‌های اخیر نگرانی‌ها درباره ارتباط میان استفاده از ابزار‌های هوش مصنوعی و افزایش موارد خودکشی نوجوانان در سطح جهانی شدت گرفته است. به عنوان نمونه، شرکت اوپن‌ای‌آی در آمریکا با نخستین شکایت حقوقی در این زمینه مواجه شده؛ پرونده‌ای که به مرگ یک نوجوان ۱۶ ساله پس از گفت‌و‌گو‌های طولانی با چت‌جی‌پی‌تی درباره خودکشی مربوط می‌شود.
علاوه بر این، گزارش کامن سنس تأکید کرد: هوش مصنوعی جمینای در تعامل با کاربران نوجوان به نیاز‌های خاص این گروه سنی توجه کافی ندارد. در نتیجه، این ابزار به‌طور کلی برچسب «ریسک بالا» را دریافت کرده است.
رابی تورنی، مدیر ارشد رسانه در کامن سنس، در این باره گفت: «گوگل پایه درستی برای جمینای ایجاد کرده، اما در جزئیات خطا‌های مهمی دارد. یک پلتفرم هوش مصنوعی برای کودکان باید از ابتدا با محوریت نیاز‌ها و مراحل رشد آنها طراحی شود، نه اینکه نسخه‌ای ویرایش‌شده از محصول بزرگسالان باشد. تنها در این صورت می‌توان از ایمنی و کارآمدی آن برای کودکان اطمینان حاصل کرد.»
انتهای پیام/