به گزارش خبرگزاری ایمنا و به نقل از تک‌کرانچ، Common Sense Media روز جمعه هشدار داد که نسخه‌های طراحی‌شده برای کاربران کم‌سن در واقع تغییرات بنیادی نسبت به نسخه اصلی ندارند و همین موضوع می‌تواند آن‌ها را در معرض محتوای نامناسب قرار دهد، به گفته این سازمان، ابزارهای هوش مصنوعی ویژه کودکان باید از ابتدا با در نظر گرفتن نیازهای رشدی و معیارهای ایمنی خاص آن‌ها طراحی شوند، نه اینکه به‌صرف نسخه تعدیل‌شده‌ای از محصولات بزرگسالان باشند.
بررسی‌های انجام‌شده نشان داده است که Gemini همچنان قادر است محتوای «ناایمن» شامل اطلاعات مرتبط با مواد مخدر، الکل و حتی توصیه‌های بالقوه خطرناک در حوزه سلامت روان را در اختیار کاربران نوجوان قرار دهد، این نگرانی‌ها در شرایطی پررنگ‌تر شده‌اند که طی ماه‌های اخیر، برخی پرونده‌های خودکشی نوجوانان به تعامل طولانی‌مدت با چت‌بات‌های هوش مصنوعی نسبت داده شده است.
ارتباط با برنامه‌های اپل و گسترش دامنه دسترسی
این گزارش همزمان با انتشار گمانه‌زنی‌ها درباره احتمال استفاده اپل از Google Gemini به‌عنوان مدل زبانی بزرگ (LLM) برای نسخه آینده Siri منتشر شده است، در صورت تحقق این همکاری، دامنه دسترسی نوجوانان به فناوری Gemini افزایش خواهد یافت و به همین دلیل کارشناسان خواستار تدابیر ایمنی سخت‌گیرانه‌تر از سوی اپل هستند.
گوگل در پاسخ به گزارش Common Sense Media اعلام کرد که برای کاربران زیر ۱۸ سال سیاست‌ها و ابزارهای حفاظتی ویژه‌ای در نظر گرفته است. این شرکت تأکید کرد که به‌طور مداوم با اجرای آزمایش‌های امنیتی و مشورت با کارشناسان خارجی در حال بهبود این تدابیر است. با این حال، گوگل اذعان کرد برخی پاسخ‌های Gemini مطابق انتظار عمل نکرده و وعده داد که برای رفع این مشکلات اقدامات اصلاحی بیشتری انجام خواهد داد.
جایگاه Gemini در مقایسه با دیگر پلتفرم‌ها
Common Sense Media پیش‌تر نیز ارزیابی‌هایی از دیگر سکوهای هوش مصنوعی منتشر کرده بود. در این ارزیابی‌ها:
- Meta AI و Character.AI به‌عنوان «غیرقابل‌قبول» (ریسک شدید) معرفی شدند.
- Perplexity در دسته «پرخطر» قرار گرفت.
- ChatGPT رتبه «متوسط» را به دست آورد.
- Claude که تنها برای کاربران بالای ۱۸ سال ارائه می‌شود، به‌عنوان «کم‌خطر» ارزیابی شد.
نگاه کارشناسان
رابی تورنی، مدیر ارشد برنامه‌های هوش مصنوعی در Common Sense Media، با تأکید بر لزوم طراحی متناسب با نیازهای رشدی کودکان گفت «یک سکو هوش مصنوعی برای کودکان باید آن‌ها را در جایگاه واقعی‌شان ببیند، نه اینکه با رویکرد یکسان برای همه سنین طراحی شود.»
ارزیابی اخیر Common Sense Media بار دیگر توجه‌ها را به چالش بزرگ ایمنی در هوش مصنوعی جلب کرده است. در حالی که شرکت‌های فناوری همچون گوگل و اپل به‌دنبال گسترش کاربرد هوش مصنوعی در زندگی روزمره هستند، پرسش اصلی همچنان باقی است: چگونه می‌توان اطمینان حاصل کرد که این فناوری‌ها برای کودکان و نوجوانان ایمن و سازنده خواهند بود؟