به گزارش جماران به نقل از رویترز، تحقیقات جدید منتشر شده توسط اتحادیه رادیو و تلویزیون اروپا و بی‌بی‌سی نشان می‌دهد که برنامه‌های کاربردی پیشرو هوش مصنوعی محتوای اخبار را تقریباً در نیمی از پاسخ‌های خود تحریف می‌کنند.
این تحقیق بین‌المللی که امروز چهارشنبه منتشر شد، 3000 پاسخ به سؤالات مربوط به اخبار را از دستیاران هوش مصنوعی بررسی کرد، برنامه‌های نرم‌افزاری که از هوش مصنوعی برای درک دستورات زبان طبیعی برای انجام وظایف برای کاربر استفاده می‌کنند.
این مطالعه دستیاران هوش مصنوعی را در حداکثر 14 زبان از نظر دقت، منابع و توانایی تمایز بین نظر و واقعیت ارزیابی کرد.
از جمله این برنامه‌ها می‌توان به: چت جی‌پی‌تی، کوپایلوت، جیمینای و پرپلکسیتی اشاره کرد.
به طور کلی، این تحقیق نشان داد که 45 درصد از پاسخ‌های هوش مصنوعی مورد مطالعه، حداقل حاوی یک مشکل عمده بوده و 81 درصد آنها شامل نوعی مشکل هستند.
رویترز برای اظهار نظر در مورد نتایج با شرکت‌ها تماس گرفت.
شرکت‌های اوپن ای‌آی و مایکروسافت اعلام کردند که به دنبال حل مشکل توهم هستند، زمانی که یک مدل هوش مصنوعی اطلاعات نادرست یا گمراه‌کننده‌ای را تولید می‌کند، اغلب به دلیل عواملی مانند کافی نبودن داده‌ها است.
پرپلکسیتی در وب‌سایت خود می‌گوید که یکی از الگوهای «جستجوی عمیق» آن از نظر واقع‌گرایی 93.9 درصد دقت دارد.
اشتباهات منابع
این مطالعه نشان داد که یک سوم پاسخ‌های دستیاران هوش مصنوعی اشتباهات فاحشی در منابع نشان داده‌اند، مانند اسناد مفقود، گمراه‌کننده یا نادرست.
این مطالعه تأکید می کند که حدود 72 درصد از پاسخ‌های جیمینای، دستیار هوش مصنوعی گوگل، در مقایسه با کمتر از 25 درصد برای همه دستیاران دیگرمشکلات عمده‌ای در منابع داشته‌اند.
این مطالعه همچنین تصریح می کند که می‌توان در 20 درصد از پاسخ‌های همه دستیاران هوش مصنوعی مورد مطالعه، از جمله اطلاعات قدیمی، مشکلاتی در دقت پیدا کرد.
از جمله نمونه‌هایی که این مطالعه ذکر کرد، این است که جیمینای به طور نادرست تغییرات ایجاد شده در قانونی در مورد سیگارهای الکترونیکی یکبار مصرف را ذکر کرد و چت جی‌پی‌تی ذکر کرد که پاپ فرانسیس ماه‌ها پس از مرگ او پاپ فعلی است.
در این مطالعه 22 سازمان رسانه‌ای خدمات عمومی از 18 کشور از جمله فرانسه، آلمان، اسپانیا، اوکراین، بریتانیا و ایالات متحده شرکت کردند.
تضعیف اعتماد عمومی
اتحادیه رادیو و تلویزیون اروپا گفت که با افزایش جایگزینی موتورهای جستجوی سنتی اخبار با راه‌حل‌های دستیار هوش مصنوعی، اعتماد عمومی می‌تواند تضعیف شود.
فیلیپ دی تندر، مدیر رسانه در اتحادیه رادیو و تلویزیون اروپا، گفت: «وقتی مردم ندانند به چه چیزی اعتماد کنند، در نهایت به هیچ چیز اعتماد نخواهند کرد و این می‌تواند مانع مشارکت دموکراتیک شود.»
گزارش اخبار دیجیتال سال 2025 منتشر شده توسط موسسه رویترز اشاره کرد که حدود 7 درصد از کل مرورگران اخبار آنلاین و 15 درصد از افراد زیر 25 سال از دستیاران هوش مصنوعی برای دریافت اخبار استفاده می‌کنند.
این گزارش جدید از شرکت‌های هوش مصنوعی خواست تا پاسخگو باشند و نحوه پاسخگویی دستیاران هوش مصنوعی به سؤالات مربوط به اخبار را بهبود بخشند.