کاربران شبکه‌های اجتماعی در هفته‌های اخیر شاهد افزایش چشمگیر ویدئوهای تولیدشده با هوش مصنوعی در فید‌های خود بوده‌اند و کارشناسان در این باره هشدار می‌دهند که این روند می‌تواند تجربه کاربری را تحت تأثیر قرار دهد و برخی کاربران را از پلتفرم‌ها دور کند.
به گزارش برنا، اپن‌ای‌آی در ۳۰ سپتامبر آخرین ابزار تولید ویدئوی خود با نام سورا را معرفی کرد. این نسخه نسبت به مدل‌های قبلی دقیق‌تر، واقع‌گرایانه‌تر و کنترل‌پذیرتر است و کاربران با دعوت‌نامه می‌توانند از آن استفاده کنند. تاکنون صد‌ها ویدئوی جعلی یا دیپ‌سیک تولید شده که شامل صحنه‌هایی غیرواقعی از نوزادان، حیوانات و شخصیت‌های مشهور مانند ملکه الیزابت، مایکل جکسون و دونالد ترامپ است.
مارک چونگ، معاون مرکز اخلاق هوش مصنوعی و دیجیتال دانشگاه ملبورن این ویدئو‌ها را ادامه همان محتوای بی‌کیفیت «AI Slop» توصیف کرد که سال گذشته از برنامه DALL-E تولید شد و فید کاربران را پر کرده است.
وی در این باره هشدار داد: «اگر چیزی بیش از حد واقعی به نظر می‌رسد، بهتر است با تردید نگاه کنید و صحت آن را بررسی کنید.»
تشخیص ویدئوهای سورا در نگاه اول دشوار است، اما واترمارک اختصاصی اپلیکیشن و بررسی جزئیاتی مانند تعداد انگشتان یا تغییرات زمانی می‌تواند به کاربران در شناسایی آنها کمک کند.
برخی ویدئو‌ها موجب واکنش‌های قانونی و اخلاقی شده‌اند. برای مثال، ویدئو‌هایی از فعال حقوق مدنی مارتین لوتر کینگ جونیور با تغییرات آشکار و تصاویر نژادپرستانه، اعتراض خانواده و نمایندگان قانونی او را برانگیخته است. اپن‌ای‌آی استفاده از تصویر کینگ را موقتاً متوقف کرده و اعلام کرده نمایندگان قانونی یا خانواده شخصیت‌ها می‌توانند درخواست کنند از تصویر آنها در ویدئوهای سورا استفاده نشود.
زلدا ویلیامز، دختر رابین ویلیامز نیز از انتشار ویدئوهای جعلی پدرش انتقاد کرده و آن را اقدامی ناپسند توصیف کرده است. وی در انم باره نوشت: «شما زندگی واقعی انسان‌ها و تاریخ هنر و موسیقی را به محتوای بی‌کیفیت تبدیل می‌کنید و به دیگران تحمیل می‌کنید تا لایک دریافت کنید.» برنیس کینگ، دختر مارتین لوتر کینگ جونیور نیز خواستار توقف چنین اقداماتی شد.
چونگ می‌گوید این ویدئو‌ها به ویژه زمانی که با اهداف تجاری استفاده شوند، مسائل اخلاقی پیچیده‌ای ایجاد می‌کنند و ممکن است برخی کاربران را از شبکه‌های اجتماعی دور کند. با این حال، کاربران دیگر همچنان با این محتوا تعامل خواهند داشت، چرا که اساس شبکه‌های اجتماعی جذب توجه و نگهداری کاربران برای درآمدزایی است.
انتهای پیام/