یوبو (Yubo)، پلتفرم استریم ویدیو و چتی که نسل زد را هدف گرفته، با هوش مصنوعی امکان نظارت بر محتوا در لحظه را فراهم کرد.

 

محیط‌هایی همچون یوبو که به غریبه‌ها اجازه ارتباط صوتی و ویدیویی می‌دهند مدت‌ها است که از مشکلاتی همچون شوخی بیجا و تعصب رنج می‌برند. مارک آنتوان دوراند، مدیرعامل یوبو، می‌گوید این هوش مصنوعی با شناسایی خودکار کلمات و جملات توهین‌آمیز نژاد‌پرستانه، خیلی سریع به این رفتارها پاسخ می‌دهد.

 

او می‌گوید: «این تکنولوژی یکی از مهمترین تکه‌های گم شده پازل نظارت بر متحوا است و کاربردهای متعددی دارد.»

 

این سیستم که با همکاری هایو (Hive)، شرکت نظارت بر محتوای مبتنی بر ابر، طراحی شده است گفته‌های توهین‌آمیز را در تکه‌های ده ثانیه‌ای ویدیو شناسایی کرده و محتوا را در اختیار ناظران انسانی یوبو قرار می‌دهد. سپس ناظران می‌توانند پس از بررسی اقدامات لازم را اتخاذ کنند و برای مثال کاربر را معلق کرده یا در صورت نیاز، مثلا تهدید، به نیروهای امنیتی اطلاع دهند.

 

دوراند می‌گوید: «اگر حرف‌های نژادپرستانه بزنید یا زورگویی کنید، اقدام می‌کنیم.»

 

دوراند می‌گوید، استفاده از یک سری کلمات یا جملات لزوما به معنی خطا نیست و ناظران انسانی هم بر این فرایند نظارت دارند. همچنین پخش موسیقی در پس زمینه یا آهنگ خواندن کاربر هم ممکن است به هشدار اشتباه منتهی شود.

 

او می‌گوید: «کاربر ممکن است برخی کلمات را با نیت خوب به گونه متفاوتی استفاده کند.»

 

تا به اینجا کار طرح نظارت خودکار بر محتوا برای زبان انگلیسی در ایالات متحده، انگلستان، استرالیا و کانادا عرضه شده است. به گفته دوراند یوبو در آینده این قابلیت را در دیگر کشورها و زبان‌ها از جمله اسپانیایی و فرانسه نیز عرضه می‌کند.

 

گزینه برای گزارش محتوای حساس از سوی کاربران نیز وجود دارد و یوبو با گذشت زمان هوش مصنوعی خود را تقویت کرده و عملکرد نظارتی را بهبود می‌بخشد.

 

به گفته این شرکت،‌ متون کوچکی که نرم‌افزار یوبو از گفته‌های کاربران گردآوری می‌کند، حتی آنهایی که توهین‌آمیز تشخیص داده می‌شوند، معمولا پس از ۲۴ ساعت حذف می‌شود.‌ آن دسته از متونی که برای بررسی بیشتر یا ارجاع به نیروهای امنیتی نگهداری می‌شوند تا سرحد یک سال در اختیار شرکت قرار می‌گیرند. دوران می‌گوید این شرکت فرانسوی از مقرات محافظت از داده اروپا پیروی می‌کند.

 

این شرکت همچنین به تازگی از عرضه یک سیستم هوش مصنوعی برای تشخیص سن کاربران خبر داد تا بتواند بزرگسالان را از نوجوانان تفکیک کند.

 

دوراند می‌گوید: «اولویت اصلی ما محافظت از کاربران است.»