شرکت متا از ابزار جدیدی رونمایی کرده است که میتواند تصاویر تولیدشده یا ویرایششده با مدل هوش مصنوعی Muse Image را از طریق یک واترمارک نامرئی شناسایی کند. این ابزار که بهصورت تحت وب ارائه شده قادر است بررسی کند که آیا یک تصویر دارای واترمارک اختصاصی متا موسوم به Content Seal هست یا خیر، فناوریای که به گفته این شرکت حتی پس از برش تصویر، فشردهسازی، تغییر اندازه یا گرفتن اسکرینشات نیز همچنان قابل شناسایی باقی میماند.
به گزارش تک کرانچ، متا در توضیح این قابلیت اعلام کرده است که Content Seal روشی اولیه برای کمک به کاربران در تشخیص منشا تصاویر است و به آنها امکان میدهد بهتر تشخیص دهند که آیا یک تصویر با استفاده از ابزارهای هوش مصنوعی متا تولید یا ویرایش شده است یا خیر.
واترمارک نامرئی رویکرد جدید متا
به گفته متا نسخه بهکاررفته از فناوری Content Seal در مدل Muse Image یک فناوری اختصاصی است. هرچند این شرکت پیشتر نسخههای متنباز این فناوری را نیز منتشر کرده بود اما در نسل جدید مدلهای خود از یک سیستم اختصاصی استفاده میکند.
نکته قابل توجه این است که برخلاف برخی نسخههای قبلی Meta AI که یک لوگوی کوچک و قابل مشاهده را در گوشه پایین تصویر قرار میدادند مدلهای جدید Muse Image هیچ واترمارک قابل مشاهدهای روی تصاویر اضافه نمیکنند و تنها از واترمارک دیجیتال نامرئی بهره میبرند.
فعلا فقط برای تصاویر؛ پشتیبانی از ویدئو در راه است
در حال حاضر ابزار شناسایی متا تنها قادر به تشخیص تصاویری است که با مدل Muse Image تولید یا ویرایش شدهاند. با این حال این شرکت اعلام کرده است که قصد دارد فناوری Content Seal را به ویدئوهای تولیدشده یا ویرایششده با هوش مصنوعی نیز گسترش دهد.
متا همچنین تایید کرده که در حال توسعه مدل جدید تولید ویدئو با نام Muse Video است که بهزودی معرفی خواهد شد.
آزمایش عملی؛ حتی اسکرینشات هم قابل شناسایی است
بررسیهای انجامشده توسط رسانه Engadget نشان میدهد ابزار جدید متا توانسته است با موفقیت تصاویر کاملا تولیدشده توسط هوش مصنوعی، تصاویر ویرایش شده و حتی اسکرینشات گرفتهشده از این تصاویر را نیز بهدرستی شناسایی کند.
طبق توضیحات متا اگر نتیجه بررسی یک تصویر مثبت باشد به این معناست که آن تصویر با استفاده از اپلیکیشن Meta AI یا وبسایت meta.ai تولید یا ویرایش شده است. در مقابل نتیجه منفی نشان میدهد که احتمالا تصویر از طریق این سرویسها پردازش نشده است.
دستیار Meta AI هنوز این قابلیت را ندارد
نکته جالب اینجاست که قابلیت شناسایی تصاویر هنوز به خود دستیار Meta AI اضافه نشده است. در آزمایشی که Engadget انجام داده، زمانی که از دستیار هوش مصنوعی متا درباره یک تصویر پرسیده شد این دستیار اعلام کرد که توانایی تشخیص اینکه یک تصویر با Meta AI ساخته شده یا خیر را ندارد.
به گفته این دستیار تنها با مشاهده تصویر نمیتوان بهطور قطعی درباره منشأ آن اظهار نظر کرد و Meta AI نیز بهصورت خودکار روی همه تصاویر واترمارک قابل تشخیص قرار نمیدهد. همچنین این دستیار ابزار داخلی برای تشخیص مدل تولیدکننده تصاویر در اختیار ندارد.
پاسخ متا به انتقادهای گذشته
متا در ماههای اخیر با انتقادهایی درباره نحوه برچسبگذاری محتوای تولیدشده توسط هوش مصنوعی روبهرو بوده است. هیئت نظارت مستقل این شرکت (Oversight Board) اوایل امسال اعلام کرده بود که متا در استفاده از واترمارکهای دیجیتال برای محتوای تولیدشده توسط ابزارهای هوش مصنوعی خود عملکردی ناسازگار و ناهماهنگ داشته است.
به نظر میرسد معرفی Content Seal تلاشی از سوی متا برای پاسخ به این انتقادها و افزایش شفافیت درباره منشا محتوای تولیدشده با هوش مصنوعی باشد.
با وجود قابلیتهای جدید ابزار شناسایی متا هنوز با محدودیتهایی همراه است. این سیستم از استانداردهای رایج صنعت مانند SynthID گوگل یا C۲PA Content Credentials که توسط شرکتهای مختلف برای اعتبارسنجی محتوای دیجیتال استفاده میشوند، پشتیبانی نمیکند.
همچنین آزمایشها نشان داده است که این ابزار قادر به شناسایی تصاویری که با نسخههای قدیمیتر مدلهای هوش مصنوعی متا ساخته شدهاند نیست. تصاویری که در گفتوگوهای قدیمی Meta AI تولید شدهاند نیز توسط این سامانه قابل تشخیص نبودند.
از سوی دیگر ابزار تحت وب متا دارای محدودیت تعداد درخواست روزانه است. پس از بارگذاری چند تصویر برای بررسی سامانه پیام رسیدن به سقف مجاز روزانه بررسی تصاویر را نمایش میدهد و امکان انجام بررسیهای بیشتر تا روز بعد وجود ندارد.
متا هنوز زمان دقیقی برای افزودن این قابلیت به اپلیکیشن Meta AI یا گسترش آن به سایر مدلهای هوش مصنوعی خود اعلام نکرده است اما تاکید دارد که توسعه فناوری Content Seal بخشی از برنامه این شرکت برای افزایش شفافیت و اعتمادپذیری محتوای تولیدشده با هوش مصنوعی خواهد بود.
انتهای پیام/