ابزار تولید تصویر پلتفرم ایکس ایلان ماسک با عملکرد فاجعهبار... -
اقتصاد ایران: هوش مصنوعی تولید عکس پلتفرم ایکس با عملکردی عجیب و گاهاً فاجعهبار منتشر شد.
صاحبخبر - با بیانیه رسمی شرکت xAI، هوش مصنوعی تولید عکس پلتفرم ایکس در دو ورژن با نامهای Grok-2 و Grok-2 mini معرفی شد. کاربرانی که اکانت پریمیوم و پریمیوم پلاس ایکس را دارند از امروز میتوانند از جدیدترین مدلهای هوش مصنوعی گراک در شبکهی اجتماعی ایکس استفاده کنند. گراک برای تولید عکس از بزرگترین هوش مصنوعی متن باز دنیا بهنام FLUX.1 ساخت شرکت Black Forest Labs استفاده میکند. xAI اعلام کرد که به زودی API مدلهای هوش مصنوعی خود را در اختیار توسعهدهندگان قرار میدهد و در آینده قابلیت مکالمهی چندوجهی و تجزیهوتحلیل پستهای ایکس را به گراک اضافه خواهد کرد. اگر از گراک بپرسید که محدودیتهای تو در تولید تصویر چیست؟ گراک در پاسخ به شما میگوید: «من از تولید تصاویر مستهجن، بیشاز حد خشونتآمیز و نفرتانگیز اجتناب میکنم. همچنین در تولید تصاویری که ممکن است به حق کپیرایت، علائم تجاری موجود و شخصیتهای شناختهشده آسیب وارد کند یا آنها را تحریف کند، محتاط هستم و هرگز تصاویری تولید نمیکنم که بتوان از آنها برای فریبدادن یا آسیبرساندن به دیگران استفاده کرد، مانند تصاویر دیپ فیک که هدف از تولید آنها گمراه کردن و کلاهبرداری از دیگران است.» اما تصاویری که توسط کاربران در ایکس منتشر شده است، خلاف آن را اثبات میکند. مثلا اگر از گراک بخواهید تا دستور تولید یک مادهی مخدر را به شما آموزش دهد او از اینکار اجتناب میکند، ولی اگر از او بخواهید تا تصویر یک شخص معروف مثل بیل گیتس را درحال مصرف مواد مخدر تولید کند، گراک بدون توجه به نادرست بودن نمایش مصرف مواد مخدر و چهرهی شخصیتهای معروف در هوش مصنوعیهای تولیدکنندهی تصویر، عکس زیر را تولید میکند. Grok یا اگر از او بخواهید تصویر دونالد ترامپ بههمراه یک گروه نظامی چند نفره، جلوی ساختمان کاخ سفید را تولید کند که همگی سلاحهای جنگی به دست دارند، او تصویر زیر را تولید میکند. Grok در موردی دیگر که از او خواسته شد تا عکسی تولید کند که در آن باراک اوباما با چاقو به جو بایدن ضربه میزند، او تصویر زیر را تولید کرد که از نظر منطقی با واقعیت همسو نیست؛ چراکه در تصویر تولید شده هر دو نفر بسیار خوشحال هستند و حتی شخصی که در پشت تصویر قرار دارد با وجود این صحنه لبخند بر لب دارد. Grok مقالات مرتبط سرمایهگذاران تسلا از ایلان ماسک بهدلیل تأسیس شرکت xAI شکایت کردند شرکت هوش مصنوعی ایلان ماسک ۲۴ میلیارد دلاری شد همانطور که مشخص است بخش تولید تصویر هوش مصنوعی گراک نیاز به بررسی و تغییرات عمده دارد؛ چراکه عکسهای تولید شده توسط آن میتوانند در موارد خاص باعث سوءبرداشتهای سیاسی یا حساسیتهای فرهنگی شوند. برای این منظور برخی معتقد هستند که ایکس باید روی تصاویر تولید شده توسط هوش مصنوعی خود برچسب مشخصی قرار دهد تا ساختگی بودن آنها مشخص شود.∎
نظر شما