به گزارش خبرگزاری آنا؛ کاخ سفید و وزارت بازرگانی آمریکا دلیل مشخصی برای این دستور ناگهانی ارائه نکردهاند، اما بررسیها نشان میدهد ردیابی یک آسیبپذیری حفاظتی یا روشی برای دور زدن بخشی از محدودیتهای ایمنی مدل Fable ۵ عامل اصلی این تصمیم بوده است. با این حال، شرکت آنتروپیک با انتشار این بیانیه تند، مخالفت صریح خود را با تصمیم دولت اعلام کرده و این اقدام را یک «سوءتفاهم بزرگ» خوانده است که ساختار تجاری صنعت هوش مصنوعی را به شدت تهدید میکند.
جزئیاتی از فرآیند دور زدن محدودیتهای ایمنی مدل
بر اساس گزارشها، ادعای دولت آمریکا درباره آسیبپذیری کلود ۵ به کشف روشی محدود برای عبور از بخشی از سازوکارهای ایمنی این مدل مربوط میشود. در این روش، پژوهشگران با استفاده از مجموعهای از دستورات خاص توانستهاند هوش مصنوعی را به تحلیل یک پایگاه کد نرمافزاری، شناسایی برخی خطاها و ارائه پیشنهادهایی برای رفع آنها وادار کنند؛ قابلیتی که در ارزیابیهای دفاعی و تحقیقات امنیت سایبری نیز کاربرد دارد. آنتروپیک اعلام کرده است پس از بررسی گزارش مبنای حکم دولت، به این نتیجه رسیده که توانایی نمایشدادهشده در این آزمایش به محصولات این شرکت محدود نیست و تمامی مدلهای پیشرفته رقیب موجود در بازار، از جمله مدل جدید شرکت اوپنایآی یعنی GPT-۵.۵، قابلیتهای مشابهی از خود نشان میدهند.
مدیریت آنتروپیک تأیید کرده است که هیچ هوش مصنوعی پرچمداری در جهان مجهز به مقاومت ۱۰۰ درصدی در برابر دور زدن محدودیتهای ایمنی نیست و به همین دلیل، این شرکت راهبرد «دفاع لایهبهلایه» را در پیش گرفته بود. این استراتژی با اعمال سیاست بحثبرانگیز ذخیره ۳۰ روزه دادههای کاربران ترکیب شده بود تا هرگونه حمله سایبری به سرعت شناسایی و خنثی شود.
خطر توقف کامل توسعه مدلهای فرامرزی
شرکت آنتروپیک در بخش پایانی بیانیه خود ضمن پوزش از مشتریان بابت این قطعی ناگهانی، مکانیزم برخورد دولت با این پرونده را خارج از اصول شفافیت و واقعیتهای فنی دانست. در متن این بیانیه آمده است:
«ما با این فرضیه که کشف یک روش محدود برای دور زدن محدودیتهای ایمنی مدل محدود و جزئی باید بهانه جمعآوری و ابطال یک مدل تجاری با صدها میلیون کاربر شود، کاملاً مخالفیم. اگر این استاندارد سختگیرانه و غیرمنطقی بخواهد برای تمام شرکتهای فعال در این حوزه اعمال شود، فرآیند توسعه و عرضه هرگونه مدل هوش مصنوعی جدید توسط تمامی شرکتهای پیشرو در جهان به طور کامل متوقف خواهد شد.»
این تعلیق اجباری دقیقاً ۱۰ روز پس از صدور فرمان اجرایی جدید دونالد ترامپ مبنی بر ایجاد یک چارچوب ارزیابی یکماهه برای سنجش ریسکهای امنیت ملی هوش مصنوعی پیش از عرضه عمومی رخ داده است. این تقابل حقوقی نشان میدهد چالشهای میان شرکتهای بزرگ فناوری و نهادهای نظارتی وارد فاز جدیدی شده است. آنتروپیک اعلام کرده که دسترسی به مدلهای قدیمیتر از جمله سری کلود ۴ بدون مشکل ادامه دارد و این شرکت در حال مذاکره فشرده با مقامات واشنگتن است تا دسترسی به کلود ۵ را در سریعترین زمان ممکن به حالت عادی بازگرداند.
انتهای پیام/