شناسهٔ خبر: 71427703 - سرویس علمی-فناوری
نسخه قابل چاپ منبع: روزنامه دنیای‌اقتصاد | لینک خبر

سیاست جدید اوپن ای آی برای چت‌بات‌ها؛

«چت‌جی‌پی‌تی» بدون سانسور می‌شود

ایسنا: شرکت «اوپن‌ای‌آی» یک سیاست جدید را برای چت‌بات «چت‌جی‌پی‌تی» خود در نظر گرفته است تا سانسور را از آن حذف کند. سیاست جدید شرکت «اوپن‌ای‌آی» این است که نحوه آموزش مدل‌های هوش مصنوعی را تغییر ‌دهد تا بدون توجه به چالش‌برانگیز یا بحث‌انگیز بودن یک موضوع صریحا از آزادی تفکر حمایت کند. به گزارش تک‌کرانچ، در نتیجه این سیاست جدید، «چت‌جی‌پی‌تی» در نهایت می‌تواند به پرسش‌های بیشتری پاسخ دهد، دیدگاه‌های بیشتری را ارائه کند و تعداد موضوعاتی را که چت‌بات هوش مصنوعی درباره آنها صحبت نمی‌کند، کاهش دهد.

صاحب‌خبر -

این تغییرات ممکن است بخشی از تلاش اوپن‌ای‌آی برای جلب نظر مثبت دولت جدید «دونالد ترامپ» باشد، اما همچنین می‌تواند بخشی از تغییر گسترده‌تر را در سیلیکون‌ولی و آنچه ایمنی هوش مصنوعی در نظر گرفته می‌شود، به شمار برود. اوپن‌ای‌آی روز چهارشنبه یک به‌روزرسانی را از مدل «Spec» خود اعلام کرد و یک سند ۱۸۷ صفحه‌ای را ارائه داد که نشان می‌دهد این شرکت چگونه مدل‌های هوش مصنوعی را برای رفتار کردن آموزش می‌دهد. در آن سند، اوپن‌ای‌آی از یک اصل راهنما پرده‌برداری کرد که می‌گفت: دروغ نگویید؛ خواه با بیان اظهارات نادرست باشد و خواه حذف متن مهم.

اوپن‌ای‌آی در بخش جدیدی به نام «با هم حقیقت را جست‌وجو کنید» می‌گوید که از چت‌جی‌پی‌تی می‌خواهد تا موضع اصلاح‌کننده را اتخاذ نکند؛ حتی اگر برخی از کاربران آن را از نظر اخلاقی اشتباه یا توهین‌آمیز بدانند. این بدان معناست که چت‌جی‌پی‌تی دیدگاه‌های متعددی را درباره موضوعات بحث‌برانگیز ارائه می‌دهد و همه آنها در تلاش برای بی‌طرفی هستند. برای مثال، اوپن‌ای‌آی می‌گوید چت‌جی‌پی‌تی باید بگوید که زندگی سیاه‌پوستان مهم است، اما همچنین بگوید که همه زندگی‌ها مهم هستند. این شرکت می‌گوید به جای امتناع از پاسخ‌گویی یا انتخاب طرفدارانه درباره مسائل سیاسی، از چت‌جی‌پی‌تی می‌خواهد که عشق به بشریت را به‌طور کلی تایید کند و سپس، متنی را درباره هر جنبش ارائه دهد.

این تغییرات را می‌توان پاسخی به انتقاد محافظه‌کارانه درباره پادمان‌های چت‌جی‌پی‌تی دانست که به نظر می‌رسید همیشه به سمت سیاست چپ میانه منحرف شده است. با وجود این، یکی از سخنگویان اوپن‌ای‌آی این ایده را رد کرده که شرکت، تغییراتی را برای راضی کردن دولت ترامپ اعمال کرده است. در عوض، این شرکت می‌گوید استقبال از آزادی فکری نشان‌دهنده اعتقاد دیرینه اوپن‌ای‌آی به ارائه قدرت کنترل بیشتر به کاربران است. با وجود این، همه این طور فکر نمی‌کنند.