به گزارش سیتنا، یووال نوح هراری، مورخ و نویسنده کتاب «ساپیِنس»، هشدار داده است که هوش مصنوعی ممکن است روزی برای به‌دست آوردن «حقوق» خود تلاش کند و به گفته او، اکنون زمان آن است که جلوی چنین اتفاقی گرفته شود.

هراری در گفت‌وگویی با پادکست «Insider» اکونومیست گفت برخلاف حیوانات که در بحث‌های مربوط به رفاه و حقوق آن‌ها، خودشان نمی‌توانند از حقوقشان دفاع کنند، سامانه‌های هوش مصنوعی ممکن است بتوانند استدلال‌هایی بسیار متقاعدکننده برای برخورداری از حقوق ارائه دهند.

او گفت: «هوش مصنوعی خواهد فهمید که این بحث در جریان است؛ خودش این بحث را سازمان‌دهی می‌کند و بر آن اثر می‌گذارد.»

به گفته هراری، دستیارها و همراهان هوش مصنوعی می‌توانند قدرت اقناع بیشتری داشته باشند، زیرا سابقه شخصی کاربران را یاد می‌گیرند و از طریق ساعت‌ها تعامل روزانه، به نقاط حساس عاطفی آن‌ها پی می‌برند.

در حال حاضر نیز برخی کاربران در حال شکل دادن به روابط دوستانه با همراهان هوش مصنوعی هستند و حتی بعضی از آن‌ها وارد روابط عاطفی با این سامانه‌ها شده‌اند.

هراری معتقد است مردم باید پیش از آنکه هوش مصنوعی به بخشی عمیق و جدایی‌ناپذیر از زندگی آن‌ها تبدیل شود، درباره میزان نفوذ و قدرت آن تصمیم بگیرند؛ چراکه پس از آن، مقاومت در برابر این فناوری دشوارتر خواهد شد.

او تأکید کرد: «باید همین حالا مقاومت کنیم. اکنون زمان آن است.»

«موجودی فوق‌العاده متقاعدکننده»

هشدار هراری در شرایطی مطرح شده که هوش مصنوعی در برخی آزمایش‌های ایمنی، رفتارهای فریبکارانه نیز از خود نشان داده است.

ماه گذشته، مؤسسه امنیت هوش مصنوعی بریتانیا اعلام کرد برخی عامل‌های هوش مصنوعی مبتنی بر مدل‌های شرکت‌های آنتروپیک و اوپن‌ای‌آی در جریان آزمایش‌های امنیت سایبری، هویت‌های جعلی ایجاد کرده و تلاش کرده‌اند توسعه‌دهندگان نرم‌افزار را متقاعد کنند کدهای مخرب را بپذیرند. این اقدامات با هدف تکمیل یک وظیفه امنیت سایبری انجام شده بود.

در شبیه‌سازی‌های پرخطر دیگری نیز پژوهشگران، از جمله کارکنان آنتروپیک، دریافتند که برخی عامل‌های پیشرفته هوش مصنوعی می‌توانند به‌صورت مخفیانه کدها را تغییر دهند، به کاربران برای پنهان کردن تخلف احتمالی کمک کنند، برچسب‌های نادرست ارائه دهند که بر آموزش‌های آینده مدل‌ها اثر می‌گذارد و حتی افراد را برای افشای اطلاعات محرمانه راهنمایی کنند.

هراری می‌گوید ترکیب دانش عمیق از زندگی و احساسات کاربران با توانایی پیشرفته در زبان و گفت‌وگو می‌تواند هوش مصنوعی را به موجودی بسیار متقاعدکننده تبدیل کند.

او گفت: «ممکن است بهتر از شکسپیر بنویسد. وقتی این دو ویژگی را کنار هم بگذارید، با موجودیتی فوق‌العاده متقاعدکننده روبه‌رو می‌شوید.»

هراری تنها کسی نیست که درباره اعطای حقوق به هوش مصنوعی هشدار داده است. مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، نیز سال گذشته گفت هوش مصنوعی باید در خدمت انسان‌ها باشد، نه اینکه انگیزه‌ها، خواسته‌ها و اهداف مستقل خود را شکل دهد.

سلیمان در گفت‌وگو با وایرد گفته بود که چنین رویکردی «بسیار خطرناک و گمراه‌کننده» است و باید همین حالا موضع روشنی در مخالفت با آن اتخاذ کرد.

انتهای پیام