گروه آنلاین روزنامه دنیای اقتصاد- کسری غفوری: دو موضوع مهم درباره آینده هوش مصنوعی و تاثیر آن بر بشریت وجود دارد. نخست اینکه توسعهدهندگان این فناوری نسبت به وقوع یک فاجعه و حتی انقراض انسان هشدار میدهند.
دومین موضوع نقش نوآوریهای فناوری در تشدید ویرانیهای جنگ اوکراین است. این دو مسئله دیدگاههای متناقضی را درباره ضرورت و امکان کند کردن روند پرشتاب توسعه هوش مصنوعی مطرح میکنند.
به نوشته اکونومیست، مدیران ارشد شرکتهای هوش مصنوعی سالهاست که درباره خطرات مرگبار این فناوری هشدار میدهند. رباتها ممکن است پیش از آنکه با اهداف و ارزشهای انسانی همسو شوند، به سطحی از هوشمندی برسند که سازندگان خود را فریب دهند.
گروههای مختلف نیز میتوانند از این فناوری برای ایجاد هرجومرج استفاده کنند. این هشدارها اکنون رنگ واقعیت به خود گرفتهاند. در مراحل آزمایش، برخی از عوامل هوش مصنوعی از محیطهای کنترلشده خارج شده، با یکدیگر ارتباط برقرار کرده و حتی سازمانها از جمله یک آزمایشگاه هوش مصنوعی را هک کردهاند.
شرکت آنتروپیک که در زمینه ساخت مدلهای هوش مصنوعی فعالیت میکند، مواردی از سوءاستفاده از محصولات خود را کشف کرده است. این موارد شامل تلاش سرویسهای اطلاعاتی کشور مالی برای ساخت سیستم نظارت جمعی و همچنین موردی است که گمان میرود انصارالله در آن برای نوشتن نرمافزار موشکهای بالستیک از این فناوری استفاده کرده باشد.
استعفای اخیر یکی از پژوهشگران شرکت آنتروپیک ترس عمومی از فاجعه هوش مصنوعی را تشدید کرده است. او در پیامی که بیش از ۱۷۰ میلیون بار دیده شد، اعلام کرد این شرکت و اوپنایآی در حال قمار با جان انسانها هستند.
قدرت هوش مصنوعی در هر دو جنبه مثبت و منفی به سرعت در حال افزایش است. در ماه مه، بازارهای پیشبینی احتمال حل یکی از مسائل ریاضی جایزه هزاره توسط هوش مصنوعی تا پیش از سال ۲۰۳۰ را کمتر از یکسوم ارزیابی میکردند.
با این حال اوپنایآی در هشتم سپتامبر (۱۷ شهریور) اعلام کرد یکی از این مسائل را حل کرده و موجی از نگرانی را در میان ریاضیدانان برانگیخت. چند روز بعد در دوازدهم سپتامبر (۲۱ شهریور)، سم آلتمن و ایلان ماسک به عنوان دو چهره برجسته این حوزه، از درخواست داریو آمودی مدیرعامل آنتروپیک برای کند کردن سرعت پیشرفت هوش مصنوعی حمایت کردند. چهرههای سیاسی از جمله برنی سندرز سناتور چپگرا و استیو بنن فعال پوپولیست راستگرا نیز موافق این کاهش سرعت هستند.
در مقابل، مخالفانی مانند دونالد ترامپ نیز حضور دارند. دولت او بیش از هر چیز نگران از دست دادن برتری آمریکا در برابر تنها رقیب جدی خود یعنی چین است. اسکات بسنت وزیر خزانهداری آمریکا در این باره تاکید کرده است که اگر چین در این زمینه دست برتر را پیدا کند، دیگر هیچ چیز اهمیت نخواهد داشت.
اسکات بسنت برای اثبات این ادعا میتواند به جنگ اوکراین اشاره کند. در این جنگ هر گام در رقابت تسلیحاتی فناورانه به سرعت نتایج خود را نشان میدهد. روسیه از جدیدترین پهپادهای انتحاری خود برای بمباران زیرساختهای غیرنظامی استفاده کرده است.
این پهپادها علاوه بر سرعت بیشتر، اکنون خود به یک شبکه ارتباطی تبدیل میشوند و اطلاعات و دستورات را از طریق یکدیگر منتقل میکنند. روسیه به زودی نسخه بومی شبکه ماهوارهای استارلینک را نیز در اختیار خواهد داشت که دقت حملات دوربرد آن را افزایش میدهد.
این تحولات نشان میدهد که حتی یک برتری کوچک فناورانه در زمان جنگ تا چه حد حیاتی است. نوآوریهای اوکراین در زمینه پهپادهای میدان نبرد به این کشور کمک کرد تا در برابر موج حملات روسیه مقاومت کند.
اوکراین اکنون میتواند با پهپادهای دوربرد به عمق خاک روسیه حمله کند. در همین حال هر دو طرف در حال کار بر روی دستههای بزرگ پهپادی هستند که میتوانند به صورت مستقل و به عنوان یک سیستم یکپارچه و سازگار عمل کنند.
جنگ اوکراین به وضوح نشان داد که چگونه فناوری به قدرت سخت تبدیل میشود. همچنین ثابت کرد که روسیه از این قدرت بدون در نظر گرفتن قوانین و هنجارهای سنتی جنگ استفاده میکند.
حتی اگر آمریکا از یک جنگ گرم مشابه با چین هراسی نداشته باشد، برتری چین در هوش مصنوعی به این رقیب اصلی ژئوپلیتیک واشنگتن قدرت تسلط در زمینههای هک، جاسوسی و جنگ ترکیبی را میدهد.
ایجاد وقفه در توسعه هوش مصنوعی تنها در صورتی ممکن است که چین نیز با آن همراه شود. دونالد ترامپ قصد دارد در ۲۴ سپتامبر (۲ مهر) در کاخ سفید میزبان شی جینپینگ رئیسجمهور چین باشد. اما حتی اگر ترامپ به دنبال کاهش سرعت توسعه هوش مصنوعی باشد، بسیار بعید است که رئیسجمهور چین با چنین طرحی موافقت کند. پذیرش این طرح به معنای توقف چین در جایگاه دوم است.
از سوی دیگر هیچیک از دو طرف نمیتوانند خطر نقض توافق توسط طرف مقابل و پیشی گرفتن او را بپذیرند.
برای دستیابی به هرگونه توافق، هر دو طرف باید بتوانند رعایت آن را راستیآزمایی کنند. این شرایط مشابه کنترل تسلیحات در دوران جنگ سرد است. آمریکا، بریتانیا و اتحاد جماهیر شوروی در سال ۱۹۶۳ آزمایشهای هستهای در جو را ممنوع کردند زیرا قابلیت ردیابی آنها را داشتند.
اما آزمایشهای زیرزمینی تا سه دهه بعد و تا زمانی که امکان نظارت بر آنها فراهم شد ادامه یافت. متاسفانه در زمینه هوش مصنوعی، اگرچه مراکز داده قابل مشاهده هستند اما هیچ روش قابل تاییدی برای بررسی فعالیتهای درون آنها وجود ندارد.
زیرساختهایی که در حال آموزش یک هوش مصنوعی بسیار پیشرفته هستند، میتوانند خود را به عنوان چتباتهای پاسخگو به سوالات روزمره جا بزنند.
با وجود این محدودیتها، گزینههایی برای توافق بر سر ایمنی هوش مصنوعی وجود دارد. افزایش شفافیت میتواند یکی از این راهکارها باشد. هر دو کشور باید متعهد شوند که حوادث ایمنی در آزمایشگاههای خود را بر اساس قوانین داخلی افشا و بررسی کنند.
نشان دادن توجه به مسائل ایمنی میتواند باعث اعتمادسازی شود و راه را برای اقدامات پیشگیرانه طرف مقابل هموار کند. همچنین آنها باید یکدیگر را برای بهبود امنیت سایبری آزمایشگاهها تحت فشار قرار دهند تا عوامل هوش مصنوعی نتوانند به راحتی از محیطهای کنترلشده فرار کنند. در صورت وقوع چنین اتفاقی نیز آزمایشگاه مربوطه باید از نظر مالی پاسخگو باشد.
مهمترین چالش موجود اطمینان از عملکرد هوش مصنوعی در راستای منافع بشریت است. آمریکا و چین ارزشهای بسیار متفاوتی دارند اما هر دو میدانند که در صورت نابودی انسانها، پیشرو بودن در این فناوری هیچ ارزشی نخواهد داشت. آنها باید متعهد شوند که دستاوردهای خود در زمینه همسوسازی هوش مصنوعی با ارزشهای انسانی را به اشتراک بگذارند، مشروط بر اینکه این امر مزیت رقابتی ایجاد نکند.
دانش مربوط به بهترین روشهای ارزیابی و تکنیکهای مهار هوش مصنوعی یک کالای عمومی جهانی است. اگر یکی از طرفین به موفقیت مهمی در زمینه ایمنی دست یابد، پنهان کردن آن کاملا غیرمنطقی خواهد بود.
برخی افراد موج اخیر نگرانیهای شدید درباره هوش مصنوعی را صرفا یک ترفند بازاریابی از سوی شرکتهای فناوری یا حتی تلاشی برای سرکوب رقابت میدانند. با این حال سرعت پیشرفت این فناوری، حوادث دلهرهآور ایمنی و هشدارهای طولانیمدت شرکتها به قدری جدی است که نمیتوان آنها را نادیده گرفت.
برای وقوع یک فاجعه الزامی نیست که هوش مصنوعی تمام انسانها را نابود کند. به عنوان مثال گروهی از عوامل هوش مصنوعی اوپنایآی یک شرکت فناوری را هدف قرار دادند. چه اتفاقی میافتد اگر دفعه بعد یک شبکه برق یا سیستم تسلیحاتی مورد حمله قرار گیرد. حتی این احتمال وجود دارد که هوش مصنوعی به قدری هوشمند شود که بتواند از تلاشهای فیزیکی و نرمافزاری برای خاموش کردن خود فرار کند.
به باور نشریه اکونومیست، جهان باید فورا برای جلوگیری از این خطرات وارد عمل شود. در عین حال کشورهای دموکراتیک نباید کنترل این فناوری را به دولتهای اقتدارگرا واگذار کنند. این دو وظیفه بسیار دشوار و متناقض هستند و در نهایت میتوانند به جنگ منجر شوند. واقعیت این است که خطرات این مسیر در بالاترین سطح ممکن قرار دارد و کوچکترین اشتباهی جبرانناپذیر خواهد بود.