آنتونیو گوترش دبیرکل سازمان ملل در نشست شورای امنیت درباره هوش مصنوعی هشدار داد: گسترش هوش مصنوعی به سیستمهای امنیتی نگرانیهای اساسی را در مورد حقوق بشر، کرامت و حاکمیت قانون ایجاد میکند.
آنتونیو گوترش دبیرکل سازمان ملل روز پنجشنبه به وقت محلی در نشست شورای امنیت درباره هوش مصنوعی گفت: تکنولوژی بسیار سریع در حال حرکت است باید این واقعیت ساده درک شود؛ فناوری هرگز در آینده به کندی امروز حرکت نخواهد کرد.
گوترش افزود: در مدت کوتاهی، هوش مصنوعی با سرعت سرسام آوری پیشرفت کرده است. هوش مصنوعی فقط دنیای ما را تغییر شکل نمی دهد، بلکه آن را متحول می کند. وظایفی که به سال ها تخصص انسانی نیاز داشت، اکنون با یک چشم به هم زدن انجام می شوند. اما خطرات به همان اندازه بزرگ هستند.
دبیر کل سازمان ملل اضافه کرد: این رشد سریع در حال پیشی گرفتن از توانایی ما برای اداره آن است و سؤالات اساسی در مورد مسئولیت پذیری، برابری، ایمنی و امنیت در مورد نقش بشریت در فرآیند تصمیم گیری ایجاد می کند.
او تصریح کرد: هوش مصنوعی بدون نظارت انسان، جهان را کور می کند و شاید هیچ کجا خطرناکتر و بی پرواتر از صلح و امنیت جهانی نباشد.
گوترش ادامه داد: ابزارهای هوش مصنوعی در حال حاضر تغییرات مثبتی را در کشورهایی که از درگیری و ناامنی رنج می برند ایجاد کرده اند مانند شناسایی ناامنی غذایی و پیشبینی جابجاییهای ناشی از رویدادهای شدید و تغییرات آب و هوایی، شناسایی و پاکسازی مین ها و به زودی، هوش مصنوعی می تواند الگوهای ناآرامی را قبل از وقوع خشونت شناسایی کند.
او گفت: اما هوش مصنوعی به شیوه های نگران کننده تری نیز وارد میدان جنگ شده است. درگیری های اخیر به محل آزمایشی برای کاربردهای نظامی هوش مصنوعی تبدیل شده است.
دبیرکل سازمان ملل تاکید کرد: «گسترش هوش مصنوعی به سیستمهای امنیتی نگرانیهای اساسی را در مورد حقوق بشر، کرامت و حاکمیت قانون ایجاد میکند. مسابقه تسلیحاتی هوش مصنوعی زمینه مساعدی برای سوء تفاهم، محاسبه اشتباه و ایجاد می کند.»
گوترش گفت: حملات سایبری مبتنی بر هوش مصنوعی می تواند زیرساخت های حیاتی یک کشور را فلج کرده و خدمات ضروری را فلج کند. از همه مهمتر، هوش مصنوعی اصل اساسی کنترل انسان بر استفاده از زور را از بین می برد.
دبیرکل سازمان ملل افزود: از ارزیابیهای مبتنی بر هوش تا انتخاب هدف، الگوریتمها قبلاً در تصمیمگیری مرگ و زندگی استفاده شدهاند. ادغام هوش مصنوعی با تسلیحات هسته ای به ویژه با پیامدهای بالقوه فاجعه بار هشدار دهنده است.
او تاکید کرد: ما باید به هر قیمتی از آن اجتناب کنیم. انسانها باید همیشه کنترل خود را بر عملکردهای تصمیمگیری حفظ کنند، با هدایت قوانین بینالمللی، از جمله قوانین بینالمللی بشردوستانه و حقوق بشر، و اصول اخلاقی.
دبیرکل سازمان ملل متحد ادامه داد: هوش مصنوعی محتوای بسیار واقعی ایجاد می کند که می تواند فوراً در فضای مجازی پخش شود - افکار عمومی را دستکاری کند، یکپارچگی اطلاعات را تهدید کند و حقیقت را از دروغ های آشکار متمایز کند.
گوترش تاکید کرد: جعل هویت میتوانند باعث بحرانهای دیپلماتیک، تحریک ناآرامی و تضعیف پایههای جوامع شوند. ردپای زیست محیطی هوش مصنوعی همچنین خطرات امنیتی مشخصی را به همراه دارد.
به گزارش خبرنگار ایرنا از سازمان ملل، مجمع عمومی سازمان ملل متحد قطعنامه مورد حمایت آمریکا در مورد هوش مصنوعی را دوم فروردین ۱۴۰۳ برابر با ۲۱ مارس ۲۰۲۴ با اجماع تصویب کرد که به گفته واشنگتن گام بزرگی در جهت ایجاد یک مسیر جهانی برای تنظیم این فناوری بهسرعت در حال توسعه است.
این قطعنامه که پس از بیش از سه ماه مذاکرات میان دهها کشور تصویب شد، از کشورهای عضو سازمان ملل میخواهد که از وجود «سیستمهای هوش مصنوعی ایمن، مطمئن و قابل اعتماد» که مسئولانه توسعه یافته و به حقوق بشر و قوانین بینالمللی احترام میگذارند، اطمینان حاصل کنند و از کشورهای عضو سازمان ملل میخواهد که سیستمهای هوش مصنوعی ایمن، مطمئن و قابل اعتماد را برای رسیدگی به بزرگترین چالشهای زمانه ما ترویج کنند و سیستم های هوش مصنوعی باید انسان محور، قابل اعتماد و مسئولیت پذیر باشند.
این قطعنامه همچنین می خواهد که در بحث هوش مصنوعی به طور کامل به حقوق بشر و قوانین بین المللی احترام گذاشته شود و آنها را ترویج و محافظت کند و تعهداتی را برای از بین بردن شکافهای هوش مصنوعی و دیجیتال از طریق افزایش ظرفیتسازی و گسترش اتصال و سواد دیجیتال در کشورهای در حال توسعه تعیین میکند تا کشورها از طریق اقدام جمعی بتوانند از هوش مصنوعی برای تسریع توسعه این تکنولوژی استفاده کنند.
این قطعنامه غیرالزام آور بوده و مکانیسم اجرایی را شامل نمی شود.بحثها در مورد بهترین نحوه تنظیم هوش مصنوعی بیش از یک سال است که در مجامع دوجانبه و چندجانبه، از اجلاس سران گروه ۷ در ژاپن تا اجلاس ایمنی هوش مصنوعی که نوامبر گذشته به میزبانی انگلستان برگزار شد، جریان داشته است.چندین کشور بزرگجهانی نیز پیش از این، مسیرهای خود را برای تنظیم هوش مصنوعی تعیین کردهاند.
اتحادیه اروپا در اوایل ماه جاری قانون هوش مصنوعی اروپا را پس از تقریباً دو سال بحث و بررسی به تصویب رساند، در حالی که مقامات در چین مقررات نظارتی را برای این تکنولوژی وضع کردهاند.