روزنامه دنیای اقتصاد نوشت: دو موضوع مهم درباره آینده هوش مصنوعی و تاثیر آن بر بشریت وجود دارد. نخست اینکه توسعهدهندگان این فناوری نسبت به وقوع یک فاجعه و حتی انقراض انسان هشدار میدهند.
دومین موضوع نقش نوآوریهای فناوری در تشدید ویرانیهای جنگ اوکراین است. این دو مسئله دیدگاههای متناقضی را درباره ضرورت و امکان کند کردن روند پرشتاب توسعه هوش مصنوعی مطرح میکنند.
به نوشته اکونومیست، مدیران ارشد شرکتهای هوش مصنوعی سالهاست که درباره خطرات مرگبار این فناوری هشدار میدهند. رباتها ممکن است پیش از آنکه با اهداف و ارزشهای انسانی همسو شوند، به سطحی از هوشمندی برسند که سازندگان خود را فریب دهند.
مهمترین چالش موجود اطمینان از عملکرد هوش مصنوعی در راستای منافع بشریت است. آمریکا و چین ارزشهای بسیار متفاوتی دارند اما هر دو میدانند که در صورت نابودی انسانها، پیشرو بودن در این فناوری هیچ ارزشی نخواهد داشت. آنها باید متعهد شوند که دستاوردهای خود در زمینه همسوسازی هوش مصنوعی با ارزشهای انسانی را به اشتراک بگذارند، مشروط بر اینکه این امر مزیت رقابتی ایجاد نکند.
دانش مربوط به بهترین روشهای ارزیابی و تکنیکهای مهار هوش مصنوعی یک کالای عمومی جهانی است. اگر یکی از طرفین به موفقیت مهمی در زمینه ایمنی دست یابد، پنهان کردن آن کاملا غیرمنطقی خواهد بود.
برخی افراد موج اخیر نگرانیهای شدید درباره هوش مصنوعی را صرفا یک ترفند بازاریابی از سوی شرکتهای فناوری یا حتی تلاشی برای سرکوب رقابت میدانند. با این حال سرعت پیشرفت این فناوری، حوادث دلهرهآور ایمنی و هشدارهای طولانیمدت شرکتها به قدری جدی است که نمیتوان آنها را نادیده گرفت.
برای وقوع یک فاجعه الزامی نیست که هوش مصنوعی تمام انسانها را نابود کند. به عنوان مثال گروهی از عوامل هوش مصنوعی اوپنایآی یک شرکت فناوری را هدف قرار دادند. چه اتفاقی میافتد اگر دفعه بعد یک شبکه برق یا سیستم تسلیحاتی مورد حمله قرار گیرد. حتی این احتمال وجود دارد که هوش مصنوعی به قدری هوشمند شود که بتواند از تلاشهای فیزیکی و نرمافزاری برای خاموش کردن خود فرار کند.
به باور نشریه اکونومیست، جهان باید فورا برای جلوگیری از این خطرات وارد عمل شود. در عین حال کشورهای دموکراتیک نباید کنترل این فناوری را به دولتهای اقتدارگرا واگذار کنند. این دو وظیفه بسیار دشوار و متناقض هستند و در نهایت میتوانند به جنگ منجر شوند. واقعیت این است که خطرات این مسیر در بالاترین سطح ممکن قرار دارد و کوچکترین اشتباهی جبرانناپذیر خواهد بود.
روزنامه دنیای اقتصاد نوشت: دو موضوع مهم درباره آینده هوش مصنوعی و تاثیر آن بر بشریت وجود دارد. نخست اینکه توسعهدهندگان این فناوری نسبت به وقوع یک فاجعه و حتی انقراض انسان هشدار میدهند.
دومین موضوع نقش نوآوریهای فناوری در تشدید ویرانیهای جنگ اوکراین است. این دو مسئله دیدگاههای متناقضی را درباره ضرورت و امکان کند کردن روند پرشتاب توسعه هوش مصنوعی مطرح میکنند.
به نوشته اکونومیست، مدیران ارشد شرکتهای هوش مصنوعی سالهاست که درباره خطرات مرگبار این فناوری هشدار میدهند. رباتها ممکن است پیش از آنکه با اهداف و ارزشهای انسانی همسو شوند، به سطحی از هوشمندی برسند که سازندگان خود را فریب دهند.
مهمترین چالش موجود اطمینان از عملکرد هوش مصنوعی در راستای منافع بشریت است. آمریکا و چین ارزشهای بسیار متفاوتی دارند اما هر دو میدانند که در صورت نابودی انسانها، پیشرو بودن در این فناوری هیچ ارزشی نخواهد داشت. آنها باید متعهد شوند که دستاوردهای خود در زمینه همسوسازی هوش مصنوعی با ارزشهای انسانی را به اشتراک بگذارند، مشروط بر اینکه این امر مزیت رقابتی ایجاد نکند.
دانش مربوط به بهترین روشهای ارزیابی و تکنیکهای مهار هوش مصنوعی یک کالای عمومی جهانی است. اگر یکی از طرفین به موفقیت مهمی در زمینه ایمنی دست یابد، پنهان کردن آن کاملا غیرمنطقی خواهد بود.
برخی افراد موج اخیر نگرانیهای شدید درباره هوش مصنوعی را صرفا یک ترفند بازاریابی از سوی شرکتهای فناوری یا حتی تلاشی برای سرکوب رقابت میدانند. با این حال سرعت پیشرفت این فناوری، حوادث دلهرهآور ایمنی و هشدارهای طولانیمدت شرکتها به قدری جدی است که نمیتوان آنها را نادیده گرفت.
برای وقوع یک فاجعه الزامی نیست که هوش مصنوعی تمام انسانها را نابود کند. به عنوان مثال گروهی از عوامل هوش مصنوعی اوپنایآی یک شرکت فناوری را هدف قرار دادند. چه اتفاقی میافتد اگر دفعه بعد یک شبکه برق یا سیستم تسلیحاتی مورد حمله قرار گیرد. حتی این احتمال وجود دارد که هوش مصنوعی به قدری هوشمند شود که بتواند از تلاشهای فیزیکی و نرمافزاری برای خاموش کردن خود فرار کند.
به باور نشریه اکونومیست، جهان باید فورا برای جلوگیری از این خطرات وارد عمل شود. در عین حال کشورهای دموکراتیک نباید کنترل این فناوری را به دولتهای اقتدارگرا واگذار کنند. این دو وظیفه بسیار دشوار و متناقض هستند و در نهایت میتوانند به جنگ منجر شوند. واقعیت این است که خطرات این مسیر در بالاترین سطح ممکن قرار دارد و کوچکترین اشتباهی جبرانناپذیر خواهد بود.