روز جهانی ریشه‌کنی فقر که هر ساله در ۱۷ اکتبر برگزار می‌شود، بر لزوم مقابله با فقر و نابرابری‌های اجتماعی تأکید دارد. در مورد نقش هوش مصنوعی در رفع فقر، دیدگاه‌ها متفاوت است. هوش مصنوعی می‌تواند با بهبود دسترسی به آموزش، سلامت، و خدمات مالی به کاهش نابرابری کمک کند و فرصت‌های شغلی جدیدی ایجاد نماید؛ اما در مقابل، خودکارسازی مشاغل و تمرکز فناوری در دست نخبگان، می‌تواند شکاف میان فقرا و ثروتمندان را بیشتر کند. موفقیت هوش مصنوعی در ریشه‌کنی فقر بستگی به سیاست‌گذاری‌های عادلانه، آموزش مهارت‌های جدید و دسترسی برابر به فناوری دارد. بدون این اقدامات، ممکن است هوش مصنوعی تنها نابرابری‌های موجود را تقویت کند.

 هوش مصنوعی در بخش‌های مختلف زندگی ما نفوذ کرده است؛ از موتورهای جستجو مانند گوگل گرفته تا تشخیص کلاهبرداری در کارت‌های اعتباری. باوجود پیشرفت‌های چشمگیر، پرسشی مهم مطرح است: آیا می‌توان به الگوریتم‌هایی که این سیستم‌ها را هدایت می‌کنند، اعتماد کرد؟

 ما انسان‌ها گاهی دچار خطا می‌شویم، تمرکز خود را از دست می‌دهیم یا داده‌ها را نادرست تفسیر می‌کنیم. اما یکی از توانایی‌های ارزشمند ما، بازبینی و اصلاح اشتباهات است. در مقابل، سیستم‌های هوش مصنوعی چنین انعطاف‌پذیری را ندارند. اگر الگوریتمی مبتنی بر داده‌های نادرست یا مغرضانه آموزش داده شود، حتی اگر چندین‌باره همان داده‌ها را تحلیل کند، باز هم نتایج نادرست را تکرار می‌کند.

 سوگیری الگوریتمی چگونه به وجود می‌آید؟

 سوگیری الگوریتمی زمانی رخ می‌دهد که داده‌های آموزشی ناکافی یا طراحی و تنظیم نادرست سیستم باعث ایجاد نتایج ناعادلانه شود.

 برای مثال، یک سیستم هوش مصنوعی که بانک‌ها از آن برای تصمیم‌گیری در مورد اعطای وام استفاده می‌کنند، معمولاً با داده‌های گذشته بانک و سایر اطلاعات در دسترس آموزش می‌بیند. این سیستم با مقایسه اطلاعات متقاضی جدید (مانند سابقه مالی، وضعیت شغلی و اطلاعات جمعیتی) با داده‌های متقاضیان قبلی، سعی می‌کند پیش‌بینی کند که آیا فرد توانایی بازپرداخت وام را دارد یا خیر.

 اما چنین رویکردی می‌تواند مشکل‌ساز باشد. یکی از دلایل شکل‌گیری سوگیری الگوریتمی، تأثیر ناخودآگاه سوگیری‌های مدیران وام در تصمیمات گذشته است. اگر درگذشته به طور ناعادلانه به متقاضیان گروه‌های اقلیت وام داده نمی‌شد، سیستم نیز این سوگیری را یاد می‌گیرد و احتمال بازپرداخت وام توسط این گروه‌ها را کمتر از واقعیت برآورد می‌کند.

 گروه‌هایی مانند جوانان، رنگین‌پوستان، زنان مجرد، افراد دارای معلولیت و کارگران از جمله گروه‌هایی هستند که در چنین شرایطی ممکن است ناعادلانه محروم شوند.

 پنج روش برای کاهش سوگیری الگوریتمی

 1. جمع‌آوری داده‌های بهتر
 اضافه‌کردن داده‌های بیشتر و متنوع‌تر، به‌ویژه درباره گروه‌های کم نمایش مانند اقلیت‌ها، به کاهش تعصب کمک می‌کند. این کار خطر نمایش نادرست این گروه‌ها در مجموعه‌داده‌های موجود را نیز کاهش می‌دهد.

 2. پیش‌پردازش داده‌ها
 با حذف یا پنهان‌کردن اطلاعات حساس (مانند نژاد یا جنسیت) از مجموعه‌داده، می‌توان از تأثیرگذاری این ویژگی‌ها بر تصمیم‌گیری هوش مصنوعی جلوگیری کرد.

 3. افزایش پیچیدگی مدل
 مدل‌های ساده‌تر، آسان‌تر قابل‌درک و نظارت هستند، اما ممکن است دقت کافی نداشته باشند و تصمیمات آن‌ها به طور ناعادلانه‌ای اکثریت را بر اقلیت ترجیح دهد. افزایش پیچیدگی مدل می‌تواند به بهبود تعادل در پیش‌بینی‌ها کمک کند.

 4. اصلاح سیستم
 می‌توان با تنظیم پارامترها و منطق مدل، به طور مستقیم سوگیری را کاهش داد. برای مثال، می‌توان آستانه‌های متفاوتی برای تصمیم‌گیری درباره گروه‌های محروم تعیین کرد تا از تبعیض جلوگیری شود.

 5. تغییر هدف پیش‌بینی
 معیارهایی که برای تصمیم‌گیری توسط سیستم انتخاب می‌شوند، تأثیر مستقیمی بر نحوه برخورد با گروه‌های مختلف دارند. انتخاب یک معیار منصفانه‌تر به‌عنوان هدف پیش‌بینی، به کاهش تعصب الگوریتمی کمک می‌کند.

 این رویکردها به کسب‌وکارها امکان می‌دهد تا نه‌تنها سیستم‌های هوش مصنوعی دقیق‌تری ایجاد کنند، بلکه از ایجاد تبعیض ناآگاهانه نیز جلوگیری کنند و در نتیجه اعتبار و اعتماد کاربران را افزایش دهند.

 آیا هوش مصنوعی نابرابری را کاهش می‌دهد یا تشدید می‌کند؟

 این پرسش پیچیده است و جواب قطعی ندارد. تأثیر نهایی هوش مصنوعی به سیاست‌گذاری‌های درست، نحوه توزیع دسترسی به فناوری‌ها، و میزان آمادگی جوامع برای تغییرات شغلی بستگی دارد. اگر دولت‌ها و شرکت‌ها بتوانند از هوش مصنوعی به شیوه‌ای مسئولانه و عادلانه استفاده کنند، این فناوری می‌تواند به رفع نابرابری کمک کند؛ در غیر این صورت، ممکن است تنها به نفع اقلیت ثروتمند باشد.

 چرا هوش مصنوعی می‌تواند نابرابری اقتصادی را افزایش دهد؟

 دسترسی نابرابر: در حال حاضر، فقط ثروتمندان به فناوری و ابزارهای لازم مانند اینترنت و کامپیوتر دسترسی دارند، درحالی‌که فقرا محروم‌اند.

 انحصار شرکت‌های بزرگ: شرکت‌های چندملیتی مالک و کنترل‌کننده سیستم‌های هوش مصنوعی و داده‌های موردنیاز آن هستند.

 بیکاری ناشی از اتوماسیون: مشاغل کم‌درآمد مانند اپراتورهای مرکز تماس و پیک‌ها بیشتر در معرض حذف هستند.

 مشاغل جدید، نیازمند مهارت‌های پیشرفته: ایجاد شغل‌های جدید نیازمند آموزش و مهارت‌هایی است که افراد کم‌برخوردار توان دسترسی به آن‌ها را ندارند.

 تشدید نابرابری در کشورهای ضعیف: در جوامعی که نیروی کار مهارت پایین دارد، این شکاف بیشتر می‌شود.

 تعصب الگوریتمی: الگوریتم‌های هوش مصنوعی می‌توانند تبعیض‌آمیز عمل کنند؛ نمونه آن، حذف زنان در سیستم ارزیابی متقاضیان شغل توسط آمازون بود.

 در نهایت، آینده‌ای عادلانه نیازمند آموزش، سرمایه‌گذاری در مهارت‌های جدید، و شفافیت در سیاست‌گذاری است تا همگان بتوانند از مزایای هوش مصنوعی بهره‌مند شوند.

 در مجموع، این دلایل نشان می‌دهند که هوش مصنوعی ممکن است به‌جای رفع نابرابری، شکاف بین فقرا و ثروتمندان را بیشتر کند. با گسترش استفاده از سیستم‌های تصمیم‌گیری مبتنی بر هوش مصنوعی، فرصتی بی‌نظیر پیشروی ما قرار دارد. اگر این فناوری بادقت و مسئولانه به کار گرفته شود، نه‌تنها می‌توان بهره‌وری را افزایش داد، بلکه می‌توان در مسیر ایجاد جامعه‌ای عادلانه‌تر نیز گام برداشت.