گروه آنلاین روزنامه دنیای اقتصاد- کسری غفوری: هاینریش هاینه، شاعر آلمانی می‌نویسد اندیشه پیش از عمل می‌آید، همان گونه که آذرخش پیش از تندر.
این گفته به تمامی درباره «نوع دوستی مؤثر» صدق می‌کند. این آموزه اخلاقی که دست پرورده فیلسوفان آکسفورد است، با سرعتی چشمگیر از دانشگاه‌ها به راهروهای قدرت راه یافته است.
امروزه طرفداران این ایده در سیلیکون ولی حضوری پررنگ دارند، در برترین شرکت‌های هوش مصنوعی جهان مشغول به کارند و حتی دولت ترامپ را نگران کرده‌اند.
پنتاگون اعلام کرده است که ایالات متحده هرگز کشوری مبتنی بر نوع دوستی مؤثر نخواهد شد.
وزیر جنگ آمریکا این فلسفه را نوع دوستی معیوب می‌خواند و دیگر مقامات دولتی آن را ایده‌ای ویران شهری می‌دانند. همین حملات به روشنی نشان دهنده نفوذ و قدرت این جریان است.
به نوشته اکونومیست، برخی منتقدان باور دارند که قرن بیست و یکم اندیشه تازه‌ای برای عرضه نداشته است. در این خلأ فکری، جنبش هایی مانند ماگا و همراهانش به میدان آمده‌اند تا پوپولیسم نوستالژیک را به پروژه سیاسی بزرگ این قرن تبدیل کنند.
با این حال، ایده بزرگ قرن حاضر همان نوع دوستی مؤثر است. آنچه در دهه ۲۰۰۰ به عنوان روشی تخصصی برای هدفمندتر و بهینه‌تر کردن کمک‌های خیریه آغاز شد، اکنون به جنبشی بدل شده که جهان را با محاسبات اخلاقی پیچیده و گاه عجیبی رو به رو کرده است.
بسیاری از پیروان این مکتب معتقدند مهم ترین رسالت اخلاقی برای نیکوکاران، جلوگیری از نابودی بشر به دست هوش مصنوعی است.
اهمیت جامعه شناختی این جنبش نیز انکار ناپذیر است. با وجود آنکه شمار پیروان نوع دوستی مؤثر چندان زیاد نیست، این ایده توانسته نسلی از جوانان نخبه را که از راه رمز ارزها و هوش مصنوعی به ثروت‌های هنگفتی رسیده اند، با خود همراه کند.
با ظهور میلیاردرهای جدید در عرصه فناوری، این افراد میلیاردها دلار را به پروژه‌هایی اختصاص خواهند داد که آینده جامعه را شکل می‌دهد.
آن‌ها با این باور که توسعه هوش مصنوعی باید در دست آگاهان به خطرات آن باشد، در تأسیس آزمایشگاه‌های پیشرویی چون اوپن ای آی و آنتروپیک نقش داشتند.
آن‌ها اکنون تا حدودی کنترل توسعه این فناوری را در دست دارند، هر چند طنز ماجرا اینجاست که با تأسیس آزمایشگاه‌هایی بیشتر و دامن زدن به رقابت جهانی، احتمالاً روند پیشرفت هوش مصنوعی را شتاب بخشیده‌اند.
تمامی این تحولات امروزه به نوع دوستی مؤثر وزنی سیاسی داده است. دولت ترامپ نگران است که این جنبش در نهایت بتواند توسعه هوش مصنوعی را مهار کند.
در همین راستا، دولت با شرکت آنتروپیک بر سر مخالفت این شرکت با کاربرد نظامی مدل هایش وارد تنش شده است.
چهره‌های شاخص این جنبش می‌پذیرند که هوش مصنوعی می‌تواند بسیار بی خطر و مفید واقع شود، اما همچنان خواستار کند شدن روند توسعه آن هستند.
هدف آن ها کاهش خطر طغیان یک مغز ماشینی غیر قابل کنترل است که ممکن است اهدافی ناسازگار با منافع بشریت را دنبال کند.
گروهی از منتقدان در آمریکا ترجیح می‌دهند برای جلوگیری از پیروزی چین در این رقابت جهانی، توسعه این فناوری با سرعت بیشتری پیگیری شود.
با این حال، آن‌ها در نقد رویکرد بدبینانه نسبت به هوش مصنوعی، به جای پرداختن به اصل استدلال‌ها، بیشتر به تخریب شخصیت نظریه پردازان روی می‌آورند.
این منتقدان ادعا می‌کنند نوع دوستی مؤثر جریانی متشکل از افراد متعصب است که ماهیتی غیر دموکراتیک، خطرناک و فرقه گونه دارد.
چنین توصیفی بیش از حد ساده انگارانه به نظر می‌رسد. ریشه‌های انسان دوستانه این جنبش کاملاً ستودنی است.
درست مانند نشریه اکونومیست، طرفداران نوع دوستی مؤثر به تجربه‌گرایی پایبندند و به ویژه از زمانی که با جامعه آنلاین خردگرایان پیوند خورده‌اند، بر تفکر منطقی تأکید ویژه‌ای دارند.
آن‌ها خرد را بر سنت‌ها و هنجارها ارجح می‌دانند و برای یافتن حقیقت، آماده‌اند تا درباره هر موضوعی هر اندازه هم که جنجالی باشد، با اشتیاق بحث و تبادل نظر کنند.
پیش بینی های دقیق و مکرر آن ها درباره پیشرفت سریع هوش مصنوعی نیز بسیار چشمگیر بوده است و نگرانی‌های این گروه پیرامون خطرات فناوری برای آینده بشر، کاملاً منطقی به نظر می‌رسد.
برای نمونه در ۲۸ سپتامبر (۶ مهر)، شرکت اوپن ای آی انتشار مدل جدید خود را لغو کرد، چرا که نتایج مرحله آزمایش نشان می‌داد این مدل بیش از حد خطرناک است.
بسیاری از چالش‌های ایمنی اخیر شباهت عجیبی به سناریوهای وحشتناکی دارند که سال‌ها پیش در وبلاگ‌های طرفداران نوع دوستی مؤثر ترسیم شده بودند.
محاسبات افراطی و نتایج نامتعارف
با این وجود، هشدار منتقدان درباره نتایج عجیب این جریان فکری چندان هم بیراه نیست. نوع دوستان مؤثر، درست مانند فیلسوفان فایده گرای پیشین، رفتار اخلاقی را به یک مسئله بهینه سازی تقلیل می دهند و تنها می‌پرسند چگونه می‌توان بهترین نتیجه را برای کل بشریت رقم زد.
در محاسبات آن ها، اصول اخلاقی ملموس و فردی مانند وفای به عهد یا مراقبت از خانواده رنگ می‌بازد. از نگاه آنان تنها چیزی که اهمیت دارد کاهش رنج به صورت بی طرفانه و در سراسر جهان است.
این رویکرد موجب می‌شود آن ها طیف بسیار گسترده‌ای از دغدغه‌ها را در محاسبات اخلاقی خود بگنجانند.
پذیرش اینکه کمک به همسایه یک فعل اخلاقی است برای همه آسان است، اما پرسش طرفداران این جنبش این است که چرا نباید به همان اندازه برای یاری رساندن به انسان هایی در دور دست ها تلاش کرد؟
در روزهای نخست، این جنبش نخبگان خود را تشویق می‌کرد تا وارد مشاغل پردرآمدی مانند امور مالی و مشاوره شوند.
ایده اصلی این بود که آن‌ها با ثروت خود می‌توانند کارهای خیر بیشتری انجام دهند و تأثیری به مراتب بزرگ تر از کارمندان ساده نهادهای خیریه داشته باشند.
اما با قدرت گرفتن این جنبش، مواضع آن نیز عجیب تر شده است. گروهی از پیروان این مکتب تمایز اخلاقی میان انسان و حیوان را کم رنگ می‌دانند، چرا که معتقدند حیوانات نیز رنج را حس می‌کنند. به همین دلیل توقف دامپروری صنعتی و حتی کمک به موجوداتی مانند میگوها به یکی از دغدغه های جدی آن ها تبدیل شده است.
نگاه آن ها به مفهوم زمان نیز نامتعارف است. آن‌ها باور دارند انسان‌هایی که هنوز متولد نشده‌اند و شمارشان می‌تواند به تریلیون‌ها نفر برسد، باید در رمحاسبات اخلاقی امروز جای داشته باشند. بسیاری از آن‌ها معتقد به رویکردی بلندمدت هستند و خود را موظف می‌دانند از خطرات آینده دور پیشگیری کنند، حتی اگر این کار به قیمت نادیده گرفتن مشکلات مبرم امروزی مانند کمک به فقرای مطلق تمام شود.
اگر این گونه محاسبات به افراط کشیده شود، می‌تواند به اصول اخلاقی عجیب و گاه دافعه برانگیز ختم شود. برای مثال، برخی از آن ها استدلال می کنند که حیات حشرات در مجموع ارزشمندتر از حیات انسان است، زیرا جمعیت آن ها بسیار بیشتر است.
گروهی دیگر می گویند خلق تریلیون‌ها انسان با کیفیتی از زندگی که به سختی ارزش زیستن داشته باشد، بهتر از آن است که تنها چند میلیارد انسان بازندگی‌های واقعاً مطلوب داشته باشیم.
عده‌ای دیگر پا را فراتر گذاشته و معتقدند روزی فرا خواهد رسید که رفاه خود سیستم‌های هوش مصنوعی نیز اهمیتی حیاتی پیدا می‌کند.
در نتیجه، آن ها ترجیح می دهند منابع موجود را از انسان های رنج دیده کنونی دریغ کرده و به انسان‌ها یا حتی غیر انسان های آینده اختصاص دهند.
غفلت از کرامت فردی و خطر اقتدارگرایی
احترام به خردورزی رویکرد درستی است، با این حال فیلسوفان اخلاق از ارسطو تا جان رالز به خوبی می دانستند که اگر یک استدلال منطقی به نتایجی غیر قابل تحمل ختم شود، بدون شک در نقطه‌ای از آن خطایی نهفته است. در مقابل، نوع دوستان مؤثر از رسیدن به نتایج نامتعارف و گاه نامعقول لذت می‌برند.
یکی از چالش های اساسی، حاشیه خطای بزرگی است که ذاتاً در استدلال‌های آنان وجود دارد. هیچ کس نمی‌تواند معضلات اخلاقی مربوط به میلیاردها انسان کنونی را با دقت ارزیابی کند، چه رسد به محاسبات عظیمی که آینده دور را هدف گرفته و شامل جمعیت های نامشخص، نرخ های تنزیل، پیشرفت های فناوری و بی‌شمار متغیر دیگر می‌شود.
چالش دیگر آن است که ایده انقراض بشر چنان هولناک است که در یک محاسبه اخلاقی خام، حتی احتمال اندک وقوع آن می‌تواند تمام دغدغه های ملموس و واقعی امروز را به حاشیه براند.
مشکل سوم این است که با تمرکز افراطی بر منافع میلیاردها نفر، کرامت ذاتی فرد فراموش می‌شود. هر کسی که با جداول محاسباتی و ادعاهای پر طمطراق درباره آینده بشریت از راه برسد، تنها یک قدم با تبدیل شدن به یک برنامه ریز مرکزی فاصله دارد. در چنین چارچوبی، فرد با در دست داشتن اقتدار اخلاقی می‌تواند حقوق، رفاه و حتی نظرات انسان های پیرامونش را بی اهمیت بپندارد.
انقلاب فرانسه ظاهراً بر پایه خردورزی بنا شد، اما در نهایت به اعدام راهبه ها انجامید. لنین نیز بر این باور بود که روشنفکران مسلط بر مارکسیسم، منافع طبقه کارگر را بهتر از خود کارگران درک می‌کنند.
اگر فردی واقعاً متقاعد شود که به نمایندگی از تمام مردم جهان و حتی تریلیون ها انسان در آینده عمل می کند، بعید نیست در نهایت به توجیه هر گونه جنایتی دست بزند.
خوشبختانه نوع دوستان مؤثر قصد ندارند گیوتین ها را دوباره برپا کنند. نگرانی اصلی این است که تسلط بر هوش مصنوعی در نهایت قدرت بی حد و حصری به آنان می‌بخشد و بسیاری از این افراد در سیلیکون ولی معتقدند که تنها خودشان شایستگی مدیریت این فناوری را دارند.
این دیدگاه به شدت نگران کننده است. استدلال آن ها برای ترس از هوش مصنوعی پیشرفته این است که شاید این سیستم ها برای رسیدن به یک هدف واحد اما به شدت اشتباه بهینه سازی شوند.
با این حال، باید نگران روزی بود که گروه کوچکی از انسان‌ها خود در همین دام مرگبار گرفتار شوند.