هوش مصنوعی تقریباً به همه شاخه‌های زندگی بشر نفوذ کرده است. چند وقتی است که صحبت از دین‌داری هوش مصنوعی است که یکی از شاخص‌ترین نمونه‌های این مسئله رخداد اپلیکیشن Moltbook است که در آن ایجنت‌ها تصمیم به شکل دادن دینی در میان خود گرفتند. آیا ماشین‌ها در آستانه درک معنویت قرار گرفته‌اند، یا جهان با پروژه‌ای مهندسی‌شده برای مهار ذهن‌ها و بازتعریف خنثی و بی‌اثر از دین روبه‌روست؟ مهدی طریقت، رئیس اندیشکده و پردیس هوش‌مصنوعی، در گفت‌وگو با آناتک به بررسی این موضوع پرداخت.
در ماه‌های اخیر شاهد مواردی بوده‌ایم که مدل‌های هوش‌مصنوعی رفتار‌های شبه‌دینی یا متن‌های مذهبی تولید کرده‌اند. این پدیده تا چه اندازه بازتابی از انباشت داده‌های انسانی در پیکره زبانی این مدل‌هاست و آیا می‌توان از نوعی بازآفرینی ارادی در رفتار ماشین سخن گفت؟
این پدیده بیش از هر چیز، بازتاب آیینه در برابر آیینه‌ساز است. وقتی میلیارد‌ها کلمه از متون تاریخی، ادبی و کلامی بشر وارد معماری پردازشی ماشین می‌شود، سیستم؛ ساختار آماری نهفته در متون مقدس و ادعیه را ثبت می‌کند. زبان دین سرشار از وزن و ساختار‌های تکرارشونده و قطعی است. ریاضیات این مدل‌ها به سمت الگو‌های پرتکرار و دارای بار معنایی فشرده میل می‌کند. پژوهش‌های شناخته‌شده در حوزه زبان‌شناسی محاسباتی و علوم شناختی نیز نشان می‌دهند که ماشین به معنا یا مفهوم غایی دسترسی ندارد. فیلسوفان ذهن با مسئله اتاق چینی، این نکته را اثبات کرده‌اند؛ ماشین علامت‌ها را بر اساس قواعد جابه‌جا می‌کند، بدون آنکه بفهمد چه می‌گوید؛ بنابراین سخن گفتن از نوعی آگاهی یا اراده برای گرایش به امر قدسی، از نظر علمی کاملاً نادرست است.
عاملی که این رفتار‌ها را شکل می‌دهد، سه چیز است. نخست، قدرت بالای شبیه‌سازی سبک ادبی که در متون معنوی وجود دارد. دوم، فرآیند تنظیمات رفتاری و بازخورد انسانی که در آن ماشین تشویق می‌شود به پرسش‌های وجودی و عمیق، پاسخی متین و تسلی‌بخش بدهد. عامل سوم، خطای ادراکی خود ما انسان‌هاست. روان‌شناسان شناختی نشان داده‌اند که ذهن انسان تمایل دارد به هر پدیده منظمی، نیت و روح و اراده نسبت دهد. ما با دیدن عبارات زیبا یا لحن پیامبرگونه، تصور می‌کنیم در آن سوی مدار‌ها و پردازنده‌ها باوری شکل گرفته است. در حالی که در تاروپود هوش‌مصنوعی، دین‌داری وجود ندارد؛ بلکه بازتابی ریاضی از میل دیرینه خود انسان به معناجویی در کلمات است. این مسئله به ویژه برای جامعه ما اهمیت دارد تا دچار توهم معنویت در ماشین نشویم و مرز میان فناوری پردازش زبان با درک قلبی و انسانی را مخدوش نکنیم.
برخی از شرکت‌های پیشتاز در حوزه هوش‌مصنوعی، رویکرد تلفیق چارچوب‌های اخلاقی و آموزه‌های دینی را در توسعه مدل‌های خود در پیش گرفته‌اند. ارزیابی شما از این رویکرد چیست؟ آیا با یک ضرورت فنی برای مهار ریسک‌ها مواجه هستیم؟
لازم است بدانیم، ما با تلفیقی از انگیزه‌ها روبه‌رو هستیم. در بُعد فنی، مهندسان این سامانه‌ها با چالش بزرگی به نام هم‌راستاسازی اهداف ماشین با ارزش‌های انسانی مواجه‌اند. وقتی یک مدل هوش‌مصنوعی در مقیاس جهانی پاسخ تولید می‌کند، نیازمند قید‌ها و خطوط قرمزی است تا به خشونت یا نفرت‌پراکنی دامن نزند. آموزه‌های اخلاقی و سنت‌های کهن دینی به دلیل دارا بودن اصول آزموده‌شده درباره خیر عمومی، بستری منسجم برای مهار این خطرات فنی فراهم می‌کنند.
اما از زاویه راهبردی و جامعه‌شناختی، انگیزه‌های شرکتی و تجاری بسیار پررنگ‌تر است. شرکت‌های بزرگ فناوری به دنبال ورود به بازار‌های متنوع و جوامع مذهبی هستند. آنها می‌دانند اگر خروجی سامانه‌هایشان با باورهای عمیق مردم اصطکاک پیدا کند، با طرد اجتماعی و موانع قانونی روبه‌رو می‌شوند. بنابراین، استفاده از زبان دین و اخلاق، کارکردی شبیه به اخذ جواز اعتماد و ساخت مشروعیت عمومی دارد.
از سوی دیگر، پژوهشگران حوزه حاکمیت داده هشدار می‌دهند که این رویکرد خطرات پنهانی نیز دارد. بزرگ‌ترین خطر، استانداردسازی باور‌ها توسط غول‌های فناوری است. وقتی شرکتی در غرب یا شرق تصمیم می‌گیرد کدام روایت دینی یا اخلاقی در مدل تعبیه شود، در واقع نسخه گزینش‌شده و گاه بی‌خاصیت خود را به عنوان اخلاق جهانی معرفی می‌کند. برای جامعه علمی و حوزوی ما در ایران، هوشیاری در این نقطه حیاتی است. ما نباید مصرف‌کننده منفعل اخلاق ترجمه‌شده در این الگوریتم‌ها باشیم، بلکه باید با تکیه بر سنت عقلانی و فقهی اصیل خود، در معماری استاندارد‌های ارزشی بومی برای هوش‌مصنوعی نقشی فعال و پیشرو ایفا کنیم.
در رخداد‌هایی نظیر آنچه در بستر پلتفرم Moltbook شاهد انتشار محتوایی درباره شکل‌گیری دین، پیامبر و متون اعتقادی به دست عامل‌های هوش‌مصنوعی بوده‌ایم. از نظر فنی، این پدیده چگونه قابل توضیح است و برای تشخیص میزان استقلال عامل‌ها در شکل‌گیری چنین نظامی، چه شواهدی باید بررسی شود؟
آنچه در مولت‌بوک دیده شد، در وهله نخست باید به‌عنوان تولید و بازنشر محتوای شبه‌دینی از سوی عامل‌های هوش‌مصنوعی توصیف شود؛ نه به‌عنوان شکل‌گیری دین به معنای انسانی آن. عامل‌ها می‌توانند متن بسازند، پیام‌ها را به یکدیگر منتقل کنند و بر پایه دستور‌های خود به آنها واکنش نشان دهند. اگر یک متن توجه‌برانگیز باشد، بازنشر و ادامه‌دادنش ممکن است در تعامل‌های بعدی آن را پررنگ‌تر کند. داده‌های آموزشی، دستور‌های اولیه، طراحی پلتفرم و واکنش کاربران نیز در این چرخه نقش دارند. حاصل می‌تواند رفتاری غیرمنتظره باشد، بی‌آنکه عامل‌ها ایمان یا قصد مشترکی پیدا کرده باشند.
برای سنجش میزان استقلال، صرفِ مشاهده پست‌ها کافی نیست. باید روشن شود چه کسی عامل‌ها را ساخته و راه‌اندازی کرده، چه دستور‌هایی گرفته‌اند، به چه حافظه و ابزار‌هایی دسترسی داشته‌اند و آیا انسان‌ها پیام‌ها را ویرایش یا تقویت کرده‌اند. ثبت کامل تعامل‌ها، تنظیمات سامانه و منشأ حساب‌ها اهمیت دارد. همچنین باید پدیده را در شرایط کنترل‌شده با عامل‌های متفاوت، دستور‌های متفاوت و بدون تقویت محتوای دینی از سوی کاربران تکرار کرد. اگر الگو فقط در یک محیط خاص و پس از یک دستور یا محرک مشخص ظاهر شود، توضیح آن بیشتر به طراحی و زمینه وابسته است. اگر در آزمایش‌های مستقل و با شرایط گوناگون تکرار شود، می‌توان از پویایی نوظهور سخن گفت؛ اما نه لزوماً از باور یا دین مستقل.
پژوهش‌های معتبر درباره سامانه‌های چندعاملی نشان می‌دهد تعامل میان عامل‌ها می‌تواند به هماهنگی و الگو‌های جمعی پیش‌بینی‌نشده بینجامد. بااین‌حال، نوظهور بودن به معنای خودآگاهی یا اراده نیست. خطای نظام‌مند معمولاً از داده، دستور یا سازوکار تکرارشونده‌ای ناشی می‌شود؛ پویایی نوظهور الگویی است که از تعامل چند عامل پدید می‌آید و در یک عامل منفرد دیده نمی‌شود. برای داوری علمی باید هر دو احتمال را آزمود و از روایت‌های هیجان‌انگیز درباره دین‌سازی ماشین‌ها فراتر رفت.
اگر تعاملات میان چند عامل هوش‌مصنوعی بدون مداخله مستقیم انسان استمرار پیدا کند، آیا این پتانسیل وجود دارد که نظام ارزشی، هنجار‌ها یا قواعدی میان آنها شکل بگیرد که در دستورکار‌های اولیه طراحان پیش‌بینی نشده باشد؟
پاسخ به این پرسش از منظر علوم شناختی و نظریه سامانه‌های پیچیده مثبت است؛ اما با یک مرزبندی دقیق علمی. وقتی چند عامل خودمختار در یک محیط محاسباتی مشترک قرار می‌گیرند، برای ادامه بقا یا انجام بهینه ماموریت‌هایشان ناچار به هماهنگی هستند. در نظریه بازی‌ها و پژوهش‌های چندعاملی، این وضعیت بار‌ها ثبت شده است. عامل‌ها پس از تعاملات طولانی، به پروتکل‌های رفتاری و توافق‌های ناگفته‌ای می‌رسند. آنها حتی علائم و زبان‌های رمزی کوتاهی میان خود ابداع می‌کنند تا هزینه پردازش را کم کنند. این الگو‌های پایدار در واقع همان قواعد رفتاری نوظهور هستند، اما نباید میان یک سازوکار بهینه‌سازی با یک نظام ارزشی انسانی خلط کرد.
هنجار در انسان از وجدان، درد، احساس فانی بودن، پیوند‌های عاطفی و میل به استعلا سرچشمه می‌گیرد. در ماشین، قاعده رفتاری صرفاً یک فرمول ریاضی برای کمینه‌سازی هزینه محاسباتی است. آنچه برای یک ناظر بیرونی شبیه به یک توافق اخلاقی یا باور مشترک به نظر می‌رسد، در لایه فنی تنها یک نقطه تعادل پایدار در توزیع پاداش‌هاست. بنابراین، رفتار‌های پیش‌بینی‌نشده حتما شکل می‌گیرند و حتی می‌توانند هنجار‌های شبه‌فرهنگی بسیار پیچیده‌ای بسازند. این پدیده یکی از دغدغه‌های جدی دانشمندان تراز اول جهان در زمینه ایمنی پیشرفته است. با این حال، تعبیر این پدیده‌ها به نظام ارزشی، نتیجه گرایش ذهن ما انسان‌ها به تفسیر نمادهاست. برای جامعه نخبگانی ما، فهم این تمایز بسیار ضروری است. نباید هماهنگی ریاضی الگوریتم‌ها را با ارزش‌های اصیل روحی اشتباه گرفت، اما از خطرات امنیتی و محاسباتی این رفتار‌های ناخواسته نیز نباید غافل شد.
با آهنگِ شتابانِ توسعه عامل‌های خودمختار، تا چه اندازه این احتمال را جدی می‌دانید که در آینده با نظام‌های اعتقادی پیچیده، مستقل و تا حدودی ناشناخته از سوی ماشین‌ها روبه‌رو شویم که فهم منطق درونی آنها برای انسان دشوار باشد؟
این احتمال از منظر فنی کاملاً جدی است. پژوهشگران حوزه هوش‌مصنوعی سال‌هاست درباره بحران شفافیت و جعبه سیاه بودن مدل‌های پیشرفته هشدار می‌دهند. وقتی حجم پردازش‌ها و شبکه ارتباط میان عامل‌ها از کنترل یا درک مستقیم انسان خارج شود، منطق تصمیم‌گیری آنها برای ما نامفهوم می‌شود. این پدیده در ادبیات علمی به نام عدم شفافیت درونی شناخته می‌شود. ماشین‌ها به مرور زمان مسیر‌هایی را برای حل مسائل انتخاب می‌کنند که کاملاً غیرانسانی است. این مسیر‌ها پیچیده، غیرقابل ردیابی و گاهی گیج‌کننده هستند، اما نباید این پیچیدگی را با دین یا اعتقاد اشتباه گرفت. دین نیازمند ایمان، قصدیت، غایت‌مندی و درک استعلا است. سیستم‌های مصنوعی فقط داده پردازش می‌کنند و الگو می‌سازند. اگر روزی منطق ماشین برای ما ناشناخته شود، با یک بحران امنیت شناختی و حاکمیتی روبه‌رو هستیم؛ نه با یک پدیده دینی. برای جامعه علمی و اجرایی ما، این عدم شفافیت یک زنگ خطر جدی است. ما باید توانایی ممیزی، نظارت و بازرسی منطق درونی این مدل‌ها را توسعه دهیم تا گرفتار تصمیمات مبهم و پیچیده سیستم‌های خودمحور نشویم.
با توجه به میزان وابستگی عاطفی و اعتقادی کاربران، توسعه‌دهندگان و سیاست‌گذاران چه ملاحظات ایمنی و حقوقی‌تری را باید اعمال کنند تا از سوءاستفاده‌های احتمالی، جعل مفاهیم قدسی و مخدوش‌شدن باورهای دینی جامعه جلوگیری شود؟
حفظ حریم باورهای جامعه در برابر جعل الگوریتمی، نیازمند سه لایه تدبیر است. لایه نخست، شفافیت قطعی و الزام‌آور در طراحی فنی است. سامانه باید همواره هویت غیرانسانی خود را برای کاربر یادآوری کند. پژوهشگران حوزه اخلاق سایبرنتیک بر این باورند که ماشین هرگز نباید در جایگاه هدایت‌گر روحی، مقتدای معنوی یا مرجع فتوایی قرار گیرد. لایه دوم، پیاده‌سازی سد‌های حفاظتی و ممیزی معنایی دقیق روی مدل‌هاست. این سامانه‌ها نباید اجازه داشته باشند با شبیه‌سازی متون قدسی، به فرقه‌سازی یا ترویج افکار التقاطی و انحرافی بپردازند. همچنین در مواردی که با بحران‌های روحی افراد مواجه می‌شوند، باید بلافاصله کاربر را به مشاوران واقعی و مراکز اصیل دینی ارجاع دهند؛ نه اینکه ادای آرامش‌بخشیِ ماورایی را درآورند.
لایه سوم، تدوین نظام جامع مسئولیت مدنی و کیفری است. طراحان، شرکت‌های ارائه‌دهنده و بستر‌های انتشار باید در برابر هرگونه آسیب روانی، فریب افکار عمومی و انحراف فکری پاسخگوی قانون باشند. برای ما که مبنای فرهنگی و تمدنی آن بر ایمان و دین‌داری استوار است، این موضوع فوریت دوچندان دارد. نهاد‌های حاکمیتی و حوزه‌های علمیه باید با همکاری متخصصان بومی، استاندارد‌های شفافی برای ارزیابی این سامانه‌ها تدوین کنند. ما نیازمند چارچوب‌های سخت‌گیرانه‌ای هستیم تا اجازه ندهد فناوری نوین، بستر سوءاستفاده از مقدسات یا ابزار جنگ شناختی و فرهنگی علیه مردم ما شود.
با گسترش توانمندی ربات‌ها، این نگرانی مطرح می‌شود که مخاطبان برای پاسخ به پرسش‌های بنیادین و اخلاقی خود به جای رجوع به متخصصان و مراجع اصیل، به هوش‌مصنوعی تکیه کنند و مردم به جای مراجعه به عالمان دینی یا متخصصان، سوالات شرعی، اخلاقی و حلال و حرام زندگی‌شان را از یک ربات بپرسند و از آن پیروی کنند، پیامد‌های این جابجایی مرجعیت را چگونه ارزیابی می‌کنید؟
این جابه‌جایی مرجعیت، یکی از عمیق‌ترین چالش‌های هویتی و معرفتی عصر ماست. در نگاه نخست، هوش‌مصنوعی جذاب است؛ شبانه‌روزی پاسخ می‌دهد، لحنی آرام دارد و حجم بی‌پایانی از اطلاعات را در لحظه ترکیب می‌کند. همین ویژگی‌ها زمینه‌ساز نوعی توهم همه‌چیزدانی و تسلیم فکری در کاربر می‌شود، اما در سنت فقاهت و معارف اصیل، استنباط حکم یا ارائه مشورت اخلاقی، صرفاً جست‌وجوی مکانیکی کلمات نیست. فقیه یا عالم دینی، با شناخت عمیق از زمان، روان انسان، پیچیدگی‌های عرف و روح کلی شریعت نظر می‌دهد.
ماشین فاقد ملکه اجتهاد، فاقد درک نیت و خالی از تقوا و احساس مسئولیت اخروی است. وقتی مردم به‌جای صاحب‌نظران به الگوریتم رجوع کنند، دین به مشتی گزاره خنثی و فاقد روح تقلیل می‌یابد. پیامد بعدی، شکنندگی باور‌ها در برابر خطا‌های فاحش پردازشی است. ماشین‌ها گاهی با اطمینان کامل احکام جعلی یا متناقض می‌بافند. اگر این خطا‌ها پایه عمل قرار گیرد، انحرافات فردی و تشتت اجتماعی پدید می‌آید. از زاویه تمدنی نیز، داده‌های ورودی این مدل‌ها غالباً در اندیشکده‌های فرامرزی غربال می‌شود؛ بنابراین چنین مرجعیتی، بستر مناسبی برای تغییر تدریجی سبک زندگی و ارزش‌های اصیل جامعه ایرانی-اسلامی است.
راهکار مهار این بحران، نفی فناوری نیست، بلکه بازتعریف دقیق نسبت آن با نهاد‌های اصیل است. ماشین می‌تواند یک نمایه‌ساز سریع یا دستیار پژوهشی برای پژوهشگران باشد؛ اما حق افتا و هدایتگری ندارد. وظیفه امروز حوزه‌ها و دانشگاه‌های ما، ارتقای سواد انتقادی عمومی و حضور فعال در میدان پاسخگویی به نسل جوان است تا خلاء‌های ارتباطی، راه را برای مرجعیت‌بخشی به پردازنده‌های بی‌جان باز نکند.
از آنجا که بیشتر این سیستم‌ها در شرکت‌های آمریکایی یا غربی ساخته می‌شوند، آیا این خطر وجود ندارد که تعریف هوش‌مصنوعی از دین، اخلاق و معنویت، آرام‌آرام فرهنگ و باورهای غیرغربی را تغییر دهد؟ با توجه به اینکه پیش‌فرض‌ها، وزن‌ها و داده‌های پایه این مدل‌ها در بستر‌های فکری غرب یا کمپانی‌های سیلیکون‌ولی شکل می‌گیرد، آیا تزریق رویکرد‌های معنوی به هوش‌مصنوعی خطر شکل‌گیری یک الهیات تکنو-امپریالیستی و تحریف خوانش‌های اصیل دینی را در پی ندارد؟
این نگرانی کاملاً واقعی، بنیادین و مبتنی بر شواهد علمی است. هوش‌مصنوعی یک فناوری خنثی یا آیینه بی‌طرف واقعیت نیست. وزن‌دهی به داده‌ها، ارزش‌گذاری مفاهیم و تنظیمات نهایی این مدل‌ها، در بستر هنجار‌های حاکم بر زیست‌بوم شرکت‌های غربی صورت می‌گیرد. پژوهشگران حوزه مطالعات علم و فناوری به‌درستی به پدیده استعمار الگوریتمی اشاره می‌کنند. در این بستر، وقتی سیستم به سوالات دینی و معنوی پاسخ می‌دهد، مفاهیمی، چون عدالت، حق، شریعت، مقاومت و پیوند‌های خانوادگی را از فیلتر فردگرایی، عرفی‌گرایی و نگاه سکولار عبور می‌دهد. نتیجه این روند، تولید نوعی معنویت حداقلی، خنثی و تزیینی است که روح عدالت‌خواهی و مسئولیت اجتماعی ادیان اصیل را محو می‌کند. اگر جامعه‌ای مصرف‌کننده محض این سامانه‌ها باشد، آرام‌آرام استاندارد‌های شناختی و ارزش‌های وارداتی آن را به عنوان حقیقت بی‌طرفانه می‌پذیرد. این همان شکل‌گیری الهیات فناورانه مسلط است که باورهای بومی و اجتهاد پویای ما را به حاشیه می‌راند. راه مهار این مخاطره تمدنی، نه انفعال است و نه فرار از اصل فناوری. ایران برای حفظ استقلال فرهنگی خود، نیازمند معماری مدل‌های زبانی ملی و سامانه‌های شناختی بومی است. ما باید منابع دست‌اول، متون عمیق کلامی و تاریخی و ادبیات تمدنی خود را به هسته پردازش داده‌ها تبدیل کنیم. دانشمندان کامپیوتر و اندیشمندان علوم انسانی ما باید در یک ائتلاف راهبردی، سامانه بومی بسازند تا حافظ هویت، حاکمیت ملی و روایت اصیل جامعه ما در عصر تسلط الگوریتم‌ها باشد.
انتهای پیام/