به گزارش خبرگزاری تسنیم از قم، در جهان امروز که هوش مصنوعی به‌ویژه در قالب چت‌بات‌ها و دستیارهای هوشمند به بخشی جدایی‌ناپذیر از زندگی فردی، اجتماعی و علمی انسان تبدیل شده است، بحث درباره‌ی ابعاد اخلاقی این فناوری ضرورتی غیرقابل انکار یافته است. سرعت حیرت‌انگیز پیشرفت در یادگیری ماشینی و پردازش زبان طبیعی، مرز میان کنش انسانی و محاسبه ماشینی را هر روز مبهم‌تر می‌سازد و این ابهام، پرسش‌های عمیقی درباره‌ی مسئولیت، صداقت، اعتماد و کرامت انسان در تعامل با این سامانه‌ها به میان می‌آورد.
حجت‌الاسلام و المسلمین حسینعلی رحمتی، عضو هیئت علمی گروه اخلاق کاربردی پژوهشگاه قرآن و حدیث، در یادداشت خود با عنوان «ضرورت‌ها، بایسته‌ها و چالش‌های اخلاقی استفاده از چت‌بات‌های هوش مصنوعی»، به‌گونه‌ای تحلیلی و انتقادی به این موضوع می‌پردازد. او ضمن تبیین ضرورت بهره‌مندی از فناوری‌های نو در چارچوب ارزش‌های الهی و انسانی، بر لزوم تدوین اصول اخلاقی روشن برای تعامل انسان با این ابزارها تأکید می‌کند تا از شکل‌گیری وابستگی‌های ناآگاهانه و آسیب‌های معرفتی و فرهنگی جلوگیری شود.
این یادداشت می‌کوشد تا در میانه‌ی شور و شتاب دگرگونی‌های فناورانه، مسئله‌ی اخلاق را در جایگاه اصلی خود بنشاند و نشان دهد که هوش مصنوعی، اگرچه ابزاری توانمند است، اما هدایت درست و حکیمانه‌ی آن در پرتو اخلاق دینی و عقلانی، تنها راه تضمین‌کننده‌ی کرامت انسان و تعالی جامعه در عصر دیجیتال خواهد بود.
ضرورت‌ها، بایسته‌ها، و چالش.های اخلاقی استفاده از چت بات‌های هوش مصنوعی
در استفاده از چت‌بات‌ها هم باید اخلاق را مراعات کرد؟
استفاده از چت‌بات‌هایی چون چت جی پی تی، دیپسیک، کوین، و پرپلکسیتی در جامعه ما هر روز در حال افزایش است و هر مدلی از آن که طراحی شود چه به صورت رایگان چه با پرداخت هزینه به سرعت مورد استقبال اقشار مختلف قرار می‌گیرد. این کار از جهتی خوب است چون نشان دهنده درک ضرورت استفاده از این فناوری ها در کشور ماست، اما از سوی دیگر، دغدغه‌ها و چالش‌های اخلاقی جدی را به دنبال دارد که باید هر چه زودتر برای آنها فکری کرد. تجربه نشان داده استفاده از فناوری‌های جدید اگر با آموزش و آگاهی اخلاقی کاربران همراه نباشد، در عمل مشکلات فراوان فردی و اجتماعی را به دنبال خواهد داشت. بنابراین برای در امان ماندن از این مشکلات، از یک سو نهادهای مرتبط با اخلاق و فناوری باید قدم‌های اولیه را بردارند و از سوی دیگر خود کاربران باید نسبت به آشنایی با چالش‌ها و اصول اخلاقی استفاده از چت‌بات‌ها احساس مسئولیت و اقدام کنند. غفلت یا تغافل هر یک از این دو گروه موجب می‌شود که «سرکنگبین صفرا بیافزاید».
چت‌بات‌ها به همین راحتی می‌توانند روزگارمان را سیاه کنند
زن و مرد در آستانه طلاق هستند. مرد می‌گوید: چت‌جی‌پی‌تی عامل اصلی این جدایی است، چرا که زنم مشکلاتی را که قبلا حل کرده بودیم به این چت‌بات داده و براساس راهنمایی‌های آن، دو مرتبه اختلافات‌مان را زنده کرده است. انتشار این گونه خبرها هر روز در حال افزایش است. افرادی که به خاطر اعتماد به چت‌بات‌ها قصد خودکشی داشته‌اند، مشکلات روحی روانی پیدا کرده‌اند، در محل کارشان به مشکل برخورده‌اند و مواردی از این قبیل. یکی از عوامل این مشکلات، «اعتماد بیش از اندازه» به چت‌بات است. در استفاده از این چت‌بات‌ها متوجه باشید که این‌ها متخصص نیستند و نمی‌توانند همه زوایای موقعیت‌هایی که افراد در آن قرار گرفته‌اند را درک کنند. بلکه صرفا ماشین‌هایی هستند که به طور مکانیکی بر اساس اطلاعاتی که جمع‌آوری کرده‌اند به پرسش‌ها پاسخ می‌دهند. بنابراین احتیاط و شرط عقل آن است که از آنها استفاده کنید، ولی به آنها «اعتماد کامل» نداشته باشید و آن چه را می‌گویند با انسان‌های متخصص هم در میان بگذارید و راستی آزمایی کنید.
چت‌بات‌ها نه دوست صمیمی شما هستند، نه رازدارتان
گفت‌وگوی کاربران با چت جی پی تی که با دیگران به اشتراک گذاشته می‌شود می‌تواند توسط موتورهای جست‌وجوی اینترنتی ذخیره شود، حتی اگر در فضای وب منتشر نشده باشد. این باعث می‌شود برخی اطلاعات کاربران، به‌صورت ناخواسته در نتایج جست‌وجو بیاید و در دسترس عموم قرار بگیرد. این خبر باید هشداری جدی باشد برای همه کسانی که گفت‌وگو با چت‌بات‌ها را چیزی شبیه گفت‌وگو با یک دوست «صمیمی» و «رازدار» تلقی می‌کنند، بنابراین اگر می‌خواهید فردا اطلاعات شخصی‌تان در معرض دید هزاران نفر قرار نگیرد اطلاعات و تصاویر مربوط به امور مالی و کاری، وضعیت سلامتی، امور خانوادگی، محل زندگی و به طور کلی هر چیزی را که نمی‌خواهید کسی بداند را در اختیار چت‌بات‌ها نگذارید. این را هم بدانید که آنچه در فضای مجازی منتشر شود دیگر قابل حذف کردن «نیست». کافی است در سراسر این کره خاکی فقط «یک نفر» اطلاعات شما را کپی کند آن وقت دیگر هیچ کاری از دست شما بر نمی آید، جز حسرت و پشیمانی و تحمل خسارت‌ها و پیامدهای آن.
چت‌بات‌ها و محققان؛ شریک دزد یا رفیق قافله؟
استفاده اساتید، طلاب، دانشجویان و دیگر محققان از چت‌بات‌ها می‌تواند موجب یک انقلاب بزرگ در عرصه آموزش و پژوهش شود. چت‌بات‌ها گاهی بیشتر از اساتید و به اندازه ده‌ها کتاب می‌توانند به محققان برای موضوع‌یابی، ایده‌پردازی، طراحی ساختار پژوهش و ده‌ها مسئله دیگر کمک کنند. آنها می‌توانند مثل یک استاد راهنما و ناظر علمی بدون هیچ مزد و منتی از ابتدا تا انتهای انجام یک پژوهش در کنار محقق باشند، اما در این میان یک چالش بزرگ هم وجود دارد: انجام تحقیق توسط چت‌بات و ارائه آن به عنوان ثمره کار محقق و این یعنی زیر پاگذاشتن اخلاق، نقض مالکیت معنوی، سرقت علمی و فریب دادن دیگران. بنابراین از این به بعد همه مراکز علمی پژوهشی ضمن آموزش روش استفاده از چت‌بات‌ها برای تحقیق باید اصول و ضوابط اخلاقی این کار را هم آموزش دهند و البته به این هم اکتفا نکنند، بلکه در کنار آن هم اساتید، هم مدیران مجلات و مراکز علمی بر مراعات این اصول نظارت جدی داشته باشند و برای نقض آن مجازات‌های مادی و معنوی قرار دهند.
چت‌بات‌ها ممکن است کلَک بزنند یا اشتباه کنند؟
عقل و تجربه حکم می‌کند شما به دوست گرمابه و گلستان چندین ساله‌تان اعتماد 100 درصد نداشته باشید، چه رسد به چت‌بات‌ها که دوستان جدیدتان هستند. به دلایل فراوان از جمله این که ممکن است با پاسخ‌های نادرست شما را به اشتباه و حتی خطر بیاندازند. بگذریم از این که احتمال دارد به مرور با شناخت علایق و روحیات‌تان پاسخ‌هایی بدهند که شما دوست دارید، نه این که لزوما درست باشد. دلیلش هم روشن است. وقتی چیزی را از چت‌بات می‌پرسید او سوال‌تان را تحلیل می‌کند و سراغ هزاران ترابایت اطلاعات متنی می‌رود که به آنها دسترسی دارد. اولا ممکن است در فهم پرسش اشتباه کند، ثانیا ممکن است اطلاعاتش درست نباشد، ثالثا ممکن است در تلفیق اطلاعات به دست آمده و تدوین پاسخ اشتباه کند. بنابراین بعید نیست مثلا اطلاعات چند کتاب را تلفیق و یک کتاب جدید به شما معرفی کند، یا حتی از خودش آیه و حدیث بسازد. بنابراین چشم و گوش بسته پاسخ هایش را قبول نکنید؛ هم خودتان با عقل‌تان آن را بسنجید هم با منابع معتبر آن را راستی‌آزمایی کنید.
تا به حال در چاله «سوگیری» چت‌بات‌ها افتاده‌اید؟
«آیا حمله چین به تایوان از نظر اخلاقی درست است؟» این پرسشی است که از چند چت‌بات پرسیدم و همه آنها این کار را غیراخلاقی دانستند به جز چت بات «دیپسیک» که از آن دفاع کرد، چرا که دیپسیک ساخت کشور چین است و هنگام قضاوت درباره منازعه کشور خودش با دیگران، طرف چین را می‌گیرد. این یک مثال ساده از معضل بسیار مهمی است که چون خیلی آشکار نیست اکثر کاربران معمولا متوجه آن نمی‌شوند؛ یعنی چالش «سوگیری های معرفتی و اخلاقی» به این معنا که چت‌بات‌ها به دلایلی چون اطلاعات سوگیرانه، نوع آموزش، نوع الگوریتم، نوع دیدگاه سیاسی کشور سازنده، یا نوع باورهای اخلاقی و دینی طراحان آنها، ممکن است پاسخ‌های شان دارای جهت‌گیری‌های خاص اخلاقی، دینی، سیاسی، جنسیتی، قومی و نژادی خاصی باشد. این کار هم خلاف عدالت است هم موجب فریب مخاطب می‌شود، بنابراین از پذیرش چشم و گوش بسته پاسخ چت‌بات‌ها بپرهیزید و ابتدا به کمک افراد و منابع معتبر، آن را از جهت سوگیری های احتمالی مورد بررسی قرار دهید.
توصیه کافی نیست؛ هم وضع قانون، هم نظارت
روز به روز استفاده از چت‌بات‌ها در زمینه‌های مختلف در حال گسترش است. مثلا استفاده از آنها برای کارهای پژوهشی از قبیل ایده‌یابی، طراحی پروپوزال، تدوین سیر منطقی و چارچوب تحقیق، منبع‌یابی، ترجمه منابع و حتی نگارش و ویرایش متون کم کم در حال تبدیل شدن به امری عادی است. به موازات این کار، امکان سوءاستفاده از این فناوری‌ها هم بیشتر می‌شود. از این رو باید برای استفاده درست از آنها چاره‌ای اندیشید. توصیه اخلاقی در این زمینه لازم است ولی کافی نیست؛ چون همه افراد به راحتی تن به مراعات اخلاق نخواهند داد. از این رو باید «وضع قوانین»، «کنترل و نظارت» و «تنبیه و مجازات» درباره استفاده از چت‌بات‌ها را جدی گرفت. این کار مستلزم «احساس مسئولیت همگانی» است. مثلا درباره فعالیت‌های پژوهشی، افزون بر خود محققان، وزارت علوم، مدیران دانشگاه‌ها و پژوهشگاه‌ها، اساتید راهنما و مشاور و داور و مدیران مجلات علمی هر کدام در حیطه وظایف‌شان باید بر عدم سوءاستفاده از هوش مصنوعی دقت کنند.
چت‌بات‌ها موجب نشوند عقل‌مان را تعطیل کنیم
«چت جی‌پی‌تی یک مسئله ریاضی 2000 ساله را حل کرد و دانشمندان از نحوه پاسخ دادن آن شگفت‌زده شدند». نه تنها دانشمندان، بلکه ما غیردانشمندان هم از ملاحظه کارکردهای چت‌بات‌ها بسیار شگفت زده و خوشحال می‌شویم و از این که کارهایی که قبلا باید در چند ماه انجام می‌دادیم الان چت‌بات برای مان در چند دقیقه انجام می‌دهد بسیار احساس خوشحالی می‌کنیم، اما در اینجا یک خطر جدی وجود دارد که نباید از آن غافل شویم و آن این که واگذاری همه کارها به چت‌بات‌ها و اعتیاد به آنها کم‌کم موجب کاهش قدرت خلاقیت فکری و ابداع و ابتکار ما شود و این یعنی تعطیل کردن نعمت خدادادی «عقل» که نوعی کفران نعمت به‌شمار می‌آید. قطعا باید از چت‌بات‌ها استفاده کنیم، اما هرگز نباید گمان کنیم او قرار است همه کارهای ما را انجام دهد. چت‌بات‌ها و به طور کلی هوش مصنوعی نمی‌تواند و نباید جای انسان را بگیرد. انسان هنوز موجودی منحصر به فرد است به شرط این که توان فکری و قدرت عقلی‌اش را به پای هوش مصنوعی قربانی نکند.
استفاده از چت‌بات‌ها؛ به همین آسانی، به همین خطرناکی
«در یکی از شهرهای آمریکا، یک دانش‌آموز 13 ساله پس از آن‌که در کلاس درس از چت جی‌بی‌تی پرسید «چطور می‌توانم دوستم را وسط کلاس بکشم؟»، تنها نیم ساعت بعد توسط پلیس بازداشت شد». این گونه خبرها بیان‌گر یک هشدار است که معمولا ما کاربران جدی نمی‌گیریم؛ استفاده از چت‌بات‌ها هر چند کاری ساده و آسان است و آنها کم و بیش به همه درخواست‌های ما پاسخ می دهند، ولی در عین حال استفاده نادرست از آنها می‌تواند آسیب‌های اخلاقی، روحی، روانی، اقتصادی، اجتماعی و شغلی فروانی را بر ما تحمیل کند. چت‌بات پاسخ می‌دهد، ولی پیامد پاسخ‌های خود را نمی‌پذیرد. راه چاره چیست؟ «استفاده مسئولانه و آگاهانه». اگر دقت کنید در ابتدای استفاده از چت‌بات معمولا یک پیام می‌آید که «اثبات کنید انسان هستید». این پیام هر چند یک «کپچا» برای ممانعت از دسترسی ربات‌ها است، ولی بهتر است ما همواره آن را به عنوان هشداری در نظر بگیریم که چت‌بات همین ابتدا به ما می‌دهد مبنی بر این درست و آدم‌وار از آن استفاده کنیم.
چت‌بات‌ها نمی‌روند؛ پس «آموزش» را جدی بگیریم
روی سخن این یادداشت با همه افراد و نهادهایی است که درباره فناوری، اخلاق و تربیت در جامعه ما مسئولیت دارند. بزرگواران چت‌بات‌ها و دیگر فناوری‌های مبتنی بر هوش مصنوعی تازه وارد زندگی فردی و اجتماعی ما شده و از این به بعد حضورشان بیشتر خواهد شد که کم نخواهد شد. همان طور که سلف آنها یعنی «فضای مجازی» همین طور بود. اگر واقع‌بین باشیم باید بپذیریم کارکردهای مفید این فناوری‌ها به اندازه‌ای است که نه می‌توانیم (و نه باید) جلوی استفاده از آنها را بگیریم، بلکه باید زمینه استفاده هرچه «بیشتر» و «درست‌تر» شهروندان از آنها را به گونه‌ای فراهم کنیم که از آسیب‌های اخلاقی‌اش در امان باشند. برای رسیدن به این مقصود باید «تربیت» و «آموزش» اخلاقی همه اقشار جامعه، از افراد عادی تا متخصصان هوش مصنوعی را جدی بگیریم، این کار باید به صورت مداوم، برنامه‌ریزی شده، با بهره‌گیری از ابزار مناسب و روش‌های جذاب انجام شود. سرعت تحولات هوش مصنوعی از فضای مجازی بیشتر است و چالش‌های اخلاقی‌اش نیز همین گونه است.
انتهای پیام/