جوان آنلاین: «هوش مصنوعی» با نظام حقوقی و قضایی چه خواهد کرد؟ این پرسش هم یکی از هزاران پرسشی است که این روز‌ها حول هوش مصنوعی و تأثیر آن بر ساحت‌های مختلف، محل بحث است و از زوایای مختلف بررسی می‌شود. برای واکاوی این پرسش با طاهر حبیب‌زاده، دانش‌آموخته دکترای حقوق فناوری اطلاعات، عضو هیئت علمی دانشگاه امام صادق (ع)، مؤلف مجموعه کتب حقوق فناوری اطلاعات و برگزیده جشنواره بین‌المللی فارابی در علوم انسانی درباره آینده علم حقوق و فناوری هوش مصنوعی به گفت‌و‌گو نشستیم. به اعتقاد وی، هوش مصنوعی نه امروز و نه فردا بلکه هرگز نمی‌تواند جایگزین قطعی انسان‌ها شود و از جمله دلیل آن قدرت تعقل و درک معنایی است که انسان دارد و هوش مصنوعی فاقد چنین توانمندی‌ای است. ماحصل این گفت‌و‌گو را در ادامه بخوانید.
هوش مصنوعی فعلی «ماشین حساب کلمات» است
هوش مصنوعی همان چیزی است که امروز در دسترس عموم مردم است یا تعاریف دیگری هم دارد؟
باید هوش مصنوعی‌ای را که اینک در عمل استفاده می‌شود از هوش مصنوعی‌ای که ایده‌پردازان درصدد توسعه آن هستند، تفکیک کنیم. هوش مصنوعی‌ای که الان استفاده می‌کنیم تقریباً یک موتور جست‌وجوی قدرتمند، اما هوشمند است، نه یک نرم‌افزار متفکر که توانایی خلق داده به معنای واقعی کلمه دارد. در واقع صحبت از هوش مصنوعی در هرکدام از این دو حوزه متفاوت است. هوش مصنوعی بالفعل با هوش مصنوعی بالقوه متفاوت خواهد بود. هوش مصنوعی بالفعل امروز، فاقد توانایی تعقل و فهم و درک معناست، یعنی اگر به او سلام دهید به شما سلام می‌دهد، اما سؤال این است که آیا الان این هوش مصنوعی مثل یک انسان می‌فهمد که گفتن «سلام» در مقابل «سلام» به چه معنی است یا فقط به طور ماشینی در مقابل «سلام» می‌گوید «سلام»؟! وقتی به هوش مصنوعی می‌گوییم «مفهوم کلمه سلام را درک می‌کنید» می‌گوید «من قدرت تعقل و درک معنا ندارم». هوش مصنوعی بالفعل امروز فاقد قدرت تعقل و درک معنا و در نهایت تحلیل معنی محور (نه مطلق تحلیل) است، چراکه تحلیل معنی محور مبتنی بر درک معناست، یعنی اگر یک موجودیتی مثل انسان یا هوش مصنوعی در آینده نتواند متن را بفهمد، توان تحلیل معنامحور و فهم‌محور را هم ندارد. به نظر بنده و با در نظرگرفتن جرقه اصلی خلق چنین موجودیت رایانه‌ای، «هوش مصنوعی فعلی ماشین حساب کلمات است» و این دقیق‌ترین عبارتی است که در حال حاضر می‌توان برای معرفی هوش مصنوعی ارائه کرد. همانطور که ماشین حساب فرق بین اعداد را نمی‌فهمد، هوش مصنوعی نیز بار معنایی کلمات را نمی‌داند و تنها با توجه به الگوریتم خود یک خروجی منطقی نمایه می‌کند.
هوش مصنوعی فاقد احساسات، باور، وجدان و اعتقاد است
سندیت هوش مصنوعی به کجا و چه زمانی برمی‌گردد یا بهتر است بگوییم مبتکر اولیه آن چه کسی بود؟
مشهور است برای اولین بار در سال۱۹۶۹میلادی، آلن تورینگ انگلیسی (ریاضیدان و دانشمند علوم رایانه) روی این ایده کار کرد که «آیا ماشین‌ها می‌توانند فکر کنند؟» اگر همین عبارت را در گوگل جست‌و‌جو کنید، نوشتار آلن تورینگ را خواهید دید. در واقع وی مبتکر اولیه داستان هوش مصنوعی است، اما به نتیجه دلخواه نرسید. بعد‌ها یک تیم امریکایی دیگر با سردمداری جان مک کارتی (دانشمند علوم رایانه) توانست این کار را تا حدودی پیش ببرد و اولین بار عبارت هوش مصنوعی را ضرب کند، به همین دلیل در برخی نوشته‌ها به پدر هوش مصنوعی معروف شده است. در واقع وی درصدد ابداعی روی محتوا بود، مشابه همان ماشین حسابی که برای اعداد اختراع شده است.
خروجی هوش مصنوعی در علوم نظری نمی‌تواند مورد استناد قرار گیرد
با توجه به کیفیت عملکرد هوش مصنوعی در کدام حوزه‌ها می‌تواند وارد شود و مورد استناد قرار گیرد؟
هوش مصنوعی می‌تواند در حوزه‌های وسیعی از فعالیت‌های انسانی به کار گرفته شود، از صحنه جنگ تا عملیات پزشکی و تحلیل محتوا در رشته‌های مختلف علوم انسانی، همانطور که هم اینک نیز مورد استفاده قرار می‌گیرد، اما با توجه به ماهیت عملکرد آن، در علوم انسانی، در حد استمزاج یعنی در حد یک نظرخواهی کلی و اخذ مشاوره می‌تواند به ما کمک کند و سرنخ‌های قابل استفاده دهد، نه در حدی که بتوانیم به حرف‌ها و تحلیل‌های آن استناد کنیم، چراکه صرفاً الگوریتمی است که می‌تواند در متن‌های مختلف، روی واژه‌ها پردازش کند و یک خروجی نشان دهد، البته از قضا در موارد قابل توجه، همین خروجی نیز خطاآمیز است. در واقع هوش مصنوعی می‌تواند در علوم نظری مورد استفاده قرار گیرد، اما خروجی آن نمی‌تواند مورد استناد قرار گیرد. بین «استفاده» و «استناد» تفاوت معناداری وجود دارد.
هوش مصنوعی به دلیل داده‌های ورودی خطاآمیز و الگوریتم سوگیرانه و جانبدارانه «خروجی خطاآمیز» دارد
دلیل خطای هوش مصنوعی چیست؟
این فناوری به رغم هوشمندی بالا، قدرت تعقل و درک معنا ندارد و خروجی آن به سه دلیل خطاآمیز بوده که ثابت هم شده است. اول، ورودی‌های (داده‌های) هوش مصنوعی خطا دارد، بنابراین طبیعتاً خروجی هم به دنبال آن خطا خواهد داشت. اینترنت پر از داده‌های خطاآمیز، گزاره‌های اثبات‌نشده و پر از فرضیه‌های علمی است (نه نظریه‌های علمی). در نتیجه مواد خام هوش مصنوعی هم همین‌هاست که با پردازش آنها، خروجی نیز خطاآمیز خواهد داشت. دوم، گاهی الگوریتم هوش مصنوعی «جانبدارانه» و «سوگیرانه» نوشته می‌شود، البته نه همیشه، اما در مواردی ثابت شده است و نمونه‌های عینی دارد. به عنوان نمونه، در یک بیمارستانی در امریکا به هوش مصنوعی مأموریت دادند حق ویزیت بیماران را حساب کند، اما بعد از مدتی دیدند هوش مصنوعی حق بیمه سفیدپوستان را دوبرابر سیاهپوستان حساب می‌کند و تبعیض قائل می‌شود. علت را جویا و متوجه شدند الگوریتم هوش مصنوعی جانبدارانه نوشته شده است. مثال دیگر، در مورد عفو مجرمان در یکی از دادگاه‌های ایالات متحده امریکاست. اسامی متقاضیان عفو به هوش مصنوعی جهت بررسی صلاحیت‌های لازم سپرده شد، اما هوش مصنوعی قوانین راجع به عفو را تحلیل و نسبت به سیاهپوستان در مقایسه با سفیدپوستان سختگیرانه عمل می‌کند! سوم، هوش مصنوعی به دلیل عدم‌درک معنی، گاهی خروجی غیرمنتظرانه نشان می‌دهد و متوجه سؤال نمی‌شود. به عنوان مثال، از هوش مصنوعی سؤال شد «جُرم چیست؟» در پاسخ به جای تعریف حقوقی از جرم، سخن از وزن و چگالی کرد که در علم فیزیک مطرح است و تفاوت جُرم را با جرم متوجه نشد و حتی سؤال نکرد منظور شما جُرم است یا جرم؟!
نظریه «عصمت هوش مصنوعی» مخدوش است
تضمینی برای ارائه درست داده‌ها به آن و خروجی صحیح وجود دارد؟
ممکن است سؤال شود حال که هوش مصنوعی با سرعت و دقت بسیار بالا نظر می‌دهد، دیگر چه نیازی به مرجع تقلید؟! آیا هوش مصنوعی نمی‌تواند فتوا دهد؟! یا در مسائل قضایی، آیا بهتر نیست هوش مصنوعی، رأی صادر کند و مانع اطاله دادرسی شود؟! ما با پدیده‌ای مواجه هستیم که سه منشأ خطا دارد و در سؤال قبلی اشاره شد، بنابراین «نظریه عصمت هوش مصنوعی» از نظر اجرایی و فنی مخدوش است. هوش مصنوعی فقط در یک چیز عصمت دارد و بَری از خطاست و آن هم در اجرای الگوریتمی است که برای آن نوشته شده است، یعنی هوش مصنوعی دقیقاً همان الگوریتمی را اجرا می‌کند که برای آن نوشته شده است، با این حال اگر الگوریتم آن جانبدارانه نوشته شده باشد، جانبدارانه عمل می‌کند و اگر الگوریتم آن منطقی نوشته شده باشد، منطقی عمل می‌کند و تخطی نخواهد کرد. از آنجا که خود درک معنا ندارد و ممکن است داده‌های ورودی خطاآمیز باشد، خروجی آن دست‌کم در مواردی خطاآمیز خواهد بود، حتی اگر الگوریتم آن منطقی و بدون سوگیرانه نوشته شده باشد. علاوه بر این، در مواردی صدور حکم از سوی «انسان» موضوعیت دارد و نه طریقیت، از جمله در صدور احکام شرعی از سوی مرجع تقلید واجدالشرایط و صدور حکم قضایی از سوی قاضی واجدالشرایط، مسئله فقط دقت و سرعت بالای صدور حکم نیست، بلکه صادرکننده حکم حتماً باید انسان باشد و این یک مبنای محکم در نظر شارع دارد. برخورداری از شأنیت صدور حکم، شعبه‌ای از ولایت است و مسئولیت دنیوی و اخروی برای صادرکننده دارد که این خصایص در مورد هوش مصنوعی به هیچ وجه قابل تصور نیست، حتی اگر هوش مصنوعی بتواند بهترین حکم را صادر کند، در نهایت قطعاً باید یک انسان پای حکم را امضا و ابلاغ کند.
کاربرد هوش مصنوعی فقط در حد «مشورت‌دادن» به قاضی است
حالا سراغ علم حقوق برویم، با این توضیحات هوش مصنوعی کجا می‌تواند در عالم حقوق کاربرد داشته باشد؟
فعلاً هوش مصنوعی توسعه‌یافته مختص عالم حقوق نداریم و اهالی حقوق از همان هوش مصنوعی‌هایی که در دسترس عموم است، استفاده می‌کنند. با ذکر این نکته که داده‌های انگلیسی هوش مصنوعی بسیار قوی‌تر از داده‌های فارسی آن است، اگر سؤالات به زبان انگلیسی مطرح شود، خروجی مفصل‌تر و پراستنادتر خواهد شد. لازم است ذکر شود که قوه قضائیه روی پروژه‌ای تحت عنوان «دستیار هوشمند قاضی» کار می‌کند و ظاهراً الگوریتم مربوط به پرونده‌های مرتبط با تصادفات تمام شده و الان در حال کار روی پرونده‌های جرائم توهین و سرقت است. هدف این است که با توجه به داده‌های موجود در قوه قضائیه، با تحلیل مفاد آرایی که قبلاً در این حوزه‌ها صادر شده، حالات تحقق جرم، دفاعیات صورت گرفته، تحلیل قاضی و استنادات وی و خروجی نهایی رأی، به قضات کمک شود بتوانند با سرعت بیشتر و دقت بالاتری به یک رأی منطقی برسند، البته باید توجه داشت که اسم آن را هم «دستیار هوشمند قاضی» گذاشته‌اند، نه «قاضی هوشمند» چراکه خود آنها به نیکی توجه دارند که هوش مصنوعی فقط در حد مشورت به قاضی قابلیت استفاده دارد نه در جایگاه قاضی، حتی در حوزه پژوهش که گاهی بسیار تحسین‌برانگیز عمل می‌کند، حتماً یک متخصص حوزه مربوط باید بازبینی و تأیید نهایی کند.
ازجمله کاربرد‌های هوش مصنوعی حل معما‌های پیچیده و پیداکردن تعارض اظهارات طرفین است
هوش مصنوعی چه کاربرد‌های دیگری برای قضات دادگاه‌ها می‌تواند داشته باشد؟
مواردی، چون پیشنهاد پیش‌نویس رأی قاضی بر اساس آرای سابق، دریافت مشاوره‌های حقوقی، دریافت پیشنهاد مواد قانونی قابل استناد در یک پرونده (اگر همه داده‌های حقوقی معتبر را به آن داده باشیم) حل کردن معما‌های سخت کارآگاه‌ها، پیدا کردن تعارض اظهارات طرفین و لوایح آنها و پیدا کردن آرای مرتبط قبلی.
هوش مصنوعی ممکن است موجب «اطاله دادرسی» شود
آیا هوش مصنوعی حین استفاده در حوزه قضاوت، می‌تواند کاربرد منفی هم داشته باشد؟
ممکن است برخلاف تصوراتی که وجود دارد، هوش مصنوعی موجب اطاله دادرسی شود، یعنی دادرسی‌های ما از الان هم طولانی‌تر شود. ممکن است هوش مصنوعی فروعاتی باز کند که قاضی در گذشته به آنها توجه نداشته است. به عنوان مثال، قاضی رسیدگی‌کننده به پرونده‌های توهین، یک ساختار مشخص در ذهن دارد، اما وقتی هوش مصنوعی دست روی فروعات جدید می‌گذارد، باید اول جواب آنها را پیدا کند تا با وجدان آسوده رأی دهد. اگر قاضی به آنها توجهی نکند، ممکن است وجدانش مخدوش شود و اگر توجه کند، ممکن است اطاله دادرسی به دنبال آورد.
هوش مصنوعی نه الان و نه هیچ زمانی جایگزین قطعی انسان نخواهد شد
خیلی‌ها شاید گمان کنند هوش مصنوعی می‌تواند جای انسان را بگیرد، اما نظر به صحبت‌های شما مبتنی بر اینکه هوش مصنوعی فاقد احساس و درک است، نمی‌تواند جایگزین انسان، نه الان و نه هیچ زمان دیگری باشد؟
هوش مصنوعی نه الان و نه هیچ زمانی جایگزین قطعی انسان نخواهد شد، بله، ممکن است در برخی از حوزه‌ها جانشین انسان شود، اما نه در همه حوزه‌ها، مخصوصاً در حوزه‌های سیال، نظریه‌ای و تفکری که هوش مصنوعی در حد مشاور می‌تواند نظردهی کند. آیا تا به حال دقت کرده‌اید، چرا نمی‌گوییم وجدان مصنوعی، قلب مصنوعی، نفس مصنوعی، جان مصنوعی، عقل مصنوعی، فکر مصنوعی؟ و می‌گوییم هوش مصنوعی؟ همه فعالان هم بر به‌کارگیری این عبارت اخیر تأکید دارند چراکه هوش مصنوعی قدرت محاسبه‌گری انسان را شبیه‌سازی می‌کند و بقیه توانمندی‌های انسان در اختیار او نیست و قابلیت شبیه‌سازی این خصایص انسانی هیچ موقع وجود ندارد، مثل وجدان، جان، روح و قلب. فاقد وجدان‌بودن هوش مصنوعی و دوری از آگاهی درونی در اسناد اتحادیه اروپا نیز تکرار شده است، به طوری که از سال ۲۰۱۷ تا سال ۲۰۲۴ اتحادیه اروپا بیش از ۲۰ سند مختصر یا مفصل در حوزه هوش مصنوعی تنظیم کرده است. در سند اول (۲۰۱۷) از عبارت شخصیت الکترونیکی (electronic personality) یاد کرده و معتقد است باید به هوش مصنوعی مثل انسان، شخصیت ببخشیم. پیرو نامه‌های متعدد متخصصان در سند آخر از این موضع خود صریحاً عدول کرده و بار‌ها و بار‌ها تأکید کرده است ما هوش مصنوعی را به دور از شخصیت‌بخشی پیش می‌بریم، چراکه دارای درک و وجدان باطنی نیست.
کاربرد هوش مصنوعی برای وکلا، از جمله تخمین موفقیت در یک پرونده
هوش مصنوعی در مقام وکالت به کجا خواهد رسید؟
در چند مورد مهم قابل استفاده است: پیدا کردن رویکرد سابق محاکم، تدوین پیش‌نویس لوایح و دفاعیات وکلا (در حد سرنخ گرفتن و استمزاج)، پیش‌بینی خروجی دادگاه با توجه به وقایع پرونده و کیفیت جلسات دادرسی‌های برگزار شده و امکان‌سنجی میزان موفقیت یک پرونده قبل از طرح دعوا، البته چنین بهره‌وری‌ای مستلزم توسعه هوش مصنوعی تخصصی و پیشرفته در حوزه حقوق است و با هوش مصنوعی‌های عمومی به نحو مطلوب امکانپذیر نیست.
هوش مصنوعی قادر به تفکیک مفاهیمی، چون «عدالت» از «انصاف» نیست
در حال حاضر وضعیت فعلی هوش مصنوعی در عالم حقوق، بعد‌ها هم در همین حد باقی می‌ماند یا تغییر می‌کند؟
آینده را باید در آینده قضاوت کرد، اما پیش‌بینی بنده این است با توجه به اینکه هوش مصنوعی قدرت درک تمام معنا را بماهو نخواهد داشت، در آینده هم وضعیت همینگونه است. اهالی فنی تا جایی که بنده گفت‌و‌گو کرده‌ام، معتقدند خیلی از مفاهیم حقوق قابل نوشتن در قالب الگورتیم نیست، مثل «تفسیر بر اساس حسن‌نیت»، «کشف قصد طرفین» یا «رعایت عدالت و انصاف»، در نتیجه باید پرسید آیا هوش مصنوعی قادر به رعایت عدالت در تصمیم خود است؟! در واقع مفهوم عدالت و انصاف قابل شاخصه‌بندی نیست تا در قالب الگوریتم ریخته شود و از آنجا که مفاهیم عالم حقوق صرفاً برای موجودیتی مثل انسان قابل درک و معناست که گاهی انسان‌ها هم اختلاف در برداشت معانی دارند، رشد هوش مصنوعی در این حوزه چندان فراتر از این نخواهد رفت یا دست‌کم به نقطه ایده‌آل در حوزه علم حقوق نخواهد رسید. در نهایت، ممکن است هوش مصنوعی در آینده قوی‌تر از حالا عمل کند، اما خروجی آن مستلزم بازبینی و تأیید یک نیروی حقوقی انسانی است.
در قوانین فعلی ایران هوش مصنوعی صراحتاً دارای شخصیت حقوقی نیست
با قوانین فعلی موجود در کشور، وضعیت هوش مصنوعی در ایران نیازمند چارچوب مشخص است؟
در عالم حقوق و تقنین ما آینده‌پژوهی جهت قاعده‌گذاری پیش‌بینی نمی‌کنیم. ابتدا باید حدود و ثغور فناوری معین شود و سپس طبق چیستی و اوصاف آن قانونگذاری و سیاستگذاری صورت گیرد. حال این فناوری در سال‌های اخیر آمده است. هنوز تصمیم‌سازان در حال شناخت زوایای دقیق آن هستند. در این میان، به لحاظ حقوقی، از جمله سؤالات کلیدی، کیفیت انتساب افعال و اقدامات و خروجی عملکرد هوش مصنوعی است. در بحث انتساب، از منظر حقوقی، ما با مفهوم شخصیت روبه‌رو می‌شویم، چراکه در عالم حقوق انتساب نهایی یک اقدام فقط به شخص ممکن است تا بتوان تکلیف و مسئولیت در قبال آن خواست. انتساب به موجودیتی که فاقد «شخصیت» است، بی‌معنی است. قانونگذار بگوید آیا هوش مصنوعی دارای شخصیت است یا خیر تا بتوانیم حقی را به او بدهیم یا مسئولیتی از آن بخواهیم. به طور کلی، از قوانین موجود ایران از جمله ماده۲ قانون تجارت الکترونیکی۱۳۸۲ در تعریف «شخص»، به جهت خودمختاری مختصر (نه خودکاری صرف) که هوش مصنوعی دارد، این برنمی‌آید که هوش مصنوعی دارای شخصیت است که البته تحلیل تخصصی مجزایی می‌طلبد.
۷ سال از متوسط جهانی توسعه هوش مصنوعی عقب هستیم
پیشنهاد شما به قانونگذار ایران چیست؟
قانونگذار ما باید موضع خود را در مورد شخصیت هوش مصنوعی و مسئولیت‌پذیری آن مشخص کند. مالکیت داده‌های تولیدی از سوی هوش مصنوعی برای کیست یا چیست؟! برای هوش مصنوعی یا سازندگان آن یا خود کاربری که با سؤال خود زمینه خلق داده را ایجاد کرده است؟ کیفیت حفاظت از حریم خصوصی اشخاص در استفاده از هوش مصنوعی چگونه است؟ در توسعه هوش مصنوعی، شرکت‌های دانش‌بنیان و برنامه‌نویسان این حوزه، کدام چارچوب‌ها را باید رعایت کنند. از جهت ارزش‌های حاکم بر فرهنگ جامعه، اخلاق و سایر موارد و شرایط و دامنه مسئولیت آنها تا کجاست؟ همچنین شرایط در دسترس‌بودن هوش مصنوعی‌های خارجی در ایران را مشخص کنند، البته در «سند ملی هوش مصنوعی۱۴۰۳» مصوب شورای عالی انقلاب فرهنگی، افق ۱۰ سال آینده ایران سیاستگذاری شده است، اما نیازمند قوانین تفصیلی و مقررات جزئی هستیم. اخیراً گزارشی با عنوان «شاخص هوش مصنوعی ایران۱۴۰۳» از سوی پژوهشگران در دانشگاه صنعتی شریف تدوین شده است که از منظر هفت شاخص وضعیت هوش مصنوعی ایران را با سایر کشور‌ها مقایسه کرده و ذکر شده است حدود هفت سال از متوسط جهانی عقب هستیم و این یعنی محتاج کار و سرمایه‌گذاری بسیار بیشتری در این حوزه هستیم.