به گزارش گروه علمی ایرنا، فاطمه قناد امروز شنبه ۲۸ شهریور در نشست علمی بررسی بازاندیشی مسئولیت کیفری در عصر قدرت دیجیتال با حضور استادان، پژوهشگران و دانشجویان حوزه حقوق دانشگاه علم و فناوری اوفا (UUST) روسیه و دانشگاه علم و فرهنگ ضمن تشریح چالشهای نوظهور حقوقی در مواجهه با تصمیمگیریهای مبتنی بر هوش مصنوعی اظهارکرد: اگر یک تصمیم اشتباه نتیجه کار یک انسان نباشد بلکه محصول همکاری انسان، داده، الگوریتم و زیرساخت دیجیتال باشد، تعیین مرز مسئولیت یکی از جدیترین چالشهای حقوق کیفری خواهد بود.
وی افزود: ورود هوش مصنوعی به ساختارهای تصمیمگیری صرفا به معنای ظهور فناوری جدید برای ارتکاب یا کشف جرم نیست بلکه نسبت میان انسان، فعل، کنترل، خطر و مسئولیت را دگرگون میکند.
قناد گفت: در محیطهای دیجیتال تصمیم ممکن است حاصل تعامل میان انسانها، دادهها، الگوریتمها، پلتفرمها و زیرساختهای فنی باشد. در چنین شرایطی حقوق کیفری ناگزیر است علاوه بر پرسش سنتی چه کسی عمل کرد، پرسش دیگری را نیز در مرکز تحلیل قرار دهد که این تصمیم چگونه ممکن شده است.
معمار تصمیم و زاویه جدید انتساب مسئولیت
عضو هیئت علمی دانشگاه علم و فرهنگ با تبیین مفهوم معمار تصمیم خاطرنشان کرد: معمار تصمیم الزاما کسی نیست که آخرین تصمیم را اتخاذ کرده است، بلکه ممکن است فرد یا نهادی باشد که قواعد، دادهها، زیرساخت یا شرایطی را طراحی کرده که تصمیم در درون آن شکل گرفته است.
قناد تاکیدکرد: طرح این مفهوم به معنای ایجاد عنوان مجرمانه جدید نیست بلکه زاویه نگاه به مسئله انتساب را تغییر میدهد. در بررسی مسئولیت باید محل طراحی، میزان کنترل، آگاهی از خطر و امکان پیشگیری از پیامد را در کل فرایند تصمیم شناسایی کرد. توزیع عاملیت لزوما به معنای توزیع تقصیر نیست و مسئولیت کیفری همچنان نیازمند مبنای حقوقی و انتساب مشخص است، اما در ساختارهای تصمیمگیری توزیعشده باید نقاط واقعی مسئولیت انسانی را در زنجیره طراحی، کنترل و اجرا شناسایی کرد.
تحول فناوری از ابزار ساده به زیرساخت تصمیمگیری
این متخصص حقوق دیجیتال به تغییر جایگاه فناوری در سامانههای هوشمند اشاره کرد و گفت: در نگاه سنتی فناوری ابزاری در اختیار انسان برای اجرای تصمیم است اما در سامانههای هوشمند فناوری به بخشی از نحوه مشاهده، اندازهگیری، طبقهبندی و ارزیابی جهان تبدیل میشود.
قناد افزود:دادهها برخی واقعیتها را برجسته و برخی دیگر را پنهان میکنند، الگوریتمها میان دادهها ارتباط برقرار میسازند و مدلها احتمال وقوع رویدادها را محاسبه میکنند، بنابراین فناوری بهتدریج از یک ابزار صرف به زیرساخت تصمیمگیری تبدیل میشود.
وی با اشاره به پروندهای قضایی در دادگاه آمستردام مطرح کرد: در پروندهای که ۱۷ ژوئن ۲۰۲۶ مورد رسیدگی قرار گرفت، متهم در فرایند شناسایی و احراز هویت دیجیتال بانک ABN AMRO از تصاویر دستکاریشده و فناوری دیپفیک استفاده کرده و در ۴۷ مورد موفق به گشودن حسابهای بانکی شده بود. متهم بابت کلاهبرداری، جعل مدارک هویتی و جرایم مرتبط به ۳۰ ماه حبس شامل شش ماه حبس تعلیقی محکوم شد. اهمیت این پرونده در ورود مستقیم فناوری به فرایند تشخیص هویت و اختلال در سازوکار تمایز میان هویت واقعی و ارائهشده بود.
حفظ مرز بنیادین میان احتمال جرم و وقوع آن
قناد درباره کارکرد الگوریتمها در پیشبینی رفتار و ارزیابی خطر تصریح کرد: عدالت کیفری سنتی رویکردی پسینی دارد و پس از وقوع جرم آغاز میشود، اما سامانههای هوشمند با تحلیل دادهها احتمال وقوع رفتار یا میزان خطر را پیشبینی میکنند. در این میان باید یک مرز بنیادین حفظ شود؛ احتمال جرم همسان وقوع جرم نیست و خطر مسئولیت کیفری ایجاد نمیکند.
وی افزود: پیشبینی الگوریتمی نمیتواند بهخودیخود جایگزین فعل مجرمانه، مبنای قانونی مسئولیت و شرایط لازم برای انتساب شود. در غیر این صورت این خطر وجود دارد که انسان پیش از ارتکاب هر فعل به یک احتمال، امتیاز یا پروفایل خطر تقلیل یابد. مسئله صرفا میزان دقت محاسبات الگوریتمی نیست بلکه جایگاه انسان در برابر تصمیمی که به واسطه سامانه فنی شکل گرفته باید مورد توجه قرار گیرد.
شفافیت الگوریتمی و حق دفاع حقوقی
عضو هیئت علمی دانشگاه علم و فرهنگ همچنین با تشریح مفهوم حقیقت الگوریتمی اظهارکرد: داده امری خام و بیواسطه نیست بلکه تولید، جمعآوری، ذخیره، پردازش و تفسیر میشود. نتیجه یک سامانه الگوریتمی نیز محصول همین فرایند است و نمیتوان آن را بیواسطه با حقیقت یکی دانست. برای حقوق تنها نتیجه ارائه شده اهمیت ندارد بلکه فرایندی که نتیجه را پدید آورده و امکان ارزیابی و اعتراض نسبت به آن را فراهم میکند نیز حائز اهمیت است.
قناد ادامه داد: مسئله شفافیت الگوریتمی به این پرسش کلاسیک حقوقی بازمیگردد که آیا شخصی که تصمیم درباره او گرفته شده میتواند مبنای تصمیم را بفهمد و در برابر آن از حق دفاع استفاده کند یا خیر.
قدرت تصمیمگیری در شبکه توزیعشده و چالش دیپفیک
این استاد دانشگاه در ادامه با تحلیل رابطه دولت و قدرت دیجیتال بیان کرد: دولت همچنان صاحب قدرت کیفری است اما تمام زیرساختهای اعمال این قدرت الزاما در اختیار دولت نیست. داده ممکن است در اختیار شرکت خصوصی باشد، پردازش در مراکز داده انجام شود، زیرساخت ابری متعلق به بازیگری دیگر باشد و ابزار تحلیل توسط شرکت فناوری دیگری طراحی شده باشد. در چنین شرایطی قدرت تصمیمگیری در یک شبکه توزیعشده شکل میگیرد و ضرورت توجه به نقش هر یک از بازیگران افزایش مییابد.
قناد همچنین فناوری دیپفیک را نمونهای از چالشهای نوظهور دانست و گفت: هنگامی که فناوری میتواند چهره یا صدای فردی را بدون حضور و اراده او بازتولید کند، مسئله اصلی جدایی هویت از عاملیت است. ممکن است تصویر یا صدای فرد بازتولید شود اما هیچ نسبتی میان آن محتوا و فعل واقعی شخص وجود نداشته باشد، بنابراین اصالت هویت دیجیتال به یکی از مسائل مهم حقوق در آینده تبدیل میشود.
ضرورت انطباق تحلیل حقوقی با ساختارهای جدید
قناد در ادامه خاطرنشان کرد: مسئله حقوق کیفری در عصر هوش مصنوعی مجازات ماشینها نیست بلکه یافتن مسئولیت انسانی در معماریهایی است که در آنها تصمیمها میان انسانها، دادهها، الگوریتمها و زیرساختها شکل میگیرند. حقوق کیفری در آینده در کنار پرسش سنتی فاعل کیست، ناگزیر است بررسی کند که تصمیم چگونه ممکن شده و چه کسی معماری آن را ساخته است. پاسخ به این پرسش به معنای کنار گذاشتن اصول سنتی مسئولیت کیفری نیست بلکه تلاشی برای انطباق تحلیل حقوقی با ساختارهایی است که تصمیم در آنها دیگر همواره محصول اراده یک انسان منفرد نیست.