این اشتباهات می‌توانند ناشی از خطای برنامه‌ریزی، داده‌های ناقص یا حتی عملکرد غیرقابل پیش‌بینی الگوریتم‌های خودآموز باشند. در چنین شرایطی، در صورت وقوع خطا، مسئولیت حقوقی بر عهده چه کسی خواهد بود؟
پریناز ممیز، حقوقدان اظهار کرد: «هوش مصنوعی تحولی شگرف در حوزه پزشکی ایجاد کرده است و اکنون در فرآیندهایی مانند تشخیص بیماری، جراحی و مدیریت درمان نقش کلیدی ایفا می‌کند. اما با وجود این مزایا، اشتباهات ناشی از هوش مصنوعی چالش‌های تازه ای را به همراه داشته که پیامدهای جدی برای بیماران و پزشکان دارد. این مسئله به‌ویژه از منظر حقوقی و تعیین مسئولیت، حایز اهمیت است.»
وی افزود: «استفاده از هوش‌مصنوعی ممکن است گاهی منجر به تشخیص‌های نادرست، پیش‌بینی‌های اشتباه یا اجرای نادرست در فرآیندهای درمانی شود. این اشتباهات می‌توانند ناشی از خطای برنامه‌ریزی، داده‌های ناقص یا حتی عملکرد غیرقابل پیش‌بینی الگوریتم‌های خودآموز باشند. در چنین شرایطی، پرسش اصلی این است که در صورت وقوع خطا، مسئولیت حقوقی بر عهده چه کسی خواهد بود؟
ممیز ادامه داد: «در نظام حقوقی ایران، مسئولیت پزشکان بر مبنای تقصیر است و آنان باید اقدامات خود را بر اساس استانداردهای علمی انجام دهند. اما اگر پزشک از یک سیستم هوش مصنوعی استفاده کند که نتیجه اشتباهی ارائه دهد، آیا همچنان مسئول خواهد بود؟ به طور کلی، پزشک در صورت استفاده نادرست از فناوری یا ارزیابی ناصحیح نتایج آن مسئول شناخته می‌شود.»
این حقوقدان گفت: «از سوی دیگر، تولیدکنندگان نرم‌افزارهای هوش‌مصنوعی نیز در برابر اشتباهات ناشی از طراحی یا برنامه‌ریزی نادرست سیستم‌ها ممکن است مسئول باشند. علاوه بر این، بیمارستان‌ها و مراکز درمانی نیز در صورت قصور در آموزش کارکنان یا نظارت بر عملکرد سیستم ممکن است مسئولیت داشته باشند.»
ممیز بیان کرد: «با وجود این چارچوب‌ها، مسائل تازه ای مانند پیچیدگی فنی الگوریتم‌ها، ماهیت خودآموزی سیستم‌های هوش‌مصنوعی و نبود قوانین شفاف، چالش‌های بسیاری را در تعیین مسئولیت به وجود آورده است. نظام‌های حقوقی باید با تدوین قوانین تازه، مسئولیت‌ها را به طور دقیق‌تر مشخص کنند و سازوکارهایی برای کاهش خطرات احتمالی ایجاد شود.»
وی افزود: «هوش مصنوعی، با وجود اشتباهات احتمالی، همچنان یک ابزار حیاتی برای پیشرفت علم پزشکی است. اما برای بهره‌برداری بهتر از آن، نیازمند ایجاد تعادل میان استفاده از فناوری و تضمین حقوق بیماران هستیم. تدوین چارچوب‌های قانونی و اخلاقی دقیق در این زمینه، می‌تواند گامی موثر در مدیریت این تحول بنیادین باشد.»