مجید خلخالی در گفت‌وگو با ایسنا با اشاره به مرز میان استفاده از هوش مصنوعی به‌عنوان دستیار پژوهش و نویسنده واقعی مقاله علمی اظهار کرد: مرز اصلی را می‌توان در یک جمله خلاصه کرد: هوش مصنوعی می‌تواند کار را سریع‌تر کند، اما نباید جای فکر کردن را بگیرد. اگر ایده، پرسش پژوهش، تصمیم‌های روش‌شناختی، تفسیر یافته‌ها و نتیجه‌گیری از آنِ پژوهشگر باشد و ابزار فقط در کارهای کمکی، مثل ویرایش، خلاصه‌سازی یا پیشنهاد ساختار به او یاری برساند، ابزار در جایگاه «دستیار» است. اما اگر پژوهشگر متنی را که ماشین تولید کرده است بدون بازبینی جدی، بدون تسلط بر محتوا و بدون توان دفاع از آن به نام خود منتشر کند، ابزار عملاً به «نویسنده» بدل شده است.

وی افزود: یک محک ساده برای سنجش این مرز وجود دارد، «آیا می‌توانم بدون ابزار، از هر جمله و هر عدد این مقاله دفاع کنم؟» اگر پاسخ منفی است، مرز عبور شده است. یک نکته حقوقی و اخلاقی هم مهم است اینکه نویسنده بودن فقط «نوشتن متن» نیست؛ پذیرش مسئولیت است. هوش مصنوعی نمی‌تواند پاسخگو باشد، نمی‌تواند در داوری از یافته‌ها دفاع کند و نمی‌تواند خطای خود را اصلاح و عذرخواهی کند. به همین دلیل بیشتر ناشران بزرگ هوش مصنوعی را به‌عنوان نویسنده نمی‌پذیرند.

این استاد دانشگاه فردوسی مشهد با اشاره به فرصت‌ها و چالش‌های استفاده از هوش مصنوعی در پژوهش علمی گفت: این گزاره درست است و هر دو روی سکه را باید دید. از یک سو، هوش مصنوعی برای پژوهشگرانی که زبان انگلیسی زبان مادری‌شان نیست، برای کسانی که با حجم عظیم منابع روبه‌رو هستند و برای تحلیل‌های تکراری، فرصتی واقعی است و می‌تواند عدالت پژوهشی را بیشتر کند. از سوی دیگر، پرسش‌های تازه پیش آمده است.

خلخالی با اشاره به موضوع اصالت علمی افزود: وقتی بخشی از متن را ماشین نوشته، سهم فکری پژوهشگر چقدر است؟ و آیا بازتولید الگوهای متنی موجود، خود نوعی کم‌اصالتی پنهان نیست؟متناسب با مسئولیت، خطای ابزار را چه کسی می‌پذیرد؟ درخصوص اعتبار، نتایجی که فرایند تولیدشان قابل ردیابی و بازتولید نیست، تا چه حد قابل اتکاست؟ بر این اساس پاسخ کوتاه من این است که هوش مصنوعی «ابزار» است، نه «همکار علمی» و اصالت علمی در ایده، طراحی و تفسیر شکل می‌گیرد، نه در روان بودن جمله‌ها.

کدام کاربردهای هوش مصنوعی در پژوهش قابل قبول است؟

وی با اشاره به مراحل مختلف پژوهش علمی و حدود استفاده از هوش مصنوعی در این فرایند گفت: می‌توان مراحل پژوهش را در سه دسته دید. مورد اول، استفاده‌هایی که معمولاً با شفافیت و بازبینی انسانی قابل قبول‌اند، مثل پیدا کردن کلیدواژه‌ها و ایده‌های اولیه برای جست‌وجوی منابع، خلاصه‌سازی اولیه مقالات برای تصمیم‌گیری درباره اینکه کدام منبع ارزش خواندن کامل دارد، ترجمه و ویرایش زبانی متن نوشته‌شده توسط خود پژوهشگر، کمک در کدنویسی تحلیل‌های آماری یا اشکال‌زدایی کد و پیشنهاد ساختار یا بازخورد درباره وضوح نگارش، از جمله این کاربردها هستند.

این کارشناس هوش مصنوعی افزود: برخی کاربردها نیز نیازمند احتیاط جدی‌اند. در تحلیل داده، اگر پژوهشگر منطق تحلیل را نفهمد و خروجی را «همان‌طور که هست» بپذیرد، خطر خطای پنهان بالاست. در مرور ادبیات، ابزار ممکن است منبع بسازد یا محتوای مقاله‌ای را اشتباه گزارش کند. در نگارش بخش‌های اصلی، از جمله بحث و نتیجه‌گیری، نیز اگر استدلال را ماشین ساخته باشد، سهم فکری پژوهشگر زیر سؤال می‌رود.

خلخالی ادامه داد: تولید یا «تکمیل» داده‌ها و یافته‌های ساختگی، نوشتن کل مقاله و ارسال آن با نام خود، ارجاع به منابعی که هرگز بررسی نشده‌اند، پنهان کردن استفاده از ابزار در جایی که نشریه اعلام آن را الزامی کرده است و بارگذاری متن مقالات در دست داوری یا داده‌های محرمانه در ابزارهای عمومی، از جمله استفاده‌هایی هستند که اصالت و اعتبار علمی را مخدوش می‌کنند. بر این اساس معیار تعیین‌کننده سه چیز است: شفافیت، بازبینی و تأیید انسانی و ماندن تفکر و تصمیم نهایی در دست پژوهشگر.

مسئولیت نهایی صحت مقاله بر عهده پژوهشگر است

وی با اشاره به احتمال تولید اطلاعات نادرست، منابع ساختگی و تحلیل‌های غیرمعتبر به‌وسیله هوش مصنوعی اظهار کرد: مسئولیت نهایی بدون تردید بر عهده پژوهشگر است. نامی که زیر مقاله می‌آید، همان کسی است که پاسخگوست. نمی‌توان خطا را به «ابزار» نسبت داد، همان‌طور که نمی‌توان خطای نرم‌افزار آماری یا اشتباه یک منبع دست‌دوم را بهانه کرد.

این استاد دانشگاه فردوسی مشهد افزود: با این حال، سهم ابزار و شرکت‌های سازنده هم نادیدنی نیست. توسعه‌دهندگان باید درباره محدودیت‌ها و احتمال خطای مدل‌ها شفاف باشند، امکان بررسی منبع را فراهم کنند و به‌ویژه در کاربردهای علمی، مکانیسم‌های راستی‌آزمایی بهتری ارائه دهند. بنابراین می‌توان گفت، مسئولیت حقوقی و علمی با پژوهشگر است و مسئولیت طراحی مسئولانه و شفاف با سازندگان.

خلخالی درباره راه‌های اطمینان از صحت اطلاعات و منابع تولیدشده به‌وسیله هوش مصنوعی گفت: هر ارجاع را باید در منبع اصلی دید. وجود مقاله باید در پایگاه معتبر، مانند Scopus ،Web of Science ،Google Scholar  یا پایگاه‌های داخلی، بررسی شود و عنوان، نویسندگان، سال و DOI  با اطلاعات منبع تطبیق داده شود. سپس باید مطمئن شد آنچه به آن منبع نسبت داده شده، واقعاً در آن آمده است.

وی ادامه داد: عددها و آمارها باید مستقل بازمحاسبه شوند، نه اینکه پژوهشگر به گزارش ابزار از تحلیل خودش اکتفا کند. هر ادعای مهم نیز باید با حداقل یک منبع مستقل مقایسه شود.

این کارشناس هوش مصنوعی با تأکید بر مستندسازی فرایند استفاده از ابزارها اظهار کرد: فرایند باید مستند شود؛ نام و نسخه ابزار، تاریخ استفاده، پرامپت‌های اصلی و بخش‌هایی که از آن بهره گرفته شده است. پژوهشگر نباید دانش حوزه خود را کنار بگذارد. اگر خروجی ابزار با شهود و دانش تخصصی پژوهشگر ناسازگار است، این ناهمخوانی هشداری جدی است. باید اصل «فرض اولیه: احتمال خطا» را پذیرفت؛ یعنی خروجی ابزار را مثل پیش‌نویس یک دانشجوی تازه‌کار دید که باید تک‌تک بخش‌هایش وارسی شود.

شیوه‌نامه‌های فعلی برای استفاده از هوش مصنوعی کافی نیستند

خلخالی درباره کفایت شیوه‌نامه‌های دانشگاه‌ها و نشریات علمی برای تعیین حدود استفاده از هوش مصنوعی تصریح کرد: به‌طور خلاصه، کافی نیست. بسیاری از ناشران بین‌المللی سیاست‌هایی دارند؛ مثلاً اینکه هوش مصنوعی نمی‌تواند نویسنده باشد و استفاده باید اعلام شود، اما این سیاست‌ها اغلب کلی‌اند، از نشریه‌ای به نشریه دیگر متفاوت‌اند و سازوکار اجرایی روشنی ندارند.

وی افزود: در فضای دانشگاهی و نشریات داخلی هم در بسیاری موارد یا شیوه‌نامه مشخصی وجود ندارد یا به چند سطر کلی محدود است. تشخیص خودکار متن تولیدشده هم قابل‌اعتماد نیست و می‌تواند به پژوهشگران بی‌گناه آسیب بزند؛ بنابراین نمی‌توان بر «ابزار شناسایی» تکیه کرد.

این عضو انجمن ملی هوش مصنوعی درباره ضوابط مورد نیاز برای شفافیت و جلوگیری از تخلفات علمی اظهار کرد: باید اعلام استفاده از هوش مصنوعی شفاف و استاندارد باشد؛ بخشی مشخص در مقاله، مثلاً در بخش روش‌شناسی یا سپاسگزاری، نام ابزار، نسخه، هدف استفاده و بخش‌های درگیر را ذکر کند.

خلخالی ادامه داد: تفاوت میان ویرایش زبانی، کمک در تحلیل و تولید محتوا باید در شیوه‌نامه‌ها صریح باشد تا پژوهشگر بداند چه چیزی نیاز به اعلام دارد. همچنین باید بر عدم نویسندگی ابزار و مسئولیت کامل نویسندگان بر کل محتوا و ارجاعات تأکید شود و با منابع ساختگی به‌عنوان نوعی تخلف علمی برخورد جدی صورت گیرد.

وی با اشاره به ضرورت حفظ محرمانگی اطلاعات پژوهشی گفت: باید بارگذاری مقالات در دست داوری، طرح‌های پژوهشی محرمانه یا داده‌های حساس، مانند داده‌های بیماران، در ابزارهای عمومی ممنوع شود؛ این موضوع برای داوران و سردبیران هم صدق می‌کند.

این استاد دانشگاه افزود: وضعیت حق مالکیت فکری خروجی‌ها باید روشن شود و نسبت به بازتولید آثار دیگران توسط مدل‌ها حساسیت وجود داشته باشد. همچنین باید از رویکرد صرفاً تنبیهی پرهیز کرد و آموزش سواد هوش مصنوعی به دانشجویان و پژوهشگران را همراه با راهنمای عملی و نمونه‌های قابل‌قبول و غیرقابل‌قبول در دستور کار قرار داد.

خلخالی تأکید کرد: چون فناوری سریع تغییر می‌کند، شیوه‌نامه‌ها باید هر چند ماه یک‌بار به‌روز شوند. همچنین با توجه به ناکارآمدی ابزارهای تشخیص، رسیدگی به شبهات باید بر مستندات و مصاحبه با پژوهشگر استوار باشد، نه صرفاً درصد خروجی یک نرم‌افزار.

انتهای پیام