از هوش مصنوعی میخواهید برایتان یک متن بنویسد، یک کتاب معرفی کند یا برای یک ادعا منبع بیاورد. پاسخ را با اطمینان کامل تحویل میدهد؛ نام نویسنده، عنوان کتاب، سال انتشار و حتی جزئیات دقیق. اما چند دقیقه بعد متوجه میشوید نه آن کتاب وجود دارد و نه آن نویسنده چنین چیزی نوشته است. این همان خطایی است که متخصصان از آن با عنوان «توهم هوش مصنوعی» یاد میکنند.
شاید در یک گفتوگوی روزمره، چنین اشتباهی فقط چند دقیقه از وقت شما را بگیرد، اما وقتی همین اتفاق در دنیای علم رخ دهد، ماجرا کاملاً متفاوت است. فرض کنید پزشکی برای تصمیمگیری درباره درمان یک بیمار به مقالهای استناد کند که بخشی از منابع آن اساساً وجود خارجی ندارند؛ نه نویسندهای در کار بوده، نه پژوهشی انجام و نه دادهای تولید شده است. تا چند سال پیش، چنین سناریویی بیشتر شبیه داستانهای علمیتخیلی بود، اما امروز با گسترش استفاده از هوش مصنوعی در نگارش متون علمی، به یکی از نگرانیهای جدی جامعه پژوهشی تبدیل شده است.
نگرانی بیدلیلی هم نیست. بررسی حدود ۲.۵میلیون مقاله علمی نشان میدهد تنها در سال ۲۰۲۵ نزدیک به ۱۴۷هزار ارجاع به مقالات، نشریات و نویسندگانی که هرگز وجود نداشتهاند، وارد ادبیات علمی جهان شده است. به بیان سادهتر، از هر چند صد مقاله علمی، یکی حاوی منبعی است که نه در کتابخانهای پیدا میشود و نه در هیچ پایگاه علمی معتبری وجود دارد.
حالا پرسش اینجاست؛ وقتی یک منبع جعلی میتواند راه خود را به معتبرترین مجلات علمی جهان باز کند، مرز میان کمک هوش مصنوعی به علم و تهدید آن برای اعتبار دانش کجاست؟
استنادهای ساختگی چگونه وارد مقالات میشوند؟
مهدی طریقت، رئیس اندیشکده و پردیس هوش مصنوعی و زیست مجازی در پاسخ به این پرسش که چرا سامانههای هوش مصنوعی ارجاعهای ساختگی تولید میکنند و چه خلأهایی در فرایند نگارش، داوری و انتشار علمی موجب میشود این منابع جعلی تا مرحله چاپ در مجلات علمی پیش بروند، به خبرنگار ما میگوید: این اتفاق از نظر فنی عجیب نیست، اما از نظر علمی بسیار نگرانکننده است. علت اصلی این است که سامانههای زبانیِ مولد، برخلاف تصور عمومی، منبعشناس یا مرجعیاب نیستند، بلکه بر پایه پیشبینی واژه بعدی کار میکنند و وقتی از آنها خواسته میشود برای یک ادعا منبع بیاورند، اگر به داده تأییدشده و سامانه جستوجوی معتبر متصل نباشند، ممکن است به جای بازیابی یک منبع واقعی، چیزی شبیه یک منبع واقعی بسازند؛ یعنی نام نویسنده، عنوان مقاله، نام نشریه، سال انتشار و حتی شناسه مقاله را با ظاهری کاملاً علمی کنار هم قرار دهند، در حالی که آن ارجاع در واقع وجود خارجی ندارد. به همین دلیل، در فضای پژوهش امروز که بسیاری از نویسندگان برای خلاصهنویسی، تنظیم متن و حتی تکمیل فهرست منابع از این ابزارها استفاده میکنند، اگر راستیآزمایی انسانی و ماشینیِ بعدی انجام نشود، ارجاع ساختگی بهراحتی وارد نسخه نهایی مقاله میشود.
او ادامه میدهد: ورود این ارجاعها به نشریات معتبر هم بیشتر از آنکه نشانه فروپاشی کامل داوری علمی باشد، نشانه فشار شدید بر نظام نشر است.
امروز حجم مقالهها بسیار بالاست، داوران، زمان محدودی دارند و در بسیاری از موارد، تمرکز آنها بیشتر بر روش تحقیق، نتایج و نوآوری مقاله است، نه بررسی تکتک منابع. از طرف دیگر، ارجاع جعلیِ تولیدشده توسط هوش مصنوعی معمولاً از نظر ظاهری بسیار حرفهای است و دقیقاً شبیه یک استناد واقعی به نظر میرسد؛ بنابراین ممکن است هم از چشم نویسنده دور بماند، هم از چشم داور و حتی ویراستار. مسئله وقتی حادتر میشود که برخی پژوهشگران، بهویژه در محیطهای رقابتی و شتابزده، به جای مراجعه مستقیم به پایگاههای معتبر، به خروجی آماده این ابزارها تکیه میکنند. در چنین وضعی، خطا از یک اشتباه فردی فراتر میرود و به یک آلودگی ساختاری در زنجیره تولید دانش تبدیل میشود. حساسیت و اهمیت این هشدار بهویژه در پزشکی و علوم سلامت بسیار بیشتر است، چون در این حوزه خطای ارجاع فقط یک مشکل صوری نیست؛ ممکن است بر مرورهای علمی، راهنماهای درمانی و حتی تصمیمگیری بالینی اثر بگذارد. گزارش منتشرشده در نشریه لنست و بازتاب آن در رسانههای تخصصیِ ناظر بر سلامت پژوهش، ازجمله ریترکشن واچ و ساینتیست، دقیقاً به همین خطر اشاره میکند که اگر نظام علمی بهسرعت ابزارهای راستیآزماییِ منابع، کنترل سردبیری و آموزش پژوهشگران درباره خطاهای این فناوری را تقویت نکند، مسئله فقط ارجاع جعلی نخواهد بود، بلکه اعتماد عمومی به خودِ علم هم آسیب خواهد دید.
۳ اصل طلایی اخلاق پژوهش در عصر هوش مصنوعی
طریقت با بیان اینکه امروز در جامعه علمی جهان بهتدریج یک اجماع در حال شکلگیری است که استفاده از سامانههای هوش مصنوعی در پژوهش ذاتاً نه ممنوع است و نه غیراخلاقی، عنوان میکند: مسئله اصلی این است که این ابزار در چه مرحلهای و با چه سطحی از شفافیت استفاده میشود. بسیاری از ناشران بزرگ علمی و نهادهای سیاستگذار پژوهش، ازجمله گروه انتشاراتی نیچر، انجمن سردبیران پزشکی و کمیته بینالمللی اخلاق نشر، در راهنماهای خود تصریح کردهاند هوش مصنوعی میتواند به عنوان یک ابزار کمکی در برخی مراحل کار پژوهشی به کار رود، اما مسئولیت کامل صحت علمی محتوا همچنان بر عهده پژوهشگر انسانی است.
در این چارچوب، استفاده از هوش مصنوعی برای کارهایی مانند بهبود نگارش، ویرایش زبانی، خلاصهسازی متن، تنظیم ساختار مقاله یا حتی پیشنهاد مسیرهای جستوجوی منابع، معمولاً کمک پژوهشی تلقی میشود، به شرط آنکه نویسنده بر تمام خروجیها نظارت داشته باشد و در صورت استفاده جدی از این ابزار، آن را بهطور شفاف در بخش روش یا قدردانی مقاله اعلام کند.
وی اضافه میکند: مرز تقلب علمی از جایی آغاز میشود که هوش مصنوعی از یک ابزار کمکی به تولیدکننده اصلی دانش تبدیل شود یا پژوهشگر بدون راستیآزمایی، خروجی آن را به عنوان نتیجه واقعی پژوهش خود منتشر کند. به گفته او، استفاده از دادهها، تحلیلهای آماری، استدلالهای علمی یا منابعی که بهطور مستقیم توسط هوش مصنوعی تولید شدهاند و بدون بررسی وارد مقاله میشوند، میتواند مصداق نقض اصول پژوهش علمی باشد.
این موضوع در حوزههای حساسی مانند پزشکی اهمیت بیشتری دارد، زیرا هرگونه خطا در دادهها یا استنادهای علمی ممکن است به ارائه اطلاعات نادرست منجر شود. طریقت تأکید میکند: بخشی از ارجاعات جعلی مشاهدهشده در مقالات علمی نیز ناشی از اعتماد بیش از حد به خروجی سامانههای هوش مصنوعی بدون نظارت پژوهشگر بوده است.
او اظهار میکند: در حال حاضر در بسیاری از کشورها و در سطح ناشران بزرگ علمی، دستورالعملهایی برای نحوه استفاده از هوش مصنوعی در پژوهش و مقالهنویسی تدوین شده، اما باید توجه داشت که این مقررات هنوز در مرحله شکلگیری و تکامل هستند و یک استاندارد کاملاً واحد و جهانی وجود ندارد. با این حال، در چند سال اخیر مهمترین نهادهای تنظیمگر نشر علمی تلاش کردهاند چارچوبهایی نسبتاً روشن ارائه کنند. بسیاری از دانشگاههای بزرگ جهان نیز راهنماهای داخلی منتشر کردهاند که در آنها استفاده از هوش مصنوعی برای کمک در نگارش یا سازماندهی متن مجاز دانسته شده، اما تولید محتوا، تحلیل یا پاسخ به پرسشهای پژوهشی بدون نظارت مستقیم پژوهشگر میتواند مصداق تخلف علمی تلقی شود.
طریقت خاطرنشان میکند: در ایران نیز در دو سال اخیر بحث تدوین چنین دستورالعملهایی جدیتر شده است. برخی دانشگاههای بزرگ کشور در آییننامههای آموزش و پژوهش خود بندهایی درباره استفاده از ابزارهای هوش مصنوعی افزودهاند و وزارت علوم و برخی نهادهای مرتبط با آموزش عالی نیز در حال تهیه چارچوبهایی برای مدیریت این فناوری در فعالیتهای دانشگاهی هستند. با این حال، واقعیت این است که هنوز یک دستورالعمل ملیِ جامع و یکپارچه که بهصورت دقیق و عملیاتی تمام مراحل استفاده از هوش مصنوعی در پژوهش را مشخص کند، بهطور کامل تثبیت نشده است. این فاصله تا حدی طبیعی است، زیرا سرعت تحول این فناوری بسیار بالاست و سیاستگذاری علمی معمولاً با فاصله زمانی از تحولات فناوری شکل میگیرد.
تجربه اخیر افزایش ارجاعات ساختگی در مقالات علمی نیز دقیقاً نشان میدهد اگر چنین چارچوبهایی بهطور جدی اجرا نشود، استفاده نادرست از هوش مصنوعی میتواند به یکی از چالشهای جدی اعتبار علمی در جهان تبدیل شود.
کجا استفاده از چتجیپیتی به تخلف علمی تبدیل میشود؟
او در پاسخ به این پرسش که آیا استفاده از ابزارهایی مانند چتجیپیتی در مقالهنویسی مصداق تخلف علمی است یا خیر، میگوید: در بسیاری از دانشگاهها و مجلات معتبر جهان، استفاده از هوش مصنوعی بهطور کامل ممنوع نشده، اما برای آن مرزهای مشخصی تعیین شده است. استفاده از این ابزارها برای بهبود نگارش، ویرایش زبانی، خلاصهسازی مطالب، سازماندهی ساختار مقاله یا پیشنهاد مسیرهای جستوجوی منابع، در صورتی که پژوهشگر بر تمام خروجیها نظارت و آنها را راستیآزمایی کند، از نظر بسیاری از نهادهای علمی قابل قبول است. در چنین شرایطی، هوش مصنوعی نقشی مشابه یک دستیار یا ویرایشگر متن ایفا میکند و مشکل اخلاقی خاصی ایجاد نمیکند. اما از جایی به بعد، استفاده از این ابزارها وارد حوزه تخلف علمی میشود. مهمترین نمونه آن، زمانی است که پژوهشگر بخشهای اصلی مقاله، مانند استدلال علمی، مرور منابع، تحلیل دادهها یا نتیجهگیری را بهطور مستقیم به خروجی هوش مصنوعی واگذار و آن را بدون بررسی دقیق به نام خود منتشر کند.
تولید یا دستکاری دادههای پژوهشی با کمک هوش مصنوعی نیز از نظر اخلاق علمی کاملاً غیرقابل قبول است، زیرا دادههای علمی باید براساس مشاهده، آزمایش یا تحلیل واقعی بدست آمده باشند. همینطور استفاده از منابع و ارجاعهایی که توسط هوش مصنوعی پیشنهاد شده اما توسط پژوهشگر با پایگاههای علمی معتبر تطبیق داده نشدهاند، میتواند مصداق ارائه اطلاعات نادرست باشد؛ مسئلهای که در ماههای اخیر با افزایش ارجاعات ساختگی در برخی مقالات علمی مورد توجه قرار گرفته است. این موضوع بهویژه در حوزههایی مانند پزشکی و علوم سلامت حساستر است، زیرا هرگونه خطا در دادهها یا منابع علمی میتواند در نهایت بر تصمیمهای درمانی و سلامت انسانها اثر بگذارد.
طریقت با اشاره به خطوط قرمز استفاده از هوش مصنوعی در پژوهش بیان میکند: نخستین خط قرمز، واگذاری تولید داده یا نتیجه علمی به هوش مصنوعی است. دادههای پژوهشی باید حاصل مشاهده، آزمایش، پیمایش یا تحلیل واقعی باشند و اگر سامانهای داده، نمودار، تحلیل آماری یا نتیجهگیری علمی تولید کرده و پژوهشگر، آن را بدون پشتوانه تجربی منتشر کند، این عمل در چارچوب اخلاق علمی نوعی دستکاری یا جعل داده تلقی میشود. نهادهای بینالمللی اخلاق نشر، ازجمله کمیته بینالمللی اخلاق نشر و انجمن سردبیران پزشکی، بارها تأکید کردهاند داده و شواهد علمی باید قابل بازبینی و بازتولید باشند، در حالی که خروجی یک سامانه زبانی چنین ویژگیای ندارد.
خط قرمز دوم، استفاده از منابع و استنادهایی است که صحت آنها بررسی نشده است. تجربه اخیر نشان داده برخی ابزارهای هوش مصنوعی میتوانند ارجاعهایی بسازند که از نظر ظاهری کاملاً علمی به نظر میرسند، اما درواقع وجود خارجی نداشته یا با محتوای مقاله ارتباطی ندارند. اگر پژوهشگر بدون مراجعه به پایگاههای علمی معتبر، این منابع را در مقاله وارد کند، درواقع اعتبار علمی مقاله را بر پایه اطلاعات تأییدنشده بنا کرده است.
وی میافزاید: سومین خط قرمز، پنهان کردن استفاده از هوش مصنوعی در فرایند تولید مقاله است. در بسیاری از مجلات معتبر جهان امروز تأکید شده اگر از ابزارهای هوش مصنوعی در نگارش یا آمادهسازی مقاله استفاده شده باشد، نویسنده باید این موضوع را بهصورت شفاف اعلام کند. اگر پژوهشگری بخشی از متن یا تحلیل را با کمک سامانههای هوشمند تولید کند اما این موضوع را اعلام نکند، درواقع درباره فرایند تولید دانش در مقاله خود اطلاعات ناقص ارائه داده است. بهطور کلی، سه مرز اصلی که امروز در ادبیات اخلاق پژوهش بهصورت گسترده مطرح میشود این است: تولید داده و نتیجه علمی نباید به هوش مصنوعی واگذار شود، هیچ منبع یا استنادی نباید بدون راستیآزمایی انسانی وارد مقاله شود و استفاده از این ابزارها باید بهصورت شفاف گزارش شود. رعایت همین سه اصل ساده میتواند کمک کند هوش مصنوعی به جای تبدیل شدن به تهدیدی برای اعتبار علم، یک ابزار مفید در خدمت پژوهش باشد.