هشدار جدی درباره منبع سازی جعلی با هوش مصنوعی و ضرورت افشای کامل استفاده پژوهشی
زاهدان - ایرنا - عضو هیأت علمی دانشگاه علوم پزشکی تهران و مشاور نمایهسازی و رتبهبندی ISC با اشاره به بروز خطاهای گسترده در استنادهای تولیدشده با هوش مصنوعی گفت: پژوهشگران باید نوع، نسخه و میزان استفاده از این ابزارها را در مکاتبات و مقالات علمی بهطور شفاف اعلام کنند تا از آسیبهای اخلاقی و اعتباری جلوگیری شود.
صاحبخبر - به گزارش ایرنا، پیام کبیری ارانی روز سهشنبه در مراسم گرامیداشت هفته پژوهش که در تالار امام رضا(ع) دانشگاه سیستان و بلوچستان برگزار شد؛ در تشریح الزامات اخلاق پژوهش اظهار کرد: پژوهشگران باید هرگونه بهرهگیری از هوش مصنوعی در تحلیل، نگارش، و تولید نمودار را در نامه ارسال مقاله و بخش تقدیر و تشکر بهصراحت اعلام و از پنهانکاری پرهیز کنند. وی ادامه داد: افشای استفاده از ابزارهای هوش مصنوعی حتی در مواردی که مجلات پذیرش چنین کمکهایی را ندارند نیز ضروری است زیرا مسوولیت اخلاقی پژوهشگر ایجاب میکند فرآیند تولید داده یا تحلیل را شفافسازی و از بروز شبهه در اصالت کار پرهیز کند. عضو هیأت علمی دانشگاه علوم پزشکی تهران و مشاور نمایهسازی و رتبهبندی ISC، با اشاره به تجربه اخیر یکی از مجلات داخلی افزود: در هفتههای گذشته سردبیر یکی از نشریات علمی به دلیل انتشار مقالهای انتقادی درباره بازپسگیری مقالات با مشکلات جدی مواجه شد زیرا بررسیها نشان داد بخش زیادی از منابع مقاله از طریق توهم هوش مصنوعی تولید و وجود خارجی نداشته است. وی عنوان کرد: توهم در هوش مصنوعی باعث میشود این ابزارها ساختار منابع علمی را تقلید کنند اما با کنار هم قرار دادن عناصر نامرتبط مانند عنوان صحیح یک مقاله، نام نویسنده مقالهای دیگر و نام مجلهای متفاوت، منبعی بسازند که ظاهراً معتبر است اما در واقعیت منتشر نشده و پژوهشگر را دچار خطا میکند. کبیری ارانی خاطرنشان کرد: مشکل زمانی پیچیدهتر میشود که پژوهشگر بدون صحتسنجی، منبع تولیدشده را در مقاله ثبت میکند و اعتبار علمی خود و مجله را زیر سؤال میبرد و این روند میتواند به ابطال مقاله یا تعلیق نویسنده منجر شود. پژوهشگر بدون صحتسنجی، رفرنسهای تولیدشده را در مقاله ثبت میکند و اعتبار علمی خود و مجله را زیر سؤال میبرد وی با بیان نمونههایی از این خطا تصریح کرد: در یکی از کارگاههای آموزشی، یک پژوهشگر به نقل از یکی از نمایندگان سابق مجلس اعلام کرده بود که ابزار هوش مصنوعی حتی برای آیات قرآن نیز آدرسدهی جعلی انجام داده و استفادهکنندگان را با مشکل مواجه کرده است و این موضوع نشان میدهد گستره توهم هوش مصنوعی فراتر از حوزه علمی عمل میکند. عضو هیأت علمی دانشگاه علوم پزشکی تهران و مشاور نمایهسازی و رتبهبندی ISC خاطرنشان کرد: این ابزارها به جای جستوجوی واقعی منابع، بر اساس الگوریتمهای پیشبینی واژه کار میکنند و در بسیاری مواقع به جای ارائه یک استناد معتبر، یک ترکیب «ظاهراً واقعی» اما «ماهیتاً ساختگی» تولید میکنند و محقق باید این سازوکار را بشناسد و با دقت صحتسنجی کند. وی بیان کرد: اتکا به منابع جعلی در مقالات، بهویژه زمانی که موضوع مقاله نقد یا تحلیل علمی است، اعتبار مجله و سردبیر را مخدوش میکند و این اتفاق در نمونه اخیر موجب شد مقاله منتشرشده از سوی سردبیر یک نشریه با هفت منبع جعلی شناسایی و با انتقادات جدی مواجه شود. وی تصریح کرد: وجود منابع جعلی در مقالهای که درباره اخلاق نشر نوشته شده نشان میدهد استفاده بیمحابا از هوش مصنوعی بدون کنترل انسانی میتواند برای پدیدآورنده پیامدهای اعتباری و حرفهای ایجاد کند و اعتماد جامعه علمی را کاهش دهد. کبیری ارانی اضافه کرد: پژوهشگران باید استفاده از هوش مصنوعی را ابزار کمکی بدانند و صحت محتوا راخودشان بررسی و از سپردن تولید منابع، آمار و نقلقولها به این ابزارها پرهیز کنند زیرا این فناوری همچنان مستعد تولید اطلاعات نادرست است و باید با دقت و مسئولیتپذیری با آن کار کرد. به گزارش ایرنا، حدود یکصد هزار دانشجو در استان سیستان و بلوچستان مشغول تحصیل هستند.∎