غزال زیاری: این روزها و با پیشرفت سریع تکنولوژی این‌طور به نظر می‌رسد که مرز بین نویسندگی انسان و ماشین در حال محو شدن است. کار به‌جایی کشیده که تشخیص اینکه آیا فلان متن توسط یک شخص نوشته‌شده یا هوش مصنوعی، حالا دیگر کار واقعاً سختی است.
شاید این به نحوی، یک نقطه عطف به نظر برسد. در همین راستا شرکت بازاریابی دیجیتال گرافیتی اخیراً مطالعه‌ای را منتشر کرده که نشان می‌دهد بیش از ۵۰٪ از مقالات منتشرشده در وب‌سایت‌ها توسط هوش مصنوعی تولید می‌شوند.
وقتی در اینترنت چیزی را می‌خوانید که احتمالاً توسط هوش مصنوعی نوشته‌شده و نه یک انسان، شاید برایتان این ابهام به وجود بیاید که منسوخ شدن نوشته‌های انسانی دیر یا زود دارد ولی سوخت‌وسوز ندارد؛ یا اینکه این هم یک توسعه تکنولوژیکی دیگر است که درنهایت انسان‌ها خودشان را با آن وفق خواهند داد.
بحث همه‌چیز یا هیچ‌چیز نیست
طرح چنین سؤالی، یادآور مقاله "آخرالزمانی و یکپارچه" نوشته اومبرتو اکو در اوایل دهه ۱۹۶۰ میلادی است که بعدها بخش‌هایی از آن در مجموعه مقالاتی با عنوان "آخرالزمان به تعویق افتاده" گنجانده شد.
در آن مقاله، اکو از دو نگرش نسبت به رسانه‌های جمعی صحبت می‌کند. دسته اول "آخرالزمانی‌ها" هستند که از انحطاط فرهنگی و سقوط اخلاقی می‌ترسند و دسته دوم "یکپارچه‌ها" که از فناوری‌های رسانه‌ای جدید به‌عنوان یک نیروی دموکراتیک‌کننده فرهنگ حمایت می‌کنند.
در آن زمان، اکو درباره گسترش تلویزیون و رادیو صحبت می‌کرد و امروز، واکنش‌های مشابهی را نسبت به هوش مصنوعی شاهد هستیم. اکو در آن مقاله استدلال کرده بود که هر دو موضع بیش‌ازحد افراطی هستند: «این اصلاً مفید نیست که رسانه‌های جدید را صفر یا صد، یعنی یا به‌منزله یک تهدید وحشتناک و یا یک معجزه ببینیم.»
او در عوض خواننده‌ها را ترغیب کرد تا دقت کنند که مردم و جوامع چگونه از این ابزارهای جدید استفاده می‌کنند؛ با بهره‌گیری از آن‌ها چه خطرات و فرصت‌هایی ایجاد می‌شود و چگونه ساختارهای قدرت را شکل می‌دهند و حتی گاهی باعث تقویت آن‌ها می‌شوند.
در پائیز سال ۲۰۲۴ و در بحبوحه انتخابات آمریکا هم بعضی از محققان و رسانه‌ها دائما درباره وقوع قریب‌الوقوع "آخرالزمان دیپ‌فیک"هشدار می‌دادند و نگران آن بودند که شاید از دیپ‌فیک‌ها برای تقلید از شخصیت‌های سیاسی مهم و ترویج اطلاعات نادرست هدفمند استفاده شود: اگر در آستانه انتخابات، از هوش مصنوعی مولد برای تقلید صدای یک نامزد برای تماس خودکار با رأی‌دهندگان و ترغیب آن‌ها به ماندن در خانه استفاده شود، چه؟
این ترس‌ها چندان هم بی‌اساس نبودند: تحقیقات حکایت از آن دارد که مردم در شناسایی دیپ‌فیک‌ها خوب نیستند و حتی توانایی خودشان را در تشخیص اطلاعات فیک دست بالا هم می‌گیرند. بااین‌وجود درنهایت آخرالزمان به تعویق افتاد.
تحلیل‌های انجام‌شده پس از انتخابات نشان داد که گرچه شاید دیپ‌فیک‌ها برخی روندهای سیاسی جاری، مثل فرسایش اعتماد و قطبی شدن را تشدید کرده‌اند، اما هیچ مدرکی وجود ندارد که بر نتیجه نهایی انتخابات تأثیر گذاشته باشند.
هوش مصنوعی در چه عرصه‌هایی می‌تازد
البته جنس ترس‌هایی که هوش مصنوعی برای حامیان دموکراسی ایجاد کرد از جنس ترسی که برای نویسنده‌ها و هنرمندان به وجود آمده، نیست. نگرانی اصلی هنرمندان و نویسنده‌ها درباره نویسندگی است: انسان چطور باید با سیستمی که با میلیون‌ها صدا آموزش‌دیده و می‌تواند متون را با سرعت فوق‌العاده‌ای تولید کند، به رقابت بپردازد؟ و اگر این به یک هنجار تبدیل شود، چه تأثیری بر کار خلاقانه خواهد گذاشت؟
اینجاست که باید درباره مفهوم "محتوای آنلاین" شفاف‌سازی کنیم؛ عبارتی که در مطالعه گرافیتی از آن استفاده‌شده و بیش از شصت و پنج هزار مقاله تصادفی با حداقل ۱۰۰ کلمه در وب را تجزیه‌وتحلیل کرده است. این محتوا می‌تواند شامل هر چیزی از تحقیقات داوری شده تا تبلیغات برای مکمل‌های معجزه‌آسا باشد.
بررسی دقیق‌تر مطالعه انجام شده توسط گرافیتی نشان می‌دهد که مقاله‌های تولیدشده توسط هوش مصنوعی معمولاً شامل متونی برای علاقه عمومی هستند: اخبار فوری، راهنماهای "چگونه"، پست‌های سبک زندگی، نقدها و توضیحات محصول که هدف اصلی اقتصادی این محتواها ، بیشتر متقاعد کردن خواننده‌ها یا اطلاع‌رسانی است و نه بیان اصالت یا خلاقیت.
یعنی این‌طور به نظر می‌رسد که هوش مصنوعی وقتی بیشترین کاربرد را دارد که نوشته موردنظر کم‌اهمیت و فرمول‌محور باشد؛ مثلا برای سوژه‌هایی مثل لیست کوتاه جاهای دیدنی برای تعطیلات آخر هفته در رم، نمونه یک نامه استاندارد یا متنی که برای بازاریابی یک کسب‌وکار تولید می‌شود.
تا پیش‌ازاین اقشاری مثل نویسنده‌ها و مترجمان، چنین محتواهایی را در قالب پست‌های وبلاگ، مطالب آموزشی، متن‌های بهینه‌سازی موتورهای جستجو و متن شبکه‌های اجتماعی تولید می‌کردند و حالا و در شرایط فعلی پذیرش سریع مدل‌های زبان بزرگ (LLMs) جایگزین این دسته از افراد شده است.
همکاری با هوش مصنوعی
در مطالعه گرافیتی به نکته جالب‌توجهی هم اشاره‌شده: مسئله اصالت؛ نه‌فقط برای شناسایی اینکه چه کسی یا چه چیزی یک متن را تولید کرده، بلکه در درک ارزشی که انسان‌ها برای فعالیت خلاقانه قائل هستند.
چطور می‌توان یک مقاله نوشته‌شده توسط انسان را از یک مقاله تولیدشده توسط ماشین تشخیص داد؟ و آیا این توانایی اصلاً مهم است؟
احتمالاً با گذر زمان، این مسئله کم‌اهمیت‌تر خواهد شد؛ مخصوصاً که نوشته‌های بیشتری از طریق تعامل بین انسان و هوش مصنوعی تولید می‌شوند؛ یعنی ممکن است یک نویسنده مطلبی را پیش‌نویس کرده و در ادامه به هوش مصنوعی اجازه بدهد تا مطلب را بسط و گسترش داده و درنهایت خروجی را به‌صورت متن نهایی ارائه کند.
درعین‌حال باید این را هم در نظر داشت که هوش مصنوعی، کاملاً مصنوعی هم نیست؛ چرا که بر اساس مواد ساخته‌شده توسط انسان‌ها آموزش‌دیده است. شاید بهتر باشد این را هم به یاد بیاوریم که حتی قبل از هوش مصنوعی هم نوشته‌های انسانی، به‌طور کامل انسانی نبودند. هر فناوری، از پوست و قلم و کاغذ تا ماشین‌تحریر و کامپیوتر و حالا هم هوش مصنوعی، هرکدام به نحوی در نحوه نوشتن مردم و نحوه درک خوانندگان تأثیرگذار بوده و هست.
نکته مهم بعدی هم این است که مجموعه داده‌هایی که مدل‌های هوش مصنوعی طبق آن‌ها آموزش می‌بینند، تنها شامل نوشته‌های انسانی نیستند، بلکه از متن‌های تولیدشده توسط هوش مصنوعی و همچنین متن‌های تولیدی مشترک توسط انسان و هوش مصنوعی هم استفاده می‌شود و شاید همین موضوع نگرانی‌هایی را در مورد توانایی آن‌ها برای ادامه بهبود در طول زمان ایجاد کرده است.
بعضی‌ها از مدت‌ها قبل و پس از انتشار مدل‌های بزرگ جدیدتر، حس دلسردی‌شان را ابراز کردند و معتقدند که شرکت‌ها برای عمل به وعده‌های خود با مشکل مواجهند.
صدای انسان ممکن است حتی مهم‌تر باشد
اما وقتی مردم در نوشته‌هایشان بیش‌ازحد به هوش مصنوعی وابسته شوند، چه اتفاقی می‌افتد؟
مطالعات انجام‌شده در این رابطه حکایت از آن دارد که این احتمال وجود دارد که نویسنده‌ها با استفاده از هوش مصنوعی برای طوفان فکری، احساس خلاقیت بیشتری کنند؛ هرچند که در اغلب موارد دامنه ایده‌هایشان محدودتر می‌شود. همین یکنواختی احتمالاً بر سبک‌کاری افراد هم تأثیرگذار است؛ چرا که این سیستم‌ها کاربرانشان را به سمت الگوهای نوشتاری مشابه سوق می‌دهند که باعث کاهش تفاوت‌هایی که معمولاً نشان‌دهنده صدای فردی است خواهد شد.
به‌علاوه محققان در نوشته‌های افرادی از فرهنگ‌های دیگر، متوجه تغییرهایی به سمت هنجارهای غربی و به‌ویژه انگلیسی‌زبان شده‌اند که این باعث ایجاد نگرانی‌هایی درباره شکل جدیدی از استعمار هوش مصنوعی شده است. در همین راستا، متونی که در آن‌ها اصالت، لحن و قصد سبکی مشاهده می‌شود، احتمالاً به چشم رسانه‌ها حتی معنادارتر هم خواهند شد و احتمالاً نقشی حیاتی در آموزش نسل‌های بعدی مدل‌ها ایفا خواهند کرد.
اگر سناریوهای آخرالزمانی‌تر را کنار بگذارید و فرض کنید که هوش مصنوعی به پیشرفت خود (شاید با سرعتی کندتر از سرعت اخیر) ادامه خواهد داد، کاملاً ممکن است که نوشته‌های متفکرانه، اصیل و تولید شده توسط انسان ارزش بیشتری پیدا کنند؛ یعنی کار نویسنده‌ها، روزنامه‌نگاران و روشنفکران صرفاً به این دلیل که بخش عمده‌ای از وب دیگر توسط انسان نوشته نمی‌شود، نادیده گرفته نخواهد شد.
منبع: theconversation
۵۸۳۲۱
∎