۱۳ نویسنده مطرح داستانهای علمیتخیلی و ادبیات گمانهزن که در سال ۲۰۲۲ در یک مطالعه آزمایشی گوگل درباره استفاده از هوش مصنوعی در نویسندگی شرکت کرده بودند چهار سال بعد با موجی از انتقاد و درخواست برای تحریم آثارشان مواجه شدهاند.
به گزارش گروه ترجمه خبرگزاری برنا به نقل از انگجت، گوگل در بهار سال ۲۰۲۲ با شماری از نویسندگان از جمله نویسندگان برنده جوایز ادبیات علمیتخیلی و پرفروشهای نیویورکتایمز تماس گرفت تا نظر آنها را درباره یک ابزار آزمایشی نویسندگی جویا شود. این پروژه که بعدها با نام Wordcraft Writers Workshop شناخته شد، در آن زمان با هدف بررسی امکان استفاده از مدلهای زبانی بزرگ بهعنوان دستیار ایدهپردازی پژوهشگر یا همکار نویسنده حرفهای اجرا شد.
چهار سال پس از اجرای این مطالعه مشارکت این نویسندگان در آن با واکنش شدید بخشهایی از جامعه ادبی مواجه شده است؛ واکنشهایی که بهویژه در میان نویسندگان و مخاطبان ادبیات گمانهزن در شبکه اجتماعی Bluesky شدت گرفته است.
آزمایش گوگل با نویسندگان حرفهای
پژوهشگران گوگل در آن زمان میدانستند مدلهای زبانی بزرگ به نقطهای مهم در مسیر توسعه خود نزدیک شدهاند. شرکت DeepMind واحد هوش مصنوعی گوگل در آن دوره در حال آزمایش یک مدل تولید زبان طبیعی به نام LaMDA بود که تواناییهایی نوظهور در زمینه نویسندگی از خود نشان داده بود. این مدل بعدها به یکی از پایههای توسعه Google Gemini تبدیل شد.
گوگل برای بررسی کاربردهای احتمالی این فناوری در حرفه نویسندگی مطالعهای داخلی راهاندازی کرد. هدف این بود که مشخص شود آیا هوش مصنوعی میتواند برای نویسندگان حرفهای در نقش دستیار طوفان فکری، پژوهشگر یا حتی همکار نوشتاری مورد استفاده قرار گیرد یا خیر.
این پروژه در مجموعه Magenta یک پروژه تحقیقاتی متمرکز بر هنر در DeepMind، شکل گرفت. Magenta روی ابزارهای متنباز یادگیری ماشین برای حوزههای هنری کار میکرد و بیشتر به دلیل توسعه افزونههای موسیقی دیجیتال برای نرمافزار Ableton Live شناخته میشد. تمرکز این پروژه بر علوم انسانی و هنر باعث شد به محل مناسبی برای اجرای مطالعه Wordcraft تبدیل شود.
در مجموع ۱۳ نویسنده برای شرکت در این کارگاه انتخاب شدند. آنها تحت توافقنامههای محرمانگی سختگیرانه قرار گرفتند و اعلام شد که به یک ویرایشگر متنی جادویی به نام Wordcraft دسترسی خواهند داشت؛ ابزاری که در واقع یک رابط کاربری متمرکز بر نویسندگی برای مدل زبانی LaMDA بود.
یکی از نویسندگانی که با Engadget گفتوگو کرده این ابزار را شبیه Microsoft Word در کنار یک چتبات توصیف کرده است.
هر نویسنده هشت هفته فرصت داشت تا یک داستان کوتاه بنویسد و میتوانست از مدل زبانی برای هر منظوری که میخواهد استفاده کند یا اصلا از خروجیهای آن استفاده نکند. میزان استفاده از هوش مصنوعی نیز کاملا به انتخاب نویسندگان واگذار شده بود. حتی دستکم یکی از شرکتکنندگان در نهایت هیچ متن تولیدشده توسط هوش مصنوعی را در اثر خود استفاده نکرد.
داستانهای حاصل از این پروژه در وبسایت Magenta منتشر شدند و در کنار آنها مقالهای علمی درباره نتایج مطالعه نیز قرار گرفت.
چرا چهار سال بعد این مشارکت جنجالی شد؟
از زمان انتشار مقاله پژوهشگران تا امروز نگاه عمومی به هوش مصنوعی بهویژه در میان فعالان حوزههای خلاق و هنری، تغییر چشمگیری کرده است.
اوایل ماه جاری میلادی Lily Lachance هنگام مرور Codex یک انجمن آنلاین اختصاصی برای نویسندگان حرفهای ادبیات گمانهزن با وبسایت مطالعه Wordcraft مواجه شد. او که خود را یک مخالف مطلق هوش مصنوعی مولد معرفی میکند در ۶ اوت لینک این مطالعه را در حساب خود در Bluesky منتشر کرد.
او در پستی که بعدا حذف شد از مشارکت ۱۳ نویسنده حرفهای در این پروژه انتقاد کرد و آنها را به مشروعیتبخشی به فناوری هوش مصنوعی متهم کرد. این پست بهسرعت در میان کاربران علاقهمند به کتاب و ادبیات در Bluesky دستبهدست شد.
بسیاری از کاربران از مشارکت نویسندگان محبوب خود در این مطالعه ابراز نارضایتی کردند و برخی نیز تهدید کردند آثار هر ۱۳ نویسنده را تحریم خواهند کرد. یکی از کاربران حتی فهرستی از شرکتکنندگان را با عنوانی تحقیرآمیز منتشر کرد و آنها را نویسندگانی دانست که به جامعه خلاق خیانت کردهاند.
این فهرست با استقبال مواجه شد و کاربران دیگری نیز نام نویسندگان شرکتکننده را همراه با انتقادها و توصیفهای منفی خود منتشر کردند.
ریشه اصلی اعتراضها؛ آموزش مدلهای هوش مصنوعی با آثار دارای حق نشر
بخش قابلتوجهی از خشم شکلگرفته علیه نویسندگان شرکتکننده در Wordcraft به نحوه آموزش مدلهای زبانی بزرگ مربوط میشود.
شرکتهای فناوری برای آموزش LLMها از حجم عظیمی از متون استفاده میکنند و در بسیاری از موارد، نویسندگان و صاحبان آثار مدعیاند آثار دارای حق نشر آنها بدون اجازه در این فرایند مورد استفاده قرار گرفته است.
منتقدان هوش مصنوعی مولد معتقدند این وضعیت به نوعی استفاده گسترده از میراث ادبی و هنری بشر برای ساخت محصولاتی منجر شده است که در نهایت میتوانند درآمد و جایگاه هنرمندان و نویسندگان حرفهای را تهدید کرده یا حتی جایگزین بخشی از فعالیت آنها شوند.
همین مسئله موجب شده بسیاری از نویسندگان و هنرمندان در سالهای اخیر بهشدت علیه استفادههای خاصی از هوش مصنوعی مولد موضعگیری کنند.
نویسندگان چه پاسخی دادند؟
چند ساعت پس از انتشار پست Lachance برخی از نویسندگانی که در کارگاه Wordcraft شرکت کرده بودند درباره مشارکت خود توضیحاتی ارائه کردند.
Eugenia Triantafyllou، نویسنده یونانی ادبیات گمانهزن و برنده جایزه Shirley Jackson، توضیح داد که در سال ۲۰۲۲، یعنی پیش از ظهور ChatGPT و تحولات گسترده پس از آن، در این مطالعه شرکت کرده است.
او گفت این پروژه در آن زمان بهعنوان پژوهشی درباره یک ابزار جدید به او معرفی شده بود که قرار بود آن را آزمایش کند و نظرش را درباره آن ارائه دهد. به گفته او در آن زمان نمیدانسته این فناوری با استفاده از آثار دارای حق نشر آموزش دیده است.
برخی از ۱۳ نویسندهای که اکنون با عنوان ۱۳ نویسنده شرمآور از آنها یاد میشود ممکن است حتی از شکلگیری این موج انتقاد علیه خود مطلع نباشند و برخی دیگر نیز ممکن است اهمیت چندانی به آن ندهند.
در میان شرکتکنندگان نویسندگانی مانند Ken Liu، نویسنده شناختهشده داستانهای علمیتخیلی و Robin Sloan نویسنده پرفروش حضور دارند که ظاهرا فعالیت محدودی در شبکههای اجتماعی دارند. Liu نیز حسابهای کاربری خود را شخصا مدیریت نمیکند. Sloan در وبلاگ شخصی خود درباره تجربههایش با فناوری هوش مصنوعی مطالبی منتشر کرده است هرچند مشخص نیست هوش مصنوعی چه میزان نقشی در آثار منتشرشده او داشته یا دارد.
برخی نویسندگان معتقدند قضاوت درباره سال ۲۰۲۲ باید با شرایط همان زمان انجام شود
واکنشها البته یکدست نبود.
Vajra Chandrasekera، نویسنده فعال حوزه علمیتخیلی و سردبیر سابق بخش داستان مجله Strange Horizons در یک رشتهپست در Bluesky درباره این جنجال نوشت که اگرچه شرکت در این مطالعه در سال ۲۰۲۲ اشتباه آشکاری بوده است اما تا زمانی که این نویسندگان همچنان حامی هوش مصنوعی نباشند آنها را مقصر نمیداند.
او در عین حال تاکید کرد که حتی در سال ۲۰۲۲ نیز نشانههایی از اختلافنظر درباره هوش مصنوعی وجود داشت.
Lincoln Michel، نویسنده داستانهای علمیتخیلی و مدرس نویسندگی خلاق در دانشگاههای کلمبیا و Sarah Lawrence نیز گفت مدلهای زبانی بزرگ در سال ۲۰۲۲ تازه داشتند وارد آگاهی عمومی میشدند و هنوز موج گسترده مخالفت هنرمندان علیه آنها شکل نگرفته بود.
به گفته او در آن زمان بسیاری از مردم چندان به LLMها توجه نمیکردند هرچند برخی نویسندگان جدی نسبت به این فناوری کنجکاو بودند و بهصورت علنی درباره علاقه خود به آن صحبت میکردند.
مخالفت با هوش مصنوعی مولد در سالهای بعد شدت گرفت
یکی از نخستین پروندههای قضایی علیه یک شرکت هوش مصنوعی با ادعای نقض حق نشر در ژانویه ۲۰۲۳ توسط تصویرگر Sarah Anderson مطرح شد.
در ژوئن ۲۰۲۳ نیز نویسنده داستانهای ترسناک Paul Tremblay و رماننویس Mona Awad از OpenAI شکایت کردند و مدعی شدند این شرکت آثار منتشرشده آنها را بدون مجوز در فرایند آموزش مدلهای خود وارد کرده است.
به این ترتیب موج انتقادهای عمومی از استفاده شرکتهای هوش مصنوعی از آثار دارای حق نشر در سالهای پس از مطالعه Wordcraft بهمراتب گستردهتر شد.
Michel همچنین به داستان کوتاه According to Alice از Sheila Heti اشاره کرد؛ اثری که این نویسنده تجربی در تابستان ۲۰۲۲ با همکاری یک مدل زبانی نوشته بود و در نوامبر ۲۰۲۳ در مجله The New Yorker منتشر شد. انتشار این اثر در آن زمان با واکنشهایی مواجه شد که به گفته Michel عمدتا کنجکاوانه و نسبتا خنثی بودند.
آیا نویسندگان Wordcraft از نگرانیهای اخلاقی آگاه بودند؟
منتقدان برای اثبات اینکه نویسندگان شرکتکننده در Wordcraft از پیامدهای اخلاقی این فناوری آگاه بودهاند به بخشهایی از مقاله علمی منتشرشده توسط گوگل استناد کردهاند.
در این مقاله بخشی با عنوان نگرانیها درباره منشأ پیشنهادهای Wordcraft وجود دارد که در نگاه نخست میتواند این ادعا را تقویت کند.
در مقاله آمده است که چند نفر از شرکتکنندگان درباره نامشخص بودن منبع پیشنهادهای Wordcraft نگرانیهای جدی داشتهاند.
یکی از شرکتکنندگان به نام Allison Parrish نیز به پژوهشگران گفته بود که برای اطمینان از اینکه خروجیهای مدل سرقت ادبی نیستند شروع به جستوجوی آنها در وب کرده است.
با این حال یکی از نویسندگان برنده جایزه که در مطالعه حضور داشته و نخواست نامش فاش شود به Engadget گفت گوگل در آن زمان توضیحی درباره نحوه کار فناوری یا اینکه چه افراد و مجموعههایی در این مطالعه مشارکت دارند به او ارائه نکرده بود.
Triantafyllou نیز گفت در آن زمان درک درستی از نحوه عملکرد فناوری نداشته و Wordcraft بهعنوان نوعی ویراستار داستان به او معرفی شده بود.
او گفت ابزار را در ذهن خود بیشتر شبیه ابزارهای قدیمی و غیربرپایههوش مصنوعی مانند مولدهای نام در داستانهای فانتزی، تصور میکرد؛ ابزارهایی که بهصورت تصادفی هجاها را کنار هم قرار میدادند و نامهایی برای شخصیتهای خیالی تولید میکردند.
او درباره برداشت خود در آن زمان گفت تصورش این بوده که Wordcraft نیز چیزی شبیه همین ابزارهای ساده است و این برداشت را اکنون بسیار سادهلوحانه میداند.
امروز هرگز در چنین مطالعهای شرکت نمیکنم
Triantafyllou در بیانیهای که پس از جنجال اخیر منتشر کرد تاکید کرد که از هوش مصنوعی برای نوشتن داستانهای خود استفاده نکرده است.
او همچنین گفت در سالهای بعد از این فناوری متنفر شده و اگر امروز فرصت مشابهی به او پیشنهاد شود هرگز در چنین مطالعهای شرکت نخواهد کرد.
به این ترتیب بخشی از نویسندگانی که اکنون مورد انتقاد قرار گرفتهاند، تلاش کردهاند مشارکت خود را در Wordcraft با توجه به فضای فناوری و افکار عمومی در سال ۲۰۲۲ توضیح دهند؛ دورهای که به گفته آنها هنوز ابعاد استفاده از مدلهای زبانی بزرگ و پیامدهای آن برای حقوق نویسندگان و هنرمندان به اندازه امروز روشن نبود.
نقطه تغییر دیدگاه برخی نویسندگان
با این حال برخی از شرکتکنندگان در این مطالعه میگویند تجربه کار با فناوری مذکور حتی باعث شده موضع آنها در برابر هوش مصنوعی بهشدت تغییر کند.
Talabi یکی دیگر از شرکتکنندگان در Bluesky نوشت که مهمترین چیزی که از این پروژه برای او باقی مانده نفرت عمیق از محتوای تولیدشده توسط هوش مصنوعی و مدلهای زبانی بزرگ بوده است.
او تاکید کرد که تجربه حضور در این پروژه باعث شد از نزدیک با نحوه شکلگیری این فناوری آشنا شود و در نهایت آن را رد کند.
جنجال اخیر بار دیگر شکاف عمیق میان صنعت فناوری و بخشهایی از جامعه نویسندگان و هنرمندان را درباره استفاده از هوش مصنوعی آشکار کرده است. در حالی که برخی معتقدند قضاوت نویسندگان بر اساس استانداردهای اخلاقی امروز درباره تصمیمی که در سال ۲۰۲۲ گرفتهاند منصفانه نیست منتقدان بر این باورند که حتی در آن زمان نیز نگرانیهایی درباره منشا دادههای آموزشی و پیامدهای استفاده از هوش مصنوعی برای آینده مشاغل خلاق وجود داشته است.
در نهایت ماجرای Wordcraft نشان میدهد که تغییر سریع نگاه عمومی به هوش مصنوعی میتواند حتی مشارکتهای پژوهشی مربوط به سالهای گذشته را نیز به موضوعی جنجالی تبدیل کند، بهویژه در شرایطی که مسئله حق نشر، استفاده از آثار نویسندگان برای آموزش مدلهای هوش مصنوعی و احتمال جایگزینی نیروی انسانی در صنایع خلاق به یکی از مهمترین مناقشههای پیرامون هوش مصنوعی تبدیل شده است.
انتهای پیام/