این گزارش تصویری متفاوت از کاربرد هوش مصنوعی در عرصه سیاست ارائه میکند؛ جایی که فناوری دیگر صرفا ابزاری برای تولید متن، تصویر یا ویدئو نیست بلکه میتواند برای جمعآوری اطلاعات، دستهبندی مخاطبان، ساخت هویتهای جعلی و حتی تقلید از سبک نوشتاری افراد واقعی مورد استفاده قرار گیرد.
«ویکتور»؛ دستیار مصنوعی یک عملیات سیاسی
براساس گزارش آنتروپیک، در مرکز این عملیات یک ایجنت هوش مصنوعی با نام «ویکتور» قرار داشته است؛ سامانهای که برای جمعآوری، تحلیل و پردازش حجم گستردهای از دادههای مربوط به کاربران و مخاطبان سیاسی به کار گرفته میشد. این شرکت اعلام کرده دستکم چهار نفر از افرادی که در این عملیات نقش داشتهاند، با رسانههای رسمی گروهک منافقین همکاری میکردند. این افراد از ابزارهای هوش مصنوعی برای پیشبرد فعالیتهایی در شبکههای اجتماعی استفاده کردهاند؛ فعالیتهایی که از تولید محتوا فراتر رفته و به تحلیل مخاطبان و طراحی پیامهای هدفمند منجر شده است. در واقع، ویکتور صرفا یک ابزار تولید محتوا نبوده بلکه این سامانه بخشی از یک فرآیند بزرگتر برای شناخت مخاطب، استخراج اطلاعات و کمک به اجرای عملیات ارتباطی بوده است.
«ویکتور»؛ دستیار مصنوعی یک عملیات سیاسی
براساس گزارش آنتروپیک، در مرکز این عملیات یک ایجنت هوش مصنوعی با نام «ویکتور» قرار داشته است؛ سامانهای که برای جمعآوری، تحلیل و پردازش حجم گستردهای از دادههای مربوط به کاربران و مخاطبان سیاسی به کار گرفته میشد. این شرکت اعلام کرده دستکم چهار نفر از افرادی که در این عملیات نقش داشتهاند، با رسانههای رسمی گروهک منافقین همکاری میکردند. این افراد از ابزارهای هوش مصنوعی برای پیشبرد فعالیتهایی در شبکههای اجتماعی استفاده کردهاند؛ فعالیتهایی که از تولید محتوا فراتر رفته و به تحلیل مخاطبان و طراحی پیامهای هدفمند منجر شده است. در واقع، ویکتور صرفا یک ابزار تولید محتوا نبوده بلکه این سامانه بخشی از یک فرآیند بزرگتر برای شناخت مخاطب، استخراج اطلاعات و کمک به اجرای عملیات ارتباطی بوده است.
رصد بیش از ۵۰۰ کانال
یکی از بخشهای قابل توجه گزارش، ابعاد عملیات رصد شبکههای اجتماعی است. براساس یافتههای آنتروپیک، گردانندگان این شبکه بیش از ۵۰۰ کانال را زیر نظر گرفته و اطلاعات مربوط به کاربران داخل ایران را جمعآوری کرده بودند.
اطلاعات گردآوریشده نیز صرفا به نام کاربری یا محتوای منتشرشده محدود نمیشد. کاربران براساس مجموعهای از ویژگیها دستهبندی شده بودند؛ ازجمله شهر محل زندگی، سن، شغل، گرایش سیاسی و حتی سابقه بازداشت.
این شیوه نشان میدهد هدف این عملیات تنها افزایش حجم انتشار محتوا یا تبلیغات سیاسی نبوده است. شناسایی دقیقتر مخاطبان میتوانست امکان تولید پیامهایی متناسب با ویژگیهای هر گروه را فراهم کند؛ روشی که در ادبیات ارتباطات سیاسی از آن بهعنوان هدفگیری مخاطب یاد میشود.
یکی از بخشهای قابل توجه گزارش، ابعاد عملیات رصد شبکههای اجتماعی است. براساس یافتههای آنتروپیک، گردانندگان این شبکه بیش از ۵۰۰ کانال را زیر نظر گرفته و اطلاعات مربوط به کاربران داخل ایران را جمعآوری کرده بودند.
اطلاعات گردآوریشده نیز صرفا به نام کاربری یا محتوای منتشرشده محدود نمیشد. کاربران براساس مجموعهای از ویژگیها دستهبندی شده بودند؛ ازجمله شهر محل زندگی، سن، شغل، گرایش سیاسی و حتی سابقه بازداشت.
این شیوه نشان میدهد هدف این عملیات تنها افزایش حجم انتشار محتوا یا تبلیغات سیاسی نبوده است. شناسایی دقیقتر مخاطبان میتوانست امکان تولید پیامهایی متناسب با ویژگیهای هر گروه را فراهم کند؛ روشی که در ادبیات ارتباطات سیاسی از آن بهعنوان هدفگیری مخاطب یاد میشود.
۵۲ هزار پیام برای ساخت پروندههای روانشناختی
یکی دیگر از بخشهای جنجالی گزارش، تحلیل دهها هزار پیام کاربران است. آنتروپیک میگوید حدود ۵۲ هزار پیام برای ایجاد پروندههای روانشناختی درباره دهها نفر مورد بررسی قرار گرفته است.
چنین دادههایی میتواند اطلاعات قابل توجهی درباره علایق، حساسیتها، نگرانیها، واکنشهای سیاسی و الگوهای رفتاری افراد در اختیار یک شبکه قرار دهد. اهمیت این موضوع زمانی بیشتر میشود که دادههای پراکنده کاربران در کنار یکدیگر قرار گیرند. ممکن است یک پیام بهتنهایی اطلاعات محدودی داشته باشد اما مجموعهای از پیامها میتواند تصویری دقیق از فرد، دیدگاهها و موضوعاتی که نسبت به آنها حساس است ایجاد کند.بدین ترتیب هوش مصنوعی میتواند نقش واسطهای را میان دادههای خام و عملیات سیاسی ایفا کند. یعنی اطلاعات پراکنده را دریافت و آنها را به الگوهایی تبدیل کرده که برای طراحی پیامهای هدفمند قابل استفاده باشند.
یکی دیگر از بخشهای جنجالی گزارش، تحلیل دهها هزار پیام کاربران است. آنتروپیک میگوید حدود ۵۲ هزار پیام برای ایجاد پروندههای روانشناختی درباره دهها نفر مورد بررسی قرار گرفته است.
چنین دادههایی میتواند اطلاعات قابل توجهی درباره علایق، حساسیتها، نگرانیها، واکنشهای سیاسی و الگوهای رفتاری افراد در اختیار یک شبکه قرار دهد. اهمیت این موضوع زمانی بیشتر میشود که دادههای پراکنده کاربران در کنار یکدیگر قرار گیرند. ممکن است یک پیام بهتنهایی اطلاعات محدودی داشته باشد اما مجموعهای از پیامها میتواند تصویری دقیق از فرد، دیدگاهها و موضوعاتی که نسبت به آنها حساس است ایجاد کند.بدین ترتیب هوش مصنوعی میتواند نقش واسطهای را میان دادههای خام و عملیات سیاسی ایفا کند. یعنی اطلاعات پراکنده را دریافت و آنها را به الگوهایی تبدیل کرده که برای طراحی پیامهای هدفمند قابل استفاده باشند.
تقلید از یک فعال سیاسی واقعی
اما شاید بحثبرانگیزترین بخش این عملیات، استفاده از هوش مصنوعی برای تقلید از هویت و سبک نوشتاری یک فعال سیاسی واقعی باشد. براساس گزارش آنتروپیک، حدود ۸۴۰۰ پست تلگرامی این فرد در اختیار مدل هوش مصنوعی قرار گرفت تا سبک نگارش، لحن و شیوه بیان او بازسازی شود. هدف این بود که سامانه بتواند در ادامه، به جای فرد اصلی با مخاطبان او وارد گفتوگوی سیاسی شود؛ در حالی که مخاطبان از حضور هوش مصنوعی و جایگزینی یک سامانه مصنوعی به جای آن شخص اطلاعی نداشته باشند.
این بخش از پرونده، پرسشی اساسی درباره مفهوم هویت در فضای دیجیتال ایجاد میکند: اگر یک سامانه هوش مصنوعی بتواند زبان، لحن و حتی واکنشهای سیاسی فردی را با دقت بازسازی کند، مخاطب چگونه میتواند تشخیص دهد که با آن شخص صحبت میکند یا با نسخه مصنوعی او؟
اما شاید بحثبرانگیزترین بخش این عملیات، استفاده از هوش مصنوعی برای تقلید از هویت و سبک نوشتاری یک فعال سیاسی واقعی باشد. براساس گزارش آنتروپیک، حدود ۸۴۰۰ پست تلگرامی این فرد در اختیار مدل هوش مصنوعی قرار گرفت تا سبک نگارش، لحن و شیوه بیان او بازسازی شود. هدف این بود که سامانه بتواند در ادامه، به جای فرد اصلی با مخاطبان او وارد گفتوگوی سیاسی شود؛ در حالی که مخاطبان از حضور هوش مصنوعی و جایگزینی یک سامانه مصنوعی به جای آن شخص اطلاعی نداشته باشند.
این بخش از پرونده، پرسشی اساسی درباره مفهوم هویت در فضای دیجیتال ایجاد میکند: اگر یک سامانه هوش مصنوعی بتواند زبان، لحن و حتی واکنشهای سیاسی فردی را با دقت بازسازی کند، مخاطب چگونه میتواند تشخیص دهد که با آن شخص صحبت میکند یا با نسخه مصنوعی او؟
آواتارهای فارسی و حسابهای هماهنگ
استفاده از هوش مصنوعی در این عملیات به متن و تحلیل داده محدود نمانده است. طبق گزارش، آواتارهای فارسیزبان نیز برای تبلیغ برنامه ۱۰مادهای سرکرده گروهک منافقین تولید شده و مجموعهای از حسابهای هماهنگ در اینستاگرام به فعالیت پرداختهاند. نکته قابل توجه آن است که برخی از این حسابها در مراحل اولیه، ارتباط خود با گروهک منافقین را آشکار نمیکردند و تلاش داشتند تصویری مستقل از یک جریان سیاسی ارائه دهند. چنین رویکردی میتواند تشخیص منشاء واقعی یک پیام را برای مخاطب دشوار سازد. کاربر ممکن است تصور کند با یک حساب شخصی یا جریانی مستقل مواجه است، در حالی که پشت مجموعهای از حسابها، یک شبکه هماهنگ قرار گرفته باشد.
استفاده از هوش مصنوعی در این عملیات به متن و تحلیل داده محدود نمانده است. طبق گزارش، آواتارهای فارسیزبان نیز برای تبلیغ برنامه ۱۰مادهای سرکرده گروهک منافقین تولید شده و مجموعهای از حسابهای هماهنگ در اینستاگرام به فعالیت پرداختهاند. نکته قابل توجه آن است که برخی از این حسابها در مراحل اولیه، ارتباط خود با گروهک منافقین را آشکار نمیکردند و تلاش داشتند تصویری مستقل از یک جریان سیاسی ارائه دهند. چنین رویکردی میتواند تشخیص منشاء واقعی یک پیام را برای مخاطب دشوار سازد. کاربر ممکن است تصور کند با یک حساب شخصی یا جریانی مستقل مواجه است، در حالی که پشت مجموعهای از حسابها، یک شبکه هماهنگ قرار گرفته باشد.
هوش مصنوعی؛ ابزار جدید عملیات نفوذ
گزارش آنتروپیک در نهایت مسألهای فراتر از یک پرونده خاص را مطرح میکند. هوش مصنوعی اکنون میتواند در عملیات سیاسی نه فقط بهعنوان ابزار تولید محتوا بلکه بهعنوان بخشی از زنجیره شناسایی، تحلیل، هدفگیری و ارتباط با مخاطب به کار گرفته شود. ترکیب دادههای شخصی، تحلیل روانشناختی، تولید محتوای مصنوعی و تقلید از هویت افراد واقعی میتواند شکل تازهای از عملیات نفوذ دیجیتال را ایجاد کند؛ رویکردی که تشخیص آن برای کاربران عادی بسیار دشوارتر از تبلیغات سیاسی سنتی است. در چنین فضایی، مسأله فقط این نیست که چه کسی یک متن یا تصویر را تولید کرده است. پرسش مهمتر این است که چه کسی پشت آن حساب فعالیت دارد، اطلاعات مخاطبان چگونه جمعآوری شده و آیا فردی که مخاطب تصور میکند با او در حال گفتوگوست واقعا وجود دارد یا یک نسخه مصنوعی از اوست. پرونده ویکتور نشان میدهد هوش مصنوعی میتواند مرز میان انسان واقعی و هویت مصنوعی را در سیاست بیش از گذشته مخدوش کند. فناوریای که میتواند به یک فرد در نوشتن، ترجمه یا تحلیل کمک کند، در صورت استفاده سازمانیافته قادر است به ابزاری برای ساخت شخصیتهای جعلی، هدفگیری مخاطبان و شکلدهی پنهان به گفتوگوهای سیاسی تبدیل شود.
گزارش آنتروپیک در نهایت مسألهای فراتر از یک پرونده خاص را مطرح میکند. هوش مصنوعی اکنون میتواند در عملیات سیاسی نه فقط بهعنوان ابزار تولید محتوا بلکه بهعنوان بخشی از زنجیره شناسایی، تحلیل، هدفگیری و ارتباط با مخاطب به کار گرفته شود. ترکیب دادههای شخصی، تحلیل روانشناختی، تولید محتوای مصنوعی و تقلید از هویت افراد واقعی میتواند شکل تازهای از عملیات نفوذ دیجیتال را ایجاد کند؛ رویکردی که تشخیص آن برای کاربران عادی بسیار دشوارتر از تبلیغات سیاسی سنتی است. در چنین فضایی، مسأله فقط این نیست که چه کسی یک متن یا تصویر را تولید کرده است. پرسش مهمتر این است که چه کسی پشت آن حساب فعالیت دارد، اطلاعات مخاطبان چگونه جمعآوری شده و آیا فردی که مخاطب تصور میکند با او در حال گفتوگوست واقعا وجود دارد یا یک نسخه مصنوعی از اوست. پرونده ویکتور نشان میدهد هوش مصنوعی میتواند مرز میان انسان واقعی و هویت مصنوعی را در سیاست بیش از گذشته مخدوش کند. فناوریای که میتواند به یک فرد در نوشتن، ترجمه یا تحلیل کمک کند، در صورت استفاده سازمانیافته قادر است به ابزاری برای ساخت شخصیتهای جعلی، هدفگیری مخاطبان و شکلدهی پنهان به گفتوگوهای سیاسی تبدیل شود.