با این حال، آنچه باید پناهگاهی برای یادگیری و ارتباط باشد، به عرصهای برای سوءاستفاده، استثمار و آسیبهای روانی گسترده بدل شده است. بهرغم ادعاهای مکرر پلتفرمهای بزرگ فناوری درباره سرمایهگذاری برای ایمنی کاربران جوان، بررسیهای میدانی، گزارشهای نظارتی و آرای قضایی نشان میدهد که شبکههای اجتماعی نهتنها در حفاظت از کودکان ناموفق بودهاند، بلکه گاه با طراحی عمدی الگوریتمهای اعتیادآور، به این آسیبها دامن زدهاند.
ویژگیهای ایمنی که کار نمیکنند
پلتفرمهایی مانند اینستاگرام، اسنپچت، تیکتاک و یوتیوب همواره از ابزارهای ایمنی خود بهعنوان سپری در برابر آسیبهای آنلاین یاد کردهاند. با این حال، پژوهشهای جدید مرکز تحقیقات ایمنی سایبری نشان میدهد که بیش از نیمی از این ویژگیها یا اصلا کار نمیکنند، یا آنقدر در منوهای تنظیمات دفن شدهاند که یک نوجوان بهسختی میتواند آنها را پیدا و فعال کند. در یک آزمایش گسترده، محققان ۸۶ ویژگی ایمنی را در چهار پلتفرم اصلی بررسی کردند و دریافتند که تنها ۳۵ مورد (کمتر از ۴۰درصد) هم به درستی عمل میکنند و هم قابلدسترس هستند. نرخ شکست در اسنپچت به ۷۳درصد، در اینستاگرام به ۶۶درصد و در یوتیوب و تیکتاک به ترتیب به ۵۵ و ۵۰درصد رسید.
یکی از نگرانکنندهترین یافتهها، مربوط به محدودیتهای جستوجو برای جلوگیری از دسترسی کودکان به محتوای آسیبزا (مانند خودآزاری یا اختلالات خوردن) است. در آزمایشها مشخص شد که کودکان بهراحتی با تغییر املای یک کلمه یا استفاده از پیشنهادات خود پلتفرم، میتوانند این محدودیتها را دور بزنند. برای مثال، در تیکتاک، جستوجوی عبارت مرتبط با اختلال خوردن، پیشنهاداتی مانند «چطور تظاهر به خوردن کنم» را به کاربر نشان میداد.
پلتفرمهایی مانند اینستاگرام، اسنپچت، تیکتاک و یوتیوب همواره از ابزارهای ایمنی خود بهعنوان سپری در برابر آسیبهای آنلاین یاد کردهاند. با این حال، پژوهشهای جدید مرکز تحقیقات ایمنی سایبری نشان میدهد که بیش از نیمی از این ویژگیها یا اصلا کار نمیکنند، یا آنقدر در منوهای تنظیمات دفن شدهاند که یک نوجوان بهسختی میتواند آنها را پیدا و فعال کند. در یک آزمایش گسترده، محققان ۸۶ ویژگی ایمنی را در چهار پلتفرم اصلی بررسی کردند و دریافتند که تنها ۳۵ مورد (کمتر از ۴۰درصد) هم به درستی عمل میکنند و هم قابلدسترس هستند. نرخ شکست در اسنپچت به ۷۳درصد، در اینستاگرام به ۶۶درصد و در یوتیوب و تیکتاک به ترتیب به ۵۵ و ۵۰درصد رسید.
یکی از نگرانکنندهترین یافتهها، مربوط به محدودیتهای جستوجو برای جلوگیری از دسترسی کودکان به محتوای آسیبزا (مانند خودآزاری یا اختلالات خوردن) است. در آزمایشها مشخص شد که کودکان بهراحتی با تغییر املای یک کلمه یا استفاده از پیشنهادات خود پلتفرم، میتوانند این محدودیتها را دور بزنند. برای مثال، در تیکتاک، جستوجوی عبارت مرتبط با اختلال خوردن، پیشنهاداتی مانند «چطور تظاهر به خوردن کنم» را به کاربر نشان میداد.
شکست در نظارت
گزارشهای نظارتی نیز این ناکامی را تأیید میکنند. سازمان ایمنی آنلاین استرالیا در جدیدترین گزارش خود اعلام کرد که پلتفرمهای بزرگ ازجمله متا، اپل و گوگل در شناسایی و مهار باجخواهی جنسی و سوءاستفاده از کودکان عملکردی ناامیدکننده داشتهاند. این گزارش تأکید میکند که فناوریهای لازم برای شناسایی الگوهای باجخواهی و حتی سوءاستفاده زنده (لایو) وجود دارد اما شرکتها بهصورت یکپارچه از آن استفاده نمیکنند.
جولی اینمن گرانت، کمیسیونر ایمنی آنلاین استرالیا، با انتقاد از این وضعیت گفت: «ما بارها شواهدی از نحوه سوءاستفاده مجرمان از پلتفرمها را به شرکتها نشان دادهایم و مسیر دقیق حل مشکل را ارائه کردهایم اما پاسخهای آنها در حد و اندازه این بحران نبوده است». این در حالی است که در بازه زمانی ششماهه، بیش از ۲۰۰۰ شکایت مرتبط با باجخواهی جنسی ثبت شده و مطالعهای جداگانه نشان داد که از هر ۱۰ نوجوان ۱۶ تا ۱۸ ساله، بیش از یک نفر این تجربه تلخ را داشته است.
گزارشهای نظارتی نیز این ناکامی را تأیید میکنند. سازمان ایمنی آنلاین استرالیا در جدیدترین گزارش خود اعلام کرد که پلتفرمهای بزرگ ازجمله متا، اپل و گوگل در شناسایی و مهار باجخواهی جنسی و سوءاستفاده از کودکان عملکردی ناامیدکننده داشتهاند. این گزارش تأکید میکند که فناوریهای لازم برای شناسایی الگوهای باجخواهی و حتی سوءاستفاده زنده (لایو) وجود دارد اما شرکتها بهصورت یکپارچه از آن استفاده نمیکنند.
جولی اینمن گرانت، کمیسیونر ایمنی آنلاین استرالیا، با انتقاد از این وضعیت گفت: «ما بارها شواهدی از نحوه سوءاستفاده مجرمان از پلتفرمها را به شرکتها نشان دادهایم و مسیر دقیق حل مشکل را ارائه کردهایم اما پاسخهای آنها در حد و اندازه این بحران نبوده است». این در حالی است که در بازه زمانی ششماهه، بیش از ۲۰۰۰ شکایت مرتبط با باجخواهی جنسی ثبت شده و مطالعهای جداگانه نشان داد که از هر ۱۰ نوجوان ۱۶ تا ۱۸ ساله، بیش از یک نفر این تجربه تلخ را داشته است.
استثمار کودکان؛ ماجرای یک دادگاه و یک جریمه
شکست سیستماتیک پلتفرمها در حفاظت از کودکان، فراتر از گزارشهای نظارتی رفته و به دادگاهها کشیده شده است. در یک پرونده تاریخی در ایالت نیومکزیکو، هیأت منصفه متا (مالک فیسبوک، اینستاگرام و واتساپ) را به پرداخت ۳۷۵ میلیون دلار جریمه محکوم کرد. این حکم پس از یک تحقیق پنهانی صادر شد که نشان میداد الگوریتمهای شخصیسازیشده متا که برای هدفمندسازی تبلیغات طراحی شدهاند، دقیقا همان ابزاری هستند که منحرفان جنسی از آن برای شناسایی و شکار کودکان استفاده میکنند. دادستان کل نیومکزیکو، رائول تورز، در این پرونده ادعا کرد که متا آگاهانه کودکان را در معرض بهرهکشی جنسی، آزار و قاچاق انسان قرار داده و حتی شواهدی را در این زمینه پنهان کرده است. پیشتر نیز در دادگاهی دیگر در کالیفرنیا، یوتیوب و اینستاگرام به دلیل طراحی اعتیادآور که به آسیبهای روانی یک کاربر جوان منجر شده بود، به پرداخت میلیونها دلار غرامت محکوم شدند.
شکست سیستماتیک پلتفرمها در حفاظت از کودکان، فراتر از گزارشهای نظارتی رفته و به دادگاهها کشیده شده است. در یک پرونده تاریخی در ایالت نیومکزیکو، هیأت منصفه متا (مالک فیسبوک، اینستاگرام و واتساپ) را به پرداخت ۳۷۵ میلیون دلار جریمه محکوم کرد. این حکم پس از یک تحقیق پنهانی صادر شد که نشان میداد الگوریتمهای شخصیسازیشده متا که برای هدفمندسازی تبلیغات طراحی شدهاند، دقیقا همان ابزاری هستند که منحرفان جنسی از آن برای شناسایی و شکار کودکان استفاده میکنند. دادستان کل نیومکزیکو، رائول تورز، در این پرونده ادعا کرد که متا آگاهانه کودکان را در معرض بهرهکشی جنسی، آزار و قاچاق انسان قرار داده و حتی شواهدی را در این زمینه پنهان کرده است. پیشتر نیز در دادگاهی دیگر در کالیفرنیا، یوتیوب و اینستاگرام به دلیل طراحی اعتیادآور که به آسیبهای روانی یک کاربر جوان منجر شده بود، به پرداخت میلیونها دلار غرامت محکوم شدند.
آیا ممنوعیت کلی راهحل است؟
در واکنش به این ناکامیها، کشورهایی مانند استرالیا ممنوعیت استفاده از شبکههای اجتماعی را برای کودکان زیر ۱۶ سال وضع کردهاند و اتحادیه اروپا نیز بهدنبال افزایش سن حداقلی استفاده است. با این حال، کارشناسان و نهادهای مدنی مانند یونیسف نسبت به «اثر معکوس» این ممنوعیتها هشدار میدهند. آنها معتقدند کودکان همچنان با دروغگویی درباره سن خود راهی برای ورود پیدا میکنند (تحقیقات در یونان نشان داد ۶۶درصد دانشآموزان ابتدایی سن خود را جعلی اعلام میکنند) و این کار آنها را به فضاهای کمتر نظارتشده سوق میدهد. به اعتقاد یونیسف، راهحل در ممنوعیت نیست، بلکه در «طراحی ایمن» پلتفرمها از ابتدا و ایجاد قوانین الزامآور است که شرکتها را به مسئولیتپذیری در قبال تأثیرات مخرب محصولاتشان وادار کند.
در واکنش به این ناکامیها، کشورهایی مانند استرالیا ممنوعیت استفاده از شبکههای اجتماعی را برای کودکان زیر ۱۶ سال وضع کردهاند و اتحادیه اروپا نیز بهدنبال افزایش سن حداقلی استفاده است. با این حال، کارشناسان و نهادهای مدنی مانند یونیسف نسبت به «اثر معکوس» این ممنوعیتها هشدار میدهند. آنها معتقدند کودکان همچنان با دروغگویی درباره سن خود راهی برای ورود پیدا میکنند (تحقیقات در یونان نشان داد ۶۶درصد دانشآموزان ابتدایی سن خود را جعلی اعلام میکنند) و این کار آنها را به فضاهای کمتر نظارتشده سوق میدهد. به اعتقاد یونیسف، راهحل در ممنوعیت نیست، بلکه در «طراحی ایمن» پلتفرمها از ابتدا و ایجاد قوانین الزامآور است که شرکتها را به مسئولیتپذیری در قبال تأثیرات مخرب محصولاتشان وادار کند.
تعویض یک ذرهبین یا تغییر یک اکوسیستم؟
شواهد نشان میدهد که شبکههای اجتماعی نهتنها در ایجاد یک محیط امن برای کودکان و نوجوانان ناتوان بودهاند، بلکه با ساختار الگوریتمی خود، بهعنوان موتور محرک این آسیبها عمل کردهاند. ادعای پلتفرمها درباره ایمنی، در عمل با ویژگیهایی که یا کار نمیکنند یا قابلیت دورزدن دارند، به سخره گرفته شده است. پروندههای قضایی و گزارشهای نظارتی، تصویر روشنی از «شکارگاه» بودن این فضا برای کودکان ترسیم میکنند. اکنون، فراتر از ممنوعیتهای نمادین، جامعه جهانی با این پرسش اساسی مواجه است: آیا غولهای فناوری واقعا قادر به اصلاح این ساختار معیوب هستند، یا باید با قوانین سختگیرانه و جریمههای سنگین، آنها را وادار به طراحی مجدد دنیای دیجیتال برای کودکان کرد؟
شواهد نشان میدهد که شبکههای اجتماعی نهتنها در ایجاد یک محیط امن برای کودکان و نوجوانان ناتوان بودهاند، بلکه با ساختار الگوریتمی خود، بهعنوان موتور محرک این آسیبها عمل کردهاند. ادعای پلتفرمها درباره ایمنی، در عمل با ویژگیهایی که یا کار نمیکنند یا قابلیت دورزدن دارند، به سخره گرفته شده است. پروندههای قضایی و گزارشهای نظارتی، تصویر روشنی از «شکارگاه» بودن این فضا برای کودکان ترسیم میکنند. اکنون، فراتر از ممنوعیتهای نمادین، جامعه جهانی با این پرسش اساسی مواجه است: آیا غولهای فناوری واقعا قادر به اصلاح این ساختار معیوب هستند، یا باید با قوانین سختگیرانه و جریمههای سنگین، آنها را وادار به طراحی مجدد دنیای دیجیتال برای کودکان کرد؟