گزارش اخیر گاردین روند هشدار دهنده الگوریتم‌های رسانه‌های اجتماعی را که به سرعت محتوای زن‌ستیزانه شدید را منتشر می‌کنند، نشان می‌دهد که به محیط‌های مدرسه نفوذ می‌کند و نگرش‌های مضر نسبت به زنان را عادی می‌کند.
این گزارش بر اساس مطالعه‌ای است که توسط تیم‌هایی از کالج دانشگاه لندن و دانشگاه کنت انجام شده است، که نشان می‌دهد افزایش نگران‌کننده محتوای زن‌ستیز پیشنهاد شده توسط الگوریتم TikTok در یک دوره نظارتی پنج روزه.
این محتوا که اغلب بر خشم و سرزنش زنان متمرکز بود، چهار برابر افزایش یافت که نشان دهنده روند نگران کننده در سیستم توصیه پلتفرم است.
در حالی که تمرکز این تحقیق TikTok بود، کارشناسان پیشنهاد می‌کنند که الگوهای مشابه احتمالاً به سایر پلتفرم‌های رسانه‌های اجتماعی نیز کشیده می‌شوند. آنها از رویکردی ظریف برای پرداختن به این موضوع حمایت می کنند، و به جای ممنوعیت های عمومی تلفن ها یا پلتفرم های رسانه های اجتماعی، که ناکارآمد تلقی می شوند، «رژیم غذایی دیجیتال سالم» را ترویج می کنند.
این گزارش در بحبوحه نگرانی‌های فزاینده درباره تأثیر رسانه‌های اجتماعی بر جوانان منتشر می‌شود و مطالعات اخیر نشان‌دهنده شکاف نسلی در نگرش نسبت به فمینیسم است. علاوه بر این، به دنبال حوادث غم انگیز مرتبط با فعالیت های آنلاین، درخواست ها برای قوانین سختگیرانه تر در مورد استفاده از گوشی های هوشمند در میان خردسالان شتاب بیشتری گرفته است.
بر اساس یافته‌ها، الگوریتم‌های رسانه‌های اجتماعی نقشی محوری در ارائه محتوای مضر به عنوان سرگرمی دارند و در نتیجه بر ادراک و رفتار کاربران جوان تأثیر می‌گذارند. محققان تاکید می‌کنند که ایدئولوژی‌های سمی که زمانی به فضاهای آنلاین محدود می‌شدند، اکنون در محیط‌های مدارس و فرهنگ‌های اصلی جوانان نفوذ می‌کنند.
جف بارتون، از انجمن رهبران مدارس و کالج‌ها، ماهیت موذیانه فرآیندهای الگوریتمی را برجسته می‌کند و از پلتفرم‌های رسانه‌های اجتماعی می‌خواهد که الگوریتم‌های خود را مجدداً ارزیابی کنند و تدابیر ایمنی را برای مقابله با تکثیر محتوای مضر تقویت کنند.
اندی باروز، مشاور بنیاد مولی رز، این احساسات را تکرار می کند و بر نیاز فوری به مداخله نظارتی برای جلوگیری از انتشار محتوای مضر که نوجوانان آسیب پذیر را هدف قرار می دهد، تأکید می کند.
در پاسخ به این نگرانی‌ها، نخست‌وزیر ریشی سوناک، مجدداً بر تعهد دولت به ایمنی آنلاین تأکید کرد و از قانون ایمنی آنلاین که اخیراً تصویب شده است به‌عنوان گامی مهم در پاسخ‌گویی شرکت‌های رسانه‌های اجتماعی برای محافظت از کودکان در برابر محتوای مضر نام برد.
با توجه به یافته‌های این گزارش، TikTok تعهد خود را برای مبارزه با زن‌ستیزی در پلتفرم خود اعلام می‌کند و به اقدامات پیشگیرانه تعدیل محتوا اشاره می‌کند. با این حال، منتقدان استدلال می کنند که روش به کار گرفته شده در گزارش نمی تواند تأثیر واقعی محتوای مضر بر کاربران را نشان دهد.
با توجه به اینکه قانون ایمنی آنلاین برای توانمندسازی تنظیم‌کننده‌ها برای مقابله با آسیب‌های آنلاین از جمله زن‌ستیزی تنظیم شده است، مقامات بر اهمیت پرداختن به محتوایی که به‌طور نامتناسبی بر زنان و دختران تأثیر می‌گذارد تأکید می‌کنند و نشان‌دهنده تلاشی هماهنگ برای محافظت از ایمنی و حقوق کاربران در قلمرو دیجیتال است.
منبع: https://www.firstpost.com/tech/social-media-algorithms-pushing-normalising-extreme-misogynistic-content-on-young-people-finds-study-13695582.html