دسامبر گذشته ایالت نیومکزیکو متا شکایت کرد به دلیل ناتوانی در محافظت از کودکان، ادعا می کند که الگوریتم های فیس بوک و اینستاگرام محتوای جنسی را به خردسالان توصیه می کنند. اکنون، یک نمایش متای داخلی ویرایش نشده فاش شده است، که کارمندان خود شرکت تخمین می زنند که روزانه ۱۰۰۰۰۰ کاربر کودک مورد آزار و اذیت قرار می گیرند. روزنامه وال استریت گزارش شده است.
طبق یک سند داخلی در سال ۲۰۲۱، الگوریتم “People You May Know” (PMYK) فیس بوک به عنوان یک اتصال دهنده اصلی کودکان به شکارچیان مشخص شد. هنگامی که کارمندان این یافته ها را به مدیران متا گزارش کردند، طبق گزارشات، توصیه هایی مبنی بر طراحی مجدد الگوریتم به گونه ای که توصیه بزرگسالان به خردسالان متوقف شود را رد کردند.
به گفته یکی از کارمندان، این ویژگی مسئول ۷۵ درصد از تماس‌های نامناسب بزرگسال و خردسال بود. “چطور ما فقط PYMK را بین بزرگسالان و کودکان خاموش نکردیم؟” کارمند دیگری گفت. یکی دیگر افزود: «این واقعاً بسیار ناراحت کننده است.
بر اساس یک یادداشت داخلی در سال ۲۰۲۰، این مسائل به ویژه در اینستاگرام موذیانه بود، به طوری که «گفت و گوی جنسی» در آن پلتفرم ۳۸ برابر بیشتر از فیس بوک مسنجر در ایالات متحده رایج بود. در یکی از موارد، یکی از مدیران اپل گزارش داد که فرزند ۱۲ ساله او در اینستاگرام درخواست شده است. این همان چیزی است که اپل را تا حد تهدید عصبانی می کند[en]یکی از کارمندانی که مسئول رسیدگی به این مشکل است، گفت: ما را از اپ استور حذف می کنیم.
نیومکزیکو مدعی است که متا در مقابله با شکار در مقیاس بزرگ در پلتفرم خود، به ویژه در مورد الگوریتم های توصیه، شکست خورده است. بازرسان ایالتی در ابتدا حساب‌های جعلی برای کودکان ایجاد می‌کردند و تاریخ تولد بزرگسالان را به عنوان اغلب کودکان ارائه می‌کردند سن آنها را اشتباه بیان کنید برای دسترسی به خدمات آنلاینی که قرار نیست. سپس، آنها به طور ضمنی گفتند که این حساب ها توسط کودکان استفاده می شود، به طوری که یکی از آنها درباره یک دندان شیری از دست رفته پست گذاشته و کلاس هفتم را شروع کرده است. در این شکایت ادعا شده بود که، از جمله موارد دیگر، به حساب‌ها تصاویر جنسی کودکان و پیشنهادهایی برای پرداخت هزینه جنسی ارسال شده است.
این ایالت همچنین ادعا می کند که رهبران متا تا اواخر سال ۲۰۲۲ برای محدود کردن شکار بزرگسالان بر روی خردسالان اقدامی نکردند و همچنان از اقدامات سختگیرانه توصیه شده توسط کارکنان ایمنی خودداری کردند. درعوض، فقط سعی در جلوگیری از پیشنهادات به بزرگسالانی داشت که قبلاً رفتار مشکوکی نسبت به کودکان نشان داده بودند. با این حال، بر اساس یک مطالعه متا، ۹۹ درصد از حساب های معلول برای نظافت کودکان، سن خود را اعلام نکرده اند.
متا اخیرا اقداماتی را معرفی کرد برای کاربران نوجوان در اینستاگرام و فیس بوک، از جمله جلوگیری از پیام رسانی غیر فالوورها و مسدود کردن نظرات توهین آمیز. علاوه بر شکایت نیومکزیکو، متا با شکایت هایی از ۴۱ ایالت مواجه است که شکایت دارند به سلامت روان جوان ترین کاربرانش آسیب می رساند. یکی دیگر به تازگی شکایت بدون مهر پرونده ای که توسط ۳۳ ایالت ارائه شده است، ادعا می کند که متا کاربران زیر ۱۳ سال را “طمع و تعقیب” کرده است و در مورد نحوه رسیدگی به حساب های کاربران زیر سن قانونی پس از کشف آنها ناصادق بوده است.
این مقاله ابتدا در Engadget در https://www.engadget.com/facebook-and-instagrams-algorithms-facilitated-child-sexual-harassment-state-lawsuit-claims-095314139.html?src=rss منتشر شد.
منبع: https://www.engadget.com/facebook-and-instagrams-algorithms-facilitated-child-sexual-harassment-state-lawsuit-claims-095314139.html?src=rss