OctoML می گوید که چند روز پس از تحقیقات انجام شده توسط Civitai به روابط تجاری خود با Civitai پایان داده است ۴۰۴ رسانه فاش کرد که از پلتفرم تبدیل متن به تصویر برای تولید تصاویری استفاده می‌شود که «می‌توان آن‌ها را به عنوان پورنوگرافی کودکان دسته‌بندی کرد». Civitai قبلاً برای تولید تصویر به OctoAI OctoML متکی بود. در حالی که OctoML در ابتدا نشان داد که به همکاری با Civitai ادامه خواهد داد و اقدامات جدیدی را برای جلوگیری از ایجاد تصاویر مضر معرفی کرد. ۴۰۴ رسانه روز شنبه گزارش داد که اکنون تصمیم گرفته است که روابط خود را با این پلتفرم به طور کامل قطع کند.
مطابق با ۴۰۴ رسانهدر گزارش ۵ دسامبر، ارتباطات داخلی نشان داد که OctoML می‌دانست که برخی از کاربران Civitai در حال ایجاد مطالب غیراخلاقی جنسی هستند که شامل تصاویر غیر توافقی از افراد واقعی است. و تصاویر مستهجن از کودکان در گزارش بعدی این آخر هفته، این نشریه اشاره کرد که OctoML قبل از اعلام تصمیم خود برای خروج، فیلتری را برای جلوگیری از تولید تمام محتوای NSFW در Civitai ایجاد کرد. Civitai همچنین در پاسخ به تحقیقات اوایل این هفته روش‌های تعدیل جدیدی را اضافه کرد، از جمله یک جاسازی اجباری به نام Civitai Safe Helper (Minor) که مدل را از تولید تصاویر کودکان در صورت «تشخیص موضوع یا کلمه کلیدی بالغ» منع می‌کند. ۴۰۴.
سیویتای تحت حمایت اندرسن هوروویتز قبلاً این کار را انجام داده بود به دلیل ویژگی “مواهب” آن مورد بررسی قرار می گیرد که کاربران را برای ایجاد تصاویر واقعی از افراد واقعی برای دریافت پاداش به چالش می کشد. در ماه نوامبر، ۴۰۴ رسانه دریافتند که از آن برای ساختن دیپ‌فیک غیر اجماع از افراد مشهور، اینفلوئنسرها و حتی یک شهروند خصوصی استفاده می‌شود که در بسیاری از موارد ماهیت جنسی داشتند. افراد مورد مطالعه عمدتاً زنان بودند. مطابق با ۴۰۴ رسانهCivitai از آن زمان فیلتری را برای جلوگیری از ایجاد محتوای NSFW با حضور افراد مشهور “بعضی” اضافه کرده است.
با این وجود، OctoML – که از سرورهای خدمات وب آمازون استفاده می کند – دیگر نمی خواهد درگیر باشد. در بیانیه ای به ۴۰۴ رسانه روز شنبه، OctoML گفت: “ما تصمیم گرفتیم روابط تجاری خود را با Civitai پایان دهیم. این تصمیم با تعهد ما برای اطمینان از استفاده ایمن و مسئولانه از هوش مصنوعی مطابقت دارد.”
این مقاله ابتدا در Engadget در https://www.engadget.com/controversial-ai-image-platform-civitai-has-been-dropped-by-its-cloud-computing-provider-195530538.html?src=rss منتشر شد.
منبع: https://www.engadget.com/controversial-ai-image-platform-civitai-has-been-dropped-by-its-cloud-computing-provider-195530538.html?src=rss