با ظهور ابزارهای هوش مصنوعی که می توانند به سرعت تصاویر و ویدیوهای اصلاح شده ایجاد کنند، ساخت تصاویر جعلی برای انتشار اطلاعات غلط سیاسی که منجر به انتخابات ریاست جمهوری آینده آمریکا می شود، آسان تر از همیشه شده است. راه حل Midjourney برای آن ممکن است ممنوعیت کلی تصاویر سیاسی باشد بلومبرگ. دیوید هولز، مدیر عامل Midjourney، بنا به گزارش ها، طی یک جلسه چت در Discord به کاربران گفت که این شرکت به ممنوعیت تصاویری مانند تصاویر بایدن و ترامپ در ۱۲ ماه آینده نزدیک است.
"من می دانم که ساختن عکس های ترامپ سرگرم کننده است – من عکس های ترامپ را می سازم،" او به کاربرانی که در جلسه حضور داشتند گفت. "ترامپ از نظر زیبایی شناسی واقعا جالب است. با این حال، احتمالاً بهتر است که نه – بهتر است در طول این انتخابات کمی عقب نشینی کنید. خواهیم دید." مانند بلومبرگ اشاره می‌کند، مردم قبلاً از هوش مصنوعی این شرکت برای تولید دیپ‌فیک‌هایی از دستگیری ترامپ استفاده کرده بودند. شرکت آزمایشات رایگان به پایان رسید برای تولید کننده تصویر هوش مصنوعی خود پس از آن تصاویر – به همراه آن دیپ فیک های بدنام پاپ که کتی الهام گرفته از بالنسیاگا پوشیده بود – در فضای مجازی منتشر شد.
در حال حاضر، این شرکت از قبل قوانینی دارد که ایجاد آن را ممنوع می کند "گمراه کردن شخصیت های عمومی" و "به تصویر کشیدن رویدادها" با "بالقوه برای گمراه کردن" بلومبرگ با این حال، هنوز می‌توانست با استفاده از نسخه قدیمی‌تر سیستم Midjourney، تصاویر تغییر یافته‌ای از ترامپ که با اسپاگتی پوشانده شده بود ایجاد کند، در حالی که نسخه جدیدتر از ایجاد تصاویر تغییر یافته از رئیس‌جمهور سابق خودداری کرد. البته، حتی اگر Midjourney تصاویر سیاستمداران برجسته را ممنوع کند، تنها از پلتفرم خود در برابر جلب خشم منتقدان و تبدیل شدن به مرکز توجه در این فصل انتخابات محافظت می کند. این امر مانع استفاده از ابزارهای هوش مصنوعی در کمپین های اطلاعات نادرست سیاسی یا انتشار اطلاعات جعلی برای دستکاری در انتخابات به عنوان یک کل نخواهد شد.
سایر شرکت‌های فناوری نیز اقداماتی را برای کمک به جلوگیری از اطلاعات نادرست سیاسی یا حداقل کمک به شناسایی آسان‌تر آن انجام داده‌اند. ChatGPT به زودی شروع می شود برچسب گذاری تصاویر ایجاد شده با استفاده از DALL-E 3، در حالی که Meta است کار برای توسعه فناوری که می تواند تشخیص دهد و نشان دهد که آیا یک تصویر، ویدئو یا کلیپ صوتی با استفاده از هوش مصنوعی تولید شده است یا خیر.
این مقاله ابتدا در Engadget در https://www.engadget.com/midjourney-might-ban-biden-and-trump-images-this-election-season-064442076.html?src=rss منتشر شد
منبع: https://www.engadget.com/midjourney-might-ban-biden-and-trump-images-this-election-season-064442076.html?src=rss