Midjourney، یک پلتفرم محبوب برای تولید تصاویر ایجاد شده توسط هوش مصنوعی، در حال بررسی ممنوعیت تصاویر سیاسی تولید شده توسط هوش مصنوعی، به ویژه تصاویری که جو بایدن، رئیس جمهور آمریکا و دونالد ترامپ، رئیس جمهور سابق آمریکا را نشان می دهند، در حالی که ایالات متحده برای فصل انتخابات آینده آماده می شود، در نظر گرفته شده است.
هدف از این اقدام دور زدن جنجال‌های احتمالی و سوء استفاده از پلتفرم در این دوره پر بار سیاسی است.
دیوید هولز، مدیر عامل Midjourney، در جلسه اخیر در Discord، یک پلت فرم چت آنلاین، مذاکرات شرکت را بیان کرد. هولز به نگرانی‌ها در مورد سخنرانی سیاسی در پلتفرم، به‌ویژه در بحبوحه تشدید تنش‌های چرخه انتخابات اشاره کرد.
هولز ضمن اذعان به جذابیت ایجاد تصاویر مرتبط با شخصیت های سیاسی، به امکان محدود کردن موقت چنین محتوایی برای حفظ موضع بی طرف در دوره انتخابات اشاره کرد.
این توجه در پرتو تلاش‌های گسترده‌تر در سراسر صنعت فناوری برای کاهش انتشار اطلاعات نادرست و جلوگیری از سوء استفاده از پلتفرم‌ها برای اهداف سیاسی صورت می‌گیرد.
مدیران اجرایی دیگر مانند مصطفی سلیمان از هوش مصنوعی Inflection و سام آلتمن از OpenAI نیز نگرانی‌های خود را ابراز کرده و اقداماتی را برای محافظت در برابر گسترش محتوای گمراه‌کننده، از جمله دیپ‌فیک‌های تولید شده توسط هوش مصنوعی، ابراز کرده‌اند.
Midjourney استانداردهای موجود جامعه را با هدف جلوگیری از ایجاد تصاویر فریبنده یا مضر دارد، اما نگرانی ها در مورد دور زدن این محدودیت ها توسط کاربران وجود دارد.
به گفته هولز، ممنوعیت احتمالی تصاویر سیاسی، در صورت اجرا، ممکن است به صورت عمومی اعلام نشود، که بر رویکرد محتاطانه این شرکت برای مدیریت محتوای حساس تاکید دارد.
با این حال، کارشناسان هشدار می دهند که ممنوع کردن شخصیت های سیاسی خاص از پلتفرم های تولید تصویر ممکن است تنها به عنوان یک راه حل موقت عمل کند. هانی فرید، کارشناس پزشکی قانونی دیجیتال، معتقد است که اگرچه چنین اقداماتی ممکن است نگرانی های فوری را برطرف کند، اما به موضوع بزرگتر اطلاعات نادرست سیاسی نمی پردازد.
علیرغم پادمان‌های پلتفرم، افراد ممکن است راه‌هایی برای دور زدن محدودیت‌ها بیابند و انتشار محتوای گمراه‌کننده را تداوم بخشند.
همانطور که Midjourney و سایر پلتفرم‌ها پیچیدگی‌های تعدیل محتوا و حساسیت‌های سیاسی را دنبال می‌کنند، چالش در ایجاد تعادل بین بیان آزاد و جلوگیری از سوء استفاده از محتوای تولید شده توسط هوش مصنوعی برای مقاصد شوم باقی می‌ماند.
(با ورودی های نمایندگی ها)
منبع: https://www.firstpost.com/tech/midjourney-to-ban-biden-trump-images-ahead-of-2024-us-elections-fearing-ai-generated-misinformation-13706932.html