تصاویر جعلی هوش مصنوعی در جستجوی گوگل نمایش داده می شوند – و این یک مشکل است

در حال حاضر، اگر “Israel Kamakawiwoʻole” را در جستجوی گوگل تایپ کنید، یکی از جلدهای آلبوم معروف خواننده یا تصویری از اجرای یکی از آهنگ هایش را روی یوکلله نمادین خود مشاهده نمی کنید. اولین چیزی که می بینید تصویر مردی است که در ساحل نشسته و لبخندی بر لب دارد – اما نه عکسی از خود مرد که با دوربین گرفته شده است. این عکس جعلی است که توسط هوش مصنوعی تولید شده است. در واقع، وقتی روی تصویر کلیک می کنید، شما را به تصویر می برد Midjourney subredditجایی که مجموعه ای از تصاویر در ابتدا ارسال شد.

من این اولین بار توسط اتان مولیک در X (که قبلاً توییتر نامیده می شد)، استاد دانشگاه وارتون که در حال مطالعه هوش مصنوعی است.

با نگاه کردن به عکس از نزدیک، دیدن تمام آثار هوش مصنوعی به جا مانده در آن کار سختی نیست. افکت تقلبی عمق میدان به طور ناموزون اعمال می شود، بافت روی پیراهنش به هم ریخته است و البته انگشت دست چپش کم است. اما هیچ کدام از اینها تعجب آور نیست. به همان اندازه که تصاویر تولید شده توسط هوش مصنوعی در طول سال گذشته خوب شده‌اند، با دقت نگاه کردن به آن‌ها هنوز بسیار آسان است.

با این حال، مشکل واقعی این است که این تصاویر به عنوان اولین نتیجه برای یک چهره معروف و شناخته شده بدون هیچ واترمارک یا نشانه ای مبنی بر اینکه توسط هوش مصنوعی تولید شده است نشان داده می شوند. گوگل هرگز صحت نتایج جستجوی تصویر خود را تضمین نکرده است، اما چیزی وجود دارد که احساس می کند بسیار نگران کننده در این مورد

اکنون، برخی توضیحات احتمالی برای اینکه چرا این اتفاق در این مورد خاص رخ داده است، وجود دارد. خواننده هاوایی که معمولاً به نام Iz شناخته می‌شد، در سال ۱۹۹۷ درگذشت – و گوگل همیشه می‌خواهد آخرین اطلاعات را در اختیار کاربران قرار دهد. اما با توجه به اینکه از آن زمان تاکنون مقاله یا بحث جدیدی در مورد Iz انجام نشده است، سخت نیست که بفهمیم چرا الگوریتم این موضوع را انتخاب کرده است. و در حالی که برای Iz اهمیت خاصی به نظر نمی رسد – تصور نمونه هایی که بسیار مشکل سازتر باشند، سخت نیست.

حتی اگر ما همچنان شاهد این اتفاق در مقیاس در نتایج جستجو نباشیم، این نمونه بارز این است که چرا گوگل باید قوانینی در این زمینه داشته باشد. حداقل، به نظر می رسد که تصاویر تولید شده توسط هوش مصنوعی باید قبل از اینکه همه چیز از کنترل خارج شود، به نحوی واضح علامت گذاری شوند. اگر هیچ چیز دیگری نیست، حداقل راهی برای فیلتر کردن خودکار تصاویر هوش مصنوعی به ما بدهید. با توجه به گوگل علاقه خود به محتوای تولید شده توسط هوش مصنوعیبا این حال، دلایلی وجود دارد که فکر می کنیم ممکن است بخواهد راه هایی برای آن پیدا کند یواشکی محتوای ایجاد شده توسط هوش مصنوعی در نتایج آن، و به وضوح آن را علامت گذاری نکنید.

توصیه های سردبیران

• مدل جدید هوش مصنوعی گوگل به این معنی است که چشم انداز پیش بینی آب و هوا روشن است

• گوگل با کلاهبردارانی که ابزار مملو از بدافزار «Bard» را ارائه می‌کنند مقابله می‌کند

• اپل ممکن است در نهایت سیری را با هوش مصنوعی در سال آینده تقویت کند

• گوگل می‌تواند هرزنامه‌های جیمیل را با به‌روزرسانی بزرگ آینده از بین ببرد

• Microsoft Copilot در مقابل Google Duet: نبرد نسل بعدی دستیاران هوشمند هوش مصنوعی