متا قصد دارد برچسب گذاری تصاویر تولید شده با هوش مصنوعی را در سراسر جهان افزایش دهد فیس بوک، اینستاگرام و موضوعات کمک کند تا مشخص شود که تصاویر مصنوعی هستند. این بخشی از یک فشار گسترده تر برای از بین بردن اطلاعات نادرست و اطلاعات نادرست است، که به ویژه در بحث ما با پیامدهای هوش مصنوعی (GAI) در یک سال انتخاباتی بزرگ در ایالات متحده و سایر کشورها بسیار مهم است.
به گفته نیک کلگ، رئیس امور جهانی متا، این شرکت با شرکای سراسر صنعت برای توسعه استانداردهایی کار می کند که شامل نشانگرهایی است که تصویر، ویدیو یا کلیپ صوتی با استفاده از هوش مصنوعی تولید شده است. کلگ در نامه ای نوشت: «توانایی تشخیص این سیگنال ها این امکان را برای ما فراهم می کند که تصاویر تولید شده با هوش مصنوعی را که کاربران در فیس بوک، اینستاگرام و موضوعات ارسال می کنند برچسب گذاری کنیم. پست اتاق خبر متا. ما اکنون در حال ایجاد این قابلیت هستیم و در ماه‌های آینده شروع به اعمال برچسب‌ها به تمام زبان‌های پشتیبانی‌شده توسط هر برنامه خواهیم کرد.» کلگ اضافه کرد که با گسترش این قابلیت‌ها در سال آینده، متا انتظار دارد در مورد «چگونگی ایجاد و اشتراک‌گذاری محتوای هوش مصنوعی توسط افراد، چه نوع شفافیتی برای مردم و چگونگی تکامل این فناوری‌ها» اطلاعات بیشتری کسب کند. او نوشت که اینها به اطلاع رسانی بهترین شیوه های صنعت و سیاست های متا کمک می کند.
متا می گوید ابزارهایی که روی آنها کار می کند قادر به تشخیص سیگنال های نامرئی خواهند بود – یعنی اطلاعات تولید شده توسط هوش مصنوعی که با C2PA و IPTC استانداردهای فنی – در مقیاس. به این ترتیب، انتظار می‌رود که بتواند تصاویر گوگل، OpenAI، مایکروسافت، ادوبی، Midjourney و Shutterstock را مشخص و برچسب‌گذاری کند، که همگی متادیتا GAI را در تصاویری که محصولاتشان تولید می‌کنند ترکیب می‌کنند.
در مورد ویدیو و صدای GAI، کلگ اشاره می‌کند که شرکت‌های موجود در فضا شروع به ترکیب سیگنال‌های نامرئی در سیگنال‌هایی در همان مقیاسی که تصاویر دارند، نکرده‌اند. به این ترتیب، متا هنوز قادر به تشخیص ویدیو و صدای تولید شده توسط ابزارهای هوش مصنوعی شخص ثالث نیست. در این بین، متا از کاربران انتظار دارد که خودشان چنین محتوایی را برچسب گذاری کنند.
کلگ نوشت: «در حالی که صنعت به سمت این قابلیت کار می‌کند، ما ویژگی‌ای را اضافه می‌کنیم تا مردم هنگام اشتراک‌گذاری ویدیو یا صدای تولید شده توسط هوش مصنوعی افشا کنند تا بتوانیم یک برچسب به آن اضافه کنیم.» ما از افراد می‌خواهیم از این ابزار افشا و برچسب‌گذاری زمانی که محتوای ارگانیک را با ویدیوی واقعی عکس یا صدایی با صدای واقعی که به‌صورت دیجیتالی ایجاد شده یا تغییر داده است پست می‌کنند، استفاده کنند و در صورت عدم انجام این کار، ممکن است جریمه‌هایی اعمال کنیم. تصویر، ویدیو یا محتوای صوتی که به صورت دیجیتالی ایجاد شده یا تغییر یافته است، خطر بالایی برای فریب عمومی مردم در مورد یک موضوع مهم ایجاد می‌کند، در صورت لزوم ممکن است برچسب برجسته‌تری اضافه کنیم تا افراد اطلاعات و زمینه بیشتری داشته باشند.”
با این اوصاف، قرار دادن مسئولیت بر دوش کاربران برای افزودن اطلاعات افشایی و برچسب‌ها به ویدیو و صدای تولید شده توسط هوش مصنوعی، کاری غیرمعمول به نظر می‌رسد. بسیاری از این افراد سعی می کنند عمداً دیگران را فریب دهند. علاوه بر این، دیگران احتمالاً نگران سیاست‌های GAI نیستند یا از آن آگاه نیستند.
علاوه بر این، متا به دنبال این است که تغییر یا حذف نشانگرهای نامرئی از محتوای GAI را برای افراد دشوارتر کند. آزمایشگاه تحقیقاتی FAIR AI این شرکت دارد تکنولوژی توسعه یافته کلگ نوشت: «مکانیسم واترمارکینگ را مستقیماً در فرآیند تولید تصویر برای برخی از انواع تولیدکننده‌های تصویر ادغام می‌کند، که می‌تواند برای مدل‌های منبع باز ارزشمند باشد، بنابراین واترمارکینگ را نمی‌توان غیرفعال کرد». متا همچنین در حال کار بر روی روش هایی برای شناسایی خودکار مواد تولید شده توسط هوش مصنوعی است که نشانگرهای نامرئی ندارند.
متا قصد دارد به همکاری با شرکای صنعتی ادامه دهد و با رواج بیشتر GAI “در گفتگو با دولت ها و جامعه مدنی باقی بماند”. معتقد است این رویکرد درستی برای مدیریت محتوایی است که در فیسبوک، اینستاگرام و موضوعات به اشتراک گذاشته شده است، اگرچه در صورت لزوم موارد را تنظیم می کند.
یکی از مسائل کلیدی در رویکرد متا – حداقل در حالی که روی روش‌هایی برای شناسایی خودکار محتوای GAI که از نشانگرهای نامرئی استاندارد صنعت استفاده نمی‌کند کار می‌کند – این است که نیاز به خرید از طرف شرکا دارد. به عنوان مثال، C2PA یک روش احراز هویت به سبک دفتر کل دارد. برای این کار، هم ابزارهایی که برای ایجاد تصاویر استفاده می‌شوند و هم پلتفرم‌هایی که روی آنها میزبانی می‌شوند، باید در C2PA خریداری شوند.
متا تنها چند روز پس از آن که مارک زاکربرگ، مدیر عامل شرکت، برنامه‌های شرکتش برای ساخت هوش مصنوعی عمومی را روشن کرد، به‌روزرسانی رویکرد خود در برچسب‌گذاری محتوای تولید شده با هوش مصنوعی را به اشتراک گذاشت. او اشاره شد که داده های آموزشی یکی از مزیت های مهم متا است. این شرکت تخمین می زند که عکس ها و ویدیوهای به اشتراک گذاشته شده در فیس بوک و اینستاگرام به مجموعه داده ای بزرگتر از Common Crawl است. این مجموعه داده ای از حدود ۲۵۰ میلیارد صفحه وب است که برای آموزش سایر مدل های هوش مصنوعی استفاده شده است. متا می‌تواند از هر دو استفاده کند و نیازی نیست داده‌هایی را که از طریق فیسبوک و اینستاگرام جمع‌آوری کرده است با دیگران به اشتراک بگذارد.
تعهد به برچسب گذاری گسترده تر به محتوای تولید شده توسط هوش مصنوعی نیز تنها یک روز پس از آن صورت می گیرد که هیئت نظارت متا تشخیص داد که ویدیویی که به طور گمراه کننده ای ویرایش شده بود تا نشان دهد جو بایدن، رئیس جمهور جو بایدن بارها قفسه سینه نوه خود را لمس کرده است. می تواند روی پلتفرم های این شرکت بماند. در واقع، پس از اینکه بایدن برای اولین بار شخصاً رای داد، به سادگی برچسب “من رای دادم” را روی پیراهنش گذاشت. هیئت مدیره تشخیص داد که این ویدئو بر اساس قوانین متا در مورد رسانه های دستکاری شده مجاز است، اما از شرکت خواست تا این دستورالعمل های انجمن را به روز کند.
این مقاله در ابتدا در Engadget در https://www.engadget.com/meta-plans-to-ramp-up-labeling-of-ai-generated-images-across-its-platforms-160234038.html?src=rss منتشر شد.
منبع: https://www.engadget.com/meta-plans-to-ramp-up-labeling-of-ai-generated-images-across-its-platforms-160234038.html?src=rss