دستور اجرایی فراگیر کاخ سفید سخت ترین چالش های هوش مصنوعی را هدف قرار می دهد

دولت بایدن روز دوشنبه از گام های بلندپروازانه بعدی خود در رسیدگی و تنظیم توسعه هوش مصنوعی رونمایی کرد. دستور اجرایی جدید گسترده آن به دنبال ایجاد حمایت های بیشتر برای عموم و همچنین بهبود بهترین شیوه ها برای آژانس های فدرال و پیمانکاران آنها است.

"رئیس جمهور چندین ماه پیش به تیم خود دستور داد تا همه اهرم ها را بکشند." یک مقام ارشد دولت در یک تماس مطبوعاتی اخیر به خبرنگاران گفت. "این همان کاری است که این دستور انجام می دهد، و قدرت دولت فدرال را در طیف گسترده ای از زمینه ها برای مدیریت ریسک هوش مصنوعی و استفاده از مزایای آن به ارمغان می آورد… این دستور برای مصرف کنندگان و کارگران می ایستد، نوآوری و رقابت را ترویج می کند، رهبری آمریکا را در سراسر جهان ارتقا می دهد. جهانی و مانند همه دستورات اجرایی، این فرمان نیز از قوت قانون برخوردار است."

این اقدامات در سال آینده با تغییرات ایمنی و امنیتی کمتری که در حدود ۹۰ روز اتفاق می‌افتد و با برنامه‌های گزارش‌دهی و شفافیت داده‌های مرتبط‌تر که به ۹ تا ۱۲ ماه برای استقرار کامل نیاز دارند، معرفی خواهند شد. دولت همچنین در حال ایجاد یک “شورای هوش مصنوعی” به ریاست معاون رئیس کارکنان کاخ سفید است بروس ریدکه با روسای آژانس فدرال ملاقات خواهد کرد تا اطمینان حاصل شود که اقدامات طبق برنامه اجرا می شوند.

ASSOCIATED PRESS

امنیت عمومی

"در پاسخ به رهبری رئیس جمهور در این زمینه، ۱۵ شرکت بزرگ فناوری آمریکایی تعهدات داوطلبانه خود را آغاز کرده اند برای اطمینان از ایمن، ایمن و قابل اعتماد بودن فناوری هوش مصنوعی قبل از انتشار آن برای عموم،" این مقام ارشد دولت گفت. "این کافی نیست."

EO ایجاد استانداردهای جدید برای ایمنی و امنیت هوش مصنوعی، از جمله الزامات گزارش برای توسعه دهندگان را هدایت می کند مدل های پایه ممکن است بر امنیت ملی یا اقتصادی تأثیر بگذارد. این الزامات همچنین در توسعه ابزارهای هوش مصنوعی برای پیاده سازی خودکار اصلاحات امنیتی در زیرساخت های نرم افزاری حیاتی اعمال می شود.

با استفاده از اهرم قانون تولید دفاعیاین EO خواهد شد "از شرکت‌هایی که هر مدل بنیادی را ایجاد می‌کنند که خطری جدی برای امنیت ملی، امنیت اقتصادی ملی یا سلامت عمومی و ایمنی ملی ایجاد می‌کند، باید هنگام آموزش مدل به دولت فدرال اطلاع دهند و باید نتایج همه آزمایش‌های ایمنی تیم قرمز را به اشتراک بگذارند." بر اساس بیانیه مطبوعاتی کاخ سفید این اطلاعات باید قبل از اینکه مدل در دسترس عموم قرار گیرد، به اشتراک گذاشته شود، که می تواند به کاهش نرخ آن کمک کند شرکت ها محصولات نیمه کاره و بالقوه کشنده یادگیری ماشینی را عرضه می کنند.

علاوه بر اشتراک‌گذاری نتایج تست تیم قرمز، EO همچنین نیازمند افشای دوره‌های آموزشی سیستم (در اصل، تاریخچه توسعه تکراری آن) است. مقامات گفتند: “کاری که انجام می دهد این است که فضایی را قبل از انتشار ایجاد می کند… تا مطمئن شود که سیستم امن و مطمئن است.”

مقامات اداری سریعاً خاطرنشان کردند که این الزام گزارش‌دهی بر هیچ مدل هوش مصنوعی موجود در بازار تأثیر نمی‌گذارد، و همچنین تأثیری بر شرکت‌های مستقل یا کوچک تا متوسط ​​هوش مصنوعی نخواهد داشت، زیرا آستانه اجرای آن بسیار بالا است. این به طور خاص برای نسل بعدی سیستم‌های هوش مصنوعی طراحی شده است که شرکت‌هایی مانند گوگل، متا و OpenAI در حال حاضر روی مدل‌هایی که از ۱۰^۲۶ شروع می‌شوند روی آن کار می‌کنند. پتافلاپسظرفیتی که در حال حاضر فراتر از محدودیت های مدل های هوش مصنوعی موجود است. "این مسئول سیستم های هوش مصنوعی آموزش دیده توسط دانشجویان فارغ التحصیل یا حتی اساتید را تحت تاثیر قرار نمی دهد.

علاوه بر این، EO وزارت انرژی و امنیت داخلی را تشویق می کند تا تهدیدات هوش مصنوعی را برطرف کنند "به زیرساخت های حیاتی، و همچنین خطرات شیمیایی، بیولوژیکی، رادیولوژیکی، هسته ای و امنیت سایبری،" به ازای انتشار. "آژانس‌هایی که پروژه‌های علوم حیاتی را تأمین مالی می‌کنند، این استانداردها را به‌عنوان شرط تأمین مالی فدرال ایجاد می‌کنند، و انگیزه‌های قدرتمندی برای اطمینان از غربالگری مناسب و مدیریت خطراتی که بالقوه توسط هوش مصنوعی بدتر می‌شوند، ایجاد می‌کنند." به طور خلاصه، هر توسعه‌دهنده‌ای که EO را نقض می‌کند، احتمالاً می‌تواند انتظار بازدید سریع و ناخوشایند از DoE، FDA، EPA یا سایر آژانس‌های نظارتی مربوطه را داشته باشد، صرف نظر از سن مدل هوش مصنوعی یا سرعت پردازش آنها.

در تلاشی برای رسیدگی فعالانه به وضعیت فرسوده زیرساخت‌های دیجیتال آمریکا، این دستور همچنین به دنبال ایجاد یک برنامه امنیت سایبری است که عمدتاً بر اساس وضعیت موجود دولت است. چالش سایبری هوش مصنوعی، برای توسعه ابزارهای هوش مصنوعی که می توانند به طور مستقل آسیب پذیری های امنیتی را در زیرساخت های نرم افزاری حیاتی ریشه کن و تقویت کنند. باید دید که آیا آن سیستم‌ها می‌توانند نگرانی‌های آن مدل‌های بد رفتار را برطرف کنند یا خیر گری جنسلر، رئیس SEC اخیراً مطرح شده است.

واترمارک هوش مصنوعی و اعتبارسنجی رمزنگاری

ما در حال حاضر شاهد عادی سازی ترفندهای دیپ فیک و تقویت شده با هوش مصنوعی هستیم اطلاعات نادرست در مسیر مبارزات انتخاباتی. بنابراین، کاخ سفید اقداماتی را انجام می دهد تا اطمینان حاصل کند که عموم می توانند به محتوای متنی، صوتی و تصویری که در کانال های رسمی خود منتشر می کند اعتماد کنند. مقامات کاخ سفید در این تماس مطبوعاتی استدلال کردند که عموم مردم باید بتوانند به راحتی تأیید کنند که آیا محتوایی که می بینند توسط هوش مصنوعی تولید شده است یا خیر.

Adobe

وزارت بازرگانی مسئول تلاش اخیر است و انتظار می‌رود با گروه‌های حامی صنعت موجود مانند C2PA و سازمان خواهرش، CAI، برای توسعه و پیاده‌سازی یک سیستم واترمارک برای آژانس‌های فدرال همکاری نزدیک داشته باشد. هدف ما حمایت و تسهیل و کمک به استانداردسازی این کار است [by the C2PA]مقامات دولتی گفتند. ما خودمان را به این اکوسیستم متصل می‌دانیم.»

مقامات همچنین توضیح دادند که دولت از استانداردها و شیوه‌های فنی اساسی حمایت می‌کند که منجر به پذیرش گسترده‌تر واترمارک دیجیتال می‌شود – مشابه کاری که در مورد توسعه اکوسیستم HTTPS انجام داد و هم توسعه‌دهندگان و هم عموم را با آن همراهی کرد. این به مقامات فدرال کمک می کند تا به هدف دیگر خود دست یابند که اطمینان حاصل شود که می توان به پیام های رسمی دولت اعتماد کرد.

حقوق مدنی و حمایت از مصرف کننده

اولین طرحی برای منشور حقوق هوش مصنوعی که کاخ سفید اکتبر گذشته منتشر شد این مقام دولت گفت که آژانس ها را به “مبارزه با تبعیض الگوریتمی در حالی که مقامات موجود را برای محافظت از حقوق و ایمنی مردم اعمال می کنند.” “اما کارهای بیشتری برای انجام دادن وجود دارد.”

EO جدید مستلزم رهنمودهایی است که باید به “مالکین، برنامه های مزایای فدرال و پیمانکاران فدرال” تعمیم داده شود تا از تشدید تبعیض در حوزه نفوذ سیستم های هوش مصنوعی جلوگیری شود. همچنین وزارت دادگستری را هدایت می کند تا بهترین شیوه ها را برای تحقیق و تعقیب نقض حقوق مدنی مرتبط با هوش مصنوعی، و همچنین، طبق اعلامیه، «استفاده از هوش مصنوعی در صدور حکم، آزادی مشروط و مشروط، آزادی پیش از محاکمه و بازداشت، ارزیابی خطرات ایجاد کند. ، نظارت، پیش بینی جرم و پلیس پیش بینی، و تجزیه و تحلیل پزشکی قانونی."

علاوه بر این، EO خواستار اولویت دادن به حمایت فدرال برای تسریع در توسعه تکنیک های حفظ حریم خصوصی است که به LLM های آینده امکان می دهد در مجموعه داده های بزرگ بدون خطر فعلی آموزش داده شوند.گرفتن اطلاعات شخصی که ممکن است این مجموعه داده ها شامل شود. این راه‌حل‌ها می‌توانند شامل «ابزارهای رمزنگاری که حریم خصوصی افراد را حفظ می‌کنند» باشد، طبق انتشار کاخ سفید که با کمک شبکه هماهنگی تحقیقات و بنیاد ملی علوم توسعه یافته است. این فرمان اجرایی همچنین درخواست خود را برای تصویب قانون دو حزبی از کنگره برای رسیدگی به مسائل حریم خصوصی گسترده‌تر که سیستم‌های هوش مصنوعی برای مصرف‌کنندگان ارائه می‌کنند، تکرار می‌کند.

از نظر مراقبت های بهداشتی، EO بیان می کند که وزارت بهداشت و خدمات انسانی یک برنامه ایمنی ایجاد خواهد کرد که اقدامات پزشکی ناامن و مبتنی بر هوش مصنوعی را ردیابی و اصلاح می کند. مربیان همچنین شاهد حمایت دولت فدرال در استفاده از ابزارهای آموزشی مبتنی بر هوش مصنوعی مانند آموزش ربات چت شخصی خواهند بود.

حمایت از کارگران

دولت بایدن اعتراف می کند که در حالی که انقلاب هوش مصنوعی است یک امتیاز قطعی برای تجارتقابلیت های آن از طریق آن تهدیدی برای امنیت کارگران است جابجایی شغلی و نظارت سرزده محل کار. یکی از مقامات دولتی گفت که EO به دنبال این است که این مسائل را با “توسعه اصول و بهترین شیوه های کارفرما که آسیب ها را کاهش می دهد و مزایای هوش مصنوعی را برای کارگران به حداکثر می رساند، رسیدگی کند.” ما آژانس‌های فدرال را تشویق می‌کنیم که این دستورالعمل‌ها را در اداره برنامه‌های خود اتخاذ کنند.»

ریچارد شاتول/اینویژن/AP

EO همچنین وزارت کار و شورای مشاوران اقتصادی را راهنمایی خواهد کرد که هر دو بررسی کنند که چگونه هوش مصنوعی ممکن است بر بازار کار تأثیر بگذارد و چگونه دولت فدرال ممکن است بهتر از کارگرانی که “با اختلال کار مواجه هستند” در حرکت رو به جلو حمایت کند. مقامات دولتی همچنین به مزایای بالقوه ای که هوش مصنوعی ممکن است برای بوروکراسی فدرال به همراه داشته باشد، از جمله کاهش هزینه ها و افزایش کارایی امنیت سایبری اشاره کردند. یک مقام دولت گفت: «فرصت های زیادی در اینجا وجود دارد، اما ما باید از توسعه و استقرار هوش مصنوعی دولتی مسئولانه اطمینان حاصل کنیم.

به همین منظور، دولت روز دوشنبه یک پورتال جدید مشاغل فدرال به نام AI.gov راه اندازی می کند که اطلاعات و راهنمایی در مورد برنامه های بورسیه موجود برای افرادی که به دنبال کار با دولت فدرال هستند ارائه می دهد. یکی از مقامات دولت گفت: «ما در تلاش هستیم تا استعدادهای هوش مصنوعی بیشتری را در سراسر جهان نشان دهیم. برنامه هایی مانند خدمات دیجیتال ایالات متحده، کمک هزینه تحصیلی نوآوری ریاست جمهوری و مشاغل ایالات متحده – تا جایی که می توانیم برای جذب استعدادها تلاش می کنیم. کاخ سفید همچنین به دنبال گسترش قوانین مهاجرتی موجود است تا معیارهای ویزا، مصاحبه‌ها و بررسی‌ها را برای افرادی که سعی در مهاجرت به ایالات متحده و کار در این صنایع پیشرفته دارند، ساده‌تر کند.

گزارش شده است که کاخ سفید پیش‌بینی این صنعت را در مورد این بخش خاص از تغییرات رادیکال در سیاست انجام نداده است، اگرچه مقامات دولت خاطرنشان کرده‌اند که قبلاً به طور گسترده با شرکت‌های هوش مصنوعی در بسیاری از این موضوعات همکاری کرده‌اند. مجلس سنا برگزار کرد دومین انجمن بینش هوش مصنوعی آن رویداد هفته گذشته در کاپیتول هیل، در حالی که معاون رئیس جمهور کامالا هریس قرار است در آن سخنرانی کند اجلاس سران بریتانیا در مورد ایمنی هوش مصنوعیروز سه شنبه به میزبانی نخست وزیر ریشی سوناک برگزار شد.

تراشه Somodevilla از طریق Getty Images

در یک رویداد واشنگتن پست در روز پنجشنبهچارلز شومر، رهبر اکثریت سنا (D-NY) قبلاً استدلال می کرد که فرمان اجرایی به اندازه کافی پیش نرفت و نمی توان آن را جایگزین مؤثری برای اقدام کنگره در نظر گرفت، که تا به امروز در رسیدن به کندی انجام شده است.

شومر گفت: «احتمالاً محدودیتی برای کارهایی که می توانید با دستور اجرایی انجام دهید وجود دارد WaPo“آنها [the Biden Administration] نگران هستند و کارهای زیادی از لحاظ نظارتی انجام می دهند، اما همه اذعان دارند که تنها پاسخ واقعی، قانونگذاری است.»

این مقاله در ابتدا در Engadget در https://www.engadget.com/sweeping-white-house-ai-executive-order-takes-aim-at-the-technologys-toughest-challenges-090008655.html?src=rss منتشر شد.

منبع: https://www.engadget.com/sweeping-white-house-ai-executive-order-takes-aim-at-the-technologys-toughest-challenges-090008655.html?src=rss