پدرخوانده هوش مصنوعی به Big Tech اجازه ندهید قوانین هوش مصنوعی را بنویسد

• یک پدرخوانده هوش مصنوعی می گوید همه ما باید نگران تمرکز قدرت در بخش هوش مصنوعی باشیم.
• یوشوا بنجیو گفت که مشکل بالقوه «مشکل شماره دو» پس از خطرات وجودی است.
• بنجیو گفت که کنترل سیستم‌های هوش مصنوعی قدرتمند یک سؤال اساسی برای دموکراسی است.

یکی از پدرخوانده های هوش مصنوعی می گوید تمرکز قدرت در عرصه هوش مصنوعی یکی از خطرات اصلی پیش روی صنعت است.

جاشوا بنجیو یک دانشمند کامپیوتر کانادایی برنده جایزه تورینگ، به Insider گفت که امکان کنترل بخش هوش مصنوعی توسط چند شرکت “مشکل شماره دو” پشت خطرات وجودی ناشی از این فناوری است.

او در مصاحبه‌ای به اینسایدر گفت: «ما در مسیر ساختن سیستم‌های قدرتمندتر و بیشتر هستیم و سؤال اصلی دموکراسی این است که چه کسی این سیستم‌ها را کنترل می‌کند – آیا خطر تمرکز بیش از حد قدرت وجود دارد.

بنژیو افزود: «اینها سؤالات مهمی هستند که من سال‌ها به آن فکر می‌کردم، اما ورود ChatGPT و این سیستم‌ها باعث شد بیشتر نگران تمرکز قدرت باشم».

رسیدگی به نگرانی های مطرح شده توسط همکار یان لیکان، پیشگام هوش مصنوعیBengio گفت که او با پیشنهاد LeCun که رهبران برجسته فناوری از جمله Sam Altman از OpenAI در تلاش برای کنترل این بخش با فشار دادن هستند مخالف است. برای مقررات قوی تر.

هفته گذشته، LeCun بنیانگذاران هوش مصنوعی متهم شدند مانند Demis Hassabis از DeepMind و Dario Amodei از Anthropic از تلاش برای انجام “تسخیر نظارتی صنعت هوش مصنوعی”.

بنژیو گفت: «ما باید از موقعیتی که قوانین توسط شرکت‌ها نوشته می‌شود اجتناب کنیم – این واضح است. اما من فکر می‌کنم کل این بحث در مورد ضبط نظارتی یک واقعیت نیست.»

مقررات، حداقل در شکل فعلی آن، برای شرکت های بزرگ فناوری تقویت کننده نخواهد بود برخی از کارشناسان صنعت پیشنهاد کرده اند او افزود که می تواند باشد.

بنیگو گفت: «همه مقررات مختلفی که مورد بحث قرار می‌گیرند، عموماً با این ایده هستند که بار نظارتی نظارتی برای این سیستم‌های بزرگ‌تر که آن شرکت‌های بزرگ می‌سازند، بیشتر خواهد بود».

او افزود: «بنابراین به عبارت دیگر در واقع فشار بیشتری وارد می‌کند و هزینه بیشتری نیز خواهد داشت. اما بچه های کوچکی که یا هوش مصنوعی محدودی انجام می دهند، یا فقط برنامه های کاربردی را در بالای بزرگترین سیستم ها طراحی می کنند، نیازی ندارند که تحت نظارت یکسانی قرار بگیرند.