مدیر عامل OpenAI، سام آلتمن، بیشتر نگران تأثیرات ظریف اجتماعی هوش مصنوعی است تا شبح “ربات های قاتل” یا دیگر کابوس های علمی تخیلی. آلتمن در سخنرانی خود در اجلاس دولت های جهانی در دبی، در مورد پتانسیل هوش مصنوعی برای مختل کردن جامعه به روش های غیرمنتظره در صورت عدم تنظیم صحیح هشدار داد.
آلتمن بر اهمیت پرداختن به “ناهمسویی های بسیار ظریف اجتماعی” که می تواند از فناوری هوش مصنوعی کنترل نشده ناشی شود، تأکید کرد. علیرغم اینکه قصد بدی نداشت، او با تاکید بر نیاز به مقررات بین المللی قوی هشدار داد که ممکن است همه چیز اشتباه پیش برود.
در حالی که هوش مصنوعی مزایای متعددی مانند آموزش شخصی و مشاوره پزشکی ارائه می دهد، رشد کنترل نشده آن نگرانی هایی را در مورد تأثیر آن بر بخش های مهم مانند انتخابات، اطلاعات غلط رسانه ای و روابط جهانی ایجاد می کند. آلتمن این نگرانی ها را پذیرفت و بر اهمیت استفاده مسئولانه از هوش مصنوعی تاکید کرد.
OpenAI، با وجود نوآوری های مخرب خود مانند ChatGPT، نیاز به استقرار هوش مصنوعی مسئولانه، به ویژه در انتخابات را تشخیص می دهد. هدف این شرکت پیش‌بینی و جلوگیری از مسائلی مانند دیپ‌فیک‌های گمراه‌کننده و ربات‌های چت جعل هویت نامزدها است.
اگرچه OpenAI منابع کمتری برای امنیت انتخابات در مقایسه با سایر غول‌های فناوری دارد، اما با سازمان‌هایی مانند انجمن ملی وزرای امور خارجه همکاری می‌کند تا از انتشار دقیق اطلاعات رأی‌گیری اطمینان حاصل کند.
شرکت های رسانه ای نیز با احتیاط چشم انداز هوش مصنوعی را دنبال می کنند. در حالی که برخی برای آموزش محتوا با شرکت های هوش مصنوعی همکاری کرده اند، نگرانی ها در مورد انتشار اطلاعات نادرست همچنان ادامه دارد.
در یک تغییر قابل توجه، OpenAI سیاست قبلی خود را در ممنوعیت استفاده نظامی حذف کرد که نشان دهنده تمایل به همکاری با وزارت دفاع ایالات متحده در پروژه های هوش مصنوعی بود. با این حال، این شرکت محدودیت هایی را برای فعالیت هایی که می تواند به افراد آسیب برساند یا سلاح تولید کند، حفظ می کند.
تنظیم هوش مصنوعی چالش‌های مهمی را به همراه دارد، همانطور که شهادت آلتمن در جلسه کمیته فرعی قوه قضائیه سنا نشان می‌دهد. در حالی که او از همکاری دولتی حمایت می کند، یافتن زمینه مشترک در مورد مقررات، با اختلاف نظر بر سر شرایط و اولویت ها، گریزان است.
علیرغم رویکردهای متفاوت، تلاش‌های نهادهایی مانند قانون هوش مصنوعی اتحادیه اروپا و لایحه پیشنهادی حقوق هوش مصنوعی کاخ سفید، نشان از شناخت روزافزون نیاز به تنظیم هوش مصنوعی برای محافظت در برابر سوء استفاده و ترویج نوآوری مسئولانه دارد.
(با ورودی های نمایندگی ها)
منبع: https://www.firstpost.com/tech/sam-altman-fears-subtle-societal-misalignments-will-turn-ai-into-a-nightmare-13724772.html