سیستم جدید ASPIRE گوگل ارزش گفتن «نمی‌دانم» را به هوش مصنوعی می‌آموزد.

محققان گوگل با آموزش هوش مصنوعی گفتن “نمی دانم” دنیای هوش مصنوعی را متزلزل می کنند. این رویکرد جدید، دوبله آرزو می کنممی تواند نحوه تعامل ما با دستیاران دیجیتالی خود را با تشویق آنها به ابراز تردید در زمانی که از پاسخ مطمئن نیستند، متحول کند.

نوآوری، به نمایش گذاشته شده در کنفرانس EMNLP 2023، همه چیز در مورد القای حس احتیاط در پاسخ های هوش مصنوعی است. ASPIRE که مخفف “سازگاری با خود ارزیابی برای بهبود پیش بینی انتخابی در LLM“، مانند یک اعتماد سنج داخلی برای هوش مصنوعی عمل می کند و به آن کمک می کند تا پاسخ های خود را قبل از ارائه آنها ارزیابی کند.

تصور کنید در مورد یک مشکل سلامتی از گوشی هوشمند خود راهنمایی می خواهید. به لطف ASPIRE، هوش مصنوعی ممکن است به جای دادن یک پاسخ بالقوه اشتباه، با «مطمئن نیستم» پاسخ دهد. این سیستم هوش مصنوعی را آموزش می‌دهد تا به پاسخ‌هایش نمره اطمینان اختصاص دهد و نشان می‌دهد که چقدر باید به پاسخ آن اعتماد کنیم.

تیم پشت این کار، از جمله جیفنگ چن و جینسونگ یون از گوگل، پیشگام تغییر به سمت تصمیم گیری دیجیتالی قابل اعتمادتر هستند. آنها استدلال می کنند که برای هوش مصنوعی، به ویژه در مورد اطلاعات حیاتی، دانستن محدودیت های آن و ارتباط شفاف با آنها بسیار مهم است.

چن، محقق دانشگاه ویسکانسین-مدیسون و یکی از نویسندگان این مقاله گفت: “LLM ها اکنون می توانند زبان را در سطوح بی سابقه ای درک و تولید کنند، اما استفاده از آنها در برنامه های کاربردی با ریسک بالا محدود است، زیرا آنها گاهی اوقات با اعتماد به نفس بالا اشتباه می کنند.” کاغذ.

تحقیقات آنها نشان می‌دهد که حتی مدل‌های کوچک‌تر هوش مصنوعی مجهز به ASPIRE می‌توانند از مدل‌های بزرگ‌تر که فاقد این ویژگی درون‌نگر هستند، پیشی بگیرند. این سیستم اساسا یک هوش مصنوعی محتاطانه تر و از قضا یک هوش مصنوعی قابل اعتمادتر ایجاد می کند که می تواند تشخیص دهد چه زمانی یک انسان ممکن است برای پاسخگویی مناسب تر باشد.

ASPIRE با ترویج صداقت به جای حدس و گمان، قرار است تعاملات هوش مصنوعی را قابل اعتمادتر کند. این راه را برای آینده ای هموار می کند که در آن دستیار هوش مصنوعی شما می تواند یک مشاور متفکر باشد تا یک اوراکل دانا، آینده ای که گفتن “نمی دانم” در واقع نشانه هوش پیشرفته است.