مایکروسافت از “LeMa” رونمایی کرد: یک روش یادگیری انقلابی هوش مصنوعی که منعکس کننده حل مشکلات انسانی است

محققان از مایکروسافت تحقیقات آسیا، دانشگاه پکنو دانشگاه شیان جیائوتنگ یک تکنیک جدید برای بهبود مدل های زبان بزرگ ایجاد کرده اند.LLMs) توانایی حل مسائل ریاضی با یادگیری آنها از اشتباهاتشان، مشابه نحوه یادگیری انسان ها.

محققان یک استراتژی پیشگام را نشان داده اند، درس گرفتن از اشتباهات (LeMa)، که هوش مصنوعی را برای تصحیح اشتباهات خود آموزش می دهد که منجر به افزایش توانایی های استدلال مقاله تحقیقاتی این هفته منتشر شد

محققان از فرآیندهای یادگیری انسان الهام گرفتند، جایی که دانش آموز از اشتباهات خود درس می گیرد تا عملکرد آینده را بهبود بخشد.

نویسندگان توضیح دادند: “دانش آموز انسانی را در نظر بگیرید که نتوانسته یک مسئله ریاضی را حل کند، او از اشتباهی که مرتکب شده است و چگونه آن را اصلاح می کند، یاد می گیرد.” سپس آنها این مفهوم را برای LLMها اعمال کردند و از جفت داده های تصحیح خطا تولید شده توسط GPT-4 برای تنظیم دقیق آنها استفاده کردند.

چگونه LeMa برای تقویت استدلال ریاضی کار می کند

محققان ابتدا مدل های مشابهی داشتند LLaMA-2 ایجاد مسیرهای استدلال ناقص برای مسائل کلمه ریاضی. سپس GPT-4 خطاها را در استدلال شناسایی کرد، آنها را توضیح داد و مسیرهای استدلال اصلاح شده را ارائه کرد. محققان از داده های تصحیح شده برای آموزش بیشتر مدل های اصلی استفاده کردند.

نتایج این رویکرد جدید قابل توجه است. محققان توضیح می‌دهند: «در پنج LLM اصلی و دو وظیفه استدلال ریاضی، LeMa به طور مداوم عملکرد را در مقایسه با تنظیم دقیق داده‌های CoT بهبود می‌بخشد».

LeMa نتایج چشمگیری در مجموعه داده های چالش برانگیز به دست می دهد

علاوه بر این، LLM های تخصصی دوست دارند WizardMath و متامث همچنین از LeMa بهره برد و به دقت ۸۵٫۴% pass@1 در GSM8K و ۲۷٫۱% در ریاضیات دست یافت. این نتایج از عملکرد پیشرفته‌ای که توسط مدل‌های منبع باز غیر اجرایی در این وظایف چالش‌برانگیز به دست آمده است، پیشی می‌گیرد.

این پیشرفت به معنای چیزی بیش از افزایش توانایی استدلال مدل‌های هوش مصنوعی است. همچنین گامی مهم به سمت سیستم‌های هوش مصنوعی است که می‌توانند از اشتباهات خود درس بگیرند و مانند انسان‌ها پیشرفت کنند.

مفاهیم گسترده و جهت گیری های آینده

تحقیقات این تیم، شامل کد، داده‌ها و مدل‌های آن‌ها اکنون در حال انجام است به صورت عمومی در GitHub در دسترس است. این رویکرد منبع باز جامعه گسترده‌تر هوش مصنوعی را تشویق می‌کند تا این خط اکتشاف را ادامه دهند، که به طور بالقوه منجر به پیشرفت‌های بیشتر در یادگیری ماشین می‌شود.

ظهور LeMa نشان‌دهنده یک نقطه عطف بزرگ در هوش مصنوعی است و نشان می‌دهد که فرآیندهای یادگیری ماشینی (ML) می‌تواند بیشتر شبیه به یادگیری انسان باشد. این توسعه می‌تواند بخش‌هایی را که به شدت به هوش مصنوعی وابسته هستند، مانند مراقبت‌های بهداشتی، مالی، و وسایل نقلیه خودمختار، که در آن‌ها تصحیح خطا و یادگیری مستمر حیاتی هستند، متحول کند.

از آنجایی که حوزه هوش مصنوعی به سرعت به تکامل خود ادامه می دهد، به نظر می رسد ادغام فرآیندهای یادگیری انسان مانند، مانند یادگیری از اشتباهات، یک عامل اساسی در توسعه سیستم های هوش مصنوعی کارآمدتر و موثرتر باشد.

این پیشرفت در یادگیری ماشینی بر پتانسیل هیجان انگیزی است که در حوزه هوش مصنوعی در پیش است. همانطور که ماشین‌ها در یادگیری از اشتباهات خود ماهرتر می‌شوند، به آینده‌ای نزدیک می‌شویم که در آن هوش مصنوعی می‌تواند از توانایی‌های انسان در کارهای پیچیده حل مسئله فراتر رود.