مایکروسافت از مدل‌های هوش مصنوعی Phi-3.5 رونمایی کرد

مایکروسافت اگرچه همکاری نزدیکی با OpenAI دارد، اما تنها به کار با این شرکت اکتفا نمی‌کند. غول دنیای فناوری به‌تازگی از سه مدل جدید Phi-3.5 رونمایی کرده که باتوجه به نتایج بنچمارک‌ها می‌توان آن‌ها را رقیبی برای مدل‌های گوگل و OpenAI دانست.

براساس گزارش VentureBeat، مایکروسافت به‌تازگی سه مدل جدید سری Phi-3.5 را معرفی کرده است. هر سه مدل برای دانلود از پلتفرم Hugging Face تحت مجوز MIT در دسترس هستند که امکان استفاده تجاری و تغییر بدون محدودیت را فراهم می‌کند. این سه مدل به شرح زیر هستند:

مدل‌های هوش مصنوعی Phi-3.5 مایکروسافت

به شکل شگفت‌انگیزی، هر سه مدل در تعدادی از تست‌های بنچمارک شخص ثالث عملکردی تقریباً عالی دارند، حتی در برخی موارد از سایر مدل‌های هوش مصنوعی مانند جمینای ۱٫۵ فلش گوگل، Llama 3.1 متا و حتی GPT-4o از OpenAI پیشی می‌گیرند. عرضه چنین مدل‌های قدرتمند و متن‌بازی تحسین کاربران در شبکه اجتماعی ایکس را نیز در پی داشته است.

Phi-3.5 Mini Instruct یک مدل هوش مصنوعی سبک با ۳٫۸ میلیارد پارامتر است که دارای پنجره زمینه با ۱۲۸ هزار توکن است. این مدل برای کارهایی که نیاز به قابلیت‌های استدلال قوی دارند مانند کدنویسی، حل مسائل ریاضی و استدلال مبتنی بر منطق ایده‌آل است. مدل Phi-3.5 Mini Instruct با وجود اندازه کوچک خود، عملکردی تقریباً عالی در تعدادی از بنچمارک‌ها دارد و از دیگر مدل‌های هم‌اندازه خود مانند Llama-3.1-8B-instruct و Mistral-7B-instruct در بنچمارک RepoQA جلو می‌زند.

مدل Phi-3.5 MoE ظاهراً اولین مدل MoE (ترکیب متخصصان) مایکروسافت است، این مدل‌ چندین نوع مدل مختلف را در خود ترکیب می‌کند که هر کدام در وظایف متفاوتی تخصص دارند. مدل جدید مایکروسافت از ۴۲ میلیارد پارامتر فعال بهره می‌برد و پنجره زمینه آن ۱۲۸ هزار توکن است. این مدل به‌طرز چشمگیری GPT-4o mini را در بنچمارک MMLU 5 در حوزه‌هایی مانند STEM، علوم انسانی، علوم اجتماعی در سطوح مختلف شکست می‌دهد.

مدل Phi-3.5 Vision Instruct قابلیت‌های پردازش متن و تصویر را ادغام می‌کند. این مدل چندوجهی به‌ویژه برای کارهایی مانند درک کلی تصویر، تشخیص کاراکترها، درک نمودار، جدول و خلاصه‌سازی ویدئو مناسب است. مانند دو مدل قبلی، پنجره زمینه این مدل ۱۲۸ هزار توکن است.

مدل Phi-3.5 Mini Instruct روی ۳٫۴ تریلیون توکن با استفاده از ۵۱۲ پردازشگر گرافیکی H100-80G طی ۱۰ روز آموزش داده شده است، در حالی که مدل Vision Instruct روی ۵۰۰ میلیارد توکن با استفاده از ۲۵۶ پردازشگر گرافیکی A100-80G در مدت ۶ روز آموزش دید. مدل Phi-3.5 MoE نیز که دارای معماری ترکیبی از متخصصان است، در طول ۲۳ روز روی ۴٫۹ تریلیون توکن با ۵۱۲ پردازشگر گرافیکی H100-80G آموزش داده شد.