VentureBeat ارائه می دهد: AI Unleashed – یک رویداد اجرایی انحصاری برای رهبران داده های سازمانی. شبکه و یادگیری با همتایان صنعت. بیشتر بدانید
در دسترس قرار دادن یک مدل پایه برای هوش مصنوعی مولد تنها شروع است، نه یک راه حل جامع، در حمایت از خواسته های پیچیده موارد استفاده سازمانی.
امروز در یک گام بزرگ رو به جلو، خدمات وب آمازون (AWS) در دسترس بودن عمومی سرویس Amazon Bedrock خود را اعلام کرد، ابزاری حیاتی در برآوردن نیازهای برنامه های کاربردی سازمانی برای هوش مصنوعی مولد.
AWS برای اولین بار معرفی شد بستر آمازون در ماه آوریل به عنوان یک سرویس پیش نمایش، یک سری از مدل های پایه را به عنوان یک سرویس در پلت فرم ابری خود ارائه می دهد. پیش‌نمایش متعاقباً در ماه جولای با اضافه شدن مدل‌های بیشتری از جمله مدل‌های Anthropic Claude 2 و Stability AI SDXL 1.0 گسترش یافت. Amazon Bedrock که اکنون به راحتی در دسترس است، از طیف وسیعی از مدل‌ها، از جمله آمازون Titan Embeddings خود این شرکت پشتیبانی می‌کند.
انتقال یک سرویس به در دسترس بودن عمومی در AWS یک تصمیم ساده نیست. بلکه اوج آزمایش های دقیق و پیشرفت های بعدی است که از بازخورد اولیه کاربر مطلع شده است.
واسی فیلومین، معاون و جنرال موتورز، “برای ما یک فرآیند عادی است که چیزی را به صورت پیش‌نمایش راه‌اندازی کنیم، از نزدیک با چند مشتری آزمایش کنیم تا بازخورد دریافت کنیم و اینها تعاملات بسیار عمیقی هستند، بنابراین ما نمی‌خواهیم با افراد زیادی شروع کنیم.” برای هوش مصنوعی Generative در آمازون به VentureBeat گفت. ما تیمی داریم که باید با این مشتریان تعامل داشته باشد تا واقعاً بفهمد کجا می‌توانیم بهتر انجام دهیم و چه چیزهای دیگری ممکن است از دست بدهیم.»
چگونه Amazon Bedrock برای آماده سازی سازمانی برای GA بهبود یافته است
مسیر دسترسی عمومی در مورد قابلیت اطمینان و سخت شدن است به طوری که سرویس آماده تولید برای بارهای کاری سازمانی باشد.
در میان بسیاری از مواردی که AWS در Amazon Bedrock برای فعال کردن شرکت‌ها بهبود داده است، اضافه کردن انطباق با مقررات است. یکی از مقرراتی که اکنون این سرویس طبق فیلومین مطابقت دارد، GDPR (مقررات عمومی حفاظت از داده) اتحادیه اروپا است.
او گفت: “ما در مورد مشتریان سازمانی صحبت می کنیم و آنها باید با GDPR مطابقت داشته باشند و این نیاز به کار زیادی دارد و ما همه اینها را انجام داده ایم.”
به عنوان بخشی از انطباق، شرکت ها معمولاً به قابلیت مشاهده و حسابرسی نیز نیاز دارند. برای این منظور، Amazon Bedrock به عنوان یک سرویس عمومی در دسترس نیز اکنون با سرویس Amazon CloudWatch برای ورود به سیستم ادغام می شود.
کنترل هزینه یکی دیگر از اجزای حیاتی برای آماده کردن هر سرویس برای مصرف گسترده سازمانی است. به هر حال، بیشتر سازمان ها دارای دپارتمان های حسابداری و بودجه هایی هستند که باید رعایت شوند.
توان ارائه قابلیتی است که AWS برای Amazon Bedrock به عنوان بخشی از به‌روزرسانی‌های امروزی اعلام کرد. این به مشتریان اجازه می دهد تا برای مقدار مشخصی از توان عملیاتی از یک مدل هوش مصنوعی مولد پرداخت کنند و محافظت از هزینه و سطوح عملکرد را تضمین می کند. با توان عملیاتی ارائه، مشتریان می توانند مشخص کنند که به چه تعداد «واحد مدل» یا توکن نیاز دارند و در صورت افزایش تقاضا، از بروز مشکلاتی جلوگیری کنند.
فیلومین خاطرنشان کرد که ویژگی توان ارائه به مشتریان سقف هزینه تضمین شده و توان عملیاتی مطمئن برای برنامه های آنها را می دهد، که برای پذیرش واقعی این فناوری ها در مقیاس در یک محیط سازمانی مهم است.
تعبیه‌های آمازون تایتان قدرت جدیدی را برای دقت هوش مصنوعی مولد به ارمغان می‌آورد
بخش مهمی از در دسترس بودن عمومی امروز، مدل آمازون Titan Embeddings است که AWS به تنهایی آن را ساخته است.
آمازون Titan Embeddings برای بازیابی موارد استفاده از نسل افزوده (RAG) مفید است که به بهبود چشمگیر دقت هوش مصنوعی مولد کمک می کند. این کار با گرفتن کلمات به عنوان ورودی و تبدیل آنها به نمایش های برداری ریاضی معروف به embeddings کار می کند. این به آن اجازه می دهد اسناد و پرس و جوها را در یک فضای تعبیه شده تجزیه کند و دقت را هنگام بازیابی قطعات سند مربوطه برای استفاده به عنوان پاسخ بهبود بخشد.
فیلومین اظهار داشت که وقتی آمازون Titan Embeddings برای اولین بار در پیش نمایش در دسترس قرار گرفت، گروه اولیه کاربران بازخورد زیادی داشتند. یکی از چیزهایی که آنها درخواست کردند یک پنجره توکن بزرگتر بود تا مدل را قادر سازد اسناد بزرگتر را مدیریت کند. این تغییر اکنون در سرویس عمومی در دسترس منعکس شده است تا اطمینان حاصل شود که می تواند نیازهای سازمانی را برآورده کند.
آمازون Titan Embeddings همچنین در ترکیب با سایر مدل های زبان بزرگ (LLM) در Amazon Bedrock استفاده می شود. فیلومین خاطرنشان کرد که آمازون Titan Embeddings توسط برخی از مشتریان در ترکیب با مدل Claude2 Anthropic برای پیاده‌سازی ربات‌های گفتگو استفاده می‌شود که در آن دانش به عنوان اسناد به صورت خارجی ذخیره می‌شود. مدل جاسازی Titan اسناد را در یک فضای برداری جاسازی می کند، در حالی که Claude2 برای قابلیت های مکالمه استفاده می شود. این به ربات چت اجازه می دهد تا قطعات دانش مربوطه را از اسناد تعبیه شده برای پاسخ به سؤالات بازیابی کند، بدون اینکه نیازی به آموزش مجدد مدل های زبان در حین تکامل منابع دانش باشد.
CodeWhisperer ویژگی های جدید را پیش نمایش می کند
در کنار در دسترس بودن عمومی Amazon Bedrock، AWS نیز امروز پیش نمایشی از قابلیت های جدید سرویس هوش مصنوعی مولد Amazon CodeWhisperer را اعلام کرد.
قابلیت‌های جدید اکنون به کاربران سازمانی این امکان را می‌دهد که از مخازن کد خصوصی سازمان به شیوه‌ای ایمن و مطمئن بهره ببرند.
فیلومین گفت: «این قفل سطوح جدیدی از بهره وری توسعه دهندگان را باز می کند. دستیاران کد نویسی عمومی معمولاً هدف کلی آنها هستند؛ آنها می دانند که چگونه به طور کلی کد بنویسند، اما چیزی در مورد کد داخلی شما نمی دانند، زیرا هرگز فرصتی برای یادگیری از آن نداشته اند.
ماموریت VentureBeat این است که یک میدان شهر دیجیتال برای تصمیم گیرندگان فنی باشد تا دانشی در مورد فناوری سازمانی متحول کننده کسب کنند و معامله کنند. جلسات توجیهی ما را کشف کنید.
منبع: https://venturebeat.com/data-infrastructure/amazon-bedrock-is-now-generally-available-as-aws-enterprise-genai-efforts-get-serious/