درک AI Compute (AIC) و روش کار آن؟

AIC چگونه کار می کند؟

سرویس AIC ما ساخته شده است روی همان اختصاص داده شده bare metal سخت افزاری که به عنوان بخشی از سازمان خود استفاده می کنیم Bare Metal سرویس (EBM). درست مانند EBM، کسب‌وکارهایی که از AIC استفاده می‌کنند، کل سرورهای فیزیکی را که می‌توانند بر اساس سفارشی‌سازی شوند، اجاره می‌دهند و اجاره می‌دهند. روی کسب و کار و معیارهای عملکرد خاص

اما در حالی که EBM محاسبات مبتنی بر CPU خط پایه قدرتمند را ارائه می‌کند، AIC پیکربندی‌های GPU را برای اجرای بارهای کاری سنگین هوش مصنوعی معرفی می‌کند.

معماری‌های AIC نیز برای موارد خاص استفاده از یادگیری ماشین، خطوط لوله آموزشی و اندازه‌های مدل با پیکربندی‌های CPU، حافظه و ذخیره‌سازی بهینه‌سازی شده‌اند. این پیکربندی‌ها از تمام چارچوب‌های اصلی یادگیری ماشین از جمله PyTorch، TensorFlow و ONYX پشتیبانی می‌کنند. مهمتر از همه، سرویس AIC ما امکان انتخاب و استفاده از هر واحد GPU موجود را می دهد روی بازار جهانی

این باعث می شود AIC برای انواع موارد استفاده ایده آل باشد. به عنوان مثال، AIC کاملاً برای آموزش با توان بالا که متکی است، مناسب است روی پردازش موازی و مجموعه داده های بزرگ، و همچنین بارهای آموزشی توزیع شده مانند آموزش مدل زبان بزرگ (LLM).

فراتر از مدل‌های آموزشی، AIC از پایگاه‌های داده برداری مانند Weaviate و Qdrant نیز پشتیبانی می‌کند که برای ساخت و استقرار برنامه‌های مبتنی بر هوش مصنوعی ضروری هستند.

ترکیب AIC با EBM و SBM به عنوان بخشی از ترکیبی bare metal ابر

برای اکثر سازمان‌ها، لازم است ترکیبی از پردازنده‌های CPU و GPU اجرا شود – نه فقط یکی یا دیگری. برای مثال، ممکن است برای برنامه‌های کاربردی عمومی و قابلیت‌های پردازش موازی پردازنده‌های گرافیکی برای پشتیبانی از محاسبات با کارایی بالا، به CPU نیاز داشته باشید.

اگر این گردش‌های کاری را در معماری‌های شبکه جداگانه مدیریت می‌کنید، این می‌تواند پیچیدگی عملیاتی بیشتری ایجاد کند.

اینجاست که استفاده از AIC به عنوان بخشی از ترکیب ما bare metal راه حل ابری سودمند است. با اتخاذ یک هیبرید bare metal با رویکرد ابری، می‌توانید بارهای کاری CPU قابل پیش‌بینی میزبانی شده را ترکیب کنید روی EBM، بارهای کاری “شکستن”. روی مقیاس پذیر Bare Metal (SBM) و بارهای کاری سنگین GPU روی AIC، همه از طریق یک شبکه خصوصی.

میزبانی همه چیز روی یک شبکه خصوصی همچنین چندین مزیت مانند امنیت افزایش یافته، کنترل بیشتر بر زیرساخت شما، و کارایی هزینه ناشی از کاهش تاخیر و هزینه های پهنای باند داده را ارائه می دهد.