معماری یک دیتاسنتر هوش مصنوعی: راهنمایی برای مهندسان شبکه

آنچه یاد خواهید گرفت:

• درک در سطح معماری از دیتاسنتر هوش مصنوعی - یاد بگیرید کلاسترهای GPU، شبکه‌ها و بارهای کاری چگونه در کنار هم قرار می‌گیرند و چرا GPUها فشار زیادی به شبکه وارد می‌کنند.
• درک شبکه‌سازی و الگوهای ارتباطی GPU - درک می کنید کتابخانه ارتباطی Nvidia چگونه کار می‌کند و چه اثری بر معماری شبکه دارد.
• بینش عملی درباره مدیریت ازدحام برای زیرساخت‌های AI - بدانید چه زمانی و چرا باید از PFC ،ECN و تکنیک‌های تطبیقی استفاده کرد و چه ملاحظات و مصالحه‌هایی وجود دارد.
• دانش شبکه‌سازی آینده‌محور - معرفی Ultra Ethernet و اینکه چرا برای زیرساخت AI به آن نیاز بود.

پیش نیازهای دوره

• شما هر آنچه را برای معماری یک دیتاسنتر هوش مصنوعی نیاز دارید یاد خواهید گرفت. با این حال، دانش اساسی مفاهیم شبکه و دیتاسنتر فرض شده است.

توضیحات دوره

بارهای کاری هوش مصنوعی مانند ترافیک سنتی دیتاسنتر رفتار نمی‌کنند. دیتاسنتر‌ که برای AI طراحی شده‌اند، فرض‌هایی را که شبکه‌های سنتی بر اساس آن‌ها ساخته شده‌اند، به‌هم می‌زنند. ارتباط GPU به GPU، عملیات جمعی و ترافیک شدید east-west به رویکردی بسیار متفاوت برای طراحی شبکه نیاز دارند.

این دوره برای مهندسان و معماران شبکه طراحی شده است که می‌خواهند درک کنند بارهای کاری AI واقعاً چگونه به شبکه فشار وارد می‌کنند، شبکه‌های front end و backend چیستند و چرا از هم جدا هستند. شما یاد می‌گیرید کتابخانه‌های ارتباطی GPU مانند NCCL چگونه الگوهای ترافیکی را شکل می‌دهند، چرا رفتار ازدحام از پهنای باند خام مهم‌تر است، و چه زمانی باید از PFC ،ECN و کنترل ازدحام تطبیقی - همراه با ویژگی خوب و بد واقعی در دنیای عملی استفاده کرد. این دوره همچنین DCQCN و چند روش پیشگیرانه برای مقابله با ازدحام شبکه را بررسی می‌کند.

در نهایت، این دوره با یک معرفی عملی از Ultra Ethernet به آینده شبکه‌سازی AI نگاه می‌کند و توضیح می‌دهد چرا Ethernet سنتی باید تکامل پیدا می‌کرد و این موضوع برای نسل بعدی زیرساخت‌های AI چه معنایی دارد. Ultra Ethernet یک چارچوب جدید است که هنوز در حال توسعه است و فقط یک تقویت‌کننده ساده برای Ethernet موجود نیست.

در پایان این دوره، شما فقط نخواهید دانست چه فناوری‌هایی وجود دارند؛ بلکه درک خواهید کرد بارهای کاری GPU چگونه به شبکه فشار می‌آورند، چرا زیرساخت‌های AI به این شکل طراحی می‌شوند، و چگونه شبکه‌هایی را معماری کنید که همراه با AI مقیاس‌پذیر باشند.

این دوره برای چه کسانی مناسب است؟

• مهندسان شبکه IT، معماران شبکه