فاین تیونینگ و استقرار LLMs با QLoRA در SageMaker + Streamlit

آنچه یاد خواهید گرفت:

• آموزش و تیونینگ LLMs در AWS SageMaker با استفاده از QLoRA و کوانتیزاسیون 4 بیتی پیشرفته روی مجموعه داده‌ خود
• ساخت اپلیکیشن تعاملی Streamlit برای استقرار LLM فاین تیونینگ شده خود با SageMaker، توابع لامبدا و API Gateway
• تسلط به فاین تیونینگ QLoRA از جمله تزریق آداپتور، بهینه‌سازی حافظه، فریز کردن پارامتر و ریاضیات پشت آن
• استفاده از انواع محاسبات bfloat16 برای آموزش سریع‌تر و کارآمدتر روی GPUs مدرن
• درک آموزش با mixed precision در QLoRA در SageMaker
• استفاده از فاین تیونینگ پارامتر موثر (PEFT) برای یافتن و تزریق پویا لایه‌های LoRA
• درک کامل پایپ‌لاین فاین تیونینگ سطح پایین - از مجموعه داده خام تا مدل آموزش‌ دیده
• استفاده از کوانتیزاسیون دوبل و دقت nf4 برای فشرده‌سازی مدل ها بدون از دست دادن عملکرد
• کشف اینکه چگونه بررسی گرادیان به طور چشمگیری استفاده از VRAM را در طول آموزش کاهش می‌دهد.
• فاین تیونینگ مدل‌های بزرگ مانند Mixtral در Amazon SageMaker با استفاده از تسریع GPU پیشرفته
• درک کد قطعه‌بندی سفارشی برای LLMs
• ادغام وزن‌های LoRA و حذف آداپتورها برای اکسپورت نهایی مدل - آماده برای استقرار
• استقرار مدل آموزش‌ دیده در اندپوینت‌های SageMaker با زیرساخت تولید آمازون
• ساخت APIs بلادرنگ LLM با استفاده از توابع لامبدا و API Gateway
• راه‌اندازی امن Jobs آموزش با نقش‌های IAM
• بودجه‌بندی، مدیریت سرور و قیمت‌گذاری در AWS
• یاد می‌گیرید چگونه از سهمیه‌های AWS برای استفاده از GPUs بهره ببرید.

پیش‌نیازهای دوره

• آشنایی با پایتون
• ریاضیات خطی اولیه (ضرب ماتریسی)

توضیحات دوره

مدل‌های زبانی بزرگ (LLMs) امکان‌های جدیدی را در حوزه هوش مصنوعی باز می‌کنند. از چت‌بات‌ها گرفته تا تولید کد اما موانع آموزش و استقرار آنها هنوز بالا است. سخت‌افزار گران، نیازهای حافظه عظیم و زنجیره‌ ابزارهای پیچیده اغلب مانع پیشرفت فردی و تیم‌های کوچک می‌شوند. این دوره برای تغییر آن طراحی شده است.

در این آموزش عملی مبتنی بر کد، یاد خواهید گرفت که چگونه مدل‌هایی مانند Mixtral-8x7B را با QLoRA که روشی پیشرفته برای آموزش موثر با ترکیب کوانتیزاسیون 4 بیتی، آداپتورهای LoRA و کوانتیزاسیون دوبل ممکن می‌سازد بهینه‌ کنید. همچنین درک عمیقی از حساب کوانتیزه‌ شده، فرمت‌های نقطه شناور (مانند bfloat16 و INT8) و تأثیر آنها بر اندازه مدل، پهنای باند حافظه و عملیات‌های ضرب ماتریسی به دست خواهید آورد.

شما کدهای پیشرفته پایتون را برای پیش‌پردازش مجموعه داده‌ها با استراتژی‌های قطعه‌بندی token-aware، شناسایی پویای لایه‌های قابل کوانتیزه شده و تزریق ماژول‌های آداپتور با استفاده از کتابخانه PEFT (فاین تیونینگ پارامتر موثر) خواهید نوشت. همچنین jobs فاین تیونینگ توزیع‌ شده روی AWS SageMaker را با استفاده از نمونه‌های multi‑GPU قدرتمند و بهینه‌سازی آنها با چک‌پوینت کردن گرادیانت، آموزش mixed‑precision و کوانتیزاسیون bitsandbytes، پیکربندی و اجرا می‌کنید.

پس از آموزش، شما تمام مراحل استقرار: ادغام وزن‌های آداپتور، ذخیره مدل خود برای استنتاج و استقرار آن از طریق اندپوینت‌های SageMaker را طی خواهید کرد. سپس مدل خود را از طریق تابع لامبدا AWS و یک API Gateway در معرض نمایش قرار می‌دهید و در نهایت، یک اپلیکیشن Streamlit می‌سازید تا یک رابط کاربری فرانت‌اند تمیز و واکنش‌گرا ایجاد کنید.

صرف‌نظر از اینکه مهندس یادگیری ماشین، توسعه‌دهنده بک‌اند یا متخصص هوش مصنوعی باشید، این دوره به شما آموزش می‌دهد که از مدل‌های ساده دانشگاهی به مدل‌های واقعی، مقیاس‌پذیر و آماده تولید منتقل شوید، آن هم با استفاده از ابزارهایی که شرکت‌های برتر امروزی به آنها اعتماد دارند.

این دوره برای چه کسانی مناسب است؟

• مهندسان یادگیری ماشین
• مهندسان بک‌اند و MLOps
• پژوهشگران و دانشجویان هوش مصنوعی
• کسی که می‌خواهد فراتر از مهندسی پرامپت برود و LLMs آماده تولید خود را ساخته، آموزش داده و مستقر کند.