تسلط به تیونینگ مدل زبانی بزرگ - مبانی تا پیشرفته و استقرار ابری

آنچه یاد خواهید گرفت:

• استفاده از آداپتورهای LoRA و QLoRA برای تیونینگ BERT ،GPT ،Llama ،Mistral و DeepSeek با حداقل حافظه GPU
• اجرای گردش کارهای بهنیه‌سازی ترجیحات مستقیم RLHF برای هم‌راستاسازی خروجی‌های مدل با بازخورد انسانی
• انجام تیونینگ دستورالعمل تحت نظارت برای ساخت مجموعه داده‌های دامنه و بروزرسانی وزن‌ها به منظور بهبود دقت وظایف خاص
• فشرده‌سازی مدرسان بزرگ مدرس به دانشجویان از طریق تقطیر دانش و انتقال سیگنال‌های ویژگی پنهان و اهداف نرم

پیش‌نیازهای دوره

• پایتون
• مبانی Generative AI

توضیحات دوره

با جامع‌ترین دوره عملی موجود به طیف کامل تیونینگ مدل زبانی بزرگ مسلط شوید. این برنامه فشرده شما را از مفاهیم اساسی تا استقرار در سطح سازمانی هدایت می‌کند و تکنیک‌های پیشرفته را در معماری‌ها و پلتفرم‌های ابری مختلف پوشش می‌دهد.

آنچه یاد خواهید گرفت:

متدولوژی‌های پیشرفته تیونینگ:

• به LoRA (Low-Rank Adaptation) برای آموزش کارآمد از نظر پارامتر مسلط شوید که هزینه‌های رایانش را در عین حفظ عملکرد مدل کاهش می‌دهد.
• پیاده‌سازی QLoRA (Quantized LoRA) برای تیونینگ مصرف حافظه بهینه در محیط‌های محدود از نظر منابع
• استقرار RLHF (یادگیری تقویتی) برای ایجاد سیستم‌های هوش مصنوعی هم‌راستا که ترجیحات انسان را دنبال می‌کنند.
• به‌کارگیری DPO (بهینه‌سازی ترجیحات مستقیم) برای بهبود رفتار مدل بدون نیاز به پایپ‌لاین‌های پیچیده یادگیری تقویتی
• به‌کارگیری تقطیر دانش برای انتقال دانش از یک مدل بزرگ به مدل کوچک‌تر

آموزش مدل با معماری چندگانه:

• تیونینگ BERT برای وظایف تخصصی درک و دسته‌بندی متن
• سفارشی‌سازی Mistral برای کاربردهای خاص حوزه نیازمند به عملکرد بالا
• تطبیق GPT برای سیستم‌های تولید متن در هوش مصنوعی مکالمه‌ای
• بهینه‌سازی مدل‌های LLaMA برای اپلیکیشن‌های حرفه‌ای
• پیکربندی مدل‌های Cohere برای گردش کارهای پردازش زبان طبیعی آمده تولید
• استقرار در Hugging Face Hub: تسلط به آپلود، نسخه‌بندی و اشتراک‌گذاری مدل با قابلیت ()push_to_hub برای توزیع یکنواخت مدل

تسلط به پلتفرم ابری سازمانی:

• Azure AI Foundry: ساخت، استقرار و مدیریت اپلیکیشن‌های هوش مصنوعی سازمانی با محیط‌های توسعه یکپارچه
• AWS Bedrock: پیاده‌سازی گردش کارهای تیونینگ مقیاس‌پذیر با S3 ،Lambda و API Gateway برای اپلیکیشن‌های مبتنی بر هوش مصنوعی
• GCP Vertex AI: استفاده از رویکردهای تیونینگ کارآمد از نظر پارامتر و تیونینگ کامل با متدولوژی‌های یادگیری تحت نظارت

نتایج کلیدی یادگیری

تخصص هوش مصنوعی خود را از طریق پروژه‌های عملی که سناریوهای سازمانی واقعی را شبیه‌سازی می‌کند، متحول کنید. آماده‌سازی کامل مجموعه داده، از داده خام تا فرمت‌های آموزش آماده تولید را تجربه کنید. به تکنیک‌های بهینه‌سازی عملکرد، از جمله تیونینگ هایپرپارامتر، معیارهای ارزیابی مدل و استراتژی‌های مدیریت هزینه در پلتفرم‌های ابری مسلط شوید. پایپ‌لاین‌های استقرار end-to-end بسازید که از پروتوتایپ تا محیط‌های تولید سازمانی مقیاس‌پذیر هستند.

سفر دوره

با اصول معماری ترنسفورمر شروع کنید و پس از آن به سمت متدولوژی‌های آموزش کارآمد از نظر پارامتر پیش بروید. هر تکنیک از طریق جلسات کدنویسی عملی با مجموعه داده‌های استاندارد صنعت و موارد استفاده واقعی تقویت می‌شود. یکپارچه‌سازی کامل پلتفرم ابری در اکوسیستم‌های AWS ،GCP و آژور را تجربه کنید و استراتژی‌های بهینه‌سازی خاص هر پلتفرم و تکنیک‌های مهاجرت بین پلتفرم را یاد بگیرید.

چه کسانی باید در این دوره شرکت کنند؟

این دوره برای متخصصان هوش مصنوعی در سطح متوسط تا پیشرفته، از جمله مهندسان یادگیری ماشین، دانشمندان داده، محققان هوش مصنوعی و توسعه‌دهندگان نرم‌افزار که به دنبال تخصص در سفارشی‌سازی مدل زبانی بزرگ هستند،  طراحی شده است. دانش اولیه پایتون و آشنایی با مفاهیم یادگیری ماشین توصیه می‌شود.

این دوره برای چه کسانی مناسب است؟

• علاقه‌مندان به تیونینگ مدل‌های زبانی بزرگ