کوانتیزاسیون برای مدلهای GenAI
✅ سرفصل و جزئیات آموزش
آنچه یاد خواهید گرفت:
- درک تکنیکهای بهینهسازی مدل: پریونینگ، دیستیلسیون و کوانتیزاسیون
- آشنایی با مبانی انواع داده: FP32 ،FP16 ،BFloat16 و INT8
- تسلط به کاهش دقت از FP32 به BF16 و FP32 به INT8
- یادگیری تفاوت بین کوانتیزاسیون متقارن و نامتقارن
- پیادهسازی تکنیکهای کوانتیزاسیون در پایتون با مثالهای عملی
- اعمال کوانتیزاسیون برای کارآمدتر و آماده استقرار ساختن مدلها
- کسب مهارتهای عملی برای بهینهسازی مدلها جهت دستگاههای لبه و محیطهای با منابع محدود
پیش نیازهای دوره
- آشنایی مقدماتی با پایتون توصیه میشود، اما هیچ تجربه قبلی در زمینه هوش مصنوعی الزامی نیست.
توضیحات دوره
اگر شما یک توسعهدهنده، دانشمند داده یا علاقهمند به یادگیری ماشین هستید که میخواهد مدلهای هوش مصنوعی کارآمد را بهینه و مستقر کند، این دوره برای شما مناسب است. آیا میخواهید مدلهای خود را سریعتر و با مصرف منابع کمتر کنید و در عین حال عملکرد آنها را حفظ نمایید؟ آیا به دنبال یادگیری چگونگی اعمال تکنیکهای کوانتیزاسیون برای استقرار بهتر مدلها هستید؟ این دوره به شما آموزش میدهد که چگونه تکنیکهای عملی کوانتیزاسیون را پیادهسازی کنید و مدلهای خود را کمحجم و قابل استقرار بر روی دستگاههای لبه سازید.
در این دوره، شما:
مفاهیم اصلی کوانتیزاسیون، پریونینگ و دیستیلسیون را خواهید آموخت.
- انواع مختلف داده مانند FP32 ،FP16 ،BFloat16 و INT8 را درک خواهید کرد.
- چگونگی تبدیل FP32 به BF16 و INT8 برای فشردهسازی کارآمد مدل را بررسی خواهید کرد.
- کوانتیزاسیون متقارن و نامتقارن را در پایتون با کاربردهای دنیای واقعی پیادهسازی خواهید کرد.
- چگونگی کاهش دقت پارامترهای مدل از FP32 به INT8 برای استقرار را درک خواهید کرد.
- تجربه عملی با کوانتیزاسیون مبتنی بر پایتون کسب خواهید کرد و مدلهای خود را برای دستگاههای موبایل و اینترنت اشیا (IoT) مناسب خواهید ساخت.
چرا کوانتیزاسیون را یاد بگیریم؟ کوانتیزاسیون به شما امکان میدهد اندازه و بار محاسباتی مدلها را کاهش دهید و آنها را برای دستگاههای با منابع محدود مانند تلفنهای هوشمند، دستگاههای اینترنت اشیا و سیستمهای تعبیهشده مناسب سازید. با تسلط به کوانتیزاسیون، میتوانید اطمینان حاصل کنید که مدلهای شما سریعتر، با مصرف انرژی بهینهتر و استقرار آسانتری دارند و در عین حال دقت آنها حفظ میشود.
در طول دوره، یاد خواهید گرفت که چگونه تکنیکهای کوانتیزاسیون را پیادهسازی کرده و مدلهای خود را برای کاربردهای دنیای واقعی بهینه کنید. این دوره تعادل کاملی بین تئوری و کاربرد عملی برای کارآمدتر ساختن مدلهای یادگیری ماشین ارائه میدهد.
در پایان دوره، درک عمیقی از کوانتیزاسیون خواهید داشت و قادر خواهید بود مدلهای کارآمد را بر روی دستگاههای لبه بهینه و مستقر کنید.
آمادهاید مدلهای هوش مصنوعی خود را برای کارایی و عملکرد بهینه کنید؟ اکنون در این دوره شرکت کنید و سفر خود را آغاز نمایید!
این دوره برای چه کسانی مناسب است؟
- مبتدیان در یادگیری ماشین که به دنبال یادگیری تکنیکهای عملی بهینهسازی مدل مانند کوانتیزاسیون هستند.
- متخصصان و دانشجویان هوش مصنوعی که میخواهند مدلها را برای استقرار بر روی دستگاههای با منابع محدود بهینه کنند.
کوانتیزاسیون برای مدلهای GenAI
-
مقدمه 03:29
-
آشنایی با مدلهای Gen AI 05:36
-
تکنیکهای بهینهسازی مدل - مقدمه 01:44
-
مقدمهای بر پریونینگ 05:11
-
آشنایی با دیستیلسیون شناختی 05:17
-
آشنایی با کوانتیزاسیون 09:10
-
آزمون None
-
انواع داده و نمایش عدد 02:48
-
انواع داده صحیح 16:55
-
انواع داده صحیح در PyTorch 05:41
-
اعداد نقطه ثابت 8 بیتی 04:55
-
اعداد اعشاری 12:26
-
فرمتهای دیگر اعداد اعشاری 10:37
-
انواع داده اعشاری در PyTorch 06:47
-
فرمتهای دیگر 02:18
-
آزمون None
-
تبدیل FP32 به BF16 04:52
-
تبدیل تنسورها در پایتون 04:40
-
تبدیل یک مدل یادگیری ماشین در پایتون 13:04
-
تبدیل FP32 به INT8 04:37
-
کوانتیزاسیون متقارن 09:48
-
کوانتیزاسیون نامتقارن 10:25
-
کوانتیزاسیون GPT Neo 125 13:41
-
آزمون None
مشخصات آموزش
کوانتیزاسیون برای مدلهای GenAI
- تاریخ به روز رسانی: 1404/06/14
- سطح دوره:همه سطوح
- تعداد درس:24
- مدت زمان :02:34:01
- حجم :807.0MB
- زبان:دوبله زبان فارسی
- دوره آموزشی:AI Academy