تکنیکهای پیشرفته کوانتیزاسیون برای مدلهای زبانی بزرگ
✅ سرفصل و جزئیات آموزش
تکنیکهای پیشرفته و نوین کوانتیزاسیون برای مدلهای زبانی بزرگ را با تمرکز بر الگوریتمها و راهبردهای بهینهسازیای که بهترین عملکرد را ارائه میدهند، کشف کنید. مدرس، Nayan Saxena، ابتدا مبانی ریاضی را پوشش میدهد و سپس با مثالهای عملی در گوگل کولب، به سراغ روشهای پیشرفتهای مانند GPTQ ،AWQ و SmoothQuant میرود.
در طول یادگیری، نکات سریع و کاربردی برای تسلط به مفاهیم مهمی مانند فرمتهای دقت، راهبردهای کالیبراسیون و روشهای ارزیابی را دریافت میکنید. این دوره با تکیه بر اصول نظری و کاربردهای عملی، شما را به مهارتهای پرتقاضایی مجهز میکند تا اندازه مدل را بهطور چشمگیری کاهش دهید و استنتاج را سریعتر کنید، در حالی که کیفیت عملکرد حفظ میشود.
تکنیکهای پیشرفته کوانتیزاسیون برای مدلهای زبانی بزرگ
-
کوانتیزاسیون در LLMهای مدرن 0:00:53
-
مقدمهای بر کوانتیزاسیون و فرمتهای دقت عددی 0:04:31
-
تحلیل خطای کوانتیزاسیون 0:05:51
-
اسکیماهای کوانتیزاسیون یکنواخت در برابر غیریکنواخت 0:06:28
-
کوانتیزهکردن اولین مدل ترنسفورمر 0:07:57
-
GPTQ: اصول و کاربرد عملی 0:06:19
-
AWQ: اصول و کاربرد عملی 0:06:17
-
SmoothQuant و تکنیکهای نوظهور 0:06:44
-
مبانی QAT برای ترنسفورمرها 0:03:06
-
راهبردهای بهینهسازی ویژه سختافزار 0:05:30
-
مسیرهای آینده در کوانتیزاسیون LLM 0:01:38
مشخصات آموزش
تکنیکهای پیشرفته کوانتیزاسیون برای مدلهای زبانی بزرگ
- تاریخ به روز رسانی: 1405/04/02
- سطح دوره:پیشرفته
- تعداد درس:11
- مدت زمان :1:10:14
- حجم :135.0MB
- زبان:دوبله زبان فارسی
- دوره آموزشی:AI Academy