گواهینامه مدل زبان بزرگ (LLM)

آنچه یاد خواهید گرفت:

• شما با مقدمات مدل‌های زبان بزرگ (LLM) شامل اصول هوش مصنوعی و پردازش زبان طبیعی (NLP) آشنا خواهید شد.
• درک خواهید کرد که چه چیزی مدل‌های زبان بزرگ (LLM) را در چشم‌انداز هوش مصنوعی امروز منحصربه‌فرد می‌کند. همچنین ویژگی‌های کلیدی و قابلیت‌های واقعی LLMها را بررسی خواهید کرد.
• شما درک کاملی از مفاهیم و معماری‌های اصلی LLMها، با شروع از مبانی شبکه‌های عصبی و یادگیری عمیق، به دست خواهید آورد.
• شما نقش مکانیزم‌های توجه را بررسی کرده و معماری Transformer را که زیربنای اکثر LLMهای مدرن است، مطالعه خواهید کرد.
• چگونگی عملکرد توکن‌سازی و بردارهای تعبیه متنی را یاد خواهید گرفت و معماری‌های محبوبی مانند GPT و BERT و T5 و PaLM را به تفصیل مطالعه خواهید کرد.
• دانش عمیقی در زمینه آموزش و مقیاس‌پذیری LLMها به دست خواهید آورد و چگونگی جمع‌آوری و پیش‌پردازش مجموعه داده‌های بزرگ را بررسی خواهید کرد.
• شما تکنیک‌های بهینه‌سازی مدل، مانند آموزش با دقت ترکیبی را مطالعه کرده و یاد خواهید گرفت که چگونه محاسبات توزیع‌شده، آموزش مدل‌های بسیار بزرگ را امکان‌پذیر می‌سازد.
• شما شیوه‌های آموزش در دنیای واقعی را که در پشت پرده LLMهای پیشرفته‌ای مانند OpenAI GPT و Meta LLaMA و Google PaLM قرار دارد، مرور خواهید کرد.
• شما با کاربردهای LLMها در صنایع مختلف، از جمله تولید متن، خلاصه‌سازی، ساخت چت‌بات و دستیاران مجازی آشنا خواهید شد.
• تحلیل احساسات، درک رفتار مشتری، سیستم‌های پرسش و پاسخ، تولید کد و اتوماسیون را فرا خواهید گرفت.
• به فرآیند تنظیم دقیق و سفارشی‌سازی LLMها برای حوزه‌های خاص مسلط خواهید شد و تکنیک‌های تطبیق مدل‌های از پیش آموزش‌دیده را مطالعه خواهید کرد.
• روی موارد مطالعاتی واقعی از جمله موارد استفاده در حوزه‌های بهداشت و درمان، حقوقی و تجارت الکترونیک کار خواهید کرد. همچنین یک LLM از پیش آموزش‌دیده را تنظیم دقیق خواهید کرد.
• شما استراتژی‌های پیاده‌سازی و بهینه‌سازی LLMها، شامل بهترین شیوه‌ها برای استنتاج مدل و کاهش تأخیر را بررسی خواهید کرد.
• همچنین با تکنیک‌های فشرده‌سازی مدل مانند هرس و کوانتیزه‌سازی آشنا شده و APIها و فریم‌ورک‌های مختلفی مانند OpenAI API و Hugging Face را کشف خواهید کرد.
• شما ملاحظات اخلاقی و امنیتی مرتبط با LLMها، از جمله مسائل مربوط به سوگیری، انصاف، شیوه‌های هوش مصنوعی مسئولانه و خطرات حریم خصوصی داده‌ها را درک خواهید کرد.
• درباره اطلاعات نادرست، دیپ‌فیک‌ها و انطباق با مقررات یاد خواهید گرفت. شما معضلات اخلاقی در دنیای واقعی را تحلیل کرده و استراتژی هایی برای ساخت هوش مصنوعی قابل اعتمادتر را بررسی خواهید کرد.
• شما آینده LLMها را با مطالعه پیشرفت‌ها در مدل‌های چندوجهی مانند GPT-4 Vision و روندهای نوظهور در بهره‌وری مدل‌ها، از جمله مدل‌های پراکنده، بررسی خواهید کرد.
• معماری‌های با حافظه بهینه را یاد خواهید گرفت و کشف خواهید کرد که چگونه LLMها در حوزه‌های میان‌رشته‌ای مانند بهداشت، آموزش و تحقیقات علمی به کار گرفته می‌شوند.

پیش نیازهای دوره

• شما باید به هوش مصنوعی، پردازش زبان طبیعی (NLP) و درک چگونگی تولید متن، کد و سایر رسانه‌ها توسط مدل‌های زبان مدرن علاقه‌مند باشید.
• تمایل به یادگیری یادگیری عمیق، شبکه‌های عصبی و معماری‌های Transformer
• علاقه به بررسی در ابزارها و APIهای محبوب LLM برای کاربردهای واقعی در صنایع مختلف
• اشتیاق برای یادگیری چگونگی ساخت، تنظیم دقیق و پیاده‌سازی LLMها با استفاده از Python، کتابخانه‌های متن‌باز و پلتفرم‌های هوش مصنوعی مبتنی بر ابر
• آشنایی با مفاهیم پایه هوش مصنوعی/یادگیری ماشین و برنامه‌نویسی پایتون توصیه می‌شود.

توضیحات دوره

گام بعدی را در سفر هوش مصنوعی خود بردارید! چه یک مهندس مشتاق هوش مصنوعی، یک توسعه‌دهنده، یک متخصص خلاق، یا یک رهبر کسب‌وکار باشید، این دوره شما را با دانش و مهارت‌های عملی برای درک، پیاده‌سازی و به‌کارگیری مدل‌های زبان بزرگ (LLM) مجهز می‌کند. بیاموزید که چگونه معماری‌های پیشرفته‌ای مانند GPT و BERT و T5 و PaLM در حال تغییر شکل صنایع از تولید محتوا و پشتیبانی مشتری گرفته تا اتوماسیون و سیستم‌های هوشمند هستند.

با راهنمایی مثال‌های واقعی و تمرین‌های عملی، شما:

• به مفاهیم اصلی LLMها، از جمله اصول یادگیری عمیق، معماری‌های مبتنی بر Transformer و تکنیک‌های آموزش مدل، مسلط خواهید شد.
• تجربه عملی در ساخت و تنظیم دقیق LLMها با استفاده از Hugging Face و OpenAI API و TensorFlow و PyTorch به دست خواهید آورد.
• کاربردهای LLM در چت‌بات‌ها، دستیاران مجازی، خلاصه‌سازی، پرسش و پاسخ و اتوماسیون را بررسی خواهید کرد.
• چالش‌های اخلاقی و مسائل حاکمیتی پیرامون LLMها، از کاهش سوگیری تا حفظ حریم خصوصی داده‌ها را درک خواهید کرد.
• با یادگیری درباره آخرین نوآوری‌ها و روندهای نوظهور در اکوسیستم LLM، خود را برای فرصت‌های آینده آماده خواهید کرد.

چارچوب‌های دوره

درس های ویدئویی تعاملی، موارد مطالعاتی، پروژه‌ها، منابع قابل دانلود و تمرین‌های تعاملی برای کمک به درک عمیق معماری‌های LLM، کاربردهای عملی و موارد استفاده در دنیای واقعی طراحی شده‌اند.

این دوره شامل چندین مورد مطالعاتی، منابعی مانند قالب‌ها، ورک شیت ها، مطالب خواندنی، آزمون‌ها، خودارزیابی‌ها و آزمایشگاه‌های عملی برای تعمیق درک شما از مدل زبان بزرگ است.

در بخش اول دوره، شما اصول هوش مصنوعی، NLP و تکامل مدل‌های زبان را خواهید آموخت.

در بخش میانی دوره، شما یک اصول قوی در معماری‌های اصلی LLM (Transformers و GPT و BERT و T5 و PaLM) همراه با آزمایش‌های عملی در دنیای واقعی ایجاد خواهید کرد.

در بخش پایانی دوره، شما به بررسی مسائل اخلاقی، شیوه‌های پیاده‌سازی، روندهای آینده و مسیرهای شغلی در حوزه LLMها خواهید پرداخت. 

محتوای دوره:

بخش 1

مقدمه و برنامه مطالعه

• مقدمه و آشنایی با مدرس
• برنامه مطالعه و ساختار دوره

ماژول 1: مقدمه‌ای بر مدل‌های زبان بزرگ (LLM)

• بررسی هوش مصنوعی و پردازش زبان طبیعی (NLP)
• تکامل مدل‌های زبان (از N-grams تا Transformers)
• مدل‌های زبان بزرگ چه هستند؟
• ویژگی‌ها و قابلیت‌های کلیدی LLMها
• فعالیت: بررسی در LLMها از طریق جلسات تعاملی (مانند ChatGPT و Bard و Claude)
• نتیجه‌گیری

ماژول 2: فناوری‌ها و معماری‌های اصلی LLM

• مبانی شبکه‌های عصبی و یادگیری عمیق
• مکانیزم‌های توجه و Transformers
• پارادایم‌های پیش‌آموزش و تنظیم دقیق
• توکن‌سازی و بردارهای تعبیه متنی
• معماری‌های محبوب LLM: مانند GPT و BERT و T5 و PaLM
• فعالیت: مصورسازی نقشه‌های توجه در ترنسفورمرها با استفاده از ابزارهایی مانند Hugging Face
• نتیجه‌گیری

ماژول 3: آموزش و مقیاس‌پذیری LLM

جمع‌آوری و پیش‌پردازش داده برای LLMها

• نیازمندی‌های محاسباتی و چالش‌های مقیاس‌پذیری
• تکنیک‌های بهینه‌سازی مدل (مانند آموزش با دقت ترکیبی)
• آموزش توزیع‌شده برای LLMها
• بررسی شیوه‌های آموزش OpenAI GPT و Meta LLaMA و Google PaLM
• فعالیت: شبیه‌سازی یک آموزش مدل در مقیاس کوچک با استفاده از کتابخانه‌هایی مانند TensorFlow یا PyTorch
• نتیجه‌گیری

ماژول 4: کاربردهای LLM

• تولید و خلاصه‌سازی متن
• چت‌بات‌ها و دستیاران مجازی
• تحلیل احساسات و درک رفتار مشتری
• سیستم‌های پرسش و پاسخ
• تولید کد و اتوماسیون
• فعالیت: ساخت یک چت‌بات یا ابزار خلاصه‌سازی متن با استفاده از OpenAI API یا مدل‌های Hugging Face
• نتیجه‌گیری

ماژول 5: تنظیم دقیق و سفارشی‌سازی LLM

• تکنیک‌هایی برای تنظیم دقیق مدل‌های از پیش آموزش‌دیده
• تطبیق‌های LLMها برای حوزه‌های خاص
• یادگیری چند نمونه‌ای و یادگیری بدون نمونه با LLMها
• مطالعه موردی: تنظیم دقیق برای کاربردهای بهداشت و درمان، حقوقی یا تجارت الکترونیک
• فعالیت: تنظیم دقیق یک LLM از پیش آموزش‌دیده بر روی یک مجموعه داده خاص با استفاده از ابزارهای متن‌باز
• نتیجه‌گیری

ماژول 6: پیاده‌سازی و بهینه‌سازی LLM

• استنتاج مدل و بهینه‌سازی تأخیر
• پیاده‌سازی لبه در مقابل پیاده‌سازی ابری
• مقدمه‌ای بر تکنیک‌های فشرده‌سازی مدل (مانند هرس، کوانتیزه‌سازی)
• APIها و فریم‌ورک‌ها برای پیاده‌سازی LLM از جمله (OpenAI API و Hugging Face و TensorFlow Serving)
• فعالیت: پیاده‌سازی یک مدل تنظیم دقیق شده از طریق یک API و آزمودن عملکرد آن
• نتیجه‌گیری

ماژول 7: ملاحظات اخلاقی و امنیتی

• سوگیری، انصاف و هوش مصنوعی مسئولانه
• نگرانی‌های حریم خصوصی داده و راه‌های کاهش آن
• خطرات اطلاعات نادرست و سوءاستفاده (مانند دیپ‌فیک، اخبار جعلی)
• مقررات و حاکمیت برای LLMها
• فعالیت: تحلیل یک معضل اخلاقی در استفاده از LLM از طریق بحث گروهی.
• نتیجه‌گیری

ماژول 8: آینده LLMها

• پیشرفت‌ها در مدل‌های چندوجهی (مانند GPT-4 Vision)
• روندهای نوظهور در بهره‌وری LLM (مانند مدل‌های پراکنده، معماری‌های با حافظه بهینه)
• کاربردهای میان‌رشته‌ای LLMها
• مرزهای تحقیقاتی در LLMها
• فعالیت: تحقیق و ارائه در مورد تأثیر بالقوه LLMها در یک زمینه خاص (مانند آموزش، بهداشت).
• نتیجه‌گیری

بخش 2

پروژه نهایی

این دوره برای چه کسانی مناسب است؟

• علاقه‌مندان به هوش مصنوعی که می‌خواهند در مدل‌های زبان بزرگ، یادگیری عمیق و شبکه‌های عصبی تخصص پیدا کنند.
• توسعه‌دهندگان، دانشمندان داده و مهندسانی که قصد ساخت، تنظیم دقیق و پیاده‌سازی اپلیکیشن های مبتنی بر LLM را دارند.
• تولیدکنندگان محتوا، بازاریابان و تحلیل‌گرانی که به دنبال استفاده از ابزارهای مجهز به LLM برای اتوماسیون و تولید محتوا هستند.
• رهبران کسب‌وکار، مدیران محصول و تصمیم‌گیرندگانی که علاقه‌مند به درک چگونگی تحول صنایع و گردش کار توسط LLMها هستند.