آموزش Generative AI و مدل‌های زبانی بزرگ - معماری و آماده‌سازی داده

آنچه یاد خواهید گرفت:

• تمایز میان معماری‌ها و مدل‌های Generative AI، مانند RNNها، ترنسفورمرها، VAEها، GANها و مدل‌های دیفیوژن
• توصیف اینکه چگونه از مدل‌های زبانی بزرگ، مانند GPT ،BERT ،BART و T5 در پردازش زبان استفاده می‌شود.
• پیاده‌سازی توکن‌سازی برای پیش‌پردازش داده متنی خام با کتابخانه‌های NLP مانند NLTK ،spaCy ،BertTokenizer و XLNetTokenizer
• ایجاد یک NLP data loader با پای تورچ برای انجام توکن‌سازی، عددی کردن و padding داده متنی

توضیحات دوره

این دوره کوتاه از IBM، بخشی از گواهینامه Generative AI Engineering Essentials with LLMs Professional، شما را با مبانی استفاده از Generative AI و مدل‌های زبانی بزرگ (LLMها) آشنا می‌کند. این دوره برای دانشمندان داده، مهندسان یادگیری ماشین، مهندسان یادگیری عمیق و مهندسان هوش مصنوعی فعی و آینده مناسب است.

شما با انواع Generative AI و کاربردهای آن در دنیای واقعی آشنا خواهید شد. شما دانش لازم را برای تمایز میان معماری‌ها و مدل‌های مختلف Generative AI، مانند شبکه‌های عصبی بازگشتی (RNN)، ترنسفورمرها، Generative Adversarial Networks (GAN)، خودرمزگذار متغیر (VAE) و مدل‌های دیفیوژن کسب خواهید کرد. شما تفاوت‌های رویکردهای آموزشی مورد استفاده برای هر مدل را یاد خواهید گرفت. همچنین خواهید توانست کاربرد مدل‌های زبانی بزرگ، مانند Generative Pre-Trained Transformers (GPT) و Bidirectional Encoder Representations from Transformers (BERT) را توضیح دهید.

شما همچنین با فرآیند توکن‌سازی، متدهای توکن‌سازی و استفاده از توکنایزرها برای توکن‌سازی مبتنی بر کلمه، مبتنی بر کاراکتر و مبتنی بر زیرکلمه آشنا خواهید شد. شما توانایی توضیح اینکه چگونه از data loaderها برای آموزش مدل‌های Generative AI و لیست کتابخانه‌های پای تورچ برای آماده‌سازی و مدیریت داده در data loaderها استفاده کنید را بدست خواهید آورد. دانش بدست آمده شما را برای استفاده از کتابخانه‌های Generative AI در Hugging Face آماده خواهد کرد. همچنین شما را برای پیاده‌سازی توکن‌سازی و ایجاد یک NLP data loader آماده می‌کند.

برای این دوره، دانش اولیه از پایتون و پای تورچ و آشنایی با یادگیری ماشین و شبکه‌های عصبی می‌تواند یک مزیت باشد، هرچند که الزامی نیست.