اصول تیونینگ دقیق LLM + تیونینگ دقیق مدل‌های GPT اوپن‌ای‌آی

آنچه یاد خواهید گرفت:

• اصول مدل‌های زبان بزرگ (LLM) و تیونینگ دقیق LLM را شامل اینکه چرا تیونینگ دقیق مورد نیاز است، چگونه کار می‌کند، کاربردها و غیره بررسی کنید.
• گردش کار کامل، معماری و مراحل ضروری تیونینگ دقیق مدل‌های زبان بزرگ (LLM) یاد بگیرید.
• انواع مختلف تکنیک‌های تیونینگ دقیق LLM شامل RLHF ،PEFT، LoRA ،QLoRA، استاندارد، ترتیبی و تیونینگ دقیق LLM مبتنی بر دستورالعمل 
• برای درک جامع از طیف گسترده‌ای از ابزارهایی که OpenAI برای Generative AI ارائه می‌دهد، یک راهنمای جامع از داشبورد و Playground OpenAI دریافت کنید.
• مجموعه داده‌ را طبق فرمت JSONL پذیرفته شده توسط OpenAI برای مدل‌های GPT با تیونینگ دقیق آماده کنید، ضمن اینکه هزینه تیونینگ دقیق را نیز از قبل محاسبه کنید.
• مجموعه داده‌ را طبق فرمت JSONL پذیرفته شده توسط OpenAI برای تیونینگ دقیق مدل‌های GPT آماده کنید، ضمن اینکه هزینه تیونینگ دقیق را نیز از قبل محاسبه کنید.
• گام به گام از طریق جلسات عملی چگونگی تیونینگ دقیق مدل GPT OpenAI روی مجموعه داده‌ سفارشی با استفاده از پایتون را بیاموزید.
• مدل تیونینگ دقیق شده را با مدل GPT از پیش آموزش‌دیده مقایسه کنید تا بهبودها در دقت و عملکرد را ارزیابی نمایید.
• بهترین شیوه‌ها برای تیونینگ دقیق LLM را کشف کنید.

پیش نیازهای دوره

• دانش اولیه از Python

توضیحات دوره

مدل‌های زبان بزرگ (LLM) صنعت هوش مصنوعی را متحول کرده‌اند و دقت بی‌سابقه‌ای ارائه می‌دهند و امکان‌های جدیدی در حوزه هوش مصنوعی گشوده‌اند. اما مدل‌های LLM پیش‌آموزش‌دیده همیشه نمی‌توانند نیازهای خاص سازمان‌ها را برآورده کنند. بنابراین همیشه نیاز به تیونینگ دقیق این مدل‌ها وجود دارد تا آن‌ها را متناسب با تسک ها و نیازهای منحصربه‌فرد شما سفارشی کرد.

این دوره جامع به گونه‌ای طراحی شده که مهارت‌های تیونینگ دقیق LLM را به شما بیاموزد. ابتدا با معرفی کامل اصول تیونینگ دقیق شروع می‌شود و نقش حیاتی آن در سازگار کردن مدل LLM با داده‌ خاص شما را توضیح می‌دهد. سپس به جلسات عملی می‌پردازیم که گردش کار تیونینگ دقیق مدل OpenAI GPT را پوشش می‌دهد. در جلسات عملی، گام به گام یاد می‌گیرید چگونه داده‌ را آماده و قالب‌بندی کنید، فرآیند تیونینگ دقیق OpenAI را اجرا کنید و نتایج مدل را ارزیابی نمایید.

تا پایان این دوره، شما در تیونینگ دقیق مدل GPT شرکت OpenAI برای پاسخگویی به نیازهای خاص سازمانی مهارت خواهید داشت و می‌توانید مسیر حرفه‌ای خود را به عنوان مهندس تیونینگ دقیق LLM آغاز کنید.

خلاصه محتوای دوره چیست؟

[نظری]

• با مبانی و اصول اولیه LLM و تیونینگ دقیق آن آغاز خواهیم کرد.
• به دلایل نیاز به تیونینگ دقیق، چگونگی کار آن، گردش کاری و مراحل مختلف آن خواهیم پرداخت.
• انواع مختلف تکنیک‌های تیونینگ دقیق LLM شامل RLHF، PEFT ،LoRA ،QLoRA، تیونینگ دقیق استاندارد، ترتیبی و مبتنی بر دستورالعمل را بررسی خواهیم کرد.
• به بهترین شیوه‌ها برای تیونینگ دقیق LLM می‌پردازیم.

[عملی]

• بررسی مفصل داشبورد و محیط Playground شرکت OpenAI برای درک جامع ابزارهای ارائه شده در حوزه Generative AI
• پیروی از گردش تیونینگ دقیق OpenAI در جلسات عملی شامل تحلیل اکتشافی داده‌ (EDA)، پیش‌پردازش داده‌، قالب‌بندی داده‌، ایجاد شغل تیونینگ دقیق و ارزیابی
• درک قالب JSONL تخصصی OpenAI که برای داده‌ آموزش و آزمون پذیرفته شده و آشنایی با 3 نقش مهم: System، User و Assistant
• محاسبه تعداد توکن‌ها و هزینه تیونینگ دقیق به صورت پیشاپیش با استفاده از کتابخانه Tiktoken
• کسب تجربه عملی در تیونینگ دقیق مدل GPT شرکت OpenAI روی داده‌ سفارشی با استفاده از Python از طریق جلسات گام‌به‌گام
• ارزیابی دقت و عملکرد مدل تیونینگ دقیق شده در مقایسه با مدل پیش‌آموزش‌دیده برای بررسی تأثیر تیونینگ دقیق

این دوره برای چه کسانی مناسب است؟

• دانشمندان داده که می‌خواهند اصول تیونینگ دقیق LLM را بیاموزند.
• کاربران OpenAI که تمایل دارند مدل‌های GPT اوپن‌ای‌آی را با داده‌ سفارشی خود تیونینگ دقیق کنند.
• مهندسان یادگیری ماشین که قصد ورود به حوزه LLM را دارند.
• مهندسان Generative AI