آموزش LLM های متن باز - AI بدون سانسور و ایمن محلی با RAG

جایگزین های خصوصی ChatGPT مانند Mistral AI ،Llama3 و غیره را با فراخوانی تابع، RAG، پایگاه داده های برداری، LangChain و ایجنت های AI بررسی کنید.

آنچه یاد خواهید گرفت:

• چرا LLM های متن باز؟ - تفاوت ها، مزایا و معایب LLM های متن باز و منبع بسته
• LLM هایی مانند Gemma ،Grok ،Qwen2-72B-Instruct ،Phi3 ،Mistral ،Llama ،ChatGPT و غیره چه هستند؟
• کدام LLM ها در دسترس هستند و ما از کدام استفاده کنیم؟ - یافتن بهترین LLM ها
• الزامات استفاده از LLM های متن باز به صورت محلی
• نصب و استفاده از Ollama ،Anything LLM ،LM Studio و متدهای جایگزین برای به کار انداختن LLM ها
• LLM های سانسور شده در مقابل بدون سانسور
• تیونینگ یک مدل متن باز با Huggingface یا Google Colab
• بینایی (تشخیص تصویر) با LLM های متن باز: Llava ،Llama3 و Phi3 Vision
• جزئیات سخت افزار: آفلود RAM ،CPU ،GPU و VRAM
• همه چیز در مورد HuggingChat: یک رابط برای استفاده از LLM های متن باز
• پرامپت های سیستم در مهندسی پرامپت و فراخوانی تابع
• مبانی مهندسی پرامپت: تداعی معنایی و پرامپت های نقش و ساختار یافته
• Groq: استفاده از LLM های متن باز با یک تراشه LPU سریع به جای GPU
• پایگاه داده های برداری، مدل های تعبیه سازی و Retrieval-Augmented Generation (RAG)
• ایجاد یک چت بات RAG محلی با Anything LLM و LM Studio
• لینک دهی Ollama و Llama 3 و استفاده از فراخوانی تابع با Llama 3 و Anything LLM
• فراخوانی تابع برای خلاصه سازی داده، ذخیره کردن و ایجاد نمودارها با پایتون
• استفاده از ویژگی های دیگر Anything LLM و API های خارجی
• نکاتی برای داشتن اپلیکیشن های RAG بهتر با Firecrawl برای داده وب سایت و RAG کارآمدتر با LlamaIndex و LlamaParse برای PDF ها و CSV ها
• ابزارهای موجود برای ایجنت های AI و تعریف آن ها، نصب و استفاده از Flowise به صورت محلی با Node (آسان تر از Langchain و LangGraph)
• ایجاد یک ایجنت AI که مستندسازی و کد پایتون تولید می کند و استفاده از ایجنت های AI با فراخوانی تابع، دسترسی به اینترنت و Three Experts
• هاستینگ و کاربرد: اینکه کدام ایجنت AI را باید بسازید و هاستینگ خارجی، متن به گفتار (TTS) با Google Colab
• تیونینگ LLM های متن باز با Google Colab (بررسی Llama-3 8b ،Alpaca و Unsloth)
• اجاره GPU ها با Runpod یا Massed Compute
• جنبه های امنیت: Jailbreaks و ریسک های امنیتی از حملات به LLM ها با Jailbreaks، تزریق پرامپت ها و مسمومیت داده
• امنیت و حریم خصوصی داده شما و همچنین سیاست هایی برای استفاده تجاری و فروش محتوای تولید شده

پیش نیازهای دوره

• به دانش قبلی نیاز ندارید، این دوره همه چیز را به صورت گام به گام نشان می دهد.
• داشتن PC با کارت گرافیک خوب، رم 16 گیگ و VRAM 6 گیگ مفید است (اپل سری Nvidia ،M و AMD ایده آل هستند)، اما اجباری نیست.

توضیحات دوره

آشنایی با LLM های متن باز

این دوره مقدمه ای کامل در مورد دنیای LLM های متن باز ارائه می دهد. شما در مورد تفاوت های بین مدل های متن باز و منبع بسته یاد خواهید گرفت و کشف خواهید کرد چرا LLM های متن باز جایگزینی جذاب هستند. این دوره موضوعاتی مانند Llama ،ChatGPT و Mistral را با جزئیات پوشش می دهد. علاوه بر این، شما در مورد LLM های موجود و اینکه چگونه بهترین مدل را برای نیازهای خود انتخاب کنید یاد خواهید گرفت. این دوره تاکید شدیدی روی معایب LLM های منبع بسته و مزایا و معایب LLM های منبع باز مانند Llama3 و Mistral دارد.

کاربرد عملی LLM های متن باز

این دوره شما را در ساده ترین روش اجرای LLM های متن باز به صورت محلی و آنچه برای این راه اندازی نیاز دارید، راهنمایی می کند. شما در مورد پیش نیازها، نصب LM Studio و متدهای جایگزین برای به کار انداختن LLM ها یاد خواهید گرفت. علاوه بر این، شما یاد خواهید گرفت چگونه از مدل های متن باز در LM Studio استفاده کنید، تفاوت بین LLM های سانسور شده و بدون سانسور را درک خواهید کرد و موارد استفاده مختلف را بررسی خواهید کرد. این دوره تیونینگ یک مدل متن باز با Huggingface یا Google Colab و استفاده از مدل های بینایی برای تشخیص تصویر را نیز پوشش می دهد.

مهندسی پرامپت و استقرار ابری

یک بخش مهم این دوره مهندسی پرامپت برای LLM های متن باز است. شما یاد خواهید گرفت چگونه از HuggingChat به عنوان یک رابط استفاده کنید، از پرامپت های سیستم در مهندسی پرامپت استفاده کنید و هم تکنیک های اولیه و هم پیشرفته مهندسی پرامپت را اعمال کنید. این دوره بینش هایی در مورد ایجاد دستیار خودتان در HuggingChat و استفاده از LLM های متن باز با تراشه های LPU سریع به جای GPU ها نیز ارائه می دهد.

فراخوانی تابع، RAG و پایگاه داده های برداری

یاد بگیرید فراخوانی تابع در LLM ها چیست و چگونه پایگاه داده های برداری، مدل های تعبیه سازی و retrieval-augmented generation (RAG) را پیاده سازی کنید. این دوره به شما نشان می دهد چگونه Anything LLM را نصب کنید، یک سرور محلی راه اندازی کنید و یک چت بات RAG با Anything LLM و LM Studio ایجاد کنید. شما همچنین یاد خواهید گرفت چگونه فراخوانی تابع با Llama 3 و Anything LLM انجام دهید، داده را با پایتون خلاصه، ذخیره و مصورسازی کنید.

بهینه سازی و ایجنت های AI

برای بهینه سازی اپلیکیشن های RAG خود، نکاتی در مورد آماده سازی داده و استفاده کارآمد از ابزارهایی مانند LlamaIndex و LlamaParse دریافت خواهید کرد. علاوه بر این، شما با دنیای ایجنت های AI آشنا خواهید شد. در مورد اینکه ایجنت های AI چه هستند، چه ابزارهایی موجود است و اینکه چگونه Flowise را نصب کنید و به صورت محلی از آن با Node.js استفاده کنید، یاد خواهید گرفت. این دوره بینش های کاربردی در مورد ایجاد یک ایجنت AI که مستندسازی و کد پایتون تولید می کند و همچنین استفاده از فراخوانی تابع و دسترسی به اینترنت نیز ارائه می دهد.

این دوره برای چه کسانی مناسب است؟

• همه افرادی که می خواهند یک چیز جدید یاد بگیرند و LLM های متن باز را با RAG، فراخوانی تابع و ایجنت های AI به طور عمیق بررسی کنند.
• کارآفرینانی که می خواهند کارآمد تر شوند و در هزینه ها صرفه جویی کنند.
• توسعه دهندگان، برنامه نویسان و علاقه مندان به فناوری
• هر کسی که محدودیت های شرکت های بزرگ فناوری را نمی خواهد و می خواهد از AI بدون سانسور استفاده کند.