دوره Edge AI با SLMs: فاین تیونینگ و استقرار محلی

آنچه یاد خواهید گرفت:

• طراحی و fine-tune کردن مدل‌های زبانی کوچک (1–7B) به‌طور ویژه برای دستگاه‌های edge و موبایل، با ایجاد تعادل میان دقت، اندازه و تأخیر
• به‌کارگیری LoRA و QLoRA برای fine-tune کردن SLMها روی GPUهای مصرفی، و کاهش چشمگیر نیاز به VRAM و زمان آموزش برای پروژه‌های واقعی
• کوانتیزه کردن مدل‌های fine-tune شده (INT8/INT4)، تبدیل آن‌ها به فرمت‌های مناسب edge، و استقرار آن‌ها روی گوشی‌ها، تبلت‌ها و Raspberry Pi
• ساخت یک pipeline کامل از آماده‌سازی داده و تیونینگ hyperparameterها تا اعتبارسنجی روی دستگاه، benchmark کردن و بهینه‌سازی
• تشخیص این‌که چه زمانی از prompt engineering ،RAG یا fine-tuning استفاده کنید، و توجیه استقرار روی edge در برابر APIهای ابری برای کاربردهای مختلف کسب‌وکار
• انتخاب خانواده مناسب SLM (Gemma ،Phi ،Llama ،Mistral) بر اساس محدودیت‌های شما در VRAM، سخت‌افزار، حریم خصوصی و عملکرد روی دستگاه
• طراحی مجموعه‌داده‌های instruction باکیفیت و تقسیم‌بندی مناسب، و جلوگیری از overfitting و فراموشی فاجعه‌بار در مدل‌های کوچک و تخصصی
• بسته‌بندی، نسخه‌بندی و به‌روزرسانی مدل‌های روی دستگاه (monolithic در برابر modular adapters) برای اپلیکیشن‌های واقعی مانند طبقه‌بندی، بات‌های پشتیبانی و تولید محتوا

پیش‌نیازهای دوره

• آشنایی کلی با این‌که AI یا مدل‌های «ChatGPT-style» چیستند مفید است، اما این دوره یک مرور مفهومی سریع هم دارد تا مبتدیان با انگیزه بتوانند آن را دنبال کنند.
• دسترسی به یک کامپیوتر (Windows ،macOS یا Linux) که بتوانید روی آن Python و کتابخانه‌های رایج AI را نصب کنید؛ نیازی به تجربه قبلی در راه‌اندازی نیست.
• دانش پایه Python (متغیرها، تابع‌ها و اجرای اسکریپت‌های ساده) مفید است اما الزامی نیست؛ همه کدها گام‌به‌گام توضیح داده شده‌اند.

توضیحات دوره

این دوره یک چارچوب فنی جامع برای fine-tune کردن Small Language Models (SLMs) و استقرار آن‌ها روی دستگاه‌های edge ارائه می‌دهد.

این راهنما فراتر از هیاهوی مدل‌های عظیم ابری می‌رود و بر واقعیت مهندسی اجرای AI خصوصی و آفلاین تمرکز دارد. شما روش‌شناسی کامل را یاد می‌گیرید تا مدل‌های عمومی (با 1–7B پارامتر) را به ابزارهایی تخصصی و کارآمد تبدیل کنید که مستقیماً روی سخت‌افزار کاربر بدون وابستگی به اتصال اینترنت یا APIهای خارجی اجرا می‌شوند.

آنچه یاد خواهید گرفت:

• گذار استراتژیک به Edge AI: های معماری میان Cloud و Edge را درک کنید. ما دقیقاً بررسی می‌کنیم چه زمانی باید پردازش را به دستگاه منتقل کرد تا مشکلات تأخیر، حریم خصوصی داده و هزینه‌های تکرارشونده cloud برطرف شوند.
• مرور عمیق Small Language Models (SLMs): یک تحلیل فنی از چشم‌انداز SLMها (Phi ،Gemma ،Llama، Mistral) و این‌که چرا معماری آن‌ها را برای گوشی‌های هوشمند، تبلت‌ها و سیستم‌های IoT تعبیه‌شده مناسب می‌کند.
• تکنیک‌های بهینه‌سازی (روش اجرا): سازوکارهای اصلی Parameter-Efficient Fine-Tuning (PEFT) را بررسی می‌کنیم. شما درک خواهید کرد که LoRA و QLoRA چگونه برای سازگار کردن مدل‌ها با GPUهای مصرفی عمل می‌کنند، و Quantization (INT4/INT8) چگونه اندازه مدل را بدون نابود کردن عملکرد کاهش می‌دهد.
• Pipeline استقرار: نگاهی گام‌به‌گام به چرخه عمر یک مدل محلی؛ از آماده‌سازی dataset و انتخاب hyperparameterها تا تبدیل به فرمت‌های مناسب edge (مانند GGUF یا ONNX).
• سناریوهای تولید در دنیای واقعی: ما مطالعات موردی ملموس، از جمله طبقه‌بندی اسناد سازمانی و دستیارهای پشتیبانی آفلاین را بررسی می‌کنیم تا عملکرد این سیستم‌ها را از نظر مصرف حافظه، عمر باتری و سرعت inference ارزیابی کنیم.

این دوره برای چه کسانی مناسب است؟

• دانشجویان دانشگاه، فارغ‌التحصیلان bootcamp و توسعه‌دهندگان junior که از قبل Python پایه را می‌دانند و می‌خواهند بدون نیاز به آموزش مدل‌های عظیم از صفر، مسیری عملی برای ورود به AI کاربردی داشته باشند.
• بنیان‌گذاران غیر فنی، سازندگان استارتاپ و حرفه‌ای‌های آشنا با فناوری که هر روز کدنویسی نمی‌کنند اما می‌خواهند درک روشن و استراتژیکی از این داشته باشند که مدل‌های کوچک fine-tune شده چگونه می‌توانند به‌صورت خصوصی روی دستگاه‌های کاربر اجرا شوند.
• مهندسان نرم‌افزار، مهندسان ML و دانشمندان داده که می‌خواهند مدل‌های زبانی کوچک را مستقیماً روی دستگاه‌ها fine-tune و استقرار دهند، به‌جای این‌که فقط به APIهای ابری تکیه کنند.
• توسعه‌دهندگان backend، موبایل و embedded که علاقه‌مندند قابلیت‌های AI روی دستگاه را به اپلیکیشن‌های اجراشونده روی گوشی‌ها، تبلت‌ها یا سخت‌افزار edge اضافه کنند (طبقه‌بندی، دستیارها، اتوماسیون).
• لیدهای فنی، معماران، مدیران محصول و مدیران نوآوری که باید trade-offهای میان AI ابری و AI روی دستگاه را از نظر هزینه، تأخیر و حریم خصوصی ارزیابی کنند.
• فعالان AI/ML که به کار با مدل‌های بزرگ ابری (مثلاً از طریق APIها) عادت دارند و اکنون می‌خواهند LoRA، QLoRA ،quantization و استقرار edge را یاد بگیرند تا مهارت‌های خود را به‌روز کنند.