نظارت و نگهداری سیستم‌های GenAI

آنچه یاد خواهید گرفت:

• تفسیر معیارهای سیستم و مدل برای نظارت بر رفتار GenAI
• شناسایی و واکنش به تغییرات مدل و توهم‌ها
• استفاده از Prometheus و Weights & Biases برای مشاهده‌پذیری 
• ساخت مسیرهای حسابرسی و هماهنگی نظارت با حاکمیت
• اعمال استراتژی‌های MLOps و DevOps در عملیات GenAI
• درک چگونگی تأثیر عملکرد GenAI بر نتایج کسب‌وکار

پیش نیازهای دوره

• تجربه اولیه با سیستم‌های GenAI لازم است؛ آشنایی اولیه با سیستم‌های نرم‌افزاری و مفاهیم هوش مصنوعی مفید است اما اجباری نیست.

توضیحات دوره

سیستم‌های Generative AI قدرتمند، پویا و به طور فزاینده‌ای در عملیات روزمره کسب‌وکارها ادغام شده‌اند. اما همزمان غیرقابل پیش‌بینی، پیچیده برای نظارت و دشوار برای نگهداری در طول زمان هستند. این دوره به شما کمک می‌کند مهارت‌ها و ذهنیت لازم برای نظارت، ارزیابی و نگهداری سیستم‌های GenAI در محیط‌های تولید لایو را بسازید.

در این دوره، یاد می‌گیرید چگونه سیگنال‌های کلیدی عملکرد مانند تأخیر، توان عملیاتی، مصرف توکن، نرخ توهم و بازخورد کاربران را تفسیر و بر اساس آن‌ها اقدام کنید. همچنین، چگونگی طراحی لایه‌های مشاهده‌پذیری فراتر از معیارهای سنتی را بررسی خواهید کرد که شامل نظارت زیرساختی (با ابزارهایی مانند Prometheus و Grafana) و نظارت محور مدل (با Weights & Biases) است.

ما همچنین روش‌های ساختاریافته‌ای برای شناسایی و پاسخ به مسائلی مانند تغییر مدل، شکست در پرامپت‌ها یا کاهش کیفیت بررسی خواهیم کرد. یاد می‌گیرید چگونه سلامت سیستم را با نتایج کسب‌وکار هماهنگ کنید و اطمینان حاصل کنید که دستیار GenAI شما به مرور زمان مرتبط، قابل اعتماد و مورد اعتماد باقی می‌ماند.

برای عملی و ملموس کردن آموزش، داستان InsightBot، یک سیستم GenAI توسعه یافته توسط یک شرکت فرضی به نام GenPrompt Solutions Inc، را دنبال خواهید کرد. خواهید دید که چگونه InsightBot نظارت، حسابرسی، بروزرسانی و بهینه‌سازی می‌شود و بخشی از چرخه عمر سیستم است.

در پایان این دوره، یاد می‌گیرید چگونه لاگ کردن و مسیرهای حسابرسی را پیاده‌سازی کنید، چرخه‌های آموزش مجدد و استقرار را خودکار کنید و از حلقه‌های بازخورد برای بهبود مداوم پشتیبانی نمایید. همچنین با بهترین شیوه‌های MLOps و DevOps برای GenAI آشنا خواهید شد و می‌فهمید چگونه مشاهده‌پذیری فنی را با حاکمیت اخلاقی هوش مصنوعی و استراتژی کسب‌وکار متصل کنید.

این دوره برای دانشمندان داده، مهندسان یادگیری ماشین، معماران هوش مصنوعی، متخصصان DevOps و رهبران فنی که با سیستم‌های GenAI کار می‌کنند ایده‌آل است. نیازی به تجربه قبلی با ابزارهای نظارتی نیست. دوره به صورت گام‌به‌گام شما را راهنمایی می‌کند.

اگر آماده‌اید از ساخت سیستم‌های GenAI به اجرای آن‌ها با اطمینان و مسئولیت‌پذیری بروید، این دوره گام بعدی شماست.

این دوره برای چه کسانی مناسب است؟

• این دوره برای دانشمندان داده، مهندسان یادگیری ماشین، توسعه‌دهندگان نرم‌افزار، متخصصان DevOps و معماران سیستم هوش مصنوعی که مسئول نگهداری سیستم‌های GenAI هستند مناسب است.
• همچنین برای مدیران محصول و رهبران فنی که به دنبال درک سلامت سیستم GenAI، مشاهده‌پذیری و استراتژی‌های نگهداری بلندمدت هستند، ارزشمند است.