قابلیت توضیح مدل‌های جعبه سیاه

آنچه یاد خواهید گرفت:

مدل‌های پیچیده‌ی هوش مصنوعی اغلب به‌عنوان «جعبه‌های سیاه» عمل می‌کنند و چالش‌های واقعی برای اشکال‌زدایی، ارتباط با ذینفعان و استقرار اخلاقی ایجاد می‌کنند.

در این دوره، قابلیت توضیح مدل‌های جعبه سیاه، شما شروع به درک دلیل تصمیم‌گیری‌های خاص هوش مصنوعی خود خواهید کرد و نور بر این سیستم‌های پیچیده انداخته می‌شود.

ابتدا ویژگی‌ها و چالش‌های ذاتی مدل‌های جعبه سیاه مانند SVMها و شبکه‌های عصبی را بررسی می‌کنید و درک می‌کنید چرا قابلیت توضیح در چشم‌انداز هوش مصنوعی امروز از ایجاد اعتماد تا تضمین عدالت کاملاً حیاتی است.

سپس روش‌های مختلف برای قابل‌فهم کردن مدل‌ها را کشف می‌کنید، تفاوت بین تکنیک‌های post-hoc و ذاتی را می‌فهمید و می‌بینید چرا آخرین‌ها برای مدل‌های پیچیده‌ای که معمولاً به آن‌ها تکیه می‌کنیم ضروری هستند.

در نهایت یاد می‌گیرید چگونه تکنیک‌های کلیدی توضیح  به‌ویژه LIME برای بینش‌های محلی شهودی و SHAP برای توضیح‌های قوی و پشتیبانی‌شده توسط نظریه بازی در رفتار مدل شما را به‌کار ببرید و ارزیابی کنید.

وقتی این دوره را تمام کنید، مهارت‌ها و دانش پایه‌ای لازم برای انتخاب و اعمال روش‌های مناسب توضیح را خواهید داشت، که به شما امکان می‌دهد درک، اشکال‌زدایی و ارتباط درباره نحوه تصمیم‌گیری مدل‌های پیچیده هوش مصنوعی خود را داشته باشید.