آشنایی با Adversarial AI

آنچه یاد خواهید گرفت:

مدل‌های یادگیری ماشین به طور فزاینده‌ای در کاربردهای حیاتی مستقر می‌شوند، با این حال در برابر دستکاری‌های نامحسوس که می‌توانند منجر به شکست‌های چشمگیر شوند، آسیب‌پذیر باقی می‌مانند. در این دوره، "آشنایی با (Adversarial AI)"، یاد خواهید گرفت که چگونه راه‌های اصلی حمله خصمانه به سیستم‌های هوش مصنوعی مدرن را شناسایی و درک کنید.

ابتدا، مفاهیم اساسی پشت نمونه‌های خصمانه (adversarial examples)، شامل اختلالات (perturbations)، حملات گریز (evasion attacks) و تکنیک‌های مسموم‌سازی (poisoning techniques) را بررسی خواهید کرد. سپس، کشف خواهید کرد که چگونه از ابزارهای استاندارد صنعتی مانند CleverHans و ART برای شبیه‌سازی حملات واقعی بر شبکه‌های عصبی استفاده کنید. در نهایت، یاد خواهید گرفت که چگونه مدل‌های جعبه سیاه (black-box models) را می‌توان از طریق تکنیک‌های استخراج مدل (model extraction) مهندسی معکوس کرد.

هنگامی که این دوره را به پایان برسانید، مهارت‌ها و دانش adversarial AI را خواهید داشت که برای درک بهتر آسیب‌پذیری‌های امنیتی در سیستم‌های یادگیری ماشین خود و برداشتن اولین گام‌ها برای محافظت از آنها لازم است.