چشم‌انداز تهدیدات سیستم‌های هوش مصنوعی

آنچه یاد خواهید گرفت:

• یادگیری اصول و راهنمایی‌های اخلاقی بنیادی که بر توسعه و استقرار سیستم‌های هوش مصنوعی حاکم است.
• بررسی نحوه یکپارچه‌سازی انصاف، شفافیت، پاسخگویی و فراگیری در سیستم‌های هوش مصنوعی
• کسب توانایی در شناسایی انواع مختلف ریسک‌های امنیتی و تهدیدات خاص سیستم‌های هوش مصنوعی، از جمله حملات تخاصمی و نقض داده‌
• توسعه استراتژی‌ها و بهترین شیوه‌ها برای کاهش ریسک‌ها به‌ منظور اطمینان از پایداری و قابلیت اطمینان مدل‌های هوش مصنوعی
• بررسی تکنیک‌های پیشرفته‌ مانند حریم خصوصی تفاضلی، آموزش فدرال و رمزگذاری همومورفیک برای حفاظت از داده‌ حساس

پیش‌نیازهای دوره

• آشنایی با مفاهیم کلیدی، اصطلاحات و اصول اولیه هوش مصنوعی و یادگیری ماشین
• درک نحوه آموزش، اعتبارسنجی و استقرار مدل‌های هوش مصنوعی
• دانش اولیه درباره جمع‌آوری، پیش‌پردازش و تکنیک‌های تحلیل داده
• درک اصول و شیوه‌های اساسی امنیت سایبری
• آگاهی از تهدیدات امنیتی رایج، مانند بدافزار، فیشینگ و نقض داده‌
• توانایی تحلیل مشکلات پیچیده و تفکر انتقادی درباره راه‌حل‌های ممکن

توضیحات دوره

سیستم‌های هوش مصنوعی (AI) به‌ طور فزاینده‌ای در صنایع حیاتی، از جمله مراقبت‌های بهداشتی تا امور مالی، یکپارچه شده‌اند. با این حال، این سیستم‌ها با چالش‌های امنیتی فزاینده‌ای از حملات تخاصمی و آسیب‌پذیری‌ها مواجه هستند. دوره «چشم‌انداز تهدیدات سیستم‌های هوش مصنوعی» یک بررسی عمیق از تهدیدات امنیتی است که سیستم‌های هوش مصنوعی مدرن با آن روبرو هستند. این امر شامل انواع مختلفی از حملات، از جمله فرار، poisoning، معکوس‌سازی مدل و موارد دیگر می‌شود. این مجموعه دوره‌ها به شما دانش و ابزارهایی را ارائه می‌دهند تا سیستم‌های هوش مصنوعی را در برابر طیف گسترده‌ای از اکسپلویت‌های تخاصمی شناخته و از آنها دفاع کنید.

شرکت‌کنندگان به بررسی موارد زیر خواهند پرداخت:

• حملات فرار - چگونه دستکاری‌های ظریف ورودی می‌توانند سیستم‌های هوش مصنوعی را فریب دهند و باعث دسته‌بندی نادرست شوند؟
• حملات Poisoning - چگونه مهاجمان داده‌ آموزشی را خراب می‌کنند تا رفتار مدل را تغییر داده و دقت را کاهش دهند؟
• حملات معکوس‌سازی مدل - چگونه داده‌ ورودی حساس می‌تواند از خروجی یک مدل بازسازی شود که منجر به نقض حریم خصوصی می‌شود؟
• دیگر بردارهای حمله - شامل استخراج داده، استنتاج عضویت و حملات بکدور 

علاوه بر این، دوره شامل موارد زیر است:

• تأثیر حملات تخاصمی - اثرات این تهدیدات بر صنایعی چون شناسایی چهره، وسایل نقلیه خودران، مدل‌های مالی و هوش مصنوعی مراقبت‌های بهداشتی
• تکنیک‌های کاهش ریسک - استراتژی‌هایی برای دفاع از سیستم‌های هوش مصنوعی، از جمله آموزش حملات تخاصمی، حریم خصوصی تفاضلی، رمزگذاری مدل و کنترل‌های دسترسی
• مطالعات موردی واقعی - تحلیل مثال‌های برجسته از حملات تخاصمی و نحوه کاهش آنها

از طریق ترکیبی از دروس، مطالعات موردی، تمرینات عملی و ارزیابی‌ها، دانشجویان درکی عمیق از چشم‌انداز تهدید کنونی و آینده سیستم‌های هوش مصنوعی کسب خواهند کرد. آنها همچنین یاد خواهند گرفت که چگونه شیوه‌های امنیتی نوآورانه را برای ایمن‌سازی مدل‌های هوش مصنوعی از حمله به‌ کار ببرند.

این دوره برای چه کسانی مناسب است؟

• افرادی که در حال آمادگی برای مشاغل در حوزه هوش مصنوعی، یادگیری ماشین یا امنیت سایبری هستند و می‌خواهند اطلاعات کاملی از بهترین شیوه‌های اخلاقی و امنیتی داشته باشند.
• دانشمندان داده، مهندسان یادگیری ماشین و محققان هوش مصنوعی که به دنبال عمیق‌تر کردن درک خود از اخلاق و شیوه‌های امنیتی هوش مصنوعی هستند.
• حرفه‌ای‌هایی که مدل‌های هوش مصنوعی را طراحی، توسعه و مستقر می‌کنند و نیاز دارند که اطمینان حاصل کنند این سیستم‌ها اخلاقی، ایمن و مطابق با مقررات هستند.
• حرفه‌ای‌های امنیت سایبری که می‌خواهند دانش خود را گسترش دهند تا شامل چالش‌ها و تهدیدات منحصربه‌فرد سیستم‌های هوش مصنوعی شود.
• حرفه‌ای‌هایی که مسئول اطمینان از انطباق سازمانی با قوانین و مقررات حفاظت از داده‌ هستند.
• افرادی که مسئول پیاده‌سازی تکنیک‌های حفظ حریم خصوصی و حفظ محرمانگی و یکپارچگی داده‌ استفاده شده در سیستم‌های هوش مصنوعی هستند.
• رهبرانی که نیاز دارند تا الزامات اخلاقی و امنیتی هوش مصنوعی را درک کنند تا تصمیم‌گیری و توسعه سیاست‌های استراتژیک را هدایت کنند.
• افرادی که در کمیته‌های اخلاقی، دپارتمان‌های انطباق یا نهادهای نظارتی کار می‌کنند و نیاز به ارزیابی و نظارت بر پروژه‌های هوش مصنوعی دارند.
• حرفه‌ای‌هایی که تأثیر اخلاقی فناوری‌های هوش مصنوعی را ارزیابی کرده و اطمینان حاصل می‌کنند که آنها مطابق با راهنمایی‌های اخلاقی و استانداردهای مقرراتی هستند.
• افراد دانشگاهی که در حال مطالعه هوش مصنوعی، اخلاق، امنیت سایبری یا زمینه‌های مربوطه هستند و می‌خواهند ملاحظات اخلاقی و امنیتی را در تحقیق خود بگنجانند.
• محققانی که بر توسعه متدولوژی‌ها و چارچوب‌های جدید برای هوش مصنوعی اخلاقی و ایمن تمرکز دارند.
• دانشجویان تحصیلات تکمیلی یا کارشناسی ارشد پیشرفته در علوم رایانه، علم داده، امنیت سایبری یا زمینه‌های مربوطه که به دنبال تخصص در اخلاق و امنیت هوش مصنوعی هستند.