امنیت سایبری GenAI: آموزش 10 نکته برتر OWASP ،MITRE ATLAS و حملات API

آنچه یاد خواهید گرفت:

• درک مفاهیم اصلی مدل‌های زبان بزرگ (LLMs) با نمونه‌های واقعی و پیامدهای امنیتی
• تحلیل معماری یک سیستم LLM، شامل لایه‌های اپلیکیشن، ادغام، مدل و زیرساخت
• شناسایی سطوح حمله کلیدی در سیستم‌های LLM و بررسی آسیب‌پذیری‌های ایجاد شده توسط APIها، نمایش عمومی و پیکربندی نادرست
• مقابله با حوادث واقعی (مانند OpenAI در مقابل DeepSeek) در چارچوب‌های MITRE ATT&CK/ATLAS و استخراج درس‌های امنیتی.
• انجام تست امنیتی عملی بر روی APIهای LLM با ابزارهایی مثل curl browser و شبیه‌سازی حملات رایج LLM
• یادگیری مهارت‌های عملی آزمایشگاهی از طریق تمرینات PortSwigger متمرکز بر امنیت LLM

پیش نیازهای دوره

• نیازی به تجربه پیشین در امنیت سایبری یا هوش مصنوعی نیست.
• این دوره برای مبتدیان طراحی شده و شامل توضیحات گام‌به‌گام، مثال‌های واقعی و راهنمایی‌های آزمایشگاهی است.
• آشنایی با مفاهیم اولیه فناوری (مرورگرها، APIها) مفید است اما الزامی نیست.

توضیحات دوره

دنیای امنیت سایبری GenAI را با این دوره قابل دسترسی برای مبتدیان اما در عین حال جامع کشف کنید. چه شما علاقه‌مند به امنیت سایبری، توسعه‌دهنده AI یا دانشجوی فناوری اطلاعات باشید، این دوره دانش نظری و عملی کاملی برای امن‌سازی مدل‌های زبان بزرگ (LLMs) – یک کامپوننت حیاتی از اکوسیستم Generative AI امروز ارائه می‌کند.

ما با یک بررسی عمیق نظری در مورد ساختار LLMها آغاز می‌کنیم که با استفاده از معماری Transformer ساخته شده‌اند و به تکامل شبکه‌های عصبی از RNNها تا Transformers می‌پردازیم. شما درک محکمی از نوآوری‌های زیر به دست می‌آورید:

• کدگذاری موقعیتی
• توجه خودآگاه
• توجه چندسر

سپس ساختار یک سیستم LLM را تحلیل می‌کنیم، شامل:

• لایه اپلیکیشن
• لایه مدل AI
• لایه ادغام

بعد، تمرکزمان بر سطوح حمله امنیتی GenAI LLM می‌ماند، که از دو دیدگاه بررسی می‌شود:

• ریسک‌های طرف مصرف‌کننده (مثلاً تزریق پرامپت، نشت داده)
• آسیب‌پذیری‌های طرف ارائه‌دهنده (مثلاً دزدی مدل، اندپوینت های ناامن)

شما به بررسی 10 نکته برتر OWASP برای LLMها و چگونگی نگاشت تهدیدها با استفاده از چارچوب MITRE ATLAS می‌پردازید.

این دوره شامل نمایش‌های عملی حمله همراه با توضیحات است:

• خطای پیکربندی API OLLAMA و نمایش راه‌حل (با پراکسی معکوس NGINX)
• آزمایشگاه PortSwigger: اکسپلویت کردن از APIهای LLM با اختیارات بیش از حد

ما همچنین مطالعات موردی واقعی را بررسی می‌کنیم تا یادگیری را قابل ارتباط و عملی کنیم:

• OpenAI در مقابل DeepSeek – ریسک‌های استخراج و دزدی مدل
• Microsoft Tay – مسموم‌سازی خروجی و نبودن نظارت
• سازمان Wiz با لاگ‌های افشا شده – نشت پرامپت و داده
• چت‌بات  Chevrolet AI – اختیارات غیرمنتظره در دنیای واقعی
• API Ollama – اندپوینت های افشا شده بدون احراز هویت

در نهایت، با نکات شغلی و راهنمایی برای حرفه‌ای‌های آینده‌دار امنیت سایبری GenAI و LLM پایان می‌دهیم، شامل:

• چگونه اصول خود را در AI/ML بسازید؟
• نقش امنیت سایبری در تقاطع GenAI
• استراتژی‌های تمرین عملی
• افزایش حضور آنلاین با اعتبار

موضوعات

• امنیت سایبری GenAI
• مدل‌های زبان بزرگ (LLMs)
• Generative AI
• معماری Transformer
• توجه خودآگاه، توجه چندسر
• سازماندهی یک سیستم LLM
• سطوح حمله LLM
• 10 نکته برتر OWASP برای LLMها
• چارچوب MITRE ATLAS
• نمایش‌های عملی
• OpenAI در مقابل DeepSeek
• APIهای LLM با اختیارات بیش از حد

این دوره برای چه کسانی مناسب است؟

• مبتدیان و حرفه‌ای‌های امنیت سایبری که می‌خواهند امنیت AI را درک کنند.
• دانشجویان و مهندسان کنجکاو درباره LLMها و چگونگی محافظت از آن‌ها
• توسعه‌دهندگانی که LLMها را در اپلیکیشن ها ادغام می‌کنند و می‌خواهند پایپ لاین های خود را امن کنند.
• هر کسی که به آینده ایمنی AI و آزمایشگاه‌های امنیتی عملی علاقه‌مند است.