10 آسیب‌پذیری برتر OWASP برای LLMs

آنچه یاد خواهید گرفت:

پذیرش سریع مدل‌های زبانی بزرگ چالش‌های امنیتی منحصر به فردی را به همراه دارد، از جمله آسیب‌پذیری‌هایی که می‌توانند داده‌ حساس را افشا کنند، عملیات را مختل سازند یا اعتماد را به خطر اندازند. در این دوره، "10 آسیب‌پذیری برتر OWASP برای LLMs"، شما یاد می‌گیرید که چگونه این تهدیدات را شناسایی، کاهش و از آنها پیشگیری کنید.

ابتدا، 10 آسیب‌پذیری برتر OWASP برای LLMs را بررسی خواهید کرد و درکی از حیاتی‌ترین ریسک‌ها در سیستم‌های هوش مصنوعی بدست می‌آورید. در ادامه، کشف می‌کنید که چگونه استراتژی‌های عملی را برای محافظت در برابر حملات رایج، مانند تزریق پرامپت (prompt injection)، مدیریت خروجی ناامن (insecure output handling)، و آسیب‌پذیری‌های افزونه (plugin vulnerabilities)، اعمال کنید.

در نهایت، یاد می‌گیرید که چگونه تکنیک‌های کاهش فعال (proactive mitigation techniques) را برای ساخت اپلیکیشن‌های LLM ایمن، قابل اعتماد و مقاوم پیاده‌سازی کنید. پس از اتمام این دوره، شما مهارت‌ها و دانش لازم در مورد امنیت LLM را برای محافظت از سیستم‌های هوش مصنوعی محور خود در برابر تهدیدات دنیای واقعی خواهید داشت.