بررسی عمیق LLM در Red Teaming

آنچه یاد خواهید گرفت:

• شناسایی و اکسپلویت از آسیب‌پذیری‌های رایج LLM مانند تزریق پرامپت و jailbreak
• طراحی و اجرای سناریوهای red teaming برای تست رفتار مدل‌های هوش مصنوعی تحت حمله
• تحلیل و بای پس کردن دفاع‌های سطح سیستمی در LLMها با استفاده از تاکتیک های پیشرفته دستکاری
• ساخت چارچوب تست برای خودکارسازی کشف ضعف‌های امنیتی در مدل‌های زبانی

پیش‌نیازهای دوره

• داشتن درک اولیه از عملکرد مدل‌های زبان بزرگ (LLM) مفید است ولی الزامی نیست.
• نیاز به تجربه قبلی در امنیت سایبری نیست؛ مفاهیم red teaming از ابتدا آموزش داده می‌شود.
• کنجکاوی برای بررسی چگونگی حمله، تست و محافظت از سامانه‌های هوش مصنوعی!

توضیحات دوره

به دوره LLM در Red Teaming: هک و امن‌سازی مدل‌های زبان بزرگ خوش آمدید - این دوره عملی و تخصصی برای فعالان حوزه هوش مصنوعی، علاقه‌مندان امنیت سایبری و تیم‌های red team طراحی شده است که می‌خواهند وارد دنیای پیشرفته آسیب‌پذیری‌های AI شوند.

این دوره شما را به دنیای امنیت LLM می‌برد و چگونگی حمله و دفاع در برابر مدل‌های زبان بزرگ را با استفاده از تکنیک‌های کاربردی نشان می‌دهد. با مفاهیمی چون تزریق پرامپت، jailbreak، حملات غیرمستقیم پرامپت و دستکاری پیام‌های سیستمی آشنا خواهید شد. چه به عنوان یک red team بخواهید سیستم‌های AI را تحت فشار قرار دهید، چه توسعه‌دهنده‌ای که قصد ساخت اپلیکیشن های امن‌تر بر پایه LLMها را دارد، این دوره ابزارهای لازم برای تفکر مانند یک مهاجم و دفاع مانند یک متخصص را به شما می‌دهد.

در این مسیر، سناریوهای تزریق مستقیم و غیرمستقیم را بررسی می‌کنیم، نشان می‌دهیم چگونه اکسپلویت‌های مبتنی بر پرامپت ساخته می‌شوند و به تاکتیک‌های پیشرفته‌ای مانند دستکاری چندمرحله‌ای و تعبیه قصد مخرب در ورودی‌های ظاهراً بی‌خطر کاربر می‌پردازیم. همچنین می‌آموزید چگونه چارچوب‌های تست خود را طراحی کنید و با استفاده از ابزارهای متن‌باز روند کشف آسیب‌پذیری‌ها را خودکارسازی نمایید.

در پایان این دوره، اصول قوی در تست‌های مقابله‌ای خواهید داشت. درکی از چگونگی اکسپلویت از LLMها به دست می‌آورید و قادر خواهید بود سیستم‌های هوش مصنوعی مقاوم‌تری بسازید.

اگر واقعاً به تسلط به جنبه‌های هجومی و دفاعی هوش مصنوعی علاقه‌مندید، این دوره مختص شماست.

این دوره برای چه کسانی مناسب است؟

• علاقه‌مندان به هوش مصنوعی، مهندسان پرامپت، هکرهای اخلاقی و توسعه‌دهندگانی که نسبت به امنیت LLM و red teaming کنجکاو هستند.
• یادگیرندگان مبتدی تا متوسط که مایل به کسب تجربه عملی در زمینه تست و نفوذ به مدل‌های زبان بزرگ هستند.
• افرادی که اپلیکیشن های مبتنی بر LLM را توسعه می‌دهند یا مستقر می‌کنند و می‌خواهند تهدیدات واقعی را شناخته و دفاع کنند.