دفاع در برابر مهندسی اجتماعی مبتنی بر Gen AI

آنچه یاد خواهید گرفت:

• چگونه می‌توان مانع از تلاش‌های فیشینگ و مهندسی اجتماعی شد که با Gen AI انجام می‌شود؟
• چگونه می‌توان محتوای مولد، غلط و مصنوعی را شناسایی کرد؟
• چگونه می‌توان مکانیسم‌های دفاعی جدیدی در برابر این تهدیدات مولد ایجاد کرد؟
• چگونه می‌توان مکانیسم‌های دفاعی جدید را به سازمان فعلی خود یکپارچه کرد؟

پیش‌نیازهای دوره

• دانش اولیه از مهندسی اجتماعی و دفاع در برابر آن توصیه می‌شود. (مثلاً فیشینگ چیست و چگونه می‌توان از آن جلوگیری کرد)، اما ضروری نیست.
• دانش اولیه از اینکه Gen AI چیست و چه محتوایی می‌تواند ایجاد کند، توصیه می‌شود اما ضروری نیست.

توضیحات دوره

مراقب باشید، تحت تأثیر مهندسی اجتماعی قرار نگیرید.

مهندسی اجتماعی، مانند فیشینگ، یکی از بزرگ‌ترین مشکلات برای شرکت‌ها و کاربران در زمینه امنیت است و ظهور Gen AI، فقط این وضعیت را بدتر کرده است.

در دنیای امروز، شرکت‌ها و افراد باید بتوانند نه تنها در برابر مهندسی اجتماعی و فیشینگ مقاومت کنند، بلکه در زمانی که این موارد از Gen AI بهره می‌برند نیز مقاومت کنند که به معنای حملات سریع‌تر، در مقیاس‌های بزرگ‌تر و پیچیده‌تر است.

این دوره به شما یاد می‌دهد که چگونه از مهندسی اجتماعی محافظت کنید، زمانی که مهندسی اجتماعی با کمک Gen AI تسریع می‌شود.

اجازه دهید همه مطالب را برایتان توضیح دهیم.

برخی از افراد - از جمله ما - دوست دارند بدانند که چه چیزی در یک بسته وجود دارد.

بنابراین، در اینجا لیستی از همه آنچه دوره پوشش می‌دهد آمده است:

• شما با مبانی Gen AI و آنچه می‌تواند انجام دهد آشنا خواهید شد، از جمله مدل‌ها و خانواده‌های مدل‌های رایج، ویژگی‌های محتوای مولد و نحوه سواستفاده از آن به دلیل بی‌توجهی یا بدخواهی فعال (از جمله سوگیری‌ها، اطلاعات نادرست، جعل هویت و غیره)
• شما با مبانی مهندسی اجتماعی و آنچه شامل آن است (دستکاری کسی برای دسترسی به اطلاعاتی که به‌ طور معمول به آنها دسترسی ندارید) آشنا خواهید شد، از جمله رویکردهای متداول و واقعیت‌هایی که آن را امکان‌پذیر می‌سازند (نرم‌های اجتماعی، ضعف امنیت عملیاتی و غیره)
• شما با مبانی مهندسی اجتماعی با Gen AI آشنا خواهید شد، از جمله نحوه تسریع این رویکردها (حملات پیچیده‌تر، حملات سریع‌تر، در مقیاس‌های بزرگ‌تر با هدف‌گذاری میکرو)، رویکردهای اصلی که تحت تأثیر قرار می‌گیرند (مانند جعل هویت یا بهانه‌های متقاعدکننده‌تر) و مکانیزم‌های دفاعی اصلی که نیز تحت تأثیر قرار می‌گیرند (مکانیسم‌های پیچیده تشخیص، احرازهویت چندعاملی، تحلیل رفتاری، IR سریع‌تر و غیره)
• شما با انواع اصلی محتوای مولد که در حملات مهندسی اجتماعی استفاده می‌شود آشنا خواهید شد (متن، تصویر، صدا و ویدئو)، از جمله رویکردهای خاص که هر یک از آنها بهره می‌برند، الزامات آموزش مدل و داده‌ مورد نیاز برای آموزش چنین مدل‌هایی برای مهاجمین و نحوه شناسایی هر نوع
• شما با متون مولد آشنا خواهید شد، از جمله مدل‌هایی که آنها را فعال می‌سازند (مانند LLMs)، کانال‌های توزیع معمول (پیام‌ها، ایمیل‌ها، پروفایل‌های شبکه‌های اجتماعی)، داده‌ مورد نیاز برای آموزش چنین مدل‌هایی (نمونه‌های متنی، از جمله نمونه‌های خاص) و نحوه شناسایی آنها (عدم تطابق در فکت‌ها، شناسایی استایل‌ها و الگوهای خاص متن، شناسایی الگوهای دستکاری احساسی)
• شما با تصاویر مولد آشنا خواهید شد، از جمله مدل‌هایی که آنها را فعال می‌سازند (مانند GANs، مدل‌های انتشار، VAEs)، کانال‌های توزیع معمول (شبکه‌های اجتماعی یا پلتفرم‌های خاص، مانند مستندات جعلی)، داده‌ مورد نیاز برای آموزش چنین مدل‌هایی (مجموعه‌ای از تصاویر، ممکن است شامل افراد خاص یا مستندات باشد) و نحوه شناسایی آنها (آرتیفکت‌ها، عناصری که با یکدیگر ادغام می‌شوند، جستجوی تصویر معکوس و غیره)
• شما با صداهای مولد آشنا خواهید شد، از جمله مدل‌هایی که آنها را فعال می‌سازند (مانند مدل‌های TTS و GAN)، کانال‌های توزیع معمول (تماس‌های VoIP یا سلولی، اپلیکیشن‌های پیام‌رسان، پست‌های شبکه‌های اجتماعی)، داده‌ مورد نیاز برای آموزش چنین مدل‌هایی (نمونه‌های صوتی، ممکن است شامل فرد خاصی باشد) و نحوه شناسایی آنها (عدم تطابق در الگوهای گفتاری، لهجه، تن صدا یا با detectors خودکار)
• شما با ویدئوهای مولد آشنا خواهید شد، از جمله مدل‌هایی که آنها را فعال می‌سازند (مانند GANs، مدل‌های ویدئویی یادگیری عمیق، مدل‌های انتقال حرکت)، کانال‌های توزیع معمول (پلتفرم‌های ویدئویی مانند یوتیوب و Vimeo، شبکه‌های اجتماعی مانند فیسبوک، ای‌جی و تیک‌تاک یا نشریات و رسانه‌های خبری)، داده‌ مورد نیاز برای آموزش چنین مدلی (مجموعه‌های متنوعی از فوتیج‌ها، ممکن است شامل فرد یا موقعیت خاصی باشد) و نحوه شناسایی آنها (عدم تطابق در حرکات دست، حالات چهره، عدم همزمانی در حرکت لب‌ها و غیره)
• شما با رویکرد جعل هویت پیشرفته آشنا خواهید شد، جایی که کلاهبرداران به جای یک شخص، مثلاً از طریق متن یا یک دیپ‌فیک صوتی و ویدئویی جعل هویت می‌کنند، همچنین خواهید آموخت که این کار چگونه انجام می‌شود، عواقب خاص آن و نحوه دفاع در برابر آن
• شما با رویکرد شخصی‌سازی‌های فوق‌العاده آشنا خواهید شد، جایی که کلاهبرداران پیام‌ها یا طعمه‌هایی ایجاد می‌کنند که به سلیقه یا ترجیحات خاص فرد هدف‌گذاری می‌شود، همچنین خواهید آموخت که این کار چگونه انجام می‌شود، عواقب خاص آن و نحوه دفاع در برابر آن
• شما با رویکرد دستکاری احساسی آشنا خواهید شد، جایی که کلاهبرداران محتوایی ایجاد می‌کنند که شخصی را از نظر احساسی (مثبت یا منفی) قطبی می‌کند تا او را وادار به اتخاذ یک تصمیم عجولانه بدون استفاده از منطق کنند، همچنین خواهید آموخت که این کار چگونه انجام می‌شود، عواقب خاص آن و نحوه دفاع در برابر آن
• شما با رویکرد بهانه‌تراشی پیشرفته آشنا خواهید شد، جایی که کلاهبردار از یک عذر و بهانه برای به‌دست آوردن اطلاعات استفاده می‌کند - اما یک بهانه بسیار واقع‌گرایانه که با Gen AI ایجاد شده است - همچنین خواهید آموخت که این کار چگونه انجام می‌شود، عواقب خاص آن و نحوه دفاع در برابر آن
• شما با حملات خودکار و قابلیت مقیاس‌پذیر آشنا خواهید شد، جایی که کلاهبرداران به سادگی با راه‌اندازی حملات به صورت انبوه، از طریق به هم ریختن دفاع‌ها، موجب اختلال و فشار بر منابع می‌شوند، همچنین خواهید آموخت که این کار چگونه انجام می‌شود، عواقب خاص آن و نحوه دفاع در برابر آن
• شما با دفاع از سازمان خود با آگاهی و آموزش آشنا خواهید شد، اما به‌طور خاص آموزش کارکنان در مورد رویکردهای خاص مهندسی اجتماعی که از Gen AI بهره می‌برند، همچنین شامل این موارد در برنامه‌های آموزشی و ایجاد انگیزه برای کارکنان برای ابراز تردید و گزارش موارد مشکوک بدون واکنش منفی
• شما با دفاع از سازمان خود با تأیید متن، اعتبارسنجی فکت‌ها و کانتکس در ارتباطات ارسال شده، چه به‌صورت جستجوی دستی و چه بازیابی خودکار فکت‌ها، آشنا خواهید شد، همچنین با اشاره‌گرهایی که می‌توانند برای شناسایی تناقض‌های مشکوک در متن مولد به‌ کار روند (در نتایج‌گیری‌ها، در فکت‌ها، در عدم تطابق ممکن با ارتباطات مشابه و غیره)
• شما با دفاع از سازمان خود با تحلیل رفتار آشنا خواهید شد، تحلیل ایما و اشاره‌ها و عدم تطابق‌ها در الگوهای سخنرانی فرد، حالات چهره، زبان بدن و حرکات دست و پا، شناسایی نشانه‌های مشخصی از صوت و ویدئوی تولید شده توسط هوش مصنوعی
• شما با دفاع از سازمان خود با استفاده از اقدامات اعتبارسنجی آشنا خواهید شد - عملی که استاندارد است، اما در دنیایی که کلاهبرداران می‌توانند به‌صورت واقع‌گرایانه شبیه به فردی شوند، دیگر کافی نیست.
• شما با دفاع از سازمان خود با دفاع‌های تکنولوژیکی آشنا خواهید شد که می‌توانند برخی از تسک‌های شناسایی و حذف محتوای مولد را خودکار کنند، از جمله ابزارهای تحلیل محتوا، detectors خودکار دیپ‌فیک و یا ابزارهای تحلیل رفتاری که می‌توانند ناهنجاری‌ها را در رفتار شناسایی کنند.
• شما با دفاع از سازمان خود با سیاست‌ها و فرهنگ آشنا خواهید شد، تعریف انواع خاص تهدیدات مولد و کنترل‌ها برای هر یک، تعریف فرآیندهای سخت با هیچ گونه استثنایی و ترویج فرهنگ گزارش دادن اقدامات مشکوک (حتی در مورد مشتریان و مدیران سطح بالا)
• ما با تغییراتی که در استراتژی دفاعی یک سازمان به دلیل تهدیدات Gen AI ایجاد می‌شود، آشنا خواهید شد - کدام مکانیسم‌های دفاعی در این «جهان جدید» باقی می‌مانند و کدام مکانیسم‌های دفاعی به‌طور اضافی به دلیل تهدیدات مولد جدید ضرورت پیدا می‌کنند.
• شما با بررسی کلی از شناسایی و طبقه‌بندی حملات برای تهدیدات مولد آشنا خواهید شد، از جمله محاسبه سطوح ریسک برای تهدیدات مولد، اولویت‌بندی این تهدیدات و مدیریت آنها همچنین فرآیند کلی شناسایی و یکپارچه‌سازی این تهدیدات در سازمان
• شما با بررسی کلی از پاسخ به حملات مهندسی اجتماعی و بازیابی آنها با Gen AI آشنا خواهید شد، از جمله مراحلی مانند محاصره یا کاهش این تهدیدات، انجام تحقیقات عمیق، بازیابی از آنها و ایجاد تغییر در مکانیسم‌های دفاعی بر اساس بازخورد

این دوره برای چه کسانی مناسب است؟

• مهندسان امنیت سایبری که روی جلوگیری از فیشینگ و مهندسی اجتماعی تمرکز دارند.
• متخصصان حفظ حریم خصوصی و امنیت داده‌ که می‌خواهند از داده‌ سازمان خود بهتر محافظت کنند.
• کارکنان هر سازمانی که می‌خواهند در برابر فیشینگ بهتر محافظت شوند.