پردازش زبان طبیعی و مدل‌های ترنسفورمر

آنچه یاد خواهید گرفت

پردازش زبان طبیعی در مرکز بسیاری از ابزارهای مبتنی بر هوش مصنوعی که امروزه استفاده می‌کنید، مانند چت بات ها، دستیاران صوتی، ترجمه و موتورهای خلاصه‌سازی قرار دارد. درک چگونگی عملکرد پردازش زبان طبیعی (NLP) در پشت صحنه ممکن است بدون معرفی ساختارمند آن دشوار باشد. در این دوره، پردازش زبان طبیعی و مدل‌های ترنسفورمر، می توانید مهارت‌های پایه‌ای برای کار در تکنیک‌های مدرن NLP و معماری‌های ترنسفورمر را به دست آورید.

ابتدا، مبانی پردازش زبان طبیعی را بررسی کرده و درک می‌کنید که داده‌های متنی چگونه از طریق سیستم‌های مبتنی بر قواعد و مدل‌های یادگیری ماشین پردازش می‌شوند. تکنیک‌های سنتی را با رویکردهای مدرن مبتنی بر یادگیری ماشین مقایسه می‌کنید.

سپس به عناصر کلیدی مدل‌های ترنسفورمر، از جمله self-attention ،multi-head attention، و شبکه‌های عصبی پیش‌خور پرداخته و می‌آموزید که چگونه این معماری‌ها تسک های NLP را متحول کرده اند. در نهایت، این مفاهیم را از طریق یک دموی عملی پایتون به کار گرفته و یک راه‌حل مبتنی بر ترنسفورمر برای مشکل NLP در دنیای واقعی خواهید ساخت. در پایان این دوره، درک کاملی از چگونگی گردش‌های کاری NLP و قدرت مدل‌های ترنسفورمر داشته و آماده خواهید بود تا اپلیکیشن های پردازش متن خود را با پایتون بسازید.