تسلط به Azure Data Factory: پروژههای واقعی با ADF
✅ سرفصل و جزئیات آموزش
آنچه یاد خواهید گرفت:
- تسلط به اجزای اصلی ADF: درک سرویسهای متصل، مجموعه داده، پایپلاینها، تریگرها و Integration Runtimeها از طریق موارد استفاده واقعی
- - ساخت پایپلاینهای مبتنی بر متادیتا: خودکارسازی دریافت داده پویا با استفاده از Lookup ،ForEach و مجموعه داده پارامتریک
- - یکپارچهسازی منابع داده متنوع: اتصال یکپارچه به Azure SQL ،PostgreSQL ،Snowflake ،REST API و سیستمهای محلی با استفاده از SHIR
- - پیادهسازی بارهای افزایشی و CDC: طراحی پایپلاینهای کارآمد با استفاده از مقادیر آخرین پردازش، تریگرهای Tumbling Window و ثبت تغییرات داده (Insert ،Update)
- - بهینهسازی عملکرد و همزمانی: تنظیم اجرای پایپلاین، مدیریت همزمانی و پاکسازی فضای ذخیرهسازی برای مهندسی داده مقرونبهصرفه
- - طراحی گردشکارهای رویداد محور و زمانبندیشده: راهاندازی پایپلاینها از طریق ایمیلها، پیوستها و رویدادهای Blob با وابستگیهای چند تریگری
- - تبدیل دادهها با Data Flows: اعمال پیوندها، چرخشها، بازگشت چرخشها، بررسیهای کیفیت داده (DQ) و ابعاد تغییر آهسته (SCD1 و SCD2) با استفاده از ADF Data Flows
- - یکپارچهسازی ADF با Databricks و SQL Pools: زمانبندی نوتبوکها، ایجاد جداول خارجی و ساخت معماریهای ترکیبی برای تحلیلهای مقیاسپذیر
- - ساخت چارچوبهای قابل استفاده مجدد و سیستمهای حسابرسی: ایجاد لاگ کردن متمرکز، چارچوبهای دریافت داده - قابل استفاده مجدد و نگاشت پویای اسکیما برای راهحلهای سازمانی
پیشنیازهای دوره
- - بدون نیاز به تجربه قبلی با Azure Data Factory: تمام مفاهیم به صورت گامبهگام و از طریق پروژههای عملی و واقعی توضیح داده میشوند.
- - درک اولیه از مهندسی داده مفید است اما اجباری نیست: موضوعاتی مانند ETL، پایپلاینهای داده و ذخیرهسازی ابری در طول دوره معرفی و تقویت میشوند.
- - آشنایی با SQL مفید است: اگرچه دانش اولیه SQL میتواند کمک کند، اما کوئریها و رویههای کلیدی در جلسات نمایش داده میشوند.
- - دانش مقدماتی از سرویسهای Azure یک مزیت است: مفاهیمی مانند Azure Storage ،Azure SQL و گروههای منابع در صورت نیاز پوشش داده میشوند.
- - دسترسی به یک حساب Azure (رایگان یا پولی): برای تمرین آزمایشگاههای عملی توصیه میشود، اما برای دنبال کردن دوره الزامی نیست.
توضیحات دوره
آیا از درس های تئوری و آمادگیهای عمومی برای گواهینامه خسته شدهاید؟ این دوره برای یادگیرندگانی طراحی شده است که میخواهند Azure Data Factory را دقیقاً همانطور که در دنیای واقعی استفاده میشود از طریق پروژههای عملی، پایپلاینهای پویا و حل مسائل کاربردی فرا بگیرند.
این دوره که توسط CloudPandith (مالایا)، یک معمار ارشد داده و مدرس خصوصی هدایت میشود، شما را از طریق بیش از 40 سناریوی بلادرنگ ADF، از دریافت داده در SQL ،REST APIs ،Snowflake و PostgreSQL گرفته تا ساخت چارچوبهای قابل استفاده مجدد، پیادهسازی بارهای افزایشی و تبدیل دادهها با Data Flows راهنمایی میکند.
چه مبتدی باشید و چه یک حرفهای شاغل، یاد خواهید گرفت که چگونه پایپلاینهای داده را با استفاده از تمام ویژگیهای ADF شامل SHIR، تریگرها، یکپارچهسازی Key Vault ،CDC و زمانبندی Databricks طراحی، خودکارسازی و بهینهسازی کنید. هر جلسه حول موارد استفاده واقعی ساخته شده است، نه تئوریهای کتابی
چه چیزی این دوره را متمایز میکند
- پروژههای بلادرنگ، نه فقط دموها
- طراحی پایپلاین مبتنی بر متادیتا و قابل استفاده مجدد
- یکپارچهسازی با منابع متنوع: SQL ،REST ،Snowflake ،Excel On-Prem
- تبدیلهای پیشرفته: SCDها، بررسیهای DQ، چرخشها، پیوندها
- راهاندازی پایپلاینها از طریق رویدادها، زمانبندیها و پیوستهای ایمیل
- استراتژیهای بهینهسازی عملکرد و لاگ کردن حسابرسی
- تدریس توسط یک معمار فعال - نه یک مدرس عمومی
در پایان این دوره، شما قادر خواهید بود با اطمینان پایپلاینهای داده در سطح سازمانی را در Azure Data Factory بسازید که با تجربه عملی و مهارتهای آماده برای آینده پشتیبانی میشوند.
این دوره برای چه کسانی مناسب است؟
- مهندسان داده مشتاق: مبتدیانی که به دنبال ورود به مهندسی داده ابری با یادگیری عملی و مبتنی بر پروژه هستند. بدون نیاز به تجربه قبلی در ADF است.
- حرفهایهای شاغل و تحلیلگران: توسعهدهندگان SQL، تحلیلگران BI و متخصصان ETL که میخواهند مهارتهای خود را در Azure Data Factory ارتقا دهند و گردشکارهای داده را خودکار کنند. - مهندسان و معماران ابری: کسانی که راهحلهای داده مقیاسپذیر را روی Azure میسازند و به دنبال چارچوبهای قابل استفاده مجدد، پایپلاینهای مبتنی بر متادیتا و بهینهسازی عملکرد هستند. - دانشجویان و تغییردهندگان شغل: یادگیرندگانی که سناریوهای واقعی را به درسهای تئوری ترجیح میدهند و میخواهند مهارتهای آماده برای کار را با اطمینان بسازند. - هر کسی که از آموزشهای عمومی خسته شده است: اگر به دنبال راهنمایی معتبر و عملی از کسی هستید که آنچه را به صورت حرفهای استفاده میکند آموزش میدهد—این دوره برای شماست. (آیا نسخهای از این را برای مخاطبان واتساپ یا یوتیوب خود نیز میخواهید؟ مدرس میتواند آن را برای هماهنگی با برند شما مکالمهایتر و انگیزشیتر کند).
- مهندسان و معماران ابری: کسانی که راهحلهای داده مقیاسپذیر را روی Azure میسازند و به دنبال چارچوبهای قابل استفاده مجدد، پایپلاینهای مبتنی بر متادیتا و بهینهسازی عملکرد هستند.
- دانشجویان و تغییردهندگان شغل: یادگیرندگانی که سناریوهای واقعی را به درسهای تئوری ترجیح میدهند و میخواهند مهارتهای آماده برای کار را با اطمینان بسازند. - هر کسی که از آموزشهای عمومی خسته شده است: اگر به دنبال راهنمایی معتبر و عملی از کسی هستید که آنچه را به صورت حرفهای استفاده میکند آموزش میدهد. این دوره برای شماست. (آیا نسخهای از این را برای مخاطبان واتساپ یا یوتیوب خود نیز میخواهید؟ مدرس میتواند آن را برای هماهنگی با برند شما مکالمهایتر و انگیزشیتر کند).
- هر کسی که از آموزشهای عمومی خسته شده است: اگر به دنبال راهنمایی معتبر و عملی از کسی هستید که آنچه را به صورت حرفهای استفاده میکند آموزش میدهد. این دوره برای شماست.
تسلط به Azure Data Factory: پروژههای واقعی با ADF
-
اجزای اصلی Azure Data Factory: کپی داده بین حسابهای ذخیرهسازی 01:16:10
-
استخراج دادههای JSON و Parquet با استفاده از فیلترهای پیشوند و Wildcard 01:04:53
-
خودکارسازی کپی پوشه با پارامترهای مجموعه داده 01:06:40
-
کپی پوشه مبتنی بر متادیتا با Lookup و ForEach 55:19
-
کپی پویای چندین جدول از SQL DB 01:19:52
-
دریافت داده با استفاده از جداول، کوئریها و رویهها 01:04:35
-
بارگذاری افزایشی با مقدار آخرین پردازش 01:09:11
-
بهینهسازی بارهای افزایشی برای چندین جدول 56:56
-
خودکارسازی کپی چندین جدول PostgreSQL با منطق Lookup و ForEach 01:03:09
-
نصب SHIR برای SQL محلی 01:07:04
-
کپی داده به Dedicated SQL Pool 01:06:52
-
انتقال فایلها به Data Lake Storage 01:09:13
-
کپی داده از SQL Server محلی به Azure SQL 01:17:33
-
کپی داده از REST API به ADLS Gen2 59:55
-
کپی جداول از Snowflake به SQLDB 01:16:15
-
تریگرهای مبتنی بر رویداد و ویژگیهای ثبت شده 01:03:39
-
تریگر پنجره لغزان و وابستگیها 01:02:31
-
تریگر زمانبندی روزانه، هفتگی و ماهانه 01:03:08
-
راهاندازی پایپلاینها از طریق پیوستهای ایمیل 01:02:24
-
خودکارسازی نوتیفیکیشن ها با پیوستها 55:55
-
پایپلاینهای دریافت داده مبتنی بر رویداد 01:00:53
-
وابستگیهای چند تریگری در دایرکتوریهای مشترک 01:00:36
-
کپی داده از چندین پایگاه داده 55:41
-
کپی فایلهای Excel با اسکیمای پویا 54:59
-
تجمیع اسکیماهای Excel در جداول SQL 55:02
-
بهینهسازی همزمانی پایپلاین 01:03:51
-
چارچوب دریافت داده قابل استفاده مجدد 01:14:01
-
پاکسازی فایلهای کوچک و قدیمی در ADLS Gen2 58:39
-
شروع کار با Data Flows 01:00:50
-
مبانی SQL و توابع پنجرهای 01:06:28
-
تسلط بر انواع Join در SQL 53:25
-
بررسیهای کیفیت داده (DQ): تکراریها، مقادیر Null، فرمتهای تاریخ 43:36
-
پیادهسازی SCD Type 1 01:25:02
-
پیادهسازی SCD Type 2 01:01:47
-
SCD Type 1 با مقصد ADLS Gen2 50:54
-
تبدیلهای Pivot و Unpivot 46:22
-
ایجاد جداول خارجی در SQL Pools 49:00
-
زمانبندی نوتبوکهای Databricks از ADF 01:00:11
-
ثبت تغییرات داده (CDC) در ADF 50:16
-
تبدیلهای Power Query (پیوندها) 38:17
-
لاگ کردن حسابرسی متمرکز با Azure SQL 01:06:02
-
یکپارچهسازی Key Vault و هشدارهای Logic App 01:05:18
مشخصات آموزش
تسلط به Azure Data Factory: پروژههای واقعی با ADF
- تاریخ به روز رسانی: 1404/12/10
- سطح دوره:همه سطوح
- تعداد درس:42
- مدت زمان :43:22:24
- حجم :18.2GB
- زبان:دوبله زبان فارسی
- دوره آموزشی:AI Academy