تسلط به Azure Synapse - مهندسی داده End-to-End
✅ سرفصل و جزئیات آموزش
آنچه یاد خواهید گرفت:
- راهاندازی حساب آژور، سابسکریپشن و منابع برای پروژههای مهندسی داده
- ایجاد و مدیریت پایپلاینهای Azure Synapse برای یکپارچهسازی داده و اتوماسیون
- ساخت راهحلهای مقیاسپذیر جذب داده از پایگاه دادهها، APIs، ذخیرهسازی ابری و سیستمهای On-premises
- پیادهسازی بارگذاریهای افزایشی داده، تریگرهای مبتنی بر رویداد، Tumbling windows و اجراهای زمانبندی شده
- اعمال لاگ کردن، نوتیفیکیشنها و مدیریت ایمن کلیدها برای تضمین قابلیت اطمینان و حاکمیت
- طراحی و اجرای تبدیلات داده شامل جوینها، lookups و pivots و unpivots و تغییر آهسته ابعاد (SCD) نوع 1 و نوع 2
- یکپارچهسازی سرویسهای خارجی مانند Snowflake و AWS S3 و REST APIs در پایپلاینهای Synapse
- استفاده از Synapse Notebooks، جداول خارجی و گزینههای کوئری پیشرفته برای تحلیل و اتوماسیون
- حل مسائل مهندسی داده واقعی با الگوهای پیشرفته پایپلاین و وابستگیها
- پیادهسازی استراتژیهای بارگذاری کامل و افزایشی با استفاده از Lakehouses و Warehouses و تکنیکهای رفرش خودکار
- طراحی jobs چندوابستگی با استفاده از فعالیتهای پایپلاین، تریگرها و ارکستراسیون فضای کاری
- ایجاد پایپلاینهای قابل استفاده مجدد با کامپوننتهای پارامتریک برای جذب و تبدیل مقیاسپذیر
پیشنیازهای دوره
- هیچ تجربه قبلی لازم نیست. شما همه موارد را از پایه یاد خواهید گرفت.
- یک کامپیوتر با دسترسی به اینترنت
- درک اولیه از پایگاه دادهها (اصول SQL مانند جداول، کوئری ها و رویههای ذخیره شده) مفید است اما اجباری نیست.
- آشنایی با مفاهیم ابری (ذخیرهسازی، رایانش و مبانی شبکهسازی) مفید است اما اجباری نیست.
- هیچ دانش قبلی از پایپلاینهای Synapse یا جریانهای داده لازم نیست. همه موارد گامبهگام توضیح داده شده است.
توضیحات دوره
آیا برای تبدیل شدن به مهندس داده ماهر با استفاده از Azure Synapse آماده هستید؟
این دوره شما را به یک سفر کامل و عملی، از جذب داده تا تبدیل، ارکستراسیون و اتوماسیون واقعی میبرد. چه یک مبتدی در حال بررسی پایپلاینهای داده ابری باشید و چه یک متخصص که به دنبال پیشرفت شغلی است، این دوره شما را با دانش و اعتمادبهنفس لازم برای کار بر روی پروژههای مهندسی داده end-to-end در آژور مجهز میکند.
شما با اصول آژور و Synapse شروع کرده و سپس به مفاهیم پیشرفته مانند بارگذاریهای افزایشی، تریگرها، ارکستراسیون، یکپارچهسازیهای On-premises، جذب REST API، اتصال به Snowflake و AWS S3 و تبدیل داده با استفاده از Data Flows خواهید رسید. در پایان دوره، شما قادر خواهید بود راهحلهای داده در سطح سازمانی را طراحی، ساخته و خودکار کنید.
آنچه این دوره پوشش میدهد:
- راهاندازی حساب آژور و بررسی Synapse Studio
- کپی داده در چندین منبع (Blob ،SQL، دریاچه داده، REST APIs و Snowflake و AWS S3 و سیستمهای On-prem)
- استفاده از فعالیتهای پایپلاین مانند Lookup، ForEach، GetMetadata، شرطیهای If و پارامترها برای اتوماسیون
- پیادهسازی بارگذاریهای افزایشی داده برای کارایی بیشتر
- کار با تریگرهای زمانبندی شده، Tumbling window، مبتنی بر رویداد و مبتنی بر وابستگی
- ایمنسازی پایپلاینها با یکپارچهسازی Key Vault و نظارت با لاگهای حسابرسی و نوتیفیکیشنها
- تسلط به Data Flows - شامل جوینها، فیلترها، Pivots و SCD و بررسیهای کیفیت داده
- ساخت راهحلهای end-to-end با پایپلاینهای تودرتو، الگوهای Master-child و نوتیفیکیشنها
- استفاده از Synapse Notebooks با یوتیلیتیهای اسپارک، جداول خارجی و استخرهای SQL اختصاصی
چرا این دوره را بگذرانیم؟
- راهنمایی گامبهگام - بدون پیشفرض، همه موارد با جزئیات توضیح داده شده است.
- پروژههای واقعی که میتوانید مستقیماً در شغل خود به کار ببرید.
- پوشش هر دو سطح مبانی و تکنیکهای پیشرفته در یک دوره
- یادگیری نحوه انتقال، تبدیل و ارکستراسیون داده در مقیاس بزرگ توسط سازمانها در آژور
- کسب مهارتهای آماده برای بازار کار جهت فعالیت به عنوان مهندس داده، توسعهدهنده BI یا متخصص ابر
در پایان دوره، شما فقط پایپلاینهای Synapse را درک نخواهید کرد، بلکه میتوانید با اطمینان راهحلهای داده سازمانی را طراحی، خودکارسازی و مدیریت کنید که مقیاسپذیر، کارآمد و آماده تولید هستند.
بیایید سفر مهندسی داده end-to-end خود را با Azure Synapse شروع کنیم.
این دوره برای چه کسانی مناسب است؟
- مهندسان داده و توسعهدهندگانی که به دنبال ایجاد تخصص در Azure Synapse برای پروژههای واقعی هستند.
- توسعهدهندگان ETL و ELT که میخواهند مهارتهای خود را با استفاده از پایپلاینهای Cloud-native مدرن کنند.
- متخصصان هوش تجاری و تحلیل داده که نیاز به انتقال، تبدیل و اتوماسیون داده در مقیاس بزرگ دارند.
- دانشجویان و مبتدیان در مهندسی داده که خواهان تمرین عملی با پایپلاینها، تریگرها، تبدیلها و یکپارچهسازیها هستند.
- مهندسان ابر که هدفشان یکپارچهسازی چندین منبع داده مانند SQL ،APIs ،AWS S3 ،Snowflake و سیستمهای On-prem در Azure Synapse است.
تسلط به Azure Synapse - مهندسی داده End-to-End
-
عملی - مقدمهای بر داده و کپی داده بین کانتینرهای Blob با استفاده از ADF 54:59
-
عملی - ایجاد حساب و سابسکریپشن آژور 53:59
-
عملی - کپی چندین فایل با استفاده از گزینههای Wildcard 59:04
-
عملی - کپی چندین پوشه با استفاده از پارامترهای Lookup و ForEach و مجموعه داده 59:43
-
عملی - کپی داده از جداول پایگاه داده SQL به Blob Storage (پارامتر مجموعه داده) 58:00
-
عملی - کپی داده از پایگاه داده SQL با استفاده از جدول، کوئری و رویه ذخیره شده 58:23
-
عملی - کپی چندین جدول از پایگاه داده SQL با استفاده از Lookup و If و ForEach و Copy 58:50
-
عملی - لاگ کردن داده حسابرسی پایپلاین در پایگاه داده Azure SQL 57:57
-
عملی - یکپارچهسازی Azure Key Vault با Synapse برای امنیت و نوتیفیکیشنها 01:23:58
-
عملی - استفاده از حلقههای ForEach برای کپی چندین جدول با لاگها و نوتیفیکیشنها 01:15:51
-
عملی - بارگذاری افزایشی از پایگاه داده SQL به Blob Storage 01:07:36
-
عملی - بارگذاری افزایشی چندین جدول از پایگاه داده SQL به Blob Storage 01:02:56
-
عملی - کپی افزایشی فایلهای جدید و تغییر یافته بر اساس تاریخ آخرین ویرایش 01:11:12
-
عملی - تریگرهای مبتنی بر رویداد در Synapse 01:02:26
-
عملی - تریگرهای Tumbling Window با Data Lake Storage Gen2 58:33
-
عملی - تریگرهای زمانبندی شده - Jobs دقیقهای، ساعتی، روزانه، هفتگی و ماهانه 01:05:36
-
عملی - کپی داده از On-Premises SQL Server به دریاچه داده (Self-Hosted IR) 01:17:31
-
عملی - بارگذاری داده از فایل سیستم On-Premises به ADLS Gen2 50:35
-
عملی - جذب داده از On-Premises SQL Server به استخر اختصاصی Synapse 01:18:05
-
عملی - جذب داده از REST APIs به ADLS Gen2 (شناسههای بازهای و چندین API) 01:02:17
-
عملی - مدیریت وابستگی چندتریگری برای ورود فایلها 01:12:49
-
عملی - وابستگیهای چندتریگری در داخل یک پوشه مشابه 01:08:16
-
عملی - اتوماسیون اجرای پایپلاین برای ایمیلهای دریافتی با پیوستها 01:02:57
-
عملی - ارسال ایمیلها با پیوستها از Azure Synapse 01:13:25
-
عملی - ایجاد حساب آزمایشی رایگان در Snowflake 59:32
-
عملی - کپی داده بین Snowflake و AWS S3 و دریاچه داده آژور 01:04:45
-
عملی - پیادهسازی پایپلاینهای ForEach تودرتو - الحاق تاریخ به فایلها 01:07:08
-
عملی - مقدمهای بر Data Flows و تبدیلات داده 01:03:26
-
عملی - تبدیلات SQL به عنوان پیشنیاز برای Data Flows 01:02:39
-
عملی - جوینها در Data Flows (Inner Join و Outer Join و غیره) 01:12:33
-
عملی - بررسیهای کیفیت داده با Data Flows 01:16:00
-
عملی - تغییر آهسته ابعاد (SCD) نوع 1 01:27:36
-
عملی - تغییر آهسته ابعاد (SCD) نوع 2 01:14:27
-
عملی - SCD نوع 1 با دریاچه داده به عنوان مقصد (Sink) 01:09:46
-
عملی - جوینهای پیشرفته با فیلترها و Lookup در مقابل جوینها 58:28
-
عملی - تبدیلات Pivot و Unpivot 57:04
-
عملی - کار با جداول خارجی در استخرهای SQL اختصاصی و بدون سرور 01:10:50
-
عملی - مقدمهای بر Synapse Notebook و mssparkutilities و نصب ADLS Gen2 01:06:35
-
عملی - یکپارچهسازی Key Vault - اجرای نوتبوکها از طریق پایپلاین 01:13:52
مشخصات آموزش
تسلط به Azure Synapse - مهندسی داده End-to-End
- تاریخ به روز رسانی: 1404/12/10
- سطح دوره:همه سطوح
- تعداد درس:39
- مدت زمان :42:59:39
- حجم :20.17GB
- زبان:دوبله زبان فارسی
- دوره آموزشی:AI Academy