پایپلاین داده استریمینگ با استفاده از Confluent Kafka و Google Cloud
✅ سرفصل و جزئیات آموزش
آنچه یاد خواهید گرفت:
- توانایی ساخت یک پایپلاین داده مقیاسپذیر در سطح سازمانی با استفاده از Confluent Kafka و Google Cloud Platforms
- پیکربندی، استفاده و عیبیابی راهاندازی سرویسهای Google Cloud Platform مانند Buckets ،Cloud Data Fusion
- پیکربندی، استفاده و عیبیابی راهاندازی Confluent Cluster ،Topic ،Keys و غیره
- پیکربندی، استفاده و عیبیابی راهاندازی کانکتورهای Sink و Source مدیریتشده Confluent
- پیکربندی، استفاده و عیبیابی راهاندازی سرویسهای گزارشدهی Google Cloud Platform مانند Looker
پیشنیازهای دوره
- هیچ تجربه برنامهنویسی لازم نیست.
- توانایی ایجاد حساب رایگان Confluent Kafka برای همراهی با دوره
- توانایی ایجاد حساب رایگان GCP - Google Cloud Platform برای همراهی با دوره
توضیحات دوره
بررسی دوره
در این دوره عملی، شرکتکنندگان با رویکرد گام به گام، یک پایپلاین داده تحلیلی استریمینگ بلادرنگ میسازند که Confluent Kafka را با سرویسهای Google Cloud Platform یکپارچه میکند. فراگیران پایپلاینی را طراحی میکنند که داده را از Kafka به Google Cloud Storage استریم میکند، آن را با Dataflow پردازش میکند، در BigQuery ذخیره میکند و در نهایت بینشهای عملیاتی را با استفاده از Looker Studio به صورت ویژوال نمایش میدهد. این مسیر عملی تضمین میکند که شرکتکنندگان نه تنها مفاهیم را درک میکنند، بلکه آنها را مستقیماً در یک محیط cloud-native به کار میگیرند.
تجربه Google Cloud Platform
در سمت GCP، شرکتکنندگان با سرویسهای کلیدی از جمله Cloud Storage ،Dataflow ،BigQuery و Looker Studio آشنا میشوند. آنها همچنین مهارتهای ضروری در لاگ کردن، نظارت، عیبیابی و پیکربندی را یاد میگیرند؛ مهارتهایی که برای ساخت اپلیکیشن های استریمینگ امن، مقیاسپذیر و قابل اعتماد در ابر حیاتی هستند.
تجربه Confluent Kafka
در سمت Kafka، فراگیران یک خوشه Kafka کاملاً مدیریتشده راهاندازی میکنند، تاپیکهایی برای استریم پیام ایجاد میکنند، یک کانکتور منبع Datagen را برای شبیهسازی دریافت داده دنیای واقعی پیکربندی میکنند و با کانکتور مقصد GCP Storage یکپارچه میسازند. این کار تجربه عملی ارزشمندی با زیرساخت Kafka در سطح سازمانی فراهم میکند - بدون پیچیدگی مدیریت دستی آن است.
نتایج یادگیری
تا پایان دوره، شرکتکنندگان:
- یک پایپلاین تحلیلی استریمینگ عملی و مقیاسپذیر ساختهاند.
- درک عمیقی از معماریهای cloud-native و الگوهای طراحی استریمینگ به دست آوردهاند.
- مهارتهای عملی کسب کردهاند که مستقیماً در پروژههای واقعی و نقشهای حرفهای قابل استفاده است.
چه کسانی باید شرکت کنند؟
این دوره برای مهندسان ابر، مهندسان داده، صاحبان محصول، مدیران محصول، اسکرام مسترها و رهبران فناوری که به دنبال تجربه عملی در ساخت پایپلاینهای تحلیلی استریمینگ بلادرنگ با Confluent Kafka و Google Cloud هستند، ایدهآل میباشد.
این دوره برای چه کسانی مناسب است؟
- مهندسان داده سطح مبتدی که میخواهند در مورد ساخت پایپلاینهای داده با استفاده از Confluent Kafka و Google Cloud Platforms بیاموزند.
- مهندسان ابر سطح مبتدی که میخواهند در مورد ساخت پایپلاینهای داده با استفاده از Confluent Kafka و Google Cloud Platforms بیاموزند.
- مهندسان داده سطح متوسط تا ارشد که میخواهند در معرض ساخت پایپلاینهای داده با استفاده از Confluent Kafka و Google Cloud Platforms قرار گیرند.
- مدیران محصول/صاحبان محصول که میخواهند در معرض ساخت پایپلاینهای داده با استفاده از Confluent Kafka و Google Cloud Platforms قرار گیرند.
- رهبران فناوری که میخواهند در معرض ساخت پایپلاینهای داده با استفاده از Confluent Kafka و Google Cloud Platforms قرار گیرند.
پایپلاین داده استریمینگ با استفاده از Confluent Kafka و Google Cloud
-
مقدمه و بررسی معماری پایپلاین داده 05:13
-
Confluent: ایجاد حساب، خوشه و کلید API 03:44
-
Confluent: ایجاد تاپیک، کانکتور منبع Datagen کاملاً مدیریتشده 05:51
-
GCP: ایجاد باکت در Cloud Storage روی GCP 02:13
-
GCP: ایجاد حساب سرویس / کلید برای Cloud Storage 01:53
-
Confluent: ایجاد کانکتور مقصد Google Cloud storage کاملاً مدیریتشده 08:10
-
GCP: ایجاد دیتاست و جدول BigQuery 02:36
-
GCP: تأیید جریان داده از تاپیک Confluent Kafka به باکت ذخیرهسازی GCP 07:02
-
GCP: ایجاد نمونه Cloud Data Fusion برای پردازش ETL 02:56
-
GCP: ساخت پایپلاین ETL در Cloud Data Fusion - حالت INSERT 11:38
-
GCP: ساخت پایپلاین ETL در Cloud Data Fusion - حالت UPSERT 26:15
-
GCP: استقرار و اجرای پایپلاین داده 19:41
-
GCP: ایجاد گزارش Looker با جدول و نمودار 06:54
-
تأیید جریان سرتاسری از منبع Kafka تا گزارش Looker 10:05
-
جمعبندی و گامهای بعدی 07:34
مشخصات آموزش
پایپلاین داده استریمینگ با استفاده از Confluent Kafka و Google Cloud
- تاریخ به روز رسانی: 1405/04/02
- سطح دوره:همه سطوح
- تعداد درس:15
- مدت زمان :02:01:45
- حجم :2.58GB
- زبان:دوبله زبان فارسی
- دوره آموزشی:AI Academy