مهندسی داده بدون سرور - AWS Glue ،Kinesis ،Lambda
✅ سرفصل و جزئیات آموزش
آنچه یاد خواهید گرفت:
- پردازش دستهای و جریانی با AWS Glue
- استفاده از AWS Kinesis برای جذب داده جریانی به اکوسیستم AWS
- نقش AWS Lambda در پردازش داده در یک پایپ لاین
- Apache Spark
- استفاده از AWS Glue Workflow برای ارکستراسیون پایپ لاین داده در Glue
پیشنیازهاب دوره
- مفاهیم اولیه AWS مانند EC2 ،IAM ،VPC و S3
توضیحات دوره
مهندسی داده! این عبارت بزرگی در دنیای فناوری امروز است. هر سازمانی به دنبال مهندسان داده است و طبق تحلیلها، این یکی از مشاغلی است که از موج هوش مصنوعی مصون خواهد ماند. همچنین یکی از پردرآمدترین مشاغل در دنیای فناوری است. فناوریها، چارچوبها و ابزارهای متعددی برای پشتیبانی از استک مهندسی داده وجود دارد. Spark ،Kafka ،Lakehouse، انبار داده و ... از جمله این موارد هستند.
همه ارائهدهندگان سرویس ابری یک استک داده کامل در اختیار دارند. AWS، Azure و GCP پلتفرمهای متعددی برای کار بر روی استک داده ارائه میدهند. یکی از استکهای جذاب، بدون سرور است؛ اصطلاحی که AWS با راهاندازی AWS Lambda ابداع کرد.
این دوره به طور خاص بر روی پردازش داده بدون سرور تمرکز دارد که در طول سالها شتاب زیادی گرفته است. AWS رقیب اصلی در دنیای بدون سرور است که شامل پردازش دستهای و جریانی میشود. این دوره شامل مباحث زیر است:
- پردازش دستهای بدون سرور قسمت 1 - AWS Glue
- جذب جریانی - Kinesis Data Streams، Kinesis Firehose
- پردازش جریانی بدون سرور قسمت 1 - AWS Glue و Kinesis
- پردازش دستهای بدون سرور قسمت 2 - AWS Lambda
- پردازش جریانی بدون سرور قسمت 2 - Lambda و Kinesis
مطمئن شوید که تمرینات عملی را کامل میکنید، زیرا به شما تجربه عملی میدهد. همچنین از شرکتکنندگان درخواست میشود که تمام آزمایشگاههای عملی را دنبال کنند.
این دوره برای چه کسانی مناسب است؟
- معماران داده، مهندسان داده که میخواهند استک داده AWS را یاد بگیرند.
- معماران راهحل که میخواهند با جنبه داده AWS آشنا شوند.
- مدیران پایگاه داده (DBA) که میخواهند به سمت حوزه داده AWS تغییر مسیر شغلی دهند.
- مدیران فنی، توسعهدهندگانی که میخواهند نمای کلی از استک داده AWS داشته باشند.
مهندسی داده بدون سرور - AWS Glue ،Kinesis ،Lambda
-
چرخه عمر داده و مهندسی داده 08:12
-
نگاشت فناوری مهندسی داده 04:42
-
سرویس بدون سرور AWS برای مهندسی داده 03:07
-
مزایای بدون سرور و درباره دوره 07:55
-
محاسبات و ذخیرهسازی توزیعشده، کلانداده، MapReduce 34:11
-
اکوسیستم کلانداده 03:53
-
فرمت فایل - Parquet و Avro 20:18
-
آشنایی با Spark، پردازش دستهای و جریانی 27:21
-
اکوسیستم، توسعه، معماری و اجرا در Spark 23:55
-
نصب Spark 23:15
-
راهاندازی کلاستر مستقل Spark روی لپتاپ 12:36
-
Spark روی AWS EMR 21:53
-
حالتهای استقرار اپلیکیشن Spark (--deploy-mode=cluster | client) 03:11
-
DataFrame، DAG، ماژول PySpark 16:56
-
SparkSession چیست؟ 18:52
-
خواننده و نویسنده DataFrame 12:34
-
DataFrameها، پارتیشنها و تسکها 05:41
-
تبدیلها - Select ،Distinct ،Where ،Filter 17:27
-
عملی: کنشهای Spark 15:12
-
بررسی در Spark UI 08:05
-
تبدیل - ()agg() ،alias() ،groupby 14:07
-
تبدیل - ()orderBy() ،selectExpr 09:13
-
فرآیند Shuffle در groupBy 17:05
-
پارتیشنهای ورودی 10:43
-
پارتیشنهای خروجی 11:39
-
کاوش بیشتر در Spark UI 15:36
-
خواندن خروجی طرح توضیح Spark 07:37
-
توابع تاریخ در Spark 09:54
-
آمادهسازی EMR برای اجرای برنامههای Spark 10:19
-
ارسال کد Spark به EMR از طریق لپتاپ 08:43
-
معرفی AWS Glue 07:56
-
Data Catalog و Glue Crawler 05:40
-
عملی: استفاده از Glue Crawler برای خواندن فایلهای S3 و ذخیره فراداده در Data Catalog 14:44
-
عملی: اتصالات Glue برای سایر منابع داده توسط Crawler 15:16
-
پیکربندی Job ETL بدون سرور در Glue 09:13
-
ETL بصری قسمت 1 (تبدیل بدون کدنویسی) - پیکربندی منابع داده S3 10:12
-
ETL بصری قسمت 2 (تبدیل بدون کدنویسی) - افزودن تبدیلهای Spark 14:00
-
ETL بصری قسمت 3 (تبدیل بدون کدنویسی) - خروجی تبدیل 08:08
-
عملی - اجرای کد PySpark در AWS Glue 11:46
-
معرفی Glue API 07:03
-
عملی: Glue API - بارگذاری جدول MySQL از فایلهای S3 11:45
-
عملیات پایگاه داده و انبار داده با PySpark از طریق Glue 07:32
-
عملی: انتقال داده از S3 به MySQL با استفاده از PySpark روی Glue 07:30
-
پیشنیازهای VPC برای عملیات Redshift 02:03
-
عملی: اتصال Glue و Crawler برای Redshift 07:34
-
عملی: ETL با استفاده از Glue API - از MySQL OLTP به Redshift OLAP 12:08
-
ETL با استفاده از PySpark روی Glue - از MySQL به Redshift 08:41
-
عملی: ETL با استفاده از PySpark - از MySQL OLTP به Redshift OLAP 20:02
-
عملی: PySpark به Redshift بدون استفاده از Glue API 03:55
-
Workflow در Glue - ارکستراسیون Jobهای ETL 14:33
-
معرفی Kinesis Data Streams (KDS) 07:18
-
Kinesis Streams (KDS) - اجزا و ظرفیت 14:07
-
عملی: ایجاد KDS 06:18
-
عملی: پیکربندی - حالتهای ظرفیت، توان عملیاتی گرم 09:16
-
ارسال داده به KDS - put_record و put_records 09:26
-
عملی: راهاندازی محیط Python Boto3 04:30
-
عملی: ارسال داده به KDS 07:51
-
کتابخانه تولیدکننده Kinesis (KPL) 07:53
-
مدیریت Shard در Kinesis - تغییر Shard 09:27
-
مصرفکنندگان جریان، خروجی فنآگین شده، تکرارگر Shard، پیادهسازی با Python SDK 08:44
-
عملی: خواندن رکوردها از KDS با استفاده از Python SDK و چندنخی 14:30
-
کتابخانه کلاینت Kinesis (KCL)، عامل، معیارهای CloudWatch 07:41
-
Kinesis (Amazon) Data Firehose، بافر داده 04:11
-
پردازش در Data Firehose با استفاده از Lambda 03:01
-
مقصد جدول Iceberg 03:44
-
عملی: ارسال داده از KDS به Data Firehose 11:05
-
عملی: استفاده از Python SDK برای نوشتن رکوردها در (Kinesis) Data Firehose 04:45
-
مقدمهای بر Spark Streaming، محرک حالت خروجی 21:47
-
عملی: Streaming با PySpark با استفاده از خروجی کنسول 17:02
-
زمان رویداد - پنجره چرخان 14:47
-
عملی: زمان رویداد - پنجره چرخان 13:56
-
عملی: زمان رویداد - پنجره لغزان 12:12
-
پردازش جریانی روی AWS Glue 07:21
-
دفترچه یادداشت Jupyter برای Streaming در Glue - معماری عملی 04:27
-
عملی: آمادهسازی محیط دفترچه یادداشت Glue 06:07
-
عملی: انتقال داده از Kinesis به S3 با استفاده از دفترچه یادداشت Glue 14:57
-
عملی - پنجره چرخان جریانی روی دفترچه یادداشت Glue 12:18
-
عملی: پردازش جریانی با پنجره لغزان روی دفترچه یادداشت Glue 02:48
-
عملی: پردازش جریانی با پنجره چرخان با استفاده از Glue ETL 04:02
-
مقدمهای بر محاسبات بدون سرور و موارد استفاده AWS Lambda 09:48
-
تابع Lambda و اجزای آن 08:01
-
عملی: پیکربندی تابع Lambda و اجزای آن 16:53
-
مدل اجرای کد در Lambda 11:51
-
عملی: نوشتن کد پایتون از کنسول Lambda، دادههای 'رویداد' 12:39
-
عملی: رویداد S3 -> خواندن فایل -> کپی به پوشه /tmp -> چاپ داده 09:00
-
عملی: رویداد S3 -> خواندن فایل -> پردازش -> نوشتن در پوشه S3 10:15
-
عملی: ایجاد بسته استقرار ZIP برای کد پایتون 09:48
-
عملی: استقرار بستهها و ماژولهای پایتون اضافی با استفاده از ZIP در Lambda 10:43
-
عملی: رویداد S3 به پایگاه داده و اجرای همزمان Lambda 08:37
-
معماری با استفاده از Lambda 03:17
-
جریانی با Lambda، نگاشت منبع رویداد، فیلتر کردن رویداد 05:10
-
الگوی پردازش رکورد و متغیرهای پیکربندی جریان 03:18
-
عملی: راهاندازی یکپارچهسازی Lambda و Kinesis 08:19
-
عملی: مدیریت داده جریان، پیکربندی Lambda برای Kinesis 08:29
-
عملی: کدنویسی در Lambda، نظارت بر اجرا، بررسی خروجی لاگ 07:59
-
عملی: کدنویسی Lambda برای خواندن از Kinesis و نوشتن در S3 11:04
-
الگوی 1 - معماری Lambda 07:22
-
الگوی 2 - معماری Kappa 04:56
-
الگوی 3 - معماری مدالیون 06:31
-
الگوی 4 - تحلیل برای برنامههای اینترنت اشیاء 03:40
-
الگوی 5 - تحلیل وب اپلیکیشن 05:12
-
الگوی 6 - استخراج، بارگذاری و تبدیل (ELT) 02:35
مشخصات آموزش
مهندسی داده بدون سرور - AWS Glue ،Kinesis ،Lambda
- تاریخ به روز رسانی: 1404/12/10
- سطح دوره:همه سطوح
- تعداد درس:102
- مدت زمان :17:34:51
- حجم :7.1GB
- زبان:دوبله زبان فارسی
- دوره آموزشی:AI Academy