مهندسی داده - پایتون، یادگیری ماشین، ETL و وب اسکرپینگ
✅ سرفصل و جزئیات آموزش
آنچه یاد خواهید گرفت:
- درک نقش مهندسی داده - درک اهمیت و مسئولیتهای مهندسی داده در اکوسیستم داده گستردهتر
- یادگیری مفاهیم کلیدی مهندسی داده - آشنایی با اصطلاحات و مفاهیم اساسی در مهندسی داده
- راهاندازی محیط پایتون - نصب موفق پایتون و ایجاد محیطهای مجازی روی ویندوز و macOS
- استفاده از Jupyter Notebook - نصب، راهاندازی و ناوبری Jupyter Notebook برای تحلیل و مصورسازی داده تعاملی
- توسعه مهارتهای برنامهنویسی پایتون - درک و اعمال اصول برنامهنویسی پایتون، شامل عبارات، دستورات و تایپهای داده
- دستکاری ساختارهای داده در پایتون - استفاده بهینه از لیستها، تاپلها و دیکشنریها در پایتون
- انجام دستکاری داده با Pandas - استفاده از Pandas برای ایجاد، دستکاری و تحلیل داده در سریها و دیتافریمها
- بارگذاری و بررسی داده - ایمپورت داده به دیتافریمها از Pandas و انجام بررسیهای اولیه داده
- پاکسازی و تبدیل داده - اعمال تکنیکهای پاکسازی و تبدیل داده برای آمادهسازی داده برای تحلیل
- مصورسازی داده با پایتون - ایجاد انواع مختلف مصورسازیها برای بررسی و ارائه بینشهای داده
- درک مبانی یادگیری ماشین - کسب درک بنیادین از مفاهیم و گردشکارهای یادگیری ماشین
- پیشپردازش داده برای یادگیری ماشین - انجام تسکهای پیشپردازش داده شامل مدیریت مقادیر گمشده، کدگذاری متغیرهای دستهای و مهندسی ویژگی
- آموزش و ارزیابی مدلهای یادگیری ماشین - آموزش مدلهای یادگیری ماشین، انجام پیشبینیها و ارزیابی عملکرد آنها با استفاده از متریکهای مناسب
- کار با مدلهای رگرسیون لجستیک - آموزش، ارزیابی و تفسیر مدلهای رگرسیون لجستیک
- مصورسازی متریکهای ارزیابی مدل - ایجاد مصورسازیها برای تفسیر ماتریسهای درهمریختگی و سایر متریکهای ارزیابی
- ذخیره و بارگذاری مدلهای یادگیری ماشین - ذخیره مدلهای آموزش دیده و بارگذاری آنها برای استفاده و استقرار مجدد
- ساخت درختان تصمیمگیری و جنگلهای تصادفی - درک و پیادهسازی الگوریتمهای درخت تصمیمگیری و جنگل تصادفی
- ایجاد و اجرای پکیجهای ETL با SSIS - یادگیری نحوه ایجاد و اجرای پکیجهای ETL با استفاده از سرویسهای یکپارچهسازی SQL Server (SSIS)
- استخراج داده با استفاده از وب اسکرپینگ - استفاده از BeautifulSoup و اسکرپی برای استخراج داده از وبسایتها
- توسعه اسکریپتهای وب اسکرپینگ - نوشتن و تست اسکریپتها برای اتوماسیون تسکهای وب اسکرپینگ
- ساخت راهحلهای جامع مهندسی داده - یکپارچهسازی مهارتها و دانش برای ساخت پایپلاینهای قوی مهندسی داده که شامل جمعآوری داده، پردازش و تحلیل داده باشد.
پیشنیازهای دوره
- سواد اولیه کامپیوتری - آشنایی با عملیاتهای اولیه کامپیوتر، مانند نصب نرمافزار، ناوبری در فایلهای سیستم و استفاده از مرورگر وب
- علاقه به مهندسی داده - علاقه قوی به مهندسی داده، تحلیل داده و یادگیری ماشین
- کامپیوتر، یک لپتاپ یا دسکتاپ با دسترسی به اینترنت
توضیحات دوره
به این دوره خوش آمدید. این دوره به گونهای طراحی شده که شما را با مهارتها و دانش اساسی مورد نیاز برای برتری در زمینه در حال تحول مهندسی داده مجهز کند. چه شما یک مبتدی باشید و چه یک حرفهای باتجربه که به دنبال گسترش مهارتهای خود هستید، این دوره یک رویکرد دقیق، عملی برای تسلط به مهندسی داده ارائه میدهد.
بررسی دوره:
مهندسی داده، پایه و اساس علم داده و تحلیلهای مدرن است و زیرساخت جمعآوری، پردازش و تحلیل مجموعه دادههای بزرگ را فراهم میآورد. این دوره از مبانی آغاز میشود و به تدریج به مباحث پیچیدهتر میپردازد و یک درک جامع از هر مفهوم را قبل از حرکت به سمت مبحث بعدی تضمین میکند.
- بخش 1 - بررسی مهندسی داده - ما با معرفی مهندسی داده آغاز میکنیم و نقش آن را در اکوسیستم داده پوشش میدهیم. شما با مفاهیم کلیدی، اصطلاحات و گردشکار معمول مهندسی داده، از جمعآوری داده تا تحلیل داده آشنا خواهید شد. این بخش صحنه را برای جنبههای فنی بعدی آماده میکند.
- بخش 2 - راهاندازی محیط پایتون - پایتون یکی از ابزارهای اصلی برای مهندسان داده است. در این بخش، شما یاد خواهید گرفت که چگونه محیط پایتون خود را روی سیستمهای ویندوز و macOS ، از جمله ایجاد و فعالسازی محیطهای مجازی راهاندازی کنید. همچنین ابزارها ضروری مانند Jupyter Notebook و ویرایشگرهای متن محبوب را نیز پوشش داده و شما را برای برنامهنویسی مؤثر پایتون و دستکاری داده آماده میکنیم.
- بخش 3 - اصول برنامهنویسی پایتون - با راهاندازی محیط کاری، وارد برنامهنویسی پایتون میشویم. از عبارات و دستورهای اولیه شروع کرده و به مباحث پیچیدهتر مانند تایپهای داده، متغیرها، لیستها، تاپلها، دیکشنریها، دستورات کنترل جریان و توابع میپردازیم. این بخش اطمینان میدهد که بنیادی قوی در پایتون داشته باشید و این امر برای انجام تسکهای مهندسی داده حیاتی است.
- بخش 4 - دستکاری و مصورسازی داده با پایتون - شما یاد میگیرید که چگونه از قدرت Pandas برای دستکاری داده بهرهبرداری کنید. شما بررسی میکنید که چگونه سریها و دیتافریمها را ایجاد و مدیریت کنید، داده را بارگذاری و بررسی کنید، داده را پاکسازی و تبدیل کنید و از تکنیکهای مختلف برای مصورسازی داده استفاده کنید. در پایان این بخش، شما به مهارت کافی در آمادهسازی و تحلیل داده برای دستیابی به بینشها خواهید رسید.
- بخش 5 - اصول یادگیری ماشین - این بخش شما را با مبانی یادگیری ماشین آشنا میکند. شما درباره پیشپردازش داده، مدیریت مقادیر گمشده، کدگذاری متغیرهای دستهای و مهندسی ویژگی یاد خواهید گرفت. ما به شما آموزش میدهیم که چگونه مدلهای یادگیری ماشین را آموزش دهید و ارزیابی کنید، پیشبینی کنید و نتایج را مصورسازی کنید. همچنین یاد میگیرید که چگونه مدلها را برای استفادههای آینده ذخیره و بارگذاری کنید.
- بخش 6 - ایجاد و اجرای پکیجهای ETL با SSIS و SQL Server - شما دنیای فرآیندهای استخراج، تبدیل و بارگذاری (ETL) را با استفاده از سرویسهای یکپارچهسازی SQL Server (SSIS) بررسی میکنید. شما یاد خواهید گرفت که چگونه پکیجهای ETL را ایجاد و مدیریت کنید، داده را از منابع مختلف مدیریت کنید و گردشکار داده را خودکار کنید. این بخش مهارتهای عملی برای مدیریت تسکهای یکپارچهسازی داده در مقیاس بزرگ را فراهم میکند.
- بخش 7 - استخراج داده با استفاده از وب اسکرپینگ - سرانجام، ما تکنیکهای وب اسکرپینگ را با استفاده از BeautifulSoup و اسکرپی پوشش میدهیم. شما یاد خواهید گرفت که چگونه داده را از وبسایتها استخراج کنید، اسکریپتهای وب اسکرپینگ را بنویسید و تست کنید و داده اسکرپ شده را برای تحلیل ذخیره کنید. این بخش شما را با مهارتهای لازم برای جمعآوری داده از اینترنت، منبعی ارزشمند برای هر مهندس داده، تجهیز میکند.
یادگیرندگان هدف:
این دوره برای مهندسان داده آینده، تحلیلگران داده، توسعهدهندگان نرمافزار، دانشجویان، علاقهمندان به فناوری و حرفهایهایی که به نقشهای مهندسی داده منتقل میشوند، ایدهآل است. هیچ تجربه قبلی لازم نیست و این دوره برای مبتدیان قابل دسترسی است.
چرا در دوره شرکت کنید؟
با شرکت در دوره، تجربه عملی و دست اول با ابزارها و تکنیکهای مورد استفاده توسط مهندسان داده خواهید داشت. شما یاد خواهید گرفت که چگونه پایپلاینهای داده قوی بسازید، داده را دستکاری و تحلیل کنید و مدلهای یادگیری ماشین را ایجاد و مستقر کنید. رویکرد گامبهگام ما اطمینان میدهد که میتوانید این مهارتها را با اعتمادبهنفس در سناریوهای واقعی اعمال کنید و به دارایی ارزشمندی در این صنعت داده محور تبدیل شوید.
به ما در این سفر برای تسلط به مهندسی داده بپیوندید و قدرت داده را کشف کنید.
این دوره برای چه کسانی مناسب است؟
- مهندسان داده آینده
- تحلیلگران و دانشمندان داده
- توسعهدهندگان نرمافزار
- دانشجویان و فارغالتحصیلان جدید
- علاقهمندان و مشتاقان فناوری
- حرفهایهایی که شغل خود را تغییر میدهند.
- کارآفرینان و تحلیلگران کسبوکار
مهندسی داده - پایتون، یادگیری ماشین، ETL و وب اسکرپینگ
-
نصب پایتون روی ویندوز 03:47
-
محیطهای مجازی چه هستند؟ 01:51
-
ایجاد و فعالسازی محیط مجازی روی ویندوز 06:43
-
نصب ویرایشگر متن 07:28
-
نصب Pandas و Jupyter Notebook در محیط مجازی 01:06
-
شروع Jupyter Notebook 05:23
-
بررسی رابط داشبورد سرور Jupyter Notebook 04:00
-
ایجاد یک Notebook جدید 02:55
-
بررسی منبع و فایلهای پوشه Jupyter Notebook 04:37
-
بررسی رابط Notebook 08:41
-
عبارات پایتون 03:37
-
دستورات پایتون 04:42
-
کامنتها در کد پایتون 04:48
-
تایپهای داده در پایتون 04:52
-
Casting تایپهای داده 02:57
-
متغیرهای پایتون 07:28
-
لیستهای پایتون 09:33
-
تاپلهای پایتون 07:11
-
دیکشنریهای پایتون 10:17
-
عملگرهای پایتون 14:55
-
دستورات شرطی پایتون 08:03
-
حلقهها در پایتون 09:04
-
توابع پایتون 07:59
-
ایجاد سری Pandas از یک لیست 06:04
-
ایجاد سری Pandas از یک لیست با ایندکس سفارشی 02:28
-
ایجاد سری Pandas از دیکشنری پایتون 03:34
-
دسترسی به داده در یک سری با استفاده از ایندکس بر اساس برچسب 02:14
-
دسترسی به داده در یک سری بر اساس موقعیت 02:15
-
اسلایس کردن یک سری با برچسب 02:41
-
ایجاد یک دیتافریم از دیکشنری لیستها 06:31
-
ایجاد یک دیتافریم از لیستی از دیکشنریها 05:03
-
دسترسی به داده در یک دیتافریم 07:45
-
دانلود مجموعه داده 01:23
-
بارگذاری مجموعه داده در یک دیتافریم 03:40
-
بررسی داده 03:09
-
پاکسازی داده 06:30
-
تبدیل و تحلیل داده 07:24
-
مصورسازی داده 09:02
-
نصب و ایمپورت کتابخانهها 05:57
-
دانلود مجموعه داده 04:15
-
بررسی مجموعه داده 05:26
-
مدیریت مقادیر گمشده و حذف ستونهای غیرضروری 06:26
-
کدگذاری متغیرهای دستهای 07:37
-
ایجاد ویژگیهای جدید 08:15
-
حذف ستونهای غیرضروری 03:59
-
مصورسازی نرخ بقا بر اساس جنسیت 06:55
-
مصورسازی نرخ بقا بر اساس کلاس 04:05
-
مصورسازی ویژگیهای عددی 04:11
-
مصورسازی توزیع سن 04:47
-
مصورسازی تعداد مسافران در هر کلاس مسافری 03:49
-
مصورسازی تعداد مسافران نجات یافته 03:48
-
مصورسازی ماتریس همبستگی متغیرهای عددی 06:04
-
مصورسازی توزیع کرایه 04:56
-
تعریف ویژگیها و متغیر هدف 04:56
-
تقسیم داده به مجموعههای آموزشی و تست 02:55
-
استانداردسازی ویژگیها 03:55
-
آموزش مدل رگرسیون لجستیک 04:13
-
انجام پیشبینیها 03:28
-
ارزیابی مدل با استفاده از دقت، ماتریس درهمریختگی و گزارش طبقهبندی 06:02
-
مصورسازی ماتریس درهمریختگی 03:29
-
ذخیره مدل 09:18
-
بارگذاری مدل 05:03
-
بهبود درک از پیشبینیهای مدل 05:31
-
ساخت درخت تصمیمگیری 07:45
-
ساخت جنگل تصادفی 09:51
-
دانلود SQL Server 02:20
-
نصب SQL Server 07:56
-
نصب استودیو مدیریت SQL Server (SSMS) 01:32
-
اتصال SSMS به SQL Server 02:20
-
دانلود پایگاه دادههای نمونه 05:24
-
بازیابی پایگاه دادههای نمونه 02:15
-
نصب ویژوال استودیو 03:32
-
شروع ویژوال استودیو 03:23
-
نصب افزونههای قالب ابزارهای داده SQL Server (SSDT) 06:17
-
ایجاد پروژه جدید سرویسهای یکپارچهسازی 04:33
-
بررسی داده 06:20
-
افزودن و پیکربندی connection manager فایل مسطح 11:30
-
افزودن و پیکربندی connection manager پایگاه داده OLE 03:54
-
افزودن تسک جریان داده به پکیج 02:42
-
افزودن و پیکربندی منبع فایل مسطح 02:59
-
افزودن و پیکربندی تبدیلهای جستجو 09:30
-
افزودن و پیکربندی مقصد پایگاه داده OLE 03:54
-
حاشیهنویسی و فرمتبندی پکیج 03:10
-
تست پکیج 05:50
-
ابزارهای وب اسکرپینگ 02:08
-
آنچه استخراج خواهیم کرد 04:04
-
بررسی عناصر 06:35
-
نصب BeautifulSoup 05:49
-
نصب اسکرپی 06:11
-
ساخت اسکریپت وب اسکرپینگ - بخش 1 06:35
-
ساخت اسکریپت وب اسکرپینگ - بخش 2 06:35
-
نمونهسازی اولیه اسکریپت - بخش 1 06:23
-
نمونهسازی اولیه اسکریپت - بخش 2 04:06
-
نمونهسازی اولیه اسکریپت - بخش 3 07:02
-
نمونهسازی اولیه اسکریپت - بخش 4 06:36
-
نمونهسازی اولیه اسکریپت - بخش 5 11:37
-
تست، اجرا و ذخیره داده اسکرپ شده به فایل 06:26
-
ایجاد پروژه اسکرپی 03:44
-
کامپوننتهای پروژه اسکرپی 08:27
-
معماری اسکرپی 06:13
-
ایجاد یک اسپایدر - بخش 1 05:43
-
ایجاد یک اسپایدر - بخش 2 10:07
-
اسکرپ کردن داده با شل اسکرپی - بخش 1 05:07
-
اسکرپ کردن داده با شل اسکرپی - بخش 2 11:59
-
اجرای اسپایدر و ذخیره داده اسکرپ شده 06:47
مشخصات آموزش
مهندسی داده - پایتون، یادگیری ماشین، ETL و وب اسکرپینگ
- تاریخ به روز رسانی: 1404/12/10
- سطح دوره:مقدماتی
- تعداد درس:105
- مدت زمان :10:32:06
- حجم :2.57GB
- زبان:دوبله زبان فارسی
- دوره آموزشی:AI Academy