آموزش XGBoost - دلیل استفاده از XGBoost در یادگیری ماشین چیست؟

آموزش XGBoost – مقدمه

در این قسمت از خودآموز یادگیری ماشین، قصد داریم به XGBoosting بپردازیم. همچنین، با ویژگی های XGBoosting و دلیل نیاز به الگوریتم XGBoost آشنا شویم. ما سعی خواهیم کرد مروری بر تمام مفاهیم اساسی داشته باشیم از جمله علت استفاده از XGBoost ، مزایای XGBoosting و موارد دیگر.

خب ، بیایید آموزش XGBoost را شروع کنیم.

XGBoost چیست؟

XGBoost الگوریتمی است که اخیراً در حوزه یادگیری ماشین بکار گرفته می شود. الگوریتم XGBoost یک پیاده سازی از تقویت گرادیان درخت تصمیم گیری است که برای سرعت و کارایی بالا طراحی شده است.

اصولاً XGBoosting نوعی کتابخانه نرم افزاری است که می توان آن را دانلود و روی ماشین نصب کرد. سپس باید از رابط های مختلفی به آن دسترسی پیدا کرد. به طور خاص ، XGBoosting از رابط های اصلی زیر پشتیبانی می کند :

رابط کاربری خط فرمان ( CLI )
++C ( زبانی که کتابخانه در آن نوشته شده است )
رابط پایتون و همچنین مدلی در scikit-learn
رابط R و همچنین مدلی در caret package
Julia
زبان های جاوا و JVM مانند Scala و سیستم عامل هایی مانند Hadoop

ویژگی های XGBoost

در این بخش از آموزش XGBoost ، ویژگی های XGBoost را مورد مطالعه قرار خواهیم داد.

الف. ویژگی های مدل

پیاده سازی مدل XGBoost ، از ویژگی های پیاده سازی scikit-learn و R پشتیبانی می کند. سه مدل اصلی تقویت گرادیان که از آن ها پشتیبانی می شود عبارتند از :

تقویت گرادیان

که از آن به عنوان ماشین تقویت کننده گرادیان یاد می شود که شامل نرخ یادگیری است.

تقویت گرادیان تصادفی

این تقویت، با زیرنمونه گیری ( Sub-Sampling ) در سطر ، ستون و ستون در هر تقسیم ( انشعاب ) انجام می گیرد.

تقویت گرادیان منظم

که شامل تقویت با منظم سازی L1 و L2 است.

درباره الگوریتم های یادگیری ماشین بیشتر بخوانید

ب. ویژگی های سیستم

این کتابخانه برای استفاده از طیف وسیعی از محیط های محاسباتی ، امکانات زیر را فراهم می کند :

موازی سازی ساخت درخت با استفاده از تمام هسته های پردازنده CPU در حین آموزش.
محاسبات توزیع شده برای آموزش مدل های بسیار بزرگ با استفاده از مجموعه ای از ماشین ها.
محاسبات خارج از هسته برای مجموعه داده های بسیار بزرگی که در حافظه جای نمی گیرند.
بهینه سازی حافظه پنهان ساختار داده ها و الگوریتم برای استفاده بهینه از سخت افزار.

ج. ویژگی های الگوریتم

برای بهره وری از زمان محاسبه و منابع حافظه ، از الگوریتم XGBoost استفاده می کنیم. همچنین ، این الگوریتم برای استفاده از منابع موجود جهت آموزش مدل طراحی شده است.

برخی از ویژگی های کلیدی پیاده سازی الگوریتم شامل موارد زیر است :

پیاده سازی آگاهانه تُنُک ( Sparse ) ، با مدیریت خودکار مقادیر از دست رفته داده.
ساختار بلوکی برای پشتیبانی از موازی سازی ساخت درخت.
آموزش مداوم ، برای تقویت یک مدل کاملا متناسب روی داده های جدید.
XGBoost یک نرم افزار متن باز رایگان است که برای استفاده تحت مجوز Apache-2 در دسترس است.

درباره کاربرد های یادگیری ماشین بخوانید

آموزش XGBoost – چرا XGBoosting ؟

دو دلیل استفاده از الگوریتم های XGBoosting نیز به شرح زیر است :

الف. سرعت اجرای XGBoost

XGBoosting در مقایسه با پیاده سازی تقویت گرادیان ، بسیار سریع است.

می توان XGBoost را با سایر پیاده سازی های تقویت گرادیان و درختان تصمیم گیری مقایسه کرد. علاوه بر این ، همه کد ها در GitHub موجود بوده و گزارش مفصلی از نتایج در دسترس است.

ب. عملکرد مدل XGBoost

این مدل بر مجموعه داده های ساختاریافته در مسائل مدلسازی پیشگویانه کلاسه بندی و رگرسیون حاکم است.

شواهد نشان می دهد که این الگوریتم در رقابت ها برنده است. این مدل مبتنی بر پلتفرم علوم داده رقابتی Kaggle است.

درباره دلایل مطالعه یادگیری ماشین بیشتر بخوانید

آموزش XGBoost – مزایای XGBoosting

الف. انعطاف پذیری

XGBoosting از توابع هدف تعریف شده توسط کاربر برای مسائل کلاسه بندی ، رگرسیون و رتبه بندی پشتیبانی می کند. ما از یک تابع هدف برای اندازه گیری عملکرد مدل استفاده می کنیم. این مدل مجموعه مشخصی از پارامترها را خروجی می دهد. علاوه بر این ، از معیارهای ارزیابی تعریف شده توسط کاربر نیز پشتیبانی می کند.

ب. دسترسی

همچنین برای زبان های برنامه نویسی مانند R ، Python ، Java ، Julia و Scala در دسترس است.

ج. ذخیره و بارگذاری مجدد

ما می توانیم به راحتی ماتریس و مدل داده خود را ذخیره کرده و بعداً دوباره بارگذاری کنیم. فرض کنید ، اگر یک مجموعه داده بزرگ داشته باشیم ، می توانیم برای اجتناب از اتلاف وقت برای انجام محاسبات مجدد ، به راحتی مدل را ذخیره و در آینده از آن استفاده می کنیم.

در مورد مزایا و معایب یادگیری ماشین مطالعه کنید

خب ، همه این موارد راجع به آموزش XGBoost بود. امیدوارم توضیحات ما مفید بوده باشد.

نتیجه گیری

به این ترتیب ، در این آموزش با XGBoost ، آشنا شدیم. همچنین ، در مورد ویژگی های XGBoosting ، دلیل استفاده از الگوریتم های XGBoost و مزایا XGBoosting صحبت کردیم. علاوه بر این ، اگر سوالی دارید ، در بخش نظرات بپرسید.