پاورپوینت آشنايي با درخت هاي تصميم گيري

— پاورپوینت شامل تصاویر میباشد —-

اسلاید ۱ :

مقدمه

• بردار ویژگی: دوتایی (X,Y) بیانگر بردار ویژگی (الگو) X است و Y برچسب کلاس مربوطه است. اجزاء X همان ویژگی‌های مورد نظر هستند.
• الگوی مرتب: اگر ویژگی‌های X دارای مقادیری از یک مجموعه مرتب باشند، X را یک الگوی مرتب (orderd)یا عددی(numerical) می‌نامیم .
• الگوی حتمی: اگر ویژگی‌های بردار مقادیری اختیار کنند که دارای ترتیب طبیعی نباشند، آن را یک الگوی حتمی (Categorical) می‌نامند.
• ویژگی‌های عددی (مرتب) ممکن است دارای مقادیر گسسته یا پیوسته باشند.
• روش های دسته بندی:

تک مرحله ای

چند مرحله ای

• مقادیر ویژگی ها:

پیوسته

گسسته

اسلاید ۲ :

معرفی درخت تصمیم گیری و برخی تعاریف مورد نیاز

نمایی از یک درخت تصمیم گیری:

اسلاید ۳ :

• میانگین تعداد لایه‌ها از ریشه تا گره‌های پایانی را عمق متوسط می‌نامیم.
• میانگین تعداد گره‌های میانی در هر سطح درخت عرض متوسط درخت نامیده می‌شود.
• اگر دو گره داخلی حداقل دارای یک کلاس مشترک باشند در این حالت گفته می‌شود که کلاس‌ها دارای روی هم افتادگی (O erlap) هستند.

اسلاید ۴ :

نحوه انتساب کلاس به یک بردار ورودی در درخت تصمیم گیری:

• بردار ورودی در گره ریشه قرار می گیرید.
• بردار ورودی در هر گرهی که قرار می گیرد با توجه به ارزیابی انجام شده در یکی از شاخه ها پایین می رود تا در یک برگ قرار بگیرد.
• برچسب برگی که گره در آن قرار می گیرد به عنوان برچسب بردار برگردانده می شود.

اسلاید ۵ :

مزایا:

.۱قوانین تولید شده و به کارگرفته شده قابل استخراج و قابل فهم.

.۲کار با داده های پیوسته و گسسته.

.۳استفاده از نواحی تصمیم گیری ساده.

.۴حذف مقایسه های غیرضروری.

.۵استفاده از ویژگی های متفاوت برای نمونه های مختلف.

.۶احتیاجی به تخمین تابع توزیع نیست.

اسلاید ۶ :

معایب:

.۱در مواردی که هدف تخمین تابعی با مقادیر پیوسته است مناسب نیستند.

.۲در موارد با تعداد کلاس زیاد و نمونه آموزشی کم، احتمال خطا بالاست.

.۳هزینه محاسباتی بالای تولید درخت تصمیم گیری.

.۴هرس کردن درخت نیز هزینه بالایی دارد.

.۵در مسائلی که کلاس های ورودی با نواحی مکعبی به خوبی جدا نشوند خوب عمل نمی کنند.

.۶زیاد شدن گره پایانی در صورت روی هم افتادگی گره ها.

.۷انباشته شدن خطای لایه ها بر روی یکدیگر.

.۸طراحی درخت تصمیم گیری بهینه مشکل است.

اسلاید ۷ :

طراحی درخت تصمیم گیری

اسلاید ۸ :

اهداف اصلی درخت‌های تصمیم‌گیری دسته‌بندی کننده:

.۱داده‌های ورودی را تا حد ممکن درست دسته‌بندی کنند.

.۲دانش آموخته شده از داده‌های آموزشی را به گونه‌ای عمومیت ببخشند که داده‌های دیده نشده را با بالاترین دقت ممکن دسته‌بندی کنند.

.۳در صورت اضافه شدن داده‌های آموزشی جدید بتوان به راحتی درخت تصمیم‌گیری را گسترش داد(دارای خاصیت افزایشی باشند).

.۴ساختار درخت حاصل به ساده‌ترین شکل ممکن باشد.

اسلاید ۹ :

گام‌های لازم برای طراحی یک درخت تصمیم‌گیری:

.۱انتخاب مناسبی برای ساختار درخت.

.۲انتخاب ویژگی‌هایی مورد نظر برای تصمیم‌گیری در هر یک از گره‌های میانی.

.۳انتخاب قانون تصمیم‌گیری یا استراتژی مورد استفاده در هر یک از گره‌های میانی.

اسلاید ۱۰ :

روش‌های هیوریستیک ساخت درخت تصمیم‌گیری:

.۱روش‌های پایین به بالا

.۲روش‌های بالا به پایین

.۳روش ترکیبی

.۴روش‌های رشد دهنده-هرس کننده