C5 प्रूनिंग एल्गोरिदम
C5 ऑस्ट्रेलियाई शोधकर्ता, जे. रॉस क्विनलन द्वारा विकसित और कई वर्षों से परिष्कृत निर्णय-वृक्ष एल्गोरिदम का वर्तमान संस्करण है। एक पूर्व संस्करण, ID3, 1986 में स्थापित, मशीन लर्निंग के क्षेत्र में प्रभावशाली था और इसके उत्तराधिकारी कई व्यावसायिक डेटा माइनिंग सेवाओं में उपयोग किए जाते हैं।
C5 द्वारा विकसित ट्री CART द्वारा विकसित ट्री के समान हैं। CART की तरह, C5 एल्गोरिदम पहले एक ओवरफिट ट्री विकसित करता है और फिर एक अधिक मजबूत मॉडल बनाने के लिए इसे वापस प्रून करता है। प्रूनिंग विधि जटिल है, लेकिन C5 उम्मीदवार सबट्रीज़ के बीच चयन करने के लिए एक वैलिडेशन सेट का उपयोग नहीं करता।
ट्री को विकसित करने के लिए उपयोग किया गया समान डेटा यह निर्धारित करने के लिए भी उपयोग किया जाता है कि ट्री को कैसे प्रून किया जाना चाहिए। यह एल्गोरिदम के शैक्षणिक दुनिया में आधार को प्रतिबिंबित कर सकता है, जहां अतीत में, विश्वविद्यालय के शोधकर्ताओं को प्रशिक्षण सेट के लिए उपयोग करने के लिए वास्तविक रिकॉर्ड की बड़ी मात्रा प्राप्त करने में कठिन समय था। तदनुसार, उन्होंने अपने खराब डेटासेट्स से डेटा की अंतिम कुछ बूंदों को निकालने का प्रयास करने में बहुत समय और प्रयास खर्च किया - एक समस्या जो व्यावसायिक दुनिया में डेटा माइनर्स को नहीं दिखती।
C5 प्रूनिंग प्रक्रिया
C5 प्रत्येक नोड पर त्रुटि दर निर्धारित करके और यह मानकर कि वास्तविक त्रुटि दर काफी खराब है, ट्री को प्रून करता है। यदि N रिकॉर्ड एक नोड पर दिखाई देते हैं, और उनमें से E गलत तरीके से वर्गीकृत हैं, तो उस नोड पर त्रुटि दर E/N है।
C5 सांख्यिकीय नमूनाकरण के साथ एक सादृश्य का उपयोग करके एक पत्ते पर देखी जा सकने वाली सबसे खराब त्रुटि लागत का अनुमान लगाता है। सादृश्य पत्ते पर जानकारी को परीक्षणों के एक क्रम के परिणामों को परिभाषित करने के रूप में सोचकर काम करता है जिनमें से प्रत्येक के दो संभावित परिणाम हो सकते हैं।
C5 मानता है कि प्रशिक्षण रिकॉर्ड पर देखी गई त्रुटियों की संख्या इस सीमा का निचला छोर है, और उच्च छोर को प्रतिस्थापित करके एक पत्ते की अनुमानित त्रुटि लागत, अनदेखे रिकॉर्ड पर E/N प्राप्त करता है। नोड जितना निचला होगा, त्रुटि लागत उतनी ही बड़ी होगी। जब एक नोड पर कई त्रुटियों का उच्च-अंत अनुमान उसके बच्चों की त्रुटियों के अनुमान से कम होता है, तो बच्चों को प्रून किया जाता है।
एक मॉडल का मुख्य लक्ष्य पहले अनदेखे डेटा पर सुसंगत भविष्यवाणियां करना है। कोई नियम जो उस लक्ष्य को प्राप्त नहीं कर सकता, उसे मॉडल से हटा दिया जाना चाहिए। कुछ डेटा माइनिंग टूल ग्राहक को निर्णय वृक्ष को मैन्युअल रूप से प्रून करने में सक्षम बनाते हैं।
यह एक सहायक सुविधा है, लेकिन डेटा माइनिंग सॉफ्टवेयर की आशा की जा सकती है जो स्वचालित मजबूती-आधारित प्रूनिंग को एक विकल्प के रूप में समर्थन करता है। ऐसे एप्लिकेशन को एक कम व्यक्तिपरक तत्व की आवश्यकता होती है जो एक विभाजन को अस्वीकार करने के लिए "वैलिडेशन सेट परिणामों का वितरण प्रशिक्षण समूह परिणामों के वितरण से अलग दिखता है" से अलग हो।
