वर्गीकरण एक डेटा माइनिंग दृष्टिकोण है जिसका उपयोग डेटा इंस्टेंस के लिए टीम सदस्यता का पूर्वानुमान लगाने के लिए किया जाता है। यह एक दो-चरण प्रक्रिया है। पहले चरण में, डेटा वर्गों या दृष्टिकोणों के पूर्वनिर्धारित सेट को परिभाषित करने वाला एक मॉडल बनाया जाता है। मॉडल को विशेषताओं द्वारा परिभाषित डेटाबेस टुपल्स पर विचार करके विकसित किया जाता है।
यह एक नई प्रस्तुत वस्तु की विशेषताओं का विश्लेषण करने और इसे पूर्वनिर्धारित वर्गों के संग्रह में से एक को निर्दिष्ट करने का कार्य है। वर्गीकरण नियम सीखने के लिए, सिस्टम को उन नियमों की खोज करनी होगी जो भविष्यवाणी विशेषताओं से वर्ग की भविष्यवाणी करते हैं, इसलिए पहले प्रत्येक वर्ग के लिए शर्तों का प्रतिनिधित्व किया जाना चाहिए। सिस्टम को एक केस या टुपल दिया जाना चाहिए जिसमें विशिष्ट ज्ञात विशेषता मान हों ताकि यह भविष्यवाणी कर सके कि यह केस किस वर्ग पर लागू होता है।
एक बार वर्ग परिभाषित हो जाने पर, सिस्टम को उन नियमों का अनुमान लगाना होगा जो वर्गीकरण को नियंत्रित करते हैं, इस प्रकार सिस्टम को प्रत्येक वर्ग के प्रतिनिधित्व की खोज करने में सक्षम होना चाहिए। विवरण केवल प्रशिक्षण सेट की भविष्यवाणी विशेषताओं को परिभाषित करना चाहिए ताकि केवल सकारात्मक उदाहरण लक्षण वर्णन को संतुष्ट करें, नकारात्मक उदाहरण नहीं। एक नियम सही है यदि इसकी परिभाषा सभी सकारात्मक उदाहरणों को कवर करती है और किसी वर्ग का कोई नकारात्मक उदाहरण कवर नहीं किया जाता है।
बेयसियन वर्गीकरण (Bayesian Classification)
बेयसियन क्लासिफायर सांख्यिकीय क्लासिफायर हैं। वे क्लास सदस्यता संभावनाओं की भविष्यवाणी कर सकते हैं, जिसमें यह संभावना शामिल है कि दिया गया नमूना किसी विशिष्ट वर्ग से संबंधित है। बड़े डेटाबेस पर लागू होने पर बेयसियन क्लासिफायर ने उच्च दक्षता और गति भी दिखाई है।
नाइव बेयसियन क्लासिफायर मानते हैं कि दिए गए वर्ग पर एक विशेषता मान का प्रभाव अन्य विशेषताओं के मूल्यों से स्वतंत्र है। इस धारणा को क्लास सशर्त स्वतंत्रता कहा जाता है। यह मूल्यांकन को परिभाषित करने के लिए बनाया गया है और नाइव माना जाता है।
बेयस प्रमेय (Bayes Theorem)
मान लें X एक डेटा टुपल है। बेयसियन विधि में, X को "सबूत" माना जाता है। मान लें H कोई परिकल्पना है, जिसमें डेटा टुपल X एक विशेष वर्ग C से संबंधित है। संभावना P(H|X) डेटा को परिभाषित करने के लिए तय की जाती है। यह संभावना P(H|X) परिकल्पना H के प्रभाव की संभावना है जो "सबूत" या देखे गए डेटा टुपल X को देखते हुए होती है।
P(H|X), X पर सशर्त H की पोस्टेरियर संभावना है। उदाहरण के लिए, डेटा टुपल्स की प्रकृति को उपयोगकर्ताओं तक सीमित मान लें जिन्हें विशेषता उम्र और आय द्वारा परिभाषित किया गया है, आमतौर पर, और X 30 वर्षीय उपयोगकर्ता है जिसकी आय Rs. 20,000 है। मान लें H यह परिकल्पना है कि उपयोगकर्ता कंप्यूटर खरीदेगा। इस प्रकार P(H|X) उपयोगकर्ता X के कंप्यूटर खरीदने की संभावना को दर्शाता है बशर्ते उपयोगकर्ता की उम्र और आय ज्ञात हो।
P(H), H की पूर्व संभावना है। उदाहरण के लिए, यह संभावना है कि कोई भी दिया गया उपयोगकर्ता कंप्यूटर खरीदेगा, उम्र, आय, या किसी अन्य डेटा की परवाह किए बिना। पोस्टेरियर संभावना P(H|X) पूर्व संभावना P(H) की तुलना में अधिक डेटा पर आधारित है, जो X से स्वतंत्र है।
इसी तरह, P(X|H), H पर सशर्त X की पोस्टेरियर संभावना है। यह संभावना है कि उपयोगकर्ता X 30 वर्ष का है और Rs. 20,000 कमाता है।
P(H), P(X|H), और P(X) को दी गई जानकारी से मापा जा सकता है। बेयस प्रमेय पोस्टेरियर संभावना P(H|X) की गणना करने का एक तरीका प्रदान करता है, P(H), P(X|H), और P(X) से। यह द्वारा दिया जाता है:
$$P(H|X)=\frac{P(X|H)P(H)}{P(X)}$$