अवधारणा प्रारंभिक डेटा से कई क्लासिफायरियर बनाने और फिर अज्ञात उदाहरणों का वर्णन करते समय उनकी भविष्यवाणियों को एकत्रित करने की है। क्लासिफायर के समूह का निर्माण कई तरीकों से किया जा सकता है जो इस प्रकार हैं -
प्रशिक्षण सेट में हेरफेर करके - इस पद्धति में, कुछ नमूना वितरण के अनुसार प्रारंभिक डेटा को फिर से तैयार करके कई प्रशिक्षण सेट तैयार किए जाते हैं। नमूना वितरण यह तय करता है कि प्रशिक्षण के लिए उदाहरण चुने जाने की कितनी संभावना है, और यह एक परीक्षण से दूसरे परीक्षण में बदल सकता है। एक विशिष्ट शिक्षण एल्गोरिथ्म का उपयोग करके प्रत्येक प्रशिक्षण सेट से एक क्लासिफायरियर का निर्माण किया जाता है। बैगिंग और बूस्टिंग पहनावा विधियों के उदाहरण हैं जो उनके प्रशिक्षण सेट में हेरफेर करते हैं।
इनपुट सुविधाओं में हेर-फेर करके - इस पद्धति में, प्रत्येक प्रशिक्षण सेट बनाने के लिए इनपुट सुविधाओं का एक सबसेट चुना जाता है। सबसेट को बेतरतीब ढंग से चुना जा सकता है या डोमेन पेशेवरों की सिफारिश पर निर्भर करता है। कई अध्ययनों से पता चलता है कि यह विधि डेटा सेट के साथ बहुत अच्छी तरह से काम करती है जिसमें बेहद अनावश्यक विशेषताएं शामिल हैं। रैंडम फ़ॉरेस्ट एक ऐसी तकनीक है जो अपनी इनपुट सुविधाओं में हेरफेर करती है और इसके आधार क्लासिफायर के रूप में निर्णय पेड़ों की आवश्यकता होती है।
कक्षा लेबल में हेर-फेर करके - इस पद्धति का उपयोग तब किया जा सकता है जब कई वर्ग पर्याप्त रूप से बड़े हों। प्रशिक्षण डेटा को दो अलग-अलग उपसमुच्चय, जैसे A0 और A1 में बेतरतीब ढंग से कक्षा लेबल को उप-विभाजित करके एक द्विआधारी वर्ग समस्या में बदल दिया जाता है।
प्रशिक्षण उदाहरण जिनके वर्ग लेबल सबसेट A0 पर लागू होते हैं, उन्हें कक्षा 0 में परिभाषित किया जाता है, जबकि जो सबसेट A1 पर लागू होते हैं उन्हें कक्षा 1 में परिभाषित किया जाता है। रिलेबल किए गए उदाहरणों का उपयोग बेस क्लासिफायरियर को प्रशिक्षित करने के लिए किया जाता है। बार-बार, क्लास-रीलेबलिंग और मॉडल-बिल्डिंग चरण कई बार, बेस क्लासिफायर का एक समूह प्राप्त किया जाता है।
जब एक परीक्षण उदाहरण प्रस्तुत किया जाता है, तो प्रत्येक बेस क्लासिफायरियर सीआई अपने क्लास लेबल की भविष्यवाणी कर सकता है। यदि परीक्षण उदाहरणों की भविष्यवाणी कक्षा 0 के रूप में की जाती है, इसलिए A0 पर लागू होने वाले सभी वर्गों को वोट मिलेगा।
सीखने के एल्गोरिदम में हेरफेर करके - कई लर्निंग एल्गोरिदम को इस तरह से हेरफेर किया जा सकता है कि समान प्रशिक्षण डेटा पर कई बार एल्गोरिदम का उपयोग करने से कई मॉडल बन सकते हैं। उदाहरण के लिए, एक कृत्रिम तंत्रिका नेटवर्क अपने नेटवर्क टोपोलॉजी या न्यूरॉन्स के बीच कनेक्शन के मूल भार को संशोधित करके कई मॉडल बना सकता है। इसी तरह, पेड़ उगाने की प्रक्रिया में यादृच्छिकता को इंजेक्ट करके निर्णय पेड़ों के एक समूह को इकट्ठा किया जा सकता है।
पहली तीन विधियाँ सामान्य तकनीकें हैं जो कुछ क्लासिफायरियर के लिए प्रासंगिक हैं, जबकि चौथी विधि उपयोग किए जाने वाले क्लासिफायर के प्रकार पर आधारित है। बेस क्लासिफायर विधियों को क्रमिक रूप से (एक के बाद एक) या समानांतर में (सभी एक साथ) बनाया जा सकता है।
पहली प्रक्रिया प्रारंभिक डेटा डी से एक प्रशिक्षण सेट तैयार करना है। यह उपयोग किए जाने वाले पहनावा दृष्टिकोण के प्रकार पर आधारित है, प्रशिक्षण सेट डी के सटीक या मामूली रूपांतरण हैं। प्रशिक्षण सेट का आकार वही रखा जाता है जैसे प्रारंभिक डेटा, लेकिन उदाहरणों का वितरण समान नहीं हो सकता है, अर्थात, कुछ उदाहरण प्रशिक्षण सेट में कई बार हो सकते हैं, जबकि अन्य एक बार भी नहीं हो सकते हैं।