सक्रिय शिक्षण एक दोहराव वाला पर्यवेक्षित शिक्षण है जो उन स्थितियों के लिए प्रासंगिक है जहां डेटा पर्याप्त है, लेकिन वर्ग लेबल दुर्लभ या प्राप्त करने के लिए महंगा है। लर्निंग एल्गोरिदम इस मायने में सक्रिय है कि यह लेबल के लिए किसी उपयोगकर्ता (जैसे, एक व्यक्ति ऑरैकल) को सावधानीपूर्वक क्वेरी कर सकता है। एक अवधारणा को समझने के लिए उपयोग किए जाने वाले कई टुपल्स इस पद्धति को सामान्य पर्यवेक्षित शिक्षण में आवश्यक संख्या से छोटा है।
इसका उपयोग लागत को कम रखने के लिए किया जाता है, सक्रिय शिक्षार्थी का उद्देश्य यथासंभव कुछ लेबल वाले उदाहरणों का उपयोग करके उच्च सटीकता प्राप्त करना है। मान लीजिए कि डी सभी डेटा विचाराधीन है। डी पर सक्रिय सीखने के लिए कई तरीके जारी हैं।
विचार करें कि D का एक छोटा उपसमुच्चय वर्ग-लेबल है। यह सेट एल द्वारा इंगित किया गया है। यू डी में लेबल रहित डेटा का सेट है। इसे लेबल रहित डेटा के पूल के रूप में भी परिभाषित किया गया है। एक सक्रिय शिक्षार्थी मूल प्रशिक्षण सेट के रूप में एल से शुरू होता है। यह यू से एक या अधिक डेटा नमूनों को सावधानीपूर्वक चुनने के लिए एक क्वेरी सेवा का उपयोग कर सकता है और एक ऑरैकल (उदाहरण के लिए, एक व्यक्ति एनोटेटर) से उनके लिए लेबल का अनुरोध करता है।
नए लेबल किए गए नमूने L में डाले जाते हैं, जिनकी शिक्षार्थी को एक मानक पर्यवेक्षित विधि में आवश्यकता होती है। प्रक्रिया जारी है। सक्रिय सीखने का उद्देश्य लागू होने वाले कुछ लेबल वाले टुपल्स का उपयोग करके उच्च सटीकता को लागू करना है। सक्रिय शिक्षण एल्गोरिदम की गणना आमतौर पर लर्निंग कर्व्स के उपयोग से की जाती है, जो क्वेरी किए गए कई उदाहरणों के एक फ़ंक्शन के रूप में सटीकता की साजिश रचते हैं।
कुछ सक्रिय शिक्षण अनुसंधान लक्षित करते हैं कि क्वेरी किए जाने वाले डेटा टुपल्स का चयन कैसे किया जाए। विभिन्न ढांचे प्रस्तावित किए गए हैं। अनिश्चितता नमूनाकरण आम है, जहां सक्रिय शिक्षार्थी टुपल्स को क्वेरी करने के लिए चुनता है कि यह सबसे कम विशिष्ट है कि कैसे लेबल किया जाए।
संस्करण स्थान को कम करने के लिए कई विधियाँ काम करती हैं, अर्थात, सभी परिकल्पनाओं का सबसेट जो प्रेक्षित प्रशिक्षण टुपल्स के साथ भरोसेमंद हैं। यह एक निर्णय-सैद्धांतिक पद्धति का पालन कर सकता है जो अपेक्षित त्रुटि में कमी की गणना करता है।
यह टुपल्स का चयन करता है जिसके परिणामस्वरूप यू पर अपेक्षित एन्ट्रॉपी को कम करके गलत भविष्यवाणियों की कुल संख्या में उच्चतम कमी हो सकती है। यह विधि अधिक कम्प्यूटेशनल रूप से उच्च होने का प्रभाव डालती है।
ट्रांसफर लर्निंग का उद्देश्य एक या एक से अधिक स्रोत कार्यों से ज्ञान प्राप्त करना और ज्ञान को लक्ष्य कार्य में उपयोग करना है। पारंपरिक शिक्षण दृष्टिकोण प्रत्येक नए वर्गीकरण कार्य के लिए एक नए क्लासिफायरियर का निर्माण करता है, उपलब्ध क्लास-लेबल प्रशिक्षण और परीक्षण जानकारी पर निर्भर करता है।
एक नए (लक्ष्य) कार्य के लिए क्लासिफायरियर का निर्माण करते समय ट्रांसफर लर्निंग एल्गोरिदम स्रोत सेवाओं के बारे में ज्ञान लागू करते हैं। परिणामी क्लासिफायरियर के विकास के लिए कम प्रशिक्षण डेटा और कम प्रशिक्षण समय की आवश्यकता होती है। पारंपरिक शिक्षण एल्गोरिदम का मानना है कि प्रशिक्षण डेटा और परीक्षण डेटा समान वितरण और समान सुविधा क्षेत्र से लिए गए हैं। इसलिए, यदि वितरण में परिवर्तन होता है, तो ऐसी तकनीकों को नए सिरे से मॉडल के पुनर्निर्माण की आवश्यकता होती है।