बैकप्रोपेगेशन पूरी प्रक्रिया को परिभाषित करता है जिसमें ग्रेडिएंट की गणना और स्टोकेस्टिक ग्रेडिएंट डिसेंट में इसकी आवश्यकता दोनों शामिल हैं। तकनीकी रूप से, बैकप्रॉपैगैशन का उपयोग नेटवर्क के परिवर्तनीय भार से संबंधित नेटवर्क की त्रुटि के ग्रेडिएंट की गणना करने के लिए किया जाता है।
बैकप्रोपेगेशन की विशेषताएं पुनरावृत्त, पुनरावर्ती और प्रभावी दृष्टिकोण हैं जिसके माध्यम से यह नेटवर्क को बढ़ाने के लिए अद्यतन वजन की गणना करता है जब तक कि यह उस सेवा को लागू करने में सक्षम नहीं होता जिसके लिए इसे प्रशिक्षित किया जा रहा है। बैकप्रॉपैगेशन के लिए नेटवर्क डिज़ाइन समय पर ज्ञात होने वाली सक्रियण सेवा के डेरिवेटिव की आवश्यकता होती है।
बैकप्रॉपैगैशन का व्यापक रूप से तंत्रिका नेटवर्क प्रशिक्षण में उपयोग किया जाता है और नेटवर्क के वजन के लिए हानि फ़ंक्शन की गणना करता है। बहु-परत तंत्रिका नेटवर्क के साथ इसकी सेवा और इनपुट-आउटपुट मैपिंग के आंतरिक विवरण की खोज करें।
यह कृत्रिम नेटवर्क प्रशिक्षण का एक मानक रूप है, जो नेटवर्क में सभी भारों से संबंधित गणना ढाल हानि फ़ंक्शन का समर्थन करता है। बैकप्रोपेगेशन एल्गोरिथम का उपयोग एक तंत्रिका नेटवर्क को चेन नियम विधि के माध्यम से अधिक प्रभावी ढंग से प्रशिक्षित करने के लिए किया जाता है।
इस ग्रेडिएंट का उपयोग एक साधारण स्टोकेस्टिक ग्रेडिएंट डिसेंट एल्गोरिथम में वजन को खोजने के लिए किया जाता है जो त्रुटि को कम करता है। त्रुटि आउटपुट नोड्स से आंतरिक नोड्स तक पीछे की ओर फैलती है।
बैकप्रोपेगेशन के प्रशिक्षण एल्गोरिथ्म में चार चरण शामिल हैं जो इस प्रकार हैं -
-
वजन का प्रारंभ - कुछ छोटे यादृच्छिक मान असाइन किए गए हैं।
-
फ़ीड-फ़ॉरवर्ड - प्रत्येक इकाई X एक इनपुट संकेत प्राप्त करती है और इस संकेत को प्रत्येक छिपी हुई इकाई Z1 तक पहुंचाती है , जेड<उप>2 ,... जेड<उप>एन . प्रत्येक छिपी हुई इकाई सक्रियण फ़ंक्शन की गणना करती है और अपना संकेत Z1 . भेजती है प्रत्येक आउटपुट यूनिट के लिए। आउटपुट यूनिट दिए गए इनपुट पैटर्न की प्रतिक्रिया बनाने के लिए सक्रियण फ़ंक्शन की गणना करता है।
-
त्रुटियों का पिछला प्रचार − प्रत्येक आउटपुट इकाई सक्रियण Yk . की तुलना करती है लक्ष्य मान Tk . के साथ उस इकाई के लिए संबंधित त्रुटि का निर्धारण करने के लिए। यह त्रुटि पर आधारित है, कारक $\delta$k (K =1, ... .m) की गणना की जाती है और इसका उपयोग आउटपुट इकाई Yk में त्रुटि को वितरित करने के लिए किया जाता है पिछली परत में सभी इकाइयों पर वापस। इसी तरह गुणनखंड $\delta$j (j =1, .... p) की तुलना प्रत्येक छिपी हुई इकाई Zj . के लिए की जाती है ।
-
यह वज़न और पूर्वाग्रहों को अपडेट कर सकता है।
बैकप्रोपेगेशन के प्रकार
Backpropagation दो प्रकार के होते हैं जो इस प्रकार हैं -
स्टेटिक बैक प्रोपेगेशन - इस प्रकार के बैकप्रॉपैगैशन में, स्टैटिक इनपुट की मैपिंग के कारण स्टैटिक आउटपुट बनाया जाता है। इसका उपयोग ऑप्टिकल कैरेक्टर रिकग्निशन जैसी स्थिर वर्गीकरण समस्याओं को हल करने के लिए किया जाता है।
आवर्ती बैकप्रोपेगेशन - आवर्तक प्रसार को तब तक निर्देशित या निर्देशित किया जाता है जब तक कि एक विशिष्ट निर्धारित मूल्य या थ्रेशोल्ड मान प्राप्त नहीं हो जाता। निश्चित मान के बाद, त्रुटि का मूल्यांकन किया जाता है और पीछे की ओर प्रचारित किया जाता है।