Regularizers आप अनुकूलन के दौरान परत मापदंडों या परत गतिविधि पर दंड लागू करने की अनुमति देते हैं। इन दंडों को उस हानि फ़ंक्शन में शामिल किया जाता है जिसे नेटवर्क अनुकूलित करता है। नियमितीकरण दंड प्रति-परत के आधार पर लागू होते हैं।
गतिविधि नियमितकर्ता क्या है?
गतिविधि नियमितकर्ता नेट के आउटपुट के एक फ़ंक्शन के रूप में काम करता है, और इसका उपयोग ज्यादातर छिपी हुई इकाइयों को नियमित करने के लिए किया जाता है, जबकि weight_regularizer, जैसा कि नाम से पता चलता है, वज़न पर काम करता है (जैसे उन्हें सड़ना)।
मुझे एक्टिविटी रेगुलराइज़र का उपयोग कब करना चाहिए?
अगर आप चाहते हैं कि आउटपुट फंक्शनसे गुजरे (या उसके पास एक इंटरसेप्ट हो), तो आप बायस रेगुलराइजर का इस्तेमाल कर सकते हैं। अगर आप चाहते हैं कि आउटपुट छोटा हो (या 0 के करीब), तो आप एक्टिविटी रेगुलराइज़र का उपयोग कर सकते हैं।
मैं केरस रेगुलराइज़र का उपयोग कैसे करूँ?
परत में एक रेगुलराइज़र जोड़ने के लिए, आपके पास बस पसंदीदा नियमितीकरण तकनीक को परत के कीवर्ड तर्क 'kernel_regularizer' में पास करने के लिए है। केरस नियमितीकरण कार्यान्वयन विधियाँ एक पैरामीटर प्रदान कर सकती हैं जो नियमितीकरण हाइपरपैरामीटर मान का प्रतिनिधित्व करता है।
कर्नेल और बायस क्या है?
घना वर्ग
घना ऑपरेशन को लागू करता है: आउटपुट=सक्रियण (डॉट (इनपुट, कर्नेल) + पूर्वाग्रह) जहां सक्रियण तत्व-वार सक्रियण फ़ंक्शन है जिसे सक्रियण तर्क के रूप में पारित किया गया है, कर्नेल एक भार मैट्रिक्स है जो परत, और. द्वारा बनाया गया हैपूर्वाग्रह परत द्वारा बनाया गया एक पूर्वाग्रह वेक्टर है (केवल तभी लागू होता है जब use_bias सही हो)।
