2012-11-14 30 views
5

मैं विशिष्ट विशेषताओं के साथ एक तंत्रिका नेटवर्क मॉडल की तलाश में हूं। यह मॉडल मौजूद नहीं हो सकता है ...क्या यह तंत्रिका नेटवर्क मॉडल मौजूद है?

मुझे ऐसे नेटवर्क की आवश्यकता है जो परंपरागत कृत्रिम तंत्रिका नेटवर्क के रूप में "परतों" का उपयोग न करे। इसके बजाय, मैं चाहता हूं [जो मैं मानता हूं] एक और जैविक मॉडल।

यह मॉडल नीचे दी गई छवि की तरह इंटरकनेक्टेड न्यूरॉन्स का एक बड़ा समूह रखेगा। कुछ न्यूरॉन्स (आरेख के नीचे) इनपुट सिग्नल प्राप्त करेंगे, और एक कैस्केड प्रभाव सिग्नल शक्ति और कनेक्शन वजन के आधार पर संभावित, जुड़े न्यूरॉन्स संभवतः आग लगने का कारण बनता है। यह कुछ भी नया नहीं है, लेकिन, कोई स्पष्ट परत नहीं है ... बस अधिक से अधिक दूर, अप्रत्यक्ष कनेक्शन।

जैसा कि आप देख सकते हैं, मेरे पास नेटवर्क अनुभाग (मंडल) में विभाजित है। प्रत्येक सर्कल एक अर्थपूर्ण डोमेन (एक भाषाविज्ञान अवधारणा) का प्रतिनिधित्व करता है जो एक अवधारणा के आसपास मूल जानकारी है; अनिवार्य रूप से एक अर्थपूर्ण डोमेन एक अवधारणा है।

किसी अनुभाग के नोड्स के बीच कनेक्शन में विभिन्न वर्गों के नोड्स के बीच कनेक्शन की तुलना में अधिक वजन होता है। तो "कार" के लिए नोड्स "अंग्रेजी" से "कार" को जोड़ने वाले नोड्स की तुलना में एक दूसरे से अधिक जुड़े हुए हैं। इस प्रकार, जब एक खंड में एक न्यूरॉन आग (सक्रिय होता है), तो यह संभावना है कि पूरे (या अधिकतर) अनुभाग को भी सक्रिय किया जाएगा।

सब कुछ, मुझे आउटपुट पैटर्न को आगे के आउटपुट के लिए इनपुट के रूप में उपयोग करने की आवश्यकता है, और इसी तरह। एक कैस्केड प्रभाव वह है जो मैं बाद में हूं।

मुझे उम्मीद है कि यह समझ में आता है। जहां आवश्यक हो स्पष्टीकरण के लिए कृपया पूछें।

क्या अस्तित्व में कोई उपयुक्त मॉडल है जो मॉडल मैंने पहले वर्णित किया है?

enter image description here

+1

बारम्बार एनएन? http://www.idsia.ch/~juergen/rnn.html – greeness

+0

अधिकांश तंत्रिका नेटवर्कों को सीखने या सामान्यीकृत करने की उम्मीद है ... मुझे उत्सुकता है कि नेटवर्क सीखने की उम्मीद है कि सीखने के लिए कोई तंत्र नहीं है (जैसा कि वजन संशोधित नहीं हैं)। जब तक कि आप सामान्यीकृत या सीखने में रुचि नहीं रखते हैं और केवल लहर प्रभाव का अध्ययन करने में रुचि रखते हैं ... इसमें स्वयं दिलचस्प होना चाहिए! चेकआउट [बोल्टज़मान मशीन] (http://en.wikipedia.org/wiki/Boltzmann_machine) और [हॉपफील्ड_नेट] (http://en.wikipedia.org/wiki/Hopfield_net) –

+0

@ शायन आरसी मुझे इस मॉडल के साथ लगता है , भार अभी भी समय के साथ किसी भी तरह समायोजित करेंगे, और नोड्स में भी अधिक कनेक्शन बनाए जाएंगे। –

उत्तर

2

सभी सब में, मैं उत्पादन पैटर्न इतने पर आगे उत्पादन के लिए इनपुट के रूप में प्रयोग की जाने वाली है, और की जरूरत है। एक कैस्केड प्रभाव वह है जो मैं करता हूं।

यह कई छिपी हुई परतों के साथ फ़ीड-फ़ॉरवर्ड नेट की तरह लगता है। यहां "परत" शब्द से डरो मत, कई लोगों के साथ ऐसा होगा जैसे आपने वहां खींचा है .. कुछ 5-5-7-6-7-6-6-5-6-5 की तरह - संरचित नेट (5 इनपुट, 8 छुपा परतें जिनमें प्रत्येक और 5 आउटपुट में नोड्स की अलग-अलग मात्रा होती है)।

आप परतों से दूसरे तक किसी भी तरह से नोड्स को एक-दूसरे से जोड़ सकते हैं। आप निरंतर शून्य का उपयोग करके उनके बीच वजन के रूप में सरल से कुछ अनकनेक्टेड छोड़ सकते हैं, या यदि ऑब्जेक्ट ओरिएंटेड प्रोग्रामिंग का उपयोग किया जाता है, तो बस कनेक्शन चरण से अवांछित कनेक्शन छोड़ दें। परतों को छोड़ना मानक एनएन-मॉडल के साथ कठिन हो सकता है, लेकिन एक तरीका प्रत्येक परत के लिए एक डमी नोड का उपयोग कर सकता है जिस पर वजन कम करने की आवश्यकता होती है। नोड से डमी तक मूल आउटपुट * वजन-मूल्य की प्रतिलिपि बनाना एक परत छोड़ने जैसा ही होगा और यह मानक एनएन-मॉडल को बरकरार रखेगा।

यदि आप नेट को केवल 1 और 0 के आउटपुट के लिए चाहते हैं, तो प्रत्येक नोड में सक्रियण फ़ंक्शन के रूप में एक साधारण चरण-फ़ंक्शन का उपयोग किया जा सकता है: 1 0.5 से अधिक मानों के लिए 1, 0 अन्यथा।

मुझे यकीन नहीं है कि यह चाहते हैं कि आप चाहते हैं, लेकिन इस तरह से आप वर्णित नेट बनाने में सक्षम होना चाहिए। हालांकि, मुझे नहीं पता कि आप अपने नेट को कुछ अर्थपूर्ण डोमेन बनाने के लिए कैसे सिखाएंगे। क्यों न सिर्फ नेट को अपना वजन सीखने दें? यह सरल इनपुट-आउटपुट-एक्सामल्स और बैकप्रोपैगेशन-एल्गोरिदम के साथ हासिल किया जा सकता है।यदि आप अपने नेट को बनाने के लिए मानक मॉडल का उपयोग करते हैं, तो सीखने का गणित किसी अन्य फ़ीड-फॉरवर्ड नेट से अलग नहीं होगा। अंतिम लेकिन कम से कम नहीं, आप शायद एक ऐसी लाइब्रेरी पा सकते हैं जो इस कार्य के लिए केवल मामूली के साथ उपयुक्त है या कोड में कोई बदलाव नहीं है।

3

आपका तंत्रिका नेटवर्क एक तंत्रिका नेटवर्क जैसा दिखता है जो इवोल्यूशनरी एल्गोरिदम का उपयोग करके बनाया गया है उदाहरण के लिए जेनेटिक एल्गोरिदम।

विवरण के लिए निम्नलिखित लेख देखें।

तंत्रिका नेटवर्क के इस प्रकार में सारांश के लिए। न्यूरॉन्स और उनके कनेक्शन विकासवादी तकनीकों का उपयोग कर बनाए जाते हैं। इसलिए उनके पास सख्त परत दृष्टिकोण नहीं है।

"जेनेटिक संचालन:: हंस निम्नलिखित तकनीक का उपयोग करता

विदेशी ऑपरेटर दो तंत्रिका नेटवर्क के बीच आंशिक वर्गों का आदान प्रदान करके एक नया वंश का उत्पादन यह दो अलग तंत्रिका नेटवर्क बेतरतीब ढंग से चयन करता है और के रूप में एक छिपा नोड चुनता है। मुख्य बिंदु। फिर, वे चयनित पिवट बिंदु के आधार पर कनेक्शन लिंक और संबंधित वजन का आदान-प्रदान करते हैं।

उत्परिवर्तन ऑपरेटर एक कनेक्शन लिंक और यादृच्छिक रूप से इसी वजन को बदलता है चयनित तंत्रिका नेटवर्क। यह दो संचालन में से एक करता है: एक नए कनेक्शन के अतिरिक्त या मौजूदा कनेक्शन को हटाने।

उत्परिवर्तन ऑपरेटर यादृच्छिक रूप से एक तंत्रिका नेटवर्क के दो नोड्स का चयन करता है। यदि उनके बीच कोई संबंध नहीं है, तो यह दो नोड्स को यादृच्छिक भार से जोड़ता है।
अन्यथा, यह कनेक्शन लिंक और वजन की जानकारी को हटा देता है। "

Whitley के लेख से आंकड़ा के बाद।

Neural Network Back Propogation vs Genetic Algorithm

@ARTICLE{Han2005Evolutionary, 
    author = {Sang-Jun Han and Sung-Bae Cho}, 
    title = {Evolutionary neural networks for anomaly detection based on the behavior 
of a program}, 
    journal = {Systems, Man, and Cybernetics, Part B: Cybernetics, IEEE Transactions 
on}, 
    year = {2005}, 
    volume = {36}, 
    pages = {559 -570}, 
    number = {3}, 
    month = {june }, 

}

@article{whitley1995genetic, 
    title={Genetic algorithms and neural networks}, 
    author={Whitley, D.}, 
    journal={Genetic algorithms in engineering and computer science}, 
    pages={203--216}, 
    year={1995}, 
    publisher={Citeseer} 
} 
+0

तो यह एक तंत्रिका नेटवर्क के चारों ओर एक परत/खोल/रैपर की तरह है जो समय के साथ नेटवर्क को संशोधित करता है? मूल रूप से एक तंत्रिका नेटवर्क एक विकासवादी/अनुवांशिक एल्गोरिदम के साथ संयुक्त? –

+1

बिल्कुल। पीछे प्रसार का उपयोग करके अनुकूलन के बजाय, यह विकासवादी/अनुवांशिक एल्गोरिदम का उपयोग करता है। –

+0

धन्यवाद एटिला ... यह एक अच्छी दिशा है। –

1

आनुवंशिक एल्गोरिथम को शामिल ध्वनि ठीक (विशेष रूप से एक डेरेल Whitley के काम का हवाला देते हुए) जवाब।

एक और विकल्प बस यादृच्छिक रूप से नोड कनेक्ट करने के लिए होगा? यह आवर्ती तंत्रिका नेटवर्क के साथ, कम या ज्यादा किया जाता है।

आप एएनएन के उदाहरण के लिए लीकुन के अत्यधिक सफल संक्रामक तंत्रिका नेटवर्क पर भी कई परतों के साथ एक नज़र डालें, जो कि आपने यहां वर्णित कुछ हद तक वर्णन किया है जिसे एक विशिष्ट उद्देश्य के लिए डिजाइन किया गया था।

1

आपके नेटवर्क को भी नकल करता है इस http://nn.cs.utexas.edu/?fullmer:evolving

लेकिन वास्तव में नेटवर्क जानने के लिए अनुमति नहीं है, लेकिन प्रतिस्थापित किया।

यहाँ कवर किया जा सकता है जो

http://www.alanturing.net/turing_archive/pages/reference%20articles/connectionism/Turing%27s%20neural%20networks.html

+0

इस जानकारी के लिए धन्यवाद! –