Vzhľadom za závažnosť ostatných častí publikácie uvádzame túto
kapitolu iba ako prehľadovú v odstavcoch.
1943 začína éra teórie NN pod vedením amerických vedcov
McCullocha a Pittsa. Dr. McCulloch bol
psychiater a neuroanatóm, kým dr. Pitts bol matematik a celá
aktivita, bola sústredená na Univerzite v Chicagu, kde v
spomínanom roku 1943 títo dvaja páni prvýkrát definovali
binárny neurón. Je zaujímavé, že John von Neumann, pri
konštrukcii svojho prvého počítača ENIAC v roku 1946 bol
do určitej miery inšpirovaný aj spomínanou prácou.
1948 Wiener vo svojej knihe Kybernetika naznačuje
určité koncepty NN
1949 Hebb vo svojej knihe The Organization of
Behavior1.2 prvýkrát explicitne
spomína pojem učenia a jeho vzťah k synaptickým váham a ich
modifikácii.
1952 dr. Ashby napísal knihu Design of a Brain: The
Origin of Adaptive Behavior1.3. Tato publikácia mala zásadný význam
pre rozvoj NN .
1954 dr. Minsky napísal svoju Ph.D. dizertáciu na tému
Neurónové siete a pozdejšie v roku 1961 napísal zásadný
článok Step Toward Artificial Intelligence.
1956 páni Rochester, Holland, Habit a Duda sa prvýkrát
pokúsili o počítačovú simuláciu NN
1958 prichádza dr. Rosenblat s novým prístupom k
rozpoznávaniu pomocou tzv. perceptrónu a pozdejšie
prichádza so svojou konvergenčnou teóriou perceptrónu, ktorá
predstavuje počiatky neurodynamiky.
1960 prichádza s Widrow a Hoff a tzv. Adaline -
Adaptive linear element a o 2 roky nato prichádza Widrow s
tzv. Madaline - Multiple adaptive element. Tieto príspevky
do značnej miery posunuli teoretickú bázu NN dopredu, hoci
nedostatok výpočtovej techniky vytváral ohromné zábrany ďalšiemu
rozvoju.
v roku 1965 mala dôležitý význam publikácia dr. Nilssona
Learning Machines1.4.
v roku 1967 dr. Cowan predstavuje svoju "sigmoidálnu" aktivačnú
funkciu
v roku 1968 dr. Grossberg predstavuje
svoj adaptívny model neurónu a používa nelineárne diferenciálne
rovnice na jeho popis so zámerom ich použitia pre tzv. short term
memory1.5.
v roku 1969 dr. Minsky a dr. Papert popisujú činnosť
viacvrstvového perceptrónu.
obdobie 1970-80 nazývame obdobím útlmu1.6. Dôvodom, boli nedostatočné výpočtové
kapacity včítane pamäťových možností. Určité práce v teoretickej
oblasti boli urobené ale nie s takou dynamikou ako predtým
1975 dr. Little a Shaw popisujú pravdepodobnostný model neurónu
v roku 1980 prichádza Grossberg s rozvojom tzv. Competitive
learning, ktorá po rozpracovaní a modifikácii zakladá novú triedu NN
založenej na tzv. Adaptive resonance theory.
v roku 1982 dr. Hopfield použil termín energie NN
pre pochopenie rekurentných sietí. Postupne rozvojom vzniká aj
trieda tzv. Hopfieldových sietí. O rok pozdejšie v podstate
formuloval princípy simulácie pamäte resp. uchovania informácie
v dynamickom systéme.
dr. Kirkpatrick a jeho kolegovia popisujú procedúru tzv.
simulovaného ochladzovania1.7.
Toto inšpirovalo v roku 1985 dr. Hintona a kol. k návrhu
stochastickej učiacej procedúry pre tzv. Boltzmanov stroj.
v tom istom roku (1983) prišli páni Barto a kol. s
tzv. reinforcement learning a jeho aplikáciou v oblasti
riadenia technologických systémov.
v roku 1986 prišli dr. Rumelhart a kol. s metódou
učenia spätným šírením chyby1.8. Táto metóda pre svoju relatívnu
jednoduchosť je jednou z najrozšírenejších metód učenia NN.
v roku 1988 prišli páni Broomhead a Lowe s procedúrou
Radial Basis Functions, pre dopredné siete, ktorá má korene v
teórii potenciálnych funkcií, ktoré využili Duda a Hart v roku 1973
pre rozpoznávanie.
Hoveuvedený historický prehľad vývoja aktivít týkajúcich sa NN je
stručným náčrtom dejín tohto odboru UI. Je zrejmé, že jeho
rozvoj bude naďalej dynamický a v prípade nenájdenia inej
alternatívnej cesty v UI, sa NN stanú dominantným prvkom moderného
chápania UI pre budúcnosť. Tvorba hybridných systémov symbolických
a nesymbolických sa javí
perspektívnou cestou rozvoja UI.
