3.3 Význam inicializácie pri učení NN
3.1 Paradigmy kontrolovaného učenia
3. Učenie a jeho paradigmy

Obsah

3.2 Paradigmy nekontrolovaného učenia

Pri tomto type učenia ide o spracovanie vstupu do NN na základe určitých zákonitosti. Prakticky to znamená, že NN môžeme počas učenia ponúknuť (iba) vstup do NN. NN potom sama spracuje a určuje výstup.Z toho dôvodu nazývame siete, ktoré používajú takúto metódu učenia tzv. samo-organizujúce sa siete ( self-organising NN). Otázka ukončenia učenia je založená na nájdení GS NN. Teda NN sa prestane učiť, ak zmena SV v čase $t$ a v čase $t+1$ budú dostatočne malé, t.j. pre matice váh $W$ platí

$$\vert \Delta W(t)~-~\Delta W(t+1) \vert ~\leq~ \epsilon$$ (3.6)

kde $\epsilon$ je dostatočne malá hodnota. NN s nekontrolovaným učením ukončuje svoju činnosť, ak sa dostane do GS. Tu môžeme hovoriť o GS a nie o konvergencii NN, lebo nevieme, aký bude výstup z NN. Vo všeobecnosti rozdeľujeme metódy nekontrolovaného učenia do dvoch základných typov:

• Hebbovo učenie (Hebbian learning)
• Kooperačné a konkurenčné učenie (Cooperative and competitive learning)

Poznámky k jednotlivým typom učenia :

1.

Hebbovo učenie predstavuje prístup, ktorý prvýkrát spomenul dr.Hebb vo svoje knihe "Organizácia správania". Tieto myšlienky boli v ďalšom rozpracované do podoby dvoch nasledovných zásad:

• ak 2 neuróny na opačných stranách synapsie sú aktivované naraz (synchrónne), potom SV synapsie sa zvýši.
• ak 2 neuróny na opačných stranách synapsie sa aktivizujú v rôzných časoch (asynchrónne), potom SV synapsie sa zníži alebo $\to~0$.

Takéto synapsie NN, ktoré splňujú spomenuté zásady nazývame Hebbove synapsie. Globálne potom môžeme Hebbove synapsie charakterizovať 3 nasledovnými mechanizmami:

• mechanizmus závislý na čase - stav SV je závislý na stave pred a postsynaptických neurónov, ktoré sú závislé na čase,
• mechanizmus lokálnej definície - stav synapsie má priestorovo-časový charakter. Synapsie a SV sú nositeľmi informácie a zdrojom ďalšej lokálnej zmeny. Preto NN s Hebbovými synapsiami sú schopné nekontrolovaného učenia,
• mechanizmus interakcie a korelácie - spôsob zmeny SV zaručuje interakciu medzi pred- a postsynaptickými neurónmi. Tak isto je zaručený korelačný vzťah medzi spomínanými neurónmi, práve zaručením vlastností Hebbových synapsii.

Matematicky môžeme vyjadriť zmenu SV Hebbových synapsii pre dvojicu neurónov "k" a "i" ("k" vstupuje do "i") nasledovne :

$$\Delta w_{ki}(t)~=~funkcia(x_{k}(t),x_{i}(t))$$ (3.7)

resp.

$$\Delta w_{ki}(t)~= ~\gamma~x_{k}(t)~x_{i}(t)$$ (3.8)

Pri takýchto prípadoch je možná saturácia, ale tieto problémy sa riešia modifikáciou uvedených prístupov. K záveru informatívneho popisu Hebbovho učenia je treba naznačiť, že v závislosti s horeuvedenými zásadami rozdeľujeme synapsie do troch skupín a to

• Hebbove synapsie
• nie-Hebbove synapsie
• inverzné Hebbove synapsie

2.

Kooperačné a konkurečné učenie Majme NN s M-neurónmi, ktoré majú stavy $x_{i}~,i~=1,\dots,M$. Ak sledujeme NN z hľadiska dynamiky potom označme

$$\frac{d~x_{i}}{d~t}~=~V_{i}(X)$$ (3.9)

kde $X~=~(x_{1}~,x_{2},\dots,x_{M})$ je vektor aktivačných hodnôt neurónov v celej NN. $V_i$ teda predstavuje zmenu aktivácie neurónu za jednotku času. Ako k tejto zmene prispel iný neurón, môžeme vyšetriť, ak uvažujeme

$$\frac{\partial{V_{i}}}{\partial{x_{j}}}~=~\left\{ \matrix{ ... ...\geq~0 ~~\forall~j \neq i & ~~kooperačné~~~učenie\cr} \right.$$ (3.10)

Pre konkurenčné učenie platí tzv. zákon "kto vyhrá berie všetko"^3.2 a môžeme ho zhrnúť do nasledovných krokov:

• vstup prichádza do NN
• signály prechádzajú do nasledujúcej vrstvy
• neurón s najvyššou hodnotou sa stáva víťazom a je nastavený na $1$ a ostatné neuróny sú nastavené na $0$. Následne sa upravia iba tie SV, ktoré smerujú k "víťaznému" neurónu "i" napr :
  

  $$\Delta w_{ki}~=~w_{ki}+~(-w_{ki}+ou_{h})$$ (3.11)

  
  
  kde $ou_{k,i}$ sú stavy príslušných neurónov pri existencii nelineárnych aktivačných funkcií (resp. ich výstupy).

Konkurenčné metódy učenia sa vhodne využívajú pre zámery zhlukovania vstupných dát.

CIG Homepage(E-mail us!)