2.4.4 Veta o konvergencii perceptrónu
2.4.2 Topológia perceptrónu
2.4 Perceptrón - najjednoduch¹ia neurónová sieť

Obsah

2.4.3 Algoritmus učenia perceptróna

Najprv uká¾eme algoritmus procesu uèenia - teda hľadania vhodných synaptických váh, a potom pre tento algoritmus doká¾eme vetu o konvergencii perceptrónu, tj. doká¾eme, ¾e po koneènom poète krokov JPR sa dostane do stavu, v ktorom obidve triedy vie separovať.
Postup uèenia JPR bude teda nasledovný:

Prepokladajme, že $({\bf x}(1), d^1), ({\bf x}(2), d^2, ..., ({\bf x}(m), d^m)$ je trénujúca vzorka vektorov, na ktorej sa bude perceptrón uèiť, ${\bf x}(t) \in R^n,$ $d^t~=~ 1$, ak ${\bf x}(t)~\in~ {\bf CL1}$, $d^t~=~-1$, ak ${\bf x}(t) \in {\bf CL2}$.

• inicializácia váh
• ak vstupný vektor ${\bf x}(t)$ je správne klasifikovaný pomocou ${\bf w}(t)$ potom nenastáva zmena váh pre ďal¹í vstup ${\bf w}(t+1)$, teda

  1.

  ak ${\bf w}(t){\bf x}(t)\geq 0$ a ${\bf x}(t)$ skutoène patrí do CL1, tj. $d^t~=~ 1$ (podľa $ev(t)$), potom
  

  $${\bf w}(t+1)={\bf w}(t)$$ (2.15)

  
  

  2.

  ak ${\bf w}(t){\bf x}(t)<0$ a ${\bf x}(t)$ skutoène patrí do CL2, tj. $d^t~=~-1$ (podľa ${\bf ev}(t)$), tak taká istá rovnica platí ako ( 2.15)

• ak vstupný vektor ${\bf x}(t)$ je nesprávne klasifikovaný pomocou ${\bf w}(t)$ potom nastáva zmena váh ${\bf w}(t+1)$, teda

  1.

  ak ${\bf w}(t){\bf x}(t)\geq 0$ a ${\bf x}(t)$ skutoène patrí do CL2 (podľa ${\bf ev}(t)$) potom
  

  $${\bf w}(t+1)~=~{\bf w}(t)~-~\gamma~{\bf x}(t)$$ (2.16)

  
  

  2.

  ak ${\bf w}(t){\bf x}(t)<0$ a ${\bf x}(t)$ skutoène patrí do CL1 (podľa ${\bf ev}(t)$), tak potom
  

  $${\bf w}(t+1)~=~{\bf w}(t)~+~\gamma~{\bf x}(t)$$ (2.17)

  
  

  kde $\gamma$ je uèiaci parameter a mô¾e predstavovať ľubovoľnú kladnú premennú, ktorá je po dobu uèenia kon¹tantná alebo sa mô¾e aj meniť teda $\gamma \to \gamma(t)$. Vy¹¹ie uvedená rovnica mô¾e byť zapísaná v tvare
  

  $${\bf w}(t+1)~=~{\bf w}(t)~+~\gamma~(d^t~-~ou(t)){\bf x}(t)/2,~ t=1, 2,...$$ (2.18)

  
  
  Ak polo¾íme $\gamma~=0.5$ postup uèenia mô¾e byť struène zapísaný nasledovne:
  

  $${{\bf w}(0)~=~0}$$ (2.19)

  
  
  
  

  $${\bf w}(t+1)~=~{\bf w}(t)+{\bf z}(t),{\qquad \hbox{ ak {\bf z}(t){\bf w}(t)} \leq 0}$$ (2.20)

  
  
  
  

  $${\bf w}(t+1) = {\bf w}(t),\qquad \hbox{inak}$$ (2.21)

  
  
  kde ${\bf z}(t) = +{\bf x}(t)$, ak $d^t = +1$, ${\bf z}(t) = -{\bf x}(t)$, ak $d^{t} = -1$. Teda úprava váh sa vykonáva len vtedy, keď ${\bf z}(t){\bf w}(t) \leq 0$, čo reprezentuje oba prípady výskytu chyby.

CIG Homepage(E-mail us!)