next 4.1.2 Metóda najstrmšieho zostupu
previous 4.1 Metóda najstrmšieho zostupu
up 4.1 Metóda najstrmšieho zostupu
Obsah


4.1.1 Wienerov filter

Predstavme si n-senzorov umiestnených na rôznych miestach.(viď obr.  4.1) Tieto senzory produkujú signály $in_{1},\dots,in_{n}$. Signály sa potom s určitými váhami integrujú do výstupného neurónu. My chceme mať na výstupe nejaký výsledok, ktorý v procese učenia dobre poznáme $ev$. Teda ak $ou$ je výstup z výstupného neurónu, tak

Obrázok 4.1: Schéma Wienerovho filtra
\begin{figure}
\begin{center}
\epsfig {file=img/41.ps}
\end{center}
\end{figure}


\begin{displaymath}
ou~=~\sum_{k=1}^{n} w_{k} in_{k}
\end{displaymath} (4.1)

Nech je známy chybový rozdiel
\begin{displaymath}
e~=~ev~-~ou
\end{displaymath} (4.2)

Už v úvode je potrebné poukázať na principálnu rozdielnosť voči perceptrónu tým, že kým pri perceptróne na vstup vstupovali vstupy iba z dvoch rôznych tried, tu môžu byť usporiadané dvojice ($in,ev$) patriace do mnohých skupín a v podstate sa tu nejedná o dichotómiu. Topologický sú z pohľadu NN Wienerov filter a perceptrón veľmi podobné. Teda môžeme definovať všeobecnú chybovú funkciu v tvare
\begin{displaymath}
J~=~0.5~E(e^{2})
\end{displaymath} (4.3)

kde $E(e^{2})$ je stredná hodnota kvadrátov všetkých rozdielov. Základným problémom je teda nájsť také $w_{1},\dots,w_{n}$, pri ktorých $J \to 0$. Takýto filter v oblasti spracovania signálov nazývame Wienerov filter. Do určitej miery je pojem filter trocha mätúci, ale ide o filtráciu vstupov. Je potrebné to chápať ako vhodné priradenie výstupov k jednotlivým vstupom. Ak do rovnice (4.3) dosadíme (4.2) resp. (4.1), dostaneme nasledovný výraz:
\begin{displaymath}
J~=~0.5~E(ev^{2})-E(\sum_{j=1}^{n} w_{i}in_{i}ev) + 0.5
E(\sum_{j=1}^{n} \sum_{k=1}^{n} w_{j}w_{k} in_{j}in_{k})
\end{displaymath} (4.4)

Stredná hodnota je lineárna operácia preto môžeme urobiť nasledovné upravy:
\begin{displaymath}
J~=~0.5~E(ev^{2})-\sum_{j=1}^{n} w_{i}E(in_{i}ev) + 0.5
\sum_{j=1}^{n} \sum_{k=1}^{n} w_{j}w_{k} E(in_{j}in_{k})
\end{displaymath} (4.5)

teraz si skúsme popísať jednotlivé funcie v rovnici (4.5) nasledovne Potom môžeme rovnicu (4.5) prepísať do tvaru
\begin{displaymath}
J~=~0.5 r_{ev}- \sum_{k=1}^{n}w_{k}r_{in,ev}(k)+0.5
\sum_{j=1}^{n} \sum_{k=1}^{n} w_{j}w_{k} r_{in,in}(jk)
\end{displaymath} (4.6)

Teda pri hľadaní váh, ktoré by minimalizovali chybovú funkciu môžeme napísať že
\begin{displaymath}
\frac{\partial J}{\partial w_{l}}~=~-r_{in,ev}(l)+
\sum_{j=1}^{n} w_{j} r_{in,in}(jl)
\end{displaymath} (4.7)

potom logicky pri hľadaní váh počítame s podmienkou $\frac{\partial J}{\partial w_{l}}~=~0$ a dostávame z (4.7)
\begin{displaymath}
\sum_{j=1}^{n} w_{j} r_{in,in}(jl)~=~r_{in,ev}(l)
\end{displaymath} (4.8)

Potom systém l-rovníc (4.8) o n-neznámych $w_{j},l=1,\dots,n$ nazývame Wienerovým systémom rovníc a filter s vypočítanými váhami voláme v teórii signálov Wienerovým filtrom.

previous next up
CIG Homepage(E-mail us!)