Vo veľkom množstve metód učenia je prvým krokom inicializácia SV NN
na náhodné hodnoty. Tomuto kroku je potrebné klásť príslušnú
dôležitosť vzľadom na veľký vplyv na samotný proces
učenia. Je potrebné si uvedomiť, že v priebehu učenia sa
spočítavajú zmeny SV NN a tie sa potom využijú, a to pri
prvom výpočte novej hodnoty v iterácii :
(3.12)
kde
je SV, ktorá vznikla inicializáciou NN. Vo väčšine prípadov
sa inicializuje náhodnými číslami z intervalu napr. .
:
je SV, ktorá vznikla inicializáciou NN. Vo väčšine prípadov
sa inicializuje náhodnými číslami z intervalu napr. 
.
