Neurónová sieť s exponenciálnou vrstvou

Školiteľ

RNDr. Kristína Malinovská, PhD.

Cieľ

1. Naštudovať teóriu neurónových sietí a podklady o novom modeli (pracovne ExpNet).
2. Implementovať tento model s pravidlom propagácie a učiacim sa pravidlom
podľa daných vzorcov a implementovať experimenty s XOR a parity
problémom.
3. Vyhodnotiť výsledky a prípadne premyslieť prospektívne využitie nového
modelu (napr. v hlbokom učení)

Anotácia

Problém XOR je jedným z najzákladnejších testovacích problémov pre nové
modely neurónových sietí. Pre samotnú sieť ide o ťažký problém, špeciálne
pri malom počte takzvaných skrytých neurónov, podobne aj problém parity.
Úplne nový návrh neštandardnej neurónovej siete aj s učiacim pravidlom
odvodeným od klasického spätného šírenia chyby elegantne rieši problém
vzájomne vylučujúcich sa situácii a má veľký potenciál nie len pre testovacie
úlohy, no zatiaľ existuje len ako matematický koncept s funkčným prototypom
kódu. Pre pokračovanie započastého výskumu je potrebné urobiť systematické
experimenty a dôsledne overiť vlastnosti nového algoritmu a porovnať ho
s inými modelmi.

časový plán

21.11 naštudovanie prvotných materiálov
15.12 prvotné implementácie, praktické zoznámenie sa s NS
16.1 naštudovanie nového modelu neurónovej sieťe - ExpNet
13.2 implementácia ExpNet
24.4 testovanie, experimentácia a porovnanie ExpNet
8.5 vyhodnotenie predchádzajúcej časti

Zdroje

Stiahnuť

Východiská práce a prototyp

Stiahnuť