RNDr. Kristína Malinovská, PhD.
1. Naštudovať teóriu o hlbokých neurónových sieťach.
2. Implementovať hlbokú verziu modelu NS s multiplikatívnymi vrstvami.
3. Implementovať a vyhodnotiť experimenty s touto NS.
4. Implementovať multiplikatívnu hlbokú sieť pre klasifikáciu
pomocou transfer learning, implementovať a vyhodnotiť
experimenty s vybraným benchmark datasetom.
Nová neurónová sieť s produktovými neurónmi QuasiNet, ktorá sa učí metódou gradientového zostupu, elegantne rieši problém vzájomne vylučujúcich sa situácii, ako je napríklad problémy XOR a parita a má veľký potenciál v oblasti neurónových sietí. Pre pokračovanie existujúceho výskumu je potrebné urobiť systematické experimenty s hlbokou verziou tejto neurónovej siete a dôsledne overiť úspešnosť tohto nového modelu pre ťažké úlohy ako problém dvoch špirál, dvoch banánov a separáciu šachovnice. Ďalej je potrebné preskúmať možnosti tohto modelu pre použitie v populárnej paradigme transfer learning v hlbokom učení pre klasifikačné úlohy, kde môže tento model nahradiť viacvrstvový perceptrón na posledných vrstvách hlbokej neurónovej siete.
3.10 naštudovanie prvotných materiálov
10.10 pokračovanie v pokusoch parity
10.11 naštudovanie knižnice PyTorch
25.11 implementácia QuasiNet v knižnici PyTorch
30.11 prvotné testovanie na základných problémoch v knižnici PyTorch
9-10.12 nájdenie vhodných architektúr pre QuasiNet a otestovanie na CIFAR10