Vyu

1
Využití umelých neuronových sítí k urychlení
evolucních algoritmu

• Antonín Wimberský

2
Motivace

• Evolucní algoritmy použití v celé rade
  praktických úloh
• Nejvetší slabina nutnost opakovaného volání
  fitness funkce
• Snížení poctu volání fitness funkce -gt urychlení
  evolucního algoritmu
• Nekterá volání fitness funkce lze nahradit
  voláním regresního modelu
• Používaný regresní model neuronová sít
• Implementace na genetickém algoritmu

3

• Teoretické základy

4
Evolucní algoritmus

• Obecné schéma
• 1) Aktuální generace T 0
• 2) Vytvor náhodnou pocátecní populaci P(T)
• 3) Ohodnot všechny jedince v populaci P(T)
  pomocí fitness funkce
• 4) Dokud není splnena ukoncovací podmínka,
  opakuj
• A) T T 1
• B) Vyber populaci P(T) z populace P(T-1)
  (Proved selekci)
• C) Zmen populaci P(T) (Proved rekombinace)
• D) Ohodnot všechny jedince v populaci P(T)
  pomocí fitness funkce

5
Typy evolucních algoritmu

• Evolucní strategie
• Evolucní programování
• Automaty
• Genetické programování
• Stromy
• Genetické algoritmy

6
Genetický algoritmus

• Kódování binární, prirozené
• Prubeh
• Inicializace
• náhodná
• Selekce
• ruletová, stochastická uniformní, turnajová
• Krížení
• n bodové, rovnomerné
• Mutace

7
Náhradní model

• Aproximace ohodnocovací funkce
• Požadavky
• Konvergence ke globálnímu optimu
• Minimalizace poctu volání ohodnocovací fitness
  funkce
• Omezený pocet trénovacích vzoru
• Složitý prohledávací prostor

8
Príklad aproximace
9
Rízení modelu

• Evolucní kontrola založená na generacích
• Evolucní kontrola založená na jedincích

10
Kontrola založená na jedincích

• Výber jedincu
• nejlepší, reprezentanti, náhodne
• 2 možné prístupy
• Konstantní velikost populace
• Míšení skutecné fitness a odhadu
• Vhodné aktualizovat odhad
• Navýšená velikost populace
• Rodicovská populace pouze jedinci ohodnocení
  skutecnou fitness funkcí
• Vhodné zahrnout do výberu nejlepší jedince

11
Príklady náhradních modelu

• Polynomiální
• Gaussovské procesy
• Operné vektory
• Neuronové síte
• Vícevrstvé perceptrony
• RBF
• Duležitá je schopnost generalizace!

12
Vyhodnocení modelu

• MSE
• MAE
• MSEREG
• AIC
• BIC

13
Neuronové síte

• Formální neuron
• Vrstevnaté síte
• univerzální aproximacní
• schopnost

14
Vícevrstvé perceptrony

• Ucení algoritmem LM (Levenberg-Marquardt)
• Algoritmus 2. rádu, pracuje s 2. derivací chybové
  funkce
• Aktualizace vah
• Algoritmus LM
• 1) Predložit síti všechny trénovací vzory a
  spocítat pro ne odpovedi a chyby. Následne
  spocítat soucet ctvercu chyb pres všechny vzory
• 2) Vypocítat Jacobiho matici J(w)
• 3) Spocítat aktualizaci vah
• 4) Prepocítat soucet ctvercu chyb pri použití
  adaptovaných vah. Pokud je nový soucet ctvercu
  menší než puvodní spocítaný v kroku 1, pak
  , a prejít ke kroku 1.
  V opacném prípade
• a prejít ke kroku 3.

15
RBF síte

• 1 skrytá vrstva, funkce radiální báze
• Gaussovská funkce
• Odezva síte
• Ucení RBF síte
• Nalezení center
• Natrénování vah
• Lze provádet bud postupne
• k-means a gradientní metoda
• nebo nejednou
• Metoda nejmenších ctvercu

16

• Návrh rešení

17
Prostor rešení úlohy

• Krome spojitých promenných i diskrétní promenné
• Omezení spojitých i diskrétních promenných
• Prostor rešení úlohy množina mnohostenu
• Mnohosten urcen hodnotami diskrétních
  promenných, výskytem urcité podmnožiny spojitých
  promenných a soustavou lineárních omezení techto
  spojitých promenných.
• Krome spojité optimalizace i diskrétní
  optimalizace
• Spojitá optimalizace zvlášt v rámci každého
  mnohostenu.

18
Prístup k diskrétním promenným pri konstrukci
náhradního modelu

• Rozklad diskrétních promenných na booleovské
  promenné
• Vdisct puvodní diskrétní promenná, H možná
  hodnota
• booleovská promenná
• Zavedení dalších booleovských promenných
  indikujících nenulovost príslušných spojitých
  promenných
• Vcont spojitá promenná, Vbc pridaná
  booleovská promenná

19
Hierarchické klastrování podle diskrétních
promenných

• Vzdálenosti mezi diskrétními kombinacemi

• Hammingova metrika
• Jaccardova metrika
• Následuje konstrukce dendrogramu a vlastní
  hierarchické klastrování od listu ke koreni.

20
Výber modelu

• Výber modelu v každém klastru zvlášt
• Vybírá se vhodná architektura síte
• Výber na základe x-násobné krížové validace
• Základním kritérium výberu modelu strední
  ctvercová chyba (mse) pri krížové validaci
• U vícevrstvých perceptronu i používáme i strední
  ctvercovou chybu s regularizací (msereg).

21
Základní schéma genetického algoritmu s náhradním
modelem
22
Implementace

• V prostredí Matlab
• Diskrétní optimalizaci a nacítání dat z databáze
  zajištuje framework genetického algoritmu
• V naší implementaci se zamerujeme na konstrukci
  náhradního modelu a využití tohoto modelu v rámci
  spojité optimalizace
• Model vícevrstvých perceptronu využívá
  implementaci v Neural Network toolboxu, model RBF
  sítí používá implementaci od Lukáše Bajera

23
Dialog pro nastavení parametru modelu
24
Dialog pro nastavení klastrování
25
Dialog pro výber modelu
26
Dialog pro nastavení spojité optimalizace a
rízení modelu
27

• Experimenty

28
Experimenty reálná úloha (HCN)

• Nelze získat nová data, experimenty se omezily na
  konstrukci a vyhodnocení náhradního modelu
• 696 jedincu v osmi generacích (nultá až sedmá)
• 2 diskrétní promenné (15 a 7 ruzných hodnot), 11
  spojitých promenných (a tedy 11 pridaných
  boolovských promenných) -gt celkový pocet
  promenných v úloze je 44
• Spojité promenné jsou pritom omezeny

29
Výsledky trénování na HCN

• Model s jediným klastrem, 44 vstupních
  promenných, vícevrstvý perceptron mse 57.57 (3)
• Model s 13-ti klastry (klastrováno dle 1
  diskrétní promenné a 11-ti booleovských
  promenných), 11 vstupních promenných, vícevrstvý
  perceptron mse 155.06
• Model s 15-ti klastry (klastrováno dle 1
  diskrétní promenné), 11 vstupních promenných,
  vícevrstvý perceptron mse 66.91 (9)
• Model s 15-ti klastry (klastrováno dle 1
  diskrétní promenné), 11 vstupních promenných, RBF
  sít mse 64.44 (11)

30
Tabulka 1 Trénování na HCN
31
Trénování v prubehu genetického algoritmu

• Zacali jsme s trénovací množinou složenou z
  prvních ctyr generací (nultá až tretí). Na této
  množine jsme natrénovali vybrané modely a
  následne je otestovali na následující (ctvrté)
  generaci.
• V dalším kroku jsme ctvrtou generaci pridali k
  trénovací množine a model overovali na páté
  generaci.
• Postup jsme opakovali až do dosažení poslední
  (sedmé) generace.

32
Predikce modelu 3 (MLP, 1 klastr)
Generace 4
Generace 5
Odhad modelu
Odhad modelu
Fitness
Fitness
Generace 6
Generace 7
Odhad modelu
Odhad modelu
Fitness
Fitness
33
Predikce modelu 9 (MLP, 15 klastru)
Generace 5
Generace 4
Odhad modelu
Odhad modelu
Fitness
Fitness
Generace 7
Generace 6
Odhad modelu
Odhad modelu
Fitness
Fitness
34
Predikce modelu 11 (RBF, 15 klastru)
Generace 4
Generace 5
Odhad modelu
Odhad modelu
Odhad modelu
Odhad modelu
Fitness
Fitness
Generace 7
Generace 6
Odhad modelu
Odhad modelu
Odhad modelu
Odhad modelu
Fitness
Fitness
35
Experimenty s testovací funkcí valero
36
Tabulka 2 trénování na valeru
37
Evolucní kontrola založená na jedincích (výber
nejlepších, MLP, 6 neuronu ve skryté vrstve)
38
Evolucní kontrola založená na generacích (po 4
generacích, MLP, 6 neuronu ve skryté vrstve,
porovnání odpovídajících si generací)
39
Evolucní kontrola založená na generacích (po 4
generacích, MLP, 6 neuronu ve skryté vrstve,
porovnání podle poctu vyhodnocení fitness funkce)
40
Porovnání kontroly založené na jedincích a na
generacích
41
Výber modelu po každé generaci (kontrola založená
na jedincích výber nejlepších, MPL)
42
Porovnání výberu modelu po každé generaci a
fixního modelu
43
RBF model (kontrola založená na jedincích
výber nejlepších jedincu)
44
Vícevrstvé perceptrony a RBF(kontrola založená
na jedincích výber nejlepších jedincu)
45
RBF výber nejlepších jedincu a kombinovaná
strategie výberu
46
Tabulka 3 prubeh genetického algoritmu
47
Dekuji za pozornost

• Prostor pro dotazy