Mobil robotok szimulációja speci 5. óra

Többrétegû hálók használata

• általános függvényapproximáció szükséges
• biológiai megoldások
• egyenlet kontra egyenletrendszer
• Perceptron és Adaline elõnyeinek egyesítése: nem lináris kimenet, továbbfejleszthetõ tanulási szabály
• módosított neuron

  

  

  

• könnyen deriválható, folytonos, összehúzó függvény
• paraméterezés, hõmérséklet
• tanh

A Backpropagáció algoritmusa

• McClelland, Rumelhart a nyolcvanas években
• gradiens módszer kiterjesztése
• több kimenet, az új hibafüggvény

  

• komolyabb kihívás, keresés az összes neuron összes súlyának terében
• összetett hibafüggvény, lokális minimumok
• neuronok tetszõleges, körmentes hálózata
• elõször háromrétegû struktúra, bemenet, rejtett réteg, kimenet

  

• teljes kapcsolat lineáris-szigmoid-szigmoid formában
• BackPropagation(példák,eta,n_in,n_out,n_hidden) {

  Itt a példák a tanítást elõsegítõ vektorpárok, n_in az inputneuronok, n_hidden a rejtett rétegbeli neuronok n_out a kimeneti neuronok száma, és eta a tanulási sebesség.

  • Elsõ lépés a körmentes háló létrehozása a megadott paramétereknek megfelelõen.
  • Ezután a háló súlyainak inicializálása következik kis, véletlen értékekkel (pl. -0.05 és 0.05 között).
  • Majd, amíg a háló hibája nem elég kicsi a következõket kell végrehajtani:
    • Minden egyes példára végrehajtandó:
      • A bemenet propagálása a teljes hálón elõre a kimenet létrejöttéig.
      • A hiba propagálása a teljes hálón visszafele a kezdetekig.
      • Hiba kiszámítása a kimeneti neuronokra:

        

      • Hiba kiszámítása a rejtett réteg neuronjaira:

        

      • Hálósúlyok módosítása:

        

• indexek: k - kimenet, h - rejtett réteg, ji - i-bõl j-be
• súlymódosítás magyarázata: delta - korábbi különbség vagy a rákövetkezõ réteg hibájából a neuronra vonatkozó hiba
• bizonyíthatóan gradiens módszert végez
• kiterjesztés több rétegre

  

• kiterjesztés tetszõleges körmentes hálóra

  

A tanulási szabály levezetése

• hibafüggvény minimalizálása súlyok szerint

  

• hibafüggvény egy példára

  

• jelölések

  

• levezetés elsõ lépése, összetett függvény deriválási szabályának alkalmazása

  

• két eset megkülönböztetése
• 1. eset: kimeneti réteg neuronja
• kimenet használata

  

• a szorzat elsõ tényezõjének egyszerûsítése egy tagra

  

• az egy tag levezetése

  

• a második tényezõ egyszerûsítése

  

• egyesítve

  

• visszahelyettesítve

  

• 2.eset: rejtett réteg neuronja
• levezetés az összetett függvény deriválási szabályával

  

• a megjelenõ delták a visszafele haladás miatt már ismertek
• összegezve

  

• visszahelyettesítve

  

Konvergencia és lokális minimum

• a bonyolult felület miatt nem garantált a globális minimum megtalálása
• mégis általában jól teljesít
• összes neuron összes súlya által alkotott tér
• minimum az egyik súly szerint, másik szerint még elmozdulhat => több súly, kevesebb elakadás
• szigmoid függvény alakja, inicializálás
• kis súlyok, kis összeg, nagyjából lineáris, lokális minimumok nélkül
• a lokális minimumok elkerülésére léteznek módszerek
• momentum: elõnyös síkon és gödörben,

  

  guruló labda

• standard és inkrementális Widrow-Hoff
• eta csökkentése

  

• egyszerre több neurális háló futtatása
• több számítás, de közös döntés vagy a legjobb háló döntése

Reprezentációs lehetõségek

• lényeges függvényosztályok reprezentálhatók körmentes neurális hálóval
• logikai függvényekhez kétrétegû Perceptron már elég volt
• most háromrétegû szigmoid neuronos hálózat
• rejtett réteg az összes lehetséges input-kombinációt egy neuronnal jelzi
• kimeneti réteg VAGY kapcsolatot valósít meg a megfelelõ bemenetekre
• exponenciálisan nõ a méret
• korlátos, folytonos függvények három réteggel közelíthetõek
• a kimeneti réteg lineáris
• méret a közelítendõ függvénytõl függ
• tetszõleges fügvény közelítése négy rétegen
• minden függvény jól közelíthetõ 0 tartójú függvények lineáris kombinációjával
• a két rejtett réteg ezeket a függvényeket állítja elõ

Rejtett réteg kimenete

• a kimenet és a bemenet kötött, a rejtett rétegek szabadon mozoghatnak
• 8 bemenet, 8 kimenet, 3 rejtett neuron -> hatékony reprezentáció kényszere
• identitásfüggvény, 1 közeli érték igaz, 0 közeli érték hamis

  10000000	->	.89	.04	.08	+--	->	10000000
  01000000	->	.15	.99	.99	-++	->	01000000
  00100000	->	.01	.97	.27	-+-	->	00100000
  00010000	->	.99	.97	.71	+++	->	00010000
  00001000	->	.03	.05	.02	---	->	00001000
  00000100	->	.01	.11	.88	--+	->	00000100
  00000010	->	.80	.01	.98	+-+	->	00000010
  00000001	->	.60	.94	.01	++-	->	00000001

• feladat szempontjából lényeges tulajdonságok megtalálásának képessége

Általánosítás, specializálódás, megállás

• mikor kell az algoritmus futását befejezni?
• kézenfekvõ egy alkalmas küszöbérték, de túl korán, túl késõn is lehet
• overfitting: túlzott specializáció, általánosítás képességének elvesztése
• térkitöltõ luftballon, ami a legkisebb résekbe is belenyomakszik
• a probléma tanulás során felismerhetõ, folyamatos javulás, de ellenõrzõ halmazon rosszabb eredmények, mint korábban
  
• az overfitting felismerése nem egyszerû

  

• a tanulás kései fázisában jelentkezik, ahogy a döntési felületek bonyolódnak
• megoldások: súlyok fokozatos csökkentése, büntetõ tag a hibafüggvényben (Occam borotvája), ellenõrzõ halmaz folyamatos használata

Backpropagáció használata szimulációkban

• sokféle feladatra befogható
• elemi Braitenberg jármûvek kiterjesztése
• Wyeth akadálykikerülés és teniszlabdák keresése összetettebb hálóval
• rétegelt, körmentes neurális háló a kép elõfeldolgozására
• a háló kimenete: akadály bal vagy jobb oldalon, teniszlabda bal vagy jobb oldalon
• ez a bemenete a korábban látott, tanított Braitenberg jármûnek

  

• kamera képe: 64x64, hisztogram-kiegyenlítés
• tanításra alkalmas képek kiválasztása: Consistent Mean Output, kötegbõl egyes elemek használata, sorrend, szoba fedése
• háromrétegû, tíz rejtett neuronnal
• tanulási sebesség 0.05, momentum 0.95, súlyok -0.1 és 0.1 között, 0.125 lapító szorzó a szigmoidban
• akadálykikerülés 5000 kép, begyûjtés egy óra, elõfeldolgozás kettõ, tanulás 10.5,
• 3000 tanításra, 2000 ellenõrzésre
• 150 ciklus, legjobb teljesítmény 120-nál, 89%-os eredmény
• teniszlabda keresése hasonlóan
• megbízható mûködés itt és sok más területen is

BackPropagáció Javában