Mély neuronhálós akusztikus modellek gyors adaptációja multi-taszk tanítással
A környezetfüggő mély neuronhálós akusztikus modellek gyors adaptációja különösen nehéz kihívás, mivel egy kis méretű adaptációs mintában a környezetfüggő állapotok többségére nincs tanítópélda. Nemrégiben egy olyan új mély neuronhálós tanítási séma bukkant fel, amely a hálózatot egyszerre tanítja k...
Saved in:
| Main Authors: | |
|---|---|
| Corporate Author: | |
| Format: | Book part |
| Published: |
2016
|
| Series: | Magyar Számítógépes Nyelvészeti Konferencia
12 |
| Kulcsszavak: | Nyelvészet - számítógép alkalmazása |
| Online Access: | http://acta.bibl.u-szeged.hu/58971 |
| Summary: | A környezetfüggő mély neuronhálós akusztikus modellek gyors adaptációja különösen nehéz kihívás, mivel egy kis méretű adaptációs mintában a környezetfüggő állapotok többségére nincs tanítópélda. Nemrégiben egy olyan új mély neuronhálós tanítási séma bukkant fel, amely a hálózatot egyszerre tanítja környezetfüggő és környezetfüggetlen példákon. Ez az ún. multi-taszk technológia felveti annak a nagyon egyszerű adaptációs módszernek a lehetőségét, hogy az adaptáció során csak környezetfüggetlen címkéken tanítsunk. Jelen cikkben ezt a módszert próbáljuk ki, kombinálva egy KL-divergencia alapú regularizációs technikával. Kísérleteinkben a multi-taszk tanítási séma már önmagában 3%-os hibacsökkenést hoz egy híradós beszédfelismerési feladaton. A kombinált adaptációs módszert is bevetve további 2-5% hibaredukciót sikerült elérnünk az adaptációs minta méretének függvényében, ami 20- tól 100 másodpercig terjedt. |
|---|---|
| Physical Description: | 154-162 |
| ISBN: | 978-963-306-450-4 |