講演抄録/キーワード |
講演名 |
2009-02-20 14:30
最急降下法による学習プロセスの可視化技術とLVQの観察 ○黒沢由明(東芝ソリューション) PRMU2008-237 |
抄録 |
(和) |
文字認識や音声認識で良く用いられるLVQは確率降下法の考え方でも説明することができ,これによればLVQを最急降下法による最適解探索問題として定式化することができる.一方で,ニューラル・ネットなど最急降下法を用いた学習プロセスでは,学習強度をあげると振動が激しくなって学習がうまく進まなくなるという現象が知られており,これについてはLVQでも同じ事が起こる.当然その対策はLVQでも必要であり,最急降下法の分野で用いられているものと同様な手法を適用することができる.本報告は,このような対処法について考察する以前の問題として,最急降下法において学習振動が起こる様子を,実際の文字認識におけるLVQを事例として観察する手法を提案し,その観察記録をまとめたものである.これはLVQをより効率良く進めるために,まず基礎として,学習振動現象の具体的把握を行なったものである. |
(英) |
LVQ is the method well known in the field of character recognition and speech recognition. This can be described by the concept of probabilistic descent method and it becomes one of steepest descent method applications. On the other hand, the phenomenon of slow learning or collapse when the learning strength is set to be igher is well known in the field of steepest descent method, for example the field of neural networks. This phenomenon is also observed in the learning process of LVQ. The method to avoid this is applicable to LVQ as same as the field of steepest descent. This report describes the method to observe the learning process of LVQ and shows the actual observation result as the basic research before considering the method to avoid above mentioned slow leaning or collapse. |
キーワード |
(和) |
LVQ / 確率降下法 / 最急降下法 / 学習 / OCR / / / |
(英) |
LVQ / probabilistic descent / steepest descent / learning / OCR / / / |
文献情報 |
信学技報, vol. 108, no. 432, PRMU2008-237, pp. 175-180, 2009年2月. |
資料番号 |
PRMU2008-237 |
発行日 |
2009-02-12 (PRMU) |
ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
PRMU2008-237 |