講演名 2016-08-25
Diversity-driven Semi-supervised Ensemble DNN Acoustic Model Training
李 勝(京大), Xugang Lu(NICT), 坂井 信輔(京大), 河原 達也(京大),
PDFダウンロードページ PDFダウンロードページへ
抄録(和)
抄録(英) We focus on effective training DNN (Deep Neural Network) acoustic models for Chinese spoken lectures with only limited labeled speech and abundant unlabeled speech. Unlike selectively using the unlabeled data in most semi-supervised DNN training methods and working only under supervised setting in previous ensemble DNN training methods, we work on more generalized ensemble training method for both labeled and unlabeled data. In our proposed method, a pair of models is trained in parallel with diverse labels generated for unlabeled data. Together with the standard cross entropy, the KL divergence between each individual model over unlabeled data is incorporated during training. Experiments show that our proposed method can effectively utilize unlabeled data and outperforms other well-established semi-supervised methods.
キーワード(和)
キーワード(英) Speech recognitionAcoustic modelDNNSemi-superivsed trainingEnsemble training
資料番号 SP2016-40
発行日 2016-08-17 (SP)

研究会情報
研究会 SP
開催期間 2016/8/24(から2日開催)
開催地(和) 京都大学学術情報メディアセンター
開催地(英) ACCMS, Kyoto Univ.
テーマ(和) 音響イベント処理,一般
テーマ(英) Audio event processing, etc.
委員長氏名(和) 間野 一則(芝浦工大)
委員長氏名(英) Kazunori Mano(Shibaura Inst. of Tech.)
副委員長氏名(和) 森 大毅(宇都宮大)
副委員長氏名(英) Hiroki Mori(Utsunomiya Univ.)
幹事氏名(和) 滝口 哲也(神戸大) / 西田 昌史(静岡大)
幹事氏名(英) Tetsuya Takiguchi(Kobe Univ.) / Masafumi Nishida(Shizuoka Univ.)
幹事補佐氏名(和) 浅見 太一(NTT) / 橋本 佳(名工大)
幹事補佐氏名(英) Taichi Asami(NTT) / Kei Hashimoto(Nagoya Inst. of Tech.)

講演論文情報詳細
申込み研究会 Technical Committee on Speech
本文の言語 ENG
タイトル(和)
サブタイトル(和)
タイトル(英) Diversity-driven Semi-supervised Ensemble DNN Acoustic Model Training
サブタイトル(和)
キーワード(1)(和/英) / Speech recognitionAcoustic modelDNNSemi-superivsed trainingEnsemble training
第 1 著者 氏名(和/英) 李 勝 / Sheng Li
第 1 著者 所属(和/英) 京都大学(略称:京大)
Kyoto University(略称:Kyoto Univ.)
第 2 著者 氏名(和/英) Xugang Lu / Xugang Lu
第 2 著者 所属(和/英) 国立情報通信研究機構(略称:NICT)
National Institute of Information and Communications Technology(略称:NICT)
第 3 著者 氏名(和/英) 坂井 信輔 / Shinsuke Sakai
第 3 著者 所属(和/英) 京都大学(略称:京大)
Kyoto University(略称:Kyoto Univ.)
第 4 著者 氏名(和/英) 河原 達也 / Tatsuya Kawahara
第 4 著者 所属(和/英) 京都大学(略称:京大)
Kyoto University(略称:Kyoto Univ.)
発表年月日 2016-08-25
資料番号 SP2016-40
巻番号(vol) vol.116
号番号(no) SP-189
ページ範囲 pp.71-76(SP),
ページ数 6
発行日 2016-08-17 (SP)