講演抄録/キーワード |
講演名 |
2007-05-31 11:30
対話システムへの利用を想定したマルチモーダル音声認識の検討 高山俊輔・松尾俊秀・○岩野公司・古井貞煕(東工大) SP2007-4 |
抄録 |
(和) |
本研究では,マルチモーダル対話システムの構築を目指して,対話音声を対象とした,不特定話者マルチモーダル音声認識についての検討を行った.まず,男性話者 25 名による音声・動画像データベースを収集し,それを用いて認識システムの構築を行った.このシステムでは,マルチストリーム HMM を用いて音響と画像情報を融合するが,この融合モデルの構築方法として,音響情報のみで学習した triphone HMM の共有化構造を保存しながら,個別に学習された音響モデルと画像モデルを状態単位で融合する手法の提案を行った.評価実験の結果,様々な雑音条件で提案手法の有効性を確認した.また,用いる画像特徴量について,オプティカルフローに基づく画像特徴量と主成分分析に基づく画像特徴量の比較を行った.その結果,オプティカルフローに基づく特徴量の方が良好な性能を示した. |
(英) |
This paper describes speaker-independent multimodal speech recognition toward constructing multimodal spoken dialogue systems. In order to build a multimodal speech recognition system, an audio-visual speech database was first collected from 25 male speakers. In our system, a multi-stream HMM technique is used for integrating audio and visual information. We propose a multi-stream HMM construction method where audio-only and visual-only models are separately trained and then integrated at the state level. In this framework, the state tying structure of the target audio-visual model is inherited from the audio-only triphone HMM. Experimental results show that the proposed method is effective in various noise conditions. We also compared two visual features, optical-flow-based features and PCA(Principal Component Analysis)-based features, in our recognition framework. The results show that the optical-flow-based features yield better performance than the PCA-based features. |
キーワード |
(和) |
マルチモーダル音声認識 / 対話音声 / 不特定話者 / マルチストリームHMM / モデル構築方法 / / / |
(英) |
multimodal speech recognition / dialogue speech / speaker independent / multi-stream HMM / model construction method / / / |
文献情報 |
信学技報, vol. 107, no. 77, SP2007-4, pp. 19-24, 2007年5月. |
資料番号 |
SP2007-4 |
発行日 |
2007-05-24 (SP) |
ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
SP2007-4 |