講演抄録/キーワード |
講演名 |
2014-03-14 11:15
実環境におけるマルチモーダル音声インターフェースの適用 ○世古拓海・河﨑卓也・田村哲嗣・速水 悟(岐阜大) PRMU2013-199 |
抄録 |
(和) |
本稿では,音声と口唇動画像を用いるマルチモーダル音声認識を基にした「マルチモーダル音声インターフェース」のモバイル情報端末での実装を目指す.本インターフェースではサーバ・クライアントモデルを採用し,音声区間検出,特徴量抽出までをモバイル端末上で行い,サーバ上でマルチモーダル音声認識を実行する.またモバイル情報端末の多くは使用者が一人に限られることを利用し,モデル適応による認識精度向上を図る.試作したマルチモーダル音声インターフェースを用いた実験を行った.室内,屋外,乗用車内,駅などさまざまな実環境で,16名の話者から日本語連続数字発話時の音声・動画像を収集した.音声情報のみを用いた実験では,モデル適応による性能改善がみられた一方,周囲の雑音が大きい環境での課題が明らかとなった.画像情報のみを用いた実験では,音声認識結果とモデル適応技術を用いることで,識別性能が向上できることを確認した.また実験全体を通じて,音声区間検出や画像特徴,統合技術などに関する課題を明らかにした. |
(英) |
This paper proposes multi-modal speech interface for mobile devices such as smart phones, which is based on multi-modal speech recognition using speech waveforms and mouth image sequences. In our multi-modal speech interface, server-client model is employed; voice activity detection and feature extraction for every modalities are conducted on a mobile device, subsequently multi-modal speech recognition is performed on a recognition server. In addition, model adaptation technique is also utilized in our framework. Experiments were conducted using our multi-modal speech interface. Japanese connected-digit audio and visual data by 16 subjects were recorded in various real environments, e.g. office, outside, in-car, and station. In audio-only experiments, model adaptation improved recognition performance successfully in some conditions, on the other hand, some issues were found in heavily noisy conditions. In visual-only experiments, we have achieved performance improvement of lipreading by using speech recognition results and applying the model adaptation technique. We also investigate and discuss some issues about voice activity detection, visual features, and audio-visual integration. |
キーワード |
(和) |
マルチモーダル音声インターフェース / 音声認識 / 読唇 / モデル適応 / マルチモーダル音声認識 / 実環境 / / |
(英) |
multi-modal speech interface / speech recognition / lipreading / model adaptation / multi-modal speech recognition / real environment / / |
文献情報 |
信学技報, vol. 113, no. 493, PRMU2013-199, pp. 185-190, 2014年3月. |
資料番号 |
PRMU2013-199 |
発行日 |
2014-03-06 (PRMU) |
ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
PRMU2013-199 |