| 講演名 | 2022-11-30 音声合成と音声認識に対するテキストデータを用いた半教師あり統合学習 牧島 直輝(NTT), 鈴木 聡志(NTT), 安藤 厚志(NTT), 増村 亮(NTT), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 本稿では，音声合成と音声認識をテキストと音声の少規模ペアデータ及び大規模なテキストデータで学習する新しい学習手法を提案する．従来のcycle-consistency に基づく手法では，テキストデータを音声合成し，合成音声を音声認識して得られるテキストと元のテキストが一致するように音声合成と音声認識の学習が行われる．しかし，この方法では，合成音声が音声認識モデルに過適合し，（1）合成音声の話者性の欠落や（2）合成音声が音声認識しやすい音声となってしまう問題が発生する．この問題は合成音声の品質劣化だけではなく，音声認識の性能改善を限定的にする．本稿では，この問題を解決するため，（１）話者整合性損失と（２）段階的最適化に基づく学習方法を提案する．評価実験により，提案法の有効性を示す． |
| 抄録(英) | This paper presents a novel joint training of text to speech (TTS) and automatic speech recognition (ASR) with small amounts of speech-text paired data and large amounts of text data. In conventional cycle-consistency-based methods, the TTS model and the ASR model are trained so that the text obtained by speech synthesis of text data and speech recognition of the synthesized speech matches the original text. However, this method leads to an overfitting of the synthesized speech to the ASR model, which results in the synthesized speech that (1) lacks speaker characteristics and (2) is easily recognizable. This problem not only degrades the quality of the synthesized speech but also limits the improvement of speech recognition performance. In this paper, we propose a learning method based on (1) speaker consistency loss and (2) step-wise optimization to solve this problem. Experimental results demonstrate the efficacy of the proposed method. |
| キーワード(和) | 音声認識 / 音声合成 / 半教師あり学習 |
| キーワード(英) | automatic speech recognition / text to speech / semi-supervised learning |
| 資料番号 | NLC2022-14,SP2022-34 |
| 発行日 | 2022-11-22 (NLC, SP) |
| 研究会情報 | |
| 研究会 | NLC / IPSJ-NL / SP / IPSJ-SLP |
|---|---|
| 開催期間 | 2022/11/29(から3日開催) |
| 開催地（和） | 機械振興会館 |
| 開催地（英） | |
| テーマ（和） | 第24回音声言語および第9回自然言語処理シンポジウム |
| テーマ（英） | |
| 委員長氏名（和） | 吉田 光男(筑波大) / 須藤 克仁(奈良先端科学技術大学院大学) / 戸田 智基(名大) / 戸田 智基(名古屋大学) |
| 委員長氏名（英） | Mitsuo Yoshida(Univ. of Tsukuba) / 須藤 克仁(奈良先端科学技術大学院大学) / Tomoki Toda(Nagoya Univ.) / 戸田 智基(名古屋大学) |
| 副委員長氏名（和） | 坂地 泰紀(東大) / 小早川 健(NHK) |
| 副委員長氏名（英） | Hiroki Sakaji(Univ. of Tokyo) / Takeshi Kobayakawa(NHK) |
| 幹事氏名（和） | 光田 航(NTT) / 石野 亜耶(広島経済大) / 内海 慶(株式会社デンソーアイティーラボラトリ) / 内田 ゆず(北海学園大学) / 古宮 嘉那子(東京農工大学) / 萩行 正嗣(株式会社ウェザーニューズ) / 吉永 直樹(東京大学) / 吉野 幸一郎(理化学研究所) / 増村 亮(NTT) / 中鹿 亘(電通大) / 増村 亮(NTT) / 中鹿 亘(電気通信大学) / 相原 龍(三菱電機) / 齋藤 大輔(東京大学) |
| 幹事氏名（英） | Ko Mitsuda(NTT) / Aya Ishino(Hiroshima Univ. of Economics) / 内海 慶(株式会社デンソーアイティーラボラトリ) / 内田 ゆず(北海学園大学) / 古宮 嘉那子(東京農工大学) / 萩行 正嗣(株式会社ウェザーニューズ) / 吉永 直樹(東京大学) / 吉野 幸一郎(理化学研究所) / Ryo Masumura(NTT) / Toru Nakashika(Univ. of Electro-Comm.) / 増村 亮(NTT) / 中鹿 亘(電気通信大学) / 相原 龍(三菱電機) / 齋藤 大輔(東京大学) |
| 幹事補佐氏名（和） | 高橋 寛治(Sansan) / 小川 泰弘(名大) / / 相原 龍(三菱電機) / 齋藤 大輔(東大) |
| 幹事補佐氏名（英） | Kanjin Takahashi(Sansan) / Yasuhiro Ogawa(Nagoya Univ.) / / Ryo Aihara(Mitsubishi Electric) / Daisuke Saito(Univ. of Tokyo) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Natural Language Understanding and Models of Communication / Special Interest Group on Natural Language / Technical Committee on Speech / Special Interest Group on Spoken Language Processing |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 音声合成と音声認識に対するテキストデータを用いた半教師あり統合学習 |
| サブタイトル（和） | |
| タイトル（英） | Semi-supervised joint training of text to speech and automatic speech recognition using unpaired text data |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 音声認識 / automatic speech recognition |
| キーワード(2)（和/英） | 音声合成 / text to speech |
| キーワード(3)（和/英） | 半教師あり学習 / semi-supervised learning |
| 第 1 著者 氏名（和/英） | 牧島 直輝 / Naoki Makishima |
| 第 1 著者 所属（和/英） | 日本電信電話株式会社(略称：NTT) NIPPON TELEGRAPH AND TELEPHONE CORPORATION(略称：NTT) |
| 第 2 著者 氏名（和/英） | 鈴木 聡志 / Satoshi Suzuki |
| 第 2 著者 所属（和/英） | 日本電信電話株式会社(略称：NTT) NIPPON TELEGRAPH AND TELEPHONE CORPORATION(略称：NTT) |
| 第 3 著者 氏名（和/英） | 安藤 厚志 / Atsushi Ando |
| 第 3 著者 所属（和/英） | 日本電信電話株式会社(略称：NTT) NIPPON TELEGRAPH AND TELEPHONE CORPORATION(略称：NTT) |
| 第 4 著者 氏名（和/英） | 増村 亮 / Ryo Masumura |
| 第 4 著者 所属（和/英） | 日本電信電話株式会社(略称：NTT) NIPPON TELEGRAPH AND TELEPHONE CORPORATION(略称：NTT) |
| 発表年月日 | 2022-11-30 |
| 資料番号 | NLC2022-14,SP2022-34 |
| 巻番号（vol） | vol.122 |
| 号番号（no） | NLC-287,SP-288 |
| ページ範囲 | pp.27-32(NLC), pp.27-32(SP), |
| ページ数 | 6 |
| 発行日 | 2022-11-22 (NLC, SP) |