| 講演名 | 2023-02-28 real-time MRIで収録した調音運動に基づくend-to-end音声合成 大谷 祐人(東京理科大), 澤田 隼(東京理科大), 大村 英史(東京理科大), 桂田 浩一(東京理科大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | real-time MRI (rtMRI)で収録した調音運動に基づいて音声を合成するend-to-end型の深層学習モデルを提案する．rtMRI動画像を入力とする音声合成の従来手法では声道形状パラメータのみを推定し，基本周波数などの情報は別途与えていた．本研究ではCNN-BiLSTMモデルでrtMRIからメルスペクトログラムを中間表現として推定し，HiFi-GANボコーダで音声を合成する手法を提案する．単一話者によるATR音素バランス503文の朗読をrtMRIで収録したデータセットを用いて合成音声の音質と基本周波数の推定精度を評価したところ，音質の評価指標であるPESQについては1.64のスコアを得ることができた．また，基本周波数F0のRMSEは26.7 Hzと良好であり，基本周波数を含む音響パラメータ全体をrtMRI動画像から推定できることを確認した．USC-TIMITデータベースを用いた実験ではPESQとF0 RMSEが良好であったが，発話内容が不明瞭であり，データセットの品質の重要性が示唆された． |
| 抄録(英) | We propose an end-to-end deep learning model for speech synthesis based on articulatory movements captured by real-time MRI (rtMRI). Previous methods for speech synthesis from rtMRI videos only predict parameters of vocal tract shape and require additional information about fundamental frequency. In this work, we propose a model using a CNN-BiLSTM to predict the mel-spectrogram as an intermediate representation, and a HiFi-GAN vocoder to synthesize speech. We evaluated speech quality and the fundamental frequency accuracy of the synthesized speech on the rtMRI dataset containing ATR 503 sentences read by a single speaker. The experimental results show that the PESQ score and the RMSE of F0 are 1.64 and 26.7 Hz, respectively, which demonstrates that the entire acoustic parameters including the fundamental frequency can be estimated from rtMRI videos. In the experiment on USC-TIMIT database, we could get good PESQ score and RMSE of F0. However, the synthesized speech is unclear, which indicates quality of the datasets significantly affects intelligibleness of the synthesized speech. |
| キーワード(和) | real-time MRI / 調音運動 / 音声合成 / end-to-end |
| キーワード(英) | real-time MRI / articulatory movement / speech synthesis / end-to-end |
| 資料番号 | EA2022-77,SIP2022-121,SP2022-41 |
| 発行日 | 2023-02-21 (EA, SIP, SP) |
| 研究会情報 | |
| 研究会 | SP / IPSJ-SLP / EA / SIP |
|---|---|
| 開催期間 | 2023/2/28(から2日開催) |
| 開催地（和） | 沖縄県立博物館・美術館 |
| 開催地（英） | |
| テーマ（和） | 音声，応用／電気音響, 信号処理，一般 |
| テーマ（英） | |
| 委員長氏名（和） | 戸田 智基(名大) / 戸田 智基(名大) / 古家 賢一(大分大) / 田中 聡久(東京農工大) |
| 委員長氏名（英） | Tomoki Toda(Nagoya Univ.) / Tomoki Toda(Nagoya Univ.) / Kenichi Furuya(Oita Univ.) / Toshihisa Tanaka(Tokyo Univ. Agri.&Tech.) |
| 副委員長氏名（和） | / / 加古 達也(NTT) / 小野 順貴(都立大) / 市毛 弘一(横浜国大) / 仲地 孝之(琉球大学) |
| 副委員長氏名（英） | / / Tatsuya Kako(NTT) / Junki Ono(Tokyo Metropolitan Univ.) / Koichi Ichige(Yokohama National Univ.) / Takayuki Nakachi(Ryukyu Univ.) |
| 幹事氏名（和） | 増村 亮(NTT) / 中鹿 亘(電通大) / 増村 亮(NTT) / 中鹿 亘(電通大) / 若山 圭吾(NTT) / 西浦 敬信(立命館大) / 田中 雄一(東京農工大) / 京地 清介(北九州市大) |
| 幹事氏名（英） | Ryo Masumura(NTT) / Toru Nakashika(Univ. of Electro-Comm.) / Ryo Masumura(NTT) / Toru Nakashika(Univ. of Electro-Comm.) / Keigo Wakayama(NTT) / Takanobu Nishiura(RitsumeikanUniv.) / Yuichi Tanaka(Tokyo Univ. Agri.&Tech.) / Seisuke Kyochi(Univ. of Kitakyushu) |
| 幹事補佐氏名（和） | 相原 龍(三菱電機) / 齋藤 大輔(東大) / 相原 龍(三菱電機) / 齋藤 大輔(東大) / 中山 雅人(大阪産業大) / 矢田部 浩平(東京農工大) / 吉田 太一(電通大) / 今泉 祥子(千葉大) |
| 幹事補佐氏名（英） | Ryo Aihara(Mitsubishi Electric) / Daisuke Saito(Univ. of Tokyo) / Ryo Aihara(Mitsubishi Electric) / Daisuke Saito(Univ. of Tokyo) / Masato Nakayama(Osaka Sangyo Univ.) / Kouhei Yatabe(Tuat) / Taichi Yoshida(UEC) / Shoko Imaizumi(Chiba Univ.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Speech / Special Interest Group on Spoken Language Processing / Technical Committee on Engineering Acoustics / Technical Committee on Signal Processing |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | real-time MRIで収録した調音運動に基づくend-to-end音声合成 |
| サブタイトル（和） | |
| タイトル（英） | End-to-End Speech Synthesis Based on Articulatory Movements Captured by Real-time MRI |
| サブタイトル（和） | |
| キーワード(1)（和/英） | real-time MRI / real-time MRI |
| キーワード(2)（和/英） | 調音運動 / articulatory movement |
| キーワード(3)（和/英） | 音声合成 / speech synthesis |
| キーワード(4)（和/英） | end-to-end / end-to-end |
| 第 1 著者 氏名（和/英） | 大谷 祐人 / Yuto Otani |
| 第 1 著者 所属（和/英） | 東京理科大学(略称：東京理科大) Tokyo University of Science(略称：Tokyo Univ. Sci.) |
| 第 2 著者 氏名（和/英） | 澤田 隼 / Shun Sawada |
| 第 2 著者 所属（和/英） | 東京理科大学(略称：東京理科大) Tokyo University of Science(略称：Tokyo Univ. Sci.) |
| 第 3 著者 氏名（和/英） | 大村 英史 / Hidefumi Ohmura |
| 第 3 著者 所属（和/英） | 東京理科大学(略称：東京理科大) Tokyo University of Science(略称：Tokyo Univ. Sci.) |
| 第 4 著者 氏名（和/英） | 桂田 浩一 / Kouichi Katsurada |
| 第 4 著者 所属（和/英） | 東京理科大学(略称：東京理科大) Tokyo University of Science(略称：Tokyo Univ. Sci.) |
| 発表年月日 | 2023-02-28 |
| 資料番号 | EA2022-77,SIP2022-121,SP2022-41 |
| 巻番号（vol） | vol.122 |
| 号番号（no） | EA-387,SIP-388,SP-389 |
| ページ範囲 | pp.13-18(EA), pp.13-18(SIP), pp.13-18(SP), |
| ページ数 | 6 |
| 発行日 | 2023-02-21 (EA, SIP, SP) |