| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2022-03-01 12:45 Incorporating Acoustic and Textual Information for Language Modeling in Code-switching Speech Recognition ○Roland Hartanto・Kuniaki Uto・Koichi Shinoda（TokyoTech）  EA2021-73 SIP2021-100 SP2021-58 |
|
| 抄録 | （和） | People who speak two or more languages tend to alternate the language when they are speaking. This particular phenomenon is called code-switching, and it frequently occurs in multicultural society. Automatic speech recognition (ASR) for code-switching speech is a challenging task acoustically and linguistically because of the lack of code-switching data. This work aims to improve code-switching ASR system by improving the language model. We explore the code-switching data augmentation for language modeling by utilizing the ASR decoding lattice to tackle the pronunciation variation and data scarcity problems. We incorporate both acoustic and textual information by pretraining GPT2, a transformer-based language model, with the code-switching ASR decoding lattice. Our work achieves around 2 point absolute word error rate reduction from the baseline n-gram language model, and 0.33 point absolute reduction from the lattice-rescored baseline word error rate. |
| （英） | People who speak two or more languages tend to alternate the language when they are speaking. This particular phenomenon is called code-switching, and it frequently occurs in multicultural society. Automatic speech recognition (ASR) for code-switching speech is a challenging task acoustically and linguistically because of the lack of code-switching data. This work aims to improve code-switching ASR system by improving the language model. We explore the code-switching data augmentation for language modeling by utilizing the ASR decoding lattice to tackle the pronunciation variation and data scarcity problems. We incorporate both acoustic and textual information by pretraining GPT2, a transformer-based language model, with the code-switching ASR decoding lattice. Our work achieves around 2 point absolute word error rate reduction from the baseline n-gram language model, and 0.33 point absolute reduction from the lattice-rescored baseline word error rate. | |
| キーワード | （和） | code-switching / speech recognition / language model / attention mechanism / / / / |
| （英） | code-switching / speech recognition / language model / attention mechanism / / / / | |
| 文献情報 | 信学技報, vol. 121, no. 385, SP2021-58, pp. 56-63, 2022年3月. | |
| 資料番号 | SP2021-58 | |
| 発行日 | 2022-02-22 (EA, SIP, SP) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | EA2021-73 SIP2021-100 SP2021-58 |
|
| 研究会情報 | |
| 研究会 | EA SIP SP IPSJ-SLP |
| 開催期間 | 2022-03-01 - 2022-03-02 |
| 開催地（和） | 沖縄県立博物館・美術館 |
| 開催地（英） | |
| テーマ（和） | 応用／電気音響, 信号処理，音声，一般 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | SP |
| 会議コード | 2022-03-EA-SIP-SP-SLP |
| 本文の言語 | 英語 |
| タイトル（和） | |
| サブタイトル（和） | |
| タイトル（英） | Incorporating Acoustic and Textual Information for Language Modeling in Code-switching Speech Recognition |
| サブタイトル（英） | |
| キーワード(1)（和/英） | code-switching / code-switching |
| キーワード(2)（和/英） | speech recognition / speech recognition |
| キーワード(3)（和/英） | language model / language model |
| キーワード(4)（和/英） | attention mechanism / attention mechanism |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | ローランド ハルタント / Roland Hartanto / ローランド ハルタント |
| 第1著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institute of Technology (略称： TokyoTech) |
| 第2著者 氏名（和/英/ヨミ） | 宇都 有昭 / Kuniaki Uto / ウト クニアキ |
| 第2著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institute of Technology (略称： TokyoTech) |
| 第3著者 氏名（和/英/ヨミ） | 篠田 浩一 / Koichi Shinoda / シノダ コウイチ |
| 第3著者 所属（和/英） | 東京工業大学 (略称： 東工大) Tokyo Institute of Technology (略称： TokyoTech) |
| 第4著者 氏名（和/英/ヨミ） | / / |
| 第4著者 所属（和/英） | (略称： ) (略称： ) |
| 第5著者 氏名（和/英/ヨミ） | / / |
| 第5著者 所属（和/英） | (略称： ) (略称： ) |
| 第6著者 氏名（和/英/ヨミ） | / / |
| 第6著者 所属（和/英） | (略称： ) (略称： ) |
| 第7著者 氏名（和/英/ヨミ） | / / |
| 第7著者 所属（和/英） | (略称： ) (略称： ) |
| 第8著者 氏名（和/英/ヨミ） | / / |
| 第8著者 所属（和/英） | (略称： ) (略称： ) |
| 第9著者 氏名（和/英/ヨミ） | / / |
| 第9著者 所属（和/英） | (略称： ) (略称： ) |
| 第10著者 氏名（和/英/ヨミ） | / / |
| 第10著者 所属（和/英） | (略称： ) (略称： ) |
| 第11著者 氏名（和/英/ヨミ） | / / |
| 第11著者 所属（和/英） | (略称： ) (略称： ) |
| 第12著者 氏名（和/英/ヨミ） | / / |
| 第12著者 所属（和/英） | (略称： ) (略称： ) |
| 第13著者 氏名（和/英/ヨミ） | / / |
| 第13著者 所属（和/英） | (略称： ) (略称： ) |
| 第14著者 氏名（和/英/ヨミ） | / / |
| 第14著者 所属（和/英） | (略称： ) (略称： ) |
| 第15著者 氏名（和/英/ヨミ） | / / |
| 第15著者 所属（和/英） | (略称： ) (略称： ) |
| 第16著者 氏名（和/英/ヨミ） | / / |
| 第16著者 所属（和/英） | (略称： ) (略称： ) |
| 第17著者 氏名（和/英/ヨミ） | / / |
| 第17著者 所属（和/英） | (略称： ) (略称： ) |
| 第18著者 氏名（和/英/ヨミ） | / / |
| 第18著者 所属（和/英） | (略称： ) (略称： ) |
| 講演者 | 第1著者 |
| 発表日時 | 2022-03-01 12:45:00 |
| 発表時間 | 25分 |
| 申込先研究会 | SP |
| 資料番号 | EA2021-73, SIP2021-100, SP2021-58 |
| 巻番号（vol） | vol.121 |
| 号番号（no） | no.383(EA), no.384(SIP), no.385(SP) |
| ページ範囲 | pp.56-63 |
| ページ数 | 8 |
| 発行日 | 2022-02-22 (EA, SIP, SP) |
[研究会発表申込システムのトップページに戻る]