| 講演名 | 2020-03-02 ブラックボックス型敵対的攻撃に対する話者照合システムの脆弱性に関する調査 甲斐 優人(首都大東京), 塩田 さやか(首都大東京), 貴家 仁志(首都大東京), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 近年，機械学習に基づくシステムへの敵対的攻撃に対する脆弱性が危惧されている．敵対的攻撃とは，あるデータに人間には知覚ができない程度の微妙な摂動を敵対的構造になっているニューラルネットワークを用いることで推定し，元の音声に付与させることでシステムの認識結果を故意に変えるものである．ネットバンキングやネットショッピングなどの利用時に，本人確認の主な手段として使用されている生体認証システムにおいても，敵対的攻撃に対する脆弱性が指摘されている．生体認証の1つである話者照合においても同様であるが実験的にはその頑健性が示されていなかった．そこで本研究では，攻撃対象となるシステムの内部を想定しないブラックボックス型敵対的攻撃に着目し，照合精度の変化を調査した．実験では，生成された敵対的サンプルとランダムなホワイトノイズを重畳した音声を複数の話者照合システムに入力して評価し，敵対的攻撃に対する話者照合の脆弱性について分析した．それぞれの照合精度の変化の結果から，ブラックボックス型の敵対的攻撃であっても敵対的攻撃特有の摂動を付与した音声の方が，ランダムに生成されたホワイトノイズを重畳した音声よりも照合性能を大幅に低下させることがわかった． |
| 抄録(英) | Recently，vulnerability against adversarial attacks is being feared for machine learning-based systems．Adversarial attacks are aimed to intentionally change results of systems based on machine learning algorithms. Data which a small noise is added to an original speech are called perturbation. The perturbation is estimated by using adversarial structured neural networks, and the generated data are almost indistinguishable by a human when compared to the original data. Biometric authentication systems which are used as a primarily means for user authentication in applications like internet banking and online shopping are also pointed out in terms of vulnerability against such adversarial attacks. The same can be said for speaker verification (SV), one of the biometric authentication，however its robustness has not been indicated experimentally. Therefore，we investigated the change in accuracy when attacking a system where the internal design is unexpected using adversarial attacks．In our experiments，we have evaluated the results when inputting generated adversarial examples and audios mixed with white noise to SV systems，and analyzed the vulnerability of speaker verification against adversarial attacks．From the results, the performances of SV systems became worse when the generated adversarial examples were inputted, compared with audio with white noise were inputted. |
| キーワード(和) | 敵対的攻撃 / 話者照合 / ブラックボックス型攻撃 |
| キーワード(英) | adversarial attack / speaker verification / black-box attack |
| 資料番号 | EA2019-106,SIP2019-108,SP2019-55 |
| 発行日 | 2020-02-24 (EA, SIP, SP) |
| 研究会情報 | |
| 研究会 | SP / EA / SIP |
|---|---|
| 開催期間 | 2020/3/2(から2日開催) |
| 開催地（和） | 沖縄産業支援センター |
| 開催地（英） | Okinawa Industry Support Center |
| テーマ（和） | 音声，応用／電気音響，信号処理，一般 |
| テーマ（英） | |
| 委員長氏名（和） | 河井 恒(NICT) / 古家 賢一(大分大) / 相川 直幸(東京理科大) |
| 委員長氏名（英） | Hisashi Kawai(NICT) / Kenichi Furuya(Oita Univ.) / Naoyuki Aikawa(TUS) |
| 副委員長氏名（和） | 李 晃伸(名工大) / 島内 末廣(金沢工大) / 武岡 成人(静岡理工科大) / 林 和則(阪市大) / 坂東 幸浩(NTT) |
| 副委員長氏名（英） | Akinobu Ri(Nagoya Inst. of Tech.) / Suehiro Shimauchi(Kanazawa Inst. of Tech.) / Shigeto Takeoka(Shizuoka Inst. of Science and Tech.) / Kazunori Hayashi(Osaka City Univ) / Yukihiro Bandou(NTT) |
| 幹事氏名（和） | 南條 浩輝(京大) / 小川 哲司(早大) / 松井 健太郎(NHK) / 小山 翔一(東大) / 中本 昌由(広島大) / 小西 克巳(法政大) |
| 幹事氏名（英） | Hiroaki Nanjo(Kyoto Univ.) / Tetsuji Ogawa(Waseda Univ.) / Kentaro Matsui(NHK) / Shoichi Koyama(Univ. of Tokyo) / Masayoshi Nakamoto(Hiroshima Univ.) / Katsumi Konishi(Hosei Univ.) |
| 幹事補佐氏名（和） | 郡山 知樹(東大) / 井島 勇祐(NTT) / 井本 桂右(立命館大) / 森川 大輔(富山県立大) / 杉本 憲治郎(早大) |
| 幹事補佐氏名（英） | Tomoki Koriyama(Univ. of Tokyo) / Yusuke Ijima(NTT) / Keisuke Imoto(Ritsumeikan Univ.) / Daisuke Morikawa(Toyama Pref Univ.) / Kenjiro Sugimoto(Waseda Univ.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Speech / Technical Committee on Engineering Acoustics / Technical Committee on Signal Processing |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | ブラックボックス型敵対的攻撃に対する話者照合システムの脆弱性に関する調査 |
| サブタイトル（和） | |
| タイトル（英） | Vulnerability investigation of speaker verification against black-box adversarial attacks |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 敵対的攻撃 / adversarial attack |
| キーワード(2)（和/英） | 話者照合 / speaker verification |
| キーワード(3)（和/英） | ブラックボックス型攻撃 / black-box attack |
| 第 1 著者 氏名（和/英） | 甲斐 優人 / Hiroto Kai |
| 第 1 著者 所属（和/英） | 首都大学東京(略称：首都大東京) Tokyo Metropolitan University(略称：TMU) |
| 第 2 著者 氏名（和/英） | 塩田 さやか / Sayaka Shiota |
| 第 2 著者 所属（和/英） | 首都大学東京(略称：首都大東京) Tokyo Metropolitan University(略称：TMU) |
| 第 3 著者 氏名（和/英） | 貴家 仁志 / Hitoshi Kiya |
| 第 3 著者 所属（和/英） | 首都大学東京(略称：首都大東京) Tokyo Metropolitan University(略称：TMU) |
| 発表年月日 | 2020-03-02 |
| 資料番号 | EA2019-106,SIP2019-108,SP2019-55 |
| 巻番号（vol） | vol.119 |
| 号番号（no） | EA-439,SIP-440,SP-441 |
| ページ範囲 | pp.29-33(EA), pp.29-33(SIP), pp.29-33(SP), |
| ページ数 | 5 |
| 発行日 | 2020-02-24 (EA, SIP, SP) |