| 講演名 | 2020-03-03 ニューラル機械翻訳システムに対する敵対的攻撃 坂本 岳史(早大), 森 達哉(早大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | ニューラルネットワークを搭載するシステムには，正当な入力に微小な摂動を加えた悪意ある入力 (Adversarial Example)を印加することにより，意図的に誤動作が引き起こされる脆弱性が指摘されている．本研究では，ニューラル機械翻訳システムを標的とし，微小な摂動を加えた文 (敵対的文) を翻訳機に入力することにより，翻訳後の意味を変化させる攻撃を提案する．また，提案した攻撃の実現可能性評価と，有効な対策手法の検討を行う． 本攻撃により，契約文書，商品のレビュー，政治家や有識者のSNS投稿など，人の意思決定に影響を与える文書を機械翻訳した際に，文書の意味やニュアンスが意図的に制御されるリスクが生じる．本研究では，機械翻訳システムとして広く使われているGoogle翻訳を対象とし，日常的に使用する基本的な文データを基に作成した敵対的文の意味変更率を評価する．実験の結果，55%の文に対し，翻訳後の意味を変化させることに成功した．これはテキスト分類を対象とした既存の敵対的入力生成手法と比較しても良好な成功率である． |
| 抄録(英) | It has been widely known that systems empowered by neural network algorithms are vulnerable against an intrinsic attack named ``adversarial example'', which can be generated by adding small perturbations to the original inputs, aiming at fooling the systems. In this paper, we target Neural Machine Translation (NMT) and present attacks that change the meaning of sentences by adding small perturbations to the translated sentences (Adversarial text). This attack can intentionally control the nuance of meanings for documents such as contracts, products, reviews and postings to SNS by politicians or experts, which may play a vital role in making a decision. In this work, we adopt Google translate as a widely used NMT system and apply our attack using common sentences to study the effectiveness of the attack. We demonstrate that the meaning of sentences could be changed by 55% and the success rate is higher than the existing methods that target text classification applications. |
| キーワード(和) | Adversarial Example / ニューラル機械翻訳 / ホモグリフ |
| キーワード(英) | Adversarial Example / Neural Machine Translation / Homoglyph |
| 資料番号 | ICSS2019-89 |
| 発行日 | 2020-02-24 (ICSS) |
| 研究会情報 | |
| 研究会 | ICSS / IPSJ-SPT |
|---|---|
| 開催期間 | 2020/3/2(から2日開催) |
| 開催地（和） | 沖縄県青年会館 |
| 開催地（英） | Okinawa-Ken-Seinen-Kaikan |
| テーマ（和） | セキュリティ、トラスト、一般 |
| テーマ（英） | Security, Trust, etc. |
| 委員長氏名（和） | 高倉 弘喜(NII) |
| 委員長氏名（英） | Hiroki Takakura(NII) |
| 副委員長氏名（和） | 吉岡 克成(横浜国大) / 神谷 和憲(NTT) |
| 副委員長氏名（英） | Katsunari Yoshioka(Yokohama National Univ.) / Kazunori Kamiya(NTT) |
| 幹事氏名（和） | 笠間 貴弘(NICT) / 山田 明(KDDI labs.) |
| 幹事氏名（英） | Takahiro Kasama(NICT) / Akira Yamada(KDDI labs.) |
| 幹事補佐氏名（和） | 木藤 圭亮(三菱電機) / 山内 利宏(岡山大) |
| 幹事補佐氏名（英） | Keisuke Kito(Mitsubishi Electric) / Toshihiro Yamauchi(Okayama Univ.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Information and Communication System Security / Special Interest Group on Security Psychology and Trust |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | ニューラル機械翻訳システムに対する敵対的攻撃 |
| サブタイトル（和） | |
| タイトル（英） | Adversarial Attack against Neural Machine Translation Systems |
| サブタイトル（和） | |
| キーワード(1)（和/英） | Adversarial Example / Adversarial Example |
| キーワード(2)（和/英） | ニューラル機械翻訳 / Neural Machine Translation |
| キーワード(3)（和/英） | ホモグリフ / Homoglyph |
| 第 1 著者 氏名（和/英） | 坂本 岳史 / Takeshi Sakamoto |
| 第 1 著者 所属（和/英） | 早稲田大学(略称：早大) Waseda University(略称：Waseda Univ.) |
| 第 2 著者 氏名（和/英） | 森 達哉 / Tatsuya Mori |
| 第 2 著者 所属（和/英） | 早稲田大学(略称：早大) Waseda University(略称：Waseda Univ.) |
| 発表年月日 | 2020-03-03 |
| 資料番号 | ICSS2019-89 |
| 巻番号（vol） | vol.119 |
| 号番号（no） | ICSS-437 |
| ページ範囲 | pp.125-130(ICSS), |
| ページ数 | 6 |
| 発行日 | 2020-02-24 (ICSS) |