講演抄録/キーワード |
講演名 |
2021-03-02 13:40
オンライン機械翻訳システムに対するホモグリフ攻撃の脆弱性調査 ○坂本岳史・森 達哉(早大) ICSS2020-50 |
抄録 |
(和) |
ニューラルネットワークを搭載するシステムには,正当な入力に微小な摂動を加えた悪意ある入力(Adversarial Input)により,意図的に誤動作が引き起こされるという脆弱性が指摘されている.Adversarial Inputは、元の入力との違いが人間には認知されないという特徴をもつ.本研究では,オンラインで利用可能な8つの機械翻訳システムに対し,悪意ある入力としてホモグリフや特殊文字を入力した際の出力を調査し,敵対的攻撃に対する脆弱性の評価を行う.
調査の結果,各機械翻訳システムに特有の前処理を推定することが可能であるとわかった.本論文では,前処理の推定結果に基づき,各システムに固有の脆弱性や対策方法について提案する. |
(英) |
It has been widely known that systems empowered by neural network algorithms are vulnerable against an intrinsic attack named ``Adversarial Input'', which can be generated by adding small perturbations to the original inputs, aiming at fooling the systems.
Adversarial Input has the characteristic that the difference from the original input is not recognized by humans.
In this research, we investigate the output of eight machine translation systems that can be used online when homoglyphs and special characters are input as malicious inputs, and evaluate their vulnerability to hostile attacks.
As a result of the investigation, it was found that it is possible to estimate the preprocessing to each machine translation system.
In this paper, we propose vulnerabilities and countermeasures specific to each system based on the estimation results of preprocessing. |
キーワード |
(和) |
Adversarial Example / ニューラル機械翻訳 / 前処理 / ホモグリフ / / / / |
(英) |
Adversarial Example / Neural Machine Translation / Preprocess / Homoglyph / / / / |
文献情報 |
信学技報, vol. 120, no. 384, ICSS2020-50, pp. 144-149, 2021年3月. |
資料番号 |
ICSS2020-50 |
発行日 |
2021-02-22 (ICSS) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
ICSS2020-50 |