講演抄録/キーワード |
講演名 |
2020-03-05 16:45
[ポスター講演]非可逆圧縮の圧縮率の変化に伴う挙動解析に基づく敵対的事例の検知法 ○東 亮憲・栗林 稔・舩曵信生(岡山大)・Huy Hong Nguyen・越前 功(NII) EMM2019-123 |
抄録 |
(和) |
敵対的事例は,CNN 画像分類器が誤って識別するように意図的に造られた小さな摂動を入力に加える攻撃であり,その摂動を人間が視覚的に認識することは困難である.CSS2019 では,敵対的事例に加えられた微小なノイズを非可逆圧縮を用いて除去することで識別クラスが変動する性質に着目し,圧縮品質を徐々に下げた場合のCNN画像分類器の出力の変化を特徴として敵対的事例を検知する手法を提案した.本研究では,計算量削減のために圧縮品質を変化させる間隔を大きくした際に,敵対的事例の分類精度がどのように影響するかを調べた.その結果,数パターンの圧縮品質での出力だけでも高い精度で敵対的事例を分類できることが分かった.また,画像の縮小の際に情報が削減される処理をノイズ除去フィルタとして用いた場合も同様に高い精度で分類できることが確認された. |
(英) |
The adversarial examples are created by adding small perturbations to an input image for misleading an CNN-based image classifier into a wrong class, and it is difficult for humans to visually recognize the perturbation. In CSS 2019, we focused on the property that the discrimination class fluctuates by removing the tiny noise added to the adversarial examples using the lossy compression. And we proposed a method to detect the adversarial examples by counting the number of changes in the output of CNN classifier when compression quality is gradually reduced. In this study, we examined how the detecting accuracy of adversarial examples is affected by increasing the interval of changing compression quality in order to reduce the computational complexity. As a result, it was found that it is possible to detect the adversarial examples with high accuracy from the observation of a few patterns. As the scaling down operation removes the entropy in an input image, the effects of the scaling down and then scaling up are similar to that of lossy compression. Hence, we gradually change the scaling down parameter and count the number of changes in the output of CNN classifier. It is confirmed from experiments that the detection accuracy is also comparable to the case of JPEG compression. |
キーワード |
(和) |
敵対的事例 / 非可逆圧縮 / CNN / 画像分類器 / / / / |
(英) |
Adversarial Example / Lossy Compression / CNN / Image Classifier / / / / |
文献情報 |
信学技報, vol. 119, no. 463, EMM2019-123, pp. 113-116, 2020年3月. |
資料番号 |
EMM2019-123 |
発行日 |
2020-02-27 (EMM) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
EMM2019-123 |