| 講演名 | 2020-03-05 ［ポスター講演］非可逆圧縮の圧縮率の変化に伴う挙動解析に基づく敵対的事例の検知法 東 亮憲(岡山大), 栗林 稔(岡山大), 舩曵 信生(岡山大), Huy Hong Nguyen(NII), 越前 功(NII), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 敵対的事例は，CNN 画像分類器が誤って識別するように意図的に造られた小さな摂動を入力に加える攻撃であり，その摂動を人間が視覚的に認識することは困難である．CSS2019 では，敵対的事例に加えられた微小なノイズを非可逆圧縮を用いて除去することで識別クラスが変動する性質に着目し，圧縮品質を徐々に下げた場合のCNN画像分類器の出力の変化を特徴として敵対的事例を検知する手法を提案した．本研究では，計算量削減のために圧縮品質を変化させる間隔を大きくした際に，敵対的事例の分類精度がどのように影響するかを調べた．その結果，数パターンの圧縮品質での出力だけでも高い精度で敵対的事例を分類できることが分かった．また，画像の縮小の際に情報が削減される処理をノイズ除去フィルタとして用いた場合も同様に高い精度で分類できることが確認された． |
| 抄録(英) | The adversarial examples are created by adding small perturbations to an input image for misleading an CNN-based image classifier into a wrong class, and it is difficult for humans to visually recognize the perturbation. In CSS 2019, we focused on the property that the discrimination class fluctuates by removing the tiny noise added to the adversarial examples using the lossy compression. And we proposed a method to detect the adversarial examples by counting the number of changes in the output of CNN classifier when compression quality is gradually reduced. In this study, we examined how the detecting accuracy of adversarial examples is affected by increasing the interval of changing compression quality in order to reduce the computational complexity. As a result, it was found that it is possible to detect the adversarial examples with high accuracy from the observation of a few patterns. As the scaling down operation removes the entropy in an input image, the effects of the scaling down and then scaling up are similar to that of lossy compression. Hence, we gradually change the scaling down parameter and count the number of changes in the output of CNN classifier. It is confirmed from experiments that the detection accuracy is also comparable to the case of JPEG compression. |
| キーワード(和) | 敵対的事例 / 非可逆圧縮 / CNN / 画像分類器 |
| キーワード(英) | Adversarial Example / Lossy Compression / CNN / Image Classifier |
| 資料番号 | EMM2019-123 |
| 発行日 | 2020-02-27 (EMM) |
| 研究会情報 | |
| 研究会 | EMM |
|---|---|
| 開催期間 | 2020/3/5(から2日開催) |
| 開催地（和） | 大濱信泉記念館（石垣島） |
| 開催地（英） | |
| テーマ（和） | 画質・音質評価，知覚・認知メトリクス，人間視聴覚システム，一般 |
| テーマ（英） | Image and Sound Quality, Metrics for Perception and Recognition, Human Auditory and Visual System, etc. |
| 委員長氏名（和） | 川村 正樹(山口大) |
| 委員長氏名（英） | Masaki Kawamura(Yamaguchi Univ.) |
| 副委員長氏名（和） | 岩田 基(阪府大) / 小嶋 徹也(東京高専) |
| 副委員長氏名（英） | Motoi Iwata(Osaka Prefecture Univ.) / Tetsuya Kojima(NIT,Tokyo College) |
| 幹事氏名（和） | 秋山 寛子(長野高専) / 金田 北洋(長瀬産業) |
| 幹事氏名（英） | Hiroko Akiyama(NIT, Nagano College) / Kitahiro Kaneda(Nagase) |
| 幹事補佐氏名（和） | 稲村 勝樹(東京電機大) / 河野 和宏(関西大) |
| 幹事補佐氏名（英） | Masaki Inamura(Tokyo Denki Univ.) / Kazuhiro Kono(Kansai Univ.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Enriched MultiMedia |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | ［ポスター講演］非可逆圧縮の圧縮率の変化に伴う挙動解析に基づく敵対的事例の検知法 |
| サブタイトル（和） | |
| タイトル（英） | [Poster Presentation] Detecting Adversarial Examples Based on Sensitivities to Lossy Compression Algorithms |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 敵対的事例 / Adversarial Example |
| キーワード(2)（和/英） | 非可逆圧縮 / Lossy Compression |
| キーワード(3)（和/英） | CNN / CNN |
| キーワード(4)（和/英） | 画像分類器 / Image Classifier |
| 第 1 著者 氏名（和/英） | 東 亮憲 / Akinori Higashi |
| 第 1 著者 所属（和/英） | 岡山大学(略称：岡山大) Okayama University(略称：Okayama Univ.) |
| 第 2 著者 氏名（和/英） | 栗林 稔 / Minoru Kuribayashi |
| 第 2 著者 所属（和/英） | 岡山大学(略称：岡山大) Okayama University(略称：Okayama Univ.) |
| 第 3 著者 氏名（和/英） | 舩曵 信生 / Nobuo Funabiki |
| 第 3 著者 所属（和/英） | 岡山大学(略称：岡山大) Okayama University(略称：Okayama Univ.) |
| 第 4 著者 氏名（和/英） | Huy Hong Nguyen / Huy Hong Nguyen |
| 第 4 著者 所属（和/英） | 国立情報学研究所(略称：NII) National Institute of Informatics(略称：NII) |
| 第 5 著者 氏名（和/英） | 越前 功 / Isao Echizen |
| 第 5 著者 所属（和/英） | 国立情報学研究所(略称：NII) National Institute of Informatics(略称：NII) |
| 発表年月日 | 2020-03-05 |
| 資料番号 | EMM2019-123 |
| 巻番号（vol） | vol.119 |
| 号番号（no） | EMM-463 |
| ページ範囲 | pp.113-116(EMM), |
| ページ数 | 4 |
| 発行日 | 2020-02-27 (EMM) |