| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2021-05-21 13:10 複数のAuto Encoderに対する応答特性を用いた敵対的事例の検出法 ○山﨑裕真・栗林 稔・舩曵信生（岡山大）・グエン フイ ホン・越前 功（NII）  IT2021-11 EMM2021-11 |
|
| 抄録 | （和） | 敵対的事例に含まれる微小なノイズを取り除くことで，画像分類の結果が正常な画像ラベルに戻り，ノイズを除去するフィルタの強度を徐々に上げることで画像分類の結果に特徴が生じる．先行研究ではこの点に着目し，強度を変動させた各フィルタによるノイズ除去後の画像分類結果を教師データとして，検知用ニューラルネットワークを学習させることで，敵対的事例を識別している．しかし，ノイズ除去フィルタに周知の技術であるJPEG圧縮とscalingが用いられているため，フィルタへの対策がなされた敵対的事例が生成されれば検知が困難になる恐れがある．本研究ではブラックボックスなフィルタとして，教師無し機械学習モデルであるAuto Encoderを特定のデータセットで学習させることで，セキュリティ面を強化した手法を提案する．学習に使用する画像の枚数を変えることで，特性の異なるAuto Encoderを数種類設計し，各フィルタを単独もしくは組み合わせて使用し，敵対的事例識別の評価を行った．その結果，特性の異なるAuto Encoderを組み合わせることでノイズ除去効果の向上が確認され，約90％強の精度で敵対的事例を識別でき，先行研究より少し低い精度であるがある程度高い識別精度が得られた． |
| （英） | By removing the small perturbations involved in adversarial examples, the image classification result returns to the correct label of the image, and by gradually increasing the strength of the filter that removes the noise, the image classification result is characterized. In the previous study, we focused on this point and trained a neural network using the image classification results after denoising by each filter with varying the strength as supervisory data to identify adversarial examples. However, since JPEG compression and scaling, which are well-known techniques, are used for denoising filters, the adversarial attack may be adjusted for such filters to fool the detector. In this study, we use an unsupervised machine learning model, Auto Encoder, which is trained on a specific dataset, as a black box filter, to enhance the security aspect. We designed several types of auto encoders with different characteristics by changing the number of images used for training, and evaluated the accuracy of its discrimination capability using each filter alone or in combination. As a result, it was confirmed that the noise removal effect was improved by combining some auto encoders, adversarial examples could be identified with an accuracy of over 90%. | |
| キーワード | （和） | 敵対的事例 / 画像分類器 / オートエンコーダ / ノイズ除去フィルタ / / / / |
| （英） | Adversarial Example / Image Classifier / Auto Encoder / Noise Removal Filter / / / / | |
| 文献情報 | 信学技報, vol. 121, no. 29, EMM2021-11, pp. 60-65, 2021年5月. | |
| 資料番号 | EMM2021-11 | |
| 発行日 | 2021-05-13 (IT, EMM) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | IT2021-11 EMM2021-11 |
|
| 研究会情報 | |
| 研究会 | EMM IT |
| 開催期間 | 2021-05-20 - 2021-05-21 |
| 開催地（和） | オンライン開催 |
| 開催地（英） | Online |
| テーマ（和） | 情報セキュリティ，情報理論，情報ハイディング，一般 |
| テーマ（英） | Information Security, Information Theory, Information Hiding, etc. |
| 講演論文情報の詳細 | |
| 申込み研究会 | EMM |
| 会議コード | 2021-05-EMM-IT |
| 本文の言語 | 日本語 |
| タイトル（和） | 複数のAuto Encoderに対する応答特性を用いた敵対的事例の検出法 |
| サブタイトル（和） | |
| タイトル（英） | A Study of Detecting Adversarial Examples Using Sensitivities to Multiple Auto Encoders |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 敵対的事例 / Adversarial Example |
| キーワード(2)（和/英） | 画像分類器 / Image Classifier |
| キーワード(3)（和/英） | オートエンコーダ / Auto Encoder |
| キーワード(4)（和/英） | ノイズ除去フィルタ / Noise Removal Filter |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 山﨑 裕真 / Yuma Yamasaki / ヤマサキ ユウマ |
| 第1著者 所属（和/英） | 岡山大学 (略称： 岡山大) Okayama University (略称： Okayama Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 栗林 稔 / Minoru Kuribayashi / クリバヤシ ミノル |
| 第2著者 所属（和/英） | 岡山大学 (略称： 岡山大) Okayama University (略称： Okayama Univ.) |
| 第3著者 氏名（和/英/ヨミ） | 舩曵 信生 / Nobuo Funabiki / フナビキ ノブオ |
| 第3著者 所属（和/英） | 岡山大学 (略称： 岡山大) Okayama University (略称： Okayama Univ.) |
| 第4著者 氏名（和/英/ヨミ） | グエン フイ ホン / Huy Hong Nguyen / |
| 第4著者 所属（和/英） | NII (略称： NII) NII (略称： NII) |
| 第5著者 氏名（和/英/ヨミ） | 越前 功 / Isao Echizen / エチゼン イサオ |
| 第5著者 所属（和/英） | NII (略称： NII) NII (略称： NII) |
| 第6著者 氏名（和/英/ヨミ） | / / |
| 第6著者 所属（和/英） | (略称： ) (略称： ) |
| 第7著者 氏名（和/英/ヨミ） | / / |
| 第7著者 所属（和/英） | (略称： ) (略称： ) |
| 第8著者 氏名（和/英/ヨミ） | / / |
| 第8著者 所属（和/英） | (略称： ) (略称： ) |
| 第9著者 氏名（和/英/ヨミ） | / / |
| 第9著者 所属（和/英） | (略称： ) (略称： ) |
| 第10著者 氏名（和/英/ヨミ） | / / |
| 第10著者 所属（和/英） | (略称： ) (略称： ) |
| 第11著者 氏名（和/英/ヨミ） | / / |
| 第11著者 所属（和/英） | (略称： ) (略称： ) |
| 第12著者 氏名（和/英/ヨミ） | / / |
| 第12著者 所属（和/英） | (略称： ) (略称： ) |
| 第13著者 氏名（和/英/ヨミ） | / / |
| 第13著者 所属（和/英） | (略称： ) (略称： ) |
| 第14著者 氏名（和/英/ヨミ） | / / |
| 第14著者 所属（和/英） | (略称： ) (略称： ) |
| 第15著者 氏名（和/英/ヨミ） | / / |
| 第15著者 所属（和/英） | (略称： ) (略称： ) |
| 第16著者 氏名（和/英/ヨミ） | / / |
| 第16著者 所属（和/英） | (略称： ) (略称： ) |
| 第17著者 氏名（和/英/ヨミ） | / / |
| 第17著者 所属（和/英） | (略称： ) (略称： ) |
| 第18著者 氏名（和/英/ヨミ） | / / |
| 第18著者 所属（和/英） | (略称： ) (略称： ) |
| 講演者 | 第1著者 |
| 発表日時 | 2021-05-21 13:10:00 |
| 発表時間 | 25分 |
| 申込先研究会 | EMM |
| 資料番号 | IT2021-11, EMM2021-11 |
| 巻番号（vol） | vol.121 |
| 号番号（no） | no.28(IT), no.29(EMM) |
| ページ範囲 | pp.60-65 |
| ページ数 | 6 |
| 発行日 | 2021-05-13 (IT, EMM) |
[研究会発表申込システムのトップページに戻る]