| 講演名 | 2019-09-24 周波数領域ごとの分類によるAdversarial Examplesの検出手法の提案 加瀬 裕也(芝浦工大), 木村 昌臣(芝浦工大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | ニューラルネットワークの誤分類を引き起こす特殊なデータAdversarial Examplesの検出手法を提案する. Adversarial Examplesは元データに摂動と呼ばれるごく小さなノイズを加えることで生成され, 特に画像の場合は摂動による変化は人の目では見てわからないほど小さく設定される. 先行研究では, 摂動について周波数解析を行った結果, 0Hz周辺で影響が大きくなり, また, 手書き数字画像データセットMNISTは高周波に特徴はないため0Hz周辺帯域のカットとローパスフィルタの適用を提案した. しかし一般の写真については低周波だけでなく高周波にも特徴があるためカットすることは適切ではない. そこで本研究では低周波だけでなく高周波も利用したAdversarial Examplesの検出手法を提案する. |
| 抄録(英) | We propose a detection method of special data Adversarial Examples that cause misclassification of neural networks. Adversarial Examples are generated by adding a small amount of noise called perturbation to the original data. Especially in the case of images, changes due to perturbation are set so small that it cannot be perceived by the human eye. In previous research, as a result of frequency analysis of the perturbation, it was found that the influence became large around 0Hz and therefore they proposed a application 0Hz cut. In addition, the dataset MNIST for handwritten digit images has no high frequency characteristics and therefore they proposed the application of a low pass filter. However, the photo has characteristics not only low frequency but also high frequency, so it is not appropriate to cut. In this study, we propose a detection method of Adversarial Examples using not only low frequencies but also high frequencies. |
| キーワード(和) | 機械学習 / ニューラルネットワーク / Adversarial Examples / 周波数 / 画像 / 頑健性 |
| キーワード(英) | Machine Learning / Neural Network / Adversarial Examples / Frequency / Image / Robustness |
| 資料番号 | SSS2019-20 |
| 発行日 | 2019-09-17 (SSS) |
| 研究会情報 | |
| 研究会 | SSS |
|---|---|
| 開催期間 | 2019/9/24(から1日開催) |
| 開催地（和） | 機械振興会館 |
| 開催地（英） | |
| テーマ（和） | 製品安全、製造物責任、社会インフラ、エネルギー、事故調査、情報の安全性 |
| テーマ（英） | |
| 委員長氏名（和） | 伊藤 誠(筑波大学) |
| 委員長氏名（英） | Makoto Ito(Tsukuba Univ.) |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | 鈴木 喜久(NPO循環型社会推進協会) / 中村 瑞穂(職能大) |
| 幹事氏名（英） | Yoshihisa Suzuki(NPO RDA) / Mizuho Nakamura(Polytechnic Univ.) |
| 幹事補佐氏名（和） | 川島 興(オリエンタルモーター) / 高橋 聖(日大) / 木村 昌臣(芝浦工大) |
| 幹事補佐氏名（英） | Koh Kawashima(Oriental Motor) / Sei Takahashi(Nihon Univ.) / Masaomi Kimura(Shibaura Inst. of Tech.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Safety |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 周波数領域ごとの分類によるAdversarial Examplesの検出手法の提案 |
| サブタイトル（和） | |
| タイトル（英） | A Proposal of Detection Method of Adversalial Examples based on Frequency Domain |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 機械学習 / Machine Learning |
| キーワード(2)（和/英） | ニューラルネットワーク / Neural Network |
| キーワード(3)（和/英） | Adversarial Examples / Adversarial Examples |
| キーワード(4)（和/英） | 周波数 / Frequency |
| キーワード(5)（和/英） | 画像 / Image |
| キーワード(6)（和/英） | 頑健性 / Robustness |
| 第 1 著者 氏名（和/英） | 加瀬 裕也 / Yuya Kase |
| 第 1 著者 所属（和/英） | 芝浦工業大学(略称：芝浦工大) Shibaura Institute of Technology(略称：SIT) |
| 第 2 著者 氏名（和/英） | 木村 昌臣 / Masaomi Kimura |
| 第 2 著者 所属（和/英） | 芝浦工業大学(略称：芝浦工大) Shibaura Institute of Technology(略称：SIT) |
| 発表年月日 | 2019-09-24 |
| 資料番号 | SSS2019-20 |
| 巻番号（vol） | vol.119 |
| 号番号（no） | SSS-210 |
| ページ範囲 | pp.13-16(SSS), |
| ページ数 | 4 |
| 発行日 | 2019-09-17 (SSS) |