| 講演名 | 2021-10-09 埋め込み空間におけるデータ多様体構造に基づく敵対的サンプルの発生メカニズムに関する考察 田崎 元(中大), 金子 勇次(中大), 趙 晋輝(中大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 深層学習を利用した分類器に対して，誤分類を誘発させる敵対的サンプルと呼ばれる攻撃が広く知られている．この敵対的サンプルの生成手法や対策手法などに関する先行研究は数多くあるものの，その発生メカニズムは明確には理解されておらず，有効な対策は確立されていない．そこで本研究では，分類器が利用する学習データはユークリッド空間に埋め込まれた部分多様体であるという特性に着目し，データ多様体の埋込み構造，特にデータ部分多様体の接空間における余次元構造を解析することで，敵対的サンプルの発生メカニズムを明らかにする．さらに，実際に敵対的サンプルを生成し，データ分布の解析を行うことで，その妥当性を示す． |
| 抄録(英) | It is widely known that adversarial examples cause misclassification in classifiers using deep learning. Inspite of numerous previous research, the phenomenon has not been well understood and clearly explained, hence there is no effective countermeasures available now. In this research, instead of exploring on neural networks and their training algorithms, we focus on training data of the classifier, as a submanifold embedded in Euclidean space. We show that the occurrence of adversarial examples is due to the embedded structure of the data manifold in the data space. Particularly they lie in the complementary spaces of the tangent spaces of the data manifold. The theory is then verified by generation of adversarial examples and analysis of their distribution. |
| キーワード(和) | 敵対的サンプル / 深層学習 / データ多様体 |
| キーワード(英) | Adversarial Example / Deep Learning / Data Manifold |
| 資料番号 | PRMU2021-19 |
| 発行日 | 2021-10-01 (PRMU) |
| 研究会情報 | |
| 研究会 | PRMU |
|---|---|
| 開催期間 | 2021/10/8(から2日開催) |
| 開催地（和） | オンライン開催 |
| 開催地（英） | Online |
| テーマ（和） | 研究を効率的に進めるためのプロセスや周辺技術 |
| テーマ（英） | Processes and technologies to make research more efficient |
| 委員長氏名（和） | 内田 誠一(九大) |
| 委員長氏名（英） | Seiichi Uchida(Kyushu Univ.) |
| 副委員長氏名（和） | 岩村 雅一(阪府大) / 安倍 満(デンソーアイティーラボラトリ) |
| 副委員長氏名（英） | Masakazu Iwamura(Osaka Pref. Univ.) / Mitsuru Anpai(Denso IT Lab.) |
| 幹事氏名（和） | 柴田 剛志(NTT) / 西山 正志(鳥取大) |
| 幹事氏名（英） | Takashi Shibata(NTT) / Masashi Nishiyama(Tottori Univ.) |
| 幹事補佐氏名（和） | 山口 光太(サイバーエージェント) / 松井 勇佑(東大) |
| 幹事補佐氏名（英） | Kouta Yamaguchi(CyberAgent) / Yusuke Matsui(Univ. of Tokyo) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Pattern Recognition and Media Understanding |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 埋め込み空間におけるデータ多様体構造に基づく敵対的サンプルの発生メカニズムに関する考察 |
| サブタイトル（和） | |
| タイトル（英） | Explaining Adversarial Examples by the Embedding Structure of Data Manifold |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 敵対的サンプル / Adversarial Example |
| キーワード(2)（和/英） | 深層学習 / Deep Learning |
| キーワード(3)（和/英） | データ多様体 / Data Manifold |
| 第 1 著者 氏名（和/英） | 田崎 元 / Hajime Tasaki |
| 第 1 著者 所属（和/英） | 中央大学(略称：中大) Chuo University(略称：Chuo Univ.) |
| 第 2 著者 氏名（和/英） | 金子 勇次 / Yuji Kaneko |
| 第 2 著者 所属（和/英） | 中央大学(略称：中大) Chuo University(略称：Chuo Univ.) |
| 第 3 著者 氏名（和/英） | 趙 晋輝 / Jinhui Chao |
| 第 3 著者 所属（和/英） | 中央大学(略称：中大) Chuo University(略称：Chuo Univ.) |
| 発表年月日 | 2021-10-09 |
| 資料番号 | PRMU2021-19 |
| 巻番号（vol） | vol.121 |
| 号番号（no） | PRMU-192 |
| ページ範囲 | pp.17-21(PRMU), |
| ページ数 | 5 |
| 発行日 | 2021-10-01 (PRMU) |