| 講演名 | 2020-05-09 敵対的事例攻撃の威力と原因解明 櫻井 幸一(九大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 深層学習に間違った判断をさせる敵対的事例を使ったサイバー攻撃の危険性が、セキュリティの観点からも重要視されている。すでに様々な攻撃と防御に関する研究が発表されている。敵対的事例攻撃は、深層学習が持つ内在的な特性であると主張する研究も発表された。暗号解析学の大家Adi Shamirは、敵対的事例の原因解明に、組み合わせ幾何を利用した攻撃探索アルゴリズムを提案し、その正当性を実験的に検証した。本稿では、このShamirの手法の紹介に加えて、最近の敵対的機械学習の限界解明の研究状況を報告する。 |
| 抄録(英) | A risk of adversarial example attacks which cause deep learning to make wrong decisions is getting serious even from a cybersecurity perspective. Research papers on various attacks and defenses have already been published. Some studies have claimed that the adversarial attack are a kind of an intrinsic property of deep learning itself. A famous crypto analysist Adi Shamir introduced combinatorial geometry theory to elucidate the adversarial example attacks and experimentally succeeded to confirm the validity of his attack search algorithm. In this article, in addition to an introduction of Shamir's research, we report recent research progress on the power and limitations of adversarial example attacks. |
| キーワード(和) | 深層学習 / 敵対的事例 / 活性化関数 / 組合せ幾何 / サイバーサイエンス |
| キーワード(英) | Deep learning / dversarial examples / activate function / combinatoric geometry / cyber science |
| 資料番号 | COMP2020-5 |
| 発行日 | 2020-05-02 (COMP) |
| 研究会情報 | |
| 研究会 | COMP / IPSJ-AL |
|---|---|
| 開催期間 | 2020/5/9(から1日開催) |
| 開催地（和） | 国立情報学研究所 |
| 開催地（英） | National Institute of Informatics |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | 藤戸 敏弘(豊橋技科大) |
| 委員長氏名（英） | Toshihiro Fujito(Toyohashi Univ. of Tech.) |
| 副委員長氏名（和） | 中野 眞一(群馬大) |
| 副委員長氏名（英） | Shinichi Nakano(Gunma Univ.) |
| 幹事氏名（和） | 大舘 陽太(名大) / 玉置 卓(兵庫県立大) |
| 幹事氏名（英） | Yota Otachi(Nagoya Univ) / Suguru Tamaki(Univ. of Hyogo) |
| 幹事補佐氏名（和） | 脊戸 和寿(成蹊大) |
| 幹事補佐氏名（英） | Kazuhisa Seto(Seikei Univ.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Theoretical Foundations of Computing / Special Interest Group on Algorithms |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 敵対的事例攻撃の威力と原因解明 |
| サブタイトル（和） | |
| タイトル（英） | On Power and limitation of adversarial example attacks |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 深層学習 / Deep learning |
| キーワード(2)（和/英） | 敵対的事例 / dversarial examples |
| キーワード(3)（和/英） | 活性化関数 / activate function |
| キーワード(4)（和/英） | 組合せ幾何 / combinatoric geometry |
| キーワード(5)（和/英） | サイバーサイエンス / cyber science |
| 第 1 著者 氏名（和/英） | 櫻井 幸一 / Kouichi Sakurai |
| 第 1 著者 所属（和/英） | 九州大学(略称：九大) Kyushu University(略称：Kyushu Univ.) |
| 発表年月日 | 2020-05-09 |
| 資料番号 | COMP2020-5 |
| 巻番号（vol） | vol.120 |
| 号番号（no） | COMP-13 |
| ページ範囲 | pp.33-36(COMP), |
| ページ数 | 4 |
| 発行日 | 2020-05-02 (COMP) |