| 大会名称 |
|---|
| 2022年 情報科学技術フォーラム(FIT) |
| 大会コ－ド |
| F |
| 開催年 |
| 2022 |
| 発行日 |
| 2022-08-30 |
| セッション番号 |
| 7n |
| セッション名 |
| ネットワークとAIセキュリティ |
| 講演日 |
| 2022/09/15 |
| 講演場所(会議室等) |
| 12棟-207教室 |
| 講演番号 |
| L-012 |
| タイトル |
| データ多様体の埋め込み幾何学に基づいた敵対的サンプルの検知手法 |
| 著者名 |
| 久重広樹, 田崎 元, 趙 晋輝, |
| キーワード |
| 敵対的サンプル, 深層学習, データ多様体, AIセキュリティ |
| 抄録 |
| 深層ニューラルネットワーク（DNN）は様々な分野で活用され，特に画像認識はセキュリティ分野への応用が進んでいる．その一方で，人間には知覚困難なほどに小さなノイズを加えることで意図的に誤分類を引き起こす敵対的サンプルという攻撃が発見されている．これはDNNが脆弱性を持つことを意味しており，その対策が求められている．しかし，その発生原理が解明されていないために，既存対策手法の効果は限定的である．本研究では，多様体仮説のもとでデータ多様体の埋め込み幾何学に基づき，攻撃入力の特徴であるデータ多様体の接空間の直交補空間成分を利用して攻撃入力を検知する新たな手法を提案する．また，手書き文字画像に対する攻撃画像を用いて提案手法の性能評価を行う． |
| 本文pdf |
| PDF download (521.2KB) |