| 講演名 | 2022-05-17 顔識別回避のためのパッチ型敵対的事例の生成及び堅牢性の検証 瀧脇 大登(岡山大), 栗林 稔(岡山大), 舩曵 信生(岡山大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | Convolutional Neural Network(CNN)を始めとする機械学習技術の進歩により，顔識別で個人を特定するシステムが構築可能になっている．しかし，これらの技術が悪用されると個人が自動で追跡され，人々のプライバシーが侵害される恐れがある．このため，顔認識による追跡を回避する方法が必要とされている．そこで敵対的事例を生成し，顔識別を回避することが検討されている．敵対的事例を用いた先行研究では，ノイズの生成位置やサイズを変更した場合について詳しく検証されていなかった．本論文では，四角形のパッチを用いて様々な位置やサイズにノイズを加えて敵対的事例を生成する手法を提案し，その性能を評価した．また，ノイズの貼り付け位置をずらして外乱に対する堅牢性を検証した．実験により，顔の様々な部位に対して敵対的事例を生成することができ，その中でも鼻額顎など顔の特徴に近い場合が攻撃成功率が高いこと，ノイズのサイズも攻撃成功率に大きな影響を与えることを示すことができた． |
| 抄録(英) | Advances in machine learning technologies such as Convolutional Neural Networks (CNN) have made it possible to identify individuals by face recognition. The system can be constructed to detect the presence of a specific type of object. However, if these technologies are abused, individuals can be automatically tracked and their privacy will be violated. Therefore, it is necessary to develop a technique for avoiding automated human tracking systems based on a face identification technique. Altough it has been considered to generate an adversarial noise to avoid automated tracking, changing position and size of the generated noise has not been examined in detail. In this paper, we use a small and transparent patch to generate adversarial examples by adding noise at various positions and sizes, and evaluated its performance. In addition, the robustness of the system against disturbance is considered by shifting the position of the attachment. The experimental results show that adversarial exanples can be generated for various parts of the face. The attack success rate is high when the noise is close to the facial features such as eyes, nose, and chin. |
| キーワード(和) | 顔識別 / 敵対的事例 / FGSM / 堅牢性 |
| キーワード(英) | Face recognition / Adversarial example / FGSM / robustness |
| 資料番号 | IT2022-5,EMM2022-5 |
| 発行日 | 2022-05-10 (IT, EMM) |
| 研究会情報 | |
| 研究会 | IT / EMM |
|---|---|
| 開催期間 | 2022/5/17(から2日開催) |
| 開催地（和） | 岐阜大学 |
| 開催地（英） | Gifu University |
| テーマ（和） | 情報セキュリティ，情報理論，情報ハイディング，一般 |
| テーマ（英） | Information Security, Information Theory, Information Hiding, etc. |
| 委員長氏名（和） | 和田山 正(名工大) / 西村 竜一(NICT) |
| 委員長氏名（英） | Tadashi Wadayama(Nagoya Inst. of Tech.) / Ryoichi Nishimura(NICT) |
| 副委員長氏名（和） | 小嶋 徹也(東京高専) / 藤吉 正明(都立大) / 市野 将嗣(電通大) |
| 副委員長氏名（英） | Tetsuya Kojima(Tokyo Kosen) / Masaaki Fujiyoshi(Tokyo Metropolitan Univ.) / Masatsugu Ichino(Univ. of Electro-Comm.) |
| 幹事氏名（和） | 松田 哲直(埼玉大) / 野崎 隆之(山口大) / 長谷川 まどか(宇都宮大) / 吉田 真紀(NICT) |
| 幹事氏名（英） | Tetsunao Matsuta(Saitamai Univ.) / Takayuki Nozaki(Yamaguchi Univ.) / Madoka Hasegawa(Utsunomiya Univ.) / Maki Yoshida(NICT) |
| 幹事補佐氏名（和） | 廣友 雅徳(佐賀大) / 今泉 祥子(千葉大) / 高嶋 洋一(開志専門職大) |
| 幹事補佐氏名（英） | Masanori Hirotomo(Saga Univ.) / Shoko Imaizumi(Chiba Univ.) / Youichi Takashima(Kaishi Professional Univ.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Information Theory / Technical Committee on Enriched MultiMedia |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 顔識別回避のためのパッチ型敵対的事例の生成及び堅牢性の検証 |
| サブタイトル（和） | |
| タイトル（英） | Generating patch-wise adversarial examples for avoidance of face recognition system and verification of its robustness |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 顔識別 / Face recognition |
| キーワード(2)（和/英） | 敵対的事例 / Adversarial example |
| キーワード(3)（和/英） | FGSM / FGSM |
| キーワード(4)（和/英） | 堅牢性 / robustness |
| 第 1 著者 氏名（和/英） | 瀧脇 大登 / Hiroto Takiwaki |
| 第 1 著者 所属（和/英） | 岡山大学(略称：岡山大) Okayama University(略称：Okayama univ.) |
| 第 2 著者 氏名（和/英） | 栗林 稔 / Minoru Kuribayashi |
| 第 2 著者 所属（和/英） | 岡山大学(略称：岡山大) Okayama University(略称：Okayama univ.) |
| 第 3 著者 氏名（和/英） | 舩曵 信生 / Nobuo Funabiki |
| 第 3 著者 所属（和/英） | 岡山大学(略称：岡山大) Okayama University(略称：Okayama univ.) |
| 発表年月日 | 2022-05-17 |
| 資料番号 | IT2022-5,EMM2022-5 |
| 巻番号（vol） | vol.122 |
| 号番号（no） | IT-25,EMM-26 |
| ページ範囲 | pp.23-28(IT), pp.23-28(EMM), |
| ページ数 | 6 |
| 発行日 | 2022-05-10 (IT, EMM) |