| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2020-03-17 11:15 画像認識器に対するクローン訓練攻撃とその防御法に関する考察 ○金原祥太・中村和晃・新田直子・馬場口 登（阪大）  PRMU2019-94 |
|
| 抄録 | （和） | クライアントユーザから送信された画像に対しサーバが認識処理を実行し結果をユーザに返送する，という形のクライアント・サーバ型画像認識サービスが登場しつつある一方で，そのようなサービスに対する攻撃の危険性も指摘され始めている．本稿では，攻撃者が多数の画像をサーバに送信して認識結果を取得し，それらの対応関係からサーバの認識器と同等の機能を有する新たな認識器（これを「認識器クローン」と呼ぶ）を訓練する，という攻撃手段に注目する．本攻撃に対する防御手段としては，サーバが認識結果を故意に誤って返送する「故意誤り」が一定の効果を持つ．しかし，故意誤りの実行を前提とした更なる攻撃が成立する可能性がある．本稿では，その可能性を具体的に検証するため，準同一画像を利用して故意誤りの実行の有無を推測する攻撃法を検討する．同時に，その攻撃法に対する更なる防御法として，準同一画像の検知手法を提案する．実験の結果，今回考案した攻撃法が実効性を持つことが確認された一方，提案する防御法もある程度の効果を持つことが示されたが，改善の余地は残る． |
| （英） | Recently, cloud-based image recognition services are getting popular. A server of these services has a sophisticated image recognizer which is used to recognize images sent from client users and return the recognition results to the users. However, the server might suffer from a new type of attacks called cloning attack, in which an attacker sends a lot of images to the server and receives their recognition results to train a new recognizer that mimics the server’s original recognizer. The goal of this paper is to investigate a concrete method of cloning attack and its countermeasure. Naively, the server can prevent cloning attack by intentionally altering some percentage of its recognition results. This strategy is called intentional misrecognition, which could be failed if the attacker can estimate whether each image was intentionally misrecognized or not. We firstly propose a method to realize the estimation, using near-duplicate images. Then, we secondly propose a method of detecting the near-duplicate images as a countermeasure. Experimental results showed that both the methods are workable. | |
| キーワード | （和） | 画像認識 / クローン訓練攻撃 / 認識器クローン / 故意誤り / 準同一画像 / / / |
| （英） | image recognition / cloning attack / cloned recognizer / intentional misrecognition / near-duplicate image / / / | |
| 文献情報 | 信学技報, vol. 119, no. 481, PRMU2019-94, pp. 151-156, 2020年3月. | |
| 資料番号 | PRMU2019-94 | |
| 発行日 | 2020-03-09 (PRMU) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | PRMU2019-94 |
|
| 研究会情報 | |
| 研究会 | PRMU IPSJ-CVIM |
| 開催期間 | 2020-03-16 - 2020-03-17 |
| 開催地（和） | 京都大学 |
| 開催地（英） | |
| テーマ（和） | 安全安心、セキュリティ・防災 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | PRMU |
| 会議コード | 2020-03-PRMU-CVIM |
| 本文の言語 | 日本語 |
| タイトル（和） | 画像認識器に対するクローン訓練攻撃とその防御法に関する考察 |
| サブタイトル（和） | |
| タイトル（英） | Method of Cloning Attack against Image Recognizer and Its Countermeasure |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 画像認識 / image recognition |
| キーワード(2)（和/英） | クローン訓練攻撃 / cloning attack |
| キーワード(3)（和/英） | 認識器クローン / cloned recognizer |
| キーワード(4)（和/英） | 故意誤り / intentional misrecognition |
| キーワード(5)（和/英） | 準同一画像 / near-duplicate image |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 金原 祥太 / Shouta Kinbara / キンバラ ショウタ |
| 第1著者 所属（和/英） | 大阪大学 (略称： 阪大) Osaka University (略称： Osaka Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 中村 和晃 / Kazuaki Nakamura / ナカムラ カズアキ |
| 第2著者 所属（和/英） | 大阪大学 (略称： 阪大) Osaka University (略称： Osaka Univ.) |
| 第3著者 氏名（和/英/ヨミ） | 新田 直子 / Naoko Nitta / ニッタ ナオコ |
| 第3著者 所属（和/英） | 大阪大学 (略称： 阪大) Osaka University (略称： Osaka Univ.) |
| 第4著者 氏名（和/英/ヨミ） | 馬場口 登 / Noboru Babaguchi / ババグチ ノボル |
| 第4著者 所属（和/英） | 大阪大学 (略称： 阪大) Osaka University (略称： Osaka Univ.) |
| 第5著者 氏名（和/英/ヨミ） | / / |
| 第5著者 所属（和/英） | (略称： ) (略称： ) |
| 第6著者 氏名（和/英/ヨミ） | / / |
| 第6著者 所属（和/英） | (略称： ) (略称： ) |
| 第7著者 氏名（和/英/ヨミ） | / / |
| 第7著者 所属（和/英） | (略称： ) (略称： ) |
| 第8著者 氏名（和/英/ヨミ） | / / |
| 第8著者 所属（和/英） | (略称： ) (略称： ) |
| 第9著者 氏名（和/英/ヨミ） | / / |
| 第9著者 所属（和/英） | (略称： ) (略称： ) |
| 第10著者 氏名（和/英/ヨミ） | / / |
| 第10著者 所属（和/英） | (略称： ) (略称： ) |
| 第11著者 氏名（和/英/ヨミ） | / / |
| 第11著者 所属（和/英） | (略称： ) (略称： ) |
| 第12著者 氏名（和/英/ヨミ） | / / |
| 第12著者 所属（和/英） | (略称： ) (略称： ) |
| 第13著者 氏名（和/英/ヨミ） | / / |
| 第13著者 所属（和/英） | (略称： ) (略称： ) |
| 第14著者 氏名（和/英/ヨミ） | / / |
| 第14著者 所属（和/英） | (略称： ) (略称： ) |
| 第15著者 氏名（和/英/ヨミ） | / / |
| 第15著者 所属（和/英） | (略称： ) (略称： ) |
| 第16著者 氏名（和/英/ヨミ） | / / |
| 第16著者 所属（和/英） | (略称： ) (略称： ) |
| 第17著者 氏名（和/英/ヨミ） | / / |
| 第17著者 所属（和/英） | (略称： ) (略称： ) |
| 第18著者 氏名（和/英/ヨミ） | / / |
| 第18著者 所属（和/英） | (略称： ) (略称： ) |
| 講演者 | 第1著者 |
| 発表日時 | 2020-03-17 11:15:00 |
| 発表時間 | 15分 |
| 申込先研究会 | PRMU |
| 資料番号 | PRMU2019-94 |
| 巻番号（vol） | vol.119 |
| 号番号（no） | no.481 |
| ページ範囲 | pp.151-156 |
| ページ数 | 6 |
| 発行日 | 2020-03-09 (PRMU) |
[研究会発表申込システムのトップページに戻る]