| 講演名 | 2020-03-02 コンテンツフィルタを回避する敵対的映像データ 大森 敬仁(早大), 森 達哉(早大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | YouTube をはじめとしたインターネット動画共有サイトでは，日々ユーザーが生成したコンテンツ（UGC）が大量にアップロードされている．UGC には暴力や差別を助長するような不適切なコンテンツが数多く存在する．そうした大量の動画データから不適切な動画を自動的に検知する有望なアプローチとして，様々なタスクで高精度な識別性能を示す機械学習アルゴリズムであるニューラルネットワークが適用されるケースが増えている．一方，ニューラルネットワークには，敵対的入力（adversarial input）と呼ばれる固有の脆弱性がある．すなわち敵対的入力により，ニューラルネットワークの識別を意図的に誤らせることが可能である．本研究では，不適切なコンテンツフィルタを行うニューラルネットワークに対する，敵対的入力による攻撃の実証評価を行う．暴力的な動画コンテンツであるか否かを識別するホワイトボックス実装に対して，有効な敵対的入力の構成法を調査した．また，生成した敵対的入力は人間によってどのように認知されるかをユーザスタディにより明らかにする． |
| 抄録(英) | A huge number of user-generated contents (UGC) are being uploaded on prominent internet video sharing sites such as YouTube. Such UGC includes many inappropriate content such as violence and discrimination. As a promising approach to automatically detect such inappropriate content from a huge volume of uploaded movies, machine-learning approaches using neural networks are increasingly becoming popular. On the other hand, it is well known that neural networks have an inherent vulnerability called ``adversarial input''. That is, it is possible to intentionally let a neural network misclassify an input by generating adversarial inputs. In this paper, we attempt to study whether an attacker can generate adversarial inputs against a neural network-based inappropriate content filtering system. This paper studies how to construct an effective adversarial input for a white box implementation that identifies whether or not an uploaded video contains violent scenes. We also perform user study that aims to study how generated adversarial input is perceived by human. |
| キーワード(和) | 動画コンテンツフィルタ / 敵対的入力 / ニューラルネットワーク |
| キーワード(英) | video content filtering / adversarial input / neural network |
| 資料番号 | ICSS2019-95 |
| 発行日 | 2020-02-24 (ICSS) |
| 研究会情報 | |
| 研究会 | ICSS / IPSJ-SPT |
|---|---|
| 開催期間 | 2020/3/2(から2日開催) |
| 開催地（和） | 沖縄県青年会館 |
| 開催地（英） | Okinawa-Ken-Seinen-Kaikan |
| テーマ（和） | セキュリティ、トラスト、一般 |
| テーマ（英） | Security, Trust, etc. |
| 委員長氏名（和） | 高倉 弘喜(NII) |
| 委員長氏名（英） | Hiroki Takakura(NII) |
| 副委員長氏名（和） | 吉岡 克成(横浜国大) / 神谷 和憲(NTT) |
| 副委員長氏名（英） | Katsunari Yoshioka(Yokohama National Univ.) / Kazunori Kamiya(NTT) |
| 幹事氏名（和） | 笠間 貴弘(NICT) / 山田 明(KDDI labs.) |
| 幹事氏名（英） | Takahiro Kasama(NICT) / Akira Yamada(KDDI labs.) |
| 幹事補佐氏名（和） | 木藤 圭亮(三菱電機) / 山内 利宏(岡山大) |
| 幹事補佐氏名（英） | Keisuke Kito(Mitsubishi Electric) / Toshihiro Yamauchi(Okayama Univ.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Information and Communication System Security / Special Interest Group on Security Psychology and Trust |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | コンテンツフィルタを回避する敵対的映像データ |
| サブタイトル（和） | |
| タイトル（英） | Generating Adversarial Videos that Bypass Content Filtering |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 動画コンテンツフィルタ / video content filtering |
| キーワード(2)（和/英） | 敵対的入力 / adversarial input |
| キーワード(3)（和/英） | ニューラルネットワーク / neural network |
| 第 1 著者 氏名（和/英） | 大森 敬仁 / Norihito Omori |
| 第 1 著者 所属（和/英） | 早稲田大学(略称：早大) Waseda University(略称：Waseda Univ.) |
| 第 2 著者 氏名（和/英） | 森 達哉 / Tatsuya Mori |
| 第 2 著者 所属（和/英） | 早稲田大学(略称：早大) Waseda University(略称：Waseda Univ.) |
| 発表年月日 | 2020-03-02 |
| 資料番号 | ICSS2019-95 |
| 巻番号（vol） | vol.119 |
| 号番号（no） | ICSS-437 |
| ページ範囲 | pp.201-206(ICSS), |
| ページ数 | 6 |
| 発行日 | 2020-02-24 (ICSS) |