お知らせ 2023年度・2024年度 学生員 会費割引キャンペーン実施中です
お知らせ 技術研究報告と和文論文誌Cの同時投稿施策(掲載料1割引き)について
お知らせ 電子情報通信学会における研究会開催について
お知らせ NEW 参加費の返金について
電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
[ログイン]
技報アーカイブ
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2020-03-02 11:50
コンテンツフィルタを回避する敵対的映像データ
大森敬仁森 達哉早大ICSS2019-95
抄録 (和) YouTube をはじめとしたインターネット動画共有サイトでは,日々ユーザーが生成したコンテンツ(UGC)が大量にアップロードされている.UGC には暴力や差別を助長するような不適切なコンテンツが数多く存在する.そうした大量の動画データから不適切な動画を自動的に検知する有望なアプローチとして,様々なタスクで高精度な識別性能を示す機械学習アルゴリズムであるニューラルネットワークが適用されるケースが増えている.一方,ニューラルネットワークには,敵対的入力(adversarial input)と呼ばれる固有の脆弱性がある.すなわち敵対的入力により,ニューラルネットワークの識別を意図的に誤らせることが可能である.本研究では,不適切なコンテンツフィルタを行うニューラルネットワークに対する,敵対的入力による攻撃の実証評価を行う.暴力的な動画コンテンツであるか否かを識別するホワイトボックス実装に対して,有効な敵対的入力の構成法を調査した.また,生成した敵対的入力は人間によってどのように認知されるかをユーザスタディにより明らかにする. 
(英) A huge number of user-generated contents (UGC) are being uploaded on prominent internet video sharing sites such as YouTube. Such UGC includes many inappropriate content such as violence and discrimination. As a promising approach to automatically detect such inappropriate content from a huge volume of uploaded movies, machine-learning approaches using neural networks are increasingly becoming popular. On the other hand, it is well known that neural networks have an inherent vulnerability called ``adversarial input''. That is, it is possible to intentionally let a neural network misclassify an input by generating adversarial inputs. In this paper, we attempt to study whether an attacker can generate adversarial inputs against a neural network-based inappropriate content filtering system. This paper studies how to construct an effective adversarial input for a white box implementation that identifies whether or not an uploaded video contains violent scenes. We also perform user study that aims to study how generated adversarial input is perceived by human.
キーワード (和) 動画コンテンツフィルタ / 敵対的入力 / ニューラルネットワーク / / / / /  
(英) video content filtering / adversarial input / neural network / / / / /  
文献情報 信学技報, vol. 119, no. 437, ICSS2019-95, pp. 201-206, 2020年3月.
資料番号 ICSS2019-95 
発行日 2020-02-24 (ICSS) 
ISSN Online edition: ISSN 2432-6380
著作権に
ついて
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034)
PDFダウンロード ICSS2019-95

研究会情報
研究会 ICSS IPSJ-SPT  
開催期間 2020-03-02 - 2020-03-03 
開催地(和) 沖縄県青年会館 
開催地(英) Okinawa-Ken-Seinen-Kaikan 
テーマ(和) セキュリティ、トラスト、一般 
テーマ(英) Security, Trust, etc. 
講演論文情報の詳細
申込み研究会 ICSS 
会議コード 2020-03-ICSS-SPT 
本文の言語 日本語 
タイトル(和) コンテンツフィルタを回避する敵対的映像データ 
サブタイトル(和)  
タイトル(英) Generating Adversarial Videos that Bypass Content Filtering 
サブタイトル(英)  
キーワード(1)(和/英) 動画コンテンツフィルタ / video content filtering  
キーワード(2)(和/英) 敵対的入力 / adversarial input  
キーワード(3)(和/英) ニューラルネットワーク / neural network  
キーワード(4)(和/英) /  
キーワード(5)(和/英) /  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 大森 敬仁 / Norihito Omori / オオモリ ノリヒト
第1著者 所属(和/英) 早稲田大学 (略称: 早大)
Waseda University (略称: Waseda Univ.)
第2著者 氏名(和/英/ヨミ) 森 達哉 / Tatsuya Mori / モリ タツヤ
第2著者 所属(和/英) 早稲田大学 (略称: 早大)
Waseda University (略称: Waseda Univ.)
第3著者 氏名(和/英/ヨミ) / /
第3著者 所属(和/英) (略称: )
(略称: )
第4著者 氏名(和/英/ヨミ) / /
第4著者 所属(和/英) (略称: )
(略称: )
第5著者 氏名(和/英/ヨミ) / /
第5著者 所属(和/英) (略称: )
(略称: )
第6著者 氏名(和/英/ヨミ) / /
第6著者 所属(和/英) (略称: )
(略称: )
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者 第1著者 
発表日時 2020-03-02 11:50:00 
発表時間 20分 
申込先研究会 ICSS 
資料番号 ICSS2019-95 
巻番号(vol) vol.119 
号番号(no) no.437 
ページ範囲 pp.201-206 
ページ数
発行日 2020-02-24 (ICSS) 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会