お知らせ 研究会の開催と会場に参加される皆様へのお願い(2020年7月開催~)
電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
[ログイン]
技報アーカイブ
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2020-03-11 15:10
公平性が引き起こす敵対的攻撃に対する脆弱性
綿岡晃輝松原 崇上原邦昭神戸大IBISML2019-48
抄録 (和) 機械学習モデルを社会で活用する際に, 人種や性別に対して公平にすることは重要である. 近年, 分類器を 公平にする多くの手法が提案されてきた. しかし, 公平な分類器のセキュリティに関する研究はほとんど見られない. 機械学習の分野には, 分類器の精度を減少させる敵対的攻撃という攻撃方法が存在する. 本研究では, 公平な分類器は 敵対的攻撃に対して脆弱であることを指摘する. 実験において, 公平な分類器は通常よりも敵対的攻撃に対して精度が 下がり, さらに一部の公平性の性能も下がることを示した. 
(英) When using machine learning models in society, it is essential to be ensure classifiers are fair to race and gender. In recent yeas, many methods have been proposed to make classifiers fair. However, the security of fair classifiers has been rarely discussed. In the field of machine learning, there is an attack method called adversarial attacks that reduce the accuracy of classifiers. In this paper, fair classifiers are vulnerable to adversarial attacks. Our experiment has shown that fair classifiers are less robust against adversarial attacks than usual classifiers and hence worse classification accuracy and part of fairness performance.
Key words Fairness, Adversarial Attacks, Adversarial Training
キーワード (和) 公平性 / 敵対的攻撃 / 敵対的訓練 / / / / /  
(英) Fairness / Adversarial Attacks / Adversarial Training / / / / /  
文献情報 信学技報, vol. 119, no. 476, IBISML2019-48, pp. 101-105, 2020年3月.
資料番号 IBISML2019-48 
発行日 2020-03-03 (IBISML) 
ISSN Print edition: ISSN 0913-5685  Online edition: ISSN 2432-6380
著作権に
ついて
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034)
PDFダウンロード IBISML2019-48

研究会情報
研究会 IBISML  
開催期間 2020-03-10 - 2020-03-11 
開催地(和) 京都大学 
開催地(英) Kyoto University 
テーマ(和) 機械学習一般 新型コロナウイルスの感染拡大防止のため本研究会は開催を中止します 
テーマ(英) Machine learning, etc. 
講演論文情報の詳細
申込み研究会 IBISML 
会議コード 2020-03-IBISML 
本文の言語 日本語 
タイトル(和) 公平性が引き起こす敵対的攻撃に対する脆弱性 
サブタイトル(和)  
タイトル(英) Fairness Causes Vulnerability to Adversarial Attacks 
サブタイトル(英)  
キーワード(1)(和/英) 公平性 / Fairness  
キーワード(2)(和/英) 敵対的攻撃 / Adversarial Attacks  
キーワード(3)(和/英) 敵対的訓練 / Adversarial Training  
キーワード(4)(和/英) /  
キーワード(5)(和/英) /  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 綿岡 晃輝 / Koki Wataoka / ワタオカ コウキ
第1著者 所属(和/英) 神戸大学 (略称: 神戸大)
Kobe University (略称: Kobe Univ.)
第2著者 氏名(和/英/ヨミ) 松原 崇 / Takashi Matsubara / マツバラ タカシ
第2著者 所属(和/英) 神戸大学 (略称: 神戸大)
Kobe University (略称: Kobe Univ.)
第3著者 氏名(和/英/ヨミ) 上原 邦昭 / Kuniaki Uehara / ウエハラ クニアキ
第3著者 所属(和/英) 神戸大学 (略称: 神戸大)
Kobe University (略称: Kobe Univ.)
第4著者 氏名(和/英/ヨミ) / /
第4著者 所属(和/英) (略称: )
(略称: )
第5著者 氏名(和/英/ヨミ) / /
第5著者 所属(和/英) (略称: )
(略称: )
第6著者 氏名(和/英/ヨミ) / /
第6著者 所属(和/英) (略称: )
(略称: )
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者
発表日時 2020-03-11 15:10:00 
発表時間 25 
申込先研究会 IBISML 
資料番号 IEICE-IBISML2019-48 
巻番号(vol) IEICE-119 
号番号(no) no.476 
ページ範囲 pp.101-105 
ページ数 IEICE-5 
発行日 IEICE-IBISML-2020-03-03 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会