| 講演名 | 2019-03-17 AIの予測結果に対する納得感を高める予測根拠解釈支援技術の提案 横井 直明(日立), 恵木 正史(日立), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | AIの社会浸透が進む中，ブラックボックス化したAIを信頼して業務活用することへの不安が高まっている。これに対し，AIの予測根拠として，予測値に対する各特徴量の貢献度を算出する手法が注目されている。しかし，本手法で算出される貢献度だけでは，それらが示す業務的な意味をユーザが解釈し，予測値に納得した上で実際の業務に活用することが難しい。本報告では，各特徴量の貢献度とAIの適用業務の知識に基づいて，予測結果に対するユーザの納得度を高めるAI予測根拠解釈支援技術を提案する。また，提案技術の適用前後での予測値に対する納得度を被験者実験にて評価して分析した結果，統計的有意差が認められ，納得度の向上効果が得られる見込みを得た。 |
| 抄録(英) | |
| キーワード(和) | 説明性 / 業務的解釈 / XAI |
| キーワード(英) | Interpretability / Buisiness Interpretation / eXplainable AI |
| 資料番号 | BioX2018-39,PRMU2018-143 |
| 発行日 | 2019-03-10 (BioX, PRMU) |
| 研究会情報 | |
| 研究会 | PRMU / BioX |
|---|---|
| 開催期間 | 2019/3/17(から2日開催) |
| 開催地（和） | 電気通信大学 |
| 開催地（英） | |
| テーマ（和） | 社会と産業における安全・安心を支える認識・認証技術 |
| テーマ（英） | |
| 委員長氏名（和） | 佐藤 真一(NII) / 鷲見 和彦(青学大) |
| 委員長氏名（英） | Shinichi Sato(NII) / Kazuhiko Sumi(AGU) |
| 副委員長氏名（和） | 井尻 善久(オムロン) / 玉木 徹(広島大) / 今岡 仁(NEC) / 大木 哲史(静岡大) |
| 副委員長氏名（英） | Yoshihisa Ijiri(Omron) / Toru Tamaki(Hiroshima Univ.) / Hitoshi Imaoka(NEC) / Tetsushi Ohki(Shizuoka Univ.) |
| 幹事氏名（和） | 石井 雅人(NEC) / 菅野 裕介(阪大) / 青木 隆浩(富士通研) / 市野 将嗣(電通大) |
| 幹事氏名（英） | Masato Ishii(NEC) / Yusuke Sugano(Osaka Univ.) / Takahiro Aoki(Fujitsu Labs.) / Masatsugu Ichino(Univ. of Electro-Comm.) |
| 幹事補佐氏名（和） | 入江 豪(NTT) / 牛久 祥孝(東大) / 奥井 宣広(KDDI総合研究所) / 渡部 大志(埼玉工大) |
| 幹事補佐氏名（英） | Go Irie(NTT) / Yoshitaka Ushiku(Univ. of Tokyo) / Norihiro Okui(KDDI Research) / Daishi Watabe(Saitama Inst. of Tech.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Pattern Recognition and Media Understanding / Technical Committee on Biometrics |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | AIの予測結果に対する納得感を高める予測根拠解釈支援技術の提案 |
| サブタイトル（和） | |
| タイトル（英） | A Study of Business Interpretation Technique for AI Predictions |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 説明性 / Interpretability |
| キーワード(2)（和/英） | 業務的解釈 / Buisiness Interpretation |
| キーワード(3)（和/英） | XAI / eXplainable AI |
| 第 1 著者 氏名（和/英） | 横井 直明 / Naoaki Yokoi |
| 第 1 著者 所属（和/英） | 日立製作所(略称：日立) Hitachi Limited(略称：Hitachi, Ltd.) |
| 第 2 著者 氏名（和/英） | 恵木 正史 / Masashi Egi |
| 第 2 著者 所属（和/英） | 日立製作所(略称：日立) Hitachi Limited(略称：Hitachi, Ltd.) |
| 発表年月日 | 2019-03-17 |
| 資料番号 | BioX2018-39,PRMU2018-143 |
| 巻番号（vol） | vol.118 |
| 号番号（no） | BioX-512,PRMU-513 |
| ページ範囲 | pp.61-66(BioX), pp.61-66(PRMU), |
| ページ数 | 6 |
| 発行日 | 2019-03-10 (BioX, PRMU) |