| 講演名 | 2021-09-18 ［基調講演］説明可能な人間としてのニューラルネットワーク 村脇 有吾(京大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 本講演では、説明可能なAI (XAI) の分野で開発されている諸技術が計算人間科学に応用可能であることを主張する。XAIの文脈では、人工知能は人間とは異質な他者であり、ブラックボックスの中身を説明することで人間の信頼を勝ち取るべきものとみなされる。一方、計算人間科学においては、人間こそがブラックボックスであり、人工知能は人間の機能を近似する役割を果たす。したがって、説明手法は人間の説明に転用できるのではないだろうか。これが本講演の着想である。具体例として、ニューラルネットワークに基づく分類器が対照研究に応用できることを示す。まず2つの人間集団が書いたテキストを識別する分類器を訓練し、次に説明手法を適用することで分類器がどのように分類を行っているかを分析する。現在のニューラルネットワークの高い表現力を活かすと、文脈依存の語や長い表現を探索的に調査できることが大きな利点である。 |
| 抄録(英) | In this talk, I argue that techniques developed in the field of explainable AI (XAI) have potential applications in computational human sciences. In typical XAI scenarios, artificial intelligence is seen as a technological Other that is obliged to win human trust by explaining the black box. In computational human sciences, however, it is humans that are the black box, and artificial intelligence serves as an approximation of human functions. This observation motivates us to use explanation methods to explain humans. As a concrete example, I show that neural network-based classifiers can be applied to contrastive studies. We begin by training a classifier to discriminate texts written by two groups of humans and then apply an explanation method to analyze how it performs classification. A major advantage of this approach is that the high expressive power of modern neural networks allows us to investigate context-sensitive words and long expressions in an explorative manner. |
| キーワード(和) | 説明可能なAI / ニューラルネットワーク / 分類器 / 対照研究 |
| キーワード(英) | explainable AI / neural networks / classifiers / contrastive studies |
| 資料番号 | TL2021-16 |
| 発行日 | 2021-09-11 (TL) |
| 研究会情報 | |
| 研究会 | TL |
|---|---|
| 開催期間 | 2021/9/18(から1日開催) |
| 開催地（和） | オンライン開催 |
| 開催地（英） | Online |
| テーマ（和） | 人間の言語処理と学習 |
| テーマ（英） | Language Processing and Language Learning |
| 委員長氏名（和） | 坪田 康(京都工繊大) |
| 委員長氏名（英） | Yasushi Tsubota(Kyoto Inst. of Tech.) |
| 副委員長氏名（和） | 近藤 公久(工学院大) / 竹内 和広(阪電通大) |
| 副委員長氏名（英） | Tadahisa Kondo(Kogakuin Univ.) / Kazuhiro Takeuchi(Osaka Electro-Comm. Univ.) |
| 幹事氏名（和） | 森下 美和(神戸学院大) / 高田 明典(フェリス女学院大) |
| 幹事氏名（英） | Miwa Morishita(Kobe Gakuin Univ.) / Akinori Takada(Ferris Univ.) |
| 幹事補佐氏名（和） | 神長 伸幸(ミイダス) / 下郡 啓夫(函館高専) |
| 幹事補佐氏名（英） | Nobuyuki Jincho(Miidas) / Akio Shimogori(Hakodate-ct) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Thought and Language |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | ［基調講演］説明可能な人間としてのニューラルネットワーク |
| サブタイトル（和） | 対照研究の新手法 |
| タイトル（英） | [Keynote Address] Neural Network as an Explainable Human |
| サブタイトル（和） | A New Approach to Contrastive Studies |
| キーワード(1)（和/英） | 説明可能なAI / explainable AI |
| キーワード(2)（和/英） | ニューラルネットワーク / neural networks |
| キーワード(3)（和/英） | 分類器 / classifiers |
| キーワード(4)（和/英） | 対照研究 / contrastive studies |
| 第 1 著者 氏名（和/英） | 村脇 有吾 / Yugo Murawaki |
| 第 1 著者 所属（和/英） | 京都大学(略称：京大) Kyoto University(略称：Kyoto Univ.) |
| 発表年月日 | 2021-09-18 |
| 資料番号 | TL2021-16 |
| 巻番号（vol） | vol.121 |
| 号番号（no） | TL-180 |
| ページ範囲 | pp.23-27(TL), |
| ページ数 | 5 |
| 発行日 | 2021-09-11 (TL) |