| 講演名 | 2022-05-13 社会的・物理的な注意機構を用いた人群軌跡予測モデルの判断根拠の可視化 加藤 雅大(豊田工大), 浮田 宗伯(豊田工大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 医療や監視カメラシステム，自動運転などへのコンピュータビジョン技術の応用に向けて，モデルがなぜそのような予測をするのかといった判断根拠を明確にする説明可能なAIに大きな関心が寄せられている．しかし，予測モデルや生成モデルの可視化研究はCNNモデルの可視化研究に比べて未開拓である．本研究ではその未開拓な分野に先駆け，行動予測モデルの一種である軌跡予測モデルの判断根拠の可視化を研究する．本研究は人と空間の相互関係を捉える物理的注意機構と，人と人同士の相互関係を捉える社会的注意機構の二種類の注意機構を持つ軌跡予測モデルを扱う．物理的注意機構では，俯瞰画像から静的な空間情報において予測に影響を与えた空間領域を可視化する．社会的注意機構では，人と人との相互関係から予測に影響を与えた人物を可視化する．それぞれの可視化情報から，軌跡予測モデルが周辺の空間情報のどこを重要視し，またどの人物を重要視して，人の軌跡を予測したのかを解釈可能にした．実験では人から見て直感的な重要領域や重要人物を考慮していなくても，妥当な予測結果が得られた．従って，従来の軌跡予測モデルもモデルが想定通りに情報を扱えていない可能性がある． |
| 抄録(英) | There is a great deal of interest in explainable AI that clarifies the basis of decisions, such as why a model makes a prediction, for applications of computer vision technology in medicine, surveillance systems, automatic driving, and so on. However, visualization research of predictive and generative models is less explored than that of CNN models. In this study, we will take the lead in this unexplored field by researching the visualization of the basis for decision making in trajectory prediction models, a type of action prediction model. This study deals with a trajectory prediction model with two types of attention mechanisms: a physical attention mechanism that captures the interrelationships between people and space, and a social attention mechanism that captures the interrelationships between people. The physical attention mechanism visualizes the spatial region that influenced the prediction in static spatial information from an overhead image. The social attention mechanism visualizes the person who influenced the prediction based on the interrelationship between people. From each visualization, it is possible to interpret which parts of the surrounding spatial information the trajectory prediction model considered important, and which people it considered important in predicting the trajectory of a person. Experiments have shown reasonable prediction results without taking into account key areas and key people, which would be intuitively correct from a human perspective. Therefore, conventional trajectory prediction models may not handle the expected information well. |
| キーワード(和) | 自動運転 / 説明可能なAI / 行動予測 / 可視化 / 注意機構 / 軌跡予測 |
| キーワード(英) | Automatic Vehicle / Explainable AI / Action Prediction / Visualization / Attention Mechanism / Trajectory Prediction |
| 資料番号 | PRMU2022-3 |
| 発行日 | 2022-05-05 (PRMU) |
| 研究会情報 | |
| 研究会 | PRMU / IPSJ-CVIM |
|---|---|
| 開催期間 | 2022/5/12(から2日開催) |
| 開催地（和） | 豊田工業大学 |
| 開催地（英） | Toyota Technological Institute |
| テーマ（和） | 研究の進め方（卒論後の学生向け企画） |
| テーマ（英） | How to conduct research (post-graduation project for students) |
| 委員長氏名（和） | 内田 誠一(九大) |
| 委員長氏名（英） | Seiichi Uchida(Kyushu Univ.) |
| 副委員長氏名（和） | 岩村 雅一(阪府大) / 安倍 満(デンソーアイティーラボラトリ) |
| 副委員長氏名（英） | Masakazu Iwamura(Osaka Pref. Univ.) / Mitsuru Anpai(Denso IT Lab.) |
| 幹事氏名（和） | 柴田 剛志(NTT) / 西山 正志(鳥取大) |
| 幹事氏名（英） | Takashi Shibata(NTT) / Masashi Nishiyama(Tottori Univ.) |
| 幹事補佐氏名（和） | 山口 光太(サイバーエージェント) / 松井 勇佑(東大) |
| 幹事補佐氏名（英） | Kouta Yamaguchi(CyberAgent) / Yusuke Matsui(Univ. of Tokyo) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Pattern Recognition and Media Understanding / Special Interest Group on Computer Vision and Image Media |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 社会的・物理的な注意機構を用いた人群軌跡予測モデルの判断根拠の可視化 |
| サブタイトル（和） | |
| タイトル（英） | Visualization of Decision Rationale Using Social and Physical Attention Mechanisms in Human Trajectory Prediction Model |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 自動運転 / Automatic Vehicle |
| キーワード(2)（和/英） | 説明可能なAI / Explainable AI |
| キーワード(3)（和/英） | 行動予測 / Action Prediction |
| キーワード(4)（和/英） | 可視化 / Visualization |
| キーワード(5)（和/英） | 注意機構 / Attention Mechanism |
| キーワード(6)（和/英） | 軌跡予測 / Trajectory Prediction |
| 第 1 著者 氏名（和/英） | 加藤 雅大 / Masahiro Kato |
| 第 1 著者 所属（和/英） | 豊田工業大学(略称：豊田工大) Toyota Technological Institute(略称：TTI) |
| 第 2 著者 氏名（和/英） | 浮田 宗伯 / Norimichi Ukita |
| 第 2 著者 所属（和/英） | 豊田工業大学(略称：豊田工大) Toyota Technological Institute(略称：TTI) |
| 発表年月日 | 2022-05-13 |
| 資料番号 | PRMU2022-3 |
| 巻番号（vol） | vol.122 |
| 号番号（no） | PRMU-13 |
| ページ範囲 | pp.12-17(PRMU), |
| ページ数 | 6 |
| 発行日 | 2022-05-05 (PRMU) |