| 講演名 | 2022-03-10 自動運転におけるDNNシステムを対象とした安全・リスク分析・評価方法 金子 朋子(NII), 髙橋 雄志(NII), 山口 晋一(SDM), 橋本 順之(GREE), 吉岡 信和(早大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 現状のAI,なかでもDNN（深層学習）は，その品質，特に安全性や信頼性に対して大きな懸念がある．筆者らはDNNを含んだシステムを対象にリスクマネジメントの手順を用いて,安全性を確保するための方法を自動運転の事例で検討してきた.本稿ではその全体像を論証形式で示し,各手順における課題と解決のための方法とその意義を具体的に示す.システムレベルの安全分析を単体のDNNモデル開発につなげ,各DNNモデル開発プロセスを改善しDNN自体の改善技術につなげる.この方式によってDNNの改善を繰り返せる仕組みの構築を目指している. |
| 抄録(英) | There is a great concern about the quality of current AI, especially DNN (deep learning), especially about its safety and reliability. We have been investigating how to ensure the safety of DNNs by using risk management procedures for systems containing DNNs in the case of automated driving. In this paper, we present the whole picture in the form of an argument, and show in detail the problems, methods for solving them, and their significance in each procedure. The system level safety analysis is connected to the development of individual DNN models, and each DNN model development process is improved to connect to the improvement technology of DNN itself. By this method, we aim to build a system that can repeat the improvement of DNN. |
| キーワード(和) | AI / DNN / 安全 / リスクマネジメント / 自動運転 / 安全論証 |
| キーワード(英) | AI / DNN / Safety / Risk Management / Safety Argumentation |
| 資料番号 | KBSE2021-51 |
| 発行日 | 2022-03-02 (KBSE) |
| 研究会情報 | |
| 研究会 | KBSE |
|---|---|
| 開催期間 | 2022/3/9(から2日開催) |
| 開催地（和） | オンライン開催(Zoom) |
| 開催地（英） | Online |
| テーマ（和） | 一般，学生 |
| テーマ（英） | General, Student |
| 委員長氏名（和） | 中川 博之(阪大) |
| 委員長氏名（英） | Hiroyuki Nakagawa(Osaka Univ.) |
| 副委員長氏名（和） | 猿渡 卓也(NTTデータ) |
| 副委員長氏名（英） | Takuya Saruwatari(NTT Data) |
| 幹事氏名（和） | 小形 真平(信州大) / 槇原 絵里奈(同志社大) |
| 幹事氏名（英） | Shinpei Ogata(Shinsｈu Univ) / Erina Nakihara(Doshisha Univ,) |
| 幹事補佐氏名（和） | 小島 英春(阪大) / 柏 祐太郎(九大) |
| 幹事補佐氏名（英） | Hideharu Kojima(Osaka Univ.) / Yutaro Kashiwa(Kyushu Univ,) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Knowledge-Based Software Engineering |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 自動運転におけるDNNシステムを対象とした安全・リスク分析・評価方法 |
| サブタイトル（和） | |
| タイトル（英） | Safety risk analysis and evaluation method for DNN system in autonomous driving |
| サブタイトル（和） | |
| キーワード(1)（和/英） | AI / AI |
| キーワード(2)（和/英） | DNN / DNN |
| キーワード(3)（和/英） | 安全 / Safety |
| キーワード(4)（和/英） | リスクマネジメント / Risk Management |
| キーワード(5)（和/英） | 自動運転 / Safety Argumentation |
| キーワード(6)（和/英） | 安全論証 |
| 第 1 著者 氏名（和/英） | 金子 朋子 / Tomoko Kaneko |
| 第 1 著者 所属（和/英） | 国立情報学研究所(略称：NII) National Institute of Informatics(略称：NII) |
| 第 2 著者 氏名（和/英） | 髙橋 雄志 / Yuji Takahashi |
| 第 2 著者 所属（和/英） | 国立情報学研究所(略称：NII) National Institute of Informatics(略称：NII) |
| 第 3 著者 氏名（和/英） | 山口 晋一 / Shinichi Yamaguchi |
| 第 3 著者 所属（和/英） | 慶応大学SDM研究所(略称：SDM) Keio University SDM Research Center(略称：SDM) |
| 第 4 著者 氏名（和/英） | 橋本 順之 / Junji Hashimoto |
| 第 4 著者 所属（和/英） | ㈱グリー(略称：GREE) GREE(略称：GREE) |
| 第 5 著者 氏名（和/英） | 吉岡 信和 / Nobukazu Yoshioka |
| 第 5 著者 所属（和/英） | 早稲田大学(略称：早大) Waseda University(略称：Soudai) |
| 発表年月日 | 2022-03-10 |
| 資料番号 | KBSE2021-51 |
| 巻番号（vol） | vol.121 |
| 号番号（no） | KBSE-424 |
| ページ範囲 | pp.60-65(KBSE), |
| ページ数 | 6 |
| 発行日 | 2022-03-02 (KBSE) |