講演抄録/キーワード |
講演名 |
2022-03-10 10:15
自動運転におけるDNNシステムを対象とした安全・リスク分析・評価方法 ○金子朋子・髙橋雄志(NII)・山口晋一(慶大)・橋本順之(グリー)・吉岡信和(早大) KBSE2021-51 |
抄録 |
(和) |
現状のAI,なかでもDNN(深層学習)は,その品質,特に安全性や信頼性に対して大きな懸念がある.筆者らはDNNを含んだシステムを対象にリスクマネジメントの手順を用いて,安全性を確保するための方法を自動運転の事例で検討してきた.本稿ではその全体像を論証形式で示し,各手順における課題と解決のための方法とその意義を具体的に示す.システムレベルの安全分析を単体のDNNモデル開発につなげ,各DNNモデル開発プロセスを改善しDNN自体の改善技術につなげる.この方式によってDNNの改善を繰り返せる仕組みの構築を目指している. |
(英) |
There is a great concern about the quality of current AI, especially DNN (deep learning), especially about its safety and reliability. We have been investigating how to ensure the safety of DNNs by using risk management procedures for systems containing DNNs in the case of automated driving. In this paper, we present the whole picture in the form of an argument, and show in detail the problems, methods for solving them, and their significance in each procedure. The system level safety analysis is connected to the development of individual DNN models, and each DNN model development process is improved to connect to the improvement technology of DNN itself. By this method, we aim to build a system that can repeat the improvement of DNN. |
キーワード |
(和) |
AI / DNN / 安全 / リスクマネジメント / 自動運転 / 安全論証 / / |
(英) |
AI / DNN / Safety / Risk Management / Safety Argumentation / / / |
文献情報 |
信学技報, vol. 121, no. 424, KBSE2021-51, pp. 60-65, 2022年3月. |
資料番号 |
KBSE2021-51 |
発行日 |
2022-03-02 (KBSE) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
KBSE2021-51 |