お知らせ 研究会の開催と会場に参加される皆様へのお願い(2021年10月開催~)
電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
[ログイン]
技報アーカイブ
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2022-01-23 12:10
連続値とカテゴリー値データが混在する深層学習における種々のスパース化とその有効性評価
石川眞澄九工大NC2021-45
抄録 (和) 深層学習によって得られたモデルがブラックボックス的であり,人が理解できないという深刻な問題点の解消のために,スパースモデリングが有効であると考えている.米国国勢調査データを用いてさまざまな正則化項の有効性を評価するため,データ適合度及びスパース度からなるパレート最適性の概念を導入し定量的に評価した.スパースモデリングで標準的に用いられる結合重みに対するL1ノルムを基準にすると,結合重みに対する選択的L1ノルムの方が有効であり,これにさらにKL divergenceの最小化あるいは非対角共分散の最小化を付加する方がさらに優れ,また結合重みに対する選択的L1ノルムに隠れ層出力に対する選択的L1ノルムあるいはL2ノルムを付加する方がなお一層有効であることを実証した. 
(英) Deep learning has a serious drawback in that the resulting models tend to be a black box, hence hard to understand. A sparse modeling approach is expected to ameliorate the drawback. Various regularization terms are proposed so far. The paper proposes to use the concept of Pareto optimality composed of data fitting and the sparseness of models for judging the effectiveness of regularization terms using US census data. Compared to the most popular L1-norm to connection weights, the selective L1-norm to connection weights is better, off-diagonal covariance or KL divergence of hidden outputs are yet better, and the selective L1 norm or selective L2 norm to hidden outputs are the best.
キーワード (和) 深層学習 / ブラックボックス / 説明可能 / スパースモデリング / 正則化項 / / /  
(英) Deep learning / Black-box model / Explainable / Sparse modeling / Regularizers / / /  
文献情報 信学技報, vol. 121, no. 338, NC2021-45, pp. 65-70, 2022年1月.
資料番号 NC2021-45 
発行日 2022-01-14 (NC) 
ISSN Print edition: ISSN 0913-5685  Online edition: ISSN 2432-6380
著作権に
ついて
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034)
PDFダウンロード NC2021-45

研究会情報
研究会 NLP MICT MBE NC  
開催期間 2022-01-21 - 2022-01-23 
開催地(和) オンライン開催 
開催地(英) Online 
テーマ(和) NC, ME,MICT,NLP, 一般 
テーマ(英)  
講演論文情報の詳細
申込み研究会 NC 
会議コード 2022-01-NLP-MICT-MBE-NC 
本文の言語 日本語 
タイトル(和) 連続値とカテゴリー値データが混在する深層学習における種々のスパース化とその有効性評価 
サブタイトル(和)  
タイトル(英) Deep learning of mixture of continuous and categorical data with regularizers added to the cost function and evaluation of the effectiveness of sparse modeling 
サブタイトル(英)  
キーワード(1)(和/英) 深層学習 / Deep learning  
キーワード(2)(和/英) ブラックボックス / Black-box model  
キーワード(3)(和/英) 説明可能 / Explainable  
キーワード(4)(和/英) スパースモデリング / Sparse modeling  
キーワード(5)(和/英) 正則化項 / Regularizers  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 石川 眞澄 / Masumi Ishikawa / イシカワ マスミ
第1著者 所属(和/英) 九州工業大学 (略称: 九工大)
Kyushu Institute of Technology (略称: Kyutech)
第2著者 氏名(和/英/ヨミ) / /
第2著者 所属(和/英) (略称: )
(略称: )
第3著者 氏名(和/英/ヨミ) / /
第3著者 所属(和/英) (略称: )
(略称: )
第4著者 氏名(和/英/ヨミ) / /
第4著者 所属(和/英) (略称: )
(略称: )
第5著者 氏名(和/英/ヨミ) / /
第5著者 所属(和/英) (略称: )
(略称: )
第6著者 氏名(和/英/ヨミ) / /
第6著者 所属(和/英) (略称: )
(略称: )
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者
発表日時 2022-01-23 12:10:00 
発表時間 25 
申込先研究会 NC 
資料番号 IEICE-NC2021-45 
巻番号(vol) IEICE-121 
号番号(no) no.338 
ページ範囲 pp.65-70 
ページ数 IEICE-6 
発行日 IEICE-NC-2022-01-14 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会