お知らせ 2023年度・2024年度 学生員 会費割引キャンペーン実施中です
お知らせ 技術研究報告と和文論文誌Cの同時投稿施策(掲載料1割引き)について
お知らせ 電子情報通信学会における研究会開催について
お知らせ NEW 参加費の返金について
電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
[ログイン]
技報アーカイブ
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2014-07-01 10:00
学習パラメータを離散化した制限付きボルツマンマシンの学習の検討
品川政太朗東北大)・早川吉弘仙台高専)・佐藤茂雄小野美 武中島康治東北大NLP2014-27
抄録 (和) 近年,機械学習の分野で,現実的な多層の階層型ニューラルネットワーク(Deep Neural Network,DNN)の学習手法が「ディープラーニング」と呼ばれ注目を集めている.DNNの構築には制限つきボルツマンマシン(RBM)やオートエンコーダ(AE)によって各層間ごとに事前学習を行う、という手法が有効でよく用いられているが、その分計算時間がかかるという難点がある.これを解決する方法のひとつとして集積回路によるオンチップ化により並列計算を行う方法が挙げられるが、メモリの回路面積が有限であることから大規模なデータの処理には向かないといえる.本研究ではこれを解決するため、決定論的RBM(DRBM)を対象に事前学習で学習する学習パラメータ(荷重値、バイアス)を離散値として学習が可能であることを示し、これをDNNの初期値としたときも事前学習の効果が得られていることを示す. 
(英) Recently, the method of Deep Neural Network (DNN) with hierarchical learning has been remarkable for performance to solve various complex tasks in machine learning, called “Deep Learning”. Pre-training for every two layers by using Restricted Boltzmann Machine (RBM) or auto-encoder (AE) is efficient and frequently used for constructing DNN. However, it takes longer time for learning. To solve this problem, we can select parallel computation by developing LSI chips. LSI chips have however limited area for Memory, it is not easy to apply them to big data processing. We show that learning of Deterministic RBM (DRBM) with discrete value of learning parameter (weight, bias) is efficient to solve this problem, and this method still has capability to create good DNN.
キーワード (和) ニューラルネットワーク / 階層型 / 深層学習 / 事前学習 / 制限つきボルツマンマシン / 離散化 / /  
(英) Neural network / Hierarchical / Deep learning / Pre-training / Restricted Boltzmann Machine / Discretization / /  
文献情報 信学技報, vol. 114, no. 113, NLP2014-27, pp. 37-40, 2014年6月.
資料番号 NLP2014-27 
発行日 2014-06-23 (NLP) 
ISSN Print edition: ISSN 0913-5685    Online edition: ISSN 2432-6380
著作権に
ついて
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034)
PDFダウンロード NLP2014-27

研究会情報
研究会 NLP  
開催期間 2014-06-30 - 2014-07-01 
開催地(和) 東北大学 片平キャンパス 
開催地(英) Tohoku Univ. 
テーマ(和) 一般 
テーマ(英) Nonlinear Problems, etc. 
講演論文情報の詳細
申込み研究会 NLP 
会議コード 2014-06-NLP 
本文の言語 日本語 
タイトル(和) 学習パラメータを離散化した制限付きボルツマンマシンの学習の検討 
サブタイトル(和)  
タイトル(英) Learning Restricted Boltzmann Machine with discrete learning parameter 
サブタイトル(英)  
キーワード(1)(和/英) ニューラルネットワーク / Neural network  
キーワード(2)(和/英) 階層型 / Hierarchical  
キーワード(3)(和/英) 深層学習 / Deep learning  
キーワード(4)(和/英) 事前学習 / Pre-training  
キーワード(5)(和/英) 制限つきボルツマンマシン / Restricted Boltzmann Machine  
キーワード(6)(和/英) 離散化 / Discretization  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 品川 政太朗 / Seitaro Shinagawa / シナガワ セイタロウ
第1著者 所属(和/英) 東北大学 (略称: 東北大)
Tohoku University (略称: Tohoku Univ.)
第2著者 氏名(和/英/ヨミ) 早川 吉弘 / Yoshihiro Hayakawa / ハヤカワ ヨシヒロ
第2著者 所属(和/英) 仙台高等専門学校 (略称: 仙台高専)
Sendai National College of Technology (略称: SNCT)
第3著者 氏名(和/英/ヨミ) 佐藤 茂雄 / Shigeo Sato / サトウ シゲオ
第3著者 所属(和/英) 東北大学 (略称: 東北大)
Tohoku University (略称: Tohoku Univ.)
第4著者 氏名(和/英/ヨミ) 小野美 武 / Takeshi Onomi / オノミ タケシ
第4著者 所属(和/英) 東北大学 (略称: 東北大)
Tohoku University (略称: Tohoku Univ.)
第5著者 氏名(和/英/ヨミ) 中島 康治 / Koji Nakajima / ナカジマ コウジ
第5著者 所属(和/英) 東北大学 (略称: 東北大)
Tohoku University (略称: Tohoku Univ.)
第6著者 氏名(和/英/ヨミ) / /
第6著者 所属(和/英) (略称: )
(略称: )
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者 第1著者 
発表日時 2014-07-01 10:00:00 
発表時間 25分 
申込先研究会 NLP 
資料番号 NLP2014-27 
巻番号(vol) vol.114 
号番号(no) no.113 
ページ範囲 pp.37-40 
ページ数
発行日 2014-06-23 (NLP) 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会