| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2021-06-08 16:35 対称的二進表現に基づくビットスケーラブルCNN推論手法 ○鈴木淳之介・安藤洸太・廣瀬一俊・川村一志・Thiem Van Chu・本村真人・劉 載勲（東工大）  RECONF2021-7 |
|
| 抄録 | （和） | 組み込みシステム向けのニューラルネットワークは，学習段階で消費電力や計算資源の制約を考慮すること で設計要求を満たすことができるが，固定的な計算量を要する単一ネットワークでは計算リソースや運用環境の変動に 対して柔軟に対応することができない.本発表では，BWB (bit-wise binay) 量子化，ABS (accumulative bit-serial) 推論， BN (batch normalization) 再学習から構成され，単一ネットワークのみでスケーラブルな推論を実現する ProgressiveNN を提案する.ProgressiveNN は，ネットワークの変更を必要とせず，そのネットワークパラメータは一度の学習で得 ることができる.BWB 量子化は，各パラメータを分解し，ABS 推論のためにビット単位のフォーマットに変換する. ABS 推論では，パラメータを MSB から順に使用することで，段階的な推論を可能とする.評価の結果，提案手法は， CIFAR-10/100-ResNet18 において，単一のネットワークパラメータセットを用いて，12.5% から 100% の計算量のス ケーラビリティを実現した.また，BN の再学習により，低い計算コストで精度の低下を抑制し，1 ビット幅の推論で 65% の推論精度を回復できることがわかった. |
| （英） | ||
| キーワード | （和） | 深層ニューラルネットワーク / ビット単位量子化 / 段階的推論 / バッチノーマライゼーション再学習 / / / / |
| （英） | / / / / / / / | |
| 文献情報 | 信学技報, vol. 121, no. 59, RECONF2021-7, pp. 32-37, 2021年6月. | |
| 資料番号 | RECONF2021-7 | |
| 発行日 | 2021-06-01 (RECONF) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| 査読に ついて |
本技術報告は査読を経ていない技術報告であり，推敲を加えられていずれかの場に発表されることがあります． | |
| PDFダウンロード | RECONF2021-7 |
|
| 研究会情報 | |
| 研究会 | RECONF |
| 開催期間 | 2021-06-08 - 2021-06-09 |
| 開催地（和） | オンライン開催 |
| 開催地（英） | Online |
| テーマ（和） | リコンフィギャラブルシステム，一般 |
| テーマ（英） | Reconfigurable system, etc. |
| 講演論文情報の詳細 | |
| 申込み研究会 | RECONF |
| 会議コード | 2021-06-RECONF |
| 本文の言語 | 日本語（英語タイトルなし） |
| タイトル（和） | 対称的二進表現に基づくビットスケーラブルCNN推論手法 |
| サブタイトル（和） | |
| タイトル（英） | |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 深層ニューラルネットワーク / |
| キーワード(2)（和/英） | ビット単位量子化 / |
| キーワード(3)（和/英） | 段階的推論 / |
| キーワード(4)（和/英） | バッチノーマライゼーション再学習 / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 鈴木 淳之介 / / スズキ ジュンノスケ |
| 第1著者 所属（和/英） | 東京工業大学 (略称： 東工大) (略称： ) |
| 第2著者 氏名（和/英/ヨミ） | 安藤 洸太 / / アンドウ コウタ |
| 第2著者 所属（和/英） | 東京工業大学 (略称： 東工大) (略称： ) |
| 第3著者 氏名（和/英/ヨミ） | 廣瀬 一俊 / / ヒロセ カズトシ |
| 第3著者 所属（和/英） | 東京工業大学 (略称： 東工大) (略称： ) |
| 第4著者 氏名（和/英/ヨミ） | 川村 一志 / / カワムラ カズシ |
| 第4著者 所属（和/英） | 東京工業大学 (略称： 東工大) (略称： ) |
| 第5著者 氏名（和/英/ヨミ） | Thiem Van Chu / / Thiem Van Chu |
| 第5著者 所属（和/英） | 東京工業大学 (略称： 東工大) (略称： ) |
| 第6著者 氏名（和/英/ヨミ） | 本村 真人 / / モトムラ マサト |
| 第6著者 所属（和/英） | 東京工業大学 (略称： 東工大) (略称： ) |
| 第7著者 氏名（和/英/ヨミ） | 劉 載勲 / / ユ ジェフン |
| 第7著者 所属（和/英） | 東京工業大学 (略称： 東工大) (略称： ) |
| 第8著者 氏名（和/英/ヨミ） | / / |
| 第8著者 所属（和/英） | (略称： ) (略称： ) |
| 第9著者 氏名（和/英/ヨミ） | / / |
| 第9著者 所属（和/英） | (略称： ) (略称： ) |
| 第10著者 氏名（和/英/ヨミ） | / / |
| 第10著者 所属（和/英） | (略称： ) (略称： ) |
| 第11著者 氏名（和/英/ヨミ） | / / |
| 第11著者 所属（和/英） | (略称： ) (略称： ) |
| 第12著者 氏名（和/英/ヨミ） | / / |
| 第12著者 所属（和/英） | (略称： ) (略称： ) |
| 第13著者 氏名（和/英/ヨミ） | / / |
| 第13著者 所属（和/英） | (略称： ) (略称： ) |
| 第14著者 氏名（和/英/ヨミ） | / / |
| 第14著者 所属（和/英） | (略称： ) (略称： ) |
| 第15著者 氏名（和/英/ヨミ） | / / |
| 第15著者 所属（和/英） | (略称： ) (略称： ) |
| 第16著者 氏名（和/英/ヨミ） | / / |
| 第16著者 所属（和/英） | (略称： ) (略称： ) |
| 第17著者 氏名（和/英/ヨミ） | / / |
| 第17著者 所属（和/英） | (略称： ) (略称： ) |
| 第18著者 氏名（和/英/ヨミ） | / / |
| 第18著者 所属（和/英） | (略称： ) (略称： ) |
| 講演者 | 第1著者 |
| 発表日時 | 2021-06-08 16:35:00 |
| 発表時間 | 25分 |
| 申込先研究会 | RECONF |
| 資料番号 | RECONF2021-7 |
| 巻番号（vol） | vol.121 |
| 号番号（no） | no.59 |
| ページ範囲 | pp.32-37 |
| ページ数 | 6 |
| 発行日 | 2021-06-01 (RECONF) |
[研究会発表申込システムのトップページに戻る]