講演名 2021-03-03
ディープラーニングモデルのMRAM格納時におけるApproximate Computingを用いたエネルギー削減手法
小野 義基(芝浦工大), 宇佐美 公良(芝浦工大),
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 近年、エッジデバイスにおけるディープラーニング、とりわけオンチップ学習が注目を集めている。加えて、磁気抵抗メモリ(MRAM)は、良好なパフォーマンスや小さなリーク電力などの点から、エッジデバイス向けのメモリ技術として盛んに研究されている。一方、MRAMは書き込み時のエネルギー消費が大きいという問題点がある。本研究では、ディープラーニングのオンチップ学習において生成されるモデルの重みとバイアスを、Approximate Computing (AC) の考え方に基づいてMRAMに格納する新たな手法を提案する。また、AC適用時における書き込み時間の最適値の検討や、AC適用時のエポックと推論精度の関係についても述べる。シミュレーションの結果、画像認識アプリケーションの学習時に本手法を適用することで、推論精度の劣化を0.5%以内に抑えつつ、9~37%の書き込みエネルギー削減を達成した。
抄録(英) On-chip learning is gaining attention in edge devices. In addition, a magnetic RAM (MRAM) is a promising memory technology for edge devices because of low leakage energy. However, the high write energy is a disadvantage of MRAM. For minimizing the write energy, we propose an approximate storing approach to MRAM for learning tasks of deep neural networks (DNN). The proposed approach writes the weight and bias data to MRAM approximately on each epoch with the fine-grained adjusted write time. Simulation results with image recognition DNN applications have demonstrated that the write energy can be reduced in the range from 9% to 37% with negligible (< 0.5%) accuracy loss.
キーワード(和) MRAM / エネルギー削減 / Approximate Computing / ディープラーニング / オンチップ学習
キーワード(英) MRAM / Energy Minimization / Approximate Computing / Deep Learning / On-chip Learning
資料番号 VLD2020-67,HWS2020-42
発行日 2021-02-24 (VLD, HWS)

研究会情報
研究会 HWS / VLD
開催期間 2021/3/3(から2日開催)
開催地(和) オンライン開催
開催地(英) Online
テーマ(和) システムオンシリコンを支える設計技術, ハードウェアセキュリティ, 一般
テーマ(英) Design Technology for System-on-Silicon, Hardware Security, etc.
委員長氏名(和) 池田 誠(東大) / 福田 大輔(富士通研)
委員長氏名(英) Makoto Ikeda(Univ. of Tokyo) / Daisuke Fukuda(Fujitsu Labs.)
副委員長氏名(和) 島崎 靖久(ルネサスエレクトロニクス) / 永田 真(神戸大) / 小林 和淑(京都工繊大)
副委員長氏名(英) Yasuhisa Shimazaki(Renesas Electronics) / Makoto Nagata(Kobe Univ.) / Kazutoshi Kobayashi(Kyoto Inst. of Tech.)
幹事氏名(和) 小野 貴継(九大) / 高橋 順子(NTT) / 桜井 祐市(日立) / 兼本 大輔(大阪大学)
幹事氏名(英) Takatsugu Ono(Kyushu Univ.) / Junko Takahashi(NTT) / Yuichi Sakurai(Hitachi) / Daisuke Kanemoto(Osaka Univ.)
幹事補佐氏名(和) / 西元 琢真(日立)
幹事補佐氏名(英) / Takuma Nishimoto(Hitachi)

講演論文情報詳細
申込み研究会 Technical Committee on Hardware Security / Technical Committee on VLSI Design Technologies
本文の言語 JPN
タイトル(和) ディープラーニングモデルのMRAM格納時におけるApproximate Computingを用いたエネルギー削減手法
サブタイトル(和)
タイトル(英) Energy Efficient Approximate Storing to MRAM for Deep Neural Network Tasks in Edge Computing
サブタイトル(和)
キーワード(1)(和/英) MRAM / MRAM
キーワード(2)(和/英) エネルギー削減 / Energy Minimization
キーワード(3)(和/英) Approximate Computing / Approximate Computing
キーワード(4)(和/英) ディープラーニング / Deep Learning
キーワード(5)(和/英) オンチップ学習 / On-chip Learning
第 1 著者 氏名(和/英) 小野 義基 / Yoshinori Ono
第 1 著者 所属(和/英) 芝浦工業大学(略称:芝浦工大)
Shibaura Institute of Technology(略称:SIT)
第 2 著者 氏名(和/英) 宇佐美 公良 / Kimiyoshi Usami
第 2 著者 所属(和/英) 芝浦工業大学(略称:芝浦工大)
Shibaura Institute of Technology(略称:SIT)
発表年月日 2021-03-03
資料番号 VLD2020-67,HWS2020-42
巻番号(vol) vol.120
号番号(no) VLD-400,HWS-401
ページ範囲 pp.1-6(VLD), pp.1-6(HWS),
ページ数 6
発行日 2021-02-24 (VLD, HWS)