講演名 2022-03-07
スパイキングニューラルネットワークの高速低エネルギー推論に向けた動的閾値調整手法
羽原 丈博(京大), 粟野 皓光(京大),
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 従来のSNN ではニューロン発火の起こりやすさを決める閾値を固定していたため,過剰もしくは過少なニューロン発火に伴う情報伝達劣化が発生していた.その結果として推論時間や消費エネルギーの増大を招いていた.そこで本論文では,過剰もしくは過少な発火を抑えるべく,推論時に動的に閾値を変化させる方法を提案する.閾値の変化方法として,指数関数的に閾値を増加もしくは減少させる指数増加・減少スケジューラと,閾値を振動させながら,その振幅を指数関数的に減衰させる指数的減衰余弦スケジューラの3 つを取り上げ,各々の推論時間とエネルギー削減効果を検証した.その結果,指数的減衰余弦スケジューラに従って閾値を動的に変化させることで,推論時間を60.4%,消費エネルギーを79.6%削減できることを示した.
抄録(英) Conventional SNNs have fixed thresholds that determine the possibility of neuron firing, resulting in degradation of information transfer due to excessive or insufficient neuron firing. As a result, the inference time and energy consumption increased. This thesis proposes a method of dynamically changing the threshold during inference to suppress excessive or insufficient firing. To this end, three methods of changing the threshold are discussed: the exponential increase/decrease scheduler, which increases or decreases the threshold exponentially, and the exponential decay cosine scheduler, which oscillates the threshold and decays its amplitude exponentially. The results show that dynamically changing the threshold according to the exponentially decaying cosine scheduler can reduce inference time by 60.4% and energy consumption by 79.6%.
キーワード(和) スパイキングニューラルネットワーク / 人工ニューラルネットワーク
キーワード(英) spiking neural network / artificial neural network
資料番号 VLD2021-87,HWS2021-64
発行日 2022-02-28 (VLD, HWS)

研究会情報
研究会 VLD / HWS
開催期間 2022/3/7(から2日開催)
開催地(和) オンライン開催
開催地(英) Online
テーマ(和) システムオンシリコンを支える設計技術, ハードウェアセキュリティ, 一般
テーマ(英) Design Technology for System-on-Silicon, Hardware Security, etc.
委員長氏名(和) 小林 和淑(京都工繊大) / 島崎 靖久(ルネサスエレクトロニクス)
委員長氏名(英) Kazutoshi Kobayashi(Kyoto Inst. of Tech.) / Yasuhisa Shimazaki(Renesas Electronics)
副委員長氏名(和) 池田 奈美子(NTT) / 永田 真(神戸大) / 鈴木 大輔(三菱電機)
副委員長氏名(英) Minako Ikeda(NTT) / Makoto Nagata(Kobe Univ.) / Daisuke Suzuki(Mitsubishi Electric)
幹事氏名(和) 兼本 大輔(大阪大学) / 宮村 信(NEC) / 高橋 順子(NTT) / 藤本 大介(奈良先端大)
幹事氏名(英) Daisuke Kanemoto(Osaka Univ.) / Makoto Miyamura(NEC) / Junko Takahashi(NTT) / Daisuke Fujimotoi(NAIST)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Technical Committee on VLSI Design Technologies / Technical Committee on Hardware Security
本文の言語 JPN
タイトル(和) スパイキングニューラルネットワークの高速低エネルギー推論に向けた動的閾値調整手法
サブタイトル(和)
タイトル(英) Low-Energy and Fast Inference Method for Spiking Neural Networks Using Dynamic Threshold Adjustment
サブタイトル(和)
キーワード(1)(和/英) スパイキングニューラルネットワーク / spiking neural network
キーワード(2)(和/英) 人工ニューラルネットワーク / artificial neural network
第 1 著者 氏名(和/英) 羽原 丈博 / Takehiro Habara
第 1 著者 所属(和/英) 京都大学(略称:京大)
Kyoto University(略称:Kyoto Univ.)
第 2 著者 氏名(和/英) 粟野 皓光 / Hiromitsu Awano
第 2 著者 所属(和/英) 京都大学(略称:京大)
Kyoto University(略称:Kyoto Univ.)
発表年月日 2022-03-07
資料番号 VLD2021-87,HWS2021-64
巻番号(vol) vol.121
号番号(no) VLD-412,HWS-413
ページ範囲 pp.57-62(VLD), pp.57-62(HWS),
ページ数 6
発行日 2022-02-28 (VLD, HWS)