講演名 2023-01-29
アテンションメカニズムをもつマルチリザバーエコーステートネットワークを用いた室内空気質予測
キュウ ブンエイ(東大), 田中 剛平(東大),
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 室内空気質 (IAQ) は、人々の健康や福祉に影響を与えるという点で非常に重要な問題です。研究者は、より優れた IAQ 予測を行うために、より優れた機械学習モデルを見つけようとしています。エコーステートネットワーク (ESN) は特別なタイプのリカレントニューラルネットワーク (RNN) であり、通常は回帰ベースの学習アルゴリズムを使用し、勾配ベースのアルゴリズムで学習する他のRNNと比較してはるかに低い学習コストで機能します。本研究では、複数のリザバーとアテンションメカニズムを組み合わせた新しい構造のESNを開発し、長期間のデータセットからParticulate Matter (PM)の濃度の予測を行いました。アテンションメカニズムをもつマルチリザバーESNのパフォーマンスを、標準ESN、マルチリザバーESN、およびアテンションメカニズムをもつ標準ESNのパフォーマンスと比較しました。結果は、アテンションメカニズムにより標準ESNとマルチリザバーESN両方の予測精度を大幅に向上させることができることを示しています。今後の課題は、学習速度を改善することです。
抄録(英) Indoor air quality (IAQ) is a critical matter of concern in terms of its impact on public health and well-being. Researchers have been trying to find better machine learning models to improve IAQ prediction. Echo state network (ESN) is a particular type of recurrent neural network (RNN), which usually uses a regression-based learning algorithm and works with a much lower training cost than other RNNs trained with a gradient-based algorithm. In this study, a novel structure of ESN with a combination of multiple reservoirs and attention mechanism is developed and employed to predict the concentrations of Particulate Matter (PM) from a long-term dataset. We compare the performance of the multi-reservoir ESN with attention mechanism with that of standard ESN, multi-reservoir ESN, and standard ESN with attention mechanism. The results show that adding the attention mechanism can significantly improve the prediction accuracy of the standard and multi-reservoir ESN. Future work will concentrate on the improvement of training speed.
キーワード(和) 室内空気質予測 / アテンションメカニズム / 機械学習 / 人工ニューラルネットワーク / エコーステートネットワーク
キーワード(英) Indoor Air Quality Prediction / Attention Mechanism / Machine Learning / Artificial Neural Networks / Echo State Network
資料番号 NLP2022-106,NC2022-90
発行日 2023-01-21 (NLP, NC)

研究会情報
研究会 NC / NLP
開催期間 2023/1/28(から2日開催)
開催地(和) 公立はこだて未来大学
開催地(英) Future University Hakodate
テーマ(和) NC, NLP, 一般
テーマ(英) NC, NLP, etc.
委員長氏名(和) 山川 宏(東大) / 常田 明夫(熊本大)
委員長氏名(英) Hiroshi Yamakawa(Univ of Tokyo) / Akio Tsuneda(Kumamoto Univ.)
副委員長氏名(和) 田中 宏和(東京都市大学) / 鳥飼 弘幸(法政大)
副委員長氏名(英) Hirokazu Tanaka(Tokyo City Univ.) / Hiroyuki Torikai(Hosei Univ.)
幹事氏名(和) 寺島 裕貴(NTT) / 西田 知史(NICT) / 吉岡 大三郎(崇城大) / 伊藤 大輔(岐阜大)
幹事氏名(英) Hiroki Terashima(NTT) / Satoshi Nishida(NICT) / Daizaburo Yoshioka(Sojo Univ.) / Daisuke Ito(Gifu Univ.)
幹事補佐氏名(和) 田和辻 可昌(早大) / 栗川 知己(関西医科大) / 横井 裕一(長崎大) / 山仲 芳和(宇都宮大)
幹事補佐氏名(英) Yoshimasa Tawatsuji(Waseda Univ.) / Tomoki Kurikawa(KMU) / Yuichi Yokoi(Nagasaki Univ.) / Yoshikazu Yamanaka(Utsunomiya Univ.)

講演論文情報詳細
申込み研究会 Technical Committee on Neurocomputing / Technical Committee on Nonlinear Problems
本文の言語 ENG-JTITLE
タイトル(和) アテンションメカニズムをもつマルチリザバーエコーステートネットワークを用いた室内空気質予測
サブタイトル(和)
タイトル(英) Indoor air quality prediction using multi-reservoir echo state network with attention mechanism
サブタイトル(和)
キーワード(1)(和/英) 室内空気質予測 / Indoor Air Quality Prediction
キーワード(2)(和/英) アテンションメカニズム / Attention Mechanism
キーワード(3)(和/英) 機械学習 / Machine Learning
キーワード(4)(和/英) 人工ニューラルネットワーク / Artificial Neural Networks
キーワード(5)(和/英) エコーステートネットワーク / Echo State Network
第 1 著者 氏名(和/英) キュウ ブンエイ / Wenrui Qiu
第 1 著者 所属(和/英) 東京大学(略称:東大)
The University of Tokyo(略称:UTokyo)
第 2 著者 氏名(和/英) 田中 剛平 / Gouhei Tanaka
第 2 著者 所属(和/英) 東京大学(略称:東大)
The University of Tokyo(略称:UTokyo)
発表年月日 2023-01-29
資料番号 NLP2022-106,NC2022-90
巻番号(vol) vol.122
号番号(no) NLP-373,NC-374
ページ範囲 pp.135-140(NLP), pp.135-140(NC),
ページ数 6
発行日 2023-01-21 (NLP, NC)