講演名 2021-06-28
NMFのための分散HALS法における平均合意アルゴリズムの単純化
林 京寿(岡山大), 右田 剛史(岡山大), 高橋 規一(岡山大),
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 非負値行列因子分解 (NMF: Nonnegative Matrix Factorization) は与えられた非負値行列を二つの非負値行列の積で近似することであり,画像処理,音声信号処理,データマイニング,推薦システムなどの幅広い分野に応用されている.最近,NMFの高速計算法の一つである階層的交互最小二乗法を,ネットワークを形成する複数の計算機で分散的に実行する方法が提案された.これにより,単一計算機では扱えないような大規模行列に対してもNMFを高精度で実行することができる.しかし,この方法で用いられている平均合意アルゴリズムでは,合意に至るまでの変数値の履歴をすべて記憶しておかねばならず,各計算機のメモリ使用量や計算負荷が大きくなってしまう.そこで本報告では,平均合意アルゴリズムを単純なものに置き換えた新たな分散計算法を提案し,その有効性を実験的に検証する.特に,不完全な平均合意がNMFの精度にどのように影響するかを実験的に評価する.
抄録(英) Nonnegative Matrix Factorization (NMF) is the process of approximating a given nonnegative matrix by the product of two nonnegative matrices, and has been applied to a wide range of fields such as image processing, audio signal processing, data mining, and recommendation systems. Recently, a distributed computation method has been proposed for multiple computers in a network to execute the hierarchical alternating least squares algorithm, which is well known as a fast computation method for NMF. This method enables us to perform NMF on large matrices with high accuracy, even in the case where they cannot be handled by a single computer. However, the average consensus algorithm used in this method requires each computer to store the entire history of the values of its variables until the complete average consensus is reached, which increases the memory usage and computational cost. In this paper, we propose a new distributed computation method that replaces the average consensus algorithm with a simple one, and verify its effectiveness experimentally. In particular, we experimentally evaluate how incomplete average consensus affects the accuracy of NMF.
キーワード(和) 非負値行列因子分解 / 階層的交互最小二乗法 / 分散計算 / 平均合意 / マルチエージェントシステム
キーワード(英) nonnegative matrix factorization / hierarchical alternating least squares algorithm / distributed computation / average consensus / multi-agent system
資料番号 NC2021-3,IBISML2021-3
発行日 2021-06-21 (NC, IBISML)

研究会情報
研究会 NC / IBISML / IPSJ-BIO / IPSJ-MPS
開催期間 2021/6/28(から3日開催)
開催地(和) オンライン開催
開催地(英) Online
テーマ(和) 機械学習によるバイオデータマイニング、一般
テーマ(英)
委員長氏名(和) 大須 理英子(早大) / 竹内 一郎(名工大) / 倉田 博之(九工大) / 関嶋 政和(東工大)
委員長氏名(英) Rieko Osu(Waseda Univ.) / Ichiro Takeuchi(Nagoya Inst. of Tech.) / 倉田 博之(九工大) / 関嶋 政和(東工大)
副委員長氏名(和) 山川 宏(東大) / 杉山 将(東大)
副委員長氏名(英) Hiroshi Yamakawa(Univ of Tokyo) / Masashi Sugiyama(Univ. of Tokyo)
幹事氏名(和) 内部 英治(ATR) / 西田 知史(NICT) / 津田 宏治(東大) / 神嶌 敏弘(産総研) / 伊藤 公人(北大) / 田口 善弘(中央大) / 吉本 潤一郎(奈良先端大) / 大上 雅史(東工大) / 笹山 琴由(三菱電機) / 花田 良子(関西大) / 林 亮子(金沢工大) / 吉本 潤一郎(奈良先端大) / 渡邉 真也(室蘭工大)
幹事氏名(英) Eiji Uchibe(ATR) / Satoshi Nishida(NICT) / Koji Tsuda(Univ. of Tokyo) / Toshihiro Kamishima(AIST) / 伊藤 公人(北大) / 田口 善弘(中央大) / 吉本 潤一郎(奈良先端大) / 大上 雅史(東工大) / 笹山 琴由(三菱電機) / 花田 良子(関西大) / 林 亮子(金沢工大) / 吉本 潤一郎(奈良先端大) / 渡邉 真也(室蘭工大)
幹事補佐氏名(和) 我妻 伸彦(東邦大) / 栗川 知己(関西医科大) / 岩田 具治(NTT) / 中村 篤祥(北大)
幹事補佐氏名(英) Nobuhiko Wagatsuma(Toho Univ.) / Tomoki Kurikawa(KMU) / Tomoharu Iwata(NTT) / Atsuyoshi Nakamura(Hokkaido Univ.)

講演論文情報詳細
申込み研究会 Technical Committee on Neurocomputing / Technical Committee on Infomation-Based Induction Sciences and Machine Learning / Special Interest Group on Bioinformatics and Genomics / Special Interest Group on Mathematical Modeling and Problem Solving
本文の言語 JPN
タイトル(和) NMFのための分散HALS法における平均合意アルゴリズムの単純化
サブタイトル(和)
タイトル(英) Simplification of Average Consensus Algorithm in Distributed HALS Algorithm for NMF
サブタイトル(和)
キーワード(1)(和/英) 非負値行列因子分解 / nonnegative matrix factorization
キーワード(2)(和/英) 階層的交互最小二乗法 / hierarchical alternating least squares algorithm
キーワード(3)(和/英) 分散計算 / distributed computation
キーワード(4)(和/英) 平均合意 / average consensus
キーワード(5)(和/英) マルチエージェントシステム / multi-agent system
第 1 著者 氏名(和/英) 林 京寿 / Keiju Hayashi
第 1 著者 所属(和/英) 岡山大学(略称:岡山大)
Okayama University(略称:Okayama Univ.)
第 2 著者 氏名(和/英) 右田 剛史 / Tsuyoshi Migita
第 2 著者 所属(和/英) 岡山大学(略称:岡山大)
Okayama University(略称:Okayama Univ.)
第 3 著者 氏名(和/英) 高橋 規一 / Norikazu Takahashi
第 3 著者 所属(和/英) 岡山大学(略称:岡山大)
Okayama University(略称:Okayama Univ.)
発表年月日 2021-06-28
資料番号 NC2021-3,IBISML2021-3
巻番号(vol) vol.121
号番号(no) NC-79,IBISML-80
ページ範囲 pp.15-22(NC), pp.15-22(IBISML),
ページ数 8
発行日 2021-06-21 (NC, IBISML)