講演抄録/キーワード |
講演名 |
2022-08-26 15:33
Locally-Structured Unitary Network to Capture Tangent Spaces of Manifold ○Godage Yasas・Shogo Muramatsu(Niigata Univ.) SIP2022-75 |
抄録 |
(和) |
本研究では,データに潜む多様体の接線空間を捉える独自の線形変換,局所構造化ユニタリネットワーク(LSUN)を提案し,体系的で解釈性の高いデータ駆動型の次元削減を可能とする.LSUN は,変換全体のユニタ リ性の制約のもと,局所的かつ適応的に制御可能な線形変換を実現する.畳み込みにはないシフト可変性を,畳み 込みと同様の重複性と局所性をもって実現する.提案する線形構造は,多様体学習の代替手法として利用できる.既存のフィルタバンクは畳み込み構造で固定されたフィルタカーネルを利用するために,シフト可変性を欠く.ス
パースモデリングなどフィルタカーネルを局所的に選別することで接空間を捉えられるが,学習をとおして得られ るフィルタカーネルは冗長となり,フィルタそのものの解釈性も低い.我々はこれらの問題を解決するために非分 離冗長重複変換(NSOLT)の多層構造にヒントを得て,ユニタリ性を保存する回転層,シフト層,バタフライ層な どの線形変換を組合せ,局所的に座標軸を制御する手法を提案する.低次元近似とノイズ除去の実験をとおして提 案法 LSUN の有効性を確認する.また,LSUN が接線空間を捉える手法となり得ることも示す |
(英) |
This work proposes a unique linear transform, locally-structured unitary network (LSUN), that captures tangent spaces of a manifold latent in data, enabling systematic and highly interpretable data-driven dimensionality reduction. LSUN introduces shift variability to the system with locally and adaptively controllable linear layer under the structural constraint of global unitarity. It provides shift variability that convolution does not, with the same overlap and locality as convolution. The proposed method can be an alternative method for realizing manifold learning. Existing filter-bank based transforms lack the shift-variability because they use fixed filter kernels in a convolutional structure. Local selection of filter kernels, such as sparse modeling, can capture tangent spaces, but the filter kernels obtained through training are redundant and the filters themselves are not very interpretable. To solve these problems, we propose a method to locally control coordinate axes by combining linear transforms such as rotation, shift, and butterfly layers that preserve unitarity, inspired by the multilayer structure of the non-separable oversampled
lapped transform (NSOLT). The significance of the proposed LSUN is verified through low-dimensional approximation and noise reduction experiments. As well, it is also shown that LSUN can be an approach for capturing tangent spaces. |
キーワード |
(和) |
接空間学習 / シフト可変性 / ユニタリ性 / 線形変換 / 自己教師あり学習 / / / |
(英) |
Tangent space learning / shift variability / unitarity / linear transforms / self-supervised learning / / / |
文献情報 |
信学技報, vol. 122, no. 165, SIP2022-75, pp. 129-133, 2022年8月. |
資料番号 |
SIP2022-75 |
発行日 |
2022-08-18 (SIP) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
SIP2022-75 |