講演名 2022-09-15
One-cut Network Pruning at Initialization with Explainable Image Concepts
楊 一楠(立命館大), 吉 頴(名大), 王 ユウ(一橋大), 加藤 ジェーン(立命館大),
PDFダウンロードページ PDFダウンロードページへ
抄録(和)
抄録(英) Recent research investigates the feasibility of one-cut network pruning at initialization (OPAI). SNIP and GraSP are two representative OPAI methods. Recent work asserts SNIP and GraSP are data-independent as they are robust with random corrupting labels or pixels. It indicates that OPAI ``hardly exploits any information from training data''. However, we obtain an opposite conclusion by proposing Concept-based One-cut Network Pruning (COP) and Super Stitching sampling strategy. COP and Super Stitching extract high-level visual concepts from the dataset with ranking and then prunes the network by these concepts. We find that: (1) The COP and ablation experiments reveal that the OPAI is data dependent. (2) Super Stitching performs better than the original OPAI method on benchmark ImageNet using concepts rather than random images. COP and Super Stitching, in contrast to existing human-unfriendly pruning methods, employ genuine explainable visual concepts rather than blind pruning.
キーワード(和)
キーワード(英) Network PruningDiscriminativeExplainable Image Concepts
資料番号 PRMU2022-18
発行日 2022-09-07 (PRMU)

研究会情報
研究会 PRMU
開催期間 2022/9/14(から2日開催)
開催地(和) 慶應義塾大学 矢上キャンパス
開催地(英)
テーマ(和) 深層生成モデル
テーマ(英) Deep generative model
委員長氏名(和) 内田 誠一(九大)
委員長氏名(英) Seiichi Uchida(Kyushu Univ.)
副委員長氏名(和) 舩冨 卓哉(奈良先端大) / 安倍 満(デンソーアイティーラボラトリ)
副委員長氏名(英) Takuya Funatomi(NAIST) / Mitsuru Anpai(Denso IT Lab.)
幹事氏名(和) 山口 光太(サイバーエージェント) / 松井 勇佑(東大)
幹事氏名(英) Kouta Yamaguchi(CyberAgent) / Yusuke Matsui(Univ. of Tokyo)
幹事補佐氏名(和) 井上 中順(東工大) / 川西 康友(理研)
幹事補佐氏名(英) Nakamasa Inoue(Tokyo Inst. of Tech.) / Yasutomo Kawanishi(Riken)

講演論文情報詳細
申込み研究会 Technical Committee on Pattern Recognition and Media Understanding
本文の言語 ENG
タイトル(和)
サブタイトル(和)
タイトル(英) One-cut Network Pruning at Initialization with Explainable Image Concepts
サブタイトル(和)
キーワード(1)(和/英) / Network PruningDiscriminativeExplainable Image Concepts
第 1 著者 氏名(和/英) 楊 一楠 / Yinan Yang
第 1 著者 所属(和/英) 立命館大学(略称:立命館大)
Ritsumeikan University(略称:Rits Univ.)
第 2 著者 氏名(和/英) 吉 頴 / Ying Ji
第 2 著者 所属(和/英) 名古屋大学(略称:名大)
Nagoya University(略称:Nagoya Univ.)
第 3 著者 氏名(和/英) 王 ユウ / Yu Wang
第 3 著者 所属(和/英) 一橋大学(略称:一橋大)
Hitotsubashi University(略称:Hitotsubashi Univ.)
第 4 著者 氏名(和/英) 加藤 ジェーン / Jien Kato
第 4 著者 所属(和/英) 立命館大学(略称:立命館大)
Ritsumeikan University(略称:Rits Univ.)
発表年月日 2022-09-15
資料番号 PRMU2022-18
巻番号(vol) vol.122
号番号(no) PRMU-181
ページ範囲 pp.49-54(PRMU),
ページ数 6
発行日 2022-09-07 (PRMU)