| 講演名 | 2023-05-19 Split Computingの実機を用いた実験評価 依田 光仁(東工大), 太田 翔己(東工大), 前島 航太(東工大), 小寺 奏怜(東工大), 堀川 裕太郎(東工大), 西尾 理志(東工大), 福井 公三(エースコード), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | SC (Split computing)と呼ばれるDNN（Deep Neural Network）を用いた推論が注目を集めている． SCは，IoT機器などのリソースに制約のあるデバイスとサーバを連携して実現するための技術である．従来の機械学習アプリケーションでは，データを取得したデバイスで推論処理を実行するオンデバイス型や，デバイスからクラウド/エッジサーバにデータを送信し処理するクラウド/エッジ型が用いられてきた．しかし，オンデバイス型では，デバイスの計算能力が低い場合に大きな処理遅延が発生し，クラウド/エッジ型では生の観測データを送信するため個人情報流出のリスクがある．SCではデバイスとエッジサーバが協調してDNNを用いた推論処理を行うことで処理遅延や個人情報流出のリスクを低減する．我々はSCをDockerコンテナを用いた仮想端末上に実装しTCコマンドによるネットワークエミュレーションを用いた実験評価を行った．具体的には，学習モデルの管理と推論指示を行うクラウドサーバと，分散推論処理を実行するエッジサーバおよびIoTデバイスの3種類のノードを定義し，任意の分割点によるSCや送信データを圧縮する機能を実装した．実験によりパケット損失率が大きいとき分割点を変えることで遅延や精度が変化することを示した． |
| 抄録(英) | Machine learning (ML) inference using Deep Neural Network (DNN) with a technique called Split Computing (SC) has attracted attention. SC is a technology for realizing ML applications by coordinating devices with resource-constrained IoT devices and servers. Conventional ML applications have used on-device types, in which inference processing is performed on the device where data is acquired, and cloud/edge types, in which data is sent from the device to the cloud/edge server for processing. However, in on-device types, significant processing delays occur when the device’s computing power is low, and in cloud/edge types, there is a risk of personal information leakage because raw observation data is sent. With SC, processing delays and risks of personal information leakage can be reduced by collaboratively performing inference processing using DNN between devices and edge servers. We implemented SC on a virtual terminal using Docker containers and conducted experimental evaluations using network emulation with the TC command. Specifically, we defined three types of nodes: a cloud server that manages learning models and inference instructions, an edge server that executes distributed inference processing, and IoT devices. We also implemented a function to compress SC and transmitted data at any split point. The experiments demonstrated that changing the split point when the packet loss rate is high can affect the latency and accuracy. |
| キーワード(和) | Split computing / 機械学習 / 無線LAN |
| キーワード(英) | Split computing / Machine learning / Wireless LAN |
| 資料番号 | SeMI2023-12 |
| 発行日 | 2023-05-11 (SeMI) |
| 研究会情報 | |
| 研究会 | SeMI / IPSJ-ITS / IPSJ-MBL / IPSJ-DPS |
|---|---|
| 開催期間 | 2023/5/18(から2日開催) |
| 開催地（和） | 沖縄科学技術大学院大学（OIST） |
| 開催地（英） | Okinawa Institute of Science and Technology (OIST) |
| テーマ（和） | センサネットワーク，モバイルインテリジェンス，分散コンピューティング，ITS，スマートコミュニティ，モバイルコンピューティング，パーベイシブシステム，一般 |
| テーマ（英） | |
| 委員長氏名（和） | 山本 高至(京大) / 徳永 雄一(金沢工業大学) / 山口 弘純(大阪大学) / 菅沼 拓夫(東北大学) |
| 委員長氏名（英） | Koji Yamamoto(Kyoto Univ.) / Yuichi Tokunaga(Kanazawa Institute of Technology) / Hirozumi Yamaguchi(Osaka University) / Takuo Suganuma(Tohoku University) |
| 副委員長氏名（和） | 門田 和也(日立) / 大和田 泰伯(NICT) / 猿渡 俊介(阪大) |
| 副委員長氏名（英） | Kazuya Monden(Hitachi) / Yasunori Owada(NICT) / Shunsuke Saruwatari(Osaka Univ.) |
| 幹事氏名（和） | 勝間田 優樹(NTTドコモ) / 中山 悠(東京農工大) / 内山 彰(阪大) |
| 幹事氏名（英） | Yuki Katsumata(NTT DOCOMO) / Yu Nakayama(Tokyo Univ. of Agri. and Tech.) / Akira Uchiyama(Osaka Univ.) |
| 幹事補佐氏名（和） | 松田 裕貴(奈良先端大) / 田谷 昭仁(青学大) / 平井 健士(阪大) |
| 幹事補佐氏名（英） | Yuki Matsuda(NAIST) / Akihito Taya(Aoyama Gakuin Univ.) / Takeshi Hirai(Osaka Univ.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Sensor Network and Mobile Intelligence / Special Interest Group on Intelligent Transport Systems and Smart Community / Special Interest Group on Mobile Computing and Smart Society System / Special Interest Group on Distributed Processing System |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | Split Computingの実機を用いた実験評価 |
| サブタイトル（和） | |
| タイトル（英） | Experimental evaluation of Split computing using actual device |
| サブタイトル（和） | |
| キーワード(1)（和/英） | Split computing / Split computing |
| キーワード(2)（和/英） | 機械学習 / Machine learning |
| キーワード(3)（和/英） | 無線LAN / Wireless LAN |
| 第 1 著者 氏名（和/英） | 依田 光仁 / Kojin Yorita |
| 第 1 著者 所属（和/英） | 東京工業大学(略称：東工大) Tokyo Institute of Technology(略称：Tokyo Tech) |
| 第 2 著者 氏名（和/英） | 太田 翔己 / Shoki Ohta |
| 第 2 著者 所属（和/英） | 東京工業大学(略称：東工大) Tokyo Institute of Technology(略称：Tokyo Tech) |
| 第 3 著者 氏名（和/英） | 前島 航太 / Kota Maejima |
| 第 3 著者 所属（和/英） | 東京工業大学(略称：東工大) Tokyo Institute of Technology(略称：Tokyo Tech) |
| 第 4 著者 氏名（和/英） | 小寺 奏怜 / Kanare Kodera |
| 第 4 著者 所属（和/英） | 東京工業大学(略称：東工大) Tokyo Institute of Technology(略称：Tokyo Tech) |
| 第 5 著者 氏名（和/英） | 堀川 裕太郎 / Yutaro Horikawa |
| 第 5 著者 所属（和/英） | 東京工業大学(略称：東工大) Tokyo Institute of Technology(略称：Tokyo Tech) |
| 第 6 著者 氏名（和/英） | 西尾 理志 / Takayuki Nishio |
| 第 6 著者 所属（和/英） | 東京工業大学(略称：東工大) Tokyo Institute of Technology(略称：Tokyo Tech) |
| 第 7 著者 氏名（和/英） | 福井 公三 / Kozo Fukui |
| 第 7 著者 所属（和/英） | エースコード(略称：エースコード) AceCode(略称：AceCode) |
| 発表年月日 | 2023-05-19 |
| 資料番号 | SeMI2023-12 |
| 巻番号（vol） | vol.123 |
| 号番号（no） | SeMI-31 |
| ページ範囲 | pp.50-52(SeMI), |
| ページ数 | 3 |
| 発行日 | 2023-05-11 (SeMI) |