共有CNNを利用した高効率な推論向けマルチタスクニューラルネットワークの分割手法と評価

平賀 由利亜(1751101)


実用的な深層学習アプリケーションとして、一つのIoTデバイスで取得したセンサーデータをネッ トワークを経由して複数のサーバーに転送し、それぞれ別のタスクの深層学習の推論を行うモデルを考 える。画像のようなデータサイズの大きいセンサーデータを送る場合、転送先の数だけセンサーデータを送 る必要があり、ネットワークの輻輳問題が発生するため、行うタスク数に限りが出る。 paragraph delimiter 本稿では深層学習アプリケーションにおけるネットワークの輻輳問題とクラウドへの計算負荷の集中を軽減するため、 マルチタスクにおける共有CNNを用いた深層学習の推論の分割と中間データを圧縮する手法を提案し、 提案するモデルにおけるRGB画像に共通の前処理をしたものを入力とした共有可能なタスクと 全体計算量、転送データサイズの削減割合について調査を行う。 ILSVRC2012の物体認識タスクとPASCAL VOCの物体検出タスクに対して 中間データの圧縮にBPG圧縮を利用した場合、 共有CNNにVGG16を使用すると 物体認識タスクでは圧縮前のモデルの精度と比較するとTop1ではVGG16は2.11%、MobileNetV2は2.59%の精度の劣化を示し、 物体検出タスクではSSD300と比較をするとVGG16は19.93%、MobileNetV2は14.91%の精度を劣化を示した。 同時に、VGG16を使用した場合に全体計算量を42.30%、データ転送量の36.19%の削減を行った。 MobileNetV2では全体計算量を10.83%削減し、データ転送量の68.70%の削減を行った。 paragraph delimiter