当研究室の論文
Takumi Morikawa and Keisuke Kameyama
"Multi-Stage Model Compression using Teacher Assistant and Distillation with Hint-Based Training",
が，2022/3/25に開催された First Workshop on Pervasive and Resource-Constrained Artificial Intelligence (PerConAI) (20th IEEE International Conference on Pervasive Computing and Communications (PerCom 2022)併催) において発表されました．同研究は畳み込みニューラルネットワーク (CNN) のモデル圧縮を，蒸留 (distillation) とヒント学習を多段階で適用することで実現する手法を提案しており，一般物体画像認識問題において，ResNet50などのCNNモデルを認識性能を維持つつパラメータ数が約1/8の，より層数の多いネットワークに圧縮することができることを示しました．