Publications
CONFERENCE (DOMESTIC) Ladder Siamese Networkによるマルチレベル表現の自己教師あり学習
吉橋 亮太, 西村 修平, 米林 大, 大塚 雄也, 田中 智大, 宮崎 崇史
第25回 画像の認識・理解シンポジウム (MIRU 2022)
July 26, 2022
Siameseネットワークによる自己教師あり学習は しばしば学習時の遅い収束と不安定な挙動に悩まされる． 本稿では自己教師あり学習の安定化のために， 深層ネットワークの各レベルの中間層へ自己教示を付与する枠組み， Ladder Siamese構造を提案する． Siameseネットワークに基づく自己教師あり学習においては， 中間表現同士を比較する損失関数を導入し 各層にデータ拡張の差異に対する一貫性を明示的に学習させることで 中間層への自己教示を実現できる． 実験により，中間層自己教示によって代表的な自己教師あり学習 であるBYOLに基づく学習の安定化と精度改善が実現できることを示す． ポスター