全ては収束する〜ボルツマン方程式とResNetにみるtrend to equilibrium~
ご無沙汰しております。真空です。今年ももうアドベントカレンダーの時期がやってきました。
昨年の12月が3ヶ月前に思える今日この頃ですが、みなさんはどうでしょうか?
今年は東京大学航空宇宙工学科/専攻 Advent Calendar 2020一日目、ならびに物工/計数 Advent Calendar 2020二日目の二つの記事として書くことになりました。
年を食うと所属が変わったり増えたりするものですが、こんな感じでだんだん書くアドベントカレンダーも増えていくんでしょうね。大変です・・・今年も既に大変だったので・・・。
大変だったので今年はmathlogという数式が打ちやすいと話題のやつで記事を書きました。こっちに移植しようとしたのですが失敗したので以下に貼り付けるにとどめます。
内容を一言でまとめると
適切に学習された(推定対象から適切にパラメータが定められた)ResNetの層方向への情報伝達は、運動則に基づくBoltzmann方程式のtrend to equilibriumだと理解できる
です。気になったら見てみてください。
ではでは皆さん良い12月を〜〜