大阪大学　数理・データ科学教育研究センター
Center for Mathematical Modeling and Data Science,Osaka University

深層学習の統計力学

吉野 元 氏（大阪大学サイバーメディアセンター 大規模計算科学研究部門 教授）

1. ホーム
2. セミナー・集中講義
3. AI・データ利活用研究会
4. 深層学習の統計力学

AI・データ利活用研究会 第66回

深層学習の統計力学

吉野 元 氏（大阪大学サイバーメディアセンター 大規模計算科学研究部門 教授）

深層ニューラルネットワーク(DNN)を用いた機械学習は実用上大成功を収めつつありますが、DNNは現状ではブラックボックスです。このセミナーでは理論物理学の手法の一つである統計力学を用いてこのブラックボックスの中身の解明を目指して進めつつある我々の研究を紹介します。統計力学は原子・分子など、ミクロな世界を支配する力学法則から、これとはスケールがかけ離れた、マクロな世界に現れる現象（例えば水分子の集団が、摂氏0度で液体から固体に相転移することなど）を説明することに成功してきました。また統計力学は、これまでにも誤り訂正符号の性能評価など、情報理論の問題の解析にも威力を発揮し、情報統計力学と呼ばれる分野が形成されています。DNNの中の個々のパーツがどのように作動しているかは明白です。しかしDNNは巨大なマシンであり、扱うデータも膨大であり、深層学習はマクロな現象です。深層学習を支配するマクロな法則があるのか?それがミクロなレベルから第一原理的に理解しうるのか? はとても興味深い問題と言えます。