xii
Contents
5 Sampling .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 77
5.1 Central Limit Theorem and Its Role in Machine Learning .. . . . . . . . 78
5.2 Various Sampling Methods . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 84
5.2.1 Inverse Transform Sampling . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 85
5.2.2 Rejection Sampling .. . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 87
5.2.3 Markov Chain . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 88
5.2.4 Master Equation and the Principle of Detailed
Balance .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 92
5.2.5 Expectation Value Calculation Using Markov
chains, and Importance Sampling.. . . . .. . . . . . . . . . . . . . . . . . . . 94
5.3 Sampling Method with the Detailed Balance . . .. . . . . . . . . . . . . . . . . . . . 96
5.3.1 Metropolis Method . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 96
5.3.2 Heatbath Method . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 97
Column: From Ising Model to Hopfield Model . . . . . . . .. . . . . . . . . . . . . . . . . . . . 99
6 Unsupervised Deep Learning.. . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 103
6.1 Unsupervised Learning . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 103
6.2 Boltzmann Machine .. . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 104
6.2.1 Restricted Boltzmann Machine . . . . . . . .. . . . . . . . . . . . . . . . . . . . 105
6.3 Generative Adversarial Network . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 109
6.3.1 Energy-Based GAN . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 112
6.3.2 Wasserstein GAN . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 116
6.4 Generalization in Generative Models . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 119
Column: Self-learning Monte Carlo method . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 125
Part II Applications to Physics
7 Inverse Problems in Physics . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 129
7.1 Inverse Problems and Learning .. . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 129
7.2 Regularization in Inverse Problems . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 132
7.3 Inverse Problems and Physical Machine Learning . . . . . . . . . . . . . . . . . 134
Column: Sparse Modeling .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 136
8 Detection of Phase Transition by Machines . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 139
8.1 What is Phase Transition? . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 139
8.2 Detecting Phase Transition by a Neural Network . . . . . . . . . . . . . . . . . . 141
8.3 What the Neural Network Sees . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 143
9 Dynamical Systems and Neural Networks . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 147
9.1 Differential Equations and Neural Networks . . .. . . . . . . . . . . . . . . . . . . . 147
9.2 Representation of Hamiltonian Dynamical System.. . . . . . . . . . . . . . . . 151
10 Spinglass and Neural Networks .. . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 157
10.1 Hopfield Model and Spinglass .. . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 158
10.2 Memory and Attractor . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 161
10.3 Synchronization and Layering .. . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 163
Contents
5 Sampling .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 77
5.1 Central Limit Theorem and Its Role in Machine Learning .. . . . . . . . 78
5.2 Various Sampling Methods . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 84
5.2.1 Inverse Transform Sampling . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 85
5.2.2 Rejection Sampling .. . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 87
5.2.3 Markov Chain . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 88
5.2.4 Master Equation and the Principle of Detailed
Balance .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 92
5.2.5 Expectation Value Calculation Using Markov
chains, and Importance Sampling.. . . . .. . . . . . . . . . . . . . . . . . . . 94
5.3 Sampling Method with the Detailed Balance . . .. . . . . . . . . . . . . . . . . . . . 96
5.3.1 Metropolis Method . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 96
5.3.2 Heatbath Method . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 97
Column: From Ising Model to Hopfield Model . . . . . . . .. . . . . . . . . . . . . . . . . . . . 99
6 Unsupervised Deep Learning.. . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 103
6.1 Unsupervised Learning . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 103
6.2 Boltzmann Machine .. . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 104
6.2.1 Restricted Boltzmann Machine . . . . . . . .. . . . . . . . . . . . . . . . . . . . 105
6.3 Generative Adversarial Network . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 109
6.3.1 Energy-Based GAN . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 112
6.3.2 Wasserstein GAN . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 116
6.4 Generalization in Generative Models . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 119
Column: Self-learning Monte Carlo method . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 125
Part II Applications to Physics
7 Inverse Problems in Physics . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 129
7.1 Inverse Problems and Learning .. . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 129
7.2 Regularization in Inverse Problems . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 132
7.3 Inverse Problems and Physical Machine Learning . . . . . . . . . . . . . . . . . 134
Column: Sparse Modeling .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 136
8 Detection of Phase Transition by Machines . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 139
8.1 What is Phase Transition? . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 139
8.2 Detecting Phase Transition by a Neural Network . . . . . . . . . . . . . . . . . . 141
8.3 What the Neural Network Sees . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 143
9 Dynamical Systems and Neural Networks . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 147
9.1 Differential Equations and Neural Networks . . .. . . . . . . . . . . . . . . . . . . . 147
9.2 Representation of Hamiltonian Dynamical System.. . . . . . . . . . . . . . . . 151
10 Spinglass and Neural Networks .. . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 157
10.1 Hopfield Model and Spinglass .. . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 158
10.2 Memory and Attractor . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 161
10.3 Synchronization and Layering .. . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 163