Contents

1 The Methodology of Statistical Mechanics 1

1.1 Terminology and Methodology . . . . . . . . . . . . . . . . . . 1
1.1.1 Approaches to the subject . . . . . . . . . . . . . . . . 1
1.1.2 Description of states . . . . . . . . . . . . . . . . . . . 2
1.1.3 Extensivity and the Thermodynamic Limit . . . . . . . 3
1.2 The Fundamental Principles . . . . . . . . . . . . . . . . . . . 4
1.2.1 The Laws of Thermodynamics . . . . . . . . . . . . . . 4
1.2.2 Probabilistic interpretation of the First Law . . . . . . 5
1.2.3 Microscopic Basis for Entropy . . . . . . . . . . . . . . 7
1.3 Interactions – The Conditions for Equilibrium . . . . . . . . . 7
1.3.1 Thermal Interaction – Temperature . . . . . . . . . . . 8
1.3.2 Volume change – Pressure . . . . . . . . . . . . . . . . 10
1.3.3 Particle interchange – chemical potential . . . . . . . . 12
1.3.4 Thermal interaction with the rest of the world – the
Boltzmann factor . . . . . . . . . . . . . . . . . . . . . 13
1.3.5 Particle and energy exchange with the rest of the world
– the Gibbs factor . . . . . . . . . . . . . . . . . . . . 15
1.4 Thermodynamic Averages . . . . . . . . . . . . . . . . . . . . 17
1.4.1 The Partition Function . . . . . . . . . . . . . . . . . . 17
1.4.2 Gibbs Expression for Entropy . . . . . . . . . . . . . . 17
1.4.3 Free Energy . . . . . . . . . . . . . . . . . . . . . . . . 19
1.4.4 Thermodynamic Variables . . . . . . . . . . . . . . . . 20
1.4.5 The beta trick . . . . . . . . . . . . . . . . . . . . . . . 21
1.4.6 Fluctuations . . . . . . . . . . . . . . . . . . . . . . . . 22
1.4.7 The Grand Partition Function . . . . . . . . . . . . . . 24
1.4.8 The Grand Potential . . . . . . . . . . . . . . . . . . . 25
1.4.9 Thermodynamic variables . . . . . . . . . . . . . . . . 26
1.5 Quantum Distributions . . . . . . . . . . . . . . . . . . . . . . 27
1.5.1 Bosons and Fermions . . . . . . . . . . . . . . . . . . . 27
1.5.2 Grand Potential for Identical Particles . . . . . . . . . 29

vii
viii CONTENTS

1.5.3 The Fermi-Dirac Distribution . . . . . . . . . . . . . . 30

1.5.4 The Bose-Einstein Distribution . . . . . . . . . . . . . 31
1.5.5 The Classical Limit – The Maxwell-Boltzmann Distri-
bution . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
1.6 Classical Statistical Mechanics . . . . . . . . . . . . . . . . . . 33
1.6.1 Phase Space and Classical States . . . . . . . . . . . . 33
1.6.2 Boltzmann and Gibbs Phase Spaces . . . . . . . . . . . 35
1.6.3 The Fundamental Postulate in the Classical Case . . . 36
1.6.4 The classical partition function . . . . . . . . . . . . . 36
1.6.5 The equipartition theorem . . . . . . . . . . . . . . . . 36
1.6.6 Consequences of equipartition . . . . . . . . . . . . . . 38
1.6.7 Liouville’s theorem . . . . . . . . . . . . . . . . . . . . 40
1.6.8 Boltzmann’s H theorem . . . . . . . . . . . . . . . . . 41
1.7 The Third Law of thermodynamics . . . . . . . . . . . . . . . 43
1.7.1 History of the Third Law . . . . . . . . . . . . . . . . . 43
1.7.2 Entropy . . . . . . . . . . . . . . . . . . . . . . . . . . 44
1.7.3 Quantum viewpoint . . . . . . . . . . . . . . . . . . . . 45
1.7.4 Unattainability of absolute zero . . . . . . . . . . . . . 47
1.7.5 Heat capacity at low temperatures . . . . . . . . . . . 47
1.7.6 Other consequences of the Third Law . . . . . . . . . . 49
1.7.7 Pessimist’s statement of the laws of thermodynamics . 51
Bibliography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54

2 Practical Calculations with Ideal Systems 57

2.1 The Density of States . . . . . . . . . . . . . . . . . . . . . . . 57
2.1.1 Non-interacting systems . . . . . . . . . . . . . . . . . 57
2.1.2 Converting sums to integrals . . . . . . . . . . . . . . . 57
2.1.3 Enumeration of states . . . . . . . . . . . . . . . . . . 58
2.1.4 Counting states . . . . . . . . . . . . . . . . . . . . . . 59
2.1.5 General expression for the density of states . . . . . . . 61
2.1.6 General relation between pressure and energy . . . . . 62
2.2 Identical Particles . . . . . . . . . . . . . . . . . . . . . . . . . 64
2.2.1 Indistinguishability . . . . . . . . . . . . . . . . . . . . 64
2.2.2 Classical approximation . . . . . . . . . . . . . . . . . 65
2.3 The Ideal Gas . . . . . . . . . . . . . . . . . . . . . . . . . . . 65
2.3.1 Quantum approach . . . . . . . . . . . . . . . . . . . . 65
2.3.2 Classical approach . . . . . . . . . . . . . . . . . . . . 67
2.3.3 Thermodynamic properties . . . . . . . . . . . . . . . . 67
2.3.4 The 1/N ! term in the partition function . . . . . . . . 69
2.3.5 Entropy of mixing . . . . . . . . . . . . . . . . . . . . 70
2.4 The Quantum Gas . . . . . . . . . . . . . . . . . . . . . . . . 72
CONTENTS ix

2.4.1 Methodology for quantum gases . . . . . . . . . . . . . 72

2.5 Fermi Gas at Low Temperatures . . . . . . . . . . . . . . . . . 74
2.5.1 Ideal Fermi gas at zero temperature . . . . . . . . . . . 74
2.5.2 Fermi gas at low temperatures – simple model . . . . . 77
2.5.3 Fermi gas at low temperatures – series expansion . . . 79
2.5.4 More general treatment of low temperature heat capacity 85
2.6 Bose Gas at Low Temperatures . . . . . . . . . . . . . . . . . 88
2.6.1 General procedure for treating the Bose gas . . . . . . 88
2.6.2 Ground state occupation . . . . . . . . . . . . . . . . . 89
2.6.3 Number of particles – chemical potential . . . . . . . . 90
2.6.4 Low temperature behaviour of Bose gas . . . . . . . . . 90
2.6.5 Thermal capacity of Bose gas – below Tc . . . . . . . . 93
2.6.6 Comparison with Superfluid 4 He and other systems . . 94
2.6.7 Two-fluid model of superfluid 4 He . . . . . . . . . . . . 96
2.6.8 Elementary excitations . . . . . . . . . . . . . . . . . . 98
2.7 Quantum Gas at High Temperatures – the Classical Limit . . 99
2.7.1 General treatment for Fermi, Bose and Maxwell Cases 99
2.7.2 Quantum energy parameter . . . . . . . . . . . . . . . 100
2.7.3 Chemical potential . . . . . . . . . . . . . . . . . . . . 101
2.7.4 Internal energy . . . . . . . . . . . . . . . . . . . . . . 102
2.7.5 Equation of state . . . . . . . . . . . . . . . . . . . . . 103
2.8 Black body radiation – the photon gas . . . . . . . . . . . . . 103
2.8.1 Photons as quantized electromagnetic waves . . . . . . 103
2.8.2 Photons in thermal equilibrium – black body radiation 105
2.8.3 Planck’s formula . . . . . . . . . . . . . . . . . . . . . 106
2.8.4 Internal energy and heat capacity . . . . . . . . . . . . 107
2.8.5 Black body radiation in one dimension – Johnson noise 109
2.9 Ideal Paramagnet . . . . . . . . . . . . . . . . . . . . . . . . . 111
2.9.1 Partition function and free energy . . . . . . . . . . . . 111
2.9.2 Thermodynamic properties . . . . . . . . . . . . . . . . 112
2.9.3 Negative temperatures . . . . . . . . . . . . . . . . . . 116
2.9.4 Thermodynamics of negative temperatures . . . . . . . 118
2.10 Fermi gas magnetic susceptibility . . . . . . . . . . . . . . . . 121
2.10.1 Magnetization at zero temperature . . . . . . . . . . . 121
2.11 Atoms in a harmonic trap . . . . . . . . . . . . . . . . . . . . 122
2.11.1 Enumeration and counting of states . . . . . . . . . . . 123
2.11.2 Fermi energy – fermions . . . . . . . . . . . . . . . . . 125
Bibliography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 130
x CONTENTS

3 Non-ideal Gases 133

3.1 Statistical Mechanics of Interacting Particles . . . . . . . . . . 133
3.1.1 The partition function . . . . . . . . . . . . . . . . . . 133
3.1.2 Cluster expansion . . . . . . . . . . . . . . . . . . . . . 134
3.1.3 Low density approximation . . . . . . . . . . . . . . . 135
3.1.4 Equation of state . . . . . . . . . . . . . . . . . . . . . 137
3.2 The Virial Expansion . . . . . . . . . . . . . . . . . . . . . . . 137
3.2.1 Virial coefficients . . . . . . . . . . . . . . . . . . . . . 137
3.2.2 Hard core potential . . . . . . . . . . . . . . . . . . . . 138
3.2.3 Square-well potential . . . . . . . . . . . . . . . . . . . 140
3.2.4 Lennard-Jones potential . . . . . . . . . . . . . . . . . 141
3.2.5 The Sutherland potential . . . . . . . . . . . . . . . . . 145
3.2.6 Comparison of models . . . . . . . . . . . . . . . . . . 148
3.2.7 Universal behaviour . . . . . . . . . . . . . . . . . . . . 149
3.2.8 Quantum gases – the special case(s) of helium . . . . . 150
3.3 Thermodynamics . . . . . . . . . . . . . . . . . . . . . . . . . 154
3.3.1 Throttling . . . . . . . . . . . . . . . . . . . . . . . . . 154
3.3.2 Joule-Thomson coefficient . . . . . . . . . . . . . . . . 156
3.3.3 Connection with the second virial coefficient . . . . . . 157
3.3.4 Inversion temperature . . . . . . . . . . . . . . . . . . 158
3.4 Van der Waals Equation of State . . . . . . . . . . . . . . . . 159
3.4.1 Approximating the Partition Function . . . . . . . . . 159
3.4.2 Van der Waals Equation . . . . . . . . . . . . . . . . . 160
3.4.3 Estimation of van der Waals Parameters . . . . . . . . 162
3.4.4 Virial Expansion . . . . . . . . . . . . . . . . . . . . . 163
3.5 Other Phenomenological Equations of State . . . . . . . . . . 164
3.5.1 The Dieterici equation . . . . . . . . . . . . . . . . . . 164
3.5.2 The Berthelot equation . . . . . . . . . . . . . . . . . . 165
3.5.3 The Redlich-Kwong equation . . . . . . . . . . . . . . 165
3.6 Hard Sphere Gas . . . . . . . . . . . . . . . . . . . . . . . . . 166
3.6.1 Possible approaches . . . . . . . . . . . . . . . . . . . . 166
3.6.2 Hard Sphere Equation of state . . . . . . . . . . . . . . 168
3.6.3 Virial Expansion . . . . . . . . . . . . . . . . . . . . . 169
3.6.4 Virial Coefficients . . . . . . . . . . . . . . . . . . . . . 169
3.6.5 Carnahan and Starling procedure . . . . . . . . . . . . 170
3.6.6 Padé approximants . . . . . . . . . . . . . . . . . . . . 173
3.7 Bridge to the next chapter . . . . . . . . . . . . . . . . . . . . 175
3.7.1 Van der Waals model . . . . . . . . . . . . . . . . . . . 177
3.7.2 Hard sphere model . . . . . . . . . . . . . . . . . . . . 177
3.7.3 Other bit – Tabulation of - - - - - . . . . . . . . . . . . 181
Bibliography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 186
CONTENTS xi

4 Phase Transitions 189

4.1 Phenomenology . . . . . . . . . . . . . . . . . . . . . . . . . . 189
4.1.1 Basic ideas . . . . . . . . . . . . . . . . . . . . . . . . 189
4.1.2 Phase diagrams . . . . . . . . . . . . . . . . . . . . . . 191
4.1.3 Symmetry . . . . . . . . . . . . . . . . . . . . . . . . . 193
4.1.4 Order of phase transitions . . . . . . . . . . . . . . . . 194
4.1.5 The order parameter . . . . . . . . . . . . . . . . . . . 195
4.1.6 Conserved and non-conserved order parameters . . . . 197
4.1.7 Critical exponents . . . . . . . . . . . . . . . . . . . . . 197
4.1.8 The scaling hypothesis . . . . . . . . . . . . . . . . . . 199
4.1.9 Scaling of the free energy . . . . . . . . . . . . . . . . . 203
4.2 First order transition – an example . . . . . . . . . . . . . . . 204
4.2.1 Coexistence . . . . . . . . . . . . . . . . . . . . . . . . 204
4.2.2 Van der Waals fluid . . . . . . . . . . . . . . . . . . . . 206
4.2.3 The Maxwell construction . . . . . . . . . . . . . . . . 208
4.2.4 The critical point . . . . . . . . . . . . . . . . . . . . . 211
4.2.5 Corresponding states . . . . . . . . . . . . . . . . . . . 211
4.2.6 Dieterici’s equation . . . . . . . . . . . . . . . . . . . . 213
4.2.7 Quantum mechanical effects . . . . . . . . . . . . . . . 214
4.3 Second order transition – an example . . . . . . . . . . . . . . 216
4.3.1 The ferromagnet . . . . . . . . . . . . . . . . . . . . . 216
4.3.2 The Weiss model . . . . . . . . . . . . . . . . . . . . . 217
4.3.3 Spontaneous magnetization . . . . . . . . . . . . . . . 219
4.3.4 Critical behaviour . . . . . . . . . . . . . . . . . . . . . 221
4.3.5 Magnetic susceptibility . . . . . . . . . . . . . . . . . . 222
4.3.6 The ground state and Goldstone modes . . . . . . . . . 224
4.4 The Ising and other models . . . . . . . . . . . . . . . . . . . 226
4.4.1 Ubiquity of the Ising model . . . . . . . . . . . . . . . 226
4.4.2 Magnetic case of the Ising model . . . . . . . . . . . . 228
4.4.3 Ising model in one dimension . . . . . . . . . . . . . . 229
4.4.4 Ising model in two dimensions . . . . . . . . . . . . . . 230
4.4.5 Mean field critical exponents . . . . . . . . . . . . . . . 232
4.4.6 The XY model . . . . . . . . . . . . . . . . . . . . . . 235
4.4.7 The spherical model . . . . . . . . . . . . . . . . . . . 235
4.4.8 Universality classes . . . . . . . . . . . . . . . . . . . 236
4.5 Landau theory of phase transitions . . . . . . . . . . . . . . . 236
4.5.1 Landau free energy . . . . . . . . . . . . . . . . . . . . 236
4.5.2 Landau free energy for the ferromagnet . . . . . . . . . 237
4.5.3 Landau theory – second order transitions . . . . . . . . 241
4.5.4 Thermal capacity in the Landau model . . . . . . . . . 243
4.5.5 Ferromagnet in a magnetic field (really the Ising magnet)244
xii CONTENTS

4.6 Ferroelectricity . . . . . . . . . . . . . . . . . . . . . . . . . . 246

4.6.1 Description of the phenomenon . . . . . . . . . . . . . 246
4.6.2 Landau free energy . . . . . . . . . . . . . . . . . . . . 247
4.6.3 Second order case . . . . . . . . . . . . . . . . . . . . . 249
4.6.4 First order case . . . . . . . . . . . . . . . . . . . . . . 250
4.6.5 Entropy and latent heat at the transition . . . . . . . . 254
4.6.6 Soft modes . . . . . . . . . . . . . . . . . . . . . . . . 255
4.7 Binary mixtures . . . . . . . . . . . . . . . . . . . . . . . . . . 256
4.7.1 Basic ideas . . . . . . . . . . . . . . . . . . . . . . . . 256
4.7.2 Model calculation . . . . . . . . . . . . . . . . . . . . . 257
4.7.3 System energy . . . . . . . . . . . . . . . . . . . . . . . 257
4.7.4 Entropy . . . . . . . . . . . . . . . . . . . . . . . . . . 259
4.7.5 Free energy . . . . . . . . . . . . . . . . . . . . . . . . 259
4.7.6 Phase separation – the lever rule . . . . . . . . . . . . 261
4.7.7 Phase separation curve—the binodal . . . . . . . . . . 262
4.7.8 The spinodal curve . . . . . . . . . . . . . . . . . . . . 264
4.7.9 Entropy in the ordered phase . . . . . . . . . . . . . . 265
4.7.10 Thermal capacity in the ordered phase . . . . . . . . . 266
4.7.11 Order of the transition and the critical point . . . . . . 268
4.7.12 The critical exponent β . . . . . . . . . . . . . . . . . . 269
4.8 Quantum Phase Transitions . . . . . . . . . . . . . . . . . . . 271
4.8.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . 271
4.8.2 The transverse Ising model . . . . . . . . . . . . . . . . 272
4.8.3 Recap of mean field Ising model . . . . . . . . . . . . . 273
4.8.4 Application of a transverse field . . . . . . . . . . . . 275
4.8.5 Transition temperature . . . . . . . . . . . . . . . . . . 276
4.8.6 Quantum critical behaviour . . . . . . . . . . . . . . . 277
4.8.7 Dimensionality and critical exponents . . . . . . . . . . 278
4.9 Retrospective . . . . . . . . . . . . . . . . . . . . . . . . . . . 280
4.9.1 The existence of order . . . . . . . . . . . . . . . . . . 280
4.9.2 Validity of mean field theory . . . . . . . . . . . . . . . 282
4.9.3 Features of Different Phase Transition Models . . . . . 282
Bibliography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 288

5 Fluctuations and Dynamics 291

5.1 Fluctuations . . . . . . . . . . . . . . . . . . . . . . . . . . . . 292
5.1.1 Probability distribution functions . . . . . . . . . . . . 292
5.1.2 Average behaviour of fluctuations . . . . . . . . . . . . 294
5.1.3 The autocorrelation function . . . . . . . . . . . . . . . 298
5.1.4 The correlation time . . . . . . . . . . . . . . . . . . . 300
5.1.5 Spectral Density – the Wiener-Khintchine Theorem . . 301
CONTENTS xiii

5.2 Brownian Motion . . . . . . . . . . . . . . . . . . . . . . . . . 303

5.2.1 Kinematics of a Brownian particle . . . . . . . . . . . . 304
5.2.2 Short time limit . . . . . . . . . . . . . . . . . . . . . . 306
5.2.3 Long time limit . . . . . . . . . . . . . . . . . . . . . . 307
5.2.4 Equipartition . . . . . . . . . . . . . . . . . . . . . . . 309
5.3 Langevin’s Equation . . . . . . . . . . . . . . . . . . . . . . . 309
5.3.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . 309
5.3.2 Separation of forces . . . . . . . . . . . . . . . . . . . . 310
5.3.3 The Langevin equation . . . . . . . . . . . . . . . . . . 312
5.3.4 Velocity autocorrelation function . . . . . . . . . . . . 314
5.3.5 Mean square velocity and equipartition . . . . . . . . . 315
5.3.6 Diffusion Coefficient . . . . . . . . . . . . . . . . . . . 315
5.3.7 Harmonically bound particle . . . . . . . . . . . . . . . 316
5.3.8 Equipartition and mean-square values . . . . . . . . . . 318
5.3.9 Electrical analogue of the Langevin equation . . . . . . 320
5.4 Linear Response I – Phenomenology . . . . . . . . . . . . . . 321
5.4.1 Definitions and assumptions . . . . . . . . . . . . . . . 321
5.4.2 Response to a harmonic excitation . . . . . . . . . . . 324
5.4.3 Fourier representation . . . . . . . . . . . . . . . . . . 326
5.4.4 Response to a step excitation . . . . . . . . . . . . . . 327
5.4.5 Response to a “shock” or delta function excitation . . . 328
5.4.6 *Response to a Noise Excitation . . . . . . . . . . . . . 329
5.4.7 Consequence of the reality of X(t) . . . . . . . . . . . 331
5.4.8 Consequence of causality ????? . . . . . . . . . . . . . 332
5.4.9 Consequence of causality . . . . . . . . . . . . . . . . . 334
5.4.10 Energy considerations . . . . . . . . . . . . . . . . . . 336
5.4.11 Static susceptibility . . . . . . . . . . . . . . . . . . . . 337
5.4.12 Relaxation time approximation . . . . . . . . . . . . . 339
5.5 Linear Response II – Microscopics . . . . . . . . . . . . . . . . 340
5.5.1 Onsager’s hypothesis . . . . . . . . . . . . . . . . . . . 340
5.5.2 Nyquist’s Theorem . . . . . . . . . . . . . . . . . . . . 342
5.5.3 Calculation of the step response function . . . . . . . . 343
5.5.4 Calculation of the autocorrelation function . . . . . . . 345
Bibliography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 349

A The Gibbs-Duhem Relation 351

A.1 Homogeneity of the fundamental relation . . . . . . . . . . . . 351
A.2 The Euler relation . . . . . . . . . . . . . . . . . . . . . . . . 351
A.3 Two caveats . . . . . . . . . . . . . . . . . . . . . . . . . . . . 352
A.4 The Gibbs–Duhem relation . . . . . . . . . . . . . . . . . . . . 352
xiv CONTENTS

B Thermodynamic Potentials 355

B.1 Equilibrium states . . . . . . . . . . . . . . . . . . . . . . . . 355
B.2 Constant temperature and volume: the Helmholtz potential . 357
B.3 Constant pressure and energy: the Enthalpy function . . . . . 358
B.4 Constant pressure and temperature: the Gibbs free energy . . 359
B.5 Differential expressions for the potentials . . . . . . . . . . . . 359
B.6 Natural variables and the Maxwell relations . . . . . . . . . . 360

C Mathematica notebooks 363

C.1 Chemical potential of a Fermi gas at low temperatures – Som-
merfeld expansion . . . . . . . . . . . . . . . . . . . . . . . . . 363
C.2 Internal energy of a Fermi gas at low temperatures – Sommer-
feld expansion . . . . . . . . . . . . . . . . . . . . . . . . . . . 364

D Evaluation of the Correlation Function Integral 367

D.1 Initial domain of integration . . . . . . . . . . . . . . . . . . . 367
D.2 Transformation of variables . . . . . . . . . . . . . . . . . . . 367
D.3 Jacobian of the transformation . . . . . . . . . . . . . . . . . . 368

E Bose-Einstein and Fermi-Dirac Distribution Functions 371

E.1 Simple derivation . . . . . . . . . . . . . . . . . . . . . . . . . 371
E.2 Parallel evaluations . . . . . . . . . . . . . . . . . . . . . . . . 374
Bibliography . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 375