The topic of this post is something

The topic of this post is something I’ve been wondering about for quite a while. This afternoon I had half an hour spare after a quick lunch so I thought I’d look it up and see what I could find.

The word ergodic is one you will come across very frequently in the literature of statistical physics, and in cosmology it also appears in discussions of the analysis of the large-scale structure of the Universe. I’ve long been puzzled as to where it comes from and what it actually means. Turning to the excellent Oxford English Dictionary Online, I found the answer to the first of these questions. Well, sort of. Under etymology we have

ad. G. ergoden (L. Boltzmann 1887, in Jrnl. f. d. reine und angewandte Math. C. 208), f. Gr.

I say “sort of” because it does attribute the origin of the word to Ludwig Boltzmann, but the greek roots (εργον and οδοσ) appear to suggest it means “workway” or something like that. I don’t think I follow an ergodic path on my way to work so it remains a little mysterious.

The actual definitions of ergodic given by the OED are

Of a trajectory in a confined portion of space: having the property that in the limit all points of the space will be included in the trajectory with equal frequency. Of a stochastic process: having the property that the probability of any state can be estimated from a single sufficiently extensive realization, independently of initial conditions; statistically stationary.

As I had expected, it has two meanings which are related, but which apply in different contexts. The first is to do with paths or orbits, although in physics this is usually taken to meantrajectories in phase space (including both positions and velocities) rather than just three-dimensional position space. However, I don’t think the OED has got it right in saying that the system visits all positions with equal frequency. I think an ergodic path is one that must visit all positions within a given volume of phase space rather than being confined to a lower-dimensional piece of that space. For example, the path of a planet under the inverse-square law of gravity around the Sun is confined to a one-dimensional ellipse. If the force law is modified by external perturbations then the path need not be as regular as this, in extreme cases wandering around in such a way that it never joins back on itself but eventually visits all accessible locations. As far as my understanding goes, however, it doesn’t have to visit them all with equal frequency. The ergodic property of orbits is intimately associated with the presence of chaotic dynamical behaviour.

The other definition relates to stochastic processes, i.e processes involving some sort of random component. These could either consist of a discrete collection of random variables {X1…Xn} (which may or may not be correlated with each other) or a continuously fluctuating function of some parameter such as time t, i.e. X(t) or spatial position (or perhaps both).

Stochastic processes are quite complicated measure-valued mathematical entities because they are specified by probability distributions. What the ergodic hypothesis means in the second sense is that measurements extracted from a single realization of such a process have a definition relationship to analagous quantities defined by the probability distribution.

I always think of a stochastic process being like a kind of algorithm (whose workings we don’t know). Put it on a computer, press “go” and it spits out a sequence of numbers. The ergodic hypothesis means that by examining a sufficiently long run of the output we could learn something about the properties of the algorithm.

An alternative way of thinking about this for those of you of a frequentist disposition is that the probability average is taken over some sort of statistical ensemble of possible realizations produced by the algorithm, and this must match the appropriate long-term average taken over one realization.

This is actually quite a deep concept and it can apply (or not) in various degrees. A simple example is to do with properties of the mean value. Given a single run of the program over some long time T we can compute the sample average

ar{X}_Tequiv frac{1}{T} int_0^Tx(t) dt

the probability average is defined differently over the probability distribution, which we can call p(x)

langle X
angle equiv int x p(x) dx

If these two are equal for sufficiently long runs, i.e. as T goes to infinity, then the process is said to be ergodic in the mean. A process could, however, be ergodic in the mean but not ergodic with respect to some other property of the distribution, such as the variance. Strict ergodicity would require that the entire frequency distribution defined from a long run should match the probability distribution to some accuracy.

Now we have a problem with the OED again. According to the defining quotation given above, ergodic can be taken to mean statistically stationary. Actually that’s not true. ..

In the one-parameter case, “statistically stationary” means that the probability distribution controlling the process is independent of time, i.e. that p(x,t)=p(x,t+Δt) . It’s fairly straightforward to see that the ergodic property requires that a process X(t) be stationary, but the converse is not the case. Not every stationary process is necessarily ergodic. Ned Wright gives an example here. For a higher-dimensional process, such as a spatially-fluctuating random field the analogous property is statistical homogeneity, rather than stationarity, but otherwise everything carries over.

Ergodic theorems are very tricky to prove in general, but there are well-known results that rigorously establish the ergodic properties of Gaussian processes (which is another reason why theorists like myself like them so much). However, it should be mentioned that even if the ergodic assumption applies its usefulness depends critically on the rate of convergence. In the time-dependent example I gave above, it’s no good if the averaging period required is much longer than the age of the Universe; in that case even ergodicity makes it difficult to make inferences from your sample. Likewise the ergodic hypothesis doesn’t help you analyse your galaxy redshift survey if the averaging scale needed is larger than the depth of the sample.

Moreover, it seems to me that many physicists resort to ergodicity when there isn’t any compelling mathematical grounds reason to think that it is true. In some versions of the multiverse scenario, it is hypothesized that the fundamental constants of nature describing our low-energy turn out “randomly” to take on different values in different domains owing to some sort of spontaneous symmetry breaking perhaps associated a phase transition generating cosmic inflation. We happen to live in a patch within this structure where the constants are such as to make human life possible. There’s no need to assert that the laws of physics have been designed to make us possible if this is the case, as most of the multiverse doesn’t have the fine tuning that appears to be required to allow our existence.

As an application of the Weak Anthropic Principle, I have no objection to this argument. However, behind this idea lies the assertion that all possible vacuum configurations (and all related physical constants) do arise ergodically. I’ve never seen anything resembling a proof that this is the case. Moreover, there are many examples of physical phase transitions for which the ergodic hypothesis is known not to apply. If there is a rigorous proof that this works out, I’d love to hear about it. In the meantime, I remain sceptical.

Hasil (Bahasa Indonesia) 1:

Topik posting ini adalah sesuatu yang saya telah bertanya-tanya tentang cukup lama. Sore ini aku punya setengah cadangan jam setelah makan siang cepat Jadi saya pikir saya akan mencarinya dan melihat apa yang bisa saya temukan.Kata Ergodik adalah salah satu yang Anda akan menemukan sangat sering dalam literatur Fisika statistik, dan dalam kosmologi ini juga muncul dalam diskusi analisis struktur berskala besar alam semesta. Saya sudah lama bingung dari mana datangnya dan apa sebenarnya artinya. Beralih ke hebat Oxford English Dictionary Online, saya menemukan jawaban pertama pertanyaan ini. Yah, semacam. Di bawah Etimologi kami memiliki iklan. G. ergoden (L. Boltzmann 1887, di Jrnl. f. d. reine und angewandte matematika. C. 208), f. Gr.Aku berkata "semacam" karena itu atribut asal-usul kata Ludwig Boltzmann, tetapi akar Yunani (εργον dan οδοσ) tampaknya menyarankan itu berarti "workway" atau sesuatu seperti itu. Saya tidak berpikir saya mengikuti jalur Ergodik dalam perjalanan untuk bekerja sehingga tetap sedikit misterius.Sebenarnya definisi dari Ergodik yang diberikan oleh OED adalah Dari lintasan di sebagian terbatas ruang: memiliki properti yang dalam batas semua poin ruang akan dimasukkan dalam lintasan dengan frekuensi yang sama. Stokastik proses: memiliki properti yang kemungkinan negara dapat diperkirakan dari realisasi cukup luas tunggal, terlepas dari kondisi awal; Statistik stasioner.Seperti yang diharapkan, itu memiliki dua makna yang terkait, tetapi yang berlaku dalam konteks yang berbeda. Yang pertama adalah hubungannya dengan jalan atau mengorbit, meskipun dalam Fisika ini biasanya diambil untuk meantrajectories dalam tahap ruang (termasuk posisi dan kecepatan) daripada posisi hanya tiga dimensi ruang. Namun, saya tidak berpikir OED telah mendapatkannya benar dalam mengatakan bahwa sistem kunjungan semua posisi dengan frekuensi yang sama. Saya pikir jalur Ergodik adalah salah satu yang harus mengunjungi semua posisi dalam volume tertentu tahap ruang daripada menjadi terbatas untuk sepotong dimensi ruang. Sebagai contoh, jalan planet ini di bawah hukum kuadrat terbalik gravitasi mengelilingi matahari terbatas kepada elips dimensi. Jika kekuatan hukum diubah oleh menemukan perputaran eksternal kemudian jalan tidak perlu teratur seperti ini, dalam kasus ekstrim yang berkeliaran di dalam cara yang tidak pernah bergabung kembali pada dirinya sendiri tetapi akhirnya mengunjungi semua lokasi yang mudah diakses. Sejauh pemahaman saya pergi, namun, itu tidak akan mengunjungi mereka semua dengan frekuensi yang sama. Properti Ergodik dari orbit berkaitan erat dengan kehadiran perilaku kacau dinamik.Definisi lain berkaitan dengan proses stokastik, yaitu proses melibatkan semacam acak komponen. Ini bisa baik terdiri dari koleksi diskrit acak variabel {X 1... Xn yang dikonversi} (yang mungkin atau mungkin tidak berkorelasi dengan satu sama lain) atau fungsi terus-menerus berfluktuasi beberapa parameter seperti waktu t, yaitu X(t) atau spasial posisi (atau mungkin keduanya).Stochastic processes are quite complicated measure-valued mathematical entities because they are specified by probability distributions. What the ergodic hypothesis means in the second sense is that measurements extracted from a single realization of such a process have a definition relationship to analagous quantities defined by the probability distribution.I always think of a stochastic process being like a kind of algorithm (whose workings we don’t know). Put it on a computer, press “go” and it spits out a sequence of numbers. The ergodic hypothesis means that by examining a sufficiently long run of the output we could learn something about the properties of the algorithm.An alternative way of thinking about this for those of you of a frequentist disposition is that the probability average is taken over some sort of statistical ensemble of possible realizations produced by the algorithm, and this must match the appropriate long-term average taken over one realization.This is actually quite a deep concept and it can apply (or not) in various degrees. A simple example is to do with properties of the mean value. Given a single run of the program over some long time T we can compute the sample averagear{X}_Tequiv frac{1}{T} int_0^Tx(t) dtthe probability average is defined differently over the probability distribution, which we can call p(x)langle X
angle equiv int x p(x) dxIf these two are equal for sufficiently long runs, i.e. as T goes to infinity, then the process is said to be ergodic in the mean. A process could, however, be ergodic in the mean but not ergodic with respect to some other property of the distribution, such as the variance. Strict ergodicity would require that the entire frequency distribution defined from a long run should match the probability distribution to some accuracy.Now we have a problem with the OED again. According to the defining quotation given above, ergodic can be taken to mean statistically stationary. Actually that’s not true. ..In the one-parameter case, “statistically stationary” means that the probability distribution controlling the process is independent of time, i.e. that p(x,t)=p(x,t+Δt) . It’s fairly straightforward to see that the ergodic property requires that a process X(t) be stationary, but the converse is not the case. Not every stationary process is necessarily ergodic. Ned Wright gives an example here. For a higher-dimensional process, such as a spatially-fluctuating random field the analogous property is statistical homogeneity, rather than stationarity, but otherwise everything carries over.Ergodic theorems are very tricky to prove in general, but there are well-known results that rigorously establish the ergodic properties of Gaussian processes (which is another reason why theorists like myself like them so much). However, it should be mentioned that even if the ergodic assumption applies its usefulness depends critically on the rate of convergence. In the time-dependent example I gave above, it’s no good if the averaging period required is much longer than the age of the Universe; in that case even ergodicity makes it difficult to make inferences from your sample. Likewise the ergodic hypothesis doesn’t help you analyse your galaxy redshift survey if the averaging scale needed is larger than the depth of the sample.Moreover, it seems to me that many physicists resort to ergodicity when there isn’t any compelling mathematical grounds reason to think that it is true. In some versions of the multiverse scenario, it is hypothesized that the fundamental constants of nature describing our low-energy turn out “randomly” to take on different values in different domains owing to some sort of spontaneous symmetry breaking perhaps associated a phase transition generating cosmic inflation. We happen to live in a patch within this structure where the constants are such as to make human life possible. There’s no need to assert that the laws of physics have been designed to make us possible if this is the case, as most of the multiverse doesn’t have the fine tuning that appears to be required to allow our existence.As an application of the Weak Anthropic Principle, I have no objection to this argument. However, behind this idea lies the assertion that all possible vacuum configurations (and all related physical constants) do arise ergodically. I’ve never seen anything resembling a proof that this is the case. Moreover, there are many examples of physical phase transitions for which the ergodic hypothesis is known not to apply. If there is a rigorous proof that this works out, I’d love to hear about it. In the meantime, I remain sceptical.

Hasil (Bahasa Indonesia) 2:

Topik posting ini adalah sesuatu yang saya sudah bertanya-tanya tentang cukup lama. Sore ini saya memiliki setengah jam cadangan setelah makan siang sebentar jadi saya pikir saya akan mencarinya dan melihat apa yang saya bisa menemukan. Kata ergodic adalah salah satu Anda akan menemukan sangat sering dalam literatur fisika statistik, dan kosmologi itu juga muncul dalam diskusi dari analisis struktur skala besar alam semesta. Aku sudah lama bingung ke mana itu berasal dari dan apa sebenarnya berarti. Beralih ke baik Oxford English Dictionary Online, saya menemukan jawaban yang pertama dari pertanyaan-pertanyaan ini. Nah, semacam. Di bawah etimologi kita memiliki iklan. G. ergoden (L. Boltzmann 1887, di Jrnl. Fd reine und Angewandte Math. C. 208), f. Gr. Saya katakan "semacam" karena tidak atribut asal kata untuk Ludwig Boltzmann, tetapi akar Yunani (εργον dan οδοσ) muncul untuk menyarankan itu berarti "workway" atau sesuatu seperti itu. Saya tidak berpikir saya mengikuti jalur ergodic dalam perjalanan untuk bekerja sehingga tetap sedikit misterius. Definisi sebenarnya dari ergodic diberikan oleh OED yang Of lintasan dalam porsi terbatas ruang: memiliki properti bahwa dalam batas semua poin dari ruang akan dimasukkan dalam lintasan dengan frekuensi yang sama. Dari proses stokastik: memiliki properti bahwa probabilitas setiap negara dapat diperkirakan dari realisasi cukup luas tunggal, independen dari kondisi awal; statistik stasioner. Seperti yang saya harapkan, itu memiliki dua makna yang terkait, tetapi yang berlaku dalam konteks yang berbeda. Yang pertama adalah melakukan dengan jalur atau orbit, meskipun dalam fisika ini biasanya diambil untuk meantrajectories di ruang fase (termasuk kedua posisi dan kecepatan) ketimbang ruang posisi tiga dimensi. Namun, saya tidak berpikir OED telah mendapatkannya benar dengan mengatakan bahwa sistem mengunjungi semua posisi dengan frekuensi yang sama. Saya pikir jalur ergodic adalah salah satu yang harus mengunjungi semua posisi dalam volume tertentu ruang fase bukannya terbatas pada sepotong rendah-dimensi ruang itu. Sebagai contoh, jalan dari planet di bawah hukum kuadrat terbalik dari gravitasi di sekitar Matahari terbatas pada elips satu dimensi. Jika hukum berlaku dimodifikasi oleh gangguan eksternal maka jalan tidak perlu teratur seperti ini, dalam kasus yang ekstrim berkeliaran sedemikian rupa sehingga tidak pernah bergabung kembali pada dirinya sendiri tapi akhirnya mengunjungi semua lokasi dapat diakses. Sejauh pemahaman saya pergi, bagaimanapun, tidak harus mengunjungi mereka semua dengan frekuensi yang sama. Properti ergodic dari orbit yang berkaitan erat dengan kehadiran perilaku dinamik kacau. Definisi lain berkaitan dengan proses stokastik, proses yaitu melibatkan semacam komponen acak. Ini baik bisa terdiri dari koleksi diskrit variabel acak {X1 ... Xn} (yang mungkin atau mungkin tidak berkorelasi dengan satu sama lain) atau fungsi terus berfluktuasi dari beberapa parameter seperti waktu t, yaitu X (t) atau posisi spasial ( atau mungkin keduanya). Proses Stochastic yang mengukur bernilai entitas matematika cukup rumit karena mereka ditentukan oleh distribusi probabilitas. Apa hipotesis ergodic berarti dalam arti kedua adalah bahwa pengukuran diambil dari realisasi tunggal dari proses tersebut memiliki hubungan definisi untuk jumlah mirip seperti yang didefinisikan oleh distribusi probabilitas. Saya selalu memikirkan proses stokastik menjadi seperti semacam algoritma (yang kerja kita tidak tahu). Meletakkannya di komputer, tekan "pergi" dan meludah keluar urutan angka. Hipotesis ergodic berarti bahwa dengan memeriksa lari yang cukup panjang dari output kita bisa belajar sesuatu tentang sifat-sifat dari algoritma. Cara alternatif berpikir tentang hal ini bagi anda disposisi frequentist adalah bahwa rata-rata probabilitas diambil alih semacam ensemble statistik realisasi mungkin dihasilkan oleh algoritma, dan ini harus sesuai dengan rata-rata jangka panjang yang tepat diambil alih salah satu realisasi. Ini sebenarnya cukup sebuah konsep yang mendalam dan dapat menerapkan (atau tidak) di berbagai tingkat. Contoh sederhana adalah dengan melakukan sifat dari nilai rata-rata. Mengingat menjalankan tunggal dari program lebih beberapa waktu T lama kita bisa menghitung rata-rata sampel bar {X} _T equiv frac {1} {T} int_0 ^ Tx (t) dt rata-rata probabilitas didefinisikan secara berbeda atas distribusi probabilitas, yang dapat kita sebut p (x) Langle X rangle equiv int xp (x) dx Jika kedua adalah sama untuk cukup lama berjalan, yaitu sebagai T pergi ke infinity, maka proses dikatakan ergodic di mean. Sebuah proses bisa, bagaimanapun, ergodic di mean tetapi tidak ergodic sehubungan dengan beberapa properti lainnya distribusi, seperti varians. Ergodicity kaku akan membuat distribusi frekuensi seluruh didefinisikan dari jangka panjang harus sesuai dengan distribusi probabilitas untuk beberapa akurasi. Sekarang kita memiliki masalah dengan OED lagi. Menurut kutipan mendefinisikan diberikan di atas, ergodic dapat diartikan secara statistik stasioner. Sebenarnya itu tidak benar. .. Dalam kasus satu-parameter, "statistik stasioner" berarti bahwa distribusi probabilitas mengendalikan proses independen dari waktu, yaitu bahwa p (x, t) = p (x, t + AT). Ini cukup mudah untuk melihat bahwa properti ergodic mengharuskan proses X (t) menjadi stasioner, tetapi sebaliknya tidak terjadi. Tidak setiap proses stasioner adalah tentu ergodic. Ned Wright memberikan contoh di sini. Untuk proses yang lebih tinggi-dimensi, seperti bidang acak spasial-berfluktuasi properti analog adalah homogenitas statistik, daripada stasioneritas, tapi jika tidak semuanya membawa lebih. Teorema Ergodic sangat sulit untuk membuktikan secara umum, tetapi ada hasil terkenal yang ketat menetapkan sifat ergodic proses Gaussian (yang merupakan alasan lain mengapa teori seperti saya menyukai mereka begitu banyak). Namun, harus disebutkan bahwa bahkan jika asumsi ergodic berlaku kegunaannya sangat bergantung pada tingkat konvergensi. Pada contoh tergantung waktu saya berikan di atas, itu tidak baik jika periode rata-rata yang dibutuhkan jauh lebih lama dari usia alam semesta; dalam kasus itu bahkan ergodicity membuatnya sulit untuk membuat kesimpulan dari sampel Anda. Demikian juga hipotesis ergodic tidak membantu Anda menganalisis survei pergeseran merah galaksi Anda jika skala rata-rata yang dibutuhkan lebih besar dari kedalaman sampel. Selain itu, tampaknya bagi saya bahwa banyak fisikawan resor untuk ergodicity ketika tidak ada yang menarik matematika dasar alasan untuk berpikir bahwa itu benar. Dalam beberapa versi dari skenario multiverse, itu hipotesis bahwa konstanta fundamental alam menggambarkan rendah energi kita berubah "secara acak" untuk mengambil nilai yang berbeda di domain yang berbeda karena semacam simetri spontan mungkin terkait transisi fase menghasilkan kosmik inflasi. Kami kebetulan tinggal di patch dalam struktur ini di mana konstanta yang seperti untuk memungkinkan manusia hidup. Tidak perlu untuk menegaskan bahwa hukum fisika telah dirancang untuk membuat kita mungkin jika hal ini terjadi, karena kebanyakan dari multiverse tidak memiliki fine tuning yang tampaknya diperlukan untuk memungkinkan keberadaan kita. Sebagai aplikasi dari lemah Antropik Prinsip, saya tidak keberatan argumen ini. Namun, di balik ide ini terletak pernyataan bahwa semua konfigurasi vakum mungkin (dan semua konstanta fisik terkait) yang timbul ergodically. Aku belum pernah melihat yang menyerupai bukti bahwa hal ini terjadi. Selain itu, ada banyak contoh transisi fase fisik yang hipotesis ergodic diketahui tidak menerapkan. Jika ada bukti yang akurat ini berhasil, saya akan senang mendengar tentang hal itu. Sementara itu, saya tetap skeptis.