Report / Equilibrium Statistical Mechanics / Entropy

ページ:
熱力学と統計力学のエントロピーはなぜ一致するのか

本ページでは、熱力学で導入されるエントロピー $S$ と、統計力学で現れる $S = k_B \ln \Omega$ や $S = -k_B \sum_i p_i \ln p_i$ が、なぜ同じ量として読めるのかを整理します。 主張は明確で、平衡系統計力学が熱力学をミクロ自由度から再現する理論だから、両者のエントロピーは一致します。 そのうえで、なぜミクロ自由度の統計だけでは熱力学が自動的に導かれないのかも補足としてまとめます。

  • 問いは、熱力学の $S$ と統計力学の $S$ がなぜ同じ量として現れるのかという点にある
  • 結論は、平衡系統計力学が熱力学をミクロ自由度から再現する理論だから、ということ
  • 補足として、粗視化、熱力学極限、典型性などがなければ熱力学は導出できないことを示す

Question

問い

熱力学で定義されたエントロピーと、統計力学で数えるエントロピーは、なぜ同じ量になるのか。

Conclusion

結論

平衡系統計力学が熱力学をミクロ自由度から再現する理論だから、両者は同じ $S$ を指している。

Supplement

補足

ただし導出には、ミクロ統計に加えて粗視化、熱力学極限、典型性などの物理的仮定が要る。

Clausius

$$ dS = \frac{\delta Q_{\mathrm{rev}}}{T} $$

Boltzmann

$$ S = k_B \ln \Omega $$

Gibbs

$$ S = -k_B \sum_i p_i \ln p_i $$

Landauer

$$ Q \ge k_B T \ln 2 $$

Main Claim

本ページの主張は、熱力学のエントロピーと統計力学のエントロピーが一致する理由は、平衡系統計力学が熱力学をミクロ自由度から再現する理論だから、という一点に尽きるというものです。

Abstract

要旨

熱力学のエントロピーは $dS = \frac{\delta Q_{\mathrm{rev}}}{T}$ として巨視的に導入される。一方、平衡系統計力学では同じ量が $S = k_B \ln \Omega$ や $S = -k_B \sum_i p_i \ln p_i$ としてミクロ自由度から再現される。したがって、両者のエントロピーが一致する理由は、平衡系統計力学が熱力学をミクロ自由度から再現する理論だからである。ただしその導出には、ミクロ自由度の統計だけでなく、粗視化、熱力学極限、分布選択、典型性といった物理的仮定が必要である。

Question

問題設定: 熱力学の $S$ と統計力学の $S$ はなぜ一致するのか

熱力学はまず巨視的理論として作られ、統計力学は後からミクロ自由度を使ってそれを説明しました。そこで本ページの問いは、熱力学で導入されたエントロピーと、統計力学で状態数や確率分布から定義されるエントロピーが、なぜ同じ量として理解できるのかという点です。

Thermodynamics

熱力学は巨視的法則として先に立てられた

Clausius の段階では、エントロピーは可逆熱量を温度で割った量として導入されました。ここではまだ微視的状態数の議論はありません。

Statistical Mechanics

統計力学はその法則をミクロ自由度から説明しようとした

Boltzmann や Gibbs は、粒子配置や確率分布から温度、圧力、エントロピーを再構成しようとしました。問いはこの再構成が本当に熱力学を再現しているかです。

Target

一致の意味は「同じ現象を別の記述で説明している」こと

熱力学の $S$ と統計力学の $S$ が一致するとは、別々の量が偶然似ているのではなく、同じ巨視的状態量を別の水準で書き表しているということです。

Definition

$$ dS = \frac{\delta Q_{\mathrm{rev}}}{T} $$

これは熱力学でのエントロピーの出発点です。熱がどれだけ「状態数の増えやすさ」に変わるかを表します。

Integrated Form

$$ \Delta S = \int \frac{\delta Q_{\mathrm{rev}}}{T} $$

可逆経路をたどれば、初期状態と終状態だけからエントロピー差が定まります。

Thermodynamic Identity

$$ dE = T dS - P dV + \mu dN $$

温度、圧力、粒子数などの巨視的変数が、エネルギーとどう結びつくかをまとめた基本式です。

Conclusion

結論: 平衡系統計力学が熱力学をミクロ自由度から再現するから

本ページの結論はここです。平衡系統計力学は、巨視的状態の背後にある微視的配置の集合を使って、熱力学の温度、圧力、エントロピー、状態方程式を再現します。したがって、熱力学のエントロピーと統計力学のエントロピーは、同じ巨視的状態量を別の視点から書いたものとして一致します。

Macrostate

巨視的状態は、微視的状態の束として実現される

温度や圧力で指定される巨視的状態の背後には、粒子の位置と運動量の膨大な組み合わせがあります。統計力学はこの束を扱う理論です。

Reproduction

再現できるから、同じ $S$ だと分かる

$S = k_B \ln \Omega$ や $S = -k_B \sum_i p_i \ln p_i$ から、温度の定義や状態方程式が熱力学と整合して出てくるなら、それは熱力学の $S$ を再現していることを意味します。

Consistency

足し算の性質と温度の定義まで一致する

独立系での加法性や $\frac{1}{T} = \left( \frac{\partial S}{\partial E} \right)_{V,N}$ の関係が整うことで、統計力学の $S$ は熱力学の $S$ と同じ役割を果たします。

Boltzmann

$$ S = k_B \ln \Omega $$

$\Omega$ は許される微視的状態数です。エントロピーは「あり得る細部の数」の対数になります。

Additivity

$$ \Omega_{AB} = \Omega_A \Omega_B \Rightarrow S_{AB} = S_A + S_B $$

log を取ることで、独立な 2 系を合わせたときのエントロピーが自然に足し算になります。

Temperature

$$ \frac{1}{T} = \left( \frac{\partial S}{\partial E} \right)_{V,N} $$

温度は統計力学では基本量ではなく、エネルギーを少し足したときに状態数がどれだけ増えるかを表す勾配として出てきます。

Boltzmann

平衡系では、状態数の対数として $S$ が現れる

ミクロカノニカルな平衡系では、許される微視的状態数を $\Omega$ と書くと、$S = k_B \ln \Omega$ が熱力学のエントロピーを再現します。

Gibbs

一般化すると、確率分布の不確定性として $S$ が現れる

Gibbs の形 $S = -k_B \sum_i p_i \ln p_i$ は、Boltzmann の式を含む一般形です。全状態が等確率なら Boltzmann へ戻ります。

Gibbs Entropy

$$ S = -k_B \sum_i p_i \ln p_i $$

確率分布の不確実さを測る形で、情報理論のシャノンエントロピーと同型です。

Special Case

$$ p_i = \frac{1}{\Omega} \Rightarrow S = k_B \ln \Omega $$

Boltzmann の式は、Gibbs エントロピーの特殊場合として回収できます。

Conclusion

熱力学と統計力学のエントロピーが同じになる結論

熱力学のエントロピーと統計力学のエントロピーが同じになるのは、平衡統計力学が熱力学をミクロな自由度から再現する理論だからです。巨視的な $S$ が、微視的には「状態数」や「確率分布の不確定性」として同じ量に見えてきます。

また、同じ $S$ が文脈を変えて現れている」

熱力学では熱と温度の比として、平衡系統計力学では状態数や確率分布として、情報理論では消去コストや不確定性として同じエントロピーが現れます。これは別々の概念が偶然似たのではなく、同じ量を別の記述で表しているからです。

Supplement

補足: ミクロ自由度の統計だけでは、熱力学は導出できない

ここは補足です。確率変数の平均を取るだけでは、温度、相転移、不可逆性、時間の矢は出ません。熱力学を成立させるには、ミクロ自由度の統計に加えて、粗視化、熱力学極限、分布選択、典型性のような物理的仮定が必要です。

Coarse-Graining

粗視化なしでは、エントロピー増大は出ない

fine-grained な位相空間分布は Liouville 定理で保存されます。熱力学的な増大を得るには、観測不能な自由度を捨てる coarse-graining が要ります。

Thermodynamic Limit

熱力学極限がないと、相転移も鋭い法則も立たない

有限系では再帰や揺らぎが残り、自由エネルギーの真の特異性も現れません。熱力学は $N \to \infty$ という極限に支えられています。

Measure And Constraints

どの分布を採用するかは、確率論だけでは決まらない

等確率や $e^{-\beta H}$ のような分布は、保存則、熱浴、最大エントロピー原理などの物理条件を入れて初めて自然なものになります。

Typicality

典型性や時間の矢には、追加の物理的見方が要る

「ほとんどの状態は平衡に見える」ことや、低エントロピー初期条件から未来へ向かう時間の矢は、単なる確率計算ではなく物理的解釈を必要とします。

Liouville

$$ \frac{d\rho}{dt} = 0 $$

fine-grained な分布は保存されるので、確率論だけでは熱力学的な不可逆性はそのまま出てきません。

Limit

$$ N \to \infty $$

相転移や安定なマクロ法則は、巨大自由度極限を取ることで初めて鮮明になります。

Time / Ensemble

$$ \bar{A} = \langle A \rangle $$

時間平均と集団平均を結びつけるには、エルゴード性や典型性のような追加仮定が必要で、自明ではありません。

Beyond

量子情報とブラックホールまで行くと、問いはさらに深くなる

現代では、エントロピーは単なる熱の補助変数ではありません。量子情報、可逆計算、ブラックホール、さらには重力の起源にまでつながる中心概念になっています。

Quantum

量子計算の基本操作は可逆だが、測定と誤り訂正は熱を伴う

ユニタリ操作そのものは情報を捨てません。しかし測定で古典情報へ落とし、不要な補助自由度を捨てるときには、やはり散逸が顔を出します。

Black Hole

ブラックホールは「情報を本当に消すのか」を突きつける

もし情報が本当に消えるならユニタリ性が破れます。だから現代では、情報はどこかに保存される方向が有力です。

Open Question

熱力学は統計力学から導かれるが、同時にもっと根源的かもしれない

教科書的には「ミクロ力学 $\to$ 統計力学 $\to$ 熱力学」です。しかし近年は、情報・量子・重力が共通の根を持つという見方も強くなっています。

von Neumann

$$ S_{\mathrm{vN}} = -k_B \mathrm{Tr}(\rho \ln \rho) $$

量子系では確率分布の代わりに密度行列 $\rho$ を使います。形は Gibbs エントロピーの量子版です。

Black Hole

$$ S_{\mathrm{BH}} \propto A $$

ブラックホールエントロピーは体積でなく地平線面積に比例します。情報が境界に刻まれているように見える理由です。

Standard Arrow

$$ \text{micro} \rightarrow \text{statistics} \rightarrow \text{thermodynamics} $$

基本の見取り図はこの矢印です。ただし最前線では、この矢印自体をどう理解するかが研究対象になっています。

Next Reads

次に読むとつながるページ

このページは橋渡しの役割が強いので、気になった方向へそのまま進むと理解が深まります。