エントロピー

非常勤室で、エントロピーの配布資料を用意している化学の先生との会話。

私:今日はエントロピーの授業ですか?

化学の先生:そうです。器に30度の水と50度のお湯を同量入れると40度になるって話をします。20度の水と60度のお湯になっても熱量的には問題ないはずですよね。 「エントロピーは増大する」という法則があるので、20度と60度にはならないんです。 エントロピー増大とは乱雑な(整頓されていない)方向に動くってことですからね。

私:情報理論でもエントロピーが出てきましたね。

化学の先生:どんな風に使うのですか?

私(余計なこと言わなきゃよかったな、と思いつつ):起こりにくさを測る尺度だったかな?起こりにくい情報ほど情報量(エントロピー)が大きいんです。

===(以下ネット情報)===
情報では、エントロピーを「事象の不確かさ」として考え、ある情報による不確かさの減少分が、その情報の「情報量」であると考える。情報を受け取る前後の不確かさの相対値を「情報エントロピー」という。
例えば、サイコロを振ったとき、結果を見る前はどの目が出たかまったく分からないので、不確かさ「情報エントロピー」は最大である。「奇数の目が出た」という「情報」を受け取ると、「情報エントロピー」は減少する。「1の目が出た」ことを知れば、結果は一意に確定し、「情報エントロピー」は最小となる。
===============

化学の先生:熱力学ではエントロピーの単位がジュール/ケルビンなんですが、情報での単位は何ですか?

私:ビットだったかな?(正直、あまりよく覚えていません)

何だか話の接点が見いだせず、押され気味のまま、お開きに!