给能量以自由吧!

在“随机眼里的临界”里面我们介绍了先驱 玻尔兹曼Boltzmann 受到Maxwell的影响, 同时被影响的还有另外一位大神叫 吉布斯 Gibbs, 这是今天的主角。

我们在 “Legendre变变变”, “哈密尔顿,不变的爱” 和 “随机眼里的临界” 都提到了一个叫能量(Energy)的东西。 物理上大家都知道能量, 能量守恒定律(law of conservation of energy)嘛。但是统计, 数学上能量是什么? 其实, 我们在 “Legendre变变变” 中有解释过, 自由能(Free Energy)是能量的勒让德 Legendre 变换后的结果, 变换后就自由了。 这里再在这个基础上,概述一把!

随机的集大成者, Gibbs

约西亚.吉布斯 Josiah Willard Gibbs, 在Boltzmann跟随着Maxwell牛掰的突破了确定域之后, 留下了很多开创, Gibbs踏着波神之路,不好意思写错了, 玻神之路, 影响了世纪之门。 爱因斯旦Einstein称之 the greatest mind in American history, 美,史上最伟大的脑! 爱因斯坦太坏了, 加了美国的限定语。 对的, 至此, 数学的中心开始由欧洲大陆转向美国, Gibbs就是这样的推动者。

Gibbs, 出生在康涅狄格州Connecticut,爸爸是个语言学家教授。这个老头生了4个女儿, 1个儿子。 还记得哈密尔顿也受叔叔,一个语言学家的影响,走上了数学之路(参考 “哈密尔顿,不变的爱”),为了孩子出个数学家, 拼命先做语言学家, 汗! 他可谓出生豪华, 爸爸这边祖上当过哈佛大学Harvard Univ.的校长, 妈妈这边祖上做过普林斯顿大学Princeton Univ. 的校长, (其实正是这些大学,让美国牛掰到那种程度, 没事, 俺们也有清北)。 出生这么豪华, 爸爸还是个语言学家, 简直等于一脚踏入了优等生大门, 对的, Gibbs 毕业于很好的高中Hopkins School, 大学是耶鲁Yale。 出生这么豪华, 以至于, 22岁的时候, 爸爸不幸去世了, 然后自己经济自由了(独子)。从此为了兴趣而活着。

Gibbs是全美第一个工科博士(有钱不在乎,读着玩), 全美第五个博士(人家本科毕业要养家糊口), 如果你爸很穷, 真心就不要读博士了, 好好赚钱, 给子女一个读博士的理由(为了兴趣)。 然后也不怎么要工作,和姐姐去法国德国,欧洲旅游旅游, 只是不同的是, 人家旅游看风景名胜, 买稀世珍品, 他旅游, 蹲着大学里面混讲座听。也是在这个过程中碰到了生命中的贵人Hermann von Helmholtz。 回国之后, 法语好到做了一段时间的法语老师! 之后, 牛掰的随便搞搞, 一个工科博士,成为当世横跨数理化的大家!因为他的研究也很超前, 在美国没啥市场, 他的文章还是通过姐夫的杂志发表的, 但是被人翻译成德语到欧洲出版, 所以他名声在外, 出口转内销, 后来才在美国获得极大认可。

按说Yale毕业的要去美丽的Varssar College,找个妞过过日子, 那是有钱人家千金上学的女校, Yale的配对学校,我有幸在那里的对外公寓住过一段时间。 跑题了, 但是年轻帅气的Gibbs很难被诱惑, 毕竟有4个美丽的姐姐妹妹, 能有几个女孩比她们更优雅漂亮呢。 再有就是读了PhD(Permanent Head Damage), 爸爸去世早, 竟然辜负了爸爸生4个女儿才生1个儿子的坚持, 婚也没接, 婚没接也就算了, 连个情人也没有,更不要说小孩了,可惜了这么好的基因。 可能晚年孤独, 生活不规律, 吃的不好, 死于急性肠梗阻(64岁),应该找个对象的!

以前提到, Laplace把Laplace近似引入估算(参考“拉近似”), Gibbs也有类似的扩展, 其实Gibbs最厉害的还是上面的那个图,不知道你看明白没有?

给能量以自由吧!

从一张图说起 (UFHG的四宫格)

前面, 我们给出了一个UFHG的四宫格图 (参考 “随机眼里的临界”), 还记得么? 我们把热力学(thermodynamic system)和统计力学(statistical mechanics)里面相变(phase transition)的伊辛模型(Ising model)的涉及到能量的部分, 做如下的小结。

一般说来, 焓(Enthalpy), Helmholtz, Gibbs 都成为自由能, 因为他们是Legendre变换的结果(参考 “Legendre变变变”)。 需要注意的 是Helmholtz能量的表示符号,有可能是A, F (free energy),或者H (hamilton)。因为Helmholtz对应的是第二热力学法则, 所以用的很广。 对于上面, 我们还再做三次数学上的推广。

推广一: 忽略做功(Work),引入熵的变化

因为焓(Enthalpy)有对气体能量本身占据的空间和压强的做功的考虑。 但是这种特殊在其他系统里面不便于推广。 因此如果我们忽视pV这部分, 那么内能和焓代表了广义的内部能量。 而Helmholtz和Gibbs自由能代表了外部影响的能量, 他们是一致的。

如果忽视这部分, 那么Gibbs对Helmholtz做了什么改进呢? 前面我们提到, Gibbs在欧洲旅游的时候, 遇到了贵人Helmholtz, 这对他一生影响极大。 另外一个问题是, Gibbs是横跨数理化的大神, 那么他对化学的贡献是?

Gibbs最大的贡献是引入了对熵的变化的考察! 并且把自由能的变换和熵的变换建立了联系。 更进一步, 在一个自发系统里面, 熵不停的变大, 发现Gibbs能量变小, 从而和化学反应建立了联系。

那么, 根据上面的总结, 可以对应到一系列, 物理化学过程, 这就是为什么Gibbs是横跨理化的大神。

推广一:基于玻尔兹曼Boltzmann关系式和概率建立联系

利用Boltzmann对随机性的引入和推广, 加上Gibbs的熵,就可以把熵和概率建立起初步的关系(参考 “信息熵的由来”)。

上面,我们对Gibbs自由能的含义做了描述, 并且引入了熵的变化。

从另一张图说起 (energy - entropy 关系图)

如果把上面的能量和熵的关系用图来表示,就是如下的图:

如果在引入pV(做功 work)的变化, 就可以得到如下立体的表示:

如何从概率的角度去定义Gibbs能量?

如果我们全部从概率出发, 利用香浓熵(Shannon Entropy)和玻尔兹曼分布(Boltzmann distribution) 把Gibbs公式进行扩展, 推广, 我们可以得到如下表达式。

然后我们利用均衡(equilibrium)的概念, 我们就有如下表达式了:

是不是上面的形式就非常熟悉啦?

近似的扩展

在 “拉近似” 我们提到了概率近似, 其实自由能量也是有近似的, 利用平均场(参考“随机眼里的临界”)是可以做近似计算的, 那么其中一种近似后的能量叫 Bethe free energy 贝特自由能, 它和Gibbs自由能是什么关系呢? 希望以后能进一步扩展

小结, 我们从Gibbs能量的物理出发, 将我们在Variational Bayes里面的Gibbs能量看成是物理上的Gibbs能量一种数学泛化。

参考:

http://www.chem1.com/acad/webtext/thermeq/TE4.html

原文发布于微信公众号 - AI2ML人工智能to机器学习(mloptimization)

原文发表时间:2016-12-29

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏吉浦迅科技

据说这是2017年NVIDIA要发布的GPU显卡

有外媒透露NVIDIA计划在今年发布其新世代基于12nm工艺的Volta架构GPU,但Fox Bussiness说NVIDIA的下一代显卡(GTX20系列)依然...

49211
来自专栏龙行天下CSIEM

科学瞎想系列之六十七 核武器是个什么鬼

在说核武器之前先说说嘛叫武器,所谓武器就是军事斗争的工具。从广义的理解,所有能够削弱敌方军事力量的工具都是武器,除了宝宝们常说的枪炮之类的东东,还包括用于...

2865
来自专栏镁客网

超长续航,固定翼无人机利用水面太阳能实现自我充电

1283
来自专栏新智元

【更新】2018全球Top 1000 计算机科学家h指数,71位华人学者,29位中国科学家上榜

【新智元导读】Guide2Research网站日前发布了2018年全球计算机科学和电子领域H-index排名前1000的科学家,除了入榜的29名中国科学家外,本...

1900
来自专栏华章科技

【趣闻】18个世界知名企业的经典段子,你看懂了几个

这18个世界知名企业的经典段子,虽已流传江湖已久,但放在今日,还能让你在大笑的同时思考职场。

982
来自专栏Java帮帮-微信公众号-技术文章全总结

【非技术面试】面试仪表你必须要注意

面试仪表你必须要注意 面试整体情况总结: 第一, 一定要展现出自己积极向上的精神面貌,服装要简洁、简单、大方。整洁就是整齐和干净,面试时穿着的服装必须是熨烫过或...

3374
来自专栏区块链入门

2018“好望角” ,驶向可转债的蓝海——可转债知识普及和机会分析

就可转换债券而言,其有效期限与一般债券相同,指债券从发行之日起至偿清本息之日止的存续期间。

992
来自专栏大数据文摘

真是亲生的,但亲子鉴定为何失败?

3357
来自专栏新智元

2016年 CES 大展 VR/AR 论坛前瞻

国外 VR 媒体uploadvr最近收集整理了即将举行的 16年CES 大展上,VR/AR 部分的论坛安排。我们一起来看看。本文分两部分,按日期,上部分是 1月...

3668
来自专栏机器人网

国人当自强 | 中国古代的“机器人梦”,带你看看祖先们的机械智慧

今天,机器人可以被设计、制作,为人类服务。而在中国,古代人早就有“机器人梦”,梦想着能制作一种形态像人的物件来代替人类劳动。为这个梦想,中国人制作出了能够自己活...

50810

扫码关注云+社区

领取腾讯云代金券