香农提出了信息熵的概念（信息论的创立者-香农）

在1916年香农出生于美国密西根州。他在密西根州的一个小镇长大。当时这个镇只有几千个居民，香农的父亲是这个镇的法官。母亲是镇里的中学校长。所以香农小时候就有一个非常好的生长环境。香农的科学影响很大程度上来源于他的祖父。香农的祖父是一位农场主，并且也喜欢发明一些东西，这对小时候香农有着直接的影响。

并且香农与爱迪生也是远房亲戚。在1936年香农毕业于密歇根大学，并且获得了数学和电子工程学士学位，在1940年获得了麻省理工学院数学博士学位和电子工程硕士学位。在1941年香农加入了贝尔实验室数学部工作到了1972年。

在1956年香农成为了麻省理工院客座教授，并且在1958年成为了终身教授在1978年成为了麻省理工学院的名誉博士。

香农在1940年在普林斯顿高级研究所工作期间开始思考信息论与有效通信系统的问题，经过了八年的努力，香农在1948年发表了具有深远影响的论文。在1949年向荣又在发表了另一篇著名的论文在这两篇论文中香农阐明了通信的基本问题，给出了通信系统的模型，提出了信息量的数学表达式，并且解决了信道容量，信源统计特性，信源编码，信道编码等一系列基本技术问题，这两篇论文也成信息论奠定性的著作。

在1938年香农在麻省理工学院获得了电气工程硕士学位。在他的硕士论文中已经注意到了电话交换电路与布尔代数之间的类似性。就是布尔代数的“真”与“假”和电路系统的开与关对应起来，并用1和0表示出来。

香农最重要的贡献就是提出了香农理论，香农理论中最重要的特征是的熵概念他证明熵与信息内容的不确定程度有等价关系。你曾经是玻尔兹曼在热学第二定律引入的概念。香农把它理解为分子运动看到混乱度信息熵也有类似的意义。

在1948年香农在长达数十页论文在这十篇论文成了信息论诞生的里程碑。在香农的通信数学模型中清楚的提出了信息的度量问题香农把哈特利的公式扩大到概率不同的情况，得到了著名的计算公式熵H的公式。

香农在进行信息的定量计算的时候明确的把信息量定义为随机不定性程度的减少。这就表明他对信息的理解。虽然香农的信息概念比以往的认识有了巨大的进步，但仍然存在的局限性，这一概念同样没有包含信息的内容和价值，只是考虑了随机性的不定性，没有从根本上解决问题。

虽然香农在大众面前并不是非常的知名，但是他是使我们的世界能够进行即时通信少数科学家和思想家之一。香农获得过许多的荣誉和奖项。香农所接受的荣誉学位也数不胜数。

在1958年香农成为了麻省理工学院的教授直到1978年退休，香农在2001年去世，享年84岁。