从烽火狼烟到邮政印刷,从电报广播到网络通信。
自香农公式诞生之后,人类在远距离传输信息的这条通信道路上越走越快。这是科学的指引,是技术的进步,是超越国家边界的物理存在。
即使经历了从1G(FirstGener⁃ation)到2G,从2G到3G,从3G到4G的移动通信变更,各家巨头AT&T、摩托罗拉、爱立信、英国电信、诺基亚、高通、苹果、中国移动、华为……你方唱罢我登场,但始终没有谁能坐稳通信业的“铁王座”。
面对即将到来的5G,谁是这场通信变革的新起之秀?
历史显然并不在意这些,通信技术的主宰者从来只有一个,那就是香农公式。
香农公式是什么?它为什么是5G的真正主宰?
香农:数字通信时代的奠基人
1997年,美国波士顿城外一幢用灰泥粉饰过的宅邸里,每天下午总有一个白发朱颜的老头一边骑着独轮车,一边抛接四个球,不厌其烦地操练杂耍技艺。
若有到访者来此,他会兴致勃勃地分享他的“杂耍统一场论”:如果B代表球的数量,H代表手的数量,D表示球在手中度过的时间,F则代表着每个球的飞行时间,E代表每只手不拿球的时间,那 。
遗憾的是,该理论并不能帮助这个71岁的老人实现扔四个球的美梦。所以,他耍赖地狡辩道:“这是因为我的手太小了!”
尽管他在狡辩,但他身边的每个人眼神里都透着敬畏。虽然克劳德·香农没有爱因斯坦那般赫赫有名,却也是享誉一时的伟大人物。
在科学的世界,始终流传着各种有关香农的传说,人们称他为“信息论之父”和“数字通信时代的奠基人”。这一切都源于他1948年亲手所绘的那一幅“数字时代的蓝图”——《通信的数学原理》。
在这篇论文里,香农以无与伦比的想象力和创造力,用科学方法定义信息,发展了信息论,提出通信业两大定律,并以信息论指引通信发展,使人类从工业社会过渡到信息社会,最后进入前所未有的数字通信时代。
5G前传:信息即情报
什么是信息?
20世纪以前,“信息”尚处于混沌之中,更多的时候,它是一纸家书,是斗兽场的公示牌,或是市场上的吆喝……
直到香农将该词定义为:信息是用来消除随机不确定性的东西。
香农究竟是如何找到它的精确定义的?第二次世界大战期间,香农待在贝尔实验室为美国情报部门工作,这使香农对information(信息)一词有着深刻理解。英文中,信息和情报是同一个词,而情报的作用就是消除不确定性,尤其在战争时期,情报有时能在瞬间决定胜负。
1941年,第二次世界大战正处于白热化阶段。德国430万大军兵临莫斯科,斯大林在欧洲已无兵可派,想调回远在西伯利亚中苏边境驻扎着的60万大军。斯大林一直在揣度德国盟友日本人的心思,日本人究竟是选择北上进攻苏联,还是南下和美国开战?
最终,传奇间谍佐尔格向莫斯科发来了信息量仅80bit的情报(信息):“日本将南下。”斯大林松了口气,并即刻下令:大后方的60万大军撤回欧洲,增援莫斯科会战。历史就此迅速发生了大转折。
斯大林通过获取情报做出决断的故事,其实就是一个获取新信息,并且消除不确定性的过程。这个过程展现了信息的作用,也是信息论原理的一个具象呈现。
由此,信息的定义出来了,是消除不确定性的东西。那什么又是信息论呢?
信息论:新时代的技术基石
1948年,在《通信的数学原理》一文中,香农完成了他八年的夙愿,为通信系统建立起一整套数学理论。这标志着信息论的诞生,并直接诞生了一个新的学科:信息学。此后,这个世界所有的信息都可以用0和1来表示,香农带领人类从工业时代进入信息时代。
为了对信息及信息的不确定性进行度量,香农在《通信的数学原理》中提出了比特和信息熵的概念。
比特是香农自创用来测量信息的单位,现已跻身于米、千克、分钟之列,成了日常生活中常见的量纲之一,是计算机最小的数据单位。
例如,“香农真的好厉害”这七个汉字,一个汉字两字节,一字节8bit,总共就是112bit。
信息熵则是信息论中最基本的一个概念,是香农从热力学中“偷”过来用的,专门用于描述信源的不确定度,是消除不确定性所需信息量的度量。该公式表示如下:
式中,x为随机变量;X为随机变量的集合;P(x)为变量出现的概率。
其具体定义为:对于任意一个随机变量x,变量的不确定性越大,熵也就越大,把它弄清楚所需要的信息量也就越大。
该公式现在被广泛应用于数据压缩之中,计算文件压缩的极限值。如今,我们能把整部高清电影塞进一张薄薄的塑料片里还要得益于它。
关于信息熵的公式,华裔物理学家张首晟曾经引用爱因斯坦的话感慨:这个公式虽然不像E=mc²那么知名,但人类知识往前推进,牛顿力学可能不对,量子力学可能不对,相对论可能也不对,而信息熵公式却是永恒的。
在对信息的基本概念定义之后,香农提出信息学的两大定律。
香农第一定律,即信源编码定律,简单来说就是教会人类如何用数学方式将信息编码。
香农第二定律,即香农公式,描述了一个信道中的极限信息传输率和该信道能力,这是现代通信行业的“金科玉律”。
香农成功借助数学基本建立了信息知识体系的构架,信息论在新的时代掀起一场狂风巨浪般的信息革命,一个新帝国正以前所未有的速度崛起。
什么是香农公式?
19世纪初,电磁学的发展使电报、电话、无线电广播等如雨后春笋般出现,远距离通信传输首次有了飞跃性发展,但有关它们传输载体信息本身的研究基本毫无动静。
直到香农定义了信息的相关概念,才用信息熵解决了当时电报、电话、无线电等如何计量信号信息量的问题。但怎么在远距离通信中进一步提高信息传递的信息量,加快信息的传送速率呢?
这是更令人焦急的烦恼,不能以后总是只发几个字的电报吧。
但信息无质无量,谁知道到底是什么在影响它的速率呢?
这就是顶尖科学家存在的意义,香农直接给出了信道容量公式,即香农公式。这个公式定义了信息传送速率上限,即香农极限,几乎所有的现代通信理论都是基于这个公式展开的。
我们可以简单地把信息通道看作城市道路,这条道路上单位时间内的车流量受到道路宽度和车辆速度等因素的制约,在这些制约条件下,单位时间内最大车流量就被称为极限值。
根据香农定理,由于受到固有规律的制约,任何信道都不能无限增加信息传送的速率。
从香农公式中我们可以看出,想要提高信息的传送速率,关键在于提高信噪比和带宽。
香农公式作为信息时代的“圣经”,它是现代信息革命必须遵循的科学原理,也是数字通信时代的理论基石。
信息时代:在香农公式中追逐极限
作为信息时代的设计师,香农写完公式后留下一句:极限就在这里。接着他就跑回自己的院子里玩杂耍去了。现在回头来看,这简直是20世纪以来最动人的故事。如今,全世界都在为他的公式疯狂,都在努力向极限逼近。
从1G至2G,从3G至4G,甚至到5G的通信变更,全世界一流的通信运营商和生产商也一直废寝忘食地追逐着香农极限。
在这期间,以香农公式为通信理论之基,通过不断革新技术,提高信噪比,增加带宽,我们也经历了大约每10年就发生一场时代剧变的移动通信技术演进史,生活也因此而瞬息万变。
1986年左右,依托着频分多址(Frequency Division Multiple Access,FDMA)技术,1G时代崛起。生活在信息依靠模拟信号传递的世界,我们手拿价格高昂的“大哥大”,四处寻找能听得清楚对方讲话的最佳位置。
1995年左右,挥别1G,时分多址(Time Division Multiple Access,TDMA)技术使我们进入了2G世界。诺基亚7110开启了人类手机上网的时代,也开启了传递160字长度的短信的生活,数字移动电话逐渐取代模拟移动电话,一代巨头摩托罗拉也就此走下神坛。
2007年左右,码分多址(CodeDivisionMultipleAccess,CDMA)技术大行其道。伴随着智能手机iPhone的出台3G网络火了起来,手机APP生态系统开始建立,乔布斯手握触控式屏幕的苹果一举成功打败了按键盘的诺基亚。
2013年左右,正交频分多址(Orthogonal Frequency DivisionMultipleAccess,OFDMA)技术引发变局。4G以更快的上网速度开创了移动互联网时代,我们用微信语音聊天,通过支付宝扫码付款,看短视频消遣娱乐,手机已成为我们生活中不可或缺的一部分。
短短几十年,依托着香农定理建立起来的通信技术和系统,时代无时无刻不在以更快的速度往前发展。2G实现从1G的模拟时代走向数字时代;3G实现从2G数字时代走向移动互联时代;现在,4G又开始要从移动互联时代向5G万物互联时代迈进。
与E=mc²比肩的香农公式
《信息》的作者詹姆斯·格雷克曾说:“将香农与爱因斯坦进行对比更有意义。爱因斯坦贡献突出,地位显赫。但我们并没有生活在相对论时代,而是生活在信息时代。正是香农,在我们所拥有的电子设备中,在我们注视的每一个计算机屏幕上,以及所有数字通信的方法中都留下了他的印迹。他是这样一个人:他改变了世界,而且在更改以后,旧世界已经被人们彻底遗忘。”
若从实用层面来说,詹姆斯·格雷克的话无疑令我们心服首肯。
单就香农公式,无论是1G、2G、3G还是4G、5G,甚至是未来的6G、7G,万变不离其宗,全部都在香农公式中寻找力量。这种改变人类生活面貌的伟大贡献,足以与爱因斯坦的E=mc²相提并论。一切正如大卫·福尔内所称赞的:香农重新建造了一个全新的世界,从宙斯的额头开始。
(本文摘自《公式之美》,量子学派编著,北京大学出版社2020年9月第一版,定价:128.00元)