林葵的意识有些些混沌,但她很清晰地知道,程霆变得和以前有点不一样。
以前他不会捧着电脑敲代码,以前他不会主动去看专业论文。
一切从他说要帮她修米老头那天开始。
女孩小动物似的挨着他,不看电影了,看他的电脑。
“信道极化……一种对称二进制无记忆信道构造容量实现码的方法”她嘟哝着,太生涩,眉头不自觉蹙起,摘要都没读完。
而程霆,以一种意外的目光看向她。
这是一篇全英文论文。
林葵迎向他,在莹莹的屏幕光下,认得他眼中的赞许。
就有点骄傲——
“外婆教我!”
“外婆上过女校,还留洋!”
“外婆还会俄语!乌拉!!”
她像只小麻雀,叽叽喳喳,衣服与他的衣服摩擦,自然卷撒娇似的缠着他手指,等她停下来,唯有雪声簌簌。
他们看着彼此,明明家里很温暖,却在心底眷恋对方。
女孩抱着膝盖,小声问:“Arikan是谁?”
“不是看得懂?”
“每一个字都懂,连在一起就是天书。”
“你的手机是宇通吧?”程霆问。
“嗯!支持国货!”
“宇通最近给他颁了个奖。”
“为什么?”
“说来话长。”
女孩期待着。
“要从另外一个人说起。”
“我想听你说。”林葵给他端酒杯,让他润润喉再说。
程霆从电脑里调出另外一片论文,小麻雀朗读:“A mathematical theory of communication?”
程霆又调出一本书籍的电子档,她看了看,唯一的不同是标题的第一个单词从A变成了The.
The mathematical theory of communication。
“1948年,香农发表了论文《通信的数学理论》,一年后,当它出版成册时,标题发生了变化,虽然只是一个单词,但意义巨大,从此以后,它成为所有科学文章中引用最多的论文之一,并由此诞生了信息论。”
“香农?”
“高一数学有提到。”
“我一点印象都没有……”
“你是不是数学不好?”
“嗯QAQ”
他笑了一下,说:“香农想知道信息是怎么传递的,这篇论文第一章 的第六小节,他给出了信息熵的公式,成功量化了信息。”
程霆的讲述深入浅出:“信道就是信息传输的通道,比如光纤、电缆、无线电。我们把信息假想成水,那信道就是水管,信道容量就是水管单位时间内能传输的水量。
如果想象成车,信道就是车道,车道拥堵,也就好比上网卡顿,网速慢。”
小姑娘点点头,表示听懂了。
程霆问她:“什么是好的通信?”
“快?”
“是接收到的信息和对方发送的一模一样,不会漏掉哪个词让你听不懂。”
“香农给出了信道容量的公式,我们将这称之为香农极限。香农极限就像光,几十年来人们努力靠近,几乎达到但还没有。而Arikan教授倾尽一生,通过极化码达到了香农极限。
“极化码?”
“简单来说,通过异或的特性,增加信道,当信道足够多,将有效信息都编码在好信道里,舍弃无用的差信道,信息就能无损,而整个通信模型的信道容量刚好就是香农极限。”
“这个通过牺牲部分信道来提高整体传输率的过程,就是极化。”
他看着她:“如果你听懂了我的话,我们就是一次好的通信。”
林葵伸手,戳戳他的手背:“biubiu,接收良好。”
作者有话说:
1.
香农,通信祖师爷,1948年发表的论文《通信的数学理论》,从此才有了信息论这个专业,他开启了一个学科。
(同志们,世界的尽头是数学。)
而香农在开创信息量之前,就留下了被誉为二十世纪最高水平的硕士论文——
《继电器与开关电路的符号分析》
被视作今天计算机最底层设计的开端。
简单来说,香农也是计算机的开拓者。
通信原理的抽象公式基本都有香农的贡献,对传播学最大的贡献是引入了反馈这个词,
我严重怀疑老爷子是穿越的(狗头)
2.
我们现在很火的AI就用到了信息熵。
3,
香农在哈特莱的研究基础上完成公式,他把对数的底从10变成了2,以2为底,很符合他用0和1描述世界的逻辑,二进制从这里出现,然后苏联开始研究三进制
香农公式,一定存在某种方法使在发送速率小于信道极限传输速率的信道保证可靠传输。
信道容量就是最大互信息,互信息是一个测度,是一个随机变量包含另一个随机变量信息量的度量
4.
什么是好的通信?
是接受到的信息和对方发送的一模一样,不会漏掉哪个词让你听不懂,
不确定自己听到的对不对,就叫疑义度,H(X丨Y),是损失掉的,
散布度H(Y丨X),是噪声引入的
损失的越少,听到的信息就越大,传输过程中,理论上能传输的最大互信息,就是channel capacity,信道容量
降噪耳机也是一样的道理,噪声是可以被克服的
5.
Arikan首先解决的是BEC信道,也叫二进制擦除信道,binary erasure channel
Erasure 擦除,这是信号损失的形象说法,这个信道只有两种可能,要嘛擦除,接收端完全收不到信号,要嘛成功,完整传达,不存在传达部分
按照网上大佬的解释,我简单一点跟大家说一下,
假设有P的概率被擦除,那么成功传输的概率是1-p,前面我们讲过,信道容量的定义是最大互信息,他证明信道容量c就是1-p
1是必然事件,p是不确定因素
由于为p的信息在信道中损失,我们最多只能传输1-p,假设p是0.5,那就最多可以让一半的信息无疑义的传输成功
但能不能达成1-p就是香农所谓的极限?
我们来了解一个词,异或,
(异或是一种二进制数□□算,两个相同的数据异或,结果永远为0:不同得为1)
(异或就是信息内容的差别集合,通过这一步,信道带有全部信息。类似调制解调器)
(伽罗瓦二元域里加和减是一样的运算,这里的异或就是伽罗瓦域里的加法。)
Arikan教授用两个BEC信道进行一种操作,U2直接传输信道二,U1在传输信道一之前,与 U2异或得到X1,
再传,
也就是U1异或U2得到X1,
U2=X2
这样做的目的是使信息传输最大化,把信息按照约定编码标记拆分传输再根据编码组合达到更低的丢失率,压缩数据通过不同信道传输提高抗干预和传输速率
异或有个很厉害的特性,A异或B后得到C,
假如再将C和B异或,就能还原A
我们靠这个公式进行解码
还是刚刚的两个信道,我们收到两个信号,Y1和Y2,那么,如何还原U1U2呢?
BEC信道的特点是,只要传输成功,那就是正确的,那么
已知X1异或U2=U1
X1=Y1
X2=Y2=U2
那么,U1=Y1异或Y2
将计算合并,只有U1=Y1异或Y2这个结论,那么就创造了一个新的信道,在这个信道里,信息传输成功的概率变成了1-p乘1-p
被擦除的概率就是1-p的平方
假设p是0.5,那么这个新信道的信息将有0.75的概率被擦除
相较于一开始的概率0.5,这个新信道明显变差
既然有一个差信道,那么就有一个好信道
从刚才的U2入手,也得到一个新信道,这个信道的擦除率只有0.25,是目前最好的信道
如果按照这个安排增加信道,仅仅用八个信道相连,通过异或,出现了擦除率为0.0039的信道。
那么,只要将有效信息都编码在好信道里,舍弃无用的差信道,信息就能无损。
6.
在编程中用异或来实现不借用第三个变量让两个变量交换数值。
7
通信工程专业学在我这里就是天书。
明天见嗷!~
第13章 飘散如烟13
程霆将手翻过来,手掌朝上,似乎要接住她,但在那之前,小姑娘礼貌地收回爪子。
感叹:“arikan教授好厉害!”
他的手虚无地攥了攥,思考片刻,给与最公平的评价:“在此之前,Robert gallager提出的LDPC几乎达到香农极限,美国高通为主的阵营一直使用这种校验码。相较于高通领先几十年的基础布局,极化码并不是最优选项。”
林葵万万没想到,这人前面铺排这么久,到最后跟她说不是最优解。她就一时有点不知道怎么办。
女孩的眼睛小狗似的耷拉下来,程霆笑了。
“确切来说,极化码是宇通的筹码。”他说,“这个筹码让宇通在5G拿到了国际话语权,按照最新的行业标准,和LDPC平分江山。”
“所以我现在可以鼓掌了吗?”
程霆低声道:“现在回到你最初的问题,这个奖颁给arikan教授,与其说是感谢他对5G行业的贡献,其实更多是在弘扬一种精神。”
“什么精神?”
程霆的手在空中画了一条线:“发明LDPC 的Robert教授其实是arikan教授在MIT的老师,同时也是香农的学生。
香农、Robert、arikan,师承三代,提出、证论、超越,半个多世纪,他们完成了一场漫长的接力,信息论在很长一段时间都是无人问津的领域,arikan教授坐了二十年冷板凳,用外人无法想象的的执着和热情,追到了光。”
林葵永远都不会忘记,这一天,在影影倬倬的鬼片光影下,程霆带给她的震撼。
他只是很平静的给她讲了一个故事,但于林葵来说,她看到了那束光,看到了追光的人。
“程霆。”女孩糯糯地唤他,“我们会超过他们的,对不对?”
年轻的男人并没有回答,他凝视着她。
林葵的脸在这样的目光中慢慢红透,酒意上头,她垂着脑袋,小声问:“你害怕失败吗?”
程霆看着毛茸茸的小脑袋,语气多了一丝自己都没察觉的温柔——
“我真的见过很多失败,但我不怕。”
他的话像是一根划亮的火柴,烧着了女孩的耳朵,又烫又痒。她忍不住抬头看他,在他脸上看到一种叫做纯粹的东西。
女孩的眼睛潮漉漉的,带着程霆没见过的娇气,忽然推推他:“我不带你走了,你要好好留在这里。”
她说:“你要好好的。”
带着玩笑的口吻,但你知道,她认真做了决定。
“不是说要牵着我的手?”程霆的手落在女孩手腕上,轻轻握住。
女孩子的皮肤细细的,软软的,随便那里都是一团肉,骨头只有一点点。
林葵坚定地摇摇头:“外婆会陪我。”
程霆的喉结动了动,吞咽很困难,很苦。
“我不害怕,真的。”女孩的眼睛带着一种与她年纪不符,可以称之为安详的笑。
这个女孩,胆小、害羞、敏感,但只要一谈到死,她总是有一种解脱的淡然。
此刻,她没有挣脱程霆的手,甚至朝他靠近,忽然说了一句明显不是英文的外语。
程霆没有问,嗓子像在沙地上磨过,他要求:“再说一遍。”
小姑娘仗着他听不懂,重复一遍,唇红齿白,双眼皎洁,语调带着少女的青涩与甜蜜。
·
这一夜实在难熬,有人翻来覆去,眼前全是小姑娘无法无天的笑。
——“我不害怕,真的。”
——“程霆,我想把你文在身上,你是我最重要的人。”
——“你是我最重要的人。”
圆圆的眼镜、卷卷的头发,被揉红的皮肤、变形的小熊……当天边泛出鱼肚白,周末来临,401的主人、IC曾经的食物链顶端王者、方圆百里最帅电工……睁开眼,面无表情感觉一番,烦躁地翻个身,趴在枕头上,用那种明显不是英文的外语,表达了一下此刻无语的心情。
发音相当标准。
然后赶在早会前拆洗床单被套,内裤装进袋子里打结扔掉。
小崽子们在楼下嘻嘻哈哈,笑声童真美好,程霆站在窗边,呼吸着凛冽的空气,生平头一次觉得自己真特么龌龊。
可是又笑了。
觉得今天天气真不错。
在老汪主持下的早会一如既往积极向上,结束后,老汪留下哼哈二将布置任务,抽屉里拿出两袋高丽参,一人赏一包,让他们晚上早点睡,少看片,提起精神好好上班。
程霆咬在嘴上,遥遥望见301开了窗户,小姑娘笑着朝他挥手。
他懒懒回应了一下,扭头跟老汪讲:“晚上电影在这放。”
老汪:“从来都是在后面的!”
程霆:“这里。”
老汪:“后面有大熊灯,多好!”
程霆:“就在这里。”
没得商量的口气。
那还能怎么办?
放电影这种活只能听电工的,老汪相信他一旦摇头这小子就要罢工。
程霆低头发消息:【晚上放电影。】
小螃蟹:【我知道!在后操场!我每次都有听!】
程霆盯着那个听字,说她:【可怜虫。】
小螃蟹好一阵没回话。
他就有点操心,怕她躲起来哭。
下一秒,小螃蟹:【哭哭脸jpg。】
程霆收起手机干活,幕布挂在物业办公室前面。
晚饭前就有人搬凳子占位置,301的窗户关了一天,忙的不行,玻璃上一层雾气,以至于忽略了业主群的最新通知。
晚上八点,小区灭了路灯,一时间黑漆漆的。
林葵送出去最后一块蛋糕,看着黑漆漆的窗户眨巴眨巴眼,以为停电了,再瞅瞅自家亮堂堂的灯,有点摸不着脑袋。
她推开窗,想看看究竟,就在这时,幕布亮起,坐在小板凳上的邻居们热热闹闹鼓掌。
小姑娘这才扒拉群通知,发现改了地址。
有人问为什么改地址,电工大人回了一句:【后面有条线坏了,不会弄,只会弄前面的。】
林葵盯着这句话,捂嘴笑出来。