• 正文
    • 一、香農(nóng)的生平介紹
    • 二、催生出現(xiàn)代計(jì)算機(jī)的那篇論文
    • 三、信息論及香農(nóng)公式的誕生
    • 四、一種全新的觀點(diǎn)
    • 五、20世紀(jì)具有影響力的人物
    • 六、總結(jié)
  • 相關(guān)推薦
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

通信人物傳記---克勞德?香農(nóng):信息論之父

4小時(shí)前
153
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

一、香農(nóng)的生平介紹

克勞德·香農(nóng)或許是電氣工程領(lǐng)域以及整個(gè)數(shù)字時(shí)代最具影響力的人物之一。

香農(nóng)(1916年4月30日出生于密歇根州佩托斯基)在接受高等教育期間對(duì)數(shù)學(xué)產(chǎn)生了堅(jiān)定不移的熱愛(ài)。他從密歇根大學(xué)獲得了數(shù)學(xué)和電氣工程雙學(xué)士學(xué)位。

此后不久,克勞德首次正式涉足研究領(lǐng)域和數(shù)學(xué)領(lǐng)域。他與萬(wàn)尼瓦爾·布什一起研究微分方程,使用的是布什自己的微分分析機(jī)。1937年,他在紐約的貝爾實(shí)驗(yàn)室進(jìn)行暑期實(shí)習(xí)后,對(duì)知識(shí)的追求愈發(fā)強(qiáng)烈。他在麻省理工學(xué)院僅用三年時(shí)間就獲得了電氣工程碩士學(xué)位和數(shù)學(xué)博士學(xué)位。

克勞德與貝爾實(shí)驗(yàn)室保持了31年的合作關(guān)系,直到1972年。在此期間,他從事導(dǎo)彈控制系統(tǒng)的研究工作,成為客座教授,并于1958年獲得了終身教授職位。二十年后,他成為榮譽(yù)教授。

二、催生出現(xiàn)代計(jì)算機(jī)的那篇論文

香農(nóng)在學(xué)術(shù)界的這段時(shí)間以及之后的經(jīng)歷,成就了他在技術(shù)領(lǐng)域的最大貢獻(xiàn)。他的碩士學(xué)位論文《繼電器開(kāi)關(guān)電路的符號(hào)分析》為他帶來(lái)了極高的聲譽(yù)。這篇論文闡述了使用布爾代數(shù)構(gòu)建數(shù)字電路的理論基礎(chǔ)。

這些電路對(duì)于現(xiàn)代計(jì)算和電信至關(guān)重要。香農(nóng)將二進(jìn)制算術(shù)應(yīng)用于電氣開(kāi)關(guān),斷言某些繼電器裝置能夠解決布爾代數(shù)問(wèn)題。這種對(duì)“計(jì)算機(jī)邏輯”的強(qiáng)調(diào)在同行中引起了強(qiáng)烈反響。

在電信方面,克勞德設(shè)計(jì)出了簡(jiǎn)化用于路由開(kāi)關(guān)的電磁繼電器裝置的方法。

在這些發(fā)現(xiàn)之前,貝爾實(shí)驗(yàn)室通常會(huì)使用“人肉計(jì)算機(jī)”來(lái)操作交換機(jī)和其他計(jì)算設(shè)備。這些人必須使用預(yù)先設(shè)定的程序手動(dòng)計(jì)算出數(shù)學(xué)解。

這種過(guò)時(shí)的編程方式出現(xiàn)在香農(nóng)幫助開(kāi)創(chuàng)的數(shù)字時(shí)代之前。操作人員曾經(jīng)不得不依賴(lài)早期計(jì)算機(jī)、等值線(xiàn)繪圖儀(isographs)和積分儀(integraphs)來(lái)獲得類(lèi)似結(jié)果。而在克勞德·香農(nóng)(Claude Shannon)的研究成果公布僅幾年后,這些操作人員便得以使用現(xiàn)代計(jì)算機(jī)。

三、信息論及香農(nóng)公式的誕生

第二次世界大戰(zhàn)期間,軍事通信的需求急劇增加,需要更高效、可靠的通信系統(tǒng)來(lái)傳輸情報(bào)和指揮信息。同時(shí),工業(yè)界也在尋求提高通信系統(tǒng)性能的方法,以滿(mǎn)足日益增長(zhǎng)的商業(yè)和社會(huì)需求,如長(zhǎng)途電話(huà)、廣播等。在貝爾實(shí)驗(yàn)室工作期間,香農(nóng)參與了許多與通信相關(guān)的項(xiàng)目,包括密碼學(xué)和雷達(dá)系統(tǒng)等。這些實(shí)際工作讓他深刻了解到通信系統(tǒng)中存在的問(wèn)題,如噪聲對(duì)信號(hào)的干擾、信號(hào)傳輸的效率等,促使他思考如何從理論上解決這些問(wèn)題。

香農(nóng)從信息論的角度出發(fā),將通信過(guò)程抽象為一個(gè)信息源通過(guò)信道傳輸?shù)浇邮斩说哪P?。他首先定義了信息熵的概念,用于衡量信息的不確定性。然后,通過(guò)對(duì)信道中的噪聲和信號(hào)進(jìn)行數(shù)學(xué)建模,香農(nóng)深入研究了在噪聲環(huán)境下如何實(shí)現(xiàn)可靠的信息傳輸。他運(yùn)用概率論、數(shù)理統(tǒng)計(jì)等數(shù)學(xué)工具,經(jīng)過(guò)多年的潛心研究和推導(dǎo),最終在1948年發(fā)表了題為《通信的數(shù)學(xué)理論》的論文。

并在論文提出了著名的香農(nóng)公式。該公式揭示了在給定信道帶寬和信噪比的情況下,信道能夠傳輸?shù)淖畲笮畔⑺俾?,?a class="article-link" target="_blank" href="/baike/1569596.html">信道容量,為通信系統(tǒng)的設(shè)計(jì)和分析提供了理論基礎(chǔ)。

香農(nóng)公式C=B*log?(1+S/N)

其中C表示信道容量(單位為比特/秒),B是信道帶寬(單位為Hz),S是信號(hào)功率,N是噪聲功率,S/N表示信噪比。

它在通信領(lǐng)域具有極其重要的作用,具體如下:

1、確定信道極限容量:香農(nóng)公式明確了在給定信道帶寬和信噪比的條件下,信道能夠傳輸?shù)淖?a class="article-link" target="_blank" href="/tag/%E5%A4%A7%E6%95%B0%E6%8D%AE/">大數(shù)據(jù)速率,即信道容量。這為通信系統(tǒng)的設(shè)計(jì)提供了一個(gè)理論上限,讓人們清楚知道在特定條件下數(shù)據(jù)傳輸速率的極限值,從而避免盲目追求過(guò)高的數(shù)據(jù)傳輸率。比如,在設(shè)計(jì)無(wú)線(xiàn)通信系統(tǒng)時(shí),根據(jù)可用的頻譜資源(即信道帶寬)以及接收端的噪聲水平,利用香農(nóng)公式可以計(jì)算出該信道所能支持的最大數(shù)據(jù)傳輸速率,進(jìn)而合理規(guī)劃系統(tǒng)的傳輸能力。

2、指導(dǎo)系統(tǒng)參數(shù)設(shè)計(jì):該公式有助于工程師根據(jù)實(shí)際需求和條件來(lái)選擇合適的信道帶寬、信號(hào)功率等參數(shù)。如果需要提高信道容量,可以通過(guò)增加信道帶寬或提高信號(hào)功率、降低噪聲功率來(lái)實(shí)現(xiàn)。例如,在有線(xiàn)通信中,可以通過(guò)采用更好的傳輸介質(zhì)、優(yōu)化信號(hào)編碼方式等手段來(lái)降低噪聲,提高信噪比,從而提升信道容量;在無(wú)線(xiàn)通信中,除了提高發(fā)射功率外,還可以通過(guò)合理分配頻譜資源,增加信道帶寬來(lái)提高數(shù)據(jù)傳輸速率。

3、評(píng)估通信系統(tǒng)性能:香農(nóng)公式為評(píng)估不同通信系統(tǒng)的性能提供了一個(gè)統(tǒng)一的標(biāo)準(zhǔn)。通過(guò)比較實(shí)際系統(tǒng)的傳輸速率與香農(nóng)公式計(jì)算出的信道容量,可以了解系統(tǒng)的性能優(yōu)劣以及還有多大的提升空間。如果一個(gè)實(shí)際通信系統(tǒng)的傳輸速率接近香農(nóng)極限,說(shuō)明該系統(tǒng)的性能已經(jīng)比較優(yōu)化;如果差距較大,則意味著系統(tǒng)在編碼方式、調(diào)制解調(diào)技術(shù)、抗干擾措施等方面可能存在問(wèn)題,需要進(jìn)一步改進(jìn)。

4、推動(dòng)通信技術(shù)發(fā)展:香農(nóng)公式為通信技術(shù)的發(fā)展指明了方向。它促使研究人員不斷探索新的編碼技術(shù)、調(diào)制方式和信號(hào)處理方法,以逼近香農(nóng)極限。例如, Turbo碼、低密度奇偶校驗(yàn)碼(LDPC碼)等先進(jìn)編碼技術(shù)的出現(xiàn),就是為了在有限的帶寬和信噪比條件下,盡可能提高數(shù)據(jù)傳輸?shù)目煽啃院陀行裕箤?shí)際通信系統(tǒng)的性能不斷接近香農(nóng)公式所確定的理論極限。

四、一種全新的觀點(diǎn)

信息論對(duì)有關(guān)通信的傳統(tǒng)觀念提出了挑戰(zhàn)。以往,通信信號(hào)是與其所承載的信息結(jié)合起來(lái)進(jìn)行解讀的。香農(nóng)主張將這兩個(gè)部分分開(kāi),因?yàn)橐粍t信息的含義往往與其規(guī)模不成比例。恰當(dāng)?shù)耐ㄐ艖?yīng)該是由情境驅(qū)動(dòng)的。

克勞德的信息論主要關(guān)注兩個(gè)方面:信息發(fā)送和接收背后的邏輯,以及處理信息中包含的任何意義。然而,如果信息沒(méi)有成功傳遞,目標(biāo)接收者就永遠(yuǎn)無(wú)法知曉信息的真正含義。香農(nóng)隨后的工作重點(diǎn)是通信信道的可靠性。貝爾實(shí)驗(yàn)室是進(jìn)行這些實(shí)驗(yàn)的絕佳平臺(tái)。他研究了以下幾個(gè)方面:

- 最大化現(xiàn)有信道(電線(xiàn)、電纜、無(wú)線(xiàn)電波)的承載能力。

- 將理論通信容量與實(shí)際通信容量區(qū)分開(kāi)來(lái)。

- 揭示帶寬情況。

- 處理動(dòng)態(tài)干擾(噪聲)。

香農(nóng)很快就推導(dǎo)出了用于計(jì)算信道帶寬和噪聲的新方程,其中對(duì)噪聲的度量被稱(chēng)為信噪比。他發(fā)現(xiàn),信道上干擾的變化會(huì)實(shí)時(shí)影響信號(hào)傳輸能力。工程師可以利用這些信息相應(yīng)地優(yōu)化通信信道。在非最佳條件下,挑戰(zhàn)在于從嘈雜的線(xiàn)路中最大限度地發(fā)揮性能。

圖5. 香農(nóng)論文《繼電器電路分析器》中的圖表。

香農(nóng)證明了噪聲并不能阻止信道達(dá)到其理論信號(hào)容量。他的研究成果表明,工程師們可以通過(guò)編碼和系統(tǒng)維護(hù)來(lái)進(jìn)行改進(jìn)。這種雙管齊下的方法在此前無(wú)人知曉。

自然而然地,這些進(jìn)步揭示了通信的真正價(jià)值:信息本身。運(yùn)營(yíng)商們學(xué)會(huì)了如何提出正確的問(wèn)題,擱置錯(cuò)誤的問(wèn)題,并以高投入產(chǎn)出比為目標(biāo)。這些通信領(lǐng)域的努力融合了工程學(xué)、數(shù)學(xué)和物流學(xué),在接下來(lái)的幾十年里改變了技術(shù)的發(fā)展。

五、20世紀(jì)具有影響力的人物

克勞德·香農(nóng)的貢獻(xiàn)真正具有開(kāi)創(chuàng)性意義。他的理論解決了許多與數(shù)字通信和電信相關(guān)的問(wèn)題。他讓我們重新思考如何利用數(shù)字和信號(hào)來(lái)傳遞信息——以及傳播媒介是如何影響信息傳輸?shù)摹?/p>

這些發(fā)展為連續(xù)通信、離散通信以及其他通信形式鋪平了道路。它們還將工程學(xué)與人文領(lǐng)域的語(yǔ)言學(xué)交織在了一起。在香農(nóng)的研究成果出現(xiàn)之前,這種學(xué)科間的合作還處于起步階段。

多虧了香農(nóng),如今的編碼和解碼系統(tǒng)蓬勃發(fā)展。我們所熟知的現(xiàn)代系統(tǒng)也因此變得更加復(fù)雜且功能強(qiáng)大。

六、總結(jié)

克勞德·香農(nóng)以數(shù)學(xué)與工程的雙重根基重塑了通信與計(jì)算的底層邏輯。從《繼電器與開(kāi)關(guān)電路的符號(hào)分析》到信息論奠基之作《通信的數(shù)學(xué)理論》,他通過(guò)布爾代數(shù)與香農(nóng)公式,將通信系統(tǒng)解構(gòu)為帶寬、信噪比與編碼效率的數(shù)學(xué)命題,首次定義了信道容量的理論極限。其提出的噪聲容錯(cuò)編碼與信源熵理論,不僅催生了現(xiàn)代數(shù)字電路與糾錯(cuò)編碼技術(shù),更使通信工程突破經(jīng)驗(yàn)主義桎梏,轉(zhuǎn)向可量化的科學(xué)范式。香農(nóng)的遺產(chǎn)不僅體現(xiàn)于學(xué)術(shù)突破,更在于其理論框架持續(xù)驅(qū)動(dòng)著5G、衛(wèi)星通信人工智能領(lǐng)域的范式迭代,成為數(shù)字文明不可撼動(dòng)的基石。

相關(guān)推薦

登錄即可解鎖
  • 海量技術(shù)文章
  • 設(shè)計(jì)資源下載
  • 產(chǎn)業(yè)鏈客戶(hù)資源
  • 寫(xiě)文章/發(fā)需求
立即登錄

一個(gè)十幾年通信研發(fā)從業(yè)經(jīng)驗(yàn)的攻城獅,提供工作經(jīng)驗(yàn)、行業(yè)知識(shí)分享以及相關(guān)技術(shù)討論。