香農信息代表什麼意思

A. 什麼是信息（申農的定義）

資訊理論是運用概率論與數理統計的方法研究信息、信息熵、通信系統、數據傳輸、密碼學、數據壓縮等問題的應用數學學科。

資訊理論將信息的傳遞作為一種統計現象來考慮，給出了估算通信信道容量的方法。信息傳輸和信息壓縮是資訊理論研究中的兩大領域。這兩個方面又由信息傳輸定理、信源－信道隔離定理相互聯系。

香農被稱為是「資訊理論之父」。人們通常將香農於1948年10月發表於《貝爾系統技術學報》上的論文《A Mathematical Theory of Communication》（通信的數學理論）作為現代資訊理論研究的開端。這一文章部分基於哈里·奈奎斯特和拉爾夫·哈特利先前的成果。在該文中，香農給出了信息熵（以下簡稱為「熵」）的定義：

H = - ∑ pilogpi
i

這一定義可以用來推算傳遞經二進制編碼後的原信息所需的信道帶寬。熵度量的是消息中所含的信息量，其中去除了由消息的固有結構所決定的部分，比如，語言結構的冗餘性以及語言中字母、詞的使用頻度等統計特性。南豐公益書院

資訊理論中熵的概念與物理學中的熱力學熵有著緊密的聯系。玻耳茲曼與吉布斯在統計物理學中對熵做了很多的工作。資訊理論中的熵也正是受之啟發。

互信息(Mutual Information)是另一有用的信息度量，它是指兩個事件集合之間的相關性。兩個事件X和Y的互信息定義為：

I(X,Y) = H(X) + H(Y) - H(X,Y)
其中 H(X,Y) 是聯合熵(Joint Entropy)，其定義為：

H(X,Y) = - ∑ p(x,y)logp(x,y)
x,y

互信息與多元對數似然比檢驗以及皮爾森χ2校驗有著密切的聯系。

應用

資訊理論被廣泛應用在：
南豐公益書院

編碼學
密碼學與密碼分析學
數據傳輸
數據壓縮
檢測理論
估計理論
資訊理論第一定律

資訊理論是一門用數理統計方法來研究信息的度量、傳遞和變換規律的科學。它主要是研究通訊和控制系統中普遍存在著信息傳遞的共同規律以及研究最佳解決信息的獲限、度量、變換、儲存和傳遞等問題的基礎理論。
資訊理論的研究范圍極為廣闊。一般把資訊理論分成三種不同類型：
(1)狹義資訊理論是一門應用數理統計方法來研究信息處理和信息傳遞的科學。它研究存在於通訊和控制系統中普遍存在著的信息傳遞的共同規律，以及如何提高各信息傳輸系統的有效性和可靠性的一門通訊理論。
(2)一般資訊理論主要是研究通訊問題，但還包括雜訊理論、信號濾波與預測、調制與信息處理等問題。
(3)廣義資訊理論不僅包括狹義資訊理論和一般資訊理論的問題，而且還包括所有與信息有關的領域，如心理學、語言學、神經心理學、語義學等。
信息就是一種消息，它與通訊問題密切相關。1984年貝爾研究所的申農在題為《通訊的數學理論》的論文中系統地提出了關於信息的論述，創立了資訊理論。維納提出的關於度量信息量的數學公式開辟了資訊理論的廣泛應用前景。1951年美國無線電工程學會承認資訊理論這門學科，此後得到迅速發展。20世紀50年代是資訊理論向各門學科沖擊的時期，60年代資訊理論不是重大的創新時期，而是一個消化、理解的時期，是在已有的基礎上進行重大建設的時期。研究重點是信息和信源編碼問題。到70年代，由於數字計算機的廣泛應用，通訊系統的能力也有很大提高，如何更有效地利用和處理信息，成為日益迫切的問題。人們越來越認識到信息的重要性，認識到信息可以作為與材料和能源一樣的資源而加以充分利用和共享。信息的概念和方法已廣泛滲透到各個科學領域，它迫切要求突破申農資訊理論的狹隘范圍，以便使它能成為人類各種活動中所碰到的信息問題的基礎理論，從而推動其他許多新興學科進一步發展。目前，人們已把早先建立的有關信息的規律與理論廣泛應用於物理學、化學、生物學等學科中去。一門研究信息的產生、獲取、變換、傳輸、存儲、處理、顯示、識別和利用的信息科學正在形成。
信息科學是人們在對信息的認識與利用不斷擴大的過程中，在資訊理論、電子學、計算機科學、人工智慧、系統工程學、自動化技術等多學科基礎上發展起來的一門邊緣性新學科。它的任務主要是研究信息的性質，研究機器、生物和人類關於各種信息的獲取、變換、傳輸、處理、利用和控制的一般規律，設計和研製各種信息機器和控制設備，實現操作自動化，以便盡可能地把人腦從自然力的束縛下解放出來，提高人類認識世界和改造世界的能力。信息科學在安全問題的研究中也有著重要應用。

——摘自《安全科學技術網路全書》（中國勞動社會保障出版社，2003年6月出版）

參考資料：網路

B. 「信息」在資訊理論奠基之一香農里的意思是什麼

香農
克勞德·香農(Claude Elwood Shannon，1916-2001)1916年4月30日誕生於美國密西根州的Petoskey。在Gaylord小鎮長大，當時鎮里只有三千居民。父親是該鎮的法官，他們父子的姓名完全相同，都是Claude Elwood Shannon。母親是鎮里的中學校長，姓名是Mabel Wolf Shannon。他生長在一個有良好教育的環境，不過父母給他的科學影響好像還不如祖父的影響大。香農的祖父是一位農場主兼發明家，發明過洗衣機和許多農業機械，這對香農的影響比較直接。此外，香農的家庭與大發明家愛迪生(Thomas Alva Edison，1847-1931)還有遠親關系。

香農的大部分時間是在貝爾實驗室和MIT(麻省理工學院)度過的。在「功成名就」後，香農與瑪麗(Mary Elizabeth Moore)1949年3月27日結婚，他們是在貝爾實驗室相識的，瑪麗當時是數據分析員。他們共有四個孩子：三個兒子Robert、James、Andrew Moore和一個女兒Margarita Catherine。後來身邊還有兩個可愛的孫女。

2001年2月24日，香農在馬薩諸塞州Medford辭世，享年85歲。貝爾實驗室和MIT發表的訃告都尊崇香農為資訊理論及數字通信時代的奠基之父。

1936年香農在密西根大學獲得數學與電氣工程學士學位，然後進入MIT念研究生。

1938年香農在MIT獲得電氣工程碩士學位，碩士論文題目是《A Symbolic Analysis of Relay and Switching Circuits》(繼電器與開關電路的符號分析)。當時他已經注意到電話交換電路與布爾代數之間的類似性，即把布爾代數的「真」與「假」和電路系統的「開」與「關」對應起來，並用1和0表示。於是他用布爾代數分析並優化開關電路，這就奠定了數字電路的理論基?9�鶇笱У餒さ悄?Howard Gardner)教授說，「這可能是本世紀最重要、最著名的一篇碩士論文。」

1940年香農在MIT獲得數學博士學位，而他的博士論文卻是關於人類遺傳學的，題目是《An Algebra for Theoretical Genetics》(理論遺傳學的代數學)。這說明香農的科學興趣十分廣泛，後來他在不同的學科方面發表過許多有影響的文章。

在讀學位的同時，他還用部分時間跟溫尼法·布希(Vannevar Bush)教授進行微分分析器的研究。這種分析器是早期的機械模擬計算機，用於獲得常微分方程的數值解。1941年香農發表了《Mathematical theory of the differential analyzer》(微分分析器的數學理論)，他寫道：「大多數結果通過證明的定理形式給出。最重要的是處理了一些條件，有些條件可以生成一個或多個變數的函數，有些條件可使常微分方程得到解。還給出了一些注意事項，給出求函數的近似值(不能產生精確值)、求調整率的近似值以及自動控制速率的方法。」

1941年香農以數學研究員的身份進入新澤西州的AT&T貝爾電話公司，並在貝爾實驗室工作到1972年，從24歲到55歲，整整31年。1956年他當了MIT的訪問教授，1958年成為正式教授，1978年退休。

人們描述香農的生活，白天他總是關起門來工作，晚上則騎著他的獨輪車來到貝爾實驗室。他的同事D. Slepian寫到：「我們大家都帶著午飯來上班，飯後在黑板上玩玩數學游戲，但克勞德很少過來。他總是關起門來工作。但是，如果你要找他，他會非常耐心地幫助你。他能立刻抓住問題的本質。他真是一位天才，在我認識的人中，我只對他一人使用這個詞。」

香農與John Riordan一起工作，1942年發表了一篇關於串並聯網路的雙終端數的論文。這篇論文擴展了麥克馬洪(Percy A. MacMahon，1854-1929)1892年在Electrician上發表的論文理論。1948年則創立了資訊理論(information theory)。

在漫長的歲月，他思考過許多問題。除在普林斯頓高等研究院工作過一年外，主要都在MIT和Bell Lab度過。需要說明的是，在二次世界大戰時，香農博士也是一位著名的密碼破譯者(這使筆者想到比他大4歲的圖靈博士)。他在Bell Lab的破譯團隊主要是追蹤德國飛機和火箭，尤其是在德國火箭對英國進行閃電戰時起了很大作用。1949年香農發表了另外一篇重要論文《Communication Theory of Secrecy Systems》(保密系統的通信理論)，正是基於這種工作實踐，它的意義是使保密通信由藝術變成科學。

1948年香農在Bell System Technical Journal上發表了《A Mathematical Theory of Communication 》。論文由香農和威沃共同署名。前輩威沃(Warren Weaver，1894-1978)當時是洛克菲勒基金會自然科學部的主任，他為文章寫了序言。後來，香農仍然從事技術工作，而威沃則研究資訊理論的哲學問題。順便提一句，該論文剛發表時，使用的是不定冠詞A，收入論文集時改為定冠詞The。

熵的概念

香農理論的重要特徵是熵(entropy)的概念，他證明熵與信息內容的不確定程度有等價關系。熵曾經是波爾茲曼在熱力學第二定律引入的概念，我們可以把它理解為分子運動的混亂度。信息熵也有類似意義，例如在中文信息處理時，漢字的靜態平均信息熵比較大，中文是9.65比特，英文是4.03比特。這表明中文的復雜程度高於英文，反映了中文詞義豐富、行文簡練，但處理難度也大。信息熵大，意味著不確定性也大。因此我們應該深入研究，以尋求中文信息處理的深層突破。不能盲目認為漢字是世界上最優美的文字，從而引申出漢字最容易處理的錯誤結論。

眾所周知，質量、能量和信息量是三個非常重要的量。

人們很早就知道用秤或者天平計量物質的質量大?H歡��頤槍賾諶取⑷劑稀⒐τ肽艿募屏課侍猓�僦?9世紀中葉，隨著熱功當量的明確和能量守恆定律的建立才逐漸清楚。能量一詞就是它們的總稱，而能量的計量則通過「卡、焦耳」等新單位的出現而得到解決。

然而，關於文字、數字、圖畫、聲音的知識已有幾千年歷史了。但是它們的總稱是什麼，它們如何統一地計量，直到19世紀末還沒有被正確地提出來，更談不上如何去解決了。20世紀初期，隨著電報、電話、照片、電視、無線電、雷達等的發展，如何計量信號中信息量的問題被隱約地提上日程。

1928年哈特利(R.V. H. Harley)考慮到從D個彼此不同的符號中取出N個符號並且組成一個「詞」的問題。如果各個符號出現的概率相同，而且是完全隨機選取的，就可以得到DN個不同的詞。從這些詞里取了特定的一個就對應一個信息量I。哈特利建議用N log D這個量表示信息量，即I=N log D 。這里的log表示以10為底的對數。後來，1949年控制論的創始人維納也研究了度量信息的問題，還把它引向熱力學第二定律。

但是就信息傳輸給出基本數學模型的核心人物還是香農。1948年香農長達數十頁的論文「通信的數學理論」成了資訊理論正式誕生的里程碑。在他的通信數學模型中，清楚地提出信息的度量問題，他把哈特利的公式擴大到概率pi不同的情況，得到了著名的計算信息熵H的公式：

H=∑-pi log pi

如果計算中的對數log是以2為底的，那麼計算出來的信息熵就以比特(bit)為單位。今天在電腦和通信中廣泛使用的位元組(Byte)、KB、MB、GB等詞都是從比特演化而來。「比特」的出現標志著人類知道了如何計量信息量。香農的資訊理論為明確什麼是信息量概念作出決定性的貢獻。

事實上，香農最初的動機是把電話中的噪音除掉，他給出通信速率的上限，這個結論首先用在電話上，後來用到光纖，現在又用在無線通信上。我們今天能夠清晰地打越洋電話或衛星電話，都與通信信道質量的改善密切相關。

克勞德·香農在公眾中並不特別知名，但他是使我們的世界能進行立即通信的少數科學家和思想家之一。他是美國科學院院士、美國工程院院士、英國皇家學會會員、美國哲學學會會員。他獲得過許多榮譽和獎勵。例如1949年Morris獎、1955年Ballantine獎、1962年Kelly獎、1966年的國家科學獎章、IEEE的榮譽獎章、1978年Jaquard獎、1983年Fritz獎、1985年基礎科學京都獎。他接受的榮譽學位不勝枚舉，不再贅述。

今天，我們懷念香農，要熟悉他的兩大貢獻：一是信息理論、信息熵的概念；另一是符號邏輯和開關理論。我們更應該學習他好奇心強、重視實踐、追求完美、永不滿足的科學精神，這是他獲得成功的重要經驗。
參考資料：http://..com/question/12396945.html?si=3

C. 香農的資訊理論究竟牛在哪裡

「信息」被定義為一種有別於物質—能源的東西，在需要作出決策的時候，有一個選擇存在於一批選擇之中，在這樣的情況下，信息影響不確定性。因此，信息是不確定性的減少。信息的基本單位是比特，這個詞是「二進制數字」的濃縮。

1948年以後，香農的資訊理論在物理學、生物學和社會科學等學術團體中得到迅速而又廣泛的傳播。資訊理論被普遍引用，這種影響歷時多年經久不衰。香農的（以熵的公式所測度的）信息概念對於傳播學學者來說有著直接的用處。或許這就是為什麼他的理論通常被稱為「信息」理論、而不是「傳播」理論的原因，後者是香農用來表示其理論的術語。

香農的信息概念的普遍性受到了贊揚：通過以定義清晰、但又完全抽象的術語來對待信息，而且適用於所有種類、所有領域的信息。香農資訊理論對目前的通信系統設計和編碼都有不可忽視的指導意義。

D. 香農定理是什麼 香農定理是什麼意思

1、香農定理是香農在信號處理和信息理論等相關領域的研究中。通過計算信號在經過一段距離如何衰減以及一個給定信號能載入多少數據之後。得到了一個公式。

2、香農定理給出了信道信息傳送速率的上限（比特每秒）和信道信噪比及帶寬的關系。香農定理可以解釋現代各種無線制式由於帶寬不同，所支持的單載波最大吞吐量的不同。

E. 請問香農定理的意義是什麼

是考試用的嗎？我個人非常喜歡香農定理，這個意義我說的書面一點吧(雖說意義這種東西有點書獃子氣，畢竟親身實踐多次才能有感受)：
香農定理在意外和概率的基礎上對信息作出了一個非常普遍的定義。從他的方程中得出的重要訊息時，如果一個事件的概率是百分之五十，那麼他恰好包含了一比特的信息。這可以推廣到一個更見普遍的概念，即構成一件真正事務的任何東西，都能分解為一串適當大小的比特。而另一個方程則集中於信道的性質，香農表明，在給定的媒介中每秒鍾可以傳輸的比特數有一個極限，這個極限是由信道的帶寬和雜訊規定的。開發利用這一極限的最經濟方法是通過數字化編碼。
香濃的影響不只是局限與通信世界，這類方程的形式在以熵為標題的其他科學領域也可找到，以及可在標明一個物理系統中的無序度那裡找到。用資訊理論來說，這可以用意外的程度來表示。

F. 香農資訊理論的基本思想

信息以某種非同一般的方式運作。一般來說，當它被有選擇地分享時，它的價值就增加。它不會因為使用而貶值，盡管它可以過時。最為奇特的是，你可以在不放棄信息的情況下將其分發。因此，它與貨幣或其他形式的能源，或物質在本質上截然不同。香農的信息概念建立在熱力學熵的等式的基礎上，並將信息的測度單位定為比特。比特的一個重要優點是：它能夠為范圍極其廣泛的「物質-能量」所使用。
資訊理論的創始人香農提出了信息傳播中「噪音」的概念，即是指由於技術故障或技術不完善造成的干擾，並使得發出信號與接受信號之間出現信息失真，造成傳播的障礙。

G. 香農資訊理論的名稱由來

資訊理論將信息的傳遞作為一種統計現象來考慮，給出了估算通信信道容量的方法。信息傳輸和信息壓縮是資訊理論研究中的兩大領域。這兩個方面又由信息傳輸定理、信源－信道隔離定理相互聯系。
香農被稱為是「資訊理論之父」。人們通常將香農於1948年10月發表於《貝爾系統技術學報》上的論文《A Mathematical Theory of Communication》（通信的數學理論）作為現代資訊理論研究的開端。這一文章部分基於哈里·奈奎斯特和拉爾夫·哈特利先前的成果。在該文中，香農給出了信息熵（以下簡稱為「熵」）的定義：香農
H = - ∑ pilogpi
i
這一定義可以用來推算傳遞經二進制編碼後的原信息所需的信道帶寬。熵度量的是消息中所含的信息量，其中去除了由消息的固有結構所決定的部分，比如，語言結構的冗餘性以及語言中字母、詞的使用頻度等統計特性。
資訊理論中熵的概念與物理學中的熱力學熵有著緊密的聯系。玻耳茲曼與吉布斯在統計物理學中對熵做了很多的工作。資訊理論中的熵也正是受之啟發。
互信息(Mutual Information)是另一有用的信息度量，它是指兩個事件集合之間的相關性。兩個事件X和Y的互信息定義為：
I(X,Y) = H(X) + H(Y) - H(X,Y)
其中H(X,Y) 是聯合熵(Joint Entropy)，其定義為：
H(X,Y) = - ∑ p(x,y)logp(x,y)
x,y
互信息與多元對數似然比檢驗以及皮爾森χ2校驗有著密切的聯系。

H. 什麼是香農定理

香農定理給出了信道信息傳送速率的上限（比特每秒）和信道信噪比及帶寬的關系。香農定理可以解釋現代各種無線制式由於帶寬不同，所支持的單載波最大吞吐量的不同。

在有隨機熱雜訊的信道上傳輸數據信號時，信道容量Rmax與信道帶寬W，信噪比S/N關系為：Rmax=W*log2(1+S/N)。注意這里的log2是以2為底的對數。

香農三大定理是資訊理論的基礎理論。香農三大定理是存在性定理，雖然並沒有提供具體的編碼實現方法，但為通信信息的研究指明了方向。香農第一定理是可變長無失真信源編碼定理。香農第二定理是有噪信道編碼定理。香農第三定理是保失真度准則下的有失真信源編碼定理。

(8)香農信息代表什麼意思擴展閱讀：

香農第三定理（保失真度准則下的有失真信源編碼定理）

保真度准則下的信源編碼定理，或稱有損信源編碼定理。只要碼長足夠長，總可以找到一種信源編碼，使編碼後的信息傳輸率略大於率失真函數，而碼的平均失真度不大於給定的允許失真度，即D'<=D.

設R(D)為一離散無記憶信源的信息率失真函數，並且選定有限的失真函數，對於任意允許平均失真度D>=0，和任意小的a>0，以及任意足夠長的碼長N，則一定存在一種信源編碼W，其碼字個數為M<=EXP{N[R(D)+a]}，而編碼後碼的平均失真度D'(W)<=D+a。

I. 在資訊理論奠基人之一香農中信息一詞的解釋

克勞德·艾爾伍德·香農

克勞德·艾爾伍德·香農（Claude Elwood Shannon ，1916年4月30日—2001年2月26日）美國數學家、資訊理論的創始人。

香農於1916年4月30日出生於美國密歇根州的Petoskey，並且是愛迪生的遠親戚。1936年畢業於密歇根大學並獲得數學和電子工程學士學位，在那裡他遇到了布爾，上過他的課程。1940年獲得麻省理工學院（MIT）數學博士學位和電子工程碩士學位。1941年他加入貝爾實驗室數學部，工作到1972年。1956年他成為麻省理工學院（MIT）客座教授，並於1958年成為終生教授，1978年成為名譽教授。香農博士於2001年2月26日去世，享年84歲。

香農於1940年在普林斯頓高級研究所（The Institute for Advanced Study at Princeton）期間開始思考資訊理論與有效通信系統的問題。經過8年的努力，香農在1948年6月和10月在《貝爾系統技術雜志》（Bell System Technical Journal）上連載發表了他影像深遠的論文《通訊的數學原理》。1949年，香農又在該雜志上發表了另一著名論文《雜訊下的通信》。在這兩篇論文中，香農闡明了通信的基本問題，給出了通信系統的模型，提出了信息量的數學表達式，並解決了信道容量、信源統計特性、信源編碼、信道編碼等一系列基本技術問題。兩篇論文成為了資訊理論的奠基性著作。
獲獎與榮譽：
美國Alfred Noble協會美國工程師獎 1940年
Morris Liebmann 無線電工程師協會Memorial獎章 1949年
耶魯大學 (首席科學家) 1954年
Stuart Ballantine弗蘭克林協會獎章 1955年
研究合作獎 1956年
密歇根大學, 榮譽博士 1961年
萊斯大學 榮譽獎章1962年
普林斯頓大學, 榮譽博士 1962年
Marvin J. Kelly Award 1962年
愛丁堡大學 榮譽博士 1964年
匹茲堡大學 榮譽博士 1964年
電子電氣工程師協會 榮譽獎章 1966年
美國國家科學獎章 1966年, 由前總統Lyndon B. 約翰遜頒發
Golden Plate Award 1967年
美國西北大學, 榮譽博士 1970年
Harvey Prize, the Technion of Haifa, 以色列 1972年
牛津大學 榮譽博士 1978年
Joseph Jacquard獎 1978年
Harold Pender獎 1978年
東英格倫大學, 榮譽博士 1982年
卡內基梅隆大學 榮譽博士 1984年
美國聲頻技術協會 金獎 1985年
Kyoto Prize 1985年
塔夫斯大學 榮譽博士 1987年
賓西法尼亞大學 榮譽博士 1991年
Eard Rhein Prize 1991年

是這位吧,網路就有啊.

參考資料：http://ke..com/view/607030.html?tp=8_11