信息论简述
信息论是运用几率论与数理统计的方法研究信息传输和信息处理系统中一般规律的新兴学科。核心困难是信息传输的有效性和牢靠性以及两者间的关系。
信息论作为一门科学理论，发端于通信工程。它具有广义和狭义两个概念：
狭义信息论是应用统计方法研究通讯系统中信息传递和信息处理的共同规律的科学，即研究几率性语法信息的科学；
广义信息论是应用数学和其余相关科学方法研究一切现实系统中信息传递和处理、信息识别和利用的共同规律的科学，即研究语法信息、语义信息和语用信息的科学。
信息是事物及其属性标识的集合
信息就是信息，信息是物质、能量、信息及其属性的标示。
信息是确定性的增长。即肯定性的证实。
信息论形成和发展
民众对于信息的认识和利用，可以追溯到古代的通讯实践。中国古代的“烽燧相望”和古罗马地中海诸城市的“悬灯为号”，可以说是传递信息的原始方式。伴随社会生产的成长，科学技术的进步，民众对传递信息的要求急剧增长。到了20世纪20年代，如何提升传递信息的能力和牢靠性已形成广泛重视的课题。美国科学家N.奈奎斯特、德国K.屈普夫米勒、前苏联A.H.科尔莫戈罗夫和英国R.A.赛希尔等人，从不同角度研究信息，为建立信息论做出很大贡献。1948年，美国数学家C.E.香农(被称为是“信息论之父”)出版《通信的数学理论》，1949年发表《噪声中的通信》，进而奠定了信息论的基础。20世纪70年代以后，伴随数学计算机的普遍应用和社会信息化的快速发展，信息论正渐渐击穿香农狭义信息论的规模，发展为一门不仅研究语法信息，而且研究语义信息和语用信息的科学。它的建立是人类认识的一个飞跃。世界上各种事物均为充满冲突持续发展的，物质的运动首要是靠内部冲突运动所造成的能量，而事物之间的广泛联系则靠的是信息。信息是有关事物的运动状态和规律，而信息论的造成与发展过程，就是立足于这个基本性质。信息论快速渗透到各个不同学科领域，但还不够完善。为了适应科学技术发展的需要，迎接信息化社会的来临，一门新的科学正在快速兴起，这就是广义信息论，或者叫做信息科学。信息科学是由信息论、控制论、计算机、人工智能和系统论等相互渗透、相互结合而形成的一门新兴综合性学科。信息科学登上现代科技舞台，与能量科学、材料科学鼎足而立 ，将为科学技术的成长做出贡献。
信息论内容
信息论内容包含信息熵、信源编码、信道编码、信道容量、信息失真率理论、信号检测和预期等。
信息量
信息的度量是信息论研究的基本困难之一。对于应用规模这样大量的信息提出一个统一的度量是问题的。美国数学家C.E.香农在1948年提出信息熵作为信息量的测度。依据民众的实践经验，一个事件予以民众的信息量多少，与这一事件发生的几率(机会)大小相关。一个小几率事件的发生，如“唐山发生七级以上大地震”使民众感觉到无意中，它给民众的信息量就很多。相反一个大约率事件的显现，如“12月15号北京未下雪”给民众的信息量就很少。所以,用I(A)=- logP(A)〔P(A)表明事件A发生的几率〕来度量事件A给出的信息量，称为事件A的自信息量。若一次试验有M个或许结果(事件)，或一个信源或许造成M个消息（事件）,它们显现的几率分别为
,则用
来度量一次试验或一个消息所给出的平均信息量。当对数取 2为底时,单位为比特；当对数取e为底时,则单位为奈特。H的表达式与熵的表达式差一个负号，故称负熵或信息熵。
信息传输模型
信息传输系统首要由信源、信道和信宿构成，下图为信息传输系统的基本模型。信源是造成消息的系统。信宿是接受消息的系统，信道则是传输消息的通道。图中编码器、译码器的作用是把消息变换成便于传输的形式。
信源编码
信源是造成消息（包含消息序列）的源。消息一般是符号序列或时间函数。比如电报系统中的消息是由文字、符号、数字构成的报文（符号序列），称为离散消息。电话系统中的消息是语声波形(时间函数)，称为接连消息。消息取值服从适当的统计规律。所以,信源的数学模型是一个在信源符号集中取值的随机变量序列或随机过程。信源编码器将消息变换为一个数字序列(一般为二进制数字序列)。在离散情形,若信源造成M个或许消息,它们显现的几率分别为
,每个消息由N个信源符号构成,便可取信源编码与数字序列一一对应。第i个消息对应的数字序列长(数字个数)为
li，
li相等的称等长编码，否则称变长编码。定义
为编码速率，它表征平均每个信源符号要用多少个数字来表明。若取信源译码器为信源编码器的逆变换器，则在无噪信道(信源编码器的输出即为信源译码器的输入) 情形下，消息可以正确无误地传送。这时信源编码困难是要找出最小的速率R及其相应的编码。已经证明,对于相当大量的信源类,当N可以任意大时这个最小极限速率
称为信源的熵率,是信源的一个重要参数。对于固定的N,最优编码就是赫夫曼编码。在接连消息的情形，信息编码器不或许使消息与数字序列一一对应，所以译码也不是编码的逆变换。一般的方法是先对接连消息执行采样和量化，变为离散消息，再将离散消息变换为数字序列。信源译码器先将数字序列逆变换为离散消息，再用内插法求得接连消息。如此一来，即便在无噪信道的情形下，发送消息与接收消息之间也会造成误差，称为消息失真。可以用一个非负函数d(u，v)来度量消息 u，v之间的失真大小。这时信源编码困难是在保证平均失真不胜过给定允许极限D 的条件下找出最小速率R 及其相应编码。求解这一困难致使熵推广到失真率函数，信源编码的失真率理论因此得到发展。
信道编码
信道是传输信息的媒质或通道，如架空明线、同轴电缆、射频波束、光导纤维等。有时为研究方便将发送端和接收端的一部分如调制解调器也划归信道。信息论把信息传送过程中受各种干扰的影响都归入信道中考虑。依据干扰的统计特性,信道有多种模型。最简单的是离散无记忆恒参信道，它可以用信道入口符号集X、出口符号集Y和一组条件几率P(y|x)(x∈X，y∈Y)来描述。若信道输入信号x＝(x1,x2,…,xN),则相应的输出(受扰)信号y＝(y1,y2,…,yN)显现的几率为
信道编码器将数字序列每K个一组变换为字长N 的信号（码字），称为分组编码。若数字和信道符号均为二进制的(可用0,1表明)，则R＝K/N 定义为编码速率，它显示每个信道符号表明多少个数字。N-K 称为编码冗余度。信道编码(纠错编码)的基本思想就是增长冗余度以提升牢靠性。更确切地说，信道译码器可以利用编码冗余度将受扰信号变换为正确的发送数字序列。重复编码乃一简例。信道编码器将输入数字重复三次, 如将01011变换为000111000111111。信道译码器可用门限译码，即先将输入译码器的信道符号每三个一组地相加，再将结果逐个与阈值 2比较,差于阈值2的译为0,否则译为1。如此若受扰信号010110100011011尽管错了 5个符号,但译码仍为01011与发送数字序列完全相同。信息论得出的重要结论是:对于一个有噪信道,只要在信道编码中引入充足而有限的冗余度，或等价地说编码速率充足小，就能通过信道渐近无误地传送消息。更确切地说，对充分长的数字序列，其接收错误几率可以任意小。信道编码困难是要找出使信道渐近无误地传输消息所能高达的最大编码速率R和相应的编码。已经证明，对于离散无记忆恒参信道，这个最大极限编码速率为
，它是对X上一切几率分布 p取极大值。p为信道转移几率(条件几率)，
称为交互信息；C 称为信道容量，是信道的重要参数。
信息传输定理
对图中的信息传输系统，若啛/TS＜C/TC，其中啛为信源的熵率，C为信道容量,TS和TC分别为信源符号和信道符号的连续时间，则一定存在编码和译码使消息可通过信道渐近无误地传送。反之,若啛/TS＞C/TC，则不存在如此的编码和译码。
信息论研究的主流始终是环绕这个基本定理展开的，导致信源和信道的模型更复杂而已。上述定理是事实存在的,但没有给出达到这一理想传输的具体编码方法。寻求达到这一理想传输的编码和译码方法则是编码理论研究的目标。尽管这一目标迄今仍未高达，但信息论的研究成果对设计新通信系统的作用是民众所肯定的。
信息论的应用
信息论的意义和应用规模已逾出通信的领域。自然界和社会中有很多现象和困难，如生物神经的感知系统、遗传信息的传递等，均与信息论中研究的信息传输和信息处理系统相相似。所以信息论的思想对很多学科如物理学、生物学、遗传学、控制论、计算机科学、数理统计学、语言学、心理学、教育学、经济管理、保密学研究等都有适当的影响和作用。另一面，受于借助负熵定义的信息量只能反应符号显现的几率分布（不肯定性），不能反应信息的语义和语用层次。一篇重要的数据和一篇胡说乱道的文章可以具有同样的信息，这显然不符合常识。所以现阶段信息论的应用又有很大的局限性。把信息的度量推广到适合于语义信息和语用信息的情形，曾经做过很多试图。但迄今还没有明显的进度。
编码学 密码学与密码分析学 报告传输 报告压缩 检测理论 预期理论 信息论第一定律：信息守恒定律
