经典译从·信息论：本质·多样性·统一

虽然信息论的书籍在国内外出版了不少，但《经典译从·信息论：本质·多样性·统一》与它们有极大的不同，本书的书名也反映出这一点，从内容比较，更是相去甚远，学术思想、内容范围、结构体系都不一样。《经典译从·信息论：本质·多样性·统一》信息量非常大，涉及多个学科方向，所述内容是信息论的基础问题，具有很高的学术价值。本书的出版将会引入国外信息论的新近成果，开拓国内学者的思路。《经典译从·信息论：本质·多样性·统一》将是国内第一本这类的书籍。如果本书作为大学的教材，那它就不仅可以作为信息类专业的教材，而且可以作为文理科公选课的教材，这一点是由本书的内容决定的。这类似于现在有些高校开设的“数学文化”课程，文理科学生都可以选修。

《经典译从·信息论：本质·多样性·统一》提供了一个新方法——一般信息论——信息现象的科学理解。基于自然界、技术和社会里信息过程的透彻分析，基于信息论的主要方向，这个理论综合了已有的方向成为一个统一的系统。
《经典译从·信息论：本质·多样性·统一》阐释了这个理论如何为下列学科打开了新的可能性，信息技术、信息科学、计算机科学、知识工程、心理学、语言学、社会科学和教育学。
《经典译从·信息论：本质·多样性·统一》对于信息论中主要的基于数学的研究方向也做了广泛的介绍。一般信息论为信息研究已有方向提供了一个统一的背景，使得可以详述信息的综合定义；一般信息论解释了信息、数据和知识之间的关系；论证了不同的数学模型与信息过程是如何联系的。
《经典译从·信息论：本质·多样性·统一》中给出了信息本质和功用的解释，以及如下问题的答案：信息如何联系与知识和数据，如何用数学结构建模信息，以及这些模型如何用于更好地理解计算机和互联网、认知和教育、通信和计算。

嵇立安，1981-1985在郑州大学读书，本科物理专业，后在学校及多家企业工作，2011-2014在中科院沈阳计算所读计算机专业的硕士研究生，毕业后进入河南工业大学工作，讲授多门计算机方面的课程。主要研究方向：嵌入式系统、嵌入式数据库、手机编程、地理信息系统和数字图像处理。主要从事手机应用程序的开发和教学，SQLite嵌入式数据库的开发与教学。自2004年起担任了多门课程的主讲老师，包括计算机图形学、数字图像处理、面向对象的编程（C++和JAVA）、数据库原理与应用、软件工程、数据结构、嵌入式系统、嵌入式数据库、网络编程、计算机汇编语言和计算机网络技术等。

第一章 导论
1.1 我们如何知道信息是什么
1.2 社会中的信息
1.3 自然界中的信息
1.4 信息的技术层面
1.5 本书的结构

第二章 一般信息论
2.1 标记、符号与世界
2.2 信息是什么：信息本体论
2.3 如何度量信息：信息价值论
2.4 信息的类型和属性：信息类型学
2.5 信息、数据和知识
2.6 情绪与信息

第三章 统计信息论
3.1 信息与通信
3.2 信息与熵
3.3 量子信息
3.4 信息与问题解决
3.5 信息测量的公理化
3.6 物理学里的信息

第四章 语义信息论
4.1 信息的三个方面
4.2 巴希勒和卡尔纳普、辛提卡及其他人的
逻辑方法：信息中的逻辑学
4.3 麦凯、施赖德尔、布鲁克斯、米扎罗及其他人的
基于知识的方法：从信息中得到的知识

第五章 算法信息论
5.1 信息、算法和复杂度
5.2 基于递归算法的算法信息论：递归方法
5.3 基于归纳算法的算法信息论：归纳方法
5.4 作为相对信息度量的条件信息尺度：相对论的方法
5.5 双重复杂度与信息度量：算法信息论中的公理化方法

第六章 语用信息论
6.1 马尔萨克的经济学方法：信息成本
6.2 面向任务的方法：信息的价值、成本和质量
6.3 马祖尔的变换方法：信息的推动力

第七章 信息动力学
7.1 德雷斯克、巴威斯和塞利格曼方法中的信息流：信息过程
7.2 察科津的算子方法：信息作用
7.3 信息代数与信息几何
7.3.1 诠释的信息代数
7.3.2 抽象信息代数
7.3.3 信息几何学

第八章 总 结
附 录 信息论的数学基础
附录A 集合论基础
附录B 算法论要义
附录C 逻辑学要义
附录D 代数与范畴论要义
附录E 概率论要义
附录F 数字与数值函数
附录G 拓扑、度量和赋范空间
参考文献
致谢
主题词索引

《经典译从·信息论：本质·多样性·统一》：
本书向你呈现了科学理解信息现象的一个新方法——一般信息论。基于对自然、技术和社会中信息过程的深层次分析，以及对信息论里的主要方向的研究，这个理论将已有的方向综合到一个统一的系统中。本书说明了这个理论如何为信息技术、信息科学、计算机科学、知识工程、心理学、语言学、社会科学和教育学等学科开创了新的机遇。
本书对于信息论中主要基于数学的方向也给予了广泛的介绍。对于信息论研究中已有的方向，一般信息论提供了一个统一的语境，这样详细说明全面的信息定义就成为了可能。这个理论解释了信息、数据及知识之间的关系，论证了信息的不同数学模型如何与信息过程相关联。
本书阐释了信息的本质和功用，并给出了以下问题的答案：
信息怎样关联于知识和数据；
怎样用数学结构建模信息；
这些模型怎样用于更好地理解计算机和互联网、认知和教育、通信和计算。
……

我们在这个新领域启航，因为那里有可以获得的知识。
约翰·F·肯尼迪（John F. Kennedy）（1917—1963）
生活中最成功的人通常是那些拥有最佳信息的人。
本杰明·迪斯累里（Benjamin Disraeli）（1804—1881）
有一个古希腊传说，讲的是神秘的动物斯芬克斯，他祸害着底比斯这座城市。斯芬克斯总是照例询问路人一个谜语，凡是回答不上来的人就被这个怪兽一把抓住吃掉。英雄俄狄浦斯走到斯芬克斯面前要求它讲个谜语，它刚一讲完，俄狄浦斯就说出了正确答案，听到答案，斯芬克斯消失了，从此终结了它对人们的威胁。
现在人们遇到了一个新的神秘的斯芬克斯——技术的发展，这个现代的斯芬克斯询问这样的问题：什么是信息？它如何起作用？对于这问题人们如果找不到正确答案，技术就会威胁到人类的生存，因为人们变得越来越依赖信息技术。正因为如此，对于人类社会而言，信息的重要性日益激增，以致我们的时代被称为“信息时代”（Giuliano，1983；Goguen，1997；Mason，1986；Crawford和Bray-Crawford，1995；Stephanidis，2000）。至少从20世纪中期开始人们普遍认为自己就开始生活在信息时代，信息不仅构成了大多数工业部门的基础，而且更重要的是它变成了基本的可贸易的资源和商品（Macgregor，2005）。事实上，没有哪个人类经验的方面不受信息影响。
例如，马丁（Martin，1995）承认信息起着社会命脉的作用，他写道：
假如没有生命攸关资源[信息]的不间断的流动，正像我们所知道的，社会将很快陷入困境，商业和工业、教育、休闲、旅行、通信、国家和国际事务全都易受破坏，在更发达的社会，由于对信息力量和通信技术的依赖性的不断增加，这种易损性被加强了。
信息充斥在我们周围，也存在于我们体内，我们的感觉器官收集它，我们醒着的每一秒，我们的大脑过滤、组织和处理信息，信息使得我们的生活成为可能。
从互联网产生以来，人类可用的信息量呈指数量级增长，虽然万维网只是从1995年开始被普遍地使用，但是几年下来它完全征服了所有现存的媒体而成为主要的信息传递机制（Duff，2003）。
每年估计有1~2艾字节（exabytes）（1 exabytes等于1018字节）的新信息产生（和存储），这包括所有的信息存储媒体：书、杂志、文档、互联网、Pc机、照片、X射线、电视、广播、音乐、CD、DVD等，全球人均信息大约是250兆字节（megabytes），但是大多数信息是数字化的（准确地讲占93%）。
估计印刷品占240太字节（terabytes）（1 terabyte等于1015字节），这个数量小于新信息总存储量的1%，尽管如此，每年大约有75亿件办公文档印刷品，接近1百万种图书、40 000种日报和80 000种杂志。
与此同时，信息质量的缺陷致使各个公司、组织和整个经济付出沉重代价，据估计仅美国经济每年增加花费6000亿美元（Hill，2004）。
在过去的50年间，信息这个术语成功地渗透进了科学、技术、人文学科、经济、政治，以及日常生活。政府、公司和一些个人都花费了巨大的财富去获得必需的信息。然而，关于这个术语的使用还有很多问题，正如葛根（Goguen，1997）所写的那样，“我们生活在一个‘信息时代’，但是，没有信息理论，甚至没有信息的定义能足够广泛而精确地做出有意义的断言”。事实上，来自广泛信息源的极大信息量使我们难以招架。这些信息源有万维网、电子邮件、图像、讲话、文档、书、报纸，等等。如勒文施泰因（Loewenstein，1999）认为，“信息流……是生活的原动力，流动在线路里的分子信息产生了我们称为‘有机体’的组织，并维持它抵抗物理世界里一直存在的解构压力，地球上的每个生命体都有它自身DNA编码信息决定的结构。”
同时，我们的经验证明，对信息概念的世俗理解可能是非常有误导性的，例如，许多人认为信息等同于消息，然而，当收到一个由随机字母序列构成的消息时，一个人没有得到信息，于是，存在没有信息的消息。证明消息和信息本质不同的另一个例子是这样一种情况，一个同样的消息对不同的人传递不同的信息。于是，就像科学上经常发生的那样，为了克服信息世俗概念的限制，主要的问题是找到和建立正确的理论。
审视信息科学，我们发现一个奇怪情形，一方面，它有许多理论，科学家创造了大量的信息理论：香侬的统计信息理论、语义信息理论、动态信息理论、定性信息理论、马尔萨克（Marschak）的经济信息理论、实用信息理论、费希尔（Fisher）的统计信息理论、演算信息理论，等等。研究者研究信息生态学（Davenport，1997）和信息经济学（Marschak，1959；1964； Arrow，1984；Godin，2008），建立了信息代数（Burgin，1997b；Kohlas，2003）、信息几何学（Amari and Nagaoka，1985）、信息逻辑（Van Rijsbergen，1986；1989；Demri和Orlowska，1999）、信息演算（Van Rijsbergen和Laimas，1996）、信息物理学（Stonier，1990；Siegfried，2000；Pattee，2006）和信息哲学（Herold，2004），每年有关信息问题的书籍大量出版，发表的论文有几千篇，但是仍然不知道信息是什么。另外，如权威书籍《信息政策和科学研究》（1986）的介绍中所写，“我们的主要问题是我们不真正知道信息是什么”。
再者，由于在“信息”名下所考虑的现象异常多样，一些研究者得出结论，不可能有一个全面概括的信息定义以及建立一个统一的信息论（Capuro，Fleissner和 Hofkirchner，1999；Melik-Gaikazyan，1997）。
对信息没有充分认知的情况是十分危险的，因为社会越来越依赖于信息处理。计算机正变得体积更小、更便宜、易连接和无所不在。同时，互联网的影响持续增加，计算机为人们解决了许多问题，如嵌入设备控制着汽车、飞机、轮船和航天器。弗思（Furth，1994）写道：“在1991年，公司在计算和通信设备（新时代的重要商品）上的花费第一次超过在工业、矿业、农业和建筑业的机械上的花费。目前信息技术至关重要，并且经常不为我们所察觉，如同我们呼吸的空气，空气里充满了无线电波，可我们没有感觉到。坐在一辆小汽车里，你注意到价值675美元的钢铁在你周围，而不是价值782美元的微电子电路。”
“什么是信息？”被挑选出来作为最深刻和最普遍的计算机科学问题，温（Wing，2008）写道，它反映了更加深远的问题，这样的问题驱使着人类日复一日地研究，驱使着研究人员不断研究并扩展计算的前沿领域。
正如我们看到的，信息概念是人类大脑创造出来的最伟大的思想之一，我们的任务是使得这个概念整体完全精确。例如，斯托尼尔（Stonier，1996） 把信息作为宇宙具有的一个基本性质来研究。
信息处理支配着社会，渗透进每个生活领域。少量的信息能导致整个地球的毁灭，因为按一个小按钮就能发动一场核战争。冯？拜尔（Von Baeyer，2004）认为，信息是科学的本质，而当代社会基于现代技术，现代技术基于科学。这样，意识到信息是种现象、知道信息处理的规律并使用这些知识造福人类至关重要。斯托尼尔（1991）和其他研究者强调，信息科学急切需要信息理论。
完成这个知识和建立这样一种理论的众多努力反映在研究信息的文献里，在信息方面有许多优秀的、好的和一般的书籍，每年出现大量涉及信息处理的书籍，所以，笔者有必要说明为什么这本书与已经出版的大量各类信息方面的图书不同。
本书的主要目标不是像别的书籍那样论证一系列成熟定理，不是描述一种或两种（甚至最流行的）理解和信息建模现象的方式，本书的目的在于找到综合理解信息现象的方法和创建一般信息理论，这个理论能够把已有信息理论囊括进一个统一的理论体系。以此为目标，本书在介绍了一般信息论之后，将主要注意力放在了最流行的、具有可靠数学核心的信息理论上，这使得读者理解一般信息论的同时，能够清楚怎样统一信息研究的已有知识。
从这个视角看，本书有三重目的：（1）提供信息理论里主要的基于数学的方向；（2）分析和综合已有的方向，用称为一般信息论的新方法把它们合并到一个统一的系统中；（3）使信息技术、信息科学、计算机科学、知识工程、心理学、语言学、社会科学和教育的综合成为可能。
在本书的第一章导论部分我们分析了信息研究和信息处理的现状，讨论了和信息及信息处理理论有关的问题与难题。此处在本书第一章导论部分，为了发展一种有效和高效的理论，对于自然界、技术和社会领域的信息处理，我们需要做一个详尽的分析。
关于这个分析以及对已有信息理论当中核心思想综合的详细论述是我们向一般信息论迈出的自然一步。本书的第二章呈现了一般信息论基础，这个理论提供了一个综合其他信息理论和统一我们关于信息、信息系统和信息过程知识的基础，它有可能战胜某些人声称不可能有统一的信息论的争论。
在阿瑟？克拉克（Arthur Clarke，1962）看来，发现可能边限的唯一方法是冒险越界进入一点不可能。在一般信息论里，对带有一个特定系统参数的信息使用参数化方法实现了这一观点，这个特定系统参数被称为信息逻辑系统，这个方法提供了对信息的一个更好理解、更高效的理论开发和实际应用。书中描写了以前未知的新信息类型的发现。此外，第二章还说明了一般信息论在不同领域的应用，从知识管理的角度发现并分析了知识和信息之间的关系。教育中信息的作用变得越来越清晰，这改变了我们对教育过程的理解。在个体机能方面，信息的作用得到说明并证明了新的信息类型的存在。
本书的其他章包含了最重要的发展方法和特殊的信息理论，并从一般信息论给出的一般视角呈现它们。我们的重点放在基于数学导向的理论。我们研究这些理论：统计信息论（包括香侬理论和它的新近发展）、关于信息的费希尔方法以及该方法在物理学上的应用、算法信息论、语义信息论和质量信息论的不同版本。展现了广泛的信息理论群，说明了许多研究，这些研究超出了香侬信息论或香侬通信理论的最流行的方向。一般信息论不仅允许人们统一理论方向的多样性，并且引导人们进行理论结果的应用和开发。
本书的基本读者包括大学生和研究生，信息技术专业人员，信息科学、计算机科学、知识工程、认知科学、哲学、人工智能、心理学、语言学、生物信息学、社会科学和教育学的研究者，信息技术专家将会接触到信息论为他们的专业研究活动提供的工具，这些专业活动包括设计软件、开发计算机、应用计算机解决各种问题，以及开发全球和本地网络。
此外，一个对科学和技术感兴趣的读者可能在这里找到对信息本质和功能的阐释，以及如下问题的答案：
（1）信息怎样与知识和数据相关联；
（2）信息怎样用数学结构建模；
（3）这些模型如何用于更好地理解计算机和互联网、认知和教育、通信和计算。
有必要告诉那些喜欢了解信息本质又不想应付数学公式的潜在读者，尽管书中有许多公式，但同时本书提供了这样的机会，跳过这些公式，仍然可以得到关于信息现象的许多信息。这样构建使得读者可以达到几个理解层次，忽略公式可以达到第一个层次，对基本公式的理解使读者达到第二个层次，命题和定理形式公式化的数学结果将读者的理解提升到第三个层次。