计算机科学数学理论浅谈

计算科学数学理论浅谈
以前,总是对于数学的学习嗤之以鼻,认为没有很大的实用性,这也是为何后来跨专业考研的一个重要动机,但是随着后续学习的深入,逐渐体 会到了数学在现实工作中的分量,而这种对思考的能力的锻炼在初期可能是无形的,但这是的确存在的。我的理解是数学可以说是一种内功的锻炼,而对于语言和基 础计算机知识的学习是架式的学习,而更多的人可能偏向于后者(包括我自己),因为这种成就感在开始阶段是显而易见的。但是到了后期,如果只停留在后者的学 习,长期发展下去的结果大概只是能够熟悉使用各种开发工具和语言的熟练工,而不能再向高层的水平发展,或许这种想法有些偏激,只代表了一家之言。但这并不 代表计算机方面的基础知识不重要,相反它是一个类似前提的实体,如果这些没有掌握好,除非有特别好的抽象能力,否则对于数学基础知识(数学分析、高等代 数、数值计算、数论等等)则不会有很好的感性认识,只能停留在死记硬背的阶段,时间长了,对于问题本质的理解也就消失了,这也反映理论(数学基础知识)和实践(程序设计、coding)之间是相辅相成的一个过程。

今天看了一篇帖子,把它转载过来。

计算机自从其诞生之日起, 它的主要任务就是进行各种各样的科学计算。文档处理,
数据处理,图像处理,硬件设计,软件设计等等,都可以抽象为两大类:数值计算
数值计算

作为研究计算机科学技术的人员,我们大都对计算数学对整个计算机科学的

重要性有一些了解。但是数学对我们这些专业的研究和应用人员究竟有 多大的用处呢?
我们先来看一下下面的一个流程图:

─→数学模型─┬→数值计算方法──┐         
       │         ├→程序设计
       └→非数值计算方法─┘       
                                          
                                  编译程序,求计算结果


      上图揭示了利用计算机解决科学计算的步骤,实际问题转换为程序,要经过一个对
问题抽象的过程,建立起完善的数学模型,只有这样,我们才能建立一个 设计良好的程
序。从中我们不难看出计算数学理论对用计算机解决问题的重要性。下面我们将逐步展
开对这个问题的讨论。

      计算机科学的数学理论体系是相当庞杂的,笔者不敢随意划分,参考计算机科学理
论的学科体系,我们谈及的问题主要涉及:数值计算离散数学数论计算理论四大
方向。

[一]数值计算(Numerical Computation)


主要包括数值分析学数学分析学线性代数计算几何学概率论与数理统计学

      1
数值分析学又常被称为计算方法学,是计算理论数学非常重要的一个分支,主要研
究数值型计算。
研究的内容中首先要谈谈数值计算的误差分析,误差是衡量我们的计算
有效与否的标准,我们的算法解决问题如果在误差允许的范围内,则算法是有效的,否
则就是一个无效的问题求解。另外就是数值逼近,它研究关于如何使用容易数值计算的
函数来近似地代替任意函数的方法与过程。感觉应用比较广的不得不提切雪比夫逼近和
平方逼近了。
笔者曾经尝试过的就是通过最佳平方逼近进行曲线的拟合,开发工具可以
选择VC++或者Matlab。
插值函数是另外一个非常重要的方面,现代的计算机程序控制加
工机械零件,根据设计可给出零件外形曲线的某些型值点,加工时走刀方向及步数,就
要通过插值函数计算零件外形曲线及其他点函数值。至于方程求根、线性方程组求解
一般的计算性程序设计问题都会多多少少的涉及一些,我们这里就不赘述了。
关于数值
分析学的一个学习误区就是仅仅学习理论知识,而很难和程序设计结合起来,实际上通
过上面的论述,大家已经能够初步地认识到这个学科是应当与程序设计紧密联系才能够
体现它的重要性的。关于理论的学习,推荐华中科技大学李庆扬老师的《数值分析》。
然而理论学习毕竟是个过程,最终的目标还是要用于程序设计解决实际的计算问题,向
这个方向努力的书籍还是挺多的,这里推荐大家高等教育出版社(CHEP)和施普林格出
版社(Springer)联合出版的《计算方法(Computational Methods)》,华中理工大学数
学系写的(现华中科技大学),这方面华科大做的工作在国内应算是比较多的,
而个人
认为以这本最好,至少程序设计方面涉及了:任意数学函数的求值,方程求根,线性方
程组求解,插值方法,数值积分,场微分方程数值求解。


     2 数学分析学(高等数学)很多学校在近些年已经替代高等数学被安排到了本科教学当中。原因是
很简单的,高等数学虽然也是非常有用的工程数学,介绍的问题方法也被广泛的应用,
但是正如大家所知道的,
高等数学不太严格的说,基本上就是偏向于计算的数学分析,
当然省去了数学分析非常看重的推理证明
,然而我们认为这一部分正是我们最需要的。
这对我们培养良好的分析能力和推理能力极有帮助。
我的软件工程学导师北工大数理学
院的王仪华先生就曾经教导过我们,
数学系的学生到软件企业中大多作软件设计与分析
工作,而计算机系的学生做初级程序员的居多,原因就在于数学系的学生分析推理能力
,从所受训练的角度上要远远在我们平均水平之上。
谈到这方面的书籍,公认
北京大学
张筑生老师的《数学分析新讲》为最好。张筑生教授一生写的书并不太多, 但是只要是
写出来的每一本都是本领域内的杰作
,这本当然更显突出些。这种老书看起来
不仅是在
传授你知识,而是在让你体会科学的方法与对事物的认识方法
现在多用的似乎是复旦
大学的《数学分析》,高等教育出版社的,也是很好的教材
。 但关于如何去利用从中获
得的推理证明能力,我们在遇到具体问题的时候,可以在今后的文章详细讨论。

      3 线性代数是我们在工科本科学习的必修课程,似乎大家找不到到底这个有什么用,
其实很明显,
线性代数作为工程数学的重要分支,在计算机领域的研究有相当广泛的应
用。
最为突出的可以谈谈数 组和矩阵的相关知识:

①←—④
↑\     
↓     \, ↓
②←—③

令aij=1,表示从i市到j市有1条航线
令aij=0,表示从i市到j市没有单项航线
则图可 用矩阵表示:

             ┌          
             │0 1 1 0 │
             │1 0 0 0 │
A= (aij) = │0 1 0 0 │
             │1 0 0 0 │
             │1 0 1 0 │
             └          

      我们可以采用程序设计实现这个问题,如果辅以权值,可以转化为最短路径的问题
,再复杂化一点还可以转化为具有障碍物的最短路径问题,这就会涉及 一些如Dijkstra
算法等高级程序设计算法话题。这些都依靠着数组、矩阵的基本知识。数组的应用主要
在图像处理以及一些程序设计理论。矩阵的运算领域极为广泛,比如在计算机图形学当
中曲线曲面的构造,图像的几何变换,包括平移、镜像、转置、缩放。在高级图像问题
更有 广泛应用,例如在图像增强技术,投影技术中的应用。

      4 计算几何学研究的是几何外形信息的计算机表示。包括几何查找、多边形、凸包问
题、交与并、几何体 的排列、几何拓扑网络设计、随机几何算法与并行几何算法。
它构
成 了计算机图形学中的基本算法,是动画设计,制造业计算机辅助设计的基础。
如果从
事这方面的深入研究,可以参考中国计算机学会周培德先生的《计算几何——算法分析
与设计》。

      5 概率论与数理统计学是这个领域最后一门关键的课程。概率论部分提供了很多问题
的基本知识描述,比如模式识别当中的概率计算,参数估计等等。数理统计部分有很多
非常经典的内容,比如伪随机数、蒙特卡罗法、回归分析、排队论、假设检验、以及经
典的马科夫过程。
尤其是随机过程部分, 是分析网络和分布式系统,设计随机化算法和
协议非常重要的基础。

[二]离散数学(Discrete Mathematics)


随着计算机科学的出现与广泛应用,人们发现利用计算机处理的数学对象与传统的分析
有明显的区别:分析研究的问题解决方案是连续的,因而微分,积分成为基本的运算;
而这些分支研究的对象是离散的,因而很少有机会进行此类的计算。人们从而称这些分
支为"离散数学"。离散数学经过几十年发展,方向上基本上稳定下来。当然不同时期还
有很多新内容补充进来。就学科方向而言
,一般认为,离散数学包含:集合论、逻辑学
、代数学、图论、组合学。

      1
逻辑学(Logics)我们主要指数理逻辑,形式逻辑在推理问题中也有比较广泛的应
用。(比如我们学校还为此专门开设了选修课程)这方面的参考推荐中科院软件所陆钟
万教授的《面向计算机科学的数理逻辑》。
现在可以找到
陆钟万教授的讲课录像,http
://www.cas.ac.cn/html/Dir/2001/11/06/3391.htm。
总的来说,
学集合/逻辑一定要站

在理解的高度上去思考相关的问题。

      2集合论(Set Theory)逻辑学构成了计算机科学

最重要的数学问题描述方式。

      3
代数学(Algebra)包括:抽象代数、布尔代数、关系代数、计算机代数

(1)抽象代数(Abstract Algebra)研究的主要内容涵盖 群、环、域。
抽象代表的是
将研究对象的本质提炼出来,加以高度概括,来描述其形象。“
欧式环”就是在将整数
和多项式的一些相同的特点加以综合提炼引入的。抽象代数提供的一些结论为我们研究
一些具体问题时所需使用的一些性质提供了依据。推荐一个最简单的,
最容易学的材料
http://www.math.miami.edu /~ec/book/这本《Introductionto Linear and Abstra
ct Algebra》非常通俗易懂,而且把抽象代数和线性代数结合起来,对初学者来说非常
理想。

2)布尔代数(Boolean Algebra)是代数系统中最为基础的部分,也是最核心的基本
理论
。主要包括了集合的基本概念与运算,自对偶的公理系统。
是数据表示的重要基础
。相信大家都很清楚它的重要性。

(3)关系代数(Relational Algebra)应用也是极为广泛,比如数据库技术中的关系数
据库的构建就要用到关系代数的相关理论。

(4)计算机代数(Computer Algebra)大家可能比较生疏,其实它研究的主要内容即是
围绕符号计算与公式演算展开的。
是研究代数算法的设计、分析、实现及其应用的学科
主要求解非数值计算,输入输出用代数符号表示。
计算机代数的开发语言主要有:AL
TRAN,CAMAL,FORMAL。 主要应用于:射影几何,工业设计,机器人手臂运动设计。

     
4 图论(Graph Theory)主要研究的内容包括:图的基本概念、基本运算、矩阵表示
, 路径、回路和连通性,二部图、平面图,树,以及网络流
。图论 的应用领域太过广泛
,仅举两个例子:比如在计算机网络拓扑图的设计与结构描述中,就必须用到相当多的
图的结构和基本概念。
关于网络流更是在电流网络与信息网络的流量计算当中广泛应用
。树的相关应用则无须多言了。

      5
组合学(Combinatorics)有两部分单独的研究领域:组合数学与组合算法。组合学
问题的算法,计算对象是离散的、有限的数学结构。
从方法学的角度,
组合算法包括
法设计
算法分析两个方面。
关于算法设计,历史上已经总结出了若干带有普遍意义的
方法和技术,包括动态规划回溯法分支限界法分治法贪心法等。应用是相当广
泛的,比如旅行商问题、 图着色问题、整数规划问题。关于组合数学,主要研究的内容有
:鸽巢原理、排列与组合、二项式系数容斥原理及应用,递推关系和生成函数、特殊计
数 序列、二分图中的匹配、组合设计。
推荐Richard A.Brualdi的《Introductory Comb
inatorics》作为参考。

[三]数论 (Number Theory)


    
数论这门学科最初是从研究整数开始的,所以叫做整数论。后来更名为数论。它包括
以下几个分支:

     1
初等数论是不求助于其他数学学科的帮助,只依靠初等方法来 研究整数性质的数论分
支。
比如在数论界非常著名的“中国剩余定理”,就是初等数论中很重要的内容。
对于
程序设计来说这部分也是相当有价值的
,如果你对中国剩余定理 比较清楚,利用它,你
可以将一种表达式经过简单的转换后得出另一种表达式,从而完成对问题分析视角的转
换。

     2 解析数论是使用数学分析作为工具来解决数论问题的分支
。是解决数论中比较深刻问
题的强有力的工具。
我国数学家陈景润在尝试解决“哥德巴赫猜想”问题中使用的就是
解析数论的方法。以素数定理为基础解决计算素数的问题及其算法实现应是我们多多关
注的。

     3
代数数论是把整数的概念推广到一般代数数域上去,建立了素整数、可除性等概念
程序设计方面涉及的比较多的是代数曲线的研究,比如说椭圆曲线理论的实现。

     
4 几何数论研究的基本对象是“空间格网”。空间格网就是指在 给定的直角坐标系上
,坐标全是整数的点,叫做整点;全部整点构成的组就叫做空间格网。
空间格网对计算
几何学的研究有着重大 的意义
。几何数论涉及的问题比较复杂,必须具有相当的数学基
础 才能深入研究。

     
总的说来,由于近代计算机科学的发展,数论得到了广泛的应用。比如在计算方法
、 代数编码、组合学理论等方面都广泛使用了初等数论范围内的许多研究成果;现在有
些国家应用“孙子定理”来进行测距,用原根和指数来计算离散傅里叶变换等。
如果你
曾经系统的学习过数论算法,你会发现这个分支学科研究的一些基本问题对程序设计是
相当有用的,比如说素数问 题、素性测试、因子分解、最大公约数、模取幂运算、求解
同余线性方程。其中的很多问题都是程序设计的基本问题。但这些问题都不能小视,举
个例子来说吧,关于求最大公约数的程序,笔者曾经尝试的就可以采用循环语句结构和
递归结构。另外,以大素数为基础的密码体系的建立是近些年数论算法广泛应用的一个
重要的原因。原理是大素数的乘积重新分解因数十分困难。RSA公钥加密系统的构建就是
基于这个原理的(三位发明人因此也获 得了2002年美国计算机协会颁发的图灵奖)。


[四]计算理论(Theory of Computation)


     
涉及的内容是科学计算非常重要的一部分分支,也是大家研究相当多的一部分。主
要包括:算法学,计算复杂性,程序理论。

     1
算法学(Algorithms)在计算机科学理论中有着举足轻重的地位。是解决很多数值
型,非数值型问题的基础。记得一次学校接收招标项目,很多中小型软件厂商都无法完
成一个软件的功能模块,就是因为当时他们对一个具体问题的算法不能做出正确的抽象
,最后由我们学校数理学院的一支软件团队承担了这项任务,他们的最终报告体现出来
, 问题的解决策略只有通过人工神经元网络的反向传播算法
。可见在比较有深度的程序
设计中,算法的重要性更为突出。学习算法学要有一个长期的理论和实践的过程。遇到
一个具体算法问题时,首先要通过自己描述的数学抽象步骤
,看看自己以前有没有处理过
这种问题。如果没有,很可能这个问题是多个算法的综合
,或者是需要我们自己去构造
算法。
这就需要我们有扎实的算法功底,为了打好这个功底,
推荐两套圣经级的书籍首
先是 Thomas H.Cormen等著的《Introduction to Algorithms》。对算法学习而言,这一
本内容相当的全面。再深 一点的就是大家作为常识都知道的《The Art of Computer Pr
ogramming》
,目前已经出版3册。
两本书 的价值大家应当都是清楚的。

      2
计算复杂性 研究的内容很广,其中包括NP完全性理论,可计算性理论,自动机理论
, 形式语言理论(包括广泛应用于编译原理领域的文法,还包括Petri网论的相关内容)
以及大家熟知的复杂性度量。
时间复杂度、空间复杂度的计算是度量算法非常重要的参
数,也是我们衡量程序优劣程度的重要依据。

      3
程序理论(Theory of programs)包含了形式语义学,程序验证和并发模型的研究
。关于程序验证学习的重要性大家都很清楚,学习的方法自然也是多多结合具体的问题
去 分析。
关于并发模型,主要研究的就是进程代数,通信系统演算,通信顺序进程。这
部分是研究操作系统理论与实现的重要基础。

      按照计算机科学数学理论的架构来谈了各方面的内容和一些应用,下面我们再单独
来看一些上面没有涉及到的学科与这些理论的具体结合情况:

     
设计方面的应用刚才谈的很多,我只再说说数据库原理与技术,这方面用到的重要
数学基础主要包括:集合论,二元关系及其推理(尤其是研究关系数据库),研究数据
分布与数据库结构又涉及相当多的图论知识。

      计算机科学的发展有赖于硬件技术和软件技术的综合。在设计硬件的时候应当充分
融入软件的设计思想,才能使硬件在程序的指挥下发挥极致的性能。在软件设计的时候
也要充分考虑硬件的特点,才能冲破软件效率的瓶颈。达到硬件和软件设计的统一,严
格的说这并不轻松,一般的程序设计者很难将这样的思想贯穿在其程序设计当中。仅举
个简单的例子:我们在写一些C语言的程序,必要的时候都会采取内嵌一段汇编指令,这
就是比较充分地考虑了硬件的工作情况,从而能够提高程序运行的效率。所以我们也有
必要了解一些硬件的基础知识。关于学习硬件的时候常会用到的基本数学思想也是相当
多的,拿电路基础与模拟电路来说,我们就经常要利用多元函数,不等式计算进行电流
电压的计算。能量的计算还常常涉及微积分学的很多计算。在数字电子技术当中(有时
也称数字逻辑学)数理逻辑,尤其是逻辑演算部分运用相当广泛,数制转换更是非常重
要的基础,各种数字电路参数的计算则是多元函数,不等式的计算解决的问题。

      从事计算机硬件程序设计的程序员,则不可回避的就是数字信号处理。这门科学所
用到的数学基础主要有:三角函数、微积分、高次方程求解、数值逼近, 傅里叶变换。
在滤波器的设计当中还会用到矩阵运算。笔者曾经研究过一个VC++环境下开发的滤波器
的模拟软件,就是利用莱文逊-杜宾递推算法,在较大规模的矩阵运算基础上进行的。当
然,开发的环境不一定是这个,你也可以选择MATLAB或者纯C语言编译器。如果我们不了
解相关的数学基础,不要说程序设计,就算是建立运算模型都是相当困难的。

      一些周围的同学和一些在职的程序员,大家经过一段时间的学习,普遍都觉得数学
对学习计算机和研究计算机程序设计等问题来说非常重要,但是又苦于无从下手。上面
比较全面地谈及了计算机科学数学理论的相关内容。需要特别指明的是,我们研究问题
的精力是有限的,如果您是在校的计算机系学生,则可以对上面的方方面面都有所涉及
,以尝试计算数学这个强大的理论工具。为今后的工作奠定一个坚实的基础。但是如果
您研究的是比较具体的工作,我们并不推荐您研究所有的内容,最好的方法就是对上面
的数学基础都有些了解,然后遇到具体工作,需要哪部分内容,再进行深入的学习与研
究。 这样针对性比较强的学习效果是会比较显著的。
对于上面推荐的一些参考材料,除
非你要花相当长的一段时间来提高你的计算机数学理论。否则也没必要每 一页,每一本
都字字精读,还是那个原则,按需索取其中的内容。学习的方法描述起来就一句话:
合具体的问题,深入的理解数学理论知识,将理论程序化,尝试用程序设计实现理论原
理。
达到这样的程度,问题基本上都可以解决的


http://blog.sciencenet.cn/blog-453771-367802.html


数学建模应当掌握的十类算法
1、蒙特卡罗算法(该算 法又称随机性模拟算法,是通过计算机仿真来解决问题的算
法,同时可以通过模拟可以来检验自己模型的正确性,是比赛时必用的方法)

2、 数据拟合、参数估计、插值等数据处理算法(比赛中通常会遇到大量的数据需要
处理,而处理数据的关键就在于这些算法,通常使用Matlab作为工 具)

3、线性规划、整数规划、多元规划、二次规划等规划类问题(建模竞赛大多数问题
属于最优化问题,很多时候这些问题可以用数学 规划算法来描述,通常使用Lindo、
Lingo软件实现)

4、图论算法(这类算法可以分为很多种,包括最短路、网络流、二分图 等算法,涉
及到图论的问题可以用这些方法解决,需要认真准备)

5、动态规划、回溯搜索、分治算法、分支定界等计算机算法(这些算 法是算法设计
中比较常用的方法,很多场合可以用到竞赛中)

6、最优化理论的三大非经典算法:模拟退火法、神经网络、遗传算法(这 些问题是
用来解决一些较困难的最优化问题的算法,对于有些问题非常有帮助,但是算法的实
现比较困难,需慎重使用)

7、网 格算法和穷举法(网格算法和穷举法都是暴力搜索最优点的算法,在很多竞赛
题中有应用,当重点讨论模型本身而轻视算法的时候,可以使用这种暴力方 案,最好
使用一些高级语言作为编程工具)

8、一些连续离散化方法(很多问题都是实际来的,数据可以是连续的,而计算机只
认 的是离散的数据,因此将其离散化后进行差分代替微分、求和代替积分等思想是非
常重要的)

9、数值分析算法(如果在比赛中采用高级 语言进行编程的话,那一些数值分析中常
用的算法比如方程组求解、矩阵运算、函数积分等算法就需要额外编写库函数进行调
用)

10、 图象处理算法(赛题中有一类问题与图形有关,即使与图形无关,论文中也应该
要不乏图片的,这些图形如何展示以及如何处理就是需要解决的问题,通常 使用Matlab
进行处理)  
本 文引用地址: http://www.sciencenet.cn/m/user_content.aspx?id=301716

posted @ 2012-11-01 19:28  ajian005  阅读(521)  评论(0编辑  收藏  举报