第二讲 算法(读书笔记)
一.概念
算法：算法是解决特定问题求解步骤的描述，在计算机中表现为指令的有限序列，并且每条指令表示一个或多个操作
二.两种算法的比较
可以看出哪种方法更有效
三.算法的特性
算法具有五个基本特性：输入、输出、有穷性、确定性和可行性。
1.输入输出
算法至少有一个或多个输出，算法是一定需要输出的
2.有穷性
有穷性：指算法在执行有限的步骤之后，自动结束而不会出现无限循环，并且每一个步骤在可接受的时间内完成
当然这里有穷的概念并不是纯数学意义的，而是在实际应用当中合理的、可以接受的“有边界”。
3.确定性
确定性：算法的每一步骤都具有确定的含义，不会出现二义性
4.可行性
可行性：算法的每一步都必须是可行的，也就是说，每一步都能够通过执行有限次数完成。
四 算法设计的要求
1.可读性
可读性：算法设计的另一目的是为了便于阅读、理解和交流。(我们写代码的目的，一方面是为了让计算机执行，但还有一个重要的目的是为了便于他人阅读，让人理解和交流，自己将来也可能阅读)
可读性是算法（也包括实现它的代码）好坏很重要的标志。
2.健壮性
一个好的算法还应该能对输入数据不合法的情况做合适的处理。比如输入的时间或者距离不应该是负数等。
3.时间效率高和存储量低
好的算法应该具备时间效率高和存储量低的特点。
综上，好的算法，应该具有正确性、可读性、健壮性、高效率和低存储量的特征。
五 算法效率的度量方法
1.事后统计方法
事后统计方法：这种方法主要是通过设计好的测试程序和数据，利用计算机计时器对不同算法编制的程序的运行时间进行比较，从而确定算法效率的高低
但这种方法显然是有很大缺陷的:
1>.必须依据算法事先编制好程序，这通常需要花费大量的时间和精力。
2>.时间的比较依赖计算机硬件和软件等环境因素，有时会掩盖算法本身的优劣。
3>.算法的测试数据设计困难，并且程序的运行时间往往还与测试数据的规模有很大关系，效率高的算法在小的测试数据面前往往得不到体现。
基于事后统计方法有这样那样的缺陷，我们考虑不予采纳。
2.事前分析估算方法
事前分析估算方法：在计算机程序编制前，依据统计方法对算法进行估算。
一个用高级程序语言编写的程序在计算机上运行时所消耗的时间取决于下列因素： 1>.算法采用的策略、方法。 2>.编译产生的代码质量。 3>.问题的输入规模。 4>.机器执行指令的速度。
测定运行时间最可靠的方法就是计算对运行时间有消耗的基本操作的执行次数。运行时间与这个计数成正比.
随着n值的越来越大，它们在时间效率上的差异也就越来越大。
六.算法设计的要求
1.正确性
正确性：算法的正确性是指算法至少应该具有输入、输出和加工处理无歧义性、能正确反映问题的需求、能够得到问题的正确答案。
2.可读性
可读性：算法设计的另一目的是为了便于阅读、理解和交流。
我们写代码的目的，一方面是为了让计算机执行，但还有一个重要的目的是为了便于他人阅读，让人理解和交流，自己将来也可能阅读
可读性是算法（也包括实现它的代码）好坏很重要的标志。
3.健壮性
一个好的算法还应该能对输入数据不合法的情况做合适的处理。比如输入的时间或者距离不应该是负数等。
4.时间效率高和存储量低
最后，好的算法还应该具备时间效率高和存储量低的特点。
综上，好的算法，应该具有正确性、可读性、健壮性、高效率和低存储量的特征。
七.算法效率的度量方法
1.事后统计方法
事后统计方法：这种方法主要是通过设计好的测试程序和数据，利用计算机计时器对不同算法编制的程序的运行时间进行比较，从而确定算法效率的高低
但这种方法显然是有很大缺陷的,主要表现在:
1>.必须依据算法事先编制好程序，这通常需要花费大量的时间和精力。
2>.时间的比较依赖计算机硬件和软件等环境因素，有时会掩盖算法本身的优劣。
3>.算法的测试数据设计困难，并且程序的运行时间往往还与测试数据的规模有很大关系，效率高的算法在小的测试数据面前往往得不到体现。
基于事后统计方法有这样那样的缺陷，我们考虑不予采纳。
2.事前分析估算方法
事前分析估算方法：在计算机程序编制前，依据统计方法对算法进行估算。
一个用高级程序语言编写的程序在计算机上运行时所消耗的时间取决于下列因素： 1>.算法采用的策略、方法。 2>.编译产生的代码质量。 3>.问题的输入规模。 4>.机器执行指令的速度。
测定运行时间最可靠的方法就是计算对运行时间有消耗的基本操作的执行次数。运行时间与这个计数成正比
随着n值的越来越大，它们在时间效率上的差异也就越来越大。
函数的渐近增长：给定两个函数f(n)和g(n)，如果存在一个整数N，使得对于所有的n>N，f(n)总是比g(n)大，那么，我们说f(n)的增长渐近快于g(n)。
判断一个算法好不好，我们只通过少量的数据是不能做出准确判断的。根据刚才的几个样例，我们发现，如果我们可以对比这几个算法的关键执行次数函数的渐近增长性，基本就可以分析出：某个算法，随着n的增大，它会越来越优于另一算法，或者越来越差于另一算法。这其实就是事前估算方法的理论依据，通过算法时间复杂度来估算算法时间效率。
由此算法时间复杂度的定义可知，我们的三个求和算法的时间复杂度分别为O(n)，O(1)，O(n2)。我们分别给它们取了非官方的名称，O(1)叫常数阶、O(n)叫线性阶、O(n2)叫平方阶
推导大O阶：
1>.用常数1取代运行时间中的所有加法常数。
2>.在修改后的运行次数函数中，只保留最高阶项。
3>.如果最高阶项存在且不是1，则去除与这个项相乘的常数。
3.常数阶
注意:不管这个常数是多少，我们都记作O(1)，而不能是O(3)、O(12)等其他任何数字，这是初学者常常犯的错误。
4.线性阶
它的循环的时间复杂度为O(n)，因为循环体中的代码须要执行n次。
5.平方阶
下面例子是一个循环嵌套，它的内循环刚才我们已经分析过，时间复杂度为O(n)。
而对于外层的循环，不过是内部这个时间复杂度为O(n)的语句，再循环n次。所以这段代码的时间复杂度为O(n2)
八.常见的时间复杂度.
九.最坏情况和平均情况
最坏情况运行时间是一种保证，那就是运行时间将不会再坏了。在应用中，这是一种最重要的需求，通常，除非特别指定，我们提到的运行时间都是最坏情况的运行时间
而平均运行时间也就是从概率的角度看，这个数字在每一个位置的可能性是相同的，所以平均的查找时间为n/2次后发现这个目标元素。
对算法的分析，一种方法是计算所有情况的平均值，这种时间复杂度的计算方法称为平均时间复杂度。另一种方法是计算最坏情况下的时间复杂度，这种方法称为最坏时间复杂度。一般在没有特殊说明的情况下，都是指最坏时间复杂度。
十.算法的空间复杂度
我们都使用“时间复杂度”来指运行时间的需求，使用“空间复杂度”指空间需求。当不用限定词地使用“复杂度”时，通常都是指时间复杂度。
本讲总结:
算法的定义：算法是解决特定问题求解步骤的描述，在计算机中为指令的有限序列，并且每条指令表示一个或多个操作。
算法的特性：有穷性、确定性、可行性、输入、输出。
算法的设计的要求：正确性、可读性、健壮性、高效率和低存储量需求。
算法特性与算法设计容易混，需要对比记忆。
算法的度量方法：事后统计方法（不科学、不准确）、事前分析估算方法。
在讲解如何用事前分析估算方法之前，我们先给出了函数渐近增长的定义。
函数的渐近增长：给定两个函数f(n)和g(n)，如果存在一个整数N，使得对于所有的n>N，f(n)总是比g(n)大，那么，我们说f(n)的增长渐近快于g(n)。于是我们可以得出一个结论，判断一个算法好不好，我们只通过少量的数据是不能做出准确判断的，如果我们可以对比算法的关键执行次数函数的渐近增长性，基本就可以分析出：某个算法，随着n的变大，它会越来越优于另一算法，或者越来越差于另一算法。
然后给出了算法时间复杂度的定义和推导大O阶的步骤。
推导大O阶：
用常数1取代运行时间中的所有加法常数。
在修改后的运行次数函数中，只保留最高阶项。
如果最高阶项存在且不是1，则去除与这个项相乘的常数。
得到的结果就是大O阶。
