算法复杂度计算

算法复杂度计算

一、基础

1、单循环

• 时间复杂度：\(O(N)\)，进行N次操作
• 空间复杂度：\(O(1)\)，变量\(a\)仅使用一个存储空间

a = 0
for i in range(N):
    a = a + 1

• 时间复杂度：\(O(N)\)，进行\(N/2\)次操作 -> \((1/2)*O(N)\) -> 忽略常数项\(O(N)\)
• 空间复杂度：\(O(1)\)，变量\(a\)、\(b\)使用两个存储空间 -> \(2*O(1)\) -> 忽略常数项\(O(1)\)

a, b = 0, 0
for i in range(N/2):
    a = a + 1
    b = b + 1

• 时间复杂度：\(O(log(N))\)，进行\(log(N)\)次操作
• 空间复杂度：\(O(1)\)

a, i = 1, N
while i > 0:
    i /= 2

2、多循环

• 时间复杂度：\(O(N^2)\)，进行\(N^2\)次操作
• 空间复杂度：\(O(1)\)

a = 0
for i in range(N):
    for j in range(N):
        a = a + 1

• 时间复杂度：\(O(N^2)\)，循环1、2、3...N次，进行\(（1+N)*N/2\)次操作 -> \((1/2)* O(N^2) +(1/2)*O(N)\)
• 空间复杂度：\(O(1)\)

a = 0
for i in range(N):
    for j in range(i, N - 1):
        a = a + 1

3、递归

主定理公式

\[T(n) = aT(n/b)+f(n) \]

• 若\(O(n^{log_ba})>f(n)\)，\(T(n)=O(n^{log_ba})\)
• 若\(O(n^{log_ba})=f(n)\)，由\(f(n)=n^{log_ba}log^kn\)计算\(k\)，得到\(T(n)=O(n^{log_ba}log^{k+1}n)\)
• 若\(O(n^{log_ba})<f(n)\)，\(T(n)=f(n)\)

实例1

\[T(n) = 3T(n/2)+n^2 \]

其中\(a\)、\(b\)分别为3、2，\(f(n)=n^2\)，则\(f(n)>n^{log_23}\)，复杂度为\(O(n^2)\)

实例2

\[T(n) = 2T(n/2)+nlog(n) \]

其中\(a\)、\(b\)分别为2、2，先不考虑\(f(n)\)中\(log(n)\)项，则\(f(n)=n^{log_22}log^{k}n=nlog(n)\)，即\(k=1\)，复杂度为\(O(nlog^2(n))\)

实例3
递归斐波那契数列

• 时间复杂度\(O(2^n)\)
• 空间复杂度\(O(n)\)

4、复杂度比较

在实际计算时，若N足够大，则有如下关系

• \(O(1) < O(log(N)) < O(N) < O(N*log(N)) < O(N^2) < O(N^3) < O(2^N)\)