[算法导论]#3 循环不变式

在面试某手的时候，完成了一个有序链表的合并，之后面试官又要求用循环不变式来证明算法的正确性……循环不变式？这是啥

后来发现这是算法导论第一章的内容。

不会=算法导论没看

分析过程

必须证明三条性质

• 初始化：循环的第一次迭代之前，它为真
• 保持：如果循环的某次迭代之前它为真，那么下次迭代之前它仍为真
• 终止：在循环终止时，不变式为我们提供了一个有用的性质，该性质有助于证明算法是正确的

前两步有点类似于数学归纳法，而最后一步其实也很重要，因为算法并不是无穷无尽的，必须要终止。例如二分，终止条件非常重要。

以插入排序为例

for(i = 2;i <= n;++i){
    key = a[i];
    j = i - 1;
    while(j > 0 && a[j] > key){
        a[j+1] = a[j];
        j--;
    }
    a[j] = key;
}

在一个有序的数列里插入一个数，插到正确的位置同时比它大的后移，就是这个算法的思想

那就按照循环不变式这个算法的正确性

设循环不变式：\([1..i]\) 在循环中，依然由原先的\([1..i]\)中的元素组成并保持有序

• 初始化：很明显在循环之前\((i<2)\)第一个数是单独的，肯定有序
• 保持：这个算法会将比key大的数都往右移动一个位置，然后将key插入到正确的位置中，这时数组1-i是有序的。
• 终止：循环结束后，\(i=n+1\)因此保证了1-n是有序的，每个元素都是a中原先的元素，但是有序了。因此算法正确。

这个证明不是太数学，而是比较感性的，但也可以说明问题

以二分为例

之前说过，一个二分算法的正确性，终止条件很重要

https://www.cnblogs.com/smallocean/p/11913963.html 这是之前做过二分的笔记

• 在单调递增序列\(a\)中查找$\geq x $的数中最小的一个

  while(l<r){
      int mid = (l+r)>>1;/*右移运算 相当于除2并且向下取整*/
      if(a[mid]>=x) r=mid;
      else l=mid+1;
  }
  return a[l];

设循环不变式：在每次循环中，如果有答案，一定存在于\([l…r]\)中

• 初始：\([l..r]\)就是整个序列的范围
• 保持：在单调的序列中，选择的\(mid\)的这个值，\(a[mid]\geq x\)说明\(mid\)后面一定没有答案，但是\(mid\)可能是答案，\(a[mid]<x\)说明\(mid\)前面包括\(mid\)一定没有答案。得证
• 结束：这个就是证明会不会死循环，涉及到选取\(mid\)的问题，如果此时\(l+1=r\)，\(mid\)取到的是\(l\)，这就意味着，如果\(mid\)是正确答案，那么结果返回\(l\)是正确的。如果\(mid\)不是正确答案，那么结果就是\(mid+1\)，也是正确的。

我们可以用结束的这个性质，如果都没有答案，那么最后一定是\(l=n-1,r=n\)，然后返回\(n\)。因为\(mid\)永远不可能取到\(r\)，所以我们可以一开始把范围设置成\([1...n+1]\)，很明显这个也是满足那不定式的。

另外一种情况也类似。

• 在单调递增序列\(a\)中查找\(\leq x\)的数中最大的一个

  while(l<r){
      int mid = (l+r+1)>>1;
      if(a[mid]<=x) l=mid;
      else r=mid-1;
  }
  return a[l];

初始和保持和上面的类似。

• 结束：也是涉及到选择\(mid\)的问题，如果此时\(l+1=r\)，这时\(mid\)取到的是\(r\),这就意味着，如果\(mid\)是正确答案，返回\(l=mid\)时正确的，如果不是，那么结果就是\(l\)也是正确的。

有一篇总结很好的文章：https://blog.csdn.net/ltyqljhwcm/article/details/52772002

以KMP为例

 Next[1] = 0;
    for (int i = 2, j = 0; i <= n; ++i) {
        while (j > 0 && a[i] != a[j + 1]) j = Next[j];
        if (a[i] == a[j + 1]) ++j;
        Next[i] = j;
    }

维持这个不变式：Next[i]含义就是模式串以i结尾的子串([1..i]的后缀)与模式串的前缀能匹配的最长长度

• 初始：\(Next[1] = 0\)，满足
• 保持：如果匹配，j++，最长长度即等于[1…i-1]匹配的最长长度加一。满足。如果不匹配，那说明后缀找多了，那肯定要减少后缀的长度，即减小到下一个后缀与前缀匹配的位置，即\(Next[j]\)。
• 结束：\(i\)到\(n\)就结束了

kmp真正的证明比较复杂，这里只是用可视化的方式帮助理解代码。

总结

总的来说循环不变式是一个很好的思想，能帮助我们证明算法的正确性。前两步的类似数学归纳的方法和终止时候的正确性，其实在平时写代码的时候也会不经意间用到类似的方法来想。这次把这种思路书面化，以后也不会再走很多弯路了。