Python的生成器与迭代器

一、迭代

如果给定一个list或tuple，我们可以通过for循环来遍历这个list或tuple，这种遍历我们称为迭代（Iteration）。在Python中，迭代是通过for ... in ...来完成的。

二、可迭代对象

可以被直接作用于for循环的对象都可以被称为可迭代对象(iterable)。而可以直接作用于for语句的数据类型有以下两种：
1、集合数据类型：str,list,tuple,dict,set.....
2、生成器(generator)，包括生成器和带yield的生成器函数
所以，当我们使用for循环时，只要作用于一个可迭代对象，for循环就可以正常运行，而无需太关心该对象究竟是list还是其他数据类型。
那么，如何判断一个对象是可迭代对象呢？方法是通过collections.abc模块的Iterable类型配合isinstance函数来判断：

from collections.abc import Iterable

print(isinstance(123, Iterable))  # int类型，输出：False
print(isinstance("123", Iterable))  # str类型，输出：True
print(isinstance([1, 2, 3], Iterable))  # list类型，输出：True
print(isinstance((1, 2, 3), Iterable))  # tuple类型，输出：True
print(isinstance({"a": 1, "b": 2, "c": 3}, Iterable))  # dict类型，输出：True
print(isinstance({1, 2, 3}, Iterable))  # set类型，输出：True

三、列表生成式

列表生成式即List Comprehensions，是Python内置的非常简单却强大的可以用来创建list的生成式。
现在有个需求，有列表 [0，1，2，3，4，5，6，7，8，9]，要求你把列表里面的每个值加1，你怎么实现呢？
方法1：入门

info = [0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
for index, value in enumerate(info):
    info[index] += 1
print(info)

方法2：一般

info = [0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
info_new = list(map(lambda x: x+1, info))
print(info_new)

方法3：熟练

info = [0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
info_new = [i+1 for i in info]
print(info_new)

而这也就是所谓的列表生成式了，把要生成的元素i+1放到前面，后面跟for循环，就可以把list创建出来，十分有用，多写几次，很快就可以熟悉这种语法。
for循环后面还可以加上if判断，比如我们就可以筛选出仅偶数+1：

info = [0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
info_new = [i + 1 for i in info if i % 2 == 0]
print(info_new)

输出：
[1, 3, 5, 7, 9]

至于双层for循环甚至三层for循环，则不建议使用列表生成式的写法，因为可读性会变得很差，使用常规写法即可。 
练习一下：
现有列表info[0，1，2，3，4，5，6，7，8，9]，需要生成一个新列表，遍历info，若是偶数，则+1，否则，取相反数。

info = [0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
info_new = [i + 1 if i % 2 == 0 else -i for i in info]
print(info_new)

输出：
[1, -1, 3, -3, 5, -5, 7, -7, 9, -9]

可见，在一个列表生成式中，for前面的if ... else是表达式，而for后面的if是过滤条件，不能带else。

四、生成器（generator）

通过列表生成式，我们可以直接创建一个列表。但是，受到内存限制，列表容量肯定是有限的。而且，创建一个包含100万个元素的列表，不仅占用很大的存储空间，如果我们仅仅需要访问前面几个元素，那后面绝大多数元素占用的空间都白白浪费了。所以，如果列表元素可以按照某种算法推算出来，那我们是否可以在循环的过程中不断推算出后续的元素呢？这样就不必创建完整的list，从而节省大量的空间。在Python中，这种一边循环一边计算的机制，称为生成器：generator。在 Python 中，使用了 yield 的函数被称为生成器（generator）。
要创建一个generator，有2种方法。第一种方法很简单，只要把一个列表生成式的[]改成()，就创建了一个generator：

L = [x * x for x in range(10)]
print(L)
g = (x * x for x in range(10))
print(g)

输出：
[0, 1, 4, 9, 16, 25, 36, 49, 64, 81]
<generator object <genexpr> at 0x00000244EC98A6C0>

创建L和g的区别仅在于最外层的[]和()，L是一个list，而g是一个generator。 
我们可以直接打印出list的每一个元素，但我们怎么打印出generator的每一个元素呢？
如果要一个一个打印出来，可以通过next()函数获得generator的下一个返回值：

g = (x * x for x in range(10))
print(g)
print(next(g))
print(next(g))
print(next(g))
print(next(g))
print(next(g))
print(next(g))
print(next(g))
print(next(g))
print(next(g))
print(next(g))
print(next(g))

输出：
<generator object <genexpr> at 0x0000029060AAA650>
0
1
4
9
16
25
36
49
64
81
Traceback (most recent call last):
  File "D:\pro\迭代器生成器\1.py", line 23, in <module>
    print(next(g))
StopIteration

我们讲过，generator保存的是算法，每次调用next(g)，就计算出g的下一个元素的值，直到计算到最后一个元素，没有更多的元素时，抛出StopIteration的错误。
当然，在实际使用中，我们几乎不会使用next()方法，正确的方法是使用for循环，因为generator也是可迭代对象：

g = (x * x for x in range(10))
for n in g:
    print(n)

输出：
0
1
4
9
16
25
36
49
64
81

所以，我们创建了一个generator后，基本上永远不会调用next()，而是通过for循环来迭代它，并且不需要关心StopIteration的错误。

定义generator的第二种方法是：如果一个函数定义中包含yield关键字，那么这个函数就不再是一个普通函数，而是一个generator函数，调用一个generator函数将返回一个generator对象。
这里，最难理解的就是generator函数和普通函数的执行流程不一样。普通函数是顺序执行，遇到return语句或者最后一行函数语句就返回。而变成generator的函数，在每次调用next()的时候执行，遇到yield语句返回，再次执行时从上次返回的yield语句处继续执行。
举个简单的例子，定义一个generator函数，依次返回数字1，3，5：

def odd():
    print('step 1')
    yield 1
    print('step 2')
    yield(3)
    print('step 3')
    yield(5)

调用该generator函数时，首先要生成一个generator对象，然后用next()函数不断获得下一个返回值：

def odd():
    print('step 1')
    yield 1
    print('step 2')
    yield 3
    print('step 3')
    yield 5


o = odd()
print(next(o))
print(next(o))
print(next(o))
print(next(o))

输出：
step 1
1
step 2
3
step 3
5
Traceback (most recent call last):
  File "D:\pro\迭代器生成器\1.py", line 23, in <module>
    print(next(o))
StopIteration

 可以看到，odd不是普通函数，而是generator函数，在执行过程中，遇到yield就中断，下次又继续执行。执行3次yield后，已经没有yield可以执行了，所以，第4次调用next(o)就报错。

 重点：调用generator函数会创建一个generator对象，多次调用generator函数会创建多个相互独立的generator。

 把上面的next(o)都改成next(odd())，你会发现每次都只返回第一个yield的值，原因是：odd()会创建一个新的generator对象，上述代码实际上创建了3个完全独立的generator，对3个generator分别调用next()当然每个都会返回第一个值。
同样的，把函数改成generator函数后，我们基本上从来不会用next()来获取下一个返回值，而是直接使用for循环来迭代。
这里我们用著名的斐波拉契数列（Fibonacci）来实战演练一下生成器。所谓Fibonacci，也就是除第一个和第二个数外，任意一个数都可由前两个数相加得到：1, 1, 2, 3, 5, 8, 13, 21, 34, ...
斐波拉契数列用列表生成式写不出来，但是，用函数把它打印出来却很容易：

def fib(max):
    n, a, b = 0, 0, 1
    while n < max:
        print(b)
        a, b = b, a + b
        n = n + 1
    return 'done'

fib(7)即斐波拉契数列前七位为 ： 1, 1, 2, 3, 5, 8, 13
仔细观察，可以看出，fib函数实际上是定义了斐波拉契数列的推算规则，可以从第一个元素开始，推算出后续任意的元素，这种逻辑其实非常类似generator。
也就是说，上面的函数和generator仅一步之遥。要把fib函数变成generator函数，只需要把print(b)改为yield b就可以了：

def fib(max):
    n, a, b = 0, 0, 1
    while n < max:
        yield b
        a, b = b, a + b
        n = n + 1
    return 'done'

我们在循环过程中不断调用yield，就会不停的中断程序。当然了，我们要给循环设置一个条件来退出循环，不然就会产生一个无限数列出来。
同样的，把函数改成generator函数后，我们基本上从来不会用next()来获取下一个返回值，而是直接使用for循环来迭代：

def fib(max):
    n, a, b = 0, 0, 1
    while n < max:
        yield b
        a, b = b, a + b
        n = n + 1
    return 'done'


for n in fib(6):
    print(n)
    
输出：
1
1
2
3
5
8

这有个问题：用for循环调用generator时，发现拿不到generator的return语句的返回值'done'。如果想要拿到返回值，必须捕获StopIteration错误，返回值包含在StopIteration的value中：

def fib(max):
    n, a, b = 0, 0, 1
    while n < max:
        yield b
        a, b = b, a + b
        n = n + 1
    return 'done'


g = fib(6)
while True:
    try:
        x = next(g)
        print('g:', x)
    except StopIteration as e:
        print('Generator return value:', e)
        break
        
输出：
g: 1
g: 1
g: 2
g: 3
g: 5
g: 8
Generator return value: done

对于Generator的小结：
generator是非常强大的工具，在Python中，可以简单地把列表生成式改成generator，也可以通过函数实现复杂逻辑的generator。
要理解generator的工作原理，它是在for循环的过程中不断计算出下一个元素，并在适当的条件结束for循环。对于函数改成的generator来说，遇到return语句或者执行到函数体最后一行语句，就是结束generator的指令，for循环随之结束。
要注意区分普通函数和generator函数，普通函数调用直接返回结果：

res = abs(-7)
print(res)

输出：
7

generator函数的调用实际上是生成返回一个generator对象：

def fib(max):
    n, a, b = 0, 0, 1
    while n < max:
        yield b
        a, b = b, a + b
        n = n + 1
    return 'done'


g = fib(6)
print(g)

输出：
<generator object fib at 0x0000019FE4AAA650>

五、迭代器 

我们知道，可以直接作用于for循环的数据类型有以下几种：
一类是集合数据类型，如list、tuple、dict、set、str等；
一类是generator，包括生成器和带yield的generator function。
这些可以直接作用于for循环的对象统称为可迭代对象：Iterable。
而生成器不但可以作用于for循环，还可以被next()函数不断调用并返回下一个值，直到最后抛出StopIteration错误表示无法继续返回下一个值了。
可以被next()函数调用并不断返回下一个值的对象称为迭代器：Iterator。
可以使用isinstance()判断一个对象是否是Iterator对象：

from collections.abc import Iterator
print(isinstance((x for x in range(10)), Iterator)) # True
print(isinstance([], Iterator)) # False
print(isinstance({}, Iterator)) # False
print(isinstance('abc', Iterator)) # False

可以看到，生成器都是Iterator对象，但list、dict、str虽然是Iterable，却不是Iterator。
把list、dict、str等Iterable变成Iterator可以使用iter()函数： 

print(isinstance(iter([]), Iterator)) # True
print(isinstance(iter('abc'), Iterator)) # True

你可能会问，为什么list、dict、str等数据类型不是Iterator？ 
这是因为Python的Iterator对象表示的是一个数据流，Iterator对象可以被next()函数调用并不断返回下一个数据，直到没有数据时抛出StopIteration错误。可以把这个数据流看做是一个有序序列，但我们却不能提前知道序列的长度，只能不断通过next()函数实现按需计算下一个数据，所以Iterator的计算是惰性的，只有在需要返回下一个数据时它才会计算。
Iterator甚至可以表示一个无限大的数据流，例如全体自然数。而使用list是永远不可能存储全体自然数的。
对于Iterator的小结：
凡是可作用于for循环的对象都是Iterable类型；
凡是可作用于next()函数的对象都是Iterator类型，它们表示一个惰性计算的序列；
集合数据类型如list、dict、str等是Iterable但不是Iterator，不过可以通过iter()函数获得一个Iterator对象。
Python的for循环本质上就是通过不断调用next()函数实现的，例如：

for x in [1, 2, 3, 4, 5]:
    pass

 实际上完全等价于：

# 首先获得Iterator对象:
it = iter([1, 2, 3, 4, 5])
# 循环:
while True:
    try:
        # 获得下一个值:
        x = next(it)
    except StopIteration:
        # 遇到StopIteration就退出循环
        break