Python的生成器与迭代器

一、迭代

如果给定一个listtuple,我们可以通过for循环来遍历这个listtuple,这种遍历我们称为迭代(Iteration)。在Python中,迭代是通过for ... in ...来完成的。

二、可迭代对象

可以被直接作用于for循环的对象都可以被称为可迭代对象(iterable)。而可以直接作用于for语句的数据类型有以下两种:
1、集合数据类型:str,list,tuple,dict,set.....
2、生成器(generator),包括生成器和带yield的生成器函数
所以,当我们使用for循环时,只要作用于一个可迭代对象,for循环就可以正常运行,而无需太关心该对象究竟是list还是其他数据类型。
那么,如何判断一个对象是可迭代对象呢?方法是通过collections.abc模块的Iterable类型配合isinstance函数来判断:

from collections.abc import Iterable

print(isinstance(123, Iterable))  # int类型,输出:False
print(isinstance("123", Iterable))  # str类型,输出:True
print(isinstance([1, 2, 3], Iterable))  # list类型,输出:True
print(isinstance((1, 2, 3), Iterable))  # tuple类型,输出:True
print(isinstance({"a": 1, "b": 2, "c": 3}, Iterable))  # dict类型,输出:True
print(isinstance({1, 2, 3}, Iterable))  # set类型,输出:True

三、列表生成式

列表生成式即List Comprehensions,是Python内置的非常简单却强大的可以用来创建list的生成式。
现在有个需求,有列表 [0,1,2,3,4,5,6,7,8,9],要求你把列表里面的每个值加1,你怎么实现呢?
方法1:入门

info = [0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
for index, value in enumerate(info):
    info[index] += 1
print(info)

方法2:一般

info = [0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
info_new = list(map(lambda x: x+1, info))
print(info_new)

方法3:熟练

info = [0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
info_new = [i+1 for i in info]
print(info_new)

而这也就是所谓的列表生成式了,把要生成的元素i+1放到前面,后面跟for循环,就可以把list创建出来,十分有用,多写几次,很快就可以熟悉这种语法。
for循环后面还可以加上if判断,比如我们就可以筛选出仅偶数+1:

info = [0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
info_new = [i + 1 for i in info if i % 2 == 0]
print(info_new)

输出:
[1, 3, 5, 7, 9]

至于双层for循环甚至三层for循环,则不建议使用列表生成式的写法,因为可读性会变得很差,使用常规写法即可。 
练习一下:
现有列表info[0,1,2,3,4,5,6,7,8,9],需要生成一个新列表,遍历info,若是偶数,则+1,否则,取相反数。

info = [0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
info_new = [i + 1 if i % 2 == 0 else -i for i in info]
print(info_new)

输出:
[1, -1, 3, -3, 5, -5, 7, -7, 9, -9]

可见,在一个列表生成式中,for前面的if ... else是表达式,而for后面的if是过滤条件,不能带else

四、生成器(generator)

通过列表生成式,我们可以直接创建一个列表。但是,受到内存限制,列表容量肯定是有限的。而且,创建一个包含100万个元素的列表,不仅占用很大的存储空间,如果我们仅仅需要访问前面几个元素,那后面绝大多数元素占用的空间都白白浪费了。所以,如果列表元素可以按照某种算法推算出来,那我们是否可以在循环的过程中不断推算出后续的元素呢?这样就不必创建完整的list,从而节省大量的空间。在Python中,这种一边循环一边计算的机制,称为生成器:generator。在 Python 中,使用了 yield 的函数被称为生成器(generator)。
创建一个generator,有2种方法。第一种方法很简单,只要把一个列表生成式的[]改成(),就创建了一个generator:

L = [x * x for x in range(10)]
print(L)
g = (x * x for x in range(10))
print(g)

输出:
[0, 1, 4, 9, 16, 25, 36, 49, 64, 81]
<generator object <genexpr> at 0x00000244EC98A6C0>

创建Lg的区别仅在于最外层的[]()L是一个list,而g是一个generator。 
我们可以直接打印出list的每一个元素,但我们怎么打印出generator的每一个元素呢?
如果要一个一个打印出来,可以通过next()函数获得generator的下一个返回值:

g = (x * x for x in range(10))
print(g)
print(next(g))
print(next(g))
print(next(g))
print(next(g))
print(next(g))
print(next(g))
print(next(g))
print(next(g))
print(next(g))
print(next(g))
print(next(g))

输出:
<generator object <genexpr> at 0x0000029060AAA650>
0
1
4
9
16
25
36
49
64
81
Traceback (most recent call last):
  File "D:\pro\迭代器生成器\1.py", line 23, in <module>
    print(next(g))
StopIteration

我们讲过,generator保存的是算法,每次调用next(g),就计算出g的下一个元素的值,直到计算到最后一个元素,没有更多的元素时,抛出StopIteration的错误。
当然,在实际使用中,我们几乎不会使用next()方法,正确的方法是使用for循环,因为generator也是可迭代对象:

g = (x * x for x in range(10))
for n in g:
    print(n)

输出:
0
1
4
9
16
25
36
49
64
81

所以,我们创建了一个generator后,基本上永远不会调用next(),而是通过for循环来迭代它,并且不需要关心StopIteration的错误。


定义generator的第二种方法是:如果一个函数定义中包含yield关键字,那么这个函数就不再是一个普通函数,而是一个generator函数,调用一个generator函数将返回一个generator对象
这里,最难理解的就是generator函数和普通函数的执行流程不一样。普通函数是顺序执行,遇到return语句或者最后一行函数语句就返回。而变成generator的函数,在每次调用next()的时候执行,遇到yield语句返回,再次执行时从上次返回的yield语句处继续执行。
举个简单的例子,定义一个generator函数,依次返回数字1,3,5:

def odd():
    print('step 1')
    yield 1
    print('step 2')
    yield(3)
    print('step 3')
    yield(5)

调用该generator函数时,首先要生成一个generator对象,然后用next()函数不断获得下一个返回值:

def odd():
    print('step 1')
    yield 1
    print('step 2')
    yield 3
    print('step 3')
    yield 5


o = odd()
print(next(o))
print(next(o))
print(next(o))
print(next(o))

输出:
step 1
1
step 2
3
step 3
5
Traceback (most recent call last):
  File "D:\pro\迭代器生成器\1.py", line 23, in <module>
    print(next(o))
StopIteration

 可以看到,odd不是普通函数,而是generator函数,在执行过程中,遇到yield就中断,下次又继续执行。执行3次yield后,已经没有yield可以执行了,所以,第4次调用next(o)就报错。

 重点:调用generator函数会创建一个generator对象,多次调用generator函数会创建多个相互独立的generator。

 把上面的next(o)都改成next(odd()),你会发现每次都只返回第一个yield的值,原因是:odd()会创建一个新的generator对象,上述代码实际上创建了3个完全独立的generator,对3个generator分别调用next()当然每个都会返回第一个值。
同样的,把函数改成generator函数后,我们基本上从来不会用next()来获取下一个返回值,而是直接使用for循环来迭代。
这里我们用著名的斐波拉契数列(Fibonacci)来实战演练一下生成器。所谓Fibonacci,也就是除第一个和第二个数外,任意一个数都可由前两个数相加得到:1, 1, 2, 3, 5, 8, 13, 21, 34, ...
斐波拉契数列用列表生成式写不出来,但是,用函数把它打印出来却很容易:

def fib(max):
    n, a, b = 0, 0, 1
    while n < max:
        print(b)
        a, b = b, a + b
        n = n + 1
    return 'done'

fib(7)即斐波拉契数列前七位为 : 1, 1, 2, 3, 5, 8, 13
仔细观察,可以看出,fib函数实际上是定义了斐波拉契数列的推算规则,可以从第一个元素开始,推算出后续任意的元素,这种逻辑其实非常类似generator。
也就是说,上面的函数和generator仅一步之遥。要把fib函数变成generator函数,只需要把print(b)改为yield b就可以了:

def fib(max):
    n, a, b = 0, 0, 1
    while n < max:
        yield b
        a, b = b, a + b
        n = n + 1
    return 'done'

我们在循环过程中不断调用yield,就会不停的中断程序。当然了,我们要给循环设置一个条件来退出循环,不然就会产生一个无限数列出来。
同样的,把函数改成generator函数后,我们基本上从来不会用next()来获取下一个返回值,而是直接使用for循环来迭代:

def fib(max):
    n, a, b = 0, 0, 1
    while n < max:
        yield b
        a, b = b, a + b
        n = n + 1
    return 'done'


for n in fib(6):
    print(n)
    
输出:
1
1
2
3
5
8

这有个问题:用for循环调用generator时,发现拿不到generator的return语句的返回值'done'。如果想要拿到返回值,必须捕获StopIteration错误,返回值包含在StopIterationvalue中:

def fib(max):
    n, a, b = 0, 0, 1
    while n < max:
        yield b
        a, b = b, a + b
        n = n + 1
    return 'done'


g = fib(6)
while True:
    try:
        x = next(g)
        print('g:', x)
    except StopIteration as e:
        print('Generator return value:', e)
        break
        
输出:
g: 1
g: 1
g: 2
g: 3
g: 5
g: 8
Generator return value: done

对于Generator的小结:
generator是非常强大的工具,在Python中,可以简单地把列表生成式改成generator,也可以通过函数实现复杂逻辑的generator。
要理解generator的工作原理,它是在for循环的过程中不断计算出下一个元素,并在适当的条件结束for循环。对于函数改成的generator来说,遇到return语句或者执行到函数体最后一行语句,就是结束generator的指令,for循环随之结束。
要注意区分普通函数和generator函数,普通函数调用直接返回结果:

res = abs(-7)
print(res)

输出:
7

generator函数的调用实际上是生成返回一个generator对象:

def fib(max):
    n, a, b = 0, 0, 1
    while n < max:
        yield b
        a, b = b, a + b
        n = n + 1
    return 'done'


g = fib(6)
print(g)

输出:
<generator object fib at 0x0000019FE4AAA650>

五、迭代器 

我们知道,可以直接作用于for循环的数据类型有以下几种:
一类是集合数据类型,如listtupledictsetstr等;
一类是generator,包括生成器和带yield的generator function。
这些可以直接作用于for循环的对象统称为可迭代对象:Iterable
而生成器不但可以作用于for循环,还可以被next()函数不断调用并返回下一个值,直到最后抛出StopIteration错误表示无法继续返回下一个值了。
可以被next()函数调用并不断返回下一个值的对象称为迭代器Iterator
可以使用isinstance()判断一个对象是否是Iterator对象:

from collections.abc import Iterator
print(isinstance((x for x in range(10)), Iterator)) # True
print(isinstance([], Iterator)) # False
print(isinstance({}, Iterator)) # False
print(isinstance('abc', Iterator)) # False

可以看到,生成器都是Iterator对象,但listdictstr虽然是Iterable,却不是Iterator
listdictstrIterable变成Iterator可以使用iter()函数: 

print(isinstance(iter([]), Iterator)) # True
print(isinstance(iter('abc'), Iterator)) # True

你可能会问,为什么listdictstr等数据类型不是Iterator? 
这是因为Python的Iterator对象表示的是一个数据流,Iterator对象可以被next()函数调用并不断返回下一个数据,直到没有数据时抛出StopIteration错误。可以把这个数据流看做是一个有序序列,但我们却不能提前知道序列的长度,只能不断通过next()函数实现按需计算下一个数据,所以Iterator的计算是惰性的,只有在需要返回下一个数据时它才会计算。
Iterator甚至可以表示一个无限大的数据流,例如全体自然数。而使用list是永远不可能存储全体自然数的。
对于Iterator的小结:
凡是可作用于for循环的对象都是Iterable类型;
凡是可作用于next()函数的对象都是Iterator类型,它们表示一个惰性计算的序列;
集合数据类型如listdictstr等是Iterable但不是Iterator,不过可以通过iter()函数获得一个Iterator对象。
Python的for循环本质上就是通过不断调用next()函数实现的,例如:

for x in [1, 2, 3, 4, 5]:
    pass

 实际上完全等价于:

# 首先获得Iterator对象:
it = iter([1, 2, 3, 4, 5])
# 循环:
while True:
    try:
        # 获得下一个值:
        x = next(it)
    except StopIteration:
        # 遇到StopIteration就退出循环
        break
posted @ 2022-10-10 23:36  少年不太冷2  阅读(89)  评论(0)    收藏  举报