【Python环境】Python函数式编程指南(3):迭代器

3. 迭代器

3.1. 迭代器(Iterator)概述

迭代器是访问集合内元素的一种方式。迭代器对象从集合的第一个元素开始访问,直到所有的元素都被访问一遍后结束。

迭代器不能回退,只能往前进行迭代。这并不是什么很大的缺点,因为人们几乎不需要在迭代途中进行回退操作。

迭代器也不是线程安全的,在多线程环境中对可变集合使用迭代器是一个危险的操作。但如果小心谨慎,或者干脆贯彻函数式思想坚持使用不可变的集合,那这也不是什么大问题。

对于原生支持随机访问的数据结构(如tuple、list),迭代器和经典for循环的索引访问相比并无优势,反而丢失了索引值(可以使用内建函数enumerate()找回这个索引值,这是后话)。但对于无法随机访问的数据结构(比如set)而言,迭代器是唯一的访问元素的方式。

迭代器的另一个优点就是它不要求你事先准备好整个迭代过程中所有的元素。迭代器仅仅在迭代至某个元素时才计算该元素,而在这之前或之后,元素可以不存在或者被销毁。这个特点使得它特别适合用于遍历一些巨大的或是无限的集合,比如几个G的文件,或是斐波那契数列等等。这个特点被称为延迟计算或惰性求值(Lazy evaluation)。

迭代器更大的功劳是提供了一个统一的访问集合的接口。只要是实现了__iter__()方法的对象,就可以使用迭代器进行访问。

3.2. 使用迭代器

使用内建的工厂函数iter(iterable)可以获取迭代器对象:

>>> lst = range(2) >>> it = iter(lst) >>> it <listiterator object at 0x00BB62F0>

使用迭代器的next()方法可以访问下一个元素:

>>> it.next() 0

如果是Python 2.6+,还有内建函数next(iterator)可以完成这一功能:

>>> next(it) 1

如何判断迭代器还有更多的元素可以访问呢?Python里的迭代器并没有提供类似has_next()这样的方法。 那么在这个例子中,我们已经访问到了最后一个元素1,再使用next()方法会怎样呢?

>>> it.next() Traceback (most recent call last): File "<stdin>", line 1, in <module> StopIteration

Python遇到这样的情况时将会抛出StopIteration异常。事实上,Python正是根据是否检查到这个异常来决定是否停止迭代的。 这种做法与迭代前手动检查是否越界相比各有优点。但Python的做法总有一些利用异常进行流程控制的嫌疑。

了解了这些情况以后,我们就能使用迭代器进行遍历了。

it = iter(lst) try: while True: val = it.next() print val except StopIteration: pass

实际上,因为迭代操作如此普遍,Python专门将关键字for用作了迭代器的语法糖。在for循环中,Python将自动调用工厂函数iter()获得迭代器,自动调用next()获取元素,还完成了检查StopIteration异常的工作。上述代码可以写成如下的形式,你一定非常熟悉:

for val in lst: print val

首先Python将对关键字in后的对象调用iter函数获取迭代器,然后调用迭代器的next方法获取元素,直到抛出StopIteration异常。对迭代器调用iter函数时将返回迭代器自身,所以迭代器也可以用于for语句中,不需要特殊处理。

常用的几个内建数据结构tuple、list、set、dict都支持迭代器,字符串也可以使用迭代操作。你也可以自己实现一个迭代器,如上所述,只需要在类的__iter__方法中返回一个对象,这个对象拥有一个next()方法,这个方法能在恰当的时候抛出StopIteration异常即可。但是需要自己实现迭代器的时候不多,即使需要,使用生成器会更轻松。下一篇我们将讨论生成器的部分。

*异常并不是非抛出不可的,不抛出该异常的迭代器将进行无限迭代,某些情况下这样的迭代器很有用。这种情况下,你需要自己判断元素并中止,否则就死循环了!

使用迭代器的循环可以避开索引,但有时候我们还是需要索引来进行一些操作的。这时候内建函数enumerate就派上用场咯,它能在iter函数的结果前加上索引,以元组返回,用起来就像这样:

for idx, ele in enumerate(lst): print idx, ele

3.3. 生成器表达式(Generator expression)和列表解析(List Comprehension)

绝大多数情况下,遍历一个集合都是为了对元素应用某个动作或是进行筛选。如果看过本文的第二部分,你应该还记得有内建函数map和filter提供了这些功能,但Python仍然为这些操作提供了语言级的支持。

(x+1 for x in lst) #生成器表达式,返回迭代器。外部的括号可在用于参数时省略。 [x+1 for x in lst] #列表解析,返回list

如你所见,生成器表达式和列表解析(注:这里的翻译有很多种,比如列表展开、列表推导等等,指的是同一个意思)的区别很小,所以人们提到这个特性时,简单起见往往只描述成列表解析。然而由于返回迭代器时,并不是在一开始就计算所有的元素,这样能得到更多的灵活性并且可以避开很多不必要的计算,所以除非你明确希望返回列表,否则应该始终使用生成器表达式。接下来的文字里我就不区分这两种形式了:)

你也可以为列表解析提供if子句进行筛选:

(x+1 for x in lst if x!=0)

或者提供多条for子句进行嵌套循环,嵌套次序就是for子句的顺序:

((x, y) for x in range(3) for y in range(x))

列表解析就是鲜明的Pythonic。我常遇到两个使用列表解析的问题,本应归属于最佳实践,但这两个问题非常典型,所以不妨在这里提一下:

第一个问题是,因为对元素应用的动作太复杂,不能用一个表达式写出来,所以不使用列表解析。这是典型的思想没有转变的例子,如果我们将动作封装成函数,那不就是一个表达式了么?

第二个问题是,因为if子句里的条件需要计算,同时结果也需要进行同样的计算,不希望计算两遍,就像这样:

(x.doSomething() for x in lst if x.doSomething()>0)

这样写确实很糟糕,但组合一下列表解析即可解决:

(x for x in (y.doSomething() for y in lst) if x>0)

内部的列表解析变量其实也可以用x,但为清晰起见我们改成了y。或者更清楚的,可以写成两个表达式:

tmp = (x.doSomething() for x in lst) (x for x in tmp if x > 0)

列表解析可以替代绝大多数需要用到map和filter的场合,可能正因为此,著名的静态检查工具pylint将map和filter的使用列为了警告。

3.4. 相关的库

Python内置了一个模块itertools,包含了很多函数用于creating iterators for efficient looping(创建更有效率的循环迭代器),这说明很是霸气,这一小节就来浏览一遍这些函数并留下印象吧,需要这些功能的时候隐约记得这里面有就好。这一小节的内容翻译自itertools模块官方文档。

3.4.1. 无限迭代

  • count(start, [step])

从start开始,以后每个元素都加上step。step默认值为1。

count(10) –> 10 11 12 13 14 …

  • cycle(p)

迭代至序列p的最后一个元素后,从p的第一个元素重新开始。

cycle(‘ABCD’) –> A B C D A B C D …

  • repeat(elem [,n])

将elem重复n次。如果不指定n,则无限重复。

repeat(10, 3) –> 10 10 10

3.4.2. 在最短的序列参数终止时停止迭代

  • chain(p, q, …)

迭代至序列p的最后一个元素后,从q的第一个元素开始,直到所有序列终止。

chain(‘ABC’, ‘DEF’) –> A B C D E F

  • compress(data, selectors)

如果bool(selectors[n])为True,则next()返回data[n],否则跳过data[n]。

compress(‘ABCDEF’, [1,0,1,0,1,1]) –> A C E F

  • dropwhile(pred, seq)

当pred对seq[n]的调用返回False时才开始迭代。

dropwhile(lambda x: x<5, [1,4,6,4,1]) –> 6 4 1

  • takewhile(pred, seq)

dropwhile的相反版本。

takewhile(lambda x: x<5, [1,4,6,4,1]) –> 1 4

  • ifilter(pred, seq)

内建函数filter的迭代器版本。

ifilter(lambda x: x%2, range(10)) –> 1 3 5 7 9

  • ifilterfalse(pred, seq)

ifilter的相反版本。

ifilterfalse(lambda x: x%2, range(10)) –> 0 2 4 6 8

  • imap(func, p, q, …)

内建函数map的迭代器版本。

imap(pow, (2,3,10), (5,2,3)) –> 32 9 1000

  • starmap(func, seq)

将seq的每个元素以变长参数(*args)的形式调用func。

starmap(pow, [(2,5), (3,2), (10,3)]) –> 32 9 1000

  • izip(p, q, …)

内建函数zip的迭代器版本。

izip(‘ABCD’, ‘xy’) –> Ax By

  • izip_longest(p, q, …, fillvalue=None)

izip的取最长序列的版本,短序列将填入fillvalue。

izip_longest(‘ABCD’, ‘xy’, fillvalue=’-') –> Ax By C- D-

  • tee(it, n)

返回n个迭代器it的复制迭代器。

  • groupby(iterable[, keyfunc])

这个函数功能类似于SQL的分组。使用groupby前,首先需要使用相同的keyfunc对iterable进行排序,比如调用内建的sorted函数。然后,groupby返回迭代器,每次迭代的元素是元组(key值, iterable中具有相同key值的元素的集合的子迭代器)。或许看看Python的排序指南对理解这个函数有帮助。

groupby([0, 0, 0, 1, 1, 1, 2, 2, 2]) –> (0, (0 0 0)) (1, (1 1 1)) (2, (2 2 2))

3.4.3. 组合迭代器

  • product(p, q, … [repeat=1])

笛卡尔积。

product(‘ABCD’, repeat=2) –> AA AB AC AD BA BB BC BD CA CB CC CD DA DB DC DD

  • permutations(p[, r])

去除重复的元素。

permutations(‘ABCD’, 2) –> AB AC AD BA BC BD CA CB CD DA DB DC

  • combinations(p, r)

排序后去除重复的元素。

combinations(‘ABCD’, 2) –> AB AC AD BC BD CD

  • combinations_with_replacement()

排序后,包含重复元素。

combinations_with_replacement(‘ABCD’, 2) –> AA AB AC AD BB BC BD CC CD DD

此篇结束。

原文链接:http://www.cnblogs.com/huxi/archive/2011/06/18/2084316.html

原文发布于微信公众号 - 数据科学与人工智能(DS_AI_shujuren)

原文发表时间:2015-09-30

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏前端架构与工程

【译】《Understanding ECMAScript6》- 第一章-基础知识(二)

块绑定 JavaScript中使用var进行变量声明的机制非常怪异。在大多数C系列的编程语言中,变量的创建是在被声明的时刻同时进行的。但是JavaScript并...

2715
来自专栏Angular&服务

angular2关于内置通道的使用

minIntegerDigits是要使用的最小数字的整数数字。 默认为1 minFractionDigits是分数后的最小位数。 默认为0 maxFra...

802
来自专栏Java帮帮-微信公众号-技术文章全总结

【Java提高十五】数组

一、什么是数组 数组?什么是数组?在我印象中的数组是应该这样的:通过new关键字创建并组装他们,通过使用整形索引值访问它的元素,并且它的尺寸是不可变的!...

3887
来自专栏程序员互动联盟

【专业知识】初学者需要知道的10个Java字符串问题

下面我为大家总结了10条Java开发者经常会提的关于Java字符串的问题,如果你也是Java初学者,仔细看看吧: ? 1、如何比较字符串,应该用”==”还是eq...

3717
来自专栏DannyHoo的专栏

OC中的类和对象

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/u010105969/article/de...

2086
来自专栏软件开发 -- 分享 互助 成长

python学习笔记之初识Python

一直听说python语音的简单易用而又强大,今天终于忍不住借本书,开始接触接触一下它,下面结合书本和自己的一些体会,写一下刚刚接触python的东西,重点写一些...

2105
来自专栏王大锤

swift之函数式编程

最近初学swift,和OC比,发现语言更现代,也有了更多的特性。如何写好swift代码,也许,熟练使用新特性写出更优秀的代码,就是答案。今天先从大的方向谈谈sw...

1312
来自专栏余林丰

7.哈希

  哈希(Hash)又称散列,它是一个很常见的算法。在Java的HashMap数据结构中主要就利用了哈希。哈希算法包括了哈希函数和哈希表两部分。我们数组的特性可...

2399
来自专栏工科狗和生物喵

【计算机本科补全计划】Java学习笔记(二) 基础语法红黄蓝

正文之前 刚才突然想起来自己CCF报名还没报名成功,就是一阵心绞痛,明晚就截止了,要是没报上,到时候怎么跟老师交差,突然想起来,如果老师问我最近干了啥,可以用准...

3616
来自专栏技术点滴

不要被C++“自动生成”所蒙骗

不要被C++“自动生成”所蒙骗 C++对象可以使用两种方式进行创建:构造函数和复制构造函数。假如我们定义了类A,并使用它创建对象。 A a,b; A c=a; ...

2299

扫码关注云+社区