邮箱图标 wotula.com

python解析xml之lxml

虽然python解析xml的库很多,但是,由于lxml在底层是用C语言实现的,所以lxml在速度上有明显优势。除了速度上的优势,lxml在使用方面,易用性也非常好。这里将以下面的xml数据为例,介绍lxml的简单使用。

 

例子:dblp.xml(dblp数据的片段)
<?xml version='1.0' encoding='utf-8'?>  
<dblp>
       <article mdate="2012-11-28" key="journals/entropy/BellucciFMY08">  
        <author>Stefano Bellucci</author>  
        <author>Sergio Ferrara</author>  
        <author>Alessio Marrani</author>  
        <author>Armen Yeranyan</author>  
        <title>ES<sup>2</sup>: A cloud data storage system for supporting both OLTP and OLAP.</title>
        <pages>507-555</pages>  
        <year>2008</year>  
        <volume>10</volume>  
        <journal>Entropy</journal>  
        <number>4</number>  
        <ee>http://dx.doi.org/10.3390/e10040507</ee>  
        <url>db/journals/entropy/entropy10.html#BellucciFMY08</url>  
    </article>  
    <article mdate="2013-03-04" key="journals/entropy/Knuth13">  
        <author>Kevin H. Knuth</author>  
        <title><i>Entropy</i> Best Paper Award 2013.</title>  
        <pages>698-699</pages>  
        <year>2013</year>  
        <volume>15</volume>  
        <journal>Entropy</journal>  
        <number>2</number>  
        <ee>http://dx.doi.org/10.3390/e15020698</ee>  
        <url>db/journals/entropy/entropy15.html#Knuth13</url>  
    </article>  
</dblp>

 

 

1、将xml解析为树结构,并得到该树的根。

为了将xml解析为树结构,并得到该树的根,要进行如下的操作:

 

1 #!/usr/bin/python
2 #-*-coding:utf-8-*-
3 from lxml import etree#导入lxml库
4 tree = etree.parse("dblp.xml")#将xml解析为树结构
5 root = tree.getroot()#获得该树的树根

 

另外,如果xml数据中出现了关于dtd的声明(如下面的例子),那样的话,必须在使用lxml解析xml的时候,进行相应的声明。

 

xml文件中含有dtd声明的例子:
<?xml version="1.0" encoding="ISO-8859-1"?>
<!DOCTYPE dblp SYSTEM "dblp.dtd">
<dblp>
<article mdate="2002-01-03" key="persons/Codd71a">
<author>E. F. Codd</author>
<title>Further Normalization of the Data Base Relational Model.</title>
<journal>IBM Research Report, San Jose, California</journal>
<volume>RJ909</volume>
<month>August</month>
<year>1971</year>
<a href="http://lib.csdn.net/base/20" class="replace_word" title="Hadoop知识库" target="_blank" style="color:#df3434; font-weight:bold;">hadoop</a>@hadoop:~/20130722dblpxml$ head -15 dblp.xml 
<?xml version="1.0" encoding="ISO-8859-1"?>
<!DOCTYPE dblp SYSTEM "dblp.dtd">
<dblp>
<article mdate="2002-01-03" key="persons/Codd71a">
<author>E. F. Codd</author>
<title>Further Normalization of the Data Base Relational Model.</title>
<journal>IBM Research Report, San Jose, California</journal>
<volume>RJ909</volume>
<month>August</month>
<year>1971</year>
<cdrom>ibmTR/rj909.pdf</cdrom>
<ee>db/labs/ibm/RJ909.html</ee>
</article>
</dblp>

 

这时候,要想将xml数据解析为树结构并得到该树的树根,必须进行如下的操作:

 

1 #!/usr/bin/python
2 #-*-coding:utf-8-*-
3 from lxml import etree#导入lxml库
4 parser=etree.XMLParser(load_dtd= True)#首先根据dtd得到一个parser(注意dtd文件要放在和xml文件相同的目录)
5 tree = etree.parse("dblp.xml",parser)#用上面得到的parser将xml解析为树结构
6 root = tree.getroot()#获得该树的树根

 

 

2、遍历树结构,获得各元素的属性及其子元素。

1 for article in root:#这样便可以遍历根元素的所有子元素(这里是article元素)
2     print "元素名称:",article.tag#用.tag得到该子元素的名称
3     for field in article:#遍历article元素的所有子元素(这里是指article的author,title,volume,year等)
4         print field.tag,":",field.text#同样地,用.tag可以得到元素的名称,而.text可以得到元素的内容
5     mdate=article.get("mdate")#用.get("属性名")可以得到article元素相应属性的值
6     key=article.get("key")
7     print "mdate:",mdate
8     print "key",key
9     print ""#隔行分开不同的article元素

到这里,便可以进行简单的xml数据的解析了。

 

3、解析xml数据的例子

用下面的代码解析文章开头的名为dblp.xml数据。

 

 1 #!/usr/bin/python
 2 #-*-coding:utf-8-*-
 3 from lxml import etree#导入lxml库
 4 tree = etree.parse("dblp.xml")#将xml解析为树结构
 5 root = tree.getroot()#获得该树的树根
 6 
 7 for article in root:#这样便可以遍历根元素的所有子元素(这里是article元素)
 8     print "元素名称:",article.tag#用.tag得到该子元素的名称
 9     for field in article:#遍历article元素的所有子元素(这里是指article的author,title,volume,year等)
10         print field.tag,":",field.text#同样地,用.tag可以得到元素的名称,而.text可以得到元素的内容
11     mdate=article.get("mdate")#用.get("属性名")可以得到article元素相应属性的值
12     key=article.get("key")
13     print "mdate:",mdate
14     print "key",key
15     print ""#隔行分开不同的article元素

 

 

便可以得到输出如下:

 1 元素名称: article
 2 author : Stefano Bellucci
 3 author : Sergio Ferrara
 4 author : Alessio Marrani
 5 author : Armen Yeranyan
 6 title : ES
 7 pages : 507-555
 8 year : 2008
 9 volume : 10
10 journal : Entropy
11 number : 4
12 ee : http://dx.doi.org/10.3390/e10040507
13 url : db/journals/entropy/entropy10.html#BellucciFMY08
14 mdate: 2012-11-28
15 key: journals/entropy/BellucciFMY08
16 
17 
18 元素名称: article
19 author : Kevin H. Knuth
20 title : None
21 pages : 698-699
22 year : 2013
23 volume : 15
24 journal : Entropy
25 number : 2
26 ee : http://dx.doi.org/10.3390/e15020698
27 url : db/journals/entropy/entropy15.html#Knuth13
28 mdate: 2013-03-04
29 key: journals/entropy/Knuth13

 

4、元素既有sub-element,又有text的处理

可以看到在上面的例子中,title元素的内容是不正确的。由于title元素及包含sub-element,又有text内容(如下),这时简单的用.text,并不能正确的得到title元素的内容。上面的例子中,第一个article元素的title只取到了ES,而第二个article元素的title则什么都没取到,None。

1 <title>ES<sup>2</sup>: A cloud data storage system for supporting both OLTP and OLAP.</title>
2 <title><i>Entropy</i> Best Paper Award 2013.</title> 

 

由于在这个例子中,子元素比较简单,这里就简单的采取将子元素和text一起打印的方法来解决这一问题。代码如下:

 1 #!/usr/bin/python
 2 #-*-coding:utf-8-*-
 3 from lxml import etree#导入lxml库
 4 tree = etree.parse("dblp.xml")#将xml解析为树结构
 5 root = tree.getroot()#获得该树的树根
 6 
 7 for article in root:#这样便可以遍历根元素的所有子元素(这里是article元素)
 8     print "元素名称:",article.tag#用.tag得到该子元素的名称
 9     for field in article:#遍历article元素的所有子元素(这里是指article的author,title,volume,year等)
10         if field.tag=="title":
11             print field.tag,":",etree.tostring(field,encoding='utf-8',pretty_print=False)#将元素text连同sub_element一起打印
12         else:
13             print field.tag,":",field.text#同样地,用.tag可以得到元素的名称,而.text可以得到元素的内容
14     mdate=article.get("mdate")#用.get("属性名")可以得到article元素相应属性的值
15     key=article.get("key")
16     print "mdate:",mdate
17     print "key:",key
18     print ""#隔行分开不同的article元素

 

输出如下:

 1 元素名称: article
 2 author : Stefano Bellucci
 3 author : Sergio Ferrara
 4 author : Alessio Marrani
 5 author : Armen Yeranyan
 6 title : <title>ES<sup>2</sup>: A cloud data storage system for supporting both OLTP and OLAP.</title>
 7         
 8 pages : 507-555
 9 year : 2008
10 volume : 10
11 journal : Entropy
12 number : 4
13 ee : http://dx.doi.org/10.3390/e10040507
14 url : db/journals/entropy/entropy10.html#BellucciFMY08
15 mdate: 2012-11-28
16 key: journals/entropy/BellucciFMY08
17 
18 元素名称: article
19 author : Kevin H. Knuth
20 title : <title><i>Entropy</i> Best Paper Award 2013.</title>  
21         
22 pages : 698-699
23 year : 2013
24 volume : 15
25 journal : Entropy
26 number : 2
27 ee : http://dx.doi.org/10.3390/e15020698
28 url : db/journals/entropy/entropy15.html#Knuth13
29 mdate: 2013-03-04
30 key: journals/entropy/Knuth13

当然,不难看出这个问题用这种方法解决比较傻,后面还得将title内容中的tag等不需要部分通过各种字符串的处理将其去掉。最好的方法是能有比较简单的方法,分别获取到一个元素的text和sub_element。下面就讲一下如何实现这个需求:

 

5、sub_element和text优雅实现版

假设xml文件paper.xml内容如下:

<?xml version="1.0" encoding="ISO-8859-1"?>
<dblp>
    <article mdate="2002-01-03" key="persons/Codd71a">
        <author>E. F. Codd</author>
        <title>ES<sup>2</sup>: A cloud data storage system for supporting both OLTP and OLAP.</title>
        <journal>IBM Research Report, San Jose, California</journal>
        <volume>RJ909</volume>
        <month>August</month>
        <year>1971</year>
    </article>
    <article mdate="2002-01-03" key="persons/Codd71a">
        <author>E. F. Codd</author>
        <title><i>Entropy</i> Best Paper Award 2013.</title>
        <journal>IBM Research Report, San Jose, California</journal>
        <volume>RJ909</volume>
        <month>August</month>
        <year>1971</year>
        <cdrom>ibmTR/rj909.pdf</cdrom>
        <ee>db/labs/ibm/RJ909.html</ee>
    </article>
</dblp>

可以看到,上面的文件中title字段中,既有子元素,也有嵌套。所以,为了同时取到text和子元素中的text,要单独地为取该字段的text写一个函数,下面是两个具体的实现。

 

5.1 v1.0

首先考虑的是递归读取各个元素的text,然后将它们拼起来,代码如下:

 1 from lxml import etree#paper2.py
 2 
 3 def node_text(node):
 4     result = node.text.strip() if node.text else ''
 5     for child in node:
 6         child_text = node_text(child)
 7         if child_text:
 8             result = result + ' %s' % child_text if result else child_text
 9     return result
10 
11 if __name__ == '__main__':
12     parser = etree.XMLParser()
13     root = etree.parse('paper.xml', parser).getroot()
14     for element in root:
15         category = element.tag
16         for attribute in element:
17             if attribute.tag == "title":
18                 print "title:", node_text(attribute)
19             else:
20                 print attribute.tag+":",attribute.text.strip()
21         print ""

 

运行结果如下:

 1 $ python paper2.py 
 2 author: E. F. Codd
 3 title: ES 2
 4 journal: IBM Research Report, San Jose, California
 5 volume: RJ909
 6 month: August
 7 year: 1971
 8 
 9 author: E. F. Codd
10 title: Entropy
11 journal: IBM Research Report, San Jose, California
12 volume: RJ909
13 month: August
14 year: 1971
15 cdrom: ibmTR/rj909.pdf
16 ee: db/labs/ibm/RJ909.html

显然,这个方法只能够取到各个子元素的text,然后将它们拼起来,因此,这并不是我们想要的。不知道当时怎么想的,我居然就直接这样用了。现在看来too young, too simple, always naive。

 

5.2 v2.0

数据都上线快一年了,发现了这个问题。简直不更sb了,这样,我们就要重新写上面去取得xml一个节点中所有text的函数(现在看来,当初将这一个功能写成一个函数还算是比较科学的),下面是现在的方案:

 1 from lxml import etree#paper.py
 2 
 3 def node_text(node):
 4     result = ""
 5     for text in node.itertext():
 6         result = result + text
 7     return result
 8 
 9 if __name__ == '__main__':
10     parser = etree.XMLParser()
11     root = etree.parse('paper.xml', parser).getroot()
12     for element in root:
13         category = element.tag
14         for attribute in element:
15             if attribute.tag == "title":
16                 print "title:", node_text(attribute)
17             else:
18                 print attribute.tag+":",attribute.text.strip()
19         print ""

 

运行之后得到下面的结果:

 1 $ python paper.py 
 2 author: E. F. Codd
 3 title: ES2: A cloud data storage system for supporting both OLTP and OLAP.
 4 journal: IBM Research Report, San Jose, California
 5 volume: RJ909
 6 month: August
 7 year: 1971
 8 
 9 author: E. F. Codd
10 title: Entropy Best Paper Award 2013.
11 journal: IBM Research Report, San Jose, California
12 volume: RJ909
13 month: August
14 year: 1971
15 cdrom: ibmTR/rj909.pdf
16 ee: db/labs/ibm/RJ909.html

 

这样,这个问题总算是解决了。下面的问题就是如何将线上的数据更改过来,当然,这又是另外的一个问题了。

 

 

 

0

posted @ 2016-04-13 14:25  编程浪子Yiutto  阅读(12748)  评论(0编辑  收藏  举报