横向比拟阐明Python理会XML的4种方法
在最初进修PYTHON的时候，只知道有DOM和SAX两种理会要领，可是其效率都不足抱负，由于需要处理惩罚的文件数量太大，这两种方法耗时太高无法接管。
在网络搜索后发明，今朝应用较量遍及，且效率相对较高的ElementTree也是一个较量多人推荐的算法，于是拿这个算法来实测比拟，ElementTree也包罗两种实现，一个是普通ElementTree（ET），一个是ElementTree.iterparse（ET_iter）。
本文将对DOM、SAX、ET、ET_iter四种方法举办横向比拟，通过处理惩罚沟通文件较量各个算法的用时来评估其效率。
措施中将四种理会要领均写为函数，在主措施中别离挪用，来评估其理会效率。
解压后的XML文件内容示例为：
主措施函数挪用部门代码为：
print("文件计数：%d/%d." % (gz_cnt,paser_num))
str_s,cnt = dom_parser(gz)
#str_s,cnt = sax_parser(gz)
#str_s,cnt = ET_parser(gz)
#str_s,cnt = ET_parser_iter(gz)
output.write(str_s)
vs_cnt += cnt
在最初的函数挪用中函数返回两个值，但吸收函数挪用值时用两个变量别离挪用，导致每个函数都要执行两次，之后修改为一次挪用两个变量吸收返回值，淘汰了无效挪用。
1、DOM理会
函数界说代码：
def dom_parser(gz):
import gzip,cStringIO
import xml.dom.minidom
vs_cnt = 0
str_s = ''
file_io = cStringIO.StringIO()
xm = gzip.open(gz,'rb')
print("已读入：%s.\n理会中：" % (os.path.abspath(gz)))
doc = xml.dom.minidom.parseString(xm.read())
bulkPmMrDataFile = doc.documentElement
#读入子元素
enbs = bulkPmMrDataFile.getElementsByTagName("eNB")
measurements = enbs[0].getElementsByTagName("measurement")
objects = measurements[0].getElementsByTagName("object")
#写入csv文件
for object in objects:
vs = object.getElementsByTagName("v")
vs_cnt += len(vs)
for v in vs:
file_io.write(enbs[0].getAttribute("id")+' '+object.getAttribute("id")+' '+\
object.getAttribute("MmeUeS1apId")+' '+object.getAttribute("MmeGroupId")+' '+object.getAttribute("MmeCode")+' '+\
object.getAttribute("TimeStamp")+' '+v.childNodes[0].data+'\n') #获取文本值
str_s = (((file_io.getvalue().replace(' \n','\r\n')).replace(' ',',')).replace('T',' ')).replace('NIL','')
xm.close()
file_io.close()
return (str_s,vs_cnt)
措施运行功效：
**************************************************
措施处理惩罚启动。
输入目次为：/tmcdata/mro2csv/input31/。
输出目次为：/tmcdata/mro2csv/output31/。
输入目次下.gz文件个数为：12，本次处理惩罚个中的12个。
**************************************************
文件计数：1/12.
已读入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz.
理会中：
文件计数：2/12.
已读入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz.
理会中：
文件计数：3/12.
已读入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz.
理会中：
………………………………………
文件计数：12/12.
已读入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz.
理会中：
VS行计数：177849，运行时间：107.077867，每秒处理惩罚行数：1660。
已写入：/tmcdata/mro2csv/output31/mro_0001.csv。
**************************************************
措施处理惩罚竣事。
由于DOM理会需要将整个文件读入内存，并成立树布局，其内存耗损和时间耗损都较量高，但其利益在于逻辑简朴，不需要界说回调函数，便于实现。
2、SAX理会
函数界说代码：
def sax_parser(gz):
import os,gzip,cStringIO
from xml.parsers.expat import ParserCreate
#变量声明
d_eNB = {}
d_obj = {}
s = ''
global flag
flag = False
file_io = cStringIO.StringIO()
#Sax理会类
class DefaultSaxHandler(object):
#处理惩罚开始标签
def start_element(self, name, attrs):
global d_eNB
global d_obj
global vs_cnt
if name == 'eNB':
d_eNB = attrs
elif name == 'object':
d_obj = attrs
elif name == 'v':
file_io.write(d_eNB['id']+' '+ d_obj['id']+' '+d_obj['MmeUeS1apId']+' '+d_obj['MmeGroupId']+' '+d_obj['MmeCode']+' '+d_obj['TimeStamp']+' ')
vs_cnt += 1
else:
pass
#处理惩罚中间文本
def char_data(self, text):
global d_eNB
global d_obj
global flag
if text[0:1].isnumeric():
file_io.write(text)
elif text[0:17] == 'MR.LteScPlrULQci1':
flag = True
#print(text,flag)
else:
pass
#处理惩罚竣事标签
def end_element(self, name):
global d_eNB
global d_obj
if name == 'v':
file_io.write('\n')
else:
pass
#Sax理会挪用
handler = DefaultSaxHandler()
parser = ParserCreate()
parser.StartElementHandler = handler.start_element
parser.EndElementHandler = handler.end_element
parser.CharacterDataHandler = handler.char_data
vs_cnt = 0
str_s = ''
xm = gzip.open(gz,'rb')
print("已读入：%s.\n理会中：" % (os.path.abspath(gz)))
for line in xm.readlines():
parser.Parse(line) #理会xml文件内容
if flag:
break
str_s = file_io.getvalue().replace(' \n','\r\n').replace(' ',',').replace('T',' ').replace('NIL','') #写入理会后内容
xm.close()
file_io.close()
return (str_s,vs_cnt)
措施运行功效：
**************************************************
措施处理惩罚启动。
输入目次为：/tmcdata/mro2csv/input31/。
输出目次为：/tmcdata/mro2csv/output31/。
输入目次下.gz文件个数为：12，本次处理惩罚个中的12个。
**************************************************
文件计数：1/12.
已读入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz.
理会中：
文件计数：2/12.
已读入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz.
理会中：
文件计数：3/12.
已读入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz.
理会中：
…………………………………..
文件计数：12/12.
已读入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz.
理会中：
VS行计数：177849，运行时间：14.386779，每秒处理惩罚行数：12361。
已写入：/tmcdata/mro2csv/output31/mro_0001.csv。
**************************************************
措施处理惩罚竣事。
#p#分页标题#e#
SAX理会对比DOM理会，运行时间大幅缩短，由于SAX回收逐行理会，对付处理惩罚较大文件其占用内存也少，因此SAX理会是今朝应用较多的一种理会要领。其缺点在于需要本身实现回调函数，逻辑较为巨大。
3、ET理会
#p#分页标题#e#
函数界说代码：
def ET_parser(gz):
import os,gzip,cStringIO
import xml.etree.cElementTree as ET
vs_cnt = 0
str_s = ''
file_io = cStringIO.StringIO()
xm = gzip.open(gz,'rb')
print("已读入：%s.\n理会中：" % (os.path.abspath(gz)))
tree = ET.ElementTree(file=xm)
root = tree.getroot()
for elem in root[1][0].findall('object'):
for v in elem.findall('v'):
file_io.write(root[1].attrib['id']+' '+elem.attrib['TimeStamp']+' '+elem.attrib['MmeCode']+' '+\
elem.attrib['id']+' '+ elem.attrib['MmeUeS1apId']+' '+ elem.attrib['MmeGroupId']+' '+ v.text+'\n')
vs_cnt += 1
str_s = file_io.getvalue().replace(' \n','\r\n').replace(' ',',').replace('T',' ').replace('NIL','') #写入理会后内容
xm.close()
file_io.close()
return (str_s,vs_cnt)
措施运行功效：
**************************************************
措施处理惩罚启动。
输入目次为：/tmcdata/mro2csv/input31/。
输出目次为：/tmcdata/mro2csv/output31/。
输入目次下.gz文件个数为：12，本次处理惩罚个中的12个。
**************************************************
文件计数：1/12.
已读入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz.
理会中：
文件计数：2/12.
已读入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz.
理会中：
文件计数：3/12.
已读入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz.
理会中：
…………………………………….
文件计数：12/12.
已读入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz.
理会中：
VS行计数：177849，运行时间：4.308103，每秒处理惩罚行数：41282。
已写入：/tmcdata/mro2csv/output31/mro_0001.csv。
**************************************************
措施处理惩罚竣事。
相较于SAX理会，ET理会时间更短，而且函数实现也较量简朴，所以ET具有雷同DOM的简朴逻辑实现且对抗SAX的理会效率，因此ET是今朝XML理会的首选。
4、ET_iter理会
函数界说代码：
def ET_parser_iter(gz):
import os,gzip,cStringIO
import xml.etree.cElementTree as ET
vs_cnt = 0
str_s = ''
file_io = cStringIO.StringIO()
xm = gzip.open(gz,'rb')
print("已读入：%s.\n理会中：" % (os.path.abspath(gz)))
d_eNB = {}
d_obj = {}
i = 0
for event,elem in ET.iterparse(xm,events=('start','end')):
if i >= 2:
break
elif event == 'start':
if elem.tag == 'eNB':
d_eNB = elem.attrib
elif elem.tag == 'object':
d_obj = elem.attrib
elif event == 'end' and elem.tag == 'smr':
i += 1
elif event == 'end' and elem.tag == 'v':
file_io.write(d_eNB['id']+' '+d_obj['TimeStamp']+' '+d_obj['MmeCode']+' '+d_obj['id']+' '+\
d_obj['MmeUeS1apId']+' '+ d_obj['MmeGroupId']+' '+str(elem.text)+'\n')
vs_cnt += 1
elem.clear()
str_s = file_io.getvalue().replace(' \n','\r\n').replace(' ',',').replace('T',' ').replace('NIL','') #写入理会后内容
xm.close()
file_io.close()
return (str_s,vs_cnt)
措施运行功效：
**************************************************
措施处理惩罚启动。
输入目次为：/tmcdata/mro2csv/input31/。
输出目次为：/tmcdata/mro2csv/output31/。
输入目次下.gz文件个数为：12，本次处理惩罚个中的12个。
**************************************************
文件计数：1/12.
已读入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz.
理会中：
文件计数：2/12.
已读入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz.
理会中：
文件计数：3/12.
已读入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz.
理会中：
……………………………………………
文件计数：12/12.
已读入：/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz.
理会中：
VS行计数：177849，运行时间：3.043805，每秒处理惩罚行数：58429。
已写入：/tmcdata/mro2csv/output31/mro_0001.csv。
**************************************************
措施处理惩罚竣事。
#p#分页标题#e#
在引入了ET_iter理会后，理会效率比ET晋升了近50%，而相较于DOM理会更是晋升了35倍，在理会效率晋升的同时，由于其回收了iterparse这个循序理会的东西，其内存占用也是较量小的。
