当前位置 : 主页 > 编程语言 > python >

Python爬虫技术--基础篇--内建模块XML和HTMLParser

来源:互联网 收集:自由互联 发布时间:2022-06-15
1.XML XML虽然比JSON复杂,在Web中应用也不如以前多了,不过仍有很多地方在用,所以,有必要了解如何操作XML。 DOM vs SAX 操作XML有两种方法:DOM和SAX。DOM会把整个XML读入内存,解析为树,

1.XML

XML虽然比JSON复杂,在Web中应用也不如以前多了,不过仍有很多地方在用,所以,有必要了解如何操作XML。

DOM vs SAX

操作XML有两种方法:DOM和SAX。DOM会把整个XML读入内存,解析为树,因此占用内存大,解析慢,优点是可以任意遍历树的节点。SAX是流模式,边读边解析,占用内存小,解析快,缺点是我们需要自己处理事件。

正常情况下,优先考虑SAX,因为DOM实在太占内存。

在Python中使用SAX解析XML非常简洁,通常我们关心的事件是​​start_element​​​,​​end_element​​​和​​char_data​​,准备好这3个函数,然后就可以解析xml了。

举个例子,当SAX解析器读到一个节点时:

python

会产生3个事件:

  • start_element事件,在读取​​<a href="/">​​时;
  • char_data事件,在读取​​python​​时;
  • end_element事件,在读取​​</a>​​时。
  • 用代码实验一下:

    from xml.parsers.expat import ParserCreate

    class DefaultSaxHandler(object):
    def start_element(self, name, attrs):
    print('sax:start_element: %s, attrs: %s' % (name, str(attrs)))

    def end_element(self, name):
    print('sax:end_element: %s' % name)

    def char_data(self, text):
    print('sax:char_data: %s' % text)

    xml = r'''

  • Python

  • Ruby


  • '''

    handler = DefaultSaxHandler()
    parser = ParserCreate()
    parser.StartElementHandler = handler.start_element
    parser.EndElementHandler = handler.end_element
    parser.CharacterDataHandler = handler.char_data
    parser.Parse(xml)

    需要注意的是读取一大段字符串时,​​CharacterDataHandler​​​可能被多次调用,所以需要自己保存起来,在​​EndElementHandler​​里面再合并。

    除了解析XML外,如何生成XML呢?99%的情况下需要生成的XML结构都是非常简单的,因此,最简单也是最有效的生成XML的方法是拼接字符串:

    L = []
    L.append(r'')
    L.append(r'')
    L.append(encode('some & data'))
    L.append(r'')
    return ''.join(L)

    如果要生成复杂的XML呢?建议你不要用XML,改成JSON。

    小结

    解析XML时,注意找出自己感兴趣的节点,响应事件时,把节点数据保存起来。解析完毕后,就可以处理数据。

     

     

    2.HTMLParser

    如果我们要编写一个搜索引擎,第一步是用爬虫把目标网站的页面抓下来,第二步就是解析该HTML页面,看看里面的内容到底是新闻、图片还是视频。

    假设第一步已经完成了,第二步应该如何解析HTML呢?

    HTML本质上是XML的子集,但是HTML的语法没有XML那么严格,所以不能用标准的DOM或SAX来解析HTML。

    好在Python提供了HTMLParser来非常方便地解析HTML,只需简单几行代码:

    from html.parser import HTMLParser
    from html.entities import name2codepoint

    class MyHTMLParser(HTMLParser):

    def handle_starttag(self, tag, attrs):
    print('<%s>' % tag)

    def handle_endtag(self, tag):
    print('' % tag)

    def handle_startendtag(self, tag, attrs):
    print('<%s/>' % tag)

    def handle_data(self, data):
    print(data)

    def handle_comment(self, data):
    print('')

    def handle_entityref(self, name):
    print('&%s;' % name)

    def handle_charref(self, name):
    print('&#%s;' % name)

    parser = MyHTMLParser()
    parser.feed('''



    Some html HTML tutorial...
    END


    ''')

    ​​feed()​​方法可以多次调用,也就是不一定一次把整个HTML字符串都塞进去,可以一部分一部分塞进去。

    特殊字符有两种,一种是英文表示的​​&nbsp;​​​,一种是数字表示的​​&#1234;​​,这两种字符都可以通过Parser解析出来。

    小结

    利用HTMLParser,可以把网页中的文本、图像等解析出来。

    上一篇:Matplotlib基础--自定义刻度
    下一篇:没有了
    网友评论