python 操作html(Python HTML解析模块HTMLParser用法分析爬虫工具)
python 操作html
Python HTML解析模块HTMLParser用法分析爬虫工具本文实例讲述了python html解析模块htmlparser用法。分享给大家供大家参考,具体如下:
简介
先简略介绍一下。实际上,htmlparser是python用来解析html的内置模块。它可以分析出html里面的标签、数据等等,是一种处理html的简便途径。htmlparser采用的是一种事件驱动的模式,当htmlparser找到一个特定的标记时,它会去调用一个用户定义的函数,以此来通知程序处理。它主要的用户回调函数的命名都是以"handle_"开头的,都是htmlparser的成员函数。当我们使用时,就从htmlparser派生出新的类,然后重新定义这几个以"handle_"开头的函数即可。这几个函数包括:
(1)handle_startendtag 处理开始标签和结束标签(即单标签)
(2)handle_starttag 处理开始标签,比如<xx>
(3)handle_endtag 处理结束标签,比如</xx>
(4)handle_charref 处理特殊字符串,就是以&#开头的,一般是内码表示的字符
(5)handle_entityref 处理一些特殊字符,以&开头的,比如
(6)handle_data 处理数据,就是<xx>data</xx>中间的那些数据
(7)handle_comment 处理注释
(8)handle_decl 处理<!开头的,比如<!doctype html public "-//w3c//dtd html 4.01 transitional//en"
(9)handle_pi 处理形如<?instruction>的东西
实例
ok,废话少说,直接上手,来一个简单的爬虫实例——抓取贴吧图片。
|
from html.parser import htmlparser from urllib import request class myhtmlparser(htmlparser): # 创建html解析类 def __init__( self ): htmlparser.__init__( self ) self .gifs_urls = [] # 创建列表,保存gif self .jpgs_urls = [] # 创建列表,保存jpg # 重写htmlparser中的内置方法 def handle_starttag( self , tags, attrs): # 处理起始标记 if tags = = 'img' : # 处理图片 for attr in attrs: for t in attr: if 'gif' in t and 'https' in t: self .gifs_urls.append(t) # 添加到gif列表 elif 'jpg' in t and 'https' in t: self .jpgs_urls.append(t) # 添加到jpg列表 else : pass # 自定义的方法 def get_gifs( self ): # 返回gif列表 return self .gifs_urls def get_jpgs( self ): # 返回jpg列表 return self .jpgs_urls # 自定义的方法,获取页面 def gethtml( self ,url): req = request.request(url,method = 'get' ) html = request.urlopen(req,timeout = 30 ) return html.read() # 自定义的方法,批量下载图片 def downimgs( self ,img_urls,n = 10 ,path = 'image/' ): count = 1 for url in img_urls: request.urlretrieve(url = url,filename = '{0}{1}{2}' . format (path,count, '.jpg' )) count = count + 1 if count = = n + 1 : print ( '共下载%d张图片' % (n)) return if __name__ = = '__main__' : url = 'http://tieba.baidu.com/p/2256306796' htmlparser = myhtmlparser() html = htmlparser.gethtml(url) # print(html) htmlparser.feed( str (html)) #开始解析html,自动调用htmlparser中的内置方法 htmlparser.downimgs(htmlparser.get_jpgs()) |
希望本文所述对大家python程序设计有所帮助。
原文链接:https://www.cnblogs.com/wcwnina/p/8082761.html
- python 提取微信消息(python实现文件助手中查看微信撤回消息)
- python删除数据框重复变量(Python3删除排序数组中重复项的方法分析)
- centos8配置python开发环境(CentOS6.9 Python环境配置python2.7、pip、virtualenv)
- python中tryexcept的用法(对python中的try、except、finally 执行顺序详解)
- python读取mat文件(详解Python Matplot中文显示完美解决方案)
- python微信消息模拟请求(python实现微信机器人: 登录微信、消息接收、自动回复功能)
- python找出数组的最大值(Python查找数组中数值和下标相等的元素示例二分查找)
- python中字典的常用操作(11个Python3字典内置方法大全与示例汇总)
- python excel 合并表格(Python实现合并excel表格的方法分析)
- python数据类型基本知识入门(Python Pexpect库的简单使用方法)
- python中的变量与变量类型(Python变量类型知识点总结)
- python核心编程内容(顶级大神Linux,Python,Go,PHP之父谁是夜猫子?用Python揭秘!)
- python中怎么连接mysql(python远程连接MySQL数据库)
- 最简单python的100个代码(20条非常实用的Python代码实例)
- python怎么用pandas读取两列数据(python 利用pandas将arff文件转csv文件的方法)
- python获取txt文件内容(使用python读取.text文件特定行的数据方法)
- ()
- 对你思念入骨的女人,跟你见面时会有这几种表现,藏都藏不住(对你思念入骨的女人)
- 纳兰性德绝美作,一场重逢,成就最后一首称得上惊艳的《如梦令》(纳兰性德绝美作)
- 如何快速赚钱(如何快速赚钱方法真实有效)
- 这里输入关键词(如何输入关键词)
- 熊猫中国国宝(熊猫国宝酒53酱香)
热门推荐
- react的setstate第二个参数(示例详解react中useState的用法)
- docker 挂载目录权限(docker windows10 共享目录挂载失败的解决方案)
- 如何用python处理excel表格(零基础使用Python读写处理Excel表格的方法)
- thinkphp快速入门手册(从ThinkPHP3.2.3过渡到ThinkPHP5.0学习笔记图文详解)
- angular引入组件库(详解Angular组件之中间人模式)
- vue 底层原理(浅谈Vue插槽实现原理)
- mysql超大表加字段(MySQL 大表添加一列的实现)
- typescript使用技巧(深入理解typescript中的infer关键字的使用)
- web开发如何正确使用docker(Docker部署web项目的实现)
- python爬虫经典步骤(详解python爬虫系列之初识爬虫)
排行榜
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9