python爬虫入门代码(python爬虫基础教程:requests库二代码实例)
类别:脚本大全 浏览量:872
时间:2021-10-20 08:35:47 python爬虫入门代码
python爬虫基础教程:requests库二代码实例get请求
简单使用
|
import requests ''' 想要学习python?python学习交流群:973783996满足你的需求,资料都已经上传群文件,可以自行下载! ''' response = requests.get( "https://www.baidu.com/" ) #text返回的是unicode的字符串,可能会出现乱码情况 # print(response.text) #content返回的是字节,需要解码 print (response.content.decode( 'utf-8' )) # print(response.url) #https://www.baidu.com/ # print(response.status_code) #200 # print(response.encoding) #iso-8859-1 |
添加headers和params
|
import requests params = { 'wd' : 'python' } headers = { 'user-agent' : 'mozilla/5.0 (windows nt 6.1; win64; x64) applewebkit/537.36 (khtml, like gecko) chrome/64.0.3282.140 safari/537.36' } response = requests.get( "https://www.baidu.com/s" ,params = params,headers = headers) #content返回的是字节,需要解码 with open ( 'baidu.html' , 'w' ,encoding = 'utf-8' ) as f: f.write(response.content.decode( 'utf-8' )) |
post请求
爬去拉钩网职位信息
|
import requests url = "https://www.lagou.com/jobs/positionajax.json?city=%e5%8c%97%e4%ba%ac&needaddtionalresult=false" data = { 'first' : 'true' , 'pn' : 1 , 'kd' : 'python' } headers = { "user-agent" : "mozilla/5.0 (windows nt 6.1; win64; x64) applewebkit/537.36 (khtml, like gecko) chrome/64.0.3282.140 safari/537.36" , "referer" : "https://www.lagou.com/jobs/list_python?city=%e5%8c%97%e4%ba%ac&cl=false&fromsearch=true&labelwords=&suginput=" } response = requests.post(url,data = data,headers = headers) # print(response.text) print ( type (response.text)) #<class 'str'> print ( type (response.json())) #<class 'dict'> print (response.json()) #获取为字典的形式 |
使用代理
|
import requests proxy = { 'http' : '115.210.31.236.55:9000' } response = requests.get( "https://www.baidu.com/" ,proxies = proxy) print (response.content.decode( 'utf-8' )) |
session登录
|
# _*_ coding:utf-8 _*_ import requests # 1. 创建session对象,可以保存cookie值 ssion = requests.session() # 2. 处理 headers headers = { 'user-agent' : 'mozilla/5.0 (windows nt 6.1; win64; x64) applewebkit/537.36 (khtml, like gecko) chrome/60.0.3112.101 safari/537.36' } # 3. 需要登录的用户名和密码 data = { "email" : "158xxxxxxxx" , "password" : "pythonxxxxxxx" } # 4. 发送附带用户名和密码的请求,并获取登录后的cookie值,保存在ssion里 ssion.post( "http://www.renren.com/plogin.do" , data = data) # 5. ssion包含用户登录后的cookie值,可以直接访问那些登录后才可以访问的页面 response = ssion.get( "http://zhibo.renren.com/news/108" ) # 6. 打印响应内容 print (response.text) |
以上所述是小编给大家介绍的python爬虫基础教程:requests库(二)详解整合,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对开心学习网网站的支持!
原文链接:https://blog.csdn.net/fei347795790/article/details/89153257
您可能感兴趣
- python实战方法(Python常用特殊方法实例总结)
- pythonsql注入检测(Python版Mssql爆破小脚本)
- python用于机器人(python机器人运动范围问题的解答)
- python怎么用pandas读取两列数据(python 利用pandas将arff文件转csv文件的方法)
- python为什么要用多进程(对Python的多进程锁的使用方法详解)
- python爬虫10分钟教程(浅谈Python爬虫基本套路)
- python如何实现日期自动增加(Python脚本按照当前日期创建多级目录)
- python爬取豆瓣评分排行榜(Python爬虫——爬取豆瓣电影Top250代码实例)
- python 迭代对象必须实现哪些方法(详解python之heapq模块及排序操作)
- python无法拒绝的表白代码教程(很酷的python表白工具 你喜欢我吗)
- python的静态方法和类方法(深入解析python中的实例方法、类方法和静态方法)
- python和mysql实战(由Python编写的MySQL管理工具代码实例)
- python3.7不兼容pywinauto(浅谈python编译pyc工程--导包问题解决)
- python3列表的使用教程(对Python3 pyc 文件的使用详解)
- python同步钉钉用户(python 调用钉钉机器人的方法)
- python解析视频源码(基于python实现高速视频传输程序)
- 下雪会怎样(下雪怎样画)
- 白蓝色穿搭(白蓝色衣服配什么裤子)
- 天空是什么颜色(天空是什么颜色的英语)
- 高马尾扎发(高马尾扎发教程视频)
- 这里输入关键词(请手动输入关键词)
- 小说 顾瑾岚拿出一套飞行棋,别说你连飞行棋都不会哦(顾瑾岚拿出一套飞行棋)
热门推荐
- php运用redis实现抢购实例(PHP+redis实现微博的拉模型案例详解)
- linux下如何启动phpstudy面板(详解phpstudy linux web面板小皮面板V0.2版本正式发布)
- python3.7不兼容pywinauto(浅谈python编译pyc工程--导包问题解决)
- dedecms标题在哪改(dedecms任意页面调用栏目内容标签{dede:field.content/}的方法)
- Jquery中parent()和parents()
- extjs card卡片式布局
- python气温变化数据分析(基于python历史天气采集的分析)
- html5定位地理位置(Html5获取高德地图定位天气的方法)
- php标签怎么写(php 使用mpdf实现指定字段配置字体样式的方法)
- mysql字符类型长度限制
排行榜
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9