python读取文件的正确方法(强悍的Python读取大文件的解决方案)
类别:脚本大全 浏览量:1938
时间:2022-03-28 01:03:54 python读取文件的正确方法
强悍的Python读取大文件的解决方案Python 环境下文件的读取问题,请参见拙文 Python基础之文件读取的讲解
这是一道著名的 Python 面试题,考察的问题是,Python 读取大文件和一般规模的文件时的区别,也即哪些接口不适合读取大文件。
1. read() 接口的问题
|
f = open (filename, 'rb' ) f.read() |
我们来读取 1 个 nginx 的日至文件,规模为 3Gb 大小。read() 方法执行的操作,是一次性全部读入内存,显然会造成:
MemoryError
...
也即会发生内存溢出。
2. 解决方案:转换接口
- (1)readlines() :读取全部的行,构成一个 list,实践表明还是会造成内存的问题;
|
for line in f.reanlines(): ... |
- (2)readline():每次读取一行,
|
while True : line = f.readline() if not line: break |
- (3)read(1024):重载,指定每次读取的长度
|
while True : block = f.read( 1024 ) if not block: break |
3. 真正 Pythonic 的方法
真正 Pythonci 的方法,使用 with 结构:
|
with open (filename, 'rb' ) as f: for line in f: <do something with the line> |
对可迭代对象 f,进行迭代遍历:for line in f
,会自动地使用缓冲IO(buffered IO)以及内存管理,而不必担心任何大文件的问题。
There should be one – and preferably only one – obvious way to do it.
Reference
How to read large file, line by line in python
总结
以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对开心学习网的支持。如果你想了解更多相关内容请查看下面相关链接
原文链接:https://blog.csdn.net/lanchunhui/article/details/51581540
您可能感兴趣
- python报表可视化(使用Python快速制作可视化报表的方法)
- python弹跳小球(python实现弹跳小球)
- python中jieba库怎么用(详解Python数据可视化编程 - 词云生成并保存jieba+WordCloud)
- python机器人开发(python程序控制NAO机器人行走)
- python交互执行shell脚本(python 利用文件锁单例执行脚本的方法)
- python响应处理post请求(Python3模拟curl发送post请求操作示例)
- python实现购物网站(Python实战购物车项目的实现参考)
- opencv调用摄像头图像识别(Python+OpenCV采集本地摄像头的视频)
- python线程安全队列(Python 限制线程的最大数量的方法Semaphore)
- python3的循环怎么用(对Python3 goto 语句的使用方法详解)
- python3有哪些内置模块(Python3.5内置模块之os模块、sys模块、shutil模块用法实例分析)
- python识别验证码教程(Python3.5 + sklearn利用SVM自动识别字母验证码方法示例)
- python try高级用法(python try 异常处理史上最全)
- python删除数据框重复变量(Python3删除排序数组中重复项的方法分析)
- python开发的独立商城(python实现电子产品商店)
- python编写小程序实现密码验证(python实现扫描ip地址的小程序)
- 精英律师 廖佳敏封印恋情曝光,顾婕马失前蹄 你个老不死的(廖佳敏封印恋情曝光)
- 以家人之名广受好评,剧情生动引起观众共鸣,演员张新成圈粉无数(以家人之名广受好评)
- 三兄妹感情再遇波折,人设接连崩塌 《以家人之名》剧情猜不透(三兄妹感情再遇波折)
- 《小敏家》金波想要复婚 这只是他圈套的第1步,更可恶的在后面(小敏家金波想要复婚)
- 小敏家 剧情离谱一锅乱炖,但他们俩绝对是这部剧的一大 亮点(剧情离谱一锅乱炖)
- 《倚天屠龙记》再遭翻拍,关晓彤主演赵敏,蒋劲夫演张无忌,你怎么看(倚天屠龙记再遭翻拍)
热门推荐
排行榜
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9