本文主要是介绍如何打开很大很大的文件---python,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
今天直接面对了一个很严重的问题,生成的一个大的字典,如何打开成了一个问题,因此发觉了一下这个问题:
基本原理:通过不断取1024KB为大小的内容,然后通过迭代器yield这个设备读取无限大的内容。
#coding=utf-8import os.path
import time'''
切分成小文件,然后读取'''def read_in_block(filepath):BLOCK_SIZE = 1024with open(filepath,'r') as f:while True:block = f.read(BLOCK_SIZE)if block:yield blockelse:returnif __name__ == '__main__':path=os.getcwd()filepath = path + '\pass.txt'start_time = time.time()for i in read_in_block(filepath):print iend_time = time.time()print 'Time is ',end_time - start_time
这篇关于如何打开很大很大的文件---python的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!