码迷,mamicode.com
首页 > 编程语言 > 详细

python pandas使用chunksize异步拆分固定行数的文件

时间:2019-01-14 18:59:17      阅读:242      评论:0      收藏:0      [点我收藏+]

标签:future   type   run   def   ons   print   enum   sas   chunk   

import pandas as pd
import asyncio
from collections import defaultdict


collect = defaultdict(list)

#######创建处理一个对象的方法,并返回期物
async def dealone(chunk,sas):
	path=‘/data/chaifen/testphone_%d.txt‘%sas
	chunk.to_csv(path,index=False)
	return path

async def submitor(chunk,sas):
	future = await dealone(chunk,sas)
	collect[‘res‘].append(future)
	#print(future)


chunks = pd.read_csv(‘/data/testphone.txt‘,dtype=‘object‘,chunksize=3)

loop = asyncio.get_event_loop()
tasks = asyncio.wait([submitor(chunk,index) for index,chunk in enumerate(chunks,1)])
loop.run_until_complete(tasks)
print(collect[‘res‘])

  

python pandas使用chunksize异步拆分固定行数的文件

标签:future   type   run   def   ons   print   enum   sas   chunk   

原文地址:https://www.cnblogs.com/mahailuo/p/10268309.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!