码迷,mamicode.com
首页 > 编程语言 > 详细

python 使用yield进行数据的流式处理

时间:2018-10-26 12:06:00      阅读:437      评论:0      收藏:0      [点我收藏+]

标签:cbo   utf-8   event   ide   book   else   lines   []   tmp   

demo:从文件中取包含字符“a”的5行数据做一次批处理!!!

# coding: utf-8

import time

def cat(f):
    for line in f:
        yield line

def grep(lines,searchtext):
  for line in lines:
    if searchtext in line:
      yield line

def process(segment_lines):
  print (segment_lines)

flog = cat(open(‘/tmp/tflearn_logs/vae/events.out.tfevents.1540467860.lanzihuazaideMacBook-Pro.local‘))
pylines = grep(flog, ‘a‘)
segment_lines = []
for line in pylines:
  if len(segment_lines) < 5:
      segment_lines.append(line)
  else:
      print ("*"*88)
      process(segment_lines)
      segment_lines = []
if segment_lines:
    print ("*"*88)
    process(segment_lines)

 

python 使用yield进行数据的流式处理

标签:cbo   utf-8   event   ide   book   else   lines   []   tmp   

原文地址:https://www.cnblogs.com/bonelee/p/9855445.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!