Python之mmap内存映射模块（大文本处理）说明

m=mmap.mmap(fileno, length[, flags[, prot[, access[, offset]]]])

m.close()
关闭 m 对应的文件；

m.find(str, start=0)
从 start 下标开始，在 m 中从左往右寻找子串 str 最早出现的下标；

m.flush([offset, n])
把 m 中从offset开始的n个字节刷到对应的文件中；

m.move(dstoff, srcoff, n)
等于 m[dstoff:dstoff+n] = m[srcoff:srcoff+n]，把从 srcoff 开始的 n 个字节复制到从 dstoff 开始的n个字节，可能会覆盖重叠的部分。

m.read(n)
返回一个字符串，从 m 对应的文件中最多读取 n 个字节，将会把 m 对应文件的位置指针向后移动；

m.read_byte() 
返回一个1字节长的字符串，从 m 对应的文件中读1个字节，要是已经到了EOF还调用 read_byte()，则抛出异常 ValueError；

m.readline()
返回一个字符串，从 m 对应文件的当前位置到下一个‘\n‘，当调用 readline() 时文件位于 EOF，则返回空字符串；

m.resize(n) ***有问题，执行不了***
把 m 的长度改为 n，m 的长度和 m 对应文件的长度是独立的；

m.seek(pos, how=0)
同 file 对象的 seek 操作，改变 m 对应的文件的当前位置；

m.size()
返回 m 对应文件的长度（不是 m 对象的长度len(m)）；

m.tell()
返回 m 对应文件的当前位置；

m.write(str)
把 str 写到 m 对应文件的当前位置，如果从 m 对应文件的当前位置到 m 结尾剩余的空间不足len(str)，则抛出 ValueError；

m.write_byte(byte)
把1个字节（对应一个字符）写到 m 对应文件的当前位置，实际上 m.write_byte(ch) 等于 m.write(ch)。如果 m 对应文件的当前位置在 m 的结尾，也就是 m 对应文件的
当前位置到 m 结尾剩余的空间不足1个字节，write() 抛出异常ValueError，而 write_byte() 什么都不做。

>>> import os,mmap
>>> m=mmap.mmap(os.open(‘test.txt‘,os.O_RDWR),0)  #创业内存映射对象，
>>> m.read(10)                                    #可以使用方法
‘-- MySQL d‘
>>> m.close()                                     #关闭对象
>>> m.read(10)                                    #方法不可用
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
ValueError: mmap closed or invalid

>>> m.find(‘SET‘,0)      #从头开始查找第一次出现SET的字符串
197

>>> m.read(10)         #读取10字节的字符串
‘-- MySQL d‘
>>> m.read(10)         #读取上面10字节后，再往后的10字节数据
‘ump 10.13 ‘

>>> m.read_byte()   #读取第一个字节
‘-‘
>>> m.read_byte()   #读取第二个字节
‘-‘
>>> m.read_byte()   #读取第三个字节
‘ ‘

>>> m.readline()             #读取一正行
‘-- MySQL dump 10.13  Distrib 5.6.19, for osx10.7 (x86_64)\n‘
>>> m.readline()             #读取下一正行
‘--\n‘

>>> m.size()            #整个文件的大小
782

>>> m.tell()        #当前光标的位置0
0
>>> m.read(10)      #读取10个字节
‘-- MySQL d‘
>>> m.tell()        #当前光标位置10
10

>>> m.seek(10)        #当前光标定位到10
>>> m.tell()          #读取当前光标的位置
10
>>> m.read(10)        #读取当前光标之后的10字节内容
‘ump 10.13 

>>> m[101:108]            #切片101到108的值
‘-------‘
>>> m[1:8]                #切片1到8的值
‘- MySQL‘
>>> m.move(1,101,8)       #从101开始到后面的8字节（108），替换从1开始到后面的8字节（8）效果：m[1:8]=m[101:108] 
>>> m[1:8]                #被替换后
‘-------‘

>>> m.tell()                #当前光标位置
0 
>>> m.write(‘zhoujy‘)       #写入str，要是写入的大小大于原本的文件，会报错。m.write_byte(byte)不会报错。 
>>> m.tell()                #写入后光标位置 
6  
>>> m.seek(0)               #重置，光标从头开始  
>>> m.read(10)              #查看10个字节，确定是否被修改成功 
‘zhoujy---d‘

#!/usr/bin/python
# -*- encoding: utf-8 -*-

import mmap
import contextlib

f = open(‘test.txt‘, ‘r‘)
with contextlib.closing(mmap.mmap(f.fileno(), 0,access=mmap.ACCESS_READ)) as m:#readline需要循环才能读取整个文件
    while True:
        line = m.readline().strip()
        print line        #光标到最后位置（读完），就退出
        if m.tell()==m.size(): 
            break

#!/usr/bin/python
# -*- encoding: utf-8 -*-

import mmap
import contextlib

with open(‘test.txt‘, ‘r‘) as f:
    with contextlib.closing(mmap.mmap(f.fileno(), 0,access=mmap.ACCESS_READ)) as m:
        print ‘读取10个字节的字符串 :‘, m.read(10)
        print ‘支持切片，对读取到的字符串进行切片操作:‘, m[2:10]
        print ‘读取之前光标后的10个字符串‘, m.read(10)

#!/usr/bin/python
# -*- encoding: utf-8 -*-

import mmap
import contextlib

word = ‘ZHOUJY‘
print ‘查找:‘, word

f = open(‘test.txt‘, ‘r‘)
with contextlib.closing(mmap.mmap(f.fileno(), 0,access=mmap.ACCESS_READ)) as m:
    #也可以通过find(str,pos)来处理
    while True: 
        line = m.readline().strip()
        if line.find(word)>=0:
            print "结果："
            print line
        elif m.tell()==m.size():
            break
        else:
            pass

~$ python untitled.py
查找: ZHOUJY
结果：
-- ZHOUJY  ---dump 10.13  Distrib 5.6.19, for osx10.7 (x86_64)
结果：
/*!40101 ZHOUJY SET @OLD_CHARACTER_SET_CLIENT=@@CHARACTER_SET_CLIENT */ZHOUJY;
结果：
/*!40103 SET TIME_ZONE=‘+00:00‘ */ ZHOUJY;

#!/usr/bin/python
# -*- encoding: utf-8 -*-

import mmap
import contextlib

word = ‘ZHOUJY‘
print ‘查找:‘, word

f = open(‘test.txt‘, ‘r‘)
with contextlib.closing(mmap.mmap(f.fileno(), 0,access=mmap.ACCESS_READ)) as m:
    #不需要循环，只要找到一个就可以了
    loc = m.find(word)
    if loc >= 0:
        print loc
        print m[loc:loc+len(word)]

#!/usr/bin/python
# -*- encoding: utf-8 -*-

import mmap
import re
import contextlib
  
pattern = re.compile(r‘(40\d*)‘)
  
with open(‘test.txt‘, ‘r‘) as f:
    with contextlib.closing(mmap.mmap(f.fileno(), 0,access=mmap.ACCESS_READ)) as m:
        print pattern.findall(m)