leveldb Arena

标签：style   blog   http   java   使用   os   io   strong   

背景
我们都知道，对于一个高性能的服务器端程序来说，内存的使用非常重要。C++提供了new/delete来管理内存的申请和释放，但是对于小对象来说，直接使用new/delete代价比较大，要付出额外的空间和时间，性价比不高。
另外，我们也要避免多次的申请和释放引起的内存碎片。一旦碎片到达一定程度，即使剩余内存总量够用，但由于缺乏足够的连续空闲空间，导致内存不够用的假象。
c++ STL为了避免内存碎片，实现一个复杂的内存池，leveldb中则没有那么复杂，只是实现了一个"一次性"内存池Arena。
在leveldb里面，并不是所有的地方都使用了这个内存池，主要是memtable使用，主要是用于临时存放用户的更新数据，由于更新的数据可能很小，所以这里使用内存池就很合适。

原理
为了避免小对象的频繁分配，需要减少对new的调用，最简单的做法就是申请大块的内存，多次分给客户。
leveldb用一个vector<char *>来保存所有的内存分配记录，默认每次申请4k的内存，记录下剩余指针和剩余内存字节数，每当有新的申请，如果当前剩余的字节能满足需要，则直接返回给用户，如果不能，对于超过1k的请求，直接new返回，小于1K的请求，则申请一个新的4k块，从中分配一部分给用户。
但是这样的一个问题就是当前块剩余的部分就浪费了，改进的方法，针对每个block都记录剩余字节，这样就需要遍历来查找合适的block，要付出一些性能的代价。google的做法是浪费就浪费吧：-）
至于释放，需要释放整个内存池来释放所占内存，这个和leveldb的需求有关,memtable不需要释放单次内存，flush到硬盘后整个memtable销毁。

Arena.h
//z 2014-06-05 10:48:50 L.209‘47470 BG57IV3 T1840949363.K.F1370514324[T6,L108,R4,V118]

[cpp] view plaincopy

 

1. // Copyright (c) 2011 The LevelDB Authors. All rights reserved.  
2. // Use of this source code is governed by a BSD-style license that can be  
3. // found in the LICENSE file. See the AUTHORS file for names of contributors.  
4.   
5. #ifndef STORAGE_LEVELDB_UTIL_ARENA_H_  
6. #define STORAGE_LEVELDB_UTIL_ARENA_H_  
7.   
8. #include <cstddef>  
9. #include <vector>  
10. #include <assert.h>  
11. #include <stdint.h>  
12.   
13. namespace leveldb  
14. {  
15. /*//z 
16. 思路： 
17. 先在上一次分配的内存块中查找是否剩余空间能否容纳当前申请的空间；如果足以容纳，直接使用剩余空间 
18. 否则视其大小重新分配一块空间：如果大于1024，直接分配一块新空间，大小与申请空间大小同 
19. 如果小于1024，说明上一块空间剩余空间小于1024，那么重新分配一块4096大小的空间，使用该空间来存放待申请的空间 
20. */  
21. class Arena  
22. {  
23. public:  
24.     Arena();  
25.     ~Arena();  
26.   
27.     // Return a pointer to a newly allocated memory block of "bytes" bytes.  
28.     char* Allocate(size_t bytes);  
29.   
30.     // Allocate memory with the normal alignment guarantees provided by malloc  
31.     char* AllocateAligned(size_t bytes);  
32.   
33.     // Returns an estimate of the total memory usage of data allocated  
34.     // by the arena (including space allocated but not yet used for user  
35.     // allocations).  
36.     size_t MemoryUsage() const  
37.     {  
38.         return blocks_memory_ + blocks_.capacity() * sizeof(char*);  
39.     }  
40.   
41. private:  
42.     char* AllocateFallback(size_t bytes);  
43.     char* AllocateNewBlock(size_t block_bytes);  
44.   
45.     // Allocation state  
46.     char* alloc_ptr_;  
47.     size_t alloc_bytes_remaining_;  
48.   
49.     // Array of new[] allocated memory blocks  
50.     std::vector<char*> blocks_;  
51.   
52.     // Bytes of memory in blocks allocated so far  
53.     size_t blocks_memory_;  
54.   
55.     // No copying allowed  
56.     Arena(const Arena&);  
57.     void operator=(const Arena&);  
58. };  
59.   
60. inline char* Arena::Allocate(size_t bytes)  
61. {  
62.     // The semantics of what to return are a bit messy if we allow  
63.     // 0-byte allocations, so we disallow them here (we don‘t need  
64.     // them for our internal use).  
65.     assert(bytes > 0);  
66.     //z 在一块直接分配好的内存上移动一下指针即可；事实上可能会存在很多的浪费。  
67.     if (bytes <= alloc_bytes_remaining_)  
68.     {  
69.         char* result = alloc_ptr_;  
70.         alloc_ptr_ += bytes;  
71.         alloc_bytes_remaining_ -= bytes;  
72.         return result;  
73.     }  
74.   
75.     //z 如果剩余控件不足与容纳，那么根据bytes大小决定是否重新分配一块标准大小的内存（4096），或者要是bytes大于1024，直接  
76.     //z 分配其大小的内存，原标准块内存仍旧有用。  
77.     //z 如果小于 1024 ，说明原标准块剩余内存不足以容纳1024，新分配一块标准块内存，用此来为bytes分配对应内存。  
78.     return AllocateFallback(bytes);  
79. }  
80.   
81. }  
82.   
83. #endif  // STORAGE_LEVELDB_UTIL_ARENA_H_  

//z 2014-06-05 10:48:50 L.209‘47470 BG57IV3 T1840949363.K.F1370514324[T6,L108,R4,V118]
arena.cc

[cpp] view plaincopy

 

1. // Copyright (c) 2011 The LevelDB Authors. All rights reserved.  
2. // Use of this source code is governed by a BSD-style license that can be  
3. // found in the LICENSE file. See the AUTHORS file for names of contributors.  
4.   
5. #include "util/arena.h"  
6. #include <assert.h>  
7.   
8. namespace leveldb {  
9.     //z 常量变量名k开头  
10.     static const int kBlockSize = 4096;  
11.   
12.     //z 初始化  
13.     Arena::Arena() {  
14.         blocks_memory_ = 0;  
15.         alloc_ptr_ = NULL;  // First allocation will allocate a block  
16.         alloc_bytes_remaining_ = 0;  
17.     }  
18.   
19.     Arena::~Arena() {  
20.         //z 删除申请的内存  
21.         for (size_t i = 0; i < blocks_.size(); i++) {  
22.             delete[] blocks_[i];  
23.         }  
24.     }  
25.   
26.     char* Arena::AllocateFallback(size_t bytes) {  
27.         //z 如果申请的bytes > 1024  
28.         if (bytes > kBlockSize / 4) {  
29.             // Object is more than a quarter of our block size.  Allocate it separately  
30.             // to avoid wasting too much space in leftover bytes.  
31.             char* result = AllocateNewBlock(bytes);  
32.             return result;  
33.         }  
34.   
35.         // We waste the remaining space in the current block.  
36.         //z 不大于1024时，分配一块标准大小的内存  
37.         alloc_ptr_ = AllocateNewBlock(kBlockSize);  
38.         alloc_bytes_remaining_ = kBlockSize;  
39.   
40.         //z 指定返回的位置  
41.         char* result = alloc_ptr_;  
42.         //z 移动指针位置至空闲内存开始的地方  
43.         alloc_ptr_ += bytes;  
44.         //z 记录还剩下多少内存  
45.         alloc_bytes_remaining_ -= bytes;  
46.         return result;  
47.     }  
48.   
49.     char* Arena::AllocateAligned(size_t bytes) {  
50.         //z 这个值是固定的，不用每次都求一次？但是代价非常小，求一次也无所为？  
51.         const int align = sizeof(void*);    // We‘ll align to pointer size  
52.         assert((align & (align-1)) == 0);   // Pointer size should be a power of 2  
53.         //z 求的其余数  
54.         size_t current_mod = reinterpret_cast<uintptr_t>(alloc_ptr_) & (align-1);  
55.         size_t slop = (current_mod == 0 ? 0 : align - current_mod);  
56.         size_t needed = bytes + slop;  
57.         char* result;  
58.         //z 如果剩余的空间足以容纳所需要的内存  
59.         if (needed <= alloc_bytes_remaining_) {  
60.             //z 对齐返回地址  
61.             result = alloc_ptr_ + slop;  
62.             alloc_ptr_ += needed;  
63.             alloc_bytes_remaining_ -= needed;  
64.         } else {  
65.             // AllocateFallback always returned aligned memory  
66.             //z 否则直接分配一块新的内存  
67.             //z 在这种情况下这块内存可能很小  
68.             result = AllocateFallback(bytes);  
69.         }  
70.         //z 确保返回地址是对齐的  
71.         assert((reinterpret_cast<uintptr_t>(result) & (align-1)) == 0);  
72.         return result;  
73.     }  
74.       
75.     //z 在不小于一个page的时候，直接采用这种方式  
76.     char* Arena::AllocateNewBlock(size_t block_bytes) {  
77.         char* result = new char[block_bytes];  
78.         blocks_memory_ += block_bytes;  
79.         blocks_.push_back(result);  
80.         return result;  
81.     }  
82.   
83. }  

//z 2014-06-05 10:48:50 L.209‘47470 BG57IV3 T1840949363.K.F1370514324[T6,L108,R4,V118]

leveldb Arena,布布扣,bubuko.com

leveldb Arena

标签：style   blog   http   java   使用   os   io   strong   

原文地址：http://www.cnblogs.com/shenzhaohai1989/p/3904808.html