MongoDB compact 操作介绍-碎片整理

社区管理员发布于2022-10-19 11:39 / 641人阅读

1、为什么需要 compact操作？

（1）碎片的产生

1、db.collection.insert()    不断插入数据，扩展新的block，文件大小不断增大
2、db.collection.remove() 从集合中删除部分数据，很多block变成free，但物理空间并没有回收
3、db.runCommand({compact:"collection"}) 对集合执行compact，可以立即整理free的碎片空间

（2）compact操作对读写的影响

compact 一个集合，会加集合所在DB的互斥写锁，会导致该DB上所有的读写请求都阻塞；因为 compact 执行的时间可能很长，跟集合的数据量相关，所以强烈建议在业务低峰期执行，避免影响业务。

2、remove与drop的区别

MongoDB 里删除一个集合里所有文档，有两种方式：

（1）db.collection.remove({}, {multi: true})，逐个文档从 btree 里删除，最后所有文档被删除，但文件物理空间不会被回收
（2）db.collection.drop() 删除集合的物理文件，空间立即被回收

总的来说，remove 会产生逻辑的空闲空间，这些空间能立即用于写入新数据，但文件占用的总物理空间不会立即回收；通常只要持续在写入数据，有物理空间碎片问题并不大，不需要去 compact 集合，有的场景，remove 了大量的数据后，后续的写入可能并不多，这时如果想回收空间，就需要显式的调用 compact。

3、compact具体做了什么？

Compact 动作最终由存储引擎 WiredTiger 完成，WiredTiger 在执行 compact 时，会不断将集合文件后面的数据往前面空闲的空间写，然后逐步 truancate 文件回收物理空间。每一轮 compact 前，WT 都会先检查是否符合 comapact 条件。

（1）前面80%的空间里，是否有20%的空闲空间，用于写入文件后面20%的数据
（2）或者前面90%的空间里，是否有10%的空闲空间，用于写入文件后面10%的数据

如果上面都不满足，说明执行compact肯定无法回收10%的物理空间，此时 compact 就回退出。所以有时候遇到对一个大集合进行 compact，compact立马就返回ok，集合的物理空间也没有变化，就是因为 WiredTiger 认为这个集合没有 compact 的必要。

5、预估文档执行compact后能回收多少空间？

The amount of empty space available for reuse by WiredTiger is reflected in the output of db.collection.stats() under the heading wiredTiger.block-manager.file bytes available for reuse.

> use ucloud

# 批量插入数据
> for (var i = 1; i <= 1000000; i++) {
    db.starcto.insert( { x : i , name: "A", name1:"B", name2:"C", name3:"D"} )
}

> db.starcto.count()
1000000

# 删除文档中记录
> for (var i = 1; i <= 500000; i++) {
     db.starcto.remove( { "name": "A"} )
}

# 查看 starcto文档 当前可以回收空间
> db.starcto.stats().wiredTiger["block-manager"]["file bytes available for reuse"]
26173440

6、执行compact操作

# 清理单点MongoDB节点碎片
> use db1
> db.runCommand({compact: "collection1"})

# 在副本集primary上执行需要加 force 选项
> use ucloud
> db.runCommand({compact: "starcto", force: true})
{ "ok" : 1 }

# 查看空间释放情况（26173440 —> 4096）
> db.starcto.stats().wiredTiger["block-manager"]["file bytes available for reuse"]
4096

超融合服务器私有云 linux 整理磁盘碎片服务器磁盘整理碎片字符串碎片整理算法 linux 磁盘碎片整理命令

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/128168.html

MongoDB之compact操作详解

... compact操作步骤很多，但是可以有效减少磁盘使用量。 MongoDB与磁盘当Fundebug处理的数据越来越多，这导致MongoDB的磁盘使用量越来越多，增长也越来越快。于是，我开始定时删除过期数据，优化算法减少冗余数据。但是，我发现...

Forelax 2019-06-26 17:39 评论0 收藏0
一文了解JVM全部垃圾回收器，从Serial到ZGC

...Serial一样是单线程，不同的是算法用的是标记-整理（Mark-Compact）。因为老年代里面对象的存活率高，如果依旧是用复制算法，需要复制的内容较多，性能较差。并且在极端情况下，当存活为100%时，没有办法用复制算法。所以需...

jasperyang 2019-08-19 11:16 评论0 收藏0
聊聊GC

...候，寻找连续的内存空间会有难度。 3. 标记压缩（Mark-Compact）老年代一般是由标记清除或者是标记清除与标记压缩的混合实现。在整理压缩阶段，不再对标记的对像做回收，而是通过所有存活对像都向一端移动，然后直接清...

developerworks 2019-08-15 13:52 评论0 收藏0
必知必会JVM垃圾回收——对象搜索算法与回收算法

...率比较高的场景下是非常场景间。标记-整理算法（Mark-Compact）针对复制算法的两个缺点，在老年代一般会用这种标记-整理算法。把存活的对象移到内存的一段，然后把剩余的空间全部清空掉。分代收集算法分代算法并不是...

LuDongWei 2019-08-19 11:15 评论0 收藏0
浅谈V8引擎中的垃圾回收机制

...不适合。V8在老生代中的垃圾回收策略采用Mark-Sweep和Mark-Compact相结合 Mark-Sweep（标记清除）标记清除分为标记和清除两个阶段。在标记阶段需要遍历堆中的所有对象，并标记那些活着的对象，然后进入清除阶段。在清除阶段总...

happen 2019-08-21 12:13 评论0 收藏0