Appearance
📰 概要
Dropbox工程师透露,大型基础设施改动也是"先上线再说,看看哪儿炸"。
Dropbox在重新设计Magic Pocket存储系统的压缩策略时,发现新服务产生了大量严重未填满的存储卷,部分卷使用率甚至低于5%。
这与大公司"改完系统先上线"的实践形成呼应。
🔍 解读
大公司也这样。
在Hacker News的讨论中,用户nopurpose写道:这种体量的公司,在动这种会影响巨额基础设施成本的改动前,都会拿生产数据反复建模推演。
结果发现也差不多:先发了再说,看看哪儿先炸。
💎 深挖
Magic Pocket的背景
Magic Pocket是Dropbox自研的对象存储系统,具备横向扩展能力,可支持EB级规模,已替代Amazon S3,提供99.99%的可用性。
问题是如何产生的
Dropbox去年引入了一项新服务,改变了数据在不可变对象存储中的分布方式,降低了后台写入的写放大。但这一变化也带来了非预期结果:数据碎片化增加。
三层压缩策略
Dropbox重新设计了空间回收系统:
- L1:早期策略,在存储卷接近满载时运行良好
- L2:新策略,将多个稀疏卷合并为一个接近满载的卷
- L3:通过Live Coder服务处理极度未填满的卷
为什么值得关注
这反映出大规模系统运维的复杂性。即使是Dropbox这样的顶级工程团队,也难以完全预测系统变更的影响。
什么情况不建议用
如果你正在进行关键系统变更,建议进行充分的测试和灰度发布。"先上线再说"只适用于非关键系统。
