刚入行那会儿我对“存储”这件事的认知基本停留在把盘插上、分区格式化、挂载能用的层面。直到有一次线上数据库因为inode耗尽直接报错只读我才被现实狠狠教育了一课存储不是一堆磁盘的堆叠它是整个系统的地基地基不稳上面跑再牛的架构都是空中楼阁。做了这几年运维遇到存储相关的面试题、故障、选型讨论我发现自己越来越依赖一套成体系的知识框架而不是零散的记忆片段。这篇内容就是我做运维这些年攒下的存储知识整理——从磁盘接口、RAID到文件系统、LVM再到分布式存储和性能排障一次性把链路拉通希望对同样是运维工程师的你有点帮助。不管你是刚转行的小白还是被线上故障折磨过的老手存储这块内容都值得花点时间系统过一遍。原因很简单业务可以降级缓存可以穿透但数据一旦真丢了连后悔的机会都没有。1. 先把地基打牢磁盘类型、接口与RAID的选择逻辑很多运维同行跟我聊存储第一句就问“你那边用的什么盘”好像盘选对了存储就解决了一半。这话有一定道理但真正的功底在于搞清楚底层这些硬件之间的性能差异、可靠性差异以及RAID在这种差异上做了什么取舍。1.1 磁盘类型与接口不是“越贵越好”这么简单市面上常见的磁盘介质就两大类机械硬盘HDD和固态硬盘SSD。HDD靠磁头和盘片读写顺序读写能力强但随机IOPS很低几块盘凑一起也就一两百的水平适合冷数据、备份归档这类不追求实时响应的场景。SSD用闪存颗粒擦写数据随机IOPS能到几万甚至几十万低时延、高吞吐数据库、消息队列这类高并发场景基本绕不开。接口这块也容易踩坑。同样是SSD走SATA还是走NVMe性能差了一个数量级。SATA 3.0理论带宽6GbpsNVMe走PCIe通道PCIe 4.0的通道带宽就能到16GT/s左右实际体验就是顺序读能从500MB/s左右的水平干到3GB/s以上。采购的时候你是对着参数选东西真正上线跑业务的时候你是为当时的决定买单。还有一个做运维很容易忽视的问题企业级SSD和消费级SSD差别很大。消费级的便宜但通常没有断电保护电容遇到突然掉电可能直接丢数据甚至掉盘。企业级SSD会带掉电保护、更强的磨损均衡算法用DWPD每天盘片写入次数和TBW总写入字节数这类指标定义寿命。线上生产环境千万别拿消费级盘当宝贝。1.2 RAID怎么选级别背后是性能与容错的博弈RAID的全称是廉价磁盘冗余阵列说白了就是拿一堆物理盘做组合让系统把它们看成一个逻辑盘。组合方式不同得到的性能和可靠性也完全不同。RAID0数据条带化分布到所有盘上读写速度接近多盘叠加但没有冗余坏一块盘整个阵列数据全部完蛋。只适合性能优先且数据可有可无的场景比如缓存节点。RAID1镜像模式数据同时写到两块盘坏一块还能继续读但写入要翻倍写性能反而比单盘还差一点。RAID5单块盘容错通过校验信息重建数据。读性能不错但写的时候要额外写校验随机写惩罚严重重建期间如果又坏一块就麻烦了。RAID6双块盘容错能扛住坏两块盘的极端情况但对控制器计算能力要求更高。RAID10先做镜像再条带化兼顾性能和容错同时需要成倍数量的物理盘成本最高。这里有个很实用的概念叫“写惩罚”。随机写惩罚值大致可以理解为RAID0是1RAID1和RAID10是2RAID5是4RAID6是6。意思是同样一个随机IO请求打到物理盘上的次数被放大成这个倍数。所以你在估算阵列性能的时候拿单盘IOPS除以写惩罚出来的才是阵列能达到的真实随机写能力。这也是为什么数据库这类写密集场景很多人宁愿直接上RAID10或者裸盘加备份而不是贪便宜选RAID5。在实际部署层面软件RAID和硬件RAID也是常见的分岔路。硬件RAID有独立控制器、缓存和电池保护系统掉电后缓存还能把数据刷到盘里性能和安全性都有保障但贵。软件RAIDLinux下用mdadm做的软阵列成本低、部署灵活IO调度消耗CPU而且操作时要格外小心没有控制器缓存兜底的话掉电风险确实更高一些。我的建议是如果是核心生产库硬件RAID别省如果是普通日志节点、应用服务器mdadm软RAID完全够用但一定要配UPS和定期巡检。2. 文件系统的门派之争格式化之前要想清楚的事磁盘发明的那天起人类就需要一套规则把数据组织起来这套规则就是文件系统。运维里最常用的单机文件系统有两派ext4和xfs。很多刚入行的朋友格式化的时候无脑mkfs.ext4这个习惯不是不行但要分场景。2.1 ext4与xfs大文件与小文件场景怎么选ext4是ext3的接班人兼容性好、内核支持完善、工具链成熟默认块大小下单个文件上限16TB左右文件系统整体上限也能到1EB级别。它非常适合常规业务文件存储、中规中矩的服务器盘位。xfs最初由SGI开发定位就是高性能大文件处理支持并发IO、超大文件系统单个文件极限能到8EiB那种夸张的量级RHEL系甚至把它设为默认文件系统。两者最明显的差异在小文件场景和大文件场景的表现上。xfs用B树索引目录目录层次很深、文件很多的时候查询效率依然很稳ext4在大目录下文件数攒到几百万性能下降就比较明显了。反过来ext4对单文件读写延迟的控制比较成熟反而在小规模随机读写场景下更让人安心。所以不是谁好谁坏是分场景。我自己接手的项目里数据库数据目录、日志收集服务器的落盘目录更偏向xfs通用web服务器附件目录、公司内部文档服务器ext4用着反而省心。还有一个容易踩的雷xfs不支持在线缩容ext4虽然能缩容但步骤繁琐且有一定风险。所以在规划磁盘空间时尽量给xfs分区留足余量或者用LVM管理因为LVM不支持在线缩容xfs逻辑卷缩容几乎只能重建这是个很难受的教训——我在实验环境里试过一次xfs的缩容折腾半天结果只能备份重来。2.2 挂载参数和inode隐藏在细节里的坑文件系统格式化完只是第一步mount参数直接影响碎片率、时延和数据一致性。默认挂载时atime每次访问文件都会更新访问时间这里涉及大量元数据写入。高并发的读密集场景我会给挂载参数加上noatime必要时再加nodiratime能明显减少无谓的写放大。SSD环境下mount参数里加discard可以直接启用TRIM指令帮助固态盘回收无用块。但要注意这个操作本身也有开销有些场景用周期性fstrim反而更合理。文件日志模式下dataordered是ext4的默认方案它保证文件数据先落盘再写元数据逻辑更安全追求极致性能但能容忍一定数据风险时可以评估datawriteback。inode是文件系统里最容易忽略的深层概念。可以把inode理解成每栋楼里的房号block是房子的实际面积。文件元数据权限、属主、大小、指针都放在inode里而实际数据块通过inode的指针去指向。分区一旦inode耗尽哪怕磁盘上还有几百GB空间你也创建不了任何新文件。排查的时候df显示空间充足但应用报错“No space left on device”十有八九是inode耗尽。处理思路是用find命令找出占用大量inode的目录比如find /data -xdev -printf %h\n | sort | uniq -c | sort -rn | head定位到具体目录后清理历史垃圾文件能解燃眉之急。2.3 文件系统损坏后的修复思路这个部分比较考验心理素质。文件系统报错的时候第一反应千万别是“赶紧重启看看”重启往往让损坏更难处理。正确做法是发现问题后尽量停止业务写入、尝试正常卸载umount再针对文件系统做修复。ext4通常用e2fsckxfs用xfs_repair。注意xfs_repair必须在卸载状态下执行如果根分区损坏得通过救援模式或live CD启动后操作。说个真实的例子我有一台备份服务器某天开机后xfs报错superblock不一致业务停了半天。我把盘卸下来挂在另一台机器上先用xfs_repair -n做只读预检确认修复方案再正式执行xfs_repair最终数据完整找回来了。整个过程最核心的经验是修复之前先备份当前损坏状态的元数据信息别一上来就狂敲修复命令。很多时候数据本身没坏坏的是索引结构冷静分析完全能抢救回来。3. LVM与磁盘扩容在线加盘的正确打开方式单块磁盘分区用久了最烦的就是空间不够。传统分区方案下扩容要么只能扩最后一个分区要么得重新插一块盘挂新路径业务方一听就炸。LVM逻辑卷管理把这个痛点基本解决了它提供了一层“逻辑卷”的抽象让上层看到的不是物理分区而是一个可以随时调整大小的逻辑空间。3.1 从物理盘到逻辑卷PV/VG/LV的完整链路LVM的体系可以拆成三层物理卷PV对应实际磁盘或分区卷组VG是多个PV汇合后的“资源池”逻辑卷LV才是真正格式化、挂载给应用使用的东西。VG到LV之间还有一个叫“物理扩展块PE”的粒度参数默认通常4MB这个有点像内存分页决定了扩容/缩容的最小单位。平时操作链路是先用pvcreate把一块物理盘做成PV用vgcreate把它们加进一个资源池再用lvcreate从VG里划出逻辑卷最后mkfs、mount、写/etc/fstab。一旦VG里还有空闲PE空间LV扩容量几乎就是一条命令的事业务完全不用停。打个比方你家里原来买了一套房子每个房间单独一道门。LVM像是把客厅和卧室打通成一个可变空间你可以随时决定这周把书房让给卧室一点下周再改回来——前提是总空间够用。3.2 扩容与缩容的真实操作流程最常见的扩容场景是/home分区不够用了VG下还有空闲空间。具体思路如下# 查看卷组信息确认有可用空间 vgdisplay # 把空闲空间全部分配给逻辑卷 /dev/vg_data/lv_opt lvextend -l 100%FREE /dev/vg_data/lv_opt # 让文件系统感知并扩大xfs用xfs_growfsext4用resize2fs xfs_growfs /opt注意很多新人扩容完发现df没变就是因为忘了最后一步同步文件系统。逻辑卷变大了文件系统不知道等于白等。缩容就麻烦得多。ext4缩容要先ext4fs缩文件系统再缩小LV顺序不能反而且有一定风险xfs直接不支持在线缩容。要不是特别需要我尽量不做缩容xfs的卷规划宁可多一点余量。另一个容易被坑的点是磁盘新增后的“可见性”。物理机热插拔磁盘或者云主机控制台加盘之后lsblk经常刷不出来需要执行partprobe或echo 1 /sys/class/scsi_host/host0/scan让内核重新扫描总线。折腾完记得确认系统里有没有lvm2服务开机自启否则重启后LV可能不存在根分区挂不上的惨案就来了。3.3 我踩过的扩容坑系统盘与业务盘别一锅端说个当初让我熬夜的案例。监控平台的数据分区挂在/dev/mapper/vg_monitor-lv_prometheus上某天告警说磁盘90%了我lvextend完resize2fs执行也成功但df显示根本没变。排查发现那个LV的文件系统实际是xfs我用了xfs_growfs才对。系统盘如果走LVM同样要小心内核ramdiskinitramfs里没带device mapper模块的话系统盘LV在开机时根本激活不了文件系统垮在启动环节。所以项目上线前最好在测试机模拟一次重启流程确认LVM在开机阶段正常可见这种坑比你想的多得多。4. 网络与分布式存储单机不够用之后的选型指南单台机器空间再大总有扛不住的那一天。业务扩容到几十台节点之后数据不可能都存放在本地盘。这时候就到了选型环节网络存储和分布式存储是两条完全不同的路线千万别混着谈。4.1 NAS与SAN概念要分清别被厂商带节奏NAS提供的是文件级访问走NFS、CIFS这类协议上层看到的是“路径”一台机器把一个目录通过网络共享出来别的机器mount上去直接用。SAN提供的是块级访问走iSCSI、FC这类协议上层看到的是“盘符”客户端拿到的是一个裸设备需要自己再做分区、文件系统。运维选型时要搞清楚需求是“共享文件”还是“共享块设备”这决定了整套方案的天花板和成本。实际运维中用得最多的是NFS。NFSv3挂载简单、兼容性好NFSv4在安全和锁机制上更完善。NFS挂载参数里有几个容易考到hard与softhard挂载下服务端故障会让IO一直阻塞应用层表现为卡死但数据可靠性高soft挂载在超时后直接返回错误对NFS服务端抖动更敏感但可能丢数据。重要业务我宁可选择hard挂载配合timeo参数调整超时时间来源尽量避免数据不一致。还有一点经验NFS的适用前提是网络链路稳定、时延低。跨公网场景几毫秒到几十毫秒的抖动文件访问体验直接崩塌。所以NFS只适合内网机房或同VPC内部署。4.2 开源分布式存储怎么选Ceph、GlusterFS、MinIO当数据量跨越集群多节点共同存储时一个系统文件系统已经不够用需要引入分布式存储引擎。这部分选型是很多运维工程师面试干货的重灾区。Ceph是三驾马车里公认功能最全的RBD提供块存储RGW提供S3对象接口CephFS提供文件系统。底层的MON维护集群状态OSD负责真实数据盘读写MDS负责CephFS的元数据管理。数据分布靠CRUSH算法不依赖中心化元数据索引扩缩容天然自愈。但Ceph的槽点也很明显部署和运维门槛高初始化PG数配错后期数据分布就歪了网络质量差一点重建和IO延迟能让人怀疑人生。小规模场景低于3个节点或者数据量不到几TB用Ceph是给自己找罪受。GlusterFS实现思路和Ceph不同走的是聚合brick的分布式文件路径支持副本、条带、哈希三种基本卷类型做文件共享场景比Ceph轻量很多。但在线扩容时脑裂风险不能忽略卷配置要谨慎节点网络抖动时副本间容易出现裂脑官方手册里的split-brain处理教程我要么不触碰要么提前做好告警。MinIO走的是纯对象存储路线对S3 API兼容极好部署极简跑几个容器就能用。非常适合企业内部对象存储、备份归档、存日志介质。如果业务层需求只是“给我一个兼容S3的服务”别碰Ceph直接上MinIO运维成本低一个数量级。4.3 存储高可用与备份分布式不等于绝对安全分布式存储最常用的冗余手段是副本和纠删码。副本就是每个数据在不同节点存几份比如三副本可容忍同时坏两块盘纠删码EC更像是用数学算法计算校验块例如42配置四块数据加两块校验空间利用率比三副本高但重建时CPU开销更大。无论选哪种机制分布式复制都不能替代真正的备份。RAID能防磁盘坏分布式能防节点挂但都不能防“误删除”“勒索加密”“机房火灾”维护多副本不等于高枕无忧。备份的3-2-1策略还是得执行3份数据、2种介质、1份异地。我自己在云上备了一台存储机器定期从生产拉快照虽然成本增加了但心理踏实得多。5. 存储排障与性能分析从工具到思路一次讲透排查存储问题玩的不只是工具本身而是对IO链路整体模型的把握。从应用发起写入、系统页缓存、块设备层排队、驱动层调度到物理盘真正落盘每一个环节都可能成为性能瓶颈。明白这条链路你才能从几十条指标中精准抓到元凶。5.1 常用命令真正该看什么df看文件系统空间、inode使用率。重点看Filesystem列、Mounted on列别只盯着Use%。du看目录实际占用。注意du统计的是文件实际占用的blockdf统计的是文件系统元数据可见的空间两者算出错往往是文件被删除但句柄未释放。iostat -x 1找久经考验的看板。重点观察%util、await、svctm、rKB/s、wKB/s。很多人误把%util当成磁盘占用率其实它反映的是磁盘处于忙碌状态的时间占比SSD并发能力极强时%util不高但IOPS已经很高靠await辅助判断。iotop按实时进程动态观察IO行为定位哪个进程在读写大量数据。pidstat -d 1潜伏在sysstat里的好帮手每个进程的系统级IO统计比iotop更干净CPU和IO一起看更直观。5.2 磁盘IO异常的排查链路遇到系统卡顿、数据库变慢建议按如下顺序推进排查先看df -h和df -i排除空间和inode耗尽这种最基础的问题——这个检查30秒但能筛掉大量假故障。用iostat -x 1观察底层磁盘是否繁忙%util长期跑到90%以上大概率先看是否有硬件瓶颈或raid重建。如果磁盘忙用pidstat -d定位到具体PID确认是不是某个日志回刷、临时表写入、备份脚本等原因导致。再用lsof L1查找被删除但依然被进程占用的文件。这类文件df显示空间占用但du查不到不处理空间永远不释放。结合vmstat的si、so查看swap活动大量swap换入换出也会产生IO假象让磁盘显得很忙。还有一个反直觉的现象有时候磁盘util不高业务却慢得像蜗牛。这通常是文件系统锁竞争、某些卷的调度器配置不理想或者单队列深度的NVMe盘在小块随机读时拥塞。这时候我习惯用fio做个纯性能基线fio --nametest --rwrandrw --bs4k --iodepth32 --ioenginelibaio --numjobs4 --size1G --runtime60 --group_reporting既能测裸盘上限也能对比不同挂载参数下的效果非常可控。5.3 三个我印象最深的存储故障现场第一个是一次ext4空间一直满但找不到大文件的案例。排查询问一圈锁定到某日志进程把已删除文件句柄还挂在手里lsof L1显示deleted状态最后重启进程让句柄放飞空间立刻释放。事后我加了一个循环日志策略每天自动轮转。第二个是inode耗尽事故。某NAS目录下累积了几百万个临时缓存小文件df看起来还有几十GB空间但应用报No space left on device一查inode已满。处理方式是一次性清理过期文件同时调整应用层的缓存清理策略避免下次再现。从这里能看出设计规范的重要大量零散小文件得让应用自己做好回收而不是指望运维每天帮它们擦屁股。第三个是某存储节点RAID控制器的电池没电写缓存策略被迫降级为直写用户没感知但性能暴跌当时监控显示写延迟翻了几倍。最终通过定期检查控制器BBU状态并更换电池解决了问题。这类硬件层健康度是很久才露一次面的坑建议运维巡检时别只顾应用层的可用性把smartctl、RAID控制器状态、固件版本都纳入自动化告警反过来才不会在故障面前手忙脚乱。做运维这几年我对存储最大的敬畏就是它不像代码写错了能马上改数据坏了往往等于永久损失。我也越来越习惯把“存储规划”落在系统设计的更早期文件系统会根据未来的量级提前选型分区尽量走LVM涉及共享数据先问清楚业务用的是文件还是对象接口再加上定期的备份演练和监控告警。这些事初期看起来繁琐但等到故障真的不来虚度你的时候你会感谢自己当初的每一次认真。