详解分库分表
一、什么时候要分库分表数据量级达标业务数据快速增长单表数据量达到1000万行或20GB阈值。常规优化失效已尝试主从读写分离、索引优化等手段但仍无法解决性能瓶颈。资源达到瓶颈IO瓶颈磁盘IO或网络IO达到上限。CPU瓶颈因聚合查询频繁或数据库连接数过多导致CPU负载过高。二、分库分表的拆分策略1、垂直拆分垂直分库定义按照业务功能将不同的表拆分到不同的数据库中。核心逻辑专库专用。原本一个电商数据库里有用户表、订单表、商品表。现在拆分成三个独立的数据库用户库、订单库、商品库。优点业务解耦不同业务线互不影响某个库宕机不会导致全站瘫痪。分担压力不同库可以部署在不同的服务器上分担了单台服务器的CPU、IO和连接数压力。便于扩展针对高并发的业务如订单可以单独增加订单库的服务器配置缺点分布式事务跨库操作如扣库存生成订单变得复杂需要引入分布式事务如Seata。跨库Join原本一条SQL能关联查询的数据现在需要在应用层组装或通过微服务接口调用。运维成本数据库实例增多运维复杂度上升。垂直分表定义按照字段列的活跃度或大小将一张宽表拆分成多张表。核心逻辑将不常用、大字段如Text、Blob拆分到扩展表中主表只保留常用、查询频率高的字段。优点提升查询效率单表数据量不变行数不变但单行数据变小一个数据页能存更多行减少了磁盘IO内存命中率更高。避免跨页避免因大字段导致行溢出影响主键索引效率。缺点需要关联查询查完整信息需要Join两张表。事务一致性插入数据时需要同时向两张表插入需保证事务。2、水平拆分水平分库定义将同一个表的数据按照某种规则如ID取模、时间范围拆分到多个数据库中。核心逻辑每个数据库的表结构完全相同只是存储的数据不同。解决单表数据量过大的问题。比如有1亿用户拆成4个库每个库存2500万。优点解决海量数据存储单库容量有上限水平分库理论上可以无限扩展存储。大幅提升并发请求被打散到多个数据库实例极大提升了系统的吞吐量。缺点数据路由复杂需要中间件如ShardingSphere或应用层代码来计算数据落在哪个库。全局ID问题不能再用单库自增ID需要分布式ID生成器如雪花算法。扩容困难如果需要增加数据库节点历史数据需要重新迁移通常用一致性Hash解决。水平分表定义在同一个数据库内按照某种规则如ID取模、时间范围将一张数据量巨大的表拆分成多张表结构完全相同的小表。核心逻辑解决单表数据量过大导致的查询性能下降问题。比如一张订单表有1亿条数据拆分成order_0、order_1、order_2、order_3四张表每张表存储2500万条数据。优点提升查询效率单表数据量变小B树索引层级变浅磁盘IO减少查询速度显著提升。实现相对简单相比水平分库不需要考虑跨库网络通信、分布式事务等复杂问题只需在应用层做SQL路由即可。成本低不需要额外购买数据库服务器只需在现有数据库实例中建多张表缺点无法分担服务器压力所有表仍在同一个数据库实例中CPU、内存、磁盘IO、网络IO瓶颈依然存在。这是水平分表与水平分库最本质的区别。单库容量仍有上限受限于单台服务器的磁盘容量数据总量无法无限扩展。全局ID问题不能再用单表自增ID需要分布式ID生成器如雪花算法。跨表查询复杂原本一条SQL能查全量数据现在需要在应用层做聚合如分页、排序、统计。运维成本增加表数量增多DDL变更如加字段需要执行多次。

相关新闻

基于MATLAB的多特征融合火灾检测系统GUI实现

基于MATLAB的多特征融合火灾检测系统GUI实现

控制室里的监控画面往往是最枯燥的,但一旦画面里出现不该有的红色,谁都不敢大意。之前给某个厂区做安防监控需求评估时,对方问能不能用现有摄像头自动识别早期火情,不需要换硬件,最好快速出一版可演示的原型。当时我第…

2026/10/16 8:57:05 阅读更多 →
模型卡与系统卡:从 Hugging Face 模板到 AI Act 证据链(Annex IV 差距审计)

模型卡与系统卡:从 Hugging Face 模板到 AI Act 证据链(Annex IV 差距审计)

摘要 10-16/01 画了合规义务地图,本文落地「证据」——模型卡/系统卡不是 PR 物料,而是 EU AI Act 的法定证据。Annex IV 要求高风险系统投放前拟就一份九点技术文件,Article 13(3) 规定部署方收到的使用说明,Article 18 要求文件…

2026/10/16 8:57:05 阅读更多 →
VL53L4CD ToF测距传感器结合CircuitPython:从参数配置到多传感器实战

VL53L4CD ToF测距传感器结合CircuitPython:从参数配置到多传感器实战

1. 项目概述与核心价值距离传感器在嵌入式项目里一直是"存在感很强但总被低估"的角色。做智能垃圾桶的翻盖、做避障小车、做人员靠近检测,都会用到测距。早期大家习惯用红外或超声波,各有各的痛点——超声波在吸音材料面前直接失灵&#xff0c…

2026/10/16 8:57:05 阅读更多 →

最新新闻

软件系统运维方案模板实战:从5大模块到落地避坑指南

软件系统运维方案模板实战:从5大模块到落地避坑指南

简介:软件系统运维方案模板是一份面向运维团队、项目管理者及信息化部门的Word文档,旨在解决系统日常维护、故障应对与规范化管理缺失等问题。压缩包内包含1个docx文件,大小约119KB,当前已有63人学习下载。模板依据完整运维体系编…

2026/10/17 13:46:46 阅读更多 →
Kumo Tabular vs XGBoost:表格基础模型如何挑战传统机器学习?

Kumo Tabular vs XGBoost:表格基础模型如何挑战传统机器学习?

人工智能基础模型机器学习 【免费下载链接】Kumo-Tabular 项目地址: https://ai.gitcode.com/hf_mirrors/nvidia/Kumo-Tabular 点击查看 免费下载 Kumo Tabular 是 NVIDIA 发布的预训练表格基础模型(tabular foundation model),一…

2026/10/17 13:46:46 阅读更多 →
C语言typedef完全指南:别名、函数指针与const细节一次搞懂

C语言typedef完全指南:别名、函数指针与const细节一次搞懂

C语言中的typedef,很多初学者把它当“给类型起小名”,用熟了感觉也就那么回事。真正到了维护老项目、读第三方源码、或者做嵌入式跨平台开发的时候,才发现typedef的水远比想象的深:函数指针要不要typedef、结构体要不要typedef、t…

2026/10/17 13:46:46 阅读更多 →
从手工到自动化:用OpenClaw Skill与glab改造GitLab内部协作流程的TaoToken实践

从手工到自动化:用OpenClaw Skill与glab改造GitLab内部协作流程的TaoToken实践

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/17 13:46:46 阅读更多 →
北大清华阿里联合发布OmniEcho:让具身智能体真正听懂空间声音

北大清华阿里联合发布OmniEcho:让具身智能体真正听懂空间声音

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/17 13:46:46 阅读更多 →
AI时代程序员必看:脱离大模型,你还能独立工作吗?Vibe Coding挑战与应对

AI时代程序员必看:脱离大模型,你还能独立工作吗?Vibe Coding挑战与应对

本文探讨了Vibe Coding(氛围编码)如何借助AI改变编程方式,引发对程序员核心能力的思考。文章指出,AI擅长生成代码,但复杂系统判断、风险识别仍需人类智慧。强调基础知识和底层原理的重要性,提出程序员应驾驭…

2026/10/17 13:45:46 阅读更多 →

日新闻

DeepSeek选型与部署:V3/R1、Ollama、API全攻略

DeepSeek选型与部署:V3/R1、Ollama、API全攻略

简介:《DeepSeek使用方法.pdf》是一份面向DeepSeek入门及进阶用户的完整使用指南,重点围绕V3与R1两款模型的能力差异与适用场景展开,帮助读者根据任务类型与成本选择合适的模型。资源共1个PDF文件,压缩包大小约311KB,篇…

2026/10/17 0:00:25 阅读更多 →
200+Deepseek润色指令拆解:从底层原理到场景落地的完整指南

200+Deepseek润色指令拆解:从底层原理到场景落地的完整指南

简介:这是一份聚焦DeepSeek提示词优化的《200Deepseek润色指令》PDF文档,共收录两百余条可直接套用的润色指令,涵盖语法修正、风格统一、逻辑梳理、表达精炼等维度,并针对商务写作、学术论文、广告文案等场景给出差异化建议。文档…

2026/10/17 0:00:25 阅读更多 →
OpenCV轮廓法物体计数系统:轻量、可控、可落地的工业级实现

OpenCV轮廓法物体计数系统:轻量、可控、可落地的工业级实现

简介:本资源是一份基于OpenCV的本科课程设计完整报告,面向计算机视觉初学者、图像处理学习者及高校通信/信息类专业学生,解决物体智能计数与检测结果结构化记录的实际问题。项目覆盖图像预处理、轮廓检测、边界框绘制、轨迹栏交互式参数调节、…

2026/10/17 0:00:25 阅读更多 →

周新闻

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

简介:基于 ARIMA、LSTM、Transformer 等模型的流感时间序列预测 Python 源码,面向计算机相关专业课程设计与期末大作业学生,以及项目实战学习者。内容覆盖预处理、平稳性检验、定阶、残差分析、多模型对比预测的完整时序建模流程,…

2026/10/16 21:35:51 阅读更多 →
影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别 做影刀RPA自动化,十个新手有八个栽在"往输入框里填东西"这件事上:要么填不进去,要么填了一半,要么直接把原来内容追加在后面。这背后的根因&…

2026/10/17 1:44:59 阅读更多 →
影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容 1. 认识影刀:什么场景该用RPA采小说数据 起点中文网的页面结构相对稳定——分类榜单、书籍详情、章节内容三块独立页面,跳转链路清晰。这种场景非常适合影刀自动化&#x…

2026/10/16 15:04:24 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/16 21:54:38 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/16 3:49:43 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/16 14:23:36 阅读更多 →