Nacos高可用集群搭建：MySQL持久化与生产环境实践

1. 从单机到集群为什么Nacos的持久化绕不开MySQL很多人第一次接触Nacos都是被它的开箱即用吸引的——下载压缩包解压执行启动脚本一个注册中心和配置中心就跑起来了。单机模式下Nacos默认使用内嵌的Derby数据库数据落在本地文件里重启不丢看起来挺美好。但只要你的服务规模稍微上去一点或者你打算把Nacos真正用到生产环境这套单机方案就会暴露出两个致命问题。第一个问题是数据孤岛。Derby是嵌入式数据库每个Nacos节点各存各的数据。你搭两台Nacos做集群节点A注册的服务节点B根本不知道节点A写入的配置节点B读不到。集群节点之间数据不一致服务发现和配置推送直接失效。第二个问题是扩展性天花板。Derby不支持高并发写入当注册的服务实例上千、配置项频繁变更时写入性能会急剧下降甚至出现锁等待。所以Nacos官方给出的集群方案非常明确集群模式必须外置存储且只支持MySQL这里说的是主流稳定版本后续版本对存储层有扩展但MySQL仍是生产首选。这个设计决策背后的逻辑是把数据一致性这个难题交给成熟的关系型数据库去解决Nacos节点本身变成无状态的任意节点宕机都不影响整体可用性。我见过不少团队踩的坑是单机跑得好好的直接复制三份改改端口就当成集群用了结果服务注册上去一会儿有一会儿没有排查半天才发现是Derby在作祟。所以这篇文章的核心就是把Nacos高可用集群 MySQL持久化这条链路彻底讲透从数据库初始化、集群配置、负载均衡到生产环境的坑一步步带你搭出一套能扛住真实流量的注册配置中心。适合已经用过Nacos单机、准备上生产集群的开发和运维同学。2. 搭建前的环境盘点与MySQL初始化细节2.1 节点规划与版本选择的取舍在动手之前先把环境规划清楚这步偷懒后面必还债。一套最小可用的高可用Nacos集群建议至少3个Nacos节点。为什么是3而不是2因为Nacos集群内部通过Raft协议做一致性协调针对部分元数据Raft要求多数派存活才能正常工作3节点允许挂1台2节点挂1台就失去多数派了。所以3是性价比最高的起点。节点规划上我一般这样安排角色数量说明Nacos节点3部署在不同物理机或虚拟机上避免同宿主机MySQL1主1从 或 1台高配生产建议主从测试可单台负载均衡1Nginx或云负载均衡对外暴露统一入口版本选择上有个经验Nacos服务端版本和客户端版本尽量保持大版本一致。比如服务端用2.2.x客户端也尽量用2.2.x。跨大版本比如服务端2.x、客户端1.x虽然官方说兼容但实际遇到过配置监听失效、gRPC连接异常等问题。MySQL建议5.7或8.0字符集统一用utf8mb4排序规则用utf8mb4_general_ci避免中文配置项乱码。2.2 建库建表别小看那个SQL文件MySQL准备好之后第一件事是创建Nacos专用的数据库和用户。这里有个细节很多人忽略不要用root账号连Nacos。生产环境应该单独建一个账号只授予nacos库的权限最小权限原则。CREATE DATABASE nacos_config DEFAULT CHARACTER SET utf8mb4 COLLATE utf8mb4_general_ci; CREATE USER nacos% IDENTIFIED BY 你的强密码; GRANT ALL PRIVILEGES ON nacos_config.* TO nacos%; FLUSH PRIVILEGES;建表用的SQL文件在Nacos安装包的conf目录下叫mysql-schema.sql。直接导入即可mysql -u nacos -p nacos_config mysql-schema.sql导入后你会看到十几张表核心的几张是config_info配置信息、config_info_beta灰度配置、his_config_info配置历史、tenant_info命名空间。这里要提醒一句不同Nacos版本的schema文件有差异比如2.x版本增加了config_info_gray等表。一定要用你当前Nacos版本自带的SQL文件不要从网上随便抄一份否则启动时会报表不存在或字段缺失。2.3 数据库连接池的参数预判Nacos连MySQL用的是Druid连接池配置在application.properties里。默认配置在测试环境够用但生产环境要调。关键参数有这么几个db.pool.config.initialSize初始连接数默认0建议设为5db.pool.config.minIdle最小空闲连接默认0建议5db.pool.config.maxActive最大活跃连接默认203节点集群每个节点20MySQL的max_connections要能扛住db.pool.config.maxWait获取连接超时默认5000ms高并发下可适当调大算一笔账3个Nacos节点每个maxActive20理论上MySQL最多承受60个来自Nacos的连接。如果MySQL的max_connections是默认的151还要留给其他应用就有点紧张了。所以要么调大MySQL的max_connections要么把Nacos的maxActive降到10-15。这个账不算清楚高峰期就会出现获取数据库连接超时进而导致配置推送失败。3. 集群配置文件的三处关键改动3.1 cluster.conf集群成员清单Nacos集群的第一处配置是conf/cluster.conf。这个文件列出集群所有节点的IP和端口格式是ip:port一行一个192.168.1.101:8848 192.168.1.102:8848 192.168.1.103:8848这里有个大坑必须写IP不能写localhost或127.0.0.1。因为集群节点之间要互相通信如果写localhost每个节点都以为只有自己集群根本组不起来。另外这个文件里的IP必须是节点之间能互相ping通的真实内网IP。我遇到过用Docker部署时写了容器名结果节点间解析不了集群一直处于单机模式。还有一个细节cluster.conf的端口要和application.properties里的server.port一致。如果你改了Nacos的默认端口8848这里也要同步改否则节点间通信会连错端口。3.2 application.properties数据源与集群开关这是最核心的配置文件。需要改的地方集中在数据源部分spring.datasource.platformmysql db.num1 db.url.0jdbc:mysql://192.168.1.200:3306/nacos_config?characterEncodingutf8connectTimeout1000socketTimeout3000autoReconnecttrueuseUnicodetrueuseSSLfalseserverTimezoneAsia/Shanghai db.user.0nacos db.password.0你的强密码几个参数值得展开说useSSLfalse内网通信可以关掉SSL减少握手开销。如果MySQL强制SSL就改成true并配置证书。serverTimezoneAsia/ShanghaiMySQL 8.0必须配时区否则连接报错。5.7如果没配也可能有时区问题。autoReconnecttrue网络抖动后自动重连生产建议开。db.num1表示只有一个数据库实例。如果做了主从这里可以配多个但Nacos本身不做读写分离配多个主要是故障切换。另外集群模式下不需要改nacos.standalone这个参数因为Nacos是通过cluster.conf是否存在来判断集群模式的。但有些版本需要显式设置nacos.core.member.lookup.type默认是file即读cluster.conf。3.3 JVM参数别让默认堆内存拖后腿Nacos启动脚本默认的JVM参数是-Xms2g -Xmx2g对小内存机器不友好对大流量又可能不够。生产环境建议根据节点规格调整。在bin/startup.sh里找到JAVA_OPT相关配置或者通过环境变量覆盖。我的经验值4核8G的节点堆内存设4G比较稳妥2核4G的节点设2G。同时加上GC日志方便排查JAVA_OPT${JAVA_OPT} -Xms4g -Xmx4g -Xmn2g JAVA_OPT${JAVA_OPT} -XX:UseG1GC -XX:MaxGCPauseMillis200 JAVA_OPT${JAVA_OPT} -Xloggc:${BASE_DIR}/logs/gc.log用G1GC是因为Nacos在配置推送频繁时会产生不少临时对象G1的停顿控制比CMS好。这个不是必须但生产环境值得配。4. 启动顺序、负载均衡与验证集群真的成了4.1 启动顺序有讲究三个节点配置改好后启动顺序其实没有严格要求但建议先确保MySQL可用再逐个启动Nacos。启动命令sh bin/startup.sh -m cluster注意-m cluster这个参数虽然Nacos能自动识别但显式指定更稳妥。启动后看日志logs/start.out出现Tomcat started on port(s): 8848和Nacos started successfully in cluster mode才算成功。三个节点都启动后别急着高兴先验证集群状态。访问任意节点的/nacos/v1/ns/operator/servers接口或者直接看控制台的集群管理页面应该能看到三个节点且每个节点的状态都是UP。如果只看到一个节点或者状态是DOWN说明cluster.conf或网络有问题。4.2 Nginx负载均衡配置对外不能直接暴露三个Nacos地址让客户端轮询要用负载均衡统一入口。Nginx配置示例upstream nacos_cluster { server 192.168.1.101:8848; server 192.168.1.102:8848; server 192.168.1.103:8848; } server { listen 8848; server_name nacos.example.com; location / { proxy_pass http://nacos_cluster; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; } }这里有个关键点Nacos 2.x增加了gRPC通信端口偏移1000即9848如果客户端用2.x版本除了8848的HTTP端口还需要转发9848的gRPC端口。很多人在Nginx只配了8848结果客户端连不上报client not connected。解决办法是在Nginx里再加一个stream块转发9848或者用四层负载均衡。4.3 验证数据真的落到了MySQL集群起来后做一次真实写入验证。在控制台新建一个配置然后去MySQL里查SELECT data_id, group_id, content FROM config_info WHERE data_idtest-config;能查到说明持久化生效了。再停掉一个Nacos节点往另一个节点写配置看MySQL里是否更新其他节点是否能读到。这个停一个、写一个、读全部的测试是验证高可用的标准动作。5. 生产环境踩过的坑与性能调优5.1 时间同步集群的隐形杀手Nacos集群节点之间的时间必须同步误差不能超过秒级。因为Raft协议和心跳机制依赖时间戳如果节点时间差太大会出现leader选举失败心跳超时等诡异问题。我遇到过一台虚拟机时间慢了5分钟导致该节点一直被踢出集群。解决办法很简单所有节点配置NTP时间同步确保时间一致。5.2 数据库连接数被打满的排查前面提过连接池参数这里说一个真实场景某次大促前配置推送频繁Nacos日志出现大量wait millis 5000, active 20, maxActive 20。这是典型的连接池耗尽。排查思路先看MySQL的show processlist确认是不是Nacos占满了连接检查是否有慢查询比如config_info表数据量过大导致查询慢适当调大maxActive同时优化MySQL索引config_info表默认有data_id和group_id的联合索引但如果你的配置项特别多几十万条查询还是会慢。可以考虑定期归档历史配置或者分库分表Nacos本身不支持需要改源码不推荐。5.3 配置灰度发布的注意事项Nacos支持配置的灰度发布beta发布这个功能依赖config_info_beta表。灰度发布时只有指定IP的客户端能拿到新配置。但要注意灰度配置不会自动同步到正式配置需要手动发布才能全量生效。我见过有人灰度测试完忘了发布结果以为配置没生效排查半天。另外灰度发布在集群模式下beta数据也是存MySQL的所以多节点看到的是同一份灰度配置这点不用担心。5.4 客户端缓存的坑Nacos客户端会在本地缓存一份配置路径在~/nacos/config。这个缓存的作用是当Nacos服务端全部挂掉时客户端还能用本地缓存启动。但这也带来一个问题如果你在服务端删了配置客户端本地缓存还在可能导致应用读到已删除的配置。解决办法是删除配置后客户端需要重启或手动清理缓存。生产环境建议配置变更走新增版本而不是直接删除。6. 从可用到可靠监控与日常维护建议6.1 必须监控的几个指标集群搭起来只是开始能不能稳定跑下去靠的是监控。Nacos暴露了Prometheus格式的指标建议接入监控系统。核心指标指标含义告警阈值建议nacos_monitor{nameconfigCount}配置总数突增突降告警nacos_monitor{nameserviceCount}服务数突降告警db_pool_active活跃连接数持续80% maxActivejvm_memory_used堆内存使用持续85%除了指标日志也要监控。重点看logs/nacos.log里的ERROR和WARN特别是leader election和db相关的关键字。6.2 备份策略MySQL是命根子既然数据都在MySQL那MySQL的备份就是Nacos的命根子。建议每天全量备份nacos_config库binlog保留至少7天。恢复演练也要定期做别等真出事了才发现备份文件是坏的。我一般用mysqldump做逻辑备份mysqldump -u nacos -p --single-transaction --routines --triggers nacos_config nacos_config_$(date %Y%m%d).sql--single-transaction保证备份时不加锁不影响线上写入。6.3 扩容与缩容的操作要点业务增长后要扩容Nacos节点操作其实很简单新节点配好cluster.conf包含所有节点包括自己启动即可。但要注意cluster.conf是静态文件新增节点后老节点的cluster.conf也要更新否则老节点不知道新节点的存在。更新后需要重启老节点或者Nacos 2.x支持动态刷新部分版本具体看版本说明。缩容则要谨慎先从负载均衡摘除要下线的节点等一段时间让客户端重新连接其他节点再停服务。直接kill会导致正在连接的客户端短暂报错。6.4 一个容易被忽略的细节命名空间与分组规划最后说个规划层面的经验。很多团队一开始不规划命名空间namespace和分组group所有配置都堆在public下后期混乱不堪。建议按环境dev/test/prod划分命名空间按业务模块划分group。这样不仅清晰而且权限控制也好做——Nacos支持按命名空间授权。这个规划要在搭建初期就定好后期迁移成本很高。整套集群搭下来核心就三件事MySQL持久化保证数据不丢cluster.conf保证节点互认负载均衡保证入口统一。剩下的都是围绕稳定性做的加固。我自己的体会是Nacos本身不复杂复杂的是生产环境的各种边界情况——时间不同步、连接池耗尽、缓存不一致这些才是真正考验运维功底的地方。把监控和备份做扎实比任何调优参数都管用。