前言
网关核心功能是路由转发,因此不要有耗时操作在网关上处理,让请求快速转发到后端服务上。
一、Nacos 多环境配置
Nacos也提供了 Namespace (命名空间) 、Data ID (配置集ID)、 Group (组) 来确定一个配置文件(或者叫配置集)
由此,实现多环境配置的方案也有三种:
-
1、用命名空间(namespace)来区分不同的环境,一个命名空间对应一个环境;
-
2、用配置组(group)来区分不同的环境,命名空间用默认的public即可,一个组对应一种环境;
-
3、用配置集ID(Data ID)名称来区分不同的环境,命名空间和组用默认的即可,通过文件命名来区分;
1、利用 Data ID 命名 来区分环境
利用Data ID命名来区分环境,命名空间和组默认即可
在 Nacos Spring Cloud 中,dataId 的完整格式如下:
${prefix}-${spring.profiles.active}.${file-extension}-
prefix:默认为 spring.application.name 的值,也可以通过配置项spring.cloud.nacos.config.prefix来配置。
-
spring.profiles.active:即为当前环境对应的 profile,详情可以参考 Spring Boot文档。 注意:当 spring.profiles.active 为空时,对应的连接符 - 也将不存在,dataId 的拼接格式变成 ${prefix}.${file-extension}
-
file-exetension:为配置内容的数据格式,可以通过配置项 spring.cloud.nacos.config.file-extension 来配置。目前只支持 properties 和 yaml 类型。
2、利用 Group 来区分环境
项目不变,还是使用gateway-center工程,命名空间用默认的public。
启动方式:
java -Dspring.cloud.nacos.config.group=DEV_GROUP -jar gateway-center-0.0.1-SNAPSHOT.jar java -Dspring.cloud.nacos.config.group=TEST_GROUP -jar gateway-center-0.0.1-SNAPSHOT.jar java -Dspring.profiles.active=test -Dspring.cloud.nacos.config.group=TEST_GROUP -jar gateway-center-0.0.1-SNAPSHOT.jar如果是spring.profiles方式的话,这个时候,Data ID 命名就应该是 gateway-center-test.yaml
3、利用 Namespace 区分环境
创建命名空间的时候,如果不指定ID,则自动生成的id就是这样的uuid字符串,我们还是自己指定一个有意义的ID吧
在相关Namespace下创建相关配置
java -Dspring.cloud.nacos.config.namespace=spring-cloud-dev -jar gateway-center-0.0.1-SNAPSHOT.jar java -Dspring.profiles.active=dev -Dspring.cloud.nacos.config.namespace=spring-cloud-dev -jar gateway-center-0.0.1-SNAPSHOT.jar java -Dspring.cloud.nacos.config.namespace=spring-cloud-test -jar gateway-center-0.0.1-SNAPSHOT.jar java -Dspring.profiles.active=test \ -Dspring.cloud.nacos.config.namespace=spring-cloud-test \ -Dspring.cloud.nacos.config.group=TEST_GROUP \ -jar gateway-center-0.0.1-SNAPSHOT.jar小结:
- 1、用Namespace区分环境,采用spring.profiles机制创建dataId配置文件,而且Namespace有利于做权限控制。
- 2、上面介绍的Nacos 多环境配置方式支持动态刷新。
注意:在spring-cloud-dependencies的Hoxton.SR12版本和spring-cloud-alibaba-dependencies的2.2.6.RELEASE版本中,gateway集成Nacos config配置中心后,gateway可以动态的从Nacos config获取配置文件的变化,并更新到本地缓存,并对路由转发生效。
Nacos Config shared-configs配置方式
利用Nacos Config 的shared-configs配置集的refresh属性可以进行配置的动态刷新(包括路由配置)
spring: application: name: service-product cloud: nacos: config: server-addr: 127.0.0.1:8848 # Nacos配置中心的地址 file-extension: yaml # 配置的格式 #新版本配置方式 可以配置多个 shared-configs[0]: data_id: all-service.yaml # 要引入的配置 group: DEFAULT_GROUP # 可以不写,默认值为DEFAULT_GROUP refresh: true # 默认是false,如果需要支持自动刷新需要配置true,搭配@RefreshScope实现动态刷新 #老版本配置方式 #shared-dataids: all-service.yaml # 要引入的配置 #refreshable-dataids: all-service.yaml # 动态刷新时也刷新引入的配置 profiles: active: test # 环境标识Nacos Config extension-configs配置方式配置方式
利用Nacos Config 的extension-configs配置集的refresh属性可以进行配置的动态刷新(包括路由配置)
spring: application: name: service-product cloud: nacos: config: server-addr: 127.0.0.1:8848 # Nacos配置中心的地址 file-extension: yaml # 配置的格式 #新版本配置方式 可以配置多个 extension-configs[0]: data_id: service.yaml # 要引入的配置 group: DEFAULT_GROUP # 可以不写,默认值为DEFAULT_GROUP refresh: true # 默认是false,如果需要支持自动刷新需要配置true,搭配@RefreshScope实现动态刷新 extension-configs[1]: data_id: rocketmq.yaml # 要引入的配置 group: DEFAULT_GROUP # 可以不写,默认值为DEFAULT_GROUP refresh: true # 默认是false,如果需要支持自动刷新需要配置true,搭配@RefreshScope实现动态刷新 profiles: active: test # 环境标识总结:
- 1、extension-configs配置也可以实现共享配置,优先级高于 shared-configs。gateway-center-test.yaml优先级最高。
- 2、shared-configs优先级,[0] < [1]。
二、Spring Cloud GateWay整合Nacos Config实现动态路由
Spring Cloud GateWay作为所有微服务请求的入口,路由规则的静态设置是满足不了生产环境的需求的,所以实现动态路由是非常有必要的。
动态路由实现原理
- 1、路由信息不再配置在配置文件中,将路由信息配置在Nacos config的配置中。
- 2、在服务网关Spring Cloud Gateway中开启监听,监听Nacos配置文件的修改。
- 3、Nacos配置文件一旦发生改变,则Spring Cloud Gateway重新刷新自己的路由信息。
引入maven依赖
<parent> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-parent</artifactId> <version>2.3.12.RELEASE</version> <relativePath/> <!-- lookup parent from repository --> </parent> <dependencies> <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-gateway</artifactId> </dependency> <dependency> <groupId>com.alibaba.cloud</groupId> <artifactId>spring-cloud-starter-alibaba-nacos-config</artifactId> </dependency> <dependency> <groupId>com.alibaba.cloud</groupId> <artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId> </dependency> </dependencies> <dependencyManagement> <dependencies> <!--整合Spring Cloud--> <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-dependencies</artifactId> <version>Hoxton.SR12</version> <type>pom</type> <scope>import</scope> </dependency> <!--整合Spring Cloud Alibaba--> <dependency> <groupId>com.alibaba.cloud</groupId> <artifactId>spring-cloud-alibaba-dependencies</artifactId> <version>2.2.6.RELEASE</version> <type>pom</type> <scope>import</scope> </dependency> </dependencies> </dependencyManagement>增加系统级引导配置bootstrap.yaml
server: port: 8081 spring: application: name: gateway-center profiles: active: dev --- # 开发环境 spring: profiles: dev cloud: nacos: discovery: server-addr: 127.0.0.1:8848 namespace: 784ade72-a3f0-4802-8c44-287376030069 config: server-addr: 127.0.0.1:8848 namespace: 784ade72-a3f0-4802-8c44-287376030069 file-extension: yaml # 支持多个共享dataId的配置,优先级小于extension-configs,shared-configs是一个集合 shared-configs[0]: # redis RrocketMQ等通用配置可以定义在这个里面 dataId: gateway-common.yaml # 配置文件名dataId group: DEFAULT_GROUP # 默认为DEFAULT_GROUP refresh: true # 是否动态刷新,默认为false --- # 测试环境 spring: profiles: test cloud: nacos: discovery: server-addr: 127.0.0.1:8848 namespace: c3fdf801-38c6-4dfb-a412-c11b9d64025d config: server-addr: 127.0.0.1:8848 namespace: c3fdf801-38c6-4dfb-a412-c11b9d64025d file-extension: yaml shared-configs[0]: dataId: gateway-common.yaml group: DEFAULT_GROUP refresh: true在Nacos Config中创建配置文件
1、 创建gateway-center-dev.yaml文件
该文件中可以配置gateway路由策略,gateway路由策略发生变化可动态更新到gateway-center服务。
spring: cloud: gateway: routes: - id: auth-center uri: lb://auth-center predicates: - Path=/oauth/** - id: product-center uri: lb://product-center predicates: - Path=/product/** - id: order-center uri: lb://order-center predicates: - Path=/order/** - id: user-center uri: lb://user-center predicates: - Path=/user/**2、 创建gateway-common.yaml文件
-
利用Nacos的extension-configs或shared-configs的共享配置机制,配合使用refresh: true进行配置的动态刷新。
-
该文件中可以配置gateway路由策略,gateway路由策略发生变化可动态更新到gateway-center服务。
三、Spring Cloud GateWay + Nacos Config实现灰度发布(reactive版)
应用程序升级面临最大挑战是新旧业务切换,将软件从测试的最后阶段带到生产环境,同时要保证系统不间断提供服务。
互联网大厂产品发布的策略
- 蓝绿发布
- 金丝雀发布
- 灰度发布
- A/B测试
蓝绿发布(Blue-Green Deployment)
通过部署两套环境来解决新老版本的发布问题。如果新版本( New Version )发生问题要进行回滚的时候,直接通过切流将流量全部切到老版本( Old Version )上。
项目逻辑上分为AB组,在项目系统时,首先把A组从负载均衡中摘除,进行新版本的部署。B组仍然继续提供服务。
当A组升级完毕,负载均衡重新接入A组,再把B组从负载列表中摘除,进行新版本的部署。A组重新提供服务。 最后,B组也升级完成,负载均衡重新接入B组,此时,AB组版本都已经升级完成,并且都对外提供服务。
特点
- 如果出问题,影响范围较大。
- 发布策略简单。
- 用户无感知,平滑过渡。
- 升级/回滚速度快。
- 升级切换和回退比发布回滚迅速。
缺点
- 需要准备正常业务使用资源的两倍以上服务器,防止升级期间单组无法承载业务突发;
- 短时间内浪费一定资源成本;
- 基础设施无改动,增大升级稳定性。
蓝绿发布在早期物理服务器时代,还是比较昂贵的,由于云计算普及,成本也大大降低。
金丝雀发布( Canary Release )
金丝雀发布也叫灰度发布,它和滚动发布很像,但是服务的替换是用流量这个维度来做替换的而不是节点这个维度。所以金丝雀发布抽象程度更高。
结合一些业界先进的工具,其实可以做到在不增加机器的情况下流量的平滑过渡,稳定回滚,替换期健康指标检查,替换前后条件核验等,是最推荐的方案。
-
优点:灵活,策略自定义,可以按照流量或具体的内容进行灰度(比如不同账号,不同参数),出现问题不会影响全网用户。
-
缺点:没有覆盖到所有的用户导致出现问题不好排查。
灰度发布
阿里巴巴内部有安全生产三板斧概念:可灰度、可观测、可回滚。所有研发同学必须要掌握发布系统的灰度、观测和回滚功能如何使用。
灰度发布只升级部分服务,即让一部分用户继续用老版本,一部分用户开始用新版本,如果用户对新版本没什么意见,那么逐步扩大范围,把所有用户都迁移到新版本上面来。
灰度发布(又名金丝雀发布)是指在黑与白之间,能够平滑过渡的一种发布方式。在其上可以进行A/B testing,即让一部分用户继续用产品特性A,一部分用户开始用产品特性B,如果用户对B没有什么反对意见,那么逐步扩大范围,把所有用户都迁移到B上面来。灰度发布可以保证整体系统的稳定,在初始灰度的时候就可以发现、调整问题,以保证其影响度。
特点
- 保证整体系统稳定性,在初始灰度的时候就可以发现、调整问题,影响范围可控。
- 新功能逐步评估性能,稳定性和健康状况,如果出问题影响范围很小,相对用户体验也少。
- 用户无感知,平滑过渡。
缺点
- 自动化要求高。
部署过程
- 从LB摘掉灰度服务器,升级成功后再加入LB。
- 少量用户流量到新版本。
- 如果灰度服务器测试成功,升级剩余服务器。
灰度发布是通过切换线上并存版本之间的路由权重,逐步从一个版本切换为另一个版本的过程。
滚动发布( Rolling Release )
滚动发布是指每次只升级一个或多个服务,升级完成后加入生产环境,不断执行这个过程,直到集群中的全部旧版本升级新版本。
- 红色:正在更新的实例
- 蓝色:更新完成并加入集群的实例
- 绿色:正在运行的实例
特点
- 用户无感知,平滑过渡。
- 节约资源。
缺点
- 部署时间慢,取决于每阶段更新时间。
- 发布策略较复杂。
- 无法确定OK的环境,不易回滚。
部署过程
- 先升级1个副本,主要做部署验证。
- 每次升级副本,自动从LB上摘掉,升级成功后自动加入集群。
- 事先需要有自动更新策略,分为若干次,每次数量/百分比可配置。
- 回滚是发布的逆过程,先从LB摘掉新版本,再升级老版本,这个过程一般时间比较长。
- 自动化要求高。
A/B测试
首先需要明确的是,A/B测试和蓝绿发布、金丝雀发布、灰度发布等,完全是两回事。
蓝绿部署、金丝雀和灰度发布是发布策略,目标是确保新上线的系统稳定,关注的是新系统的BUG、隐患。
A/B测试是效果测试,同一时间有多个版本的服务对外服务,这些服务都是经过足够测试,达到了上线标准的服务,有差异但是没有新旧之分(它们上线时可能采用了蓝绿部署的方式)。
A/B测试关注的是不同版本的服务的实际效果,譬如说转化率、订单情况等。
A/B测试时,线上同时运行多个版本的服务,这些服务通常会有一些体验上的差异,譬如说页面样式、颜色、操作流程不同。相关人员通过分析各个版本服务的实际效果,选出效果最好的版本。
在A/B测试中,需要能够控制流量的分配,譬如说,为A版本分配10%的流量,为B版本分配10%的流量,为C版本分配80%的流量。
灰度发布(金丝雀发布( Canary Release ))
- 在Nacos Config配置中心对GateWay的路由策略进行更改,设置权重。
参考: https://www.cnblogs.com/cjsblog/p/14007311.html
https://www.imooc.com/article/305891
https://blog.csdn.net/weixin_44141495/article/details/110160186
https://blog.csdn.net/qq_43437874/article/details/108433054
https://www.cnblogs.com/nulige/articles/10929182.html
https://www.sohu.com/a/376736675_99953378
https://blog.csdn.net/lijiaocn/article/details/84276591