Akira
发布于

搭建具备灰度发布能力的技术架构

一、为什么需要具备灰度发布能力?

随着微服务架构的普及,服务数量激增,版本更新频繁,如果缺少灰度的能力,容易对现有的生产运行业务造成影响,并且新上线的系统和功能也需要灰度的能力来验证可行性和效果,简而言之,无论是对于系统运行稳定安全还是对于验证业务效果,灰度发布/验证的能力都是现代软件架构所必须的。

二、现代应用发布有哪些模式?

1、蓝绿发布

  • 定义
    蓝绿发布,是在生产环境稳定集群之外,额外部署一个与稳定集群规模相同的新集群,并通过流量控制,逐步引入流量至新集群直至 100%,原先稳定集群将与新集群同时保持在线一段时间,期间发生任何异常,可立刻将所有流量切回至原稳定集群,实现快速回滚。直到全部验证成功后,下线旧集群,流量全部切换到新的集群。
  • 优点
    老版本应用不需要停机,可以实现快速回退。
  • 缺点
    需要两倍的机器资源用于部署相同规模的集群。

2、滚动发布

  • 定义
    取出应用集群中的一个或者多个应用实例停止服务并进行新版本的更新,然后将新版本投入使用,通过逐个替换实例来逐步部署新版本的应用,直到所有实例都被替换完成为止。例如第一批次 10% 的实例更新版本,第二批次 30% 的实例更新版本,最后一批次 60% 的实例更新版本。一般来说前面的批次需要比较长的验证时间,在验证通过风险降低以后逐步放大更新的比例。滚动发布期间,新旧版本共存。
  • 优点
    用户体验平滑、自动化程度高,无需额外的资源投入。
  • 缺点
    由于滚动更新的过程一般分成多个批次,需要等待验证的时间间隔较长,发布和回退的时间比较长;按照批次更新,需要平滑的流量过度机制,发布工具复杂。

3、灰度发布

  • 定义
    灰度发布(又名金丝雀发布)是指在黑与白之间,能够平滑过渡的一种发布方式。在其上可以进行 A/B testing,即让一部分用户继续用产品特性 A,一部分用户开始用产品特性 B,如果用户对 B 没有什么反对意见,那么逐步扩大范围,把所有用户都迁移到 B 上面来。与蓝绿发布有明显区别的是蓝绿发布需要两倍的机器资源,其主要目的在于安全的发布应用,而灰度发布的目的在于小流量的测试来获得一定的验证结论。
    金丝雀发布名称的由来:17 世纪,英国矿井工人发现金丝雀对于瓦斯十分敏感,于是下井时都会带上一只金丝雀作为瓦斯危险程度的提示指标。
    一般情况下,灰度发布是额外部署一个金丝雀的服务实例为新版本,如果验证金丝雀实例验证通过,则一次性更新其他的版本,发布期间新旧版本共存。
  • 优点
    部署新的金丝雀版本进行验证,对于用户体验影响较小,只影响灰度部分的用户流量,资源的损耗比较小。
  • 缺点
    占用少量的资源。

搭建具备灰度发布能力的技术架构

三、前端应用的灰度发布

1、使用 nginx upstram 或者 split_clients
使用 nginx upstram 模块或者或者 split_clients 模块实现前端应用按照一定的比例进行分流,从而实现灰度,具体可以参考文章:使用 nginx split_clients 实现 A/B 测试

  • 优点
    路由配置简单,不引入新的组件。
  • 缺点
    配置不够灵活,逐步调整灰度的比例时需要人工介入,分流和发布流程割裂。

2、开源组件 ABTestingGateway
ABTestingGateway 是一个可以动态设置分流策略的灰度发布系统,工作在 7 层负载,基于 nginx 和 ngx-lua 开发,使用 Redis 作为分流策略数据库,可以实现动态分流调度功能。

搭建具备灰度发布能力的技术架构

  • 优点
  1. 支持多种分流方式,目前包括 iprange、uidrange、uid 尾数和指定 uid 分流
  2. 动态设置分流策略,即时生效,无需重启
  3. 可扩展性,提供了开发框架,开发者可以灵活添加新的分流方式,实现二次开发
  4. 高性能,压测数据接近原生 nginx 转发
  5. 灰度系统配置写在 nginx 配置文件中,有页面可以方便管理员配置
  6. 适用于多种场景:灰度发布、AB 测试和负载均衡等
  • 缺点
  1. 引入了新的组件,包括 nginx-lua 和 Redis,架构变得复杂,维护起来比较困难。
  2. 分流和发布流程割裂。

3、由服务端进行灰度决策返回前端资源
灰度策略保存在服务后端,每次请求发往后端,由后端应用根据策略决策返回不同版本的对应的前端资源,这种方式需要独立开发后端的策略配置服务,并且前后端耦合比较高。

  • 优点
    可以灵活地进行配置,可以配置多版本并行。
  • 缺点
    不适用于前后端分离的应用,分流和发布流程割裂。

四、后端应用的灰度发布

  1. 使用 nginx upstram 或者 split_clients
    同前端应用分流类似,可以使用 nginx 的负载均衡或者客户端分流模块进行分流。
  2. 使用 API 网关实现灰度
    可以在 API 网关编写 filter,在 filter 中根据一定的策略进行分流转发,例如根据用户 id、根据请求头参数、url 参数等,在 Spring cloud 体系中一般是基于 ribbon 进行转发。
  3. Spring Cloud Gray 组件
    Spring Cloud Gray 是一套开源的微服务灰度路由解决方案,是面向于 Spring cloud 体系架构的,它抽象出了 spring-cloud-gray-webui 提供策略配置页面,spring-cloud-gray-server 负责灰度决策、灰度追踪等信息的管理以及持久化,spring-cloud-gray-client 定义了一套灰度路由决策模型,灰度信息追踪模型,以及和 spring-cloud-gray-server 的基本通信功能。
    Spring cloud gray 组件既可以支持灰度发布,还可以支持蓝绿发布。

搭建具备灰度发布能力的技术架构

整体架构如上所示,webui 提供策略配置,client 端从 admin 获取灰度策略,从注册中心获取到所有的服务实例,根据灰度策略进行灰度分流。

搭建具备灰度发布能力的技术架构

Spring cloud gray 类似的方案整体比较完善,有对应的平台可以进行方便的操作,也支持比较细力度的灰度流程,需要比较关注的是引入了一整套的灰度发布的平台,需要多出额外的维护成本,并且一般情况下公司内部都会有自己的发布系统,比较难直接引入在发布流程中使用,这也是上面一直提到的发布和灰度流程割裂的情况,从组件不耦合的角度来看,灰度组件独立是很好的,但也有不少的公司是希望能够结合发布系统在统一的流程管理里面去实现灰度的发布和验证,这也是比较好理解的。针对这种情况建议有条件的可以根据 Spring cloud gray 的实现方案进行内部开发。

五、预发布/沙箱灰度发布

以上的各类方案都是针对前端、后端应用的单独灰度发布方案,在底层数据库结构变更等场景下也不适用,无法实现全流程的灰度,在有条件的情况下,建议搭建独立预发布/沙箱环境,从前端入口、静态资源、后端应用、数据库等全面部署一整套全新的环境,此环境数据库可以通过一些数据库迁移工具如 canal 等进行数据迁移同步,保证底层数据的一致性,从而可以进行比较全面的灰度发布验证。

1.蓝绿发布:旧版本不改变,再搭建新版本,机器数量是原本两倍,逐步引入流量至新机器集群直至 100%。
2.滚动发布:旧版本按批次替换成新版本,总体机器数量保持不变。
3.灰度发布(又名金丝雀发布):如果硬要跟以上两个发布放一起比较,可这样理解,灰度发布是旧版本替换成两个新版本,A 和 B 版本,然后比较 A 和 B 版本哪个更好,最后决定把旧版本全部替换成最终更好的那个版本。

评论(2)