云原生技术范式颠覆

——从Spring Cloud到

Service Mesh框架重构之路

神州信息

徐超

郭总在《数字化的力量》一书提到过：

数字化时代的新技术范式最典型的特征是以云原生为核心，以大数据、物联网、云计算、可穿戴设备、区块链、人工智能等多种数字技术为通用技术。与一百多年前的电力技术、两百多年前的蒸汽机技术一样，这种新技术范式所包含的一系列通用技术正日益渗透到经济、社会和生活的各个角落，广泛应用于传统产业的各个领域。

郭为.数字化的力量[M]. 北京：机械工业出版社，2022.

作为新一代微服务架构体系，Service Mesh技术有效地解决了Spring Cloud微服务架构和服务治理过程中的痛点问题，一经推出便引起了很大的反响。近几年来，伴随着云原生的热火朝天，Service Mesh被推向了巅峰，从陌生走向大家的视界。对于初创企业或全新产品，选择 Service Mesh变得相对轻松很多，毕竟不存在迁移的问题。但对于大部分企业或成熟的产品体系，这样大的架构转型就变得很难以实施，需要多加权衡利弊，面对Service Mesh带来的好处，不得不迫使向它靠拢。

目前很多企业或产品还是采用基于SDK的传统微服务框架（例如，Dubbo、Spring Cloud等）进行服务治理，而随着Service Mesh的普及，越来越多的企业开始布局自己的Service Mesh框架体系，但多数企业刚开始不会激进地将所有业务迁移至Serivice Mesh，毕竟这样风险太大、收益太慢。像Java技术栈应用依然保留原框架，而非Java技术栈应用采用Service Mesh框架，不同开发语言可以用不同的技术框架，但业务不能被框架割裂，那么在这两种架构体系下应用服务如何互联互通？微服务如何统一治理？传统微服务又如何平滑迁移至Service Mesh呢？

如何解决上述问题呢？今天我们就针对构建基于Spring Cloud向Service Mesh框架迁移过程中的诸多问题展开讨论，尽可能提供一套完善的解决方案和迁移思路，供大家参考。

01.背景

微服务是一个很大的概念，不同人对它的理解都各不相同，甚至在早期微服务架构中出现了一批四不像的微服务架构产品，有人把单纯引入Spring Boot、Spring Cloud框架也叫做微服务架构，实际上却只是将它作为服务的Web运行环境而已。

微服务纷纷落地，并投入生产，但随着微服务规模的不断壮大，每增加一个微服务，就可能会增加一些依赖的基础设施和第三方的配置，比如Kafka实例配置等，相应CI/CD的配置也会增加或调整。同时随着微服务数量增多、业务复杂性的提升及需求的多样性等（如，对接第三方异构系统等），服务间通信的错综复杂，一步步地将微服务变得更加臃肿，服务治理也是难上加难，而这些问题在单体架构中却是很容易解决。为此，有人开始怀疑当初微服务化是否是明智之选，甚至考虑回归到传统单体应用。

正如下图所示，PPT中的微服务总是美好的，但现实中的微服务却是一团糟糕，想甩甩不掉，越看越糟心。难道就没有办法了么？

1.1

传统微服务架构面临的挑战

面对上述暴露出的问题，并在传统微服务架构下，经过实践的不断冲击，面临了更多新的挑战，综上所述，产生这些问题的原因有以下这几点：

● 过于绑定特定技术栈。当面对异构系统时，需要花费大量精力来进行代码的改造，不同异构系统可能面临不同的改造。

● 代码侵入度过高。开发者往往需要花费大量的精力来考虑如何与框架或 SDK结合，并在业务中更好的深度融合，对于大部分开发者而言都是一个高曲线的学习过程。

● 多语言支持受限。微服务提倡不同组件可以使用最适合它的语言开发，但是在Spring Cloud框架下就是Java的天下，多语言的支持难度很大。这也就导致在面对异构系统对接时的无奈，或退而求其次的方案。

● 老旧系统维护难。面对老旧系统，很难做到统一维护、治理、监控等，在过度时期往往需要多个团队分而管之，维护难度加大。

上述这些问题都是在所难免，众所周知技术演进来源于实践中不断的摸索，将功能抽象、解耦、封装、服务化。随着传统微服务架构暴露出的这些问题，将迎来新的挑战、新的机遇，让大家纷纷寻找其他解决方案。

1.2

迎来新一代微服务架构

为了解决传统微服务面临的问题，以应对全新的挑战，微服务架构也进一步演化，最终催生了Service Mesh的出现，迎来了新一代微服务架构。为了更好地理解Service Mesh的概念和存在的意义，我们来回顾一下这一演进过程。

1.2.1 耦合阶段

在微服务架构中，服务发现、熔断、治理等能力是微服务架构重要的组成部分。微服务化之后，服务更加的分散，复杂度变得更高，起初开发者将诸如熔断、超时等功能和业务代码封装在一起，使服务具备了网络控制能力，如下图所示：

这种方案虽然易于实现，但从设计角度来讲却存在一定的缺陷。

● 基础设施功能（如，服务发现，负载均衡、熔断等）和业务逻辑高度耦合。

● 每个微服务都重复实现了相同功能的代码。

● 管理困难。如果某个服务的负载均衡发生变化，则调用它的相关服务都需要更新变化。

● 开发者不能集中精力只关注于业务逻辑开发。

1.2.2 公共库SDK

基于上面存在的问题，便想到将基础设施功能设计为一个公共库SDK，让服务的业务逻辑与这些功能分离，降低耦合度，提高重复利用率，使得开发者只需要关注公共库SDK的依赖及使用，不必关注实现这些公共功能，从而更加专注于业务逻辑的开发，比如Spring Cloud框架是类似的方式。如下图所示：

实际上即便如此，它仍然有一些不足之处。

● 这些公共库SDK存在较为陡峭的学习成本，需要耗费开发人员一定的时间和人力与现有系统集成，甚至需要考虑修改现有代码进行整合。

● 这些公共库SDK一般都是通过特定语言实现，缺乏多语言的支持，在对现有系统整合时有一定的局限性。

● 公共库SDK的管理和维护依然需要耗费开发者的大量精力，并需专门人员来进行管理维护。

1.2.3 Sidecar模式

基于公共库SDK的启发，加上跨语言问题、更新后的发布和维护等问题，人们发现更好的解决方案是把它作为一个代理，服务通过这个透明的代理完成所有流量的控制。

这就是典型的Sidecar代理模式，也被翻译为边车代理，它作为与其他服务通信的桥梁，为服务提供额外的网络特性，并与服务独立部署，对服务零侵入，更不会受限于服务的开发语言和技术栈，如下图所示：

● 以Sidecar模式进行通信代理，实现了基础实施层与业务逻辑的完全隔离，在部署、升级时带来了便利，做到了真正的基础设施层与业务逻辑层的彻底解耦。另一方面，Sidecar可以更加快速地为应用服务提供更灵活的扩展，而不需要应用服务的大量改造。

于是，应用服务终于可以做到跨语言开发、并更专注于业务逻辑的开发。

1.2.4 Service Mesh

把Sidecar模式充分应用于一个庞大的微服务架构系统，为每个应用服务配套部署一个Sidecar代理，完成服务间复杂的通信，最终得到一个如下所示的网络拓扑结构，这就是Service Mesh，又称之为“服务网格”。

至此，迎来了全新一代微服务架构——Service Mesh，它将彻底解决了传统微服务架构所面临的问题。

1.3

什么是Service Mesh

在开始进入主题之前，我认为有必要再对Service Mesh进行统一的阐述，这样将有助于理解它，更加便于阅读接下来的内容。

1.3.1 Service Mesh介绍

Service Mesh翻译为“服务网格”，作为服务间通信的基础设施层。轻量级高性能网络代理，提供安全的、快速的、可靠地服务间通讯，与实际应用部署一起，但对应用透明。应用作为服务的发起方，只需要用最简单的方式将请求发送给本地的服务网格代理，然后网格代理会进行后续的操作，如服务发现，负载均衡，最后将请求转发给目标服务。

Service Mesh目的是解决系统架构微服务化后的服务间通信和治理问题。服务网格由Sidecar节点组成，这个模式的精髓在于实现了数据面（业务逻辑）和控制面的解耦。具体到微服务架构中，即给每一个微服务实例同步部署一个Sidecar。

在Service Mesh部署网络结构图中，绿色方块为应用服务，蓝色方块为 Sidecar，应用服务之间通过Sidecar进行通信，整个服务通信形成图中的蓝色网络连线，图中所有蓝色部分就形成了Service Mesh。其具备如下主要特点：

● 应用程序间通讯的中间层。

● 轻量级网络代理。

● 应用程序无感知。

● 解耦应用程序的重试/超时、监控、追踪和服务发现。

Service Mesh的出现解决了传统微服务框架中的痛点，使得开发人员专注于业务本身，同时，将服务通信及相关管控功能从业务中分离到基础设施层。

1.3.2 Service Mesh的功能

Service Mesh作为微服务架构中负责网络通信的基础设施层，具备网络处理的大部分功能。下面列举了一些主要功能：

● 动态路由。可通过路由规则来动态路由到所请求的服务，便于不同环境、不同版本等的动态路由调整。

● 故障注入。通过引入故障来模拟网络传输中的问题（如延迟）来验证系统的健壮性，方便完成系统的各类故障测试。

● 熔断。通过服务降级来终止潜在的关联性错误。

● 安全。在Service Mesh上实现了安全机制（如TLS），并且很容易在基础设施层完成安全机制更新。

● 多语言支持。作为独立运行且对业务透明的Sidecar代理，Service Mesh很轻松地支持多语言的异构系统。

● 多协议支持。同多语言一样，也支持多协议。

● 指标和分布式链路追踪。

概括起来，Service Mesh主要体现在以下4个方面：

● 可见性：运行时指标遥测、分布式跟踪。

● 可管理性：服务发现、负载均衡、运行时动态路由等。

● 健壮性：超时、重试、熔断等弹性能力。

● 安全性：服务间访问控制、TLS加密通信。

1.3.3 Service Mesh解决什么问题

Service Mesh主要解决用户如下3个维度的痛点需求：

● 完善的微服务基础设施

通过将微服务通信下沉到基础设施层，屏蔽了微服务处理各种通信问题的复杂度，形成微服务之间的抽象协议层。开发者无需关心通信层的具体实现，也无需关注RPC通信（包含服务发现、负载均衡、流量调度、流量降级、监控统计等）的一切细节，真正像本地调用一样使用微服务，通信相关的一起工作直接交给Service Mesh。

● 语言无关的通信和链路治理

功能上，Service Mesh并没有提供任何新的特性和能力，Service Mesh提供的所有通信和服务治理能力在Service Mesh之前的技术中均能找到，比如Spring Cloud就实现了完善的微服务RPC通信和服务治理支持。

Service Mesh改变的是通信和服务治理能力提供的方式，通过将这些能力实现从各语言业务实现中解耦，下沉到基础设施层面，以一种更加通用和标准化的方式提供，屏蔽不同语言、不同平台的差异性，有利于通信和服务治理能力的迭代和创新，使得业务实现更加方便。

Service Mesh避免了多语言服务治理上的重复建设，通过Service Mesh语言无关的通信和服务治理能力，助力于多语言技术栈的效率提升。

● 通信和服务治理的标准化

■ 微服务治理层面，Service Mesh是标准化、体系化、无侵入的分布式治理平台。

■ 标准化方面，Sidecar成为所有微服务流量通信的约束标准，同时Service Mesh的数据平台和控制平面也通过标准协议进行交互。

■ 体系化方面，从全局考虑，提供多维度立体的微服务可观测能力（Metric、Trace、Logging），并提供体系化的服务治理能力，如限流、熔断、安全、灰度等。

通过标准化，带来一致的服务治理体验，减少多业务之间由于服务治理标准不一致带来的沟通和转换成本，提升全局服务治理的效率。

1.4

框架迁移迫在眉睫

为了更好的占领市场，满足更多业务场景的需求，传统微服务架构（如，基于Spring Cloud框架的微服务架构）面临了众多新的挑战，而Service Mesh的出现正好解决了这些问题。面对新的框架体系，对于传统微服务架构该如何应对？

对于Spring Cloud框架的微服务向Service Mesh框架迁移必将迫在眉睫，是推翻重来，还是循序迁移？如果迁移，又该如何？

（上篇完）