SpringCloud 学习笔记3

Eureka注册中心

认识Eureka

首先我们来解决第一问题,服务的管理。

问题分析

在刚才的案例中,UserService对外提供服务,需要对外暴露自己的地址。而consumer(调用者)需要记录服务提供者的地址。将来地址出现变更,还需要及时更新。这在服务较少的时候并不觉得有什么,但是在现在日益复杂的互联网环境,一个项目肯定会拆分出十几,甚至数十个微服务。此时如果还人为管理地址,不仅开发困难,将来测试、发布上线都会非常麻烦,这与DevOps的思想是背道而驰的。


网约车

这就好比是网约车出现以前,人们出门叫车只能叫出租车。一些私家车想做出租却没有资格,被称为黑车。而很多人想要约车,但是无奈出租车太少,不方便。私家车很多却不敢拦,而且满大街的车,谁知道哪个才是愿意载人的。一个想要,一个愿意给,就是缺少引子,缺乏管理啊。

此时滴滴这样的网约车平台出现了,所有想载客的私家车全部到滴滴注册,记录你的车型(服务类型),身份信息(联系方式)。这样提供服务的私家车,在滴滴那里都能找到,一目了然。

此时要叫车的人,只需要打开APP,输入你的目的地,选择车型(服务类型),滴滴自动安排一个符合需求的车到你面前,为你服务。


Eureka做什么?

Eureka就好比是滴滴,负责管理、记录服务提供者的信息。服务调用者无需自己寻找服务,而是把自己的需求告诉Eureka,然后Eureka会把符合你需求的服务告诉你。

同时,服务提供方与Eureka之间通过“心跳”机制进行监控,当某个服务提供方出现问题,Eureka自然会把它从服务列表中剔除。

这就实现了服务的自动注册、发现、状态监控。


原理图

20200819000511
  • Eureka:就是服务注册中心(可以是一个集群),对外暴露自己的地址
  • 提供者:启动后向Eureka注册自己信息(地址,提供什么服务)
  • 消费者:向Eureka订阅服务,Eureka会将对应服务的所有提供者地址列表发送给消费者,并且定期更新
  • 心跳(续约):提供者定期通过http方式向Eureka刷新自己的状态

入门案例

创建工程

在上面创建的父项目 SpringCloudDemo 的基础上,再创建一个子项目:EurekaServer

20200819002129

引入依赖:

<dependencies>
    <dependency>
        <groupId>org.springframework.cloud</groupId>
        <artifactId>spring-cloud-starter-netflix-eureka-server</artifactId>
        <version>2.0.1.RELEASE</version>
    </dependency>
</dependencies>

这里本来可以不用配置版本的,因为父工程已经指定了版本信息了,不过这里因为找不到,所以就制定了版本信息。


编写代码

该子工程的相关配置:application.yaml

server:
  port: 8082
spring:
  application:
    # 应用名称,会在Eureka中显示
    name: eureka-server
eureka:
  client:
    service-url:
      # EurekaServer的地址,现在是自己的地址,如果是集群,需要加上其它Server的地址。
      defaultZone: http://127.0.0.1:8082/eureka
  instance:
    # 当调用getHostname获取实例的hostname时,返回ip而不是host名称
    prefer-ip-address: true
    # 指定自己的ip信息,不指定的话会自己寻找。假如开启了网络,实例地址会变成外网地址(如:192.168.0.102)
    ip-address: 127.0.0.1

创建启动类,并启动 Eureka 服务:

@EnableEurekaServer
@SpringBootApplication
public class EurekaServer {
    public static void main(String[] args) {
        SpringApplication.run(EurekaServer.class);
    }
}

启动并测试

启动服务,访问 http://127.0.0.1:8082 ,查看 Eureka 相关信息:

20200819012051

将 UserService 注册到 Eureka

注册服务,就是在服务上添加 Eureka 的客户端依赖,客户端代码会自动把服务注册到 EurekaServer 中。


UserService 中添加Eureka客户端:

<!-- Eureka客户端 -->
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
    <version>2.0.1.RELEASE</version>
</dependency>

UserService 启动类上开启Eureka客户端功能:

通过添加 @EnableEurekaClient 来开启 Eureka 客户端功能

@EnableEurekaClient
@SpringBootApplication
@MapperScan(value = "pers.stringbug.userservice.mapper")
public class UserApplication {
    public static void main(String[] args) {
        SpringApplication.run(UserApplication.class);
    }
}

不过建议使用 @EnableDiscoveryClient 来开启 Eureka 客户端功能,因为 @EnableEurekaClient 只支持开启 Eureka 客户端功能,假如我们以后更换了其他注册中心呢?这个 @EnableEurekaClient 就失效了,所以推荐使用 @EnableDiscoveryClient ,它支持的注册中心比较多。

@EnableDiscoveryClient
@SpringBootApplication
@MapperScan(value = "pers.stringbug.userservice.mapper")
public class UserApplication {
    public static void main(String[] args) {
        SpringApplication.run(UserApplication.class);
    }
}

编写 UserService 的配置:application.yaml

server:
  port: 8081
spring:
  datasource:
    url: jdbc:mysql://localhost:3306/Test
    username: root
    password: 123456
    hikari:
      maximum-pool-size: 20
      minimum-idle: 10
  application:
    name: user-service # 应用名称
mybatis:
  type-aliases-package: pers.stringbug.userservice.pojo
eureka:
  client:
    service-url: # EurekaServer地址
      defaultZone: http://127.0.0.1:8082/eureka
  instance:
    prefer-ip-address: true # 当调用getHostname获取实例的hostname时,返回ip而不是host名称
    ip-address: 127.0.0.1 # 指定自己的ip信息,不指定的话会自己寻找

注意:

  • 这里我们添加了spring.application.name属性来指定应用名称,将来会作为应用的id使用。
  • 不用指定register-with-eureka和fetch-registry,因为默认是true

重启项目,访问 Eureka监控页面(http://127.0.0.1:8082/) 查看

20200819015712

将 ConsumerDemo 注册到 Eureka

接下来我们修改ConsumerDemo,尝试从EurekaServer获取服务。

方法与消费者类似,只需要在项目中添加EurekaClient依赖,就可以通过服务名称来获取信息了!


ConsumerDemo 中添加Eureka客户端:

<!-- Eureka客户端 -->
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
    <version>2.0.1.RELEASE</version>
</dependency>

ConsumerDemo 启动类开启Eureka客户端

@SpringBootApplication
@EnableDiscoveryClient // 开启Eureka客户端
public class ConsumerApplication {
    public static void main(String[] args) {
        SpringApplication.run(ConsumerApplication.class);
    }
    @Bean
    public RestTemplate restTemplate() {
        return new RestTemplate();
    }
}

编写 ConsumerDemo 的配置:application.yaml

server:
  port: 8080
spring:
  application:
    name: consumer # 应用名称
eureka:
  client:
    service-url: # EurekaServer地址
      defaultZone: http://127.0.0.1:8082/eureka
  instance:
    prefer-ip-address: true # 当其它服务获取地址时提供ip而不是hostname
    ip-address: 127.0.0.1 # 指定自己的ip信息,不指定的话会自己寻找

修改代码,用 DiscoveryClient类 的方法,根据服务名称,获取服务实例:

/** 对外查询的接口 */
@RestController
@RequestMapping(value = "consumer")
public class ConsumerController {

    @Autowired
    private RestTemplate restTemplate;

    @Autowired
    private DiscoveryClient discoveryClient;

    @GetMapping("{id}")
    public User queryById(@PathVariable(value = "id") Long id) {
        // 根据服务 ID 获取实例
        List<ServiceInstance> instances = discoveryClient.getInstances("user-service");
        // 从实例中取出 IP 和端口
        ServiceInstance serviceInstance = instances.get(0);
        String hostAndPort = serviceInstance.getHost() + ":" + serviceInstance.getPort();
        String url = "http://" + hostAndPort + "/user/" + id;
        User user = restTemplate.getForObject(url, User.class);
        return user;
    }
}

重新启动 UserService、Consumer、EurekaServer,访问结果:

20200819022742 20200819022821

Eureka详解

Eureka的原理及配置。


基础架构

Eureka架构中的三个核心角色:

  • 服务注册中心

    Eureka的服务端应用,提供服务注册和发现功能。

  • 服务提供者

    提供服务的应用,可以是SpringBoot应用,也可以是其它任意技术实现,只要对外提供的是Rest风格服务即可。

  • 服务消费者

    消费应用从注册中心获取服务列表,从而得知每个服务方的信息,知道去哪里调用服务方。


高可用的Eureka Server

Eureka Server即服务的注册中心,在刚才的案例中,我们只有一个EurekaServer,事实上EurekaServer也可以是一个集群,形成高可用的Eureka中心。


服务同步

多个Eureka Server之间也会互相注册为服务,当服务提供者注册到Eureka Server集群中的某个节点时,该节点会把服务的信息同步给集群中的每个节点,从而实现数据同步。因此,无论客户端访问到Eureka Server集群中的任意一个节点,都可以获取到完整的服务列表信息。


动手搭建高可用的EurekaServer

假设要搭建两条EurekaServer的集群,端口分别为: 80828083


  1. 修改原来的EurekaServer配置:
server:
  port: 8082
spring:
  application:
    # 应用名称,会在Eureka中显示
    name: eureka-server
eureka:
  client:
    service-url:
      # EurekaServer的地址,现在是自己的地址,如果是集群,需要加上其它Server的地址。
      # 配置其他Eureka服务的地址,而不是自己,比如8083
      defaultZone: http://127.0.0.1:8083/eureka
  instance:
    # 当调用getHostname获取实例的hostname时,返回ip而不是host名称
    prefer-ip-address: true
    # 指定自己的ip信息,不指定的话会自己寻找。假如开启了网络,实例地址会变成外网地址(如:192.168.0.102)
    ip-address: 127.0.0.1

所谓的高可用注册中心,其实就是把EurekaServer自己也作为一个服务进行注册,这样多个EurekaServer之间就能互相发现对方,从而形成集群。因此我们做了以下修改:

  • 删除了register-with-eureka=false和fetch-registry=false两个配置。因为默认值是true,这样就会把自己注册到注册中心了。
  • 把service-url的值改成了另外一台EurekaServer的地址,而不是自己

  1. 另外一台配置恰好相反:
server:
  port: 8083
spring:
  application:
    # 应用名称,会在Eureka中显示
    name: eureka-server
eureka:
  client:
    service-url:
      # EurekaServer的地址,现在是自己的地址,如果是集群,需要加上其它Server的地址。
      # 配置其他Eureka服务的地址,而不是自己,比如8082
      defaultZone: http://127.0.0.1:8082/eureka
  instance:
    # 当调用getHostname获取实例的hostname时,返回ip而不是host名称
    prefer-ip-address: true
    # 指定自己的ip信息,不指定的话会自己寻找。假如开启了网络,实例地址会变成外网地址(如:192.168.0.102)
    ip-address: 127.0.0.1

idea中一个应用不能启动两次,我们需要重新配置一个启动器:

20200819085738

复制 EurekaServer 启动器,复制出的 Eureka 命名为 EurekaServer2

20200819090002

说明:启动 EurekaServer 的时候,application.yaml 配置如 1) 中的所示,等 EurekaServer 启动完成后,再将 application.yaml 中的配置修改为 2) 中所示的,然后再启动 EurekaServer2


3)启动测试:

20200819092435 20200819092600
  1. 客户端注册服务到 Eureka 集群

上面已经完成了 Eureka 集群的启动,EurekaServer不止一个,因此注册服务的时候,service-url参数需要变化:

服务提供者(如:UserService)、服务调用者(如:ConsumerDemo)都需要修改 eureka 配置:

eureka:
  client:
    service-url: # EurekaServer地址
      defaultZone: http://127.0.0.1:8082/eureka, http://127.0.0.1:8083/eureka

服务提供者

服务提供者要向EurekaServer注册服务,并且完成服务续约等工作。

服务注册

服务提供者在启动时,会检测配置属性中的:eureka.client.register-with-erueka=true参数是否正确,事实上默认就是true。如果值确实为true,则会向EurekaServer发起一个Rest请求,并携带自己的元数据信息,Eureka Server会把这些信息保存到一个双层Map结构中。第一层Map的Key就是服务名称,第二层Map的key是服务的实例id。


服务续约

在注册服务完成以后,服务提供者会维持一个心跳(定时向EurekaServer发起Rest请求),告诉EurekaServer:“我还活着”。这个我们称为服务的续约(renew);


有两个重要参数可以修改服务续约的行为:

eureka:
  instance:
    lease-expiration-duration-in-seconds: 90
    lease-renewal-interval-in-seconds: 30
  • lease-renewal-interval-in-seconds:服务续约(renew)的间隔,默认为30秒
  • lease-expiration-duration-in-seconds:服务失效时间,默认值90秒

也就是说,默认情况下每个30秒服务会向注册中心发送一次心跳,证明自己还活着。如果超过90秒没有发送心跳,EurekaServer就会认为该服务宕机,会从服务列表中移除,这两个值在生产环境不要修改,默认即可。


但是在开发时,这个值有点太长了,经常我们关掉一个服务,会发现Eureka依然认为服务在活着。所以我们在开发阶段可以适当调小。

eureka:
  instance:
    lease-expiration-duration-in-seconds: 10 # 10秒即过期
    lease-renewal-interval-in-seconds: 5 # 5秒一次心跳

实例id

先来看一下服务状态信息:

在Eureka监控页面,查看服务注册信息:

20200819101204

在status一列中,显示以下信息:

  • UP(1):代表现在是启动了1个示例,没有集群
  • 192.168.0.101:user-service:8081 是示例的名称(instance-id)
    • 默认格式是:${hostname} + ${spring.application.name} + ${server.port}
    • instance-id 是区分同一服务的不同实例的唯一标准,因此不能重复。

我们可以通过instance-id属性来修改它的构成:

eureka:
  instance:
    instance-id: ${spring.application.name}:${server.port}

重启服务再试试看:

20200819101920

服务消费者

获取服务列表

当服务消费者启动是,会检测eureka.client.fetch-registry=true参数的值,如果为true,则会从Eureka Server服务的列表只读备份,然后缓存在本地。并且每隔30秒会重新获取并更新数据。我们可以通过下面的参数来修改:

eureka:
  client:
    registry-fetch-interval-seconds: 5

生产环境中,我们不需要修改这个值。但是为了开发环境下,能够快速得到服务的最新状态,我们可以将其设置小一点。


失效剔除和自我保护

失效剔除

有些时候,我们的服务提供方并不一定会正常下线,可能因为内存溢出、网络故障等原因导致服务无法正常工作。Eureka Server需要将这样的服务剔除出服务列表。因此它会开启一个定时任务,每隔60秒对所有失效的服务(超过90秒未响应)进行剔除。

可以通过eureka.server.eviction-interval-timer-in-ms参数对其进行修改,单位是毫秒,生成环境不要修改。

这个会对我们开发带来极大的不变,你对服务重启,隔了60秒Eureka才反应过来。开发阶段可以适当调整,比如10S


自我保护

我们关停一个服务,就会在Eureka面板看到一条警告:

20200819103036

这是触发了Eureka的自我保护机制。当一个服务未按时进行心跳续约时,Eureka会统计最近15分钟心跳失败的服务实例的比例是否超过了85%。在生产环境下,因为网络延迟等原因,心跳失败实例的比例很有可能超标,但是此时就把服务剔除列表并不妥当,因为服务可能没有宕机。Eureka就会把当前实例的注册信息保护起来,不予剔除。生产环境下这很有效,保证了大多数服务依然可用。


但是这给我们的开发带来了麻烦, 因此开发阶段我们都会关闭自我保护模式:

eureka:
  server:
    enable-self-preservation: false # 关闭自我保护模式(缺省为打开)
    eviction-interval-timer-in-ms: 1000 # 扫描失效服务的间隔时间(缺省为60*1000ms)

负载均衡Robbin

在上面的案例中,我们启动了一个 UserService,启动了一个 ConsumerDemo,然后通过ConsumerDemo使用DiscoveryClient来获取服务实例信息,然后获取ip和端口来访问。

但是实际环境中,我们往往会开启很多个 UserService 的集群。此时我们获取的服务列表中就会有多个,到底该访问哪一个呢?一般这种情况下我们就需要编写负载均衡算法,在多个实例列表中进行选择。


Eureka中已经帮我们集成了负载均衡组件:Ribbon,简单修改代码即可使用。

什么是Ribbon:

20200819105447

下面,使用Ribbon实现负载均衡。


启动两个服务实例

首先我们启动两个 UserService 实例,一个8081,一个8084

20200819110620

复制 UserApplication 启动实例,命名为 UserApplication2,端口号设置为 8084

-Dserver.port=8084
20200819111014

Eureka监控面板:

20200819111131

开启负载均衡器

在服务消费者(ConsumerDemo)中添加 Robbin 依赖:

<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-netflix-ribbon</artifactId>
    <version>2.0.1.RELEASE</version>
</dependency>

方式1

编写 ConsumerDemo 对外查询的接口:

@RestController
@RequestMapping(value = "consumer")
public class ConsumerController {

    @Autowired
    private RestTemplate restTemplate;

    @Autowired
    private RibbonLoadBalancerClient balancerClient;

    @GetMapping("{id}")
    public User queryById(@PathVariable(value = "id") Long id) {
        ServiceInstance serviceInstance = balancerClient.choose("user-service");
        String hostAndPort = serviceInstance.getHost() + ":" + serviceInstance.getPort();
        String url = "http://" + hostAndPort + "/user/" + id;
        User user = restTemplate.getForObject(url, User.class);
        return user;
    }
}

RibbonLoadBalancerClient 可以帮我们自动的实现负载均衡。


方式2

在启动类注册的 RestTemplate 中添加 @LoadBalanced 注解:

@SpringBootApplication
@EnableDiscoveryClient // 开启Eureka客户端
public class ConsumerApplication {

    public static void main(String[] args) {
        SpringApplication.run(ConsumerApplication.class);
    }

    @Bean
    @LoadBalanced
    public RestTemplate restTemplate() {
        return new RestTemplate();
    }
}

编写 ConsumerDemo 对外查询的接口,修改请求路径:

@RestController
@RequestMapping(value = "consumer")
public class ConsumerController {

    @Autowired
    private RestTemplate restTemplate;

    @GetMapping("{id}")
    public User queryById(@PathVariable(value = "id") Long id) {
        String url = "http://user-service/user/" + id;
        User user = restTemplate.getForObject(url, User.class);
        return user;
    }
}

启动

启动 EurekaServer、UserService、UserService2、ConsumerDemo,访问页面,查询结果:

20200819120345

方式 2 源码跟踪

为什么我们只输入了service名称就可以访问了呢?之前还要获取ip和端口。

显然有帮我们实现了根据service名称,获服务实例的ip和端口。它就是LoadBalancerInterceptor

进行源码跟踪:

20200819121555

继续跟入 this.loadBalancer.execute 方法:发现获取了8081端口的服务

20200819122538

实质上,该方法获取了我们启动的所有服务,这里启动了 8081、8084 两个端口的服务,只是上面取的是 8081 端口的服务,下次再次获取服务,可能会获取到 8084 端口的服务。

下面为部分获取信息:

LoadBaLancer: "DynamicServerL istLoadBalancer: {NFLoadBalancer: name=user-service, current list of Servers=[127.0.0.1:8081, 127.0.0.1:8084]


负载均衡策略

Ribbon默认的负载均衡策略是简单的轮询,我们可以测试一下:

编写测试类,在刚才的源码中我们看到拦截中是使用RibbonLoadBalanceClient来进行负载均衡的,其中有一个choose方法,是这样介绍的:

20200819130023

现在这个就是负载均衡获取实例的方法。

我们对注入这个类的对象,然后对其测试:

@RunWith(SpringRunner.class)
@SpringBootTest(classes = UserConsumerDemoApplication.class)
public class LoadBalanceTest {

    @Autowired
    RibbonLoadBalancerClient client;

    @Test
    public void test(){
        for (int i = 0; i < 100; i++) {
            ServiceInstance instance = this.client.choose("user-service");
            System.out.println(instance.getHost() + ":" + instance.getPort());
        }
    }
}


结果:

20200819130316

符合了我们的预期推测,确实是轮询方式。


我们是否可以修改负载均衡的策略呢?

继续跟踪源码,发现这么一段代码:

20200819130410

我们看看这个rule是谁:

20200819130431

这里的rule默认值是一个RoundRobinRule,看类的介绍:

20200819130453

这不就是轮询的意思嘛。

我们注意到,这个类其实是实现了接口IRule的,查看一下:

20200819130547

定义负载均衡的规则接口。

它有以下实现:

20200819130621

SpringBoot也帮我们提供了修改负载均衡规则的配置入口:

user-service:
  ribbon:
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule

格式是:{服务名称}.ribbon.NFLoadBalancerRuleClassName,值就是IRule的实现类。


再次测试,发现结果变成了随机:

20200819130656

重试机制

Eureka的服务治理强调了CAP原则中的AP,即可用性和可靠性。它与Zookeeper这一类强调CP(一致性,可靠性)的服务治理框架最大的区别在于:Eureka为了实现更高的服务可用性,牺牲了一定的一致性,极端情况下它宁愿接收故障实例也不愿丢掉健康实例,正如我们上面所说的自我保护机制。

但是,此时如果我们调用了这些不正常的服务,调用就会失败,从而导致其它服务不能正常工作!这显然不是我们愿意看到的。


我们现在关闭一个UserService实例:

20200819130844

因为服务剔除的延迟,consumer并不会立即得到最新的服务列表,此时再次访问你会得到错误提示:

20200819130912

但是此时,8081服务其实是正常的。

因此Spring Cloud 整合了Spring Retry 来增强RestTemplate的重试能力,当一次服务调用失败后,不会立即抛出一次,而是再次重试另一个服务。

只需要简单配置即可实现Ribbon的重试:

spring:
  cloud:
    loadbalancer:
      retry:
        enabled: true # 开启Spring Cloud的重试功能
user-service:
  ribbon:
    ConnectTimeout: 250 # Ribbon的连接超时时间
    ReadTimeout: 1000 # Ribbon的数据读取超时时间
    OkToRetryOnAllOperations: true # 是否对所有操作都进行重试
    MaxAutoRetriesNextServer: 1 # 切换实例的重试次数
    MaxAutoRetries: 1 # 对当前实例的重试次数

根据如上配置,当访问到某个服务超时后,它会再次尝试访问下一个服务实例,如果不行就再换一个实例,如果不行,则返回失败。切换次数取决于MaxAutoRetriesNextServer参数的值

引入spring-retry依赖

<dependency>
    <groupId>org.springframework.retry</groupId>
    <artifactId>spring-retry</artifactId>
</dependency>

我们重启 ConsumerDemo,测试,发现即使 UserService2 宕机,也能通过另一台服务实例获取到结果!

20200819131111

参考文献

  1. 黑马 Java

posted @ 2021-03-04 19:56  LeeHua  阅读(232)  评论(0编辑  收藏  举报