博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Spring cloud Hystrix设计原则和特性
阅读量:4171 次
发布时间:2019-05-26

本文共 1425 字,大约阅读时间需要 4 分钟。

Hystrix设计原则

  1.防止单个服务的故障,耗尽整个系统服务的容器(比如tomcat)的线程资源,避免分布式环境里大量级联失败。通过第三方客户端访问(通常是通过网络)依赖服务出现失败、拒绝、超时或短路时执行回退逻辑

       2.用快速失败代替排队(每个依赖服务维护一个小的线程池或信号量,当线程池满或信号量满,会立即拒绝服务而不会排队等待)和优雅的服务降级;当依赖服务失效后又恢复正常,快速恢复

       3.提供接近实时的监控和警报,从而能够快速发现故障和修复。监控信息包括请求成功,失败(客户端抛出的异常),超时和线程拒绝。如果访问依赖服务的错误百分比超过阈值,断路器会跳闸,此时服务会在一段时间内停止对特定服务的所有请求

       4.将所有请求外部系统(或请求依赖服务)封装到HystrixCommand或HystrixObservableCommand对象中,然后这些请求在一个独立的线程中执行。使用隔离技术来限制任何一个依赖的失败对系统的影响。每个依赖服务维护一个小的线程池(或信号量),当线程池满或信号量满,会立即拒绝服务而不会排队等待

 

Hystrix特性

  1.请求熔断: 当Hystrix Command请求后端服务失败数量超过一定比例(默认50%), 断路器会切换到开路状态(Open). 这时所有请求会直接失败而不会发送到后端服务. 断路器保持在开路状态一段时间后(默认5秒), 自动切换到半开路状态(HALF-OPEN).

    这时会判断下一次请求的返回情况, 如果请求成功, 断路器切回闭路状态(CLOSED), 否则重新切换到开路状态(OPEN). Hystrix的断路器就像我们家庭电路中的保险丝, 一旦后端服务不可用, 断路器会直接切断请求链, 避免发送大量无效请求影响系统吞吐量, 并且断路器有自我检测并恢复的能力.

  2.服务降级:Fallback相当于是降级操作. 对于查询操作, 我们可以实现一个fallback方法, 当请求后端服务出现异常的时候, 可以使用fallback方法返回的值. fallback方法的返回值一般是设置的默认值或者来自缓存.告知后面的请求服务不可用了,不要再来了。

  3.依赖隔离(采用舱壁模式,Docker就是舱壁模式的一种):在Hystrix中, 主要通过线程池来实现资源隔离. 通常在使用的时候我们会根据调用的远程服务划分出多个线程池.比如说,一个服务调用两外两个服务,你如果调用两个服务都用一个线程池,那么如果一个服务卡在哪里,资源没被释放

   后面的请求又来了,导致后面的请求都卡在哪里等待,导致你依赖的A服务把你卡在哪里,耗尽了资源,也导致了你另外一个B服务也不可用了。这时如果依赖隔离,某一个服务调用A B两个服务,如果这时我有100个线程可用,我给A服务分配50个,给B服务分配50个,这样就算A服务挂了,

   我的B服务依然可以用。

  4.请求缓存:比如一个请求过来请求我userId=1的数据,你后面的请求也过来请求同样的数据,这时我不会继续走原来的那条请求链路了,而是把第一次请求缓存过了,把第一次的请求结果返回给后面的请求。

  5.请求合并:我依赖于某一个服务,我要调用N次,比如说查数据库的时候,我发了N条请求发了N条SQL然后拿到一堆结果,这时候我们可以把多个请求合并成一个请求,发送一个查询多条数据的SQL的请求,这样我们只需查询一次数据库,提升了效率。

转载地址:http://jvbai.baihongyu.com/

你可能感兴趣的文章
一些设计上的基本常识
查看>>
Rabbitmq---消息队列
查看>>
基于zookeeper和quartz实现分布式定时调度
查看>>
一文归纳总结分布式架构中的那些事!
查看>>
阿里P8架构师谈:NoSQL和SQL的区别,NoSQL的使用场景和选型比较
查看>>
美团猫眼团队面试题:Maven+OSGi+Spring+Zookeeper+Dubb
查看>>
分布式事务原理及解决方案
查看>>
京东4面(Java研发):事务隔离+乐观锁+HashMap+秒杀设计+微服务
查看>>
微服务架构下静态数据通用缓存机制
查看>>
深入Redis持久化
查看>>
Java面试分享(题目+答案)
查看>>
AOP如何实现及其原理
查看>>
AOP 那点事儿
查看>>
AOP 那点事儿 ( 续集 )
查看>>
(一)线程的发展历史
查看>>
(二)线程的应用及挑战
查看>>
(四)Thread.join的作用和原理
查看>>
(五)Synchronized原理分析
查看>>
基于redis分布式锁实现“秒杀”
查看>>
分布式理论:深入浅出Paxos算法
查看>>