springcloud hystrix入门简介(二)
Hystrix設計原則
1.防止單個服務的故障,耗盡整個系統服務的容器(比如tomcat)的線程資源,避免分布式環境里大量級聯失敗。通過第三方客戶端訪問(通常是通過網絡)依賴服務出現失敗、拒絕、超時或短路時執行回退邏輯
? ? ? ?2.用快速失敗代替排隊(每個依賴服務維護一個小的線程池或信號量,當線程池滿或信號量滿,會立即拒絕服務而不會排隊等待)和優雅的服務降級;當依賴服務失效后又恢復正常,快速恢復
? ? ? ?3.提供接近實時的監控和警報,從而能夠快速發現故障和修復。監控信息包括請求成功,失敗(客戶端拋出的異常),超時和線程拒絕。如果訪問依賴服務的錯誤百分比超過閾值,斷路器會跳閘,此時服務會在一段時間內停止對特定服務的所有請求
? ? ? ?4.將所有請求外部系統(或請求依賴服務)封裝到HystrixCommand或HystrixObservableCommand對象中,然后這些請求在一個獨立的線程中執行。使用隔離技術來限制任何一個依賴的失敗對系統的影響。每個依賴服務維護一個小的線程池(或信號量),當線程池滿或信號量滿,會立即拒絕服務而不會排隊等待
?
Hystrix特性
1.請求熔斷:?當Hystrix Command請求后端服務失敗數量超過一定比例(默認50%), 斷路器會切換到開路狀態(Open). 這時所有請求會直接失敗而不會發送到后端服務. 斷路器保持在開路狀態一段時間后(默認5秒), 自動切換到半開路狀態(HALF-OPEN).
?這時會判斷下一次請求的返回情況, 如果請求成功, 斷路器切回閉路狀態(CLOSED), 否則重新切換到開路狀態(OPEN). Hystrix的斷路器就像我們家庭電路中的保險絲, 一旦后端服務不可用, 斷路器會直接切斷請求鏈, 避免發送大量無效請求影響系統吞吐量, 并且斷路器有自我檢測并恢復的能力.
2.服務降級:Fallback相當于是降級操作. 對于查詢操作, 我們可以實現一個fallback方法, 當請求后端服務出現異常的時候, 可以使用fallback方法返回的值. fallback方法的返回值一般是設置的默認值或者來自緩存.告知后面的請求服務不可用了,不要再來了。
3.依賴隔離(采用艙壁模式,Docker就是艙壁模式的一種):在Hystrix中, 主要通過線程池來實現資源隔離. 通常在使用的時候我們會根據調用的遠程服務劃分出多個線程池.比如說,一個服務調用兩外兩個服務,你如果調用兩個服務都用一個線程池,那么如果一個服務卡在哪里,資源沒被釋放
后面的請求又來了,導致后面的請求都卡在哪里等待,導致你依賴的A服務把你卡在哪里,耗盡了資源,也導致了你另外一個B服務也不可用了。這時如果依賴隔離,某一個服務調用A B兩個服務,如果這時我有100個線程可用,我給A服務分配50個,給B服務分配50個,這樣就算A服務掛了,
我的B服務依然可以用。
4.請求緩存:比如一個請求過來請求我userId=1的數據,你后面的請求也過來請求同樣的數據,這時我不會繼續走原來的那條請求鏈路了,而是把第一次請求緩存過了,把第一次的請求結果返回給后面的請求。
5.請求合并:我依賴于某一個服務,我要調用N次,比如說查數據庫的時候,我發了N條請求發了N條SQL然后拿到一堆結果,這時候我們可以把多個請求合并成一個請求,發送一個查詢多條數據的SQL的請求,這樣我們只需查詢一次數據庫,提升了效率。
?
Hystrixl流程圖如下:
?
看了流程圖是不是很蒙圈我也不是很懂,先放著,等到有機會再來看。下面我就復用了官網的說明做個簡單概述:
Hystrix流程說明:
?
? ? 1:每次調用創建一個新的HystrixCommand,把依賴調用封裝在run()方法中.
2:執行execute()/queue做同步或異步調用.
4:判斷熔斷器(circuit-breaker)是否打開,如果打開跳到步驟8,進行降級策略,如果關閉進入步驟5.
5:判斷線程池/隊列/信號量是否跑滿,如果跑滿進入降級步驟8,否則繼續后續步驟6.
6:調用HystrixCommand的run方法.運行依賴邏輯
6a:依賴邏輯調用超時,進入步驟8.
7:判斷邏輯是否調用成功
7a:返回成功調用結果
7b:調用出錯,進入步驟8.
8:計算熔斷器狀態,所有的運行狀態(成功, 失敗, 拒絕,超時)上報給熔斷器,用于統計從而判斷熔斷器狀態.
9:getFallback()降級邏輯.以下四種情況將觸發getFallback調用:
(1):run()方法拋出非HystrixBadRequestException異常。
(2):run()方法調用超時
(3):熔斷器開啟攔截調用
(4):線程池/隊列/信號量是否跑滿
9a:沒有實現getFallback的Command將直接拋出異常
9b:fallback降級邏輯調用成功直接返回
9c:降級邏輯調用失敗拋出異常
10:返回執行成功結果
?
?
參考:https://www.cnblogs.com/huangjuncong/p/9026949.html
總結
以上是生活随笔為你收集整理的springcloud hystrix入门简介(二)的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: STM32开发 -- 低功耗模式详解(3
- 下一篇: STM32开发 -- 主天线和分集天线