主流微服務全鏈路監控系統之戰
問題背景
隨著微服務架構的流行，服務按照不同的維度進行拆分，一次請求往往需要涉及到多個服務。
互聯網應用構建在不同的軟件模塊集上，這些軟件模塊，有可能是由不同的團隊開發、可能使用不同的編程語言來實現、有可能布在了幾千臺服務器，橫跨多個不同的數據中心。
因此，就需要一些可以幫助理解系統行為、用于分析性能問題的工具，以便發生故障的時候，能夠快速定位和解決問題。
全鏈路監控組件就在這樣的問題背景下產生了。最出名的是谷歌公開的論文提到的 Google Dapper。
想要在這個上下文中理解分布式系統的行為，就需要監控那些橫跨了不同的應用、不同的服務器之間的關聯動作。
所以，在復雜的微服務架構系統中，幾乎每一個前端請求都會形成一個復雜的分布式服務調用鏈路。一個請求完整調用鏈可能如下圖所示：
如何快速發現問題？ 如何判斷故障影響范圍？ 如何梳理服務依賴以及依賴的合理性？ 如何分析鏈路性能問題以及實時容量規劃？
吞吐量，根據拓撲可計算相應組件、平臺、物理設備的實時吞吐量。
響應時間，包括整體調用的響應時間和各個服務的響應時間等。
錯誤記錄，根據服務返回統計單位時間異常次數。
請求鏈路追蹤，故障快速定位：可以通過調用鏈結合業務日志快速定位錯誤信息。 可視化：各個階段耗時，進行性能分析。 依賴優化：各個調用環節的可用性、梳理服務依賴關系以及優化。 數據分析，優化鏈路：可以得到用戶的行為路徑，匯總分析應用在很多業務場景。
1 目標要求
1、探針的性能消耗
APM 組件服務的影響應該做到足夠小。服務調用埋點本身會帶來性能損耗，這就需要調用跟蹤的低損耗，實際中還會通過配置采樣率的方式，選擇一部分請求去分析請求路徑。在一些高度優化過的服務，即使一點點損耗也會很容易察覺到，而且有可能迫使在線服務的部署團隊不得不將跟蹤系統關停。
2、代碼的侵入性
即也作為業務組件，應當盡可能少入侵或者無入侵其他業務系統，對于使用方透明，減少開發人員的負擔。
對于應用的程序員來說，是不需要知道有跟蹤系統這回事的。如果一個跟蹤系統想生效，就必須需要依賴應用的開發者主動配合，那么這個跟蹤系統也太脆弱了，往往由于跟蹤系統在應用中植入代碼的 bug 或疏忽導致應用出問題，這樣才是無法滿足對跟蹤系統“無所不在的部署”這個需求。
3、可擴展性
4、數據的分析
2 功能模塊
一般的全鏈路監控系統，大致可分為四大功能模塊：
1.埋點與生成日志
埋點即系統在當前節點的上下文信息，可以分為 客戶端埋點、服務端埋點，以及客戶端和服務端雙向型埋點。埋點日志通常要包含以下內容traceId、spanId、調用的開始時間，協議類型、調用方ip和端口，請求的服務名、調用耗時，調用結果，異常信息等，同時預留可擴展字段，為下一步擴展做準備；
不能造成性能負擔：一個價值未被驗證，卻會影響性能的東西，是很難在公司推廣的！ 因為要寫 log，業務 QPS 越高，性能影響越重。通過采樣和異步log解決。
2.收集和存儲日志
每個機器上有一個 deamon 做日志收集，業務進程把自己的 Trace 發到 daemon，daemon 把收集 Trace 往上一級發送；
多級的 collector，類似 pub/sub 架構，可以負載均衡；
對聚合的數據進行 實時分析和離線存儲；
離線分析 需要將同一條調用鏈的日志匯總在一起；
3.分析和統計調用鏈路數據，以及時效性
調用鏈跟蹤分析：把同一 TraceID 的 Span 收集起來，按時間排序就是timeline。把ParentID 串起來就是調用棧。
拋異常或者超時，在日志里打印 TraceID。利用 TraceID 查詢調用鏈情況，定位問題。
強依賴：調用失敗會直接中斷主流程
高度依賴：一次鏈路中調用某個依賴的幾率高
頻繁依賴：一次鏈路調用同一個依賴的次數多
離線分析：按TraceID匯總，通過Span的ID和ParentID還原調用關系，分析鏈路形態。
實時分析：對單條日志直接分析，不做匯總，重組。得到當前QPS，延遲。
4.展現以及決策支持
3 Google Dapper
3.1 Span
基本工作單元，一次鏈路調用（可以是RPC，DB等沒有特定的限制）創建一個span，通過一個64位ID標識它，uuid較為方便，span中還有其他的數據，例如描述信息，時間戳，key-value對的（Annotation）tag信息，parent_id等，其中parent-id可以表示span調用鏈路來源。
上圖說明了 span 在一次大的跟蹤過程中是什么樣的。Dapper 記錄了 span 名稱，以及每個 span 的 ID 和父 ID，以重建在一次追蹤過程中不同 span 之間的關系。如果一個 span沒有父 ID 被稱為 root span。所有 span 都掛在一個特定的跟蹤上，也共用一個跟蹤 id。
Span 數據結構：
type Span struct {TraceIDint64 // 用于標示一次完整的請求idName stringID int64 // 當前這次調用span_idParentID int64 // 上層服務的調用span_id最上層服務parent_id為nullAnnotation []Annotation // 用于標記的時間戳Debugbool}3.2 Trace
類似于 樹結構的Span集合，表示一次完整的跟蹤，從請求到服務器開始，服務器返回response結束，跟蹤每次rpc調用的耗時，存在唯一標識trace_id。比如：你運行的分布式大數據存儲一次Trace就由你的一次請求組成。
每種顏色的note標注了一個span，一條鏈路通過TraceId唯一標識，Span標識發起的請求信息。樹節點是整個架構的基本單元，而每一個節點又是對span的引用。節點之間的連線表示的span和它的父span直接的關系。雖然span在日志文件中只是簡單的代表span的開始和結束時間，他們在整個樹形結構中卻是相對獨立的。
3.3 Annotation
注解，用來記錄請求特定事件相關信息（例如時間），一個span中會有多個annotation注解描述。通常包含四個注解信息：
(1) cs：Client Start，表示客戶端發起請求
(2) sr：Server Receive，表示服務端收到請求
(3) ss：Server Send，表示服務端完成處理，并將結果發送給客戶端
(4) cr：Client Received，表示客戶端獲取到服務端返回信息
Annotation數據結構：
type Annotation struct {Timestamp int64Value stringHostEndpointDurationint32}3.4 調用示例
1. 請求調用示例
當用戶發起一個請求時，首先到達前端A服務，然后分別對B服務和C服務進行RPC調用；
B服務處理完給A做出響應，但是C服務還需要和后端的D服務和E服務交互之后再返還給A服務，最后由A服務來響應用戶的請求；
2. 調用過程追蹤
請求到來生成一個全局 TraceID，通過 TraceID 可以串聯起整個調用鏈，一個TraceID 代表一次請求。 除了TraceID外，還需要SpanID用于記錄調用父子關系。每個服務會記錄下parent id和span id，通過他們可以組織一次完整調用鏈的父子關系。 一個沒有parent id的span成為root span，可以看成調用鏈入口。 所有這些ID可用全局唯一的64位整數表示； 整個調用過程中每個請求都要透傳TraceID和SpanID。 每個服務將該次請求附帶的TraceID和附帶的SpanID作為parent id記錄下，并且將自己生成的SpanID也記錄下。 要查看某次完整的調用則 只要根據TraceID查出所有調用記錄，然后通過parent id和span id組織起整個調用父子關系。
3. 調用鏈核心工作
調用鏈數據生成，對整個調用過程的所有應用進行埋點并輸出日志。
調用鏈數據采集，對各個應用中的日志數據進行采集。
調用鏈數據存儲及查詢，對采集到的數據進行存儲，由于日志數據量一般都很大，不僅要能對其存儲，還需要能提供快速查詢。
指標運算、存儲及查詢，對采集到的日志數據進行各種指標運算，將運算結果保存起來。
告警功能，提供各種閥值警告功能。
4. 整體部署架構
5. AGENT無侵入部署
通過AGENT代理無侵入式部署，將性能測量與業務邏輯完全分離，可以測量任意類的任意方法的執行時間，這種方式大大提高了采集效率，并且減少運維成本。根據服務跨度主要分為兩大類AGENT：
服務內AGENT，這種方式是通過 Java 的agent機制，對服務內部的方法調用層次信息進行數據收集，如方法調用耗時、入參、出參等信息。
跨服務AGENT，這種情況需要對主流RPC框架以插件形式提供無縫支持。并通過提供標準數據規范以適應自定義RPC框架：
（1）Dubbo支持；（2）Rest支持；（3）自定義RPC支持；
6. 調用鏈監控好處
準確掌握生產一線應用部署情況；
從調用鏈全流程性能角度，識別對關鍵調用鏈，并進行優化；
提供可追溯的性能數據，量化 IT 運維部門業務價值；
快速定位代碼性能問題，協助開發人員持續性的優化代碼；
協助開發人員進行白盒測試，縮短系統上線穩定期；
4 方案比較
Zipkin：由Twitter公司開源，開放源代碼分布式的跟蹤系統，用于收集服務的定時數據，以解決微服務架構中的延遲問題，包括：數據的收集、存儲、查找和展現。 Pinpoint：一款對Java編寫的大規模分布式系統的APM工具，由韓國人開源的分布式跟蹤組件。 Skywalking：國產的優秀APM組件，是一個對JAVA分布式應用程序集群的業務運行情況進行追蹤、告警和分析的系統。
1.探針的性能
主要是agent對服務的吞吐量、CPU和內存的影響。微服務的規模和動態性使得數據收集的成本大幅度提高。
2.collector的可擴展性
能夠水平擴展以便支持大規模服務器集群。
3.全面的調用鏈路數據分析
提供代碼級別的可見性以便輕松定位失敗點和瓶頸。
4.對于開發透明，容易開關
添加新功能而無需修改代碼，容易啟用或者禁用。
5.完整的調用鏈應用拓撲
自動檢測應用拓撲，幫助你搞清楚應用的架構
4.1 探針的性能
從上表可以看出，在三種鏈路監控組件中，skywalking 的探針對吞吐量的影響最小，zipkin的吞吐量居中。pinpoint 的探針對吞吐量的影響較為明顯，在500并發用戶時，測試服務的吞吐量從1385降低到774，影響很大。然后再看下CPU和memory的影響，在內部服務器進行的壓測，對CPU和memory的影響都差不多在10%之內。
4.2 collector的可擴展性
1. zipkin
開發 zipkin-Server（其實就是提供的開箱即用包），zipkin-agent 與 zipkin-Server 通過 http 或者 mq 進行通信，http 通信會對正常的訪問造成影響，所以還是推薦基于mq異步方式通信，zipkin-Server 通過訂閱具體的 topic 進行消費。這個當然是可以擴展的，多個 zipkin-Server 實例進行異步消費 mq 中的監控信息。
4.3 全面的調用鏈路數據分析
全面的調用鏈路數據分析，提供代碼級別的可見性以便輕松定位失敗點和瓶頸。
zipkin鏈路調用分析
skywalking鏈路調用分析
pinpoint鏈路調用分析
4.4 對于開發透明，容易開關
對于開發透明，容易開關，添加新功能而無需修改代碼，容易啟用或者禁用。我們期望功能可以不修改代碼就工作并希望得到代碼級別的可見性。
對于這一點，Zipkin 使用修改過的類庫和它自己的容器(Finagle)來提供分布式事務跟蹤的功能。但是，它要求在需要時修改代碼。skywalking和pinpoint都是基于字節碼增強的方式，開發人員不需要修改代碼，并且可以收集到更多精確的數據因為有字節碼中的更多信息。
4.5 完整的調用鏈應用拓撲
自動檢測應用拓撲，幫助你搞清楚應用的架構。
上面三幅圖，分別展示了APM 組件各自的調用拓撲，都能實現完整的調用鏈應用拓撲。相對來說，pinpoint 界面顯示的更加豐富，具體到調用的DB名，zipkin的拓撲局限于服務于服務之間。
4.6 Pinpoint與Zipkin細化比較
4.6.1 Pinpoint與Zipkin差異性
Pinpoint 是一個完整的性能監控解決方案：有從探針、收集器、存儲到 Web 界面等全套體系；而 Zipkin 只側重收集器和存儲服務，雖然也有用戶界面，但其功能與 Pinpoint 不可同日而語。反而 Zipkin 提供有 Query 接口，更強大的用戶界面和系統集成能力，可以基于該接口二次開發實現。
Zipkin 官方提供有基于 Finagle 框架（Scala 語言）的接口，而其他框架的接口由社區貢獻，目前可以支持 Java、Scala、Node、Go、Python、Ruby 和 C# 等主流開發語言和框架；但是 Pinpoint 目前只有官方提供的 Java Agent 探針，其他的都在請求社區支援中（請參見 #1759 和 #1760）。
Pinpoint 提供有 Java Agent 探針，通過字節碼注入的方式實現調用攔截和數據收集，可以做到真正的代碼無侵入，只需要在啟動服務器的時候添加一些參數，就可以完成探針的部署；而 Zipkin 的 Java 接口實現 Brave，只提供了基本的操作 API，如果需要與框架或者項目集成的話，就需要手動添加配置文件或增加代碼。
Pinpoint 的后端存儲基于 HBase，而 Zipkin 基于 Cassandra。
4.6.2 Pinpoint 與 Zipkin 相似性
Pinpoint 與 Zipkin 都是基于 Google Dapper 的那篇論文，因此理論基礎大致相同。兩者都是將服務調用拆分成若干有級聯關系的 Span，通過 SpanId 和 ParentSpanId 來進行調用關系的級聯；最后再將整個調用鏈流經的所有的 Span 匯聚成一個 Trace，報告給服務端的 collector 進行收集和存儲。
即便在這一點上，Pinpoint 所采用的概念也不完全與那篇論文一致。比如他采用 TransactionId 來取代 TraceId，而真正的 TraceId 是一個結構，里面包含了 TransactionId, SpanId 和 ParentSpanId。而且 Pinpoint 在 Span 下面又增加了一個 SpanEvent 結構，用來記錄一個 Span 內部的調用細節（比如具體的方法調用等等），因此 Pinpoint 默認會比 Zipkin 記錄更多的跟蹤數據。
但是理論上并沒有限定 Span 的粒度大小，所以一個服務調用可以是一個 Span，那么每個服務中的方法調用也可以是個 Span，這樣的話，其實 Brave 也可以跟蹤到方法調用級別，只是具體實現并沒有這樣做而已。
4.6.3 字節碼注入 vs API 調用
Pinpoint 實現了基于字節碼注入的 Java Agent 探針，而 Zipkin 的 Brave 框架僅僅提供了應用層面的 API，但是細想問題遠不那么簡單。字節碼注入是一種簡單粗暴的解決方案，理論上來說無論任何方法調用，都可以通過注入代碼的方式實現攔截，也就是說沒有實現不了的，只有不會實現的。但 Brave 則不同，其提供的應用層面的 API 還需要框架底層驅動的支持，才能實現攔截。
比如，MySQL 的 JDBC 驅動，就提供有注入 interceptor 的方法，因此只需要實現 StatementInterceptor 接口，并在 Connection String 中進行配置，就可以很簡單的實現相關攔截；而與此相對的，低版本的 MongoDB 的驅動或者是 Spring Data MongoDB 的實現就沒有如此接口，想要實現攔截查詢語句的功能，就比較困難。
因此在這一點上，Brave 是硬傷，無論使用字節碼注入多么困難，但至少也是可以實現的，但是 Brave 卻有無從下手的可能，而且是否可以注入，能夠多大程度上注入，更多的取決于框架的 API 而不是自身的能力。
4.6.4 難度及成本
經過簡單閱讀 Pinpoint 和 Brave 插件的代碼，可以發現兩者的實現難度有天壤之別。在都沒有任何開發文檔支撐的前提下，Brave 比 Pinpoint 更容易上手。Brave 的代碼量很少，核心功能都集中在 brave-core 這個模塊下，一個中等水平的開發人員，可以在一天之內讀懂其內容，并且能對 API 的結構有非常清晰的認識。
Pinpoint 的代碼封裝也是非常好的，尤其是針對字節碼注入的上層 API 的封裝非常出色，但是這依然要求閱讀人員對字節碼注入多少有一些了解，雖然其用于注入代碼的核心 API 并不多，但要想了解透徹，恐怕還得深入 Agent 的相關代碼，比如很難一目了然的理解 addInterceptor 和 addScopedInterceptor 的區別，而這兩個方法就是位于 Agent 的有關類型中。
因為 Brave 的注入需要依賴底層框架提供相關接口，因此并不需要對框架有一個全面的了解，只需要知道能在什么地方注入，能夠在注入的時候取得什么數據就可以了。就像上面的例子，我們根本不需要知道 MySQL 的 JDBC Driver 是如何實現的也可以做到攔截 SQL 的能力。但是 Pinpoint 就不然，因為 Pinpoint 幾乎可以在任何地方注入任何代碼，這需要開發人員對所需注入的庫的代碼實現有非常深入的了解，通過查看其 MySQL 和 Http Client 插件的實現就可以洞察這一點，當然這也從另外一個層面說明 Pinpoint 的能力確實可以非常強大，而且其默認實現的很多插件已經做到了非常細粒度的攔截。
針對底層框架沒有公開 API 的時候，其實 Brave 也并不完全無計可施，我們可以采取 AOP 的方式，一樣能夠將相關攔截注入到指定的代碼中，而且顯然 AOP 的應用要比字節碼注入簡單很多。
以上這些直接關系到實現一個監控的成本，在 Pinpoint 的官方技術文檔中，給出了一個參考數據。如果對一個系統集成的話，那么用于開發 Pinpoint 插件的成本是 100，將此插件集成入系統的成本是 0；但對于 Brave，插件開發的成本只有 20，而集成成本是 10。從這一點上可以看出官方給出的成本參考數據是 5:1。但是官方又強調了，如果有 10 個系統需要集成的話，那么總成本就是 10 * 10 + 20 = 120，就超出了 Pinpoint 的開發成本 100，而且需要集成的服務越多，這個差距就越大。
4.6.5 通用性和擴展性
很顯然，這一點上 Pinpoint 完全處于劣勢，從社區所開發出來的集成接口就可見一斑。
Pinpoint 的數據接口缺乏文檔，而且也不太標準（參考論壇討論帖），需要閱讀很多代碼才可能實現一個自己的探針（比如 Node 的或者 PHP 的）。而且團隊為了性能考慮使用了 Thrift 作為數據傳輸協議標準，比起 HTTP 和 JSON 而言難度增加了不少。
4.6.6 社區支持
這一點也不必多說，Zipkin 由 Twitter 開發，可以算得上是明星團隊，而 Naver 的團隊只是一個默默無聞的小團隊（從 #1759 的討論中可以看出）。雖然說這個項目在短期內不太可能消失或停止更新，但畢竟不如前者用起來更加放心。而且沒有更多社區開發出來的插件，讓 Pinpoint 只依靠團隊自身的力量完成諸多框架的集成實屬困難，而且他們目前的工作重點依然是在提升性能和穩定性上。
