0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

如何用全链路信息存储技术把全链路追踪数据存储起来?

OSC开源社区 来源:vivo互联网技术 2023-02-10 11:18 次阅读

一、背景

目前业界主流的做法是使用分布式链路跟踪系统,其理论基础是来自 Google 的一篇论文 《大规模分布式系统的跟踪系统》。

论文如下图所示:

0e6490ae-a8d9-11ed-bfe3-dac502259ad0.jpg

(图片来源:网络

在此理论基础上,诞生了很多优秀的实现,如 zipkin、jaeger。同时为了保证API兼容,他们都遵循OpenTracing标准。那 OpenTracing 标准是什么呢?

OpenTracing翻译为开发分布式追踪,是一个轻量级的标准化层,它位于应用程序/类库和链路跟踪系统之间的一层。 这一层可以用下图表示:

0e756b2c-a8d9-11ed-bfe3-dac502259ad0.jpg

从上图可以知道,OpenTracing具有以下优势:

统一了API,使开发人员能够方便的添加追踪系统的实现。

OpenTracing已进入CNCF,正在为全球的分布式链路跟踪系统,提供统一的模型和数据标准。

大白话解释下:它就像手机接口标准,当今手机基本都是typeC接口,这样方便各种手机能力的共用。因此,做全链路信息存储,需要按照业界公认的OpenTracing标准去实现。

本篇文章将通过已有的优秀实现 ——zipkin,来给大家阐述Node.js应用如何对接分布式链路跟踪系统。

二、zipkin

2.1 zipkin 是什么?

zipkin是Twitter基于Google的分布式追踪系统论文的开发实现,其遵循OpenTracing标准。

zipkin用于跟踪分布式服务之间的应用数据链路。

2.2 zipkin 架构

官方文档上的架构如下图所示:

0e87a896-a8d9-11ed-bfe3-dac502259ad0.jpg

为了更好的理解,我这边对架构图进行了简化,简化架构图如下所示:

0e988be8-a8d9-11ed-bfe3-dac502259ad0.jpg

从上图可以看到,分为三个部分

第一部分:全链路信息获取,我们不使用zipkin自带的全链路信息获取,我们使用zone-context去获取全链路信息

第二部分:传输层, 使用zipkin提供的传输api,将全链路信息传递给zipkin

第三部分:zipkin核心功能,各个模块介绍如下:

collector就是信息收集器,作为一个守护进程,它会时刻等待客户端传递过来的追踪数据,对这些数据进行验证、存储以及创建查询需要的索引

storage是存储组件。zipkin默认直接将数据存在内存中,此外支持使用ElasticSearch和MySQL。

search是一个查询进程,它提供了简单的JSON API来供外部调用查询。

web UI是zipkin的服务端展示平台,主要调用search提供的接口,用图表将链路信息清晰地展示给开发人员。

至此,zipkin的整体架构就介绍完了,下面我们来进行zipkin的环境搭建。

2.3 zipkin 环境搭建

采用docker搭建, 这里我们使用docker中的docker-compose来快速搭建zipkin环境。

docker-compose.yml文件内容如下:

version: '3.8'
services:
  elasticsearch:
    image: docker.elastic.co/elasticsearch/elasticsearch:7.5.0
    container_name: elasticsearch
    restart: always
    ports:
      - 9200:9200
    healthcheck:
      test: ["CMD-SHELL", "curl --silent --fail localhost:9200/_cluster/health || exit 1"]
      interval: 30s
      timeout: 10s
      retries: 3
      start_period: 40s
    environment:
      - discovery.type=single-node
      - bootstrap.memory_lock=true
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
      - TZ=Asia/Shanghai
    ulimits:
      memlock:
        soft: -1
        hard: -1
  zipkin:
    image: openzipkin/zipkin:2.21
    container_name: zipkin
    depends_on:
      - elasticsearch
    links:
      - elasticsearch
    restart: always
    ports:
      - 9411:9411
    environment:
      - TZ=Asia/Shanghai
      - STORAGE_TYPE=elasticsearch
      - ES_HOSTS=elasticsearch:9200

在上面文件所在的目录下执行docker-compose up -d即可完成本地搭建。

搭建完成后,在浏览器中打开地址 http://localhost:9411 ,会看到如下图所示页面:

0eb75924-a8d9-11ed-bfe3-dac502259ad0.jpg

接着打开地址会看到如下图所示页面:

0ec64a6a-a8d9-11ed-bfe3-dac502259ad0.jpg

至此,zipkin的本地环境就搭建好啦。 下面我就将介绍Node.js应用如何对接zipkin。

三、Node.js 接入 zipkin

3.1 搞定全链路信息获取

这个我在 《Node.js 应用全链路追踪技术——全链路信息获取》 文章中,已经详细阐述了,如何去获取全链路信息。

3.2 搞定传输层

因为zipkin是基于OpenTracing标准实现的。因此我们只要搞定了zipkin的传输层,也就搞定了其他主流分布式追踪系统。

这里我们用到了zipkin官方提供的两个npm包,分别是:

zipkin

zipkin-transport-http

zipkin包是官方对支持 Node.js的核心包。zipkin-transport-http包的作用是将数据通过HTTP异步发送到 zipkin。

下面我们将详细介绍在传输层,如何将将数据发送到zipkin。

3.3传输层基础封装

核心代码实现和相关注释如下:

const {
  BatchRecorder,
  Tracer,
  // ExplicitContext,
  jsonEncoder: { JSON_V1, JSON_V2 },
} = require('zipkin')
const { HttpLogger } = require('zipkin-transport-http')
 
// const ctxImpl = new ExplicitContext();
 
// 配置对象
const options = {
  serviceName: 'zipkin-node-service',
  targetServer: '127.0.0.1:9411',
  targetApi: '/api/v2/spans',
  jsonEncoder: 'v2'
}
 
// http 方式传输
async function recorder ({ targetServer, targetApi, jsonEncoder }) => new BatchRecorder({
  logger: new HttpLogger({
    endpoint: `${targetServer}${targetApi}`,
    jsonEncoder: (jsonEncoder === 'v2' || jsonEncoder === 'V2') ? JSON_V2 : JSON_V1,
  })
})
 
// 基础记录
const baseRecorder = await recorder({
  targetServer: options.targetServer
  targetApi: options.targetApi
  jsonEncoder: options.jsonEncoder
})

至此,传输层的基础封装就完成了,我们抽离了baseRecorder出来,下面将会把全链路信息接入到传输层中。

3.4 接入全链路信息

这里说下官方提供的接入SDK,代码如下:

const { Tracer } = require('zipkin')
const ctxImpl = new ExplicitContext()
const tracer = new Tracer({ ctxImpl, recorder: baseRecorder })
// 还要处理请求头、手动层层传递等事情

上面的方式缺点比较明显,需要额外去传递一些东西,这里我们使用上篇文章提到的Zone-Context, 代码如下:

const zoneContextImpl = new ZoneContext()
const tracer = new Tracer({ zoneContextImpl, recorder: baseRecorder })
// 仅此而已,不再做额外处理

对比两者,明显发现,Zone-Context的实现方式更加的隐式,对代码入侵更小。这也是单独花一篇文章介绍Zone-Context技术原理的价值体现。

自此,我们完成了传输层的适配, Node.js应用接入zipkin的核心步骤基本完成。

3.5 搞定 zipkin 收集、存储、展示

这部分中的收集、展示功能,zipkin官方自带完整实现,无需进行二次开发。存储这块,提供了MySQL、Elasticsearch 等接入方式。可以根据实际情况去做相应的接入。本文采用 docker-compose集成了ElasticSearch。







审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • MySQL
    +关注

    关注

    1

    文章

    800

    浏览量

    26413
  • HTTP协议
    +关注

    关注

    0

    文章

    61

    浏览量

    9700
  • API串口
    +关注

    关注

    0

    文章

    13

    浏览量

    4836
  • typec接口
    +关注

    关注

    0

    文章

    20

    浏览量

    14343

原文标题:Node.js应用全链路追踪技术——全链路信息存储

文章出处:【微信号:OSC开源社区,微信公众号:OSC开源社区】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    LABVIEW中如何将串口接收的数据存储起来

    LABVIEW中怎样串口接收的数据存储起来
    发表于 07-17 14:27

    压测一招搞定,阿里云性能测试铂金版发布

    版本的发布,就是全局的复杂流量形态编排、串联这块的工作变成一个基于直白式交互的功能,可以让用户在压测场景构造和复现上无需编码,网页上就能编排复杂的压测业务,希望以更智能而简单的
    发表于 01-30 14:13

    基于分布式调用监控技术的全息排查功能

    作为鹰眼的商业化产品,用于APM监控的阿里云业务实时监控服务 (ARMS) , 基于鹰眼的全息排查沉淀,近日推出了基于分布式调用监控技术
    发表于 08-07 17:02

    如何三种波形都存储起来

    从串口接收的数据想要存储到一个64k外部数据存储器里面怎么做呢? 另外,就是如何三种波形都存储起来
    发表于 07-02 03:06

    监控工具Skywalking使用指南

    国产监控工具Skywalking
    发表于 09-03 14:26

    何用片内FLASH存储字库?

    大家好,我最近在使用STM32F103在调uCGUI,如何用片内FLASH存储字库?自己生成的字库.fon格式不知道怎么加到程序里,打开全是乱码
    发表于 09-10 04:36

    高级数据链控制的操作方式是什么?

      高级数据链控制涉及三种类型的站,即主站、从站和复合站。  主站的主要功能是发送命令(包括数据信息)帧、接收响应帧,并负责对整个
    发表于 11-01 09:10

    labview中怎样串口接收的数据存储起来

    labview中怎样串口接收的数据存储起来,希望有个简单例程。
    发表于 03-30 15:15

    OPPO发布色彩管理系统详解:支持10bit图片与视频拍摄,Find X3首发搭载

    管理系统核心 一张照片的完整体现需要经过采集、运算、编码、存储、解码、显示,任一步骤的标准缺失都无法正确完美的展现图片信息。OPPO
    的头像 发表于 11-18 11:39 1725次阅读

    浅谈OPPO设计的首个Android色彩管理系统

    2020年11月18日,中国,深圳--今日,OPPO在以“跃迁·致善”为主题的未来科技大会2020(OPPO INNO DAY 2020)上,正式推出OPPO色彩管理系统,同时也是面向未来广色域、高色深时代设计的首个And
    的头像 发表于 11-18 16:25 1860次阅读

    OPPO色彩管理系统包含哪两大核心技术

    OPPO在以“跃迁·致善”为主题的未来科技大会2020上,正式推出OPPO色彩管理系统,同时也是面向未来广色域、高色深时代设计的首个Android
    的头像 发表于 11-19 11:19 1807次阅读

    2021 OPPO开发者大会主会场:OPPO智行打造无缝出行体验

    2021 OPPO开发者大会主会场:OPPO智行打造无缝出行体验
    的头像 发表于 10-27 11:09 1172次阅读
    2021 OPPO开发者大会主会场:OPPO智行打造<b class='flag-5'>全</b><b class='flag-5'>链</b><b class='flag-5'>路</b>无缝出行体验

    2021 OPPO开发者大会:运营

    2021 OPPO开发者大会:运营 2021 OPPO开发者大会上介绍了运营,
    的头像 发表于 10-27 15:07 2269次阅读
    2021 OPPO开发者大会:<b class='flag-5'>全</b><b class='flag-5'>链</b><b class='flag-5'>路</b>运营

    追踪系统SkyWalking的原理

    什么是追踪追踪的原理
    的头像 发表于 01-17 11:00 4064次阅读

    介绍Node.js应用信息获取的方法

    这种技术,就是Node.js应用追踪。它是 Node.js 在涉及到复杂服务端业务场景中,必不可少的
    的头像 发表于 02-10 11:21 605次阅读