0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

技术速递 | Java Agent场景性能测试分析优化经验分享

华为DevCloud 来源:未知 2023-03-25 07:55 次阅读

作者:栾文飞 高阶软件工程师

一、背景介绍

Sermant是一个主打服务治理领域的Java Agent框架,在服务治理中难免会有针对业务流量进行解析和处理的过程,此类服务治理能力将会对微服务的服务能力产生一定的性能影响,作为一个基于Java Agent技术做服务治理的框架,我们需要在保证服务治理能力生效的同时,极小的影响微服务原有的服务性能。

虽然基于Java Agent的服务治理和基于SDK的服务治理在其原理上有所不同,但也避免不了微服务治理过程中产生对微服务原有性能的影响,基于Java Agent服务治理方式的相较于SDK的服务治理方式免去了侵入式的代码开发,是一种运行时技术,所以还需要考虑更多方面性能优化问题,例如在启动时间,运行时增强性能开销等,本文将以Sermant的SpringBoot 注册插件的性能测试及优化过程为例,分享在Java Agent场景如何进行更好的性能测试优化及在Java Agent下需要着重注意的性能陷阱。

SpringBoot 注册插件为SpringBoot应用提供服务注册发现能力,可用于在不修改原有代码的前提下快速从ESB架构演进为微服务架构,在该插件中包含针对域名的替换能力,服务注册发现能力,请求的超时重试等,为架构的成功演进,原有架构中基于域名的请求调用,将会被基于注册信息的请求调用(通过该插件的服务注册发现能力,获取服务提供者注册的信息)所取代,如下图所示:

5af180b2-ca9e-11ed-bfe3-dac502259ad0.png

在域名处理的过程是必然会参与到调用过程中的,这是服务治理能力对业务性能影响的典型场景。

二、测试方案

众所周知,Java Agent程序和被增强应用运行时同进程,Java Agent程序最重要的是不能对被挂载的应用产生异常影响,导致应用不可用,所以Sermant在运行时的处理性能及稳定性等做多方面的测试考量。在针对微服务进行测试的过程中,我们往往只需要关注该微服务的性能即可,通过压力测试来检验微服务的服务提供能力,由于服务治理能力并不直接提供服务,我们更多地需要关注在开启服务治理能力时,对微服务本身服务提供能力的影响,所以我们在测试方案中需要进行对比测试来评估服务治理能力的好坏。

本对照测试中,我们通过压力测试让系统达到极限场景(consumer端的CPU已经到达瓶颈),来分析携带Sermant并启用服务治理能力时,对应用原有服务提供能力的影响,此处采用两种部署方案:

  • 不携带Sermant,基于网关的场景,是架构改造前的运行模式

  • 携带Sermant的场景,是迁移后的微服务架构运行模式

5b57e5c8-ca9e-11ed-bfe3-dac502259ad0.png

注:在这种对比测试中,基于Java Agent的服务治理只需要对携带Java Agent程序和不携带Java Agent程序的场景进行对照测试即可,无需两套代码进行对照测试。

由于Java Agent程序和被增强应用处于统一进程,资源共享,基于上述两种部署方案进行测试,以不携带Java Agent程序作为测试分析的对照组,就可以很清晰的看出引入Java Agent程序后产生的影响,并可根据对照结果进行优化,应用于Sermant上,就可以很容易的分析出Sermant的服务治理能力对微服务本身服务提供能力带来的影响。

三、性能分析

由于需要针对应用发起的请求通过字节码增量的方式做域名的替换,SpringBoot 注册插件通过对HttpClient、Openfeign、Okhttp等http客户端进行了字节码增强,我们根据上一章节中的测试方案对该插件提供的服务治理能力进行了测试,下面我们以HttpClien为例通过CPU火焰图来讲述如何在Java Agent场景下分析性能瓶颈:

在性能调优过程中,我们可通过CPU火焰图来分析性能瓶颈,火焰图可以称之为性能问题分析的"X光",可以很一针见血的看出在程序运行中哪些代码片段产生了异常的CPU占用。可以参考《使用火焰图(FlameGraph)分析程序性能》进行学习,当然,采集CPU火焰图的方式很多,我们只需要学会如何看懂火焰图即可。

分析步骤

1. 找到字节码增强逻辑的CPU占用

在分析过程中,首先需要找到字节码增强时选中的被增强方法(本文场景增强方法为InternalHttpClient::doExecute),字节码增强需要被增强程序的原有方法调用触发,所以也可以很清晰的在CPU火焰图中可以看到,Sermant实现的逻辑调用栈在被增强方法之上,在字节码增强逻辑执行结束后,被增强方法还会继续执行。

5b8a418a-ca9e-11ed-bfe3-dac502259ad0.png

所以除被增强方法执行的调用栈及CPU时间片占用外,皆为字节码增强所引入逻辑,在性能优化中需着重关注。

2. 分析异常占用

根据CPU火焰图原理,找出字节码增强部分,找出异常占用CPU时间片的调用栈,并进行程序的优化,如下图所示红框选择部分,皆为字节码增强中引入的逻辑,占用了非常多的CPU时间片,由于字节码增强程序和被增强程序,这种异常的占用,将会严重影响原程序的性能,在针对Java Agent场景的优化中可着重优化。

5bc75f70-ca9e-11ed-bfe3-dac502259ad0.png

通过上述步骤,我们可以一目了然的看到我们通过Java Agent程序引入的CPU额外占用,具体占用原因本文就不一一分析。

四、性能陷阱

基于上述两个章节的测试和分析方法,在本文的最后,列举出在Java Agent开发过程中经常会遇到的性能陷阱,这里也给出解决方式,可以在开发中注意:

|减少反射使用

在字节码增强开发过程中,很多情况下,如果类加载器不同,针对被增强应用的类和方法往往需要通过反射去获取并使用,在我们的性能分析中,反射是一个CPU占用的巨大陷阱,在有些被BootstrapClassLoader加载的类增强时,甚至反射占用了一个方法调用30%以上的CPU时间片。

下图选中方法中,反射占用该方法调用中的大部分CPU时间片:

5c0c918a-ca9e-11ed-bfe3-dac502259ad0.png

但是由于类加载器的限制,有些反射是必须要使用的,我们也可以通过一定的手段进行优化,比如缓存通过反射获取的类和方法,在字节码增强中,多次触发增强逻辑时减少反射占用CPU时间片非常有效。

5c4c971c-ca9e-11ed-bfe3-dac502259ad0.png

通过上述步骤优化后,通过火焰图来看,效果是非常显著的:

5c7ec610-ca9e-11ed-bfe3-dac502259ad0.png

|注意字节码增强插桩选择

在做字节码增强时的增强点选择很重要,字节码增强添加Transformer后运行时分为两种情况:

  • transform:针对尚未被类加载器加载的类,如果添加Transformer,在类被加载时就会触发字节码的转换.

  • retransform:针对已经被类加载器加载的类,如果添加了Transformer,则需要被重新加载后再进行字节码的转换。

Java中被BootstrapClassLoader加载的类,如果想要进行字节码增强,就需要使用第二种字节码转换的方式,可想而知,如果重新加载类再进行转换必然没有在类第一次加载时就进行转换的效率高。

除上述原因之外,在增强启动类加载器加载的类时,由于双亲委派机制的限制(只能向上委托,不能向下委托),往往都是需要大量使用反射(用于调用其他类加载器加载的类)来实现增强逻辑。

5cd7bef0-ca9e-11ed-bfe3-dac502259ad0.png

上文中也讲到,不加节制的使用反射将会通过Java Agent程序严重影响被增强应用的性能,所以在开发Java Agent时,需要谨慎选择增强的类,非必要不增强被启动类加载器加载的类。

上述两点是在Java Agent开发过程中最容易发生的向被增强应用引入的性能陷阱,除此之外,Java Agent也是由Java所开发,在开发过程中也需要注意不要引入常见的性能陷阱。

Sermant作为专注于服务治理领域的字节码增强框架,致力于提供高性能、可扩展、易接入的服务治理体验,并会在每个版本中做好性能、功能、体验的看护,广泛欢迎大家的加入。

Sermant官网:https://sermant.io

GitHub仓库地址:https://github.com/huaweicloud/Sermant

添加Sermant小二(微信号:sermant-support)加入社区交流群

或扫码加入Sermant社区交流群

5d16f0ca-ca9e-11ed-bfe3-dac502259ad0.png


原文标题:技术速递 | Java Agent场景性能测试分析优化经验分享

文章出处:【微信公众号:华为DevCloud】欢迎添加关注!文章转载请注明出处。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 华为
    +关注

    关注

    216

    文章

    34411

    浏览量

    251513

原文标题:技术速递 | Java Agent场景性能测试分析优化经验分享

文章出处:【微信号:华为DevCloud,微信公众号:华为DevCloud】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    测试接收机的技术原理和应用场景

    测试接收机是一种专门用于信号测量和分析的电子设备,具有高精度、高灵敏度、高稳定性等特点。以下将详细阐述测试接收机的技术原理和应用场景。一、
    发表于 12-03 14:23

    射频分析仪的技术原理和应用场景

    射频分析仪是一种功能强大的电子测量仪器,在无线通信、电子测试等领域具有广泛的应用。以下是关于射频分析仪的技术原理和应用场景的详细介绍:一、射
    发表于 11-26 14:32

    无线连接测试仪的技术原理和应用场景

    技术进行数据传输。无线连接测试仪可以保障这些设备在医院环境中的稳定连接,确保患者数据的准确传输和实时监控。在紧急救援场景中,测试仪能够快速检测通信设备的
    发表于 11-21 14:51

    OTA测试暗箱的技术原理和应用场景

    OTA测试暗箱在无线通信设备的研发与测试中扮演着至关重要的角色。以下是对OTA测试暗箱技术原理和应用场景的详细阐述:一、OTA
    发表于 11-14 14:36

    无线通信测试平台的技术原理和应用场景

    。 无线信道测量: 使用矢量网络分析仪等设备进行无线信道的频率响应和冲击响应测量,以评估信道的传输特性和性能。 综上所述,无线通信测试平台的技术原理和应用
    发表于 11-06 14:29

    陆地移动无线电调制分析仪的技术原理和应用场景

    陆地移动无线电调制分析仪是一种专用于陆地移动无线电(LMR)系统的高性能测试设备,其技术原理和应用场景如下:
    发表于 11-05 14:28

    移动终端测试仪的技术原理和应用场景

    不同的实际环境中进行现场测试,评估手机的性能表现。 教学和培训:在电子通信相关的教学和培训中,便携综测仪可以让学生更直观地了解手机的性能测试过程。 移动终端
    发表于 11-04 16:01

    信令测试仪器的技术原理和应用场景

    过程中,信令测试仪器用于定位和解决系统中的故障和问题。通过对信令的测试分析,可以帮助找到故障的原因和发生的场景,提供故障排查和修复的指导。 通信系统
    发表于 10-31 14:45

    使用Arthas火焰图工具的Java应用性能分析优化经验

    分享作者在使用Arthas火焰图工具进行Java应用性能分析优化经验
    的头像 发表于 10-28 09:27 250次阅读
    使用Arthas火焰图工具的<b class='flag-5'>Java</b>应用<b class='flag-5'>性能</b><b class='flag-5'>分析</b>和<b class='flag-5'>优化</b><b class='flag-5'>经验</b>

    误码率测试仪的技术原理和应用场景

    进行分析,如误码的分布情况、误码的类型等,以便于进一步优化数字通信系统的性能。应用场景误码率测试仪在多个领域具有广泛的应用,包括但不限于:
    发表于 10-25 14:05

    参数分析仪的技术原理和应用场景

    仪,如硬度测试仪,通过施加一定的压力于样品表面,然后测量样品的变形或恢复程度来评估其力学性能。这种测试通常基于压入法或划痕法等测量技术。 传感器技术
    发表于 10-17 14:42

    太阳膜测试仪的技术原理和应用场景

    性能及其在不同应用场景下的表现。这有助于推动太阳膜技术的发展和创新。 综上所述,太阳膜测试仪通过其独特的技术原理和广泛的应用
    发表于 09-29 14:18

    智能IC卡测试设备的技术原理和应用场景

    应用场景中的可靠性和安全性。 综上所述,智能IC卡测试设备在保障IC卡质量和性能、提高系统安全性和稳定性等方面发挥着重要作用。随着技术的不断发展和应用
    发表于 09-26 14:27

    USB协议分析仪的技术原理和应用场景

    仪可以作为实验工具,帮助学生理解USB通信协议的工作原理。 研究人员可以利用协议分析仪进行深入的协议分析性能评估,为USB技术的发展提供理论支持。 质量保证与
    发表于 09-24 14:29

    脉冲式线圈测试仪的技术原理和应用场景

    脉冲式线圈测试仪,也被称为数字式匝间绝缘测试仪,其技术原理和应用场景如下:技术原理脉冲式线圈测试
    发表于 09-18 14:29