0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Python后端项目的协程是什么

Linux爱好者 来源:Python编程时光 作者:Python编程时光 2021-09-23 14:38 次阅读

最近公司 Python 后端项目进行重构,整个后端逻辑基本都变更为采用“异步”协程的方式实现。看着满屏幕经过 async await(协程在 Python 中的实现)修饰的代码,我顿时感到一脸懵逼,不知所措。

虽然之前有了解过“协程”是什么东西,但并没有深入探索,于是正好借着这次机会可以好好学习一下。

什么是协程?

简单来说,协程是一种基于线程之上,但又比线程更加轻量级的存在。对于系统内核来说,协程具有不可见的特性,所以这种由 程序员自己写程序来管理的轻量级线程又常被称作 “用户空间线程”。

协程比多线程好在哪呢?

线程的控制权在操作系统手中,而 协程的控制权完全掌握在用户自己手中,因此利用协程可以减少程序运行时的上下文切换,有效提高程序运行效率。

建立线程时,系统默认分配给线程的 栈 大小是 1 M,而协程更轻量,接近 1 K 。因此可以在相同的内存中开启更多的协程。

由于协程的本质不是多线程而是单线程,所以不需要多线程的锁机制。因为只有一个线程,也不存在同时写变量而引起的冲突。在协程中控制共享资源不需要加锁,只需要判断状态即可。所以协程的执行效率比多线程高很多,同时也有效避免了多线程中的竞争关系。

协程的适用 & 不适用场景

适用场景:协程适用于被阻塞的,且需要大量并发的场景。

不适用场景:协程不适用于存在大量计算的场景(因为协程的本质是单线程来回切换),如果遇到这种情况,还是应该使用其他手段去解决。

初探异步 http 框架 httpx

至此我们对 “协程” 应该有了个大概的了解,但故事说到这里,相信有朋友还是满脸疑问:“协程” 对于接口测试有什么帮助呢?不要着急,答案就在下面。

相信用过 Python 做接口测试的朋友都对 requests 库不陌生。requests 中实现的 http 请求是同步请求,但其实基于 http 请求 IO 阻塞的特性,非常适合用协程来实现 “异步” http 请求从而提升测试效率。

相信早就有人注意到了这点,于是在 Github 经过了一番探索后,果不其然,最终寻找到了支持协程 “异步” 调用 http 的开源库: httpx

什么是 httpx

httpx 是一个几乎继承了所有 requests 的特性并且支持 “异步” http 请求的开源库。简单来说,可以认为 httpx 是强化版 requests。

下面大家可以跟着我一起见识一下 httpx 的强大

安装

httpx 的安装非常简单,在 Python 3.6 以上的环境执行

pip install httpx

最佳实践

俗话说得好,效率决定成败。我分别使用了 httpx 异步 和 同步 的方式对批量 http 请求进行了耗时比较,来一起看看结果吧~

首先来看看同步 http 请求的耗时表现:

import asyncio

import httpx

import threading

import time

def sync_main(url, sign):

response = httpx.get(url).status_code

print(f‘sync_main: {threading.current_thread()}: {sign}2 + 1{response}’)

sync_start = time.time()

[sync_main(url=‘http://www.baidu.com’, sign=i) for i in range(200)]

sync_end = time.time()

print(sync_end - sync_start)

代码比较简单,可以看到在 sync_main 中则实现了同步 http 访问百度 200 次。

运行后输出如下(截取了部分关键输出…):

sync_main: 《_MainThread(MainThread, started 4471512512)》: 192: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 193: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 194: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 195: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 196: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 197: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 198: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 199: 200

16.56578803062439

可以看到在上面的输出中, 主线程没有进行切换(因为本来就是单线程啊喂!)请求按照顺序执行(因为是同步请求)。

程序运行共耗时 16.6 秒

下面我们试试 “异步” http 请求:

import asyncio

import httpx

import threading

import time

client = httpx.AsyncClient()

async def async_main(url, sign):

response = await client.get(url)

status_code = response.status_code

print(f‘async_main: {threading.current_thread()}: {sign}:{status_code}’)

loop = asyncio.get_event_loop()

tasks = [async_main(url=‘http://www.baidu.com’, sign=i) for i in range(200)]

async_start = time.time()

loop.run_until_complete(asyncio.wait(tasks))

async_end = time.time()

loop.close()

print(async_end - async_start)

上述代码在 async_main 中用 async await 关键字实现了“异步” http,通过 asyncio ( 异步 io 库请求百度首页 200 次并打印出了耗时。

运行代码后可以看到如下输出(截取了部分关键输出…)

async_main: 《_MainThread(MainThread, started 4471512512)》: 56: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 99: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 67: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 93: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 125: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 193: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 100: 200

4.518340110778809

可以看到顺序虽然是乱的(56,99,67…) (这是因为程序在协程间不停切换) 但是主线程并没有切换 (协程本质还是单线程 )。

程序共耗时 4.5 秒

比起同步请求耗时的 16.6 秒 缩短了接近 73 %!

俗话说得好,一步快,步步快。 在耗时方面,“异步” http 确实比同步 http 快了很多。当然,“协程” 不仅仅能在请求效率方面赋能接口测试, 掌握 “协程”后,相信小伙伴们的技术水平也能提升一个台阶,从而设计出更优秀的测试框架。

责任编辑:haq

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 操作系统
    +关注

    关注

    37

    文章

    6794

    浏览量

    123275
  • 代码
    +关注

    关注

    30

    文章

    4774

    浏览量

    68504
  • python
    +关注

    关注

    56

    文章

    4792

    浏览量

    84614

原文标题:强化版的 requests,这个库真牛 x

文章出处:【微信号:LinuxHub,微信公众号:Linux爱好者】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    使用TMS320C6416处理器:Turbo处理器(TCP)

    电子发烧友网站提供《使用TMS320C6416处理器:Turbo处理器(TCP).pdf》资料免费下载
    发表于 10-23 10:16 0次下载
    使用TMS320C6416<b class='flag-5'>协</b>处理器:Turbo<b class='flag-5'>协</b>处理器(TCP)

    使用TMS320C6416处理器:Viterbi处理器(VCP)

    电子发烧友网站提供《使用TMS320C6416处理器:Viterbi处理器(VCP).pdf》资料免费下载
    发表于 10-21 09:36 0次下载
    使用TMS320C6416<b class='flag-5'>协</b>处理器:Viterbi<b class='flag-5'>协</b>处理器(VCP)

    浅谈宜宾高新区和光同一期屋顶分布式光伏发电项目的研究与设计

    本文就Acrel-1000DP分布式光伏监控系统和光功率预测软件在和光同一期屋顶分布式光伏发电项目中的应用方案进行了介绍,项目同时涉及到数据的调度上传,因此配备了纵向加密和正反向隔离等装置来确保数据的安全,防止潜在的网络攻击和
    的头像 发表于 10-09 10:03 393次阅读
    浅谈宜宾高新区和光同<b class='flag-5'>程</b>一期屋顶分布式光伏发电<b class='flag-5'>项目的</b>研究与设计

    如何帮助孩子高效学习Python:开源硬件实践是最优选择

    家长们常常担心孩子在学习Python时所面临的挑战,如复杂性、兴趣保持、学习进度和可用资源。对于希望有效教授孩子Python的家长而言,了解硬件的作用至关重要,因为结合硬件项目的Python
    的头像 发表于 09-06 09:49 302次阅读

    用pycharm进行python爬虫的步骤

    提供了许多有用的功能,如代码自动完成、调试和版本控制等。您可以从JetBrains的官方网站下载PyCharm,并根据您的需求选择免费社区版或付费专业版。 创建一个新的Python项目 打开
    的头像 发表于 07-11 10:11 813次阅读

    后端数据传输约定探讨

    1 目的 稳定可靠,降本增效   前后端数据传输约定旨在提升系统稳定性、可靠性,降低线上线下bug率;并提升研发效率、降低沟通成本、降低延期率。是确保项目前端和后端开发顺利进行的重要规
    的头像 发表于 07-08 19:10 227次阅读
    前<b class='flag-5'>后端</b>数据传输约定探讨

    港华能源与鑫光电将共建全球首个2平米钙钛矿叠层组件实证示范项目

    近日,港华能源投资有限公司与鑫科技旗下昆山鑫光电材料有限公司(下称“鑫光电”)签署战略合作,将在今年内共同建设全球首个产业化2平米尺寸的钙钛矿叠层组件实证示范项目
    的头像 发表于 04-10 09:16 380次阅读

    SOLIDWORKS教育版使学生了解如何加快设计项目的速度

    在当今信息爆炸的时代,设计项目的速度和效率对于工程专业的学生来说至关重要。SOLIDWORKS教育版作为一款专门为学生设计的3D CAD软件,不仅提供了强大的设计工具,更致力于帮助学生了解如何加快设计项目的速度,提升他们的设计能力和效率。
    的头像 发表于 04-09 16:00 319次阅读

    电力监控系统在吉林财富广场项目的设计与应用

    安科瑞 项目概况 吉林财富购物广场,位于吉林省吉林市昌邑区吉林大街与上海路交汇处,毗邻吉林市重要商圈东市场。总规模达30万㎡。 项目范围 吉林财富购物广场1个高压配电室采集8台安科瑞AM5微机
    的头像 发表于 04-03 16:35 251次阅读
    电力监控系统在吉林财富广场<b class='flag-5'>项目的</b>设计与应用

    硬件测试服务项目的重要性和作用

    硬件测试服务项目是确保硬件设备性能稳定、质量可靠的关键环节。它涉及对硬件产品进行全面、细致的检查和验证,以确保其满足设计要求并具备优良的用户体验。以下是关于硬件测试服务项目的详细介绍。 一、硬件测试
    的头像 发表于 03-28 09:54 729次阅读
    硬件测试服务<b class='flag-5'>项目的</b>重要性和作用

    什么是模拟前端和模拟后端 模拟前端与模拟后端的区别

    模拟前端和模拟后端是电子系统设计中的两个关键部分,它们在信号处理过程中扮演着不同的角色,各自具有独特的功能和重要性。
    的头像 发表于 03-16 15:21 2603次阅读

    模拟前端和后端的区别

    模拟前端和模拟后端在电子系统设计中各自扮演着重要的角色,它们之间有着明显的区别。
    的头像 发表于 03-15 15:59 1030次阅读

    模拟后端是什么意思

    模拟后端,在软件开发和测试领域,通常是指使用工具或技术来模拟实际后端服务的行为。这样做的主要目的是在项目开发过程中,当后端服务还未就绪或暂时
    的头像 发表于 03-15 15:58 653次阅读

    MES系统项目的正确实施

    电子发烧友网站提供《MES系统项目的正确实施.docx》资料免费下载
    发表于 01-31 09:24 0次下载

    谈谈的那些事儿

    随着异步编程的发展以及各种并发框架的普及,作为一种异步编程规范在各类语言中地位逐步提高。我们不单单会在自己的程序中使用,各类框架如fastapi,aiohttp等也都是基于异步
    的头像 发表于 01-26 11:36 1109次阅读
    谈谈<b class='flag-5'>协</b><b class='flag-5'>程</b>的那些事儿