0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Python开发者必备工具集

科技绿洲 来源:Python开发者 作者:Python开发者 2023-10-16 11:14 次阅读

这篇文章会提供一些优化代码的工具。会让代码变得更简洁,或者更迅速。

当然这些并不能代替算法设计,但是还是能让 Python 加速很多倍。

其实前面讲算法的文章,也有提到过。比如适用于双向队列的 deque,以及在合适的条件下运用 bisect 和 heapq 来提升算法的性能。

而且前面也提到过,Python 提供了当今最高级也是最有效的排序算法(list.sort)。

另外还有一个功能多样又迅速的散列表(dict)。而且如果写迭代器封装、功能性代码或者是某种额外扩展的时候,或许CyToolz可以用得到。当然在itertools 和 functools 模块中,还有很多函数可以带来很高效的代码。

这篇文章主要讲优化单处理器的代码,下面会介绍一些一些高效的函数实现,也有已经封装好的拓展模块,还包括速度更快的 Python 解释器。

当然多处理器版本确实能大幅提高运行效率。如果想了解多核编程,可以从multiprocessing 模块开始。而且也能找到非常多的关于分布式计算的第三方工具。这里可以看一下 Python wiki 上的关于 Parallel Processing 的内容。

接下来,会说一些关于Python 加速工具的选单。

NumPy、SciPy、Sage 和 Pandas

先说 NumPy,它的核心是一个多维数字数组的实现。除了这个数据结构之外,还实现了若干个函数和运算符,可以高效地进行数组运算。并且对于被调用的次数进行了精简。它可以被用来进行极其高效的数学运算。

SciPy 和 Sage 都将 NumPy 内置为自身的一部分,同时内置了其他的不同的工具,从而可以用于特定科学、数学和高性能计算的模块。

Pandas 是一个侧重于数据分析的工具。如果处理大量半结构化数据的时候,可能也会用到 Pandas 相关的工具,比如 Blaze。

PyPy、Pyston、Parakeet、Psyco 和 Unladen Swallow

让代码运行的更快,侵入性最小的就是使用实时编译器(JIT 编译)。以前的话我们可以直接安装 Psyco。安装之后导入 psyco,然后调用 psyco.full()。代码运行速度就可以明显提升。运行 Python 代码的时候,它可以实时监控程序,会将一部分代码编译为了机器码。

现在好多 Psyco 等加速器的项目已经停止维护了,不过类似的功能在 PyPy 中得到了继承。PyPy 为了方便分析、优化和翻译,用 Python 语言将 Python 重新实现了一遍,这样就可以 JIT 编译。而且 PyPy 可以直接将代码翻译成像 C 那样的性能更高的语言。

Unladen Swallow 是一个 Python 的 JIT 编译器。是 Python 解释器的一本版本,被称为底层虚拟机(LLVM)。不过这个开发已经停止了。

Pyston 是一个与 LLVM 平台较为接近的 Python 的 JIT 编译器。很多时候已经优于 Python 的实现,但不过还有很多地方不完善。

GPULib、PyStream、PyCUDA 和 PyOpenCL

这四个都是用在图像处理单元来实现代码的加速。前面讲的都是用代码优化来实现加速的。而这些都是从硬件层面上进行加速,如果有一个强大的 GPU,我们可以用 GPU 来计算,从而减少 CPU 宝贵的资源。

PyStream 古老一点。GPULib 提供了基于 GPU 的各种形式的数据计算。

如果用 GPU 加速自己的代码,可以用 PyCUDA 和 PyOpenCL。

Pyrex、Cython、Numba 和 Shedskin

这四个项目都致力于将 Python 代码翻译为 C、C++和 LLVM 的代码。Shedskin 会将代码编译为 C++语言。Pyrex、Cython 编译的主要目标是 C 语言。Cython 也是 Pyrex 的一个分支。

而且,Cython 还有 NumPy 数组的额外支持。

如果面向数组和数学计算的时候,Numba 是更好的选择导入时会自动生成相应的 LLVM 的代码。升级版本是 NumbaPro,还提供了对 GPU 的支持。

SWIG、F2PY、Boost.Python

这些工具可以将其他的语言封装为 Python 的模块。第一个可以封装 C/C++语言。F2PY 可以封装 Fortran。Boost.Python 可以封装 C++语言。

SUIG 只要启动一个命令行工具,往里面输入 C 或者 C++的头文件,封装器代码就会自动生成。除了 Python,而且可以成为其他语言的封装器,比如 Java 和 PHP。

ctypes、llvm-py 和 CorePy2

这些模块可以帮助我们实现Python 底层对象的操作。ctypes 模块可以用于在内存中构建编译 C 的对象。并且调用共享库中的 C 的函数。不过 ctypes 已经包含在 Python 的标准库里面了。

llvm-py 主要提供LLVM 的 Python 接口。以便于构建代码,然后编译他们。也可以在 Python 中构建它的编译器。当然搞出自己编程语言也是可以的。CorePy2 也可以进行加速,不过这个加速是运行在汇编层的。

Weave、Cinpy 和 PyInline

这三个包,就可以让我们在 Python 代码中直接使用 C 语言或者其他的高级语言。混合代码,依然可以保持整洁。可以使用 Python 代码的字符串的多行特性,可以使其他的代码按照自身的风格来进行排版。

其他工具

如果我们要节省内存,就不能使用 JIT 了。一般 JIT 都太耗费内存。有一句话说的很对,时间和内存经常不能兼得,而我们在工程开发中,总是要寻找他们的平衡点。至于其他的一些东西,比如 Micro Python 项目,这个是用在嵌入式设备或者微控制器上面使用的。

如果只是想在 Python 环境中工作,然后想用别的语言,可以看看这个项目Julia。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 代码
    +关注

    关注

    30

    文章

    4741

    浏览量

    68321
  • 排序算法
    +关注

    关注

    0

    文章

    52

    浏览量

    10051
  • python
    +关注

    关注

    55

    文章

    4778

    浏览量

    84439
  • 开发者
    +关注

    关注

    1

    文章

    553

    浏览量

    16980
收藏 人收藏

    评论

    相关推荐

    LabVIEW开发者必备技巧宝典 第一部分

    LabVIEW开发者必备技巧宝典由电子发烧友网论坛出品,集结众多大牛、工程师的经验之作。为广大LabVIEW开发工程师提供开发、调试技巧,助力LabVIEW工程师。
    发表于 11-20 10:55

    LabVIEW开发者必备技巧宝典第一部分

    LabVIEW开发者必备技巧宝典由电子发烧友网论坛出品,集结众多大牛、工程师的经验之作。为广大LabVIEW开发工程师提供开发、调试技巧,助力LabVIEW工程师。更多精彩内容:htt
    发表于 11-21 15:17

    LabVIEW开发者必备技巧宝典第二部分

    LabVIEW开发者必备技巧宝典第二部分:由电子发烧友网论坛整理出品,集结众多大牛、工程师的经验之作。为广大LabVIEW开发工程师提供开发、调试技巧,助力LabVIEW工程师。
    发表于 11-26 15:32

    LabVIEW开发者必备技巧宝典第三部分

    LabVIEW开发者必备技巧宝典第三部分分享给大家,请叫我雷锋。
    发表于 12-05 11:40

    LabVIEW开发者必备技巧宝典第二部分

    ``LabVIEW开发者必备技巧宝典第二部分:由电子发烧友网论坛总结出品,集结众多大牛、工程师的经验之作。为广大LabVIEW开发工程师提供开发、调试技巧,助力LabVIEW工程师。欢
    发表于 12-05 14:17

    LabVIEW开发者必备技巧宝典第四部分

    LabVIEW开发者必备技巧宝典由电子发烧友网论坛出品,集结众多大牛、工程师的经验之作。为广大LabVIEW开发工程师提供开发、调试技巧,助力LabVIEW工程师。
    发表于 12-13 12:03

    LabVIEW开发者必备技巧宝典第四部分

    LabVIEW开发者必备技巧宝典由电子发烧友网论坛出品,集结众多大牛、工程师的经验之作。为广大LabVIEW开发工程师提供开发、调试技巧,助力LabVIEW工程师。更多精彩内容:htt
    发表于 12-13 15:02

    开发者福音!谷歌云APP引擎开始支持Python 3.7

    `Python表示很开心!谷歌云推出了第二代App Engine引擎标准runtime,这是对平台的重大升级,允许开发者使用最新版本流行语言、框架和库轻松运行web应用程序。想要尝鲜的小伙伴们,猛戳
    发表于 08-14 10:12

    AUTOSCOPE开发者工具

    AUTOSCOPE软件开发者工具包(SDK)提供了一些必要工具;包括AUTOSCOPE视频检测系统和现有交通管理应用程序的必要集成工具开发
    发表于 04-11 21:11 37次下载

    2018年受到众多开发者关注的7个Python类库

    几个还不太知名的库引起了Python开发者的关注。
    的头像 发表于 10-02 09:30 4749次阅读

    Python开发者最容易忽略的10个要点

    Python是一门简单易学的编程语言,语法简洁而清晰,并且拥有丰富和强大的类库。与其它大多数程序设计语言使用大括号不一样 ,它使用缩进来定义语句块。 在平时的工作中,Python开发者很容易犯一些
    的头像 发表于 01-02 10:13 973次阅读

    开发者必备的七大工具,提升应用程序开发工作效率

    随着应用程序变得越来越复杂,新兴技术栈越来越多,应用程序开发变成一个令人生畏的任务。但是,网上有许多可用的工具能在应用程序开发过程中给我们提供很大帮助。本文列出了一些我用过的工具,希望
    的头像 发表于 10-23 16:22 3110次阅读

    MCU开发者案头必备,全新MCUXpresso软件与工具指南,速来下载!

    经验告诉我们,成功的嵌入式开发除了要有MCU丰富的硬件资源支持,也少不了软件和工具的助力。而一直以来,软件与工具的进步滞后于MCU硬件迭代的速度,这也是不争的事实。 为了帮助开发者跨越
    的头像 发表于 03-29 08:20 1219次阅读

    OpenHarmony开发者大会 开发工具分论坛:聚能量赢未来,工具助力应用创新

    日前,以“开源正当时,共赢新未来”为主题的开放原子开源基金会OpenHarmony开发者大会2023(以下简称“大会”)在北京举行,“开发工具分论坛”于当天下午召开。在本次论坛上,各位演讲嘉宾重点
    的头像 发表于 05-08 14:42 1255次阅读
    OpenHarmony<b class='flag-5'>开发者</b>大会 <b class='flag-5'>开发工具</b>分论坛:聚能量赢未来,<b class='flag-5'>工具</b>助力应用创新

    华为云开发者桌面全新发布 CodeArts IDE for Python,极致优雅云原生开发体验

    近日,华为云正式发布 CodeArts IDE for Python,这是一款内置华为自研 Python 语言服务,提供智能编程、灵活调试能力的可扩展桌面开发工具,为华为云开发者提供卓
    的头像 发表于 05-10 00:27 1198次阅读
    华为云<b class='flag-5'>开发者</b>桌面全新发布 CodeArts IDE for <b class='flag-5'>Python</b>,极致优雅云原生<b class='flag-5'>开发</b>体验