0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

开源“摩尔定律”即将打破《2022开源大数据热力报告》云栖大会上发布

OSC开源社区 来源: OSC开源社区 作者: OSC开源社区 2022-11-09 15:07 次阅读

11月5日,在2022云栖大会一体化大数据智能峰会上,由开放原子开源基金会、X-lab开放实验室和阿里巴巴开源委员会联合出品的《2022年开源大数据热力报告》重磅发布。 开放原子开源基金会副秘书长刘京娟女士对报告进行了深度解读。报告基于公开数据研究最活跃的102个开源大数据项目,探寻出开源大数据技术发展背后的“摩尔定律”:每隔40个月,开源项目热力值就会翻一倍,技术完成一轮更新迭代。在过去8年里,发生了5次较大规模的技术热力跃迁,多元化、一体化、云原生成为当前开源大数据发展趋势的最显著特征。

d1407ce4-5cd7-11ed-a3b6-dac502259ad0.jpg

定量分析“后Hadoop时代”开源趋势

Hadoop 作为开源大数据技术的起源,兴起于2006年,至今已有16年历史。我们收集了从Hadoop 发展第10年(即2015年)至今的相关公开数据,并进行了关联分析,定义了开源项目热力值研究模型,使用量化指标,来刻画开源项目的开发迭代活跃度和受开发者欢迎程度。 报告所呈现的开源大数据热力图,从技术全景、技术栈分类以及项目维度对入围项目的热力表现进行洞察,将项目进程中的关键事件与热力表现关联分析,并访谈了开源基金会、知名开源项目等领域专家,尝试找到项目健康发展一般规律,并对有效提升项目影响力的方法论进行了归纳总结。

开源大数据技术的“摩尔定律”即将打破

报告发现,每隔40个月,热力值会提升1倍,开源大数据完成一轮技术迭代升级,而且技术周期在加速缩短。在8年时间内,发生了多轮热力变迁,反映出背后技术的更新换代趋势。开发者对「数据查询与分析」保持了长期的开发热情,这一技术栈连续8年位于热力值榜首。2017年,「流处理」热力值超过「批处理」,大数据处理进入实时阶段。随着数据规模越来越大,数据结构更多样化,「数据集成」从2020年开始爆发式增长。

三大热力趋势:多元化、一体化和云原生

用户需求多样化推动技术多元化。「数据湖」以34%的热力值年均复合增长率高居热力值增速第一位,「交互式分析」、「DataOps」紧随其后,分列第二、三位。而原有Hadoop体系的产品迭代则趋于稳定,热力值年均复合增长率为1%。 从2015年开始,计算部分率先进入「一体化」演进历程,其中的典型代表「流批一体」在2019年出现第一个热力峰值。以数据湖存储为代表的存储一体化从2019年起进入了一个新的发展阶段,涌现了Delta Lake、 Iceberg和Hudi等热点项目。 云原生大规模重构开源技术栈。诞生于云原生时代的开源项目如雨后春笋般破土成长。「数据集成」、「数据存储」、「数据开发与管理」等领域都发生了非常大的项目更迭,新项目热力值占比已经超过了80%。

开源大数据热力榜单TOP30

本报告从102个入围项目中,评选出了TOP30热力榜单。Kibana以989.40的热力值高居榜首。ClickHouse(数据查询与分析)、Airflow(数据调度与编排)、Flink(流处理)、Airbyte(数据集成)分别摘得各自细分领域的TOP1。Pulsar、Doris、StarRocks、DolphinScheduler、SeaTunnel等一众中国开源项目也表现出高热力趋势。把解决用户痛点作为核心竞争力,是这些优秀开源项目的共同特征,这一特征保证它们与时俱进,成为热力趋势中的“常青树”。

d19099ae-5cd7-11ed-a3b6-dac502259ad0.png

感谢开源中国、InfoQ和阿里云开发者社区的战略支持,感谢对本报告内容产出做出重要贡献的32位专家和贡献者。感谢CSDN、DataFun、Segmentfault思否、开源社等社区合作。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 开源
    +关注

    关注

    3

    文章

    3323

    浏览量

    42473
  • Hadoop
    +关注

    关注

    1

    文章

    90

    浏览量

    15975
  • 大数据
    +关注

    关注

    64

    文章

    8883

    浏览量

    137407
  • 云栖大会
    +关注

    关注

    0

    文章

    33

    浏览量

    8659
  • 云原生
    +关注

    关注

    0

    文章

    248

    浏览量

    7949

原文标题:开源“摩尔定律”即将打破,《2022开源大数据热力报告》重磅发布

文章出处:【微信号:OSC开源社区,微信公众号:OSC开源社区】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    击碎摩尔定律!英伟达和AMD将一年一款新品,均提及HBM和先进封装

    电子发烧友网报道(文/吴子鹏)摩尔定律是由英特尔创始人之一戈登·摩尔提出的经验规律,描述了集成电路上的晶体管数量和性能随时间的增长趋势。根据摩尔定律,集成电路上可容纳的晶体管数目约每隔18个月便会
    的头像 发表于 06-04 00:06 4045次阅读
    击碎<b class='flag-5'>摩尔定律</b>!英伟达和AMD将一年一款新品,均提及HBM和先进封装

    黄鹤开源社区正式发布

    近日,在2024开放原子开发者大会暨首届开源技术学术大会开幕式上,基于开放原子开源基金会旗下AtomGit开源协作平台搭建的黄鹤
    的头像 发表于 12-23 11:33 121次阅读

    开源鸿蒙应用案例重磅发布

    开放原子开发者大会暨首届开源技术学术大会开幕式上,发布了一批开源应用案例,向各界展示开源商业化发
    的头像 发表于 12-23 11:32 159次阅读

    摩尔定律时代,提升集成芯片系统化能力的有效途径有哪些?

    电子发烧友网报道(文/吴子鹏)当前,终端市场需求呈现多元化、智能化的发展趋势,芯片制造则已经进入后摩尔定律时代,这就导致先进的工艺制程虽仍然是芯片性能提升的重要手段,但效果已经不如从前,先进封装
    的头像 发表于 12-03 00:13 2257次阅读

    全球首个开源AI标准正式发布

    近日,在备受瞩目的2024年ALL THINGS OPEN大会上开源组织Open Source Initiative(OSI)宣布了一项重大突破——正式发布开源人工智能定义(OSA
    的头像 发表于 10-31 10:59 256次阅读

    请回答OpenHarmony | 关于开源生态的未来想象,我们现场回答

    第三届OpenHarmony技术大会即将启幕 今年相聚,OpenHarmony又迎来了怎样的突破与发展? 在万物智联的时代,如何通过技术创新引领智能未来? OpenHarmony的开源力量如何推动
    发表于 10-12 00:09

    得瑞领新亮相2024云栖大会,展现企业级NVMe SSD创新实力

    在2024云栖大会上,得瑞领新展示了企业级NVMe SSD解决方案在云计算、大数据和金融等领域的优势,提升数据处理效率的同时优化了能耗管理,为企业数字化转型提供了强有力支持,吸引了众多
    的头像 发表于 09-24 15:23 334次阅读
    得瑞领新亮相2024<b class='flag-5'>云栖</b><b class='flag-5'>大会</b>,展现企业级NVMe SSD创新实力

    NVIDIA黄仁勋和Meta马克·扎克伯格探讨开源AI的变革潜力

    两位领导者在 SIGGRAPH 2024 大会上探讨开源 AI 的变革潜力,推出 AI Studio,并互换皮夹克。
    的头像 发表于 08-13 16:24 586次阅读

    全球首个芯片设计开源大模型SemiKong正式发布

    强强联合打造的杰作,在Semicon West 2024大会上首次惊艳亮相,便迅速吸引了全球业界的瞩目与热议。SemiKong不仅代表着人工智能技术在芯片设计领域的一次重大飞跃,更是开源精神在高科技领域的又一次胜利宣言。
    的头像 发表于 07-14 10:01 835次阅读

    “自我实现的预言”摩尔定律,如何继续引领创新

    59年前,1965年4月19日,英特尔公司联合创始人戈登·摩尔(Gordon Moore)应邀在《电子》杂志上发表了一篇四页短文,提出了我们今天熟知的摩尔定律(Moore’s Law)。 就像你为
    的头像 发表于 07-05 15:02 270次阅读

    封装技术会成为摩尔定律的未来吗?

    你可听说过摩尔定律?在半导体这一领域,摩尔定律几乎成了预测未来的神话。这条定律,最早是由英特尔联合创始人戈登·摩尔于1965年提出,简单地说就是这样的:集成电路上可容纳的晶体管数量大约
    的头像 发表于 04-19 13:55 332次阅读
    封装技术会成为<b class='flag-5'>摩尔定律</b>的未来吗?

    功能密度定律是否能替代摩尔定律摩尔定律和功能密度定律比较

    众所周知,随着IC工艺的特征尺寸向5nm、3nm迈进,摩尔定律已经要走到尽头了,那么,有什么定律能接替摩尔定律呢?
    的头像 发表于 02-21 09:46 722次阅读
    功能密度<b class='flag-5'>定律</b>是否能替代<b class='flag-5'>摩尔定律</b>?<b class='flag-5'>摩尔定律</b>和功能密度<b class='flag-5'>定律</b>比较

    摩尔定律的终结:芯片产业的下一个胜者法则是什么?

    在动态的半导体技术领域,围绕摩尔定律的持续讨论经历了显着的演变,其中最突出的是 MonolithIC 3D 首席执行官Zvi Or-Bach于2014 年的主张。
    的头像 发表于 01-25 14:45 1129次阅读
    <b class='flag-5'>摩尔定律</b>的终结:芯片产业的下一个胜者法则是什么?

    中国团队公开“Big Chip”架构能终结摩尔定律

    摩尔定律的终结——真正的摩尔定律,即晶体管随着工艺的每次缩小而变得更便宜、更快——正在让芯片制造商疯狂。
    的头像 发表于 01-09 10:16 832次阅读
    中国团队公开“Big Chip”架构能终结<b class='flag-5'>摩尔定律</b>?

    英特尔CEO基辛格:摩尔定律仍具生命力,且仍在推动创新

    摩尔定律概念最早由英特尔联合创始人戈登·摩尔在1970年提出,明确指出芯片晶体管数量每两年翻一番。得益于新节点密度提升及大规模生产芯片的能力。
    的头像 发表于 12-25 14:54 617次阅读