0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

分布式发布与订阅系统Apache Kafka在即将发布的2.8版本

电子工程师 来源:科技社techpub 作者:科技社techpub 2021-05-31 09:58 次阅读

分布式发布与订阅系统Apache Kafka在即将发布的2.8版本,使用Kafka内部的Quorum控制器来取代ZooKeeper,因此用户第一次可在完全不需要ZooKeeper的情况下执行Kafka,这不只节省运算资源,并且也使得Kafka效能更好,还可支持规模更大的集群。

过去Apache ZooKeeper是Kafka这类分布式系统的关键,ZooKeeper扮演协调代理的角色,所有代理服务器启动时,都会连接到Zookeeper进行注册,当代理状态发生变化时,Zookeeper也会储存这些数据,在过去,ZooKeeper是一个强大的工具,但是毕竟ZooKeeper是一个独立的软件,使得Kafka整个系统变得复杂,因此官方决定使用内部Quorum控制器来取代ZooKeeper。

这项工作从去年4月开始,而现在这项工作取得部分成果,用户将可以在2.8版本,在没有ZooKeeper的情况下执行Kafka,官方称这项功能为Kafka Raft元数据模式(KRaft)。在KRaft模式,过去由Kafka控制器和ZooKeeper所操作的元数据,将合并到这个新的Quorum控制器,并且在Kafka集群内部执行,当然,如果使用者有特殊使用情境,Quorum控制器也可以在专用的硬件上执行。

KRaft协定使用事件驱动机制来追踪整个集群的元数据,过去必须依赖RPC来处理的任务,现在受益于事件驱动以及实际的日志传输,这些改变所带来的好处,便是让Kafka仍够支持更多的分割。

过去Kafka因为带着ZooKeeper,因此被认为拥有笨重的基础设施,而在移除ZooKeeper之后,Kafka更轻巧更适用于小规模工作负载,轻量级单体程序适合用于边缘以及轻量级硬件解决方案。

值得注意的是,在抢先体验版中,有部分像是ACL、安全以及交易等功能都尚未支持,而且在KRaft模式下,也还不支持重新分配分割和JBOD,官方提到,这些功能会在今年稍晚的版本中提供,由于很多功能处于测试阶段,不建议大家将其用于生产环境中。

参考:https://www.confluent.io/blog/kafka-without-zookeeper-a-sneak-peek/https://www.ithome.com.tw/news/143569

编辑:jq

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 控制器
    +关注

    关注

    112

    文章

    16332

    浏览量

    177812
  • RPC
    RPC
    +关注

    关注

    0

    文章

    111

    浏览量

    11529
  • ACL
    ACL
    +关注

    关注

    0

    文章

    61

    浏览量

    11976
  • zookeeper
    +关注

    关注

    0

    文章

    33

    浏览量

    3670

原文标题:Kafka 2.8独立运行,不再需要ZooKeeper

文章出处:【微信号:AndroidPush,微信公众号:Android编程精选】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    超详细“零”基础kafka入门篇

    1、认识kafka 1.1 kafka简介 Kafka 是一个分布式流媒体平台 kafka官网:http://
    的头像 发表于 12-18 09:50 155次阅读
    超详细“零”基础<b class='flag-5'>kafka</b>入门篇

    解决电网逆流难题,实现分布式光伏发电全部自发自用

    2024年10月9日,国家能源局综合司发布了《分布式光伏发电开发建设管理办法(征求意见稿)》,意见稿规定了户用分布式光伏、一般工商业分布式光伏以及大型工商业
    的头像 发表于 10-31 08:09 671次阅读
    解决电网逆流难题,实现<b class='flag-5'>分布式</b>光伏发电全部自发自用

    基于ArkTS语言的OpenHarmony APP应用开发:公共事件的订阅发布

    1、程序介绍 示例主要展示了公共事件相关的功能,实现了一个检测用户部分行为的应用。 具体而言,本案例实现了如下几个公共事件功能: 通过订阅系统公共事件,实现对用户操作行为(亮灭屏、断联网)的监测
    发表于 09-18 13:16

    安科瑞分布式光伏系统在某重工企业18MW分布式光伏中应用

    2024年7月16日,江苏省发改委发布《关于高质量做好全省分布式光伏接网消纳的通知(征求意见稿)》,计划大力支持分布式光伏的发展! 1、未来分布式光伏规模规划 根据规划,2024、20
    的头像 发表于 07-19 11:30 514次阅读
    安科瑞<b class='flag-5'>分布式</b>光伏<b class='flag-5'>系统</b>在某重工企业18MW<b class='flag-5'>分布式</b>光伏中应用

    ENV-Windows v2.0.0版本发布

    ENV-Windows v2.0.0版本发布
    的头像 发表于 06-26 08:35 737次阅读
    ENV-Windows v2.0.0<b class='flag-5'>版本</b><b class='flag-5'>发布</b>

    openEuler 24.03 LTS Meetup:聚焦AI、嵌入分布式创新

    随着OpenAtom openEuler(简称“openEuler”)24.03 LTS版本发布,这一开源操作系统再次成为业界的焦点。为了进一步推广与宣传新版本带来的特性和技术进展,
    的头像 发表于 06-24 10:08 448次阅读

    鸿蒙开发接口数据管理:【@ohos.data.distributedDataObject (分布式数据对象)】

    模块提供管理基本数据对象的相关能力,包括创建、查询、删除、修改、订阅等;同时支持相同应用多设备间的分布式数据对象协同能力。
    的头像 发表于 06-07 17:51 1482次阅读
    鸿蒙开发接口数据管理:【@ohos.data.distributedDataObject (<b class='flag-5'>分布式</b>数据对象)】

    分布式SCADA系统的特点的组成

    在工业自动化和能源管理领域,SCADA(Supervisory Control And Data Acquisition)系统扮演着至关重要的角色。其中,分布式SCADA系统凭借其独特的结构和功能
    的头像 发表于 06-07 14:43 535次阅读

    浪潮信息发布为大模型专门优化的分布式全闪存储AS13000G7-N系列

    近日,浪潮信息发布为大模型专门优化的分布式全闪存储AS13000G7-N系列。该系列依托浪潮信息自研分布式文件系统,搭载新一代数据加速引擎DataTurbo,
    的头像 发表于 05-08 09:38 554次阅读
    浪潮信息<b class='flag-5'>发布</b>为大模型专门优化的<b class='flag-5'>分布式</b>全闪存储AS13000G7-N系列

    分布式光伏监控系统解决方案

    分布式光伏发电系统的发电量,提高分布式光伏发电系统的利用率。发展分布式光伏发电对优化能源结构、实现“双碳目标”、推动节能减排、实现经济可持续
    的头像 发表于 04-22 15:56 967次阅读
    <b class='flag-5'>分布式</b>光伏监控<b class='flag-5'>系统</b>解决方案

    HarmonyOS实战案例:【分布式账本】

    Demo基于Open Harmony系统使用ETS语言进行编写,Demo主要通过设备认证、分布式拉起、分布式数据管理等功能来实现。
    的头像 发表于 04-12 16:40 1313次阅读
    HarmonyOS实战案例:【<b class='flag-5'>分布式</b>账本】

    法国FEBUS分布式光纤声波系统发布A1 v2版本

    法国FEBUS公司是一家专业从事分布式光纤传感设备研发和制造的法国企业,总部坐落于法国城市PAU,这座城市也是FEBUS公司起步阶段强有力支持者国际石油公司道达尔能源的总部。
    的头像 发表于 03-22 14:06 982次阅读
    法国FEBUS<b class='flag-5'>分布式</b>光纤声波<b class='flag-5'>系统</b><b class='flag-5'>发布</b>A1 v2<b class='flag-5'>版本</b>

    得瑞领新参编团体标准《高性能计算 分布式存储系统技术要求》正式发布

    得瑞领新参编的《高性能计算 分布式存储系统技术要求》团标由中国电子工业标准化技术协会正式发布,这标志着得瑞在高性能计算和分布式存储领域的技术实力得到认可,同时也展现了公司在行业标准制定
    的头像 发表于 03-01 10:00 454次阅读
    得瑞领新参编团体标准《高性能计算 <b class='flag-5'>分布式</b>存储<b class='flag-5'>系统</b>技术要求》正式<b class='flag-5'>发布</b>

    分布式大屏控制系统的工作原理

    分布式大屏控制系统是一种基于分布式计算、云计算和大数据技术的控制系统,具有高效、稳定、灵活的特点。该系统通过将各个子
    的头像 发表于 01-29 14:24 747次阅读

    什么是分布式架构?

    分布式架构是指将一个系统或应用拆分成多个独立的节点,这些节点通过网络连接进行通信和协作,以实现共同完成任务的一种架构模式。这种架构模式旨在提高系统的可扩展性、可靠性和性能表现。 一、分布式
    的头像 发表于 01-12 15:04 1229次阅读
    什么是<b class='flag-5'>分布式</b>架构?