0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

DBSyncer支持多种数据源和预警功能

jf_ro2CN3Fa 来源:芋道源码 2023-05-18 16:37 次阅读

设计

应用场景

使用教程

预览

DBSyncer是一款开源的数据同步中间件,提供MySQL、Oracle、SqlServer、PostgreSQL、Elasticsearch(ES)、Kafka、File、SQL等同步场景。

支持上传插件自定义同步转换业务,提供监控全量和增量数据统计图、应用性能预警等。

特点

组合驱动 ,自定义库同步到库组合,关系型数据库与非关系型之间组合,任意搭配表同步映射关系

实时监控 ,驱动全量或增量实时同步运行状态、结果、同步日志和系统日志

开发插件 ,自定义转化同步逻辑

设计

架构图

f4359d5e-f496-11ed-90ce-dac502259ad0.png

基于 Spring Boot + MyBatis Plus + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

项目地址:https://github.com/YunaiV/ruoyi-vue-pro

视频教程:https://doc.iocoder.cn/video/

应用场景

连接器 数据源 目标源 支持版本(包含以下)
MySQL 5.7.19以上
Oracle 10gR2 -11g
SqlServer 2008以上
PostgreSQL 9.5.25以上
ES 6.0以上
Kafka 开发中 2.10-0.9.0.0以上
File *.txt, *.unl
SQL 支持以上关系型数据库
后期计划 Redis

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 实现的后台管理系统 + 用户小程序,支持 RBAC 动态权限、多租户、数据权限、工作流、三方登录、支付、短信、商城等功能

项目地址:https://github.com/YunaiV/yudao-cloud

视频教程:https://doc.iocoder.cn/video/

使用教程

1.启动 代理 和 数据库 服务

f43b1dce-f496-11ed-90ce-dac502259ad0.png

2.准备测试账号,test

f4440ae2-f496-11ed-90ce-dac502259ad0.png

3.分配sysadmin角色

f44ac0f8-f496-11ed-90ce-dac502259ad0.png

4.分配指定数据库权限

f4504a96-f496-11ed-90ce-dac502259ad0.png

PostgreSQL

通过复制流技术监听增量事件,基于内置插件pgoutput、test_decoding实现解析wal日志

1、修改postgresql.conf文件,重启服务

wal_level=logical

2、授予账号权限LOGIN和REPLICATION

File

监听文件修改时间得到变化文件,通过文件偏移量读取最新数据

https://gitee.com/ghi/dbsyncer/issues/I55EP5

ES

定时获取增量数据。

账号具有访问权限。

日志

建议MySQL、SqlServer、PostgreSQL都使用日志

f45773e8-f496-11ed-90ce-dac502259ad0.png

定时

假设源表数据格式

f45f4050-f496-11ed-90ce-dac502259ad0.pngf468bcfc-f496-11ed-90ce-dac502259ad0.png

预览

驱动管理

f46f32a8-f496-11ed-90ce-dac502259ad0.png

驱动详情

f476ef02-f496-11ed-90ce-dac502259ad0.png

驱动表字段关系配置

f482318c-f496-11ed-90ce-dac502259ad0.png

监控

f48c4988-f496-11ed-90ce-dac502259ad0.png

上传插件

f4927754-f496-11ed-90ce-dac502259ad0.png

开源地址

审核编辑:彭静

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 开源
    +关注

    关注

    3

    文章

    3342

    浏览量

    42490
  • 管理系统
    +关注

    关注

    1

    文章

    2494

    浏览量

    35918
  • 数据源
    +关注

    关注

    1

    文章

    63

    浏览量

    9677

原文标题:星标1.4k,一款国产开源数据同步中间件,支持多种数据源和预警功能!

文章出处:【微信号:芋道源码,微信公众号:芋道源码】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    LabView动态创建数据源的方法

    在LabView中LabSQL操作数据库是通过ODBC连接,用户需要在ODBC中指定数据源名称和驱动程序。因此在使用LabSQL之前,首先需要在Windows操作系统中的ODBC数据源中创建一个
    发表于 09-23 01:53

    ODBC数据源的建立

    我找不到数据源这个选项啊,怎么办?
    发表于 04-21 11:39

    DxDataBook 如何调用网络数据源

    DxDataBook 如何调用网络数据源: 就是在library wizard中有三种调用三种数据源的方式:WWW、oracle、ODBC三种,后面两种我知道怎么调用,但有人知道第一种(www)怎么调用吗?求大神解救!!
    发表于 07-19 10:06

    QuickBI助你成为分析师——搞定数据源

    摘要: QuickBI支持多种数据源连接,添加数据源数据分析展示的第一步,下面来详细介绍一下产品数据源
    发表于 03-28 12:43

    ViCANdo Suite直接支持数据源

    点云数据实时处理ViCANdo Suite直接支持数据源ViCANdo Suite 产品介绍
    发表于 01-05 07:28

    数据源配置工具

    odbc_for_access.exe1、可直接配置数据源。2、可直接创建Access数据库文件。3、为数据库配置密码。
    发表于 07-01 16:22 4次下载

    如何使用Apache Spark中的DataSource API以实现数据源混合计算的实践

    结构化,各种各样的数据结构、格局格式,这种数据的多样性本身即是大数据的特性之一,从而也决定了一种存储方式不可能通吃所有。因此,数据本身决定了多种数据
    发表于 10-10 14:35 0次下载
    如何使用Apache Spark中的DataSource API以实现<b class='flag-5'>数据源</b>混合计算的实践

    基于元组水平对数据源进行分层抽样

    深网查询在Web上众多的应用,需要查询大量的数据源才能获得足够的数据,如多媒体数据搜索、团购网站信息聚合等.应用的成功,取决于查询多数据源的效率和效果,当前研究侧重查询与
    发表于 12-29 10:55 0次下载
    基于元组水平对<b class='flag-5'>数据源</b>进行分层抽样

    基于LDA主题模型进行数据源选择方法

    联邦搜索是从大规模深层网上获取信息的一种重要技术。给定一个用户查询,联邦搜索系统需要解决的一个主要问题是数据源选择问题,即从海量数据源中选出一组最有可能返回相关结果的数据源。现有的数据源
    发表于 01-04 15:00 0次下载
    基于LDA主题模型进行<b class='flag-5'>数据源</b>选择方法

    Deep Web数据源选择和集成方法

    针对基于数据源质量选择方法的数据源数据爬取时存在代价大、重复率高的问题,提出一种结合两层选择模型的Deep Web数据源选择和集成方法。该方法根据
    发表于 02-09 15:24 0次下载
    Deep Web<b class='flag-5'>数据源</b>选择和集成方法

    数据仓库入门之创建数据源

    首先需要创建一个数据源,SSAS(分析服务)将利用数据源来连接数据库。一、准备环境二、启动SSDT,新建项目三、创建数据源
    发表于 02-24 14:48 2536次阅读
    <b class='flag-5'>数据</b>仓库入门之创建<b class='flag-5'>数据源</b>

    Quick BI 支持多种数据源进行多维分析

    Quick BI 支持多种数据源进行多维分析 一、摘要 随着互联网的高速发展,数据量爆发式增长的同时,数据的存储形式也开始呈现出多样性,有结构化存储,如 Mysql, Oracle
    发表于 12-27 16:45 375次阅读
    Quick BI <b class='flag-5'>支持</b><b class='flag-5'>多种数据源</b>进行多维分析

    SpringBoot多数据源及事务解决方案

    当Spring容器创建AbstractRoutingDataSource对象时,通过调用afterPropertiesSet复制上述目标数据源。由此可见,一旦数据源实例对象创建完毕,业务无法再添加新的数据源
    的头像 发表于 04-12 11:22 2230次阅读

    数据源数据转换和同步的ETL工具推荐

    多种数据源的连接,包括文件系统、数据库、消息队列、网络接口等。它提供了可视化的界面和强大的数据处理功能,可以轻松地创建数据流,进行
    的头像 发表于 07-28 16:32 1101次阅读

    weblogic修改数据源需要重启吗

    WebLogic是一款支持Java EE(Java Enterprise Edition)规范的应用服务器,通过WebLogic可进行数据源的配置和管理。在WebLogic中修改数据源是否需要重启
    的头像 发表于 12-05 16:09 1431次阅读