0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

软件系统的数据检索设计

h1654155333.5939 来源:laobabab 作者:laobabab 2024-08-22 14:08 次阅读

软件系统的数据检索设计

随着业务量加大,数据检索量也会日益增多,为了减轻数据库压力,本系统采用ElasticSearch来实现数据检索功能。

简单来说,Elasticsearch 是一个实时的分布式存储、搜索、分析的引擎,它可以近乎实时的存储、检索数据,本身扩展性很好,可以扩展到上百台服务器,处理PB级别(大数据时代)的数据,ElasticSearch的检索流程如下:

wKgaombG1EeAZD2LAACHH6UYoQU520.png

数据检索流程图

1) 执行refresh操作将mem buffer中的数据写入到新的segment并写入os cache,然后打开本segment以供search使用,最后再次清空mem buffer。

2) 一个commit point被写入磁盘,这个commit point中标明所有的index segment。

3) filesystem cache(os cache)中缓存的所有的index segment文件被fsync强制刷到磁盘os disk,当index segment被fsync强制刷到磁盘上以后,就会被打开,供查询使用。

translog被清空和删除,创建一个新的translog。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 数据
    +关注

    关注

    8

    文章

    7193

    浏览量

    89819
  • 软件系统
    +关注

    关注

    0

    文章

    63

    浏览量

    9527
收藏 人收藏

    评论

    相关推荐

    dbForge Studio for PostgreSQL:PostgreSQL数据库多功能集成开发环境

    数据库模式和表数据的比较和同步 高效便捷地生成针对特定列的智能测试数据 支持14种格式的数据导入和导出 数据透视表中的
    的头像 发表于 01-16 17:26 142次阅读

    Oracle数据库的多功能集成开发环境

    Oracle数据库的多功能集成开发环境 快捷菜单中的可视化对象编辑器 上下文感知的SQL代码补全、智能格式化和重构 逐步执行的自动调试功能 多功能数据检索、存储和管理 数据库模式和表数据
    的头像 发表于 01-14 13:52 138次阅读
    Oracle<b class='flag-5'>数据</b>库的多功能集成开发环境

    数字化车间数据中台的功能作用及应用场景

    解决方案,能够存储海量的生产数据、设备数据等,同时对数据进行分类、索引和管理,方便后续的数据检索和分析。 数据分析与挖掘:具备强大的
    的头像 发表于 01-14 09:25 124次阅读

    检索增强型生成(RAG)系统详解

    成流畅且类似人类的文本方面表现出色,但它们有时在事实准确性上存在困难。当准确性非常重要时,这可能是一个巨大的问题。 那么,这个问题的解决方案是什么呢?答案是检索增强型生成(RAG)系统。 RAG集成了像GPT这样的模型的强大功能,并增加了从外
    的头像 发表于 12-24 10:44 365次阅读
    <b class='flag-5'>检索</b>增强型生成(RAG)<b class='flag-5'>系统</b>详解

    Redis缓存与Memcached的比较

    Redis和Memcached都是广泛使用的内存数据存储系统,它们主要用于提高应用程序的性能,通过减少对数据库的直接访问来加速数据检索。以下是对Redis和Memcached的比较,涵
    的头像 发表于 12-18 09:33 265次阅读

    缓存技术在软件开发中的应用

    在现代软件开发中,随着数据量的爆炸性增长和用户对响应速度的高要求,缓存技术成为了提升系统性能的重要手段。缓存技术通过将数据存储在离用户更近的位置,减少
    的头像 发表于 12-18 09:32 358次阅读

    可与MES系统集成的数据采集监控平台

    ,确保数据的全面接入。 数据存储与管理: 采用数据库或数据仓库存储采集到的数据。 提供高效的数据检索
    发表于 12-16 15:08

    PDM产品数据管理系统软件是什么?一文读懂PDM系统软件

    在现代制造业和工程领域中,产品数据管理(Product Data Management,简称PDM)系统已成为提升企业生产效率、保证产品质量的关键工具。PDM系统是以软件为基础,专门用
    的头像 发表于 11-14 14:52 1876次阅读
    PDM产品<b class='flag-5'>数据</b>管理<b class='flag-5'>系统软件</b>是什么?一文读懂PDM<b class='flag-5'>系统软件</b>

    WDS分布式存储系统软件助力电信工程海量数据存储项目

    WDS分布式存储系统软件助力电信工程海量数据存储项目
    的头像 发表于 11-11 09:59 265次阅读
    WDS分布式存储<b class='flag-5'>系统软件</b>助力电信工程海量<b class='flag-5'>数据</b>存储项目

    AD软件打开DigIPCBA工作区,希望可以按照文件夹检索

    希望在AD软件中打开工作区的时候,工作区内的文件夹能显示,文件可以按照文件夹检索,如果工作区内PCB项目很多,不能区分文件夹,不方便访问
    发表于 11-01 11:15

    京东APP百亿级商品与车关系数据检索实践

    作者:京东零售 张强 导读 本文主要讲解了京东百亿级商品车型适配数据存储结构设计以及怎样实现适配接口的高性能查询。通过京东百亿级数据缓存架构设计实践案例,简单剖析了jimdb的位图(bitmap
    的头像 发表于 10-18 14:14 802次阅读
    京东APP百亿级商品与车关系<b class='flag-5'>数据检索</b>实践

    RFID技术引领应急物资管理新模式

    /S(浏览器/服务器)架构,构建了一个高效率的紧急物资管理平台。基于B/S结构的系统以其迅速的数据检索功能,在应急救援任务中能即时调配库存资源,为紧急物资的有效管控及决策提供坚实后盾。
    的头像 发表于 10-17 15:46 562次阅读
    RFID技术引领应急物资管理新模式

    K8S学习教程三:在PetaExpress KubeSphere 容器部署 Wiki 系统 wiki.js 并启用中文全文检索

    K8S学习教程(三):在PetaExpress KubeSphere 容器部署 Wiki 系统 wiki.js 并启用中文全文检索  。
    的头像 发表于 07-08 17:03 712次阅读
    K8S学习教程三:在PetaExpress KubeSphere 容器部署 Wiki <b class='flag-5'>系统</b> wiki.js 并启用中文全文<b class='flag-5'>检索</b>

    电表自动抄表系统软件

    1.电表自动抄表系统软件简述电表自动抄表系统软件,是一种现代化电力工程可视化工具,它利用先进的信息科技,实现远程、实时电能计量数据收集和分析。该系统不仅提升了电力工程公司的运营高效率,
    的头像 发表于 05-17 14:19 670次阅读
    电表自动抄表<b class='flag-5'>系统软件</b>

    态势数据分析系统软件

    智慧华盛恒辉态势分析软件系统的功能描述、部署环境、界面使用、技术支持及一些常见问题及其解决办法等。为数据态势分析软件系统的管理人员和使用人员
    的头像 发表于 04-22 11:36 505次阅读