0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

南京紫光基于对象存储系统的随机读写对象的方法

汽车玩家 来源:爱集微 作者:爱集微 2020-01-03 10:55 次阅读

紫光的该项专利提出的基于对象存储的随机读写对象的方法,以索引对象和多个数据对象来构成一个向用户提供服务的完整对象,在索引对象中记录各个数据对象中的数据在整个数据段中的位置关系,基于这样的存储方式能够大大缩短随机读写时间。

集微网消息,作为中国三大半导体存储企业之一的紫光集团,为了促进存储产业的建设,在武汉长江存储项目之后,又在南京展开了产业基地的重大项目。

随着互联网、Web2 .0的快速发展,人们上传海量的照片、视频、音乐,社交软件每天都新增数十亿条内容,人们每天发送数千亿封电子邮件。据IDC统计未来在10年间数据将增长44倍,到2020年全球数据将增加到35ZB,其中80%是非结构化数据,且大部分是非活跃数据。

面对如此庞大的数据量,仅具备PB级扩展能力的块存储(例如SAN架构)和文件存储(例如NAS架构)显得有些无能为力。人们需要一种全新架构的存储系统,这种存储系统需要具备极高的可扩展性,能够满足人们对存储容量TB到EB规模的扩展需求,于是对象存储应运而生。然而面对大量随机读写的场景,特别是针对GB和TB级别大小的对象,对象存储的缺点就暴露出来了,对CPU、内存和网络带宽的要求非常高,即使在资源条件很高的情况下,随机读写耗时也很长。

针对现有技术的不足,南京紫光申请了一项名为“基于对象存储的随机读写对象的方法和系统”的发明专利(申请号:201810554758.8),申请人为南京紫光云信息科技有限公司

南京紫光基于对象存储系统的随机读写对象的方法

图1

图1是该专利提出的对象存储方式的组成示意图,一个完整的对象包括一个索引对象和多个数据对象,数据存储在这些数据对象中,索引对象用来记录完整对象的基本信息以及数据对象中的数据在整个数据段中的位置。索引对象主要包括索引头信息和数据段信息,索引头信息中提供了对象的基本信息,包含对象大小等,数据段信息记录了数据段与数据对象中的数据的对应关系。

南京紫光基于对象存储系统的随机读写对象的方法

图2

上图是该专利提出的一种对象存储系统的结构示意图。该存储系统包括客户端和对象存储设备。对象存储设备指的是向用户提供对象存储服务的设备或资源 ,比如存储云等。客户端分为两种,一种是标准客户端 ,一种是集成SDK (Software Development Kit,软件开发工具包)的客户端,由SDK提供相关接口来读写。

我们通过图2对该系统结构做一个简要说明。网关由请求分析模块、透传模块、SDK读取模块、SDK遍历模块和SDK删除模块组成。首先S3客户端发送请求给网关,网关收到请求后,通过请求分析模块解析请求类型,根据请求类型和请求目标调用其他模块进行相应操作。请求类型包括读取(GET)对象、删除(DELETE)对象、遍历对象、写入(PUT)对象等。当请求类型是读取、删除或遍历请求时,判断被请求的对象是否为索引对象,如果是,则调用相应的SDK模块进行处理;如果被请求的对象为标准对象,读取请求可以直接通过透传模块获取数据,删除请求直接删除对象,而对于遍历请求则不做任何处理;如果请求类型是其他请求,那么直接通过透传模块将请求透传到对象存储设备中,由对象存储设备来处理。

该专利提出的这种基于对象存储的随机读写对象的方法,以索引对象和多个数据对象来构成一个向用户提供服务的完整对象,在索引对象中记录各个数据对象中的数据在整个数据段中的位置关系,基于这样的存储方式能够大大缩短随机读写时间。

在相关政策的支持下,国内的存储产业发展迅猛,诞生了许多诸如紫光集团这样的存储公司。为了打破国外的垄断,它们为科技创新、产品升级注入了许多心血,为我国存储行业的发展贡献出自己的力量。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • cpu
    cpu
    +关注

    关注

    68

    文章

    10855

    浏览量

    211608
  • 内存
    +关注

    关注

    8

    文章

    3020

    浏览量

    74011
  • 紫光
    +关注

    关注

    2

    文章

    412

    浏览量

    34016
收藏 人收藏

    评论

    相关推荐

    对象存储与传统网络存储有什么区别?

    (metadata)和数据本身可通过传统数据访问方法进行访问,对象存储允许数据被直接访问。此外,支持对象级和命令级的安全策略设置。  对象
    发表于 09-01 16:27

    什么是对象存储

    与传统的文件存储不同,对象存储将数据存储为单个对象,每个对象具有唯一标识符(Object ID)
    发表于 03-10 14:42

    容器实现持久存储的3个基础类型:块存储对象存储和文件系统

    决定如何为容器实现持久存储的第一步是确定您将使用的存储系统的基础类型。在这方面, 通常有三种主要选项:文件系统存储、块存储
    的头像 发表于 01-24 10:58 6611次阅读

    一种面向高性能计算的分布式对象存储系统

    带来了严峻挑战。 现有分布式文件存储系统存在数据组织低效和访问语义冗余等问题,严重限制了系统性能。为此,借鉴对象存储思想,设计面向高性能计算的分布式
    发表于 01-29 16:08 0次下载
    一种面向高性能计算的分布式<b class='flag-5'>对象</b><b class='flag-5'>存储系统</b>

    对象存储与块存储的工作方式有何不同?

    对象存储系统想像成一个没有目录和子目录的层次结构的文件系统。如果文件系统使用目录结构和文件名的组合来标识和定位文件,则存储
    的头像 发表于 11-21 11:41 3117次阅读

    对象存储是什么?看过就明白了

    介绍: 对象存储提供了基于分布式系统之上的对象形式的数据存储服务,并且可以通过 RESTful API 数据
    发表于 03-25 14:25 9132次阅读

    杉岩海量对象存储系统完美替代Documentum

    提供文档数据的存储和检索读取服务。 近年来随着非结构化数据的爆发性增长,由于Documentum系统架构问题,此套解决方案出现了明显性能瓶颈,杉岩海量对象存储系统(SandStone
    发表于 03-26 14:56 845次阅读

    为什么物联网存储基于对象

    物联网数据需要一个可扩展的存储系统,以及支持分析项目。企业应该了解对象存储系统如何满足这些需求。
    发表于 03-22 20:24 1480次阅读

    对象存储、统一存储与块存储有什么差异

    首先来说对象存储,最常用的方案,主要是将多台服务器内置大容量硬盘,再装上对象存储管理软件,管理其它服务器并提供读写访问的功能。
    发表于 03-22 20:41 1418次阅读

    对象存储的优势有哪些?

    中国SDS市场占据19.6%的份额,实现了very fast的增长。 对象存储(Object Storage Service,OSS),也叫基于对象存储,是一种解决和处理离散单元的
    发表于 04-15 15:11 937次阅读

    人工智能和深度学习的对象存储挑战

    高性能对象存储不仅仅需要从基于硬盘的对象存储系统切换到全闪存对象存储。向全闪存介质的迁移无疑会有
    的头像 发表于 06-13 11:06 2483次阅读

    对象存储的原理分析

    对象存储最常用的方案,就是多台服务器内置大容量硬盘,再装上对象存储软件,然后搞几台服务器作为管理节点,安装上对象
    发表于 09-16 14:58 5277次阅读

    对象存储是什么 对象存储的优势

    在以前的存储市场中,占据主导地位的是DAS/NAS/SAN这三种框架。很多的用户在这三种之中相互权衡,最终选择适合自己的方案来进行存储。但随着时代的不断发展,越来越多的人开始接触到了对象存储
    的头像 发表于 10-16 17:48 4044次阅读

    什么是对象存储

    与传统的文件存储不同,对象存储将数据存储为单个对象,每个对象具有唯一标识符(Object ID)
    的头像 发表于 03-10 14:41 1336次阅读

    虹科分享 | 网络仿真器 | 预测云中对象存储系统的实际性能

    对象存储是一种在云中存储非结构化数据的方法,从理论上讲,它使得以其原始格式存储几乎无限量的数据成为可能。在这种
    的头像 发表于 11-29 17:07 419次阅读
    虹科分享 | 网络仿真器 | 预测云中<b class='flag-5'>对象</b><b class='flag-5'>存储系统</b>的实际性能