0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

云南天文台:基于分布式存储,为天文观测构建新数据底座

浪潮存储 来源:浪潮存储 2023-02-22 13:48 1063次阅读

晴空万里、群星璀璨的丽江高美古,在纳西语中的释义是“天气好、星星多、离天最近的地方”。这里的年平均晴天超200天,视宁度达到世界优良台址的水平,大气洁净透明,抬头可见满天的繁星、清晰的银河,近年来逐步成为国内重要的天文观测站点和国内外天文工作者的观测圣地。

建设在高美古的中国科学院云南天文台丽江观测站(以下简称丽江观测站),拥有独特的地理环境优势,经过多年的建设,逐步建设完成了2.4米、1.8米、1.6米等多种口径规格光学望远镜和一批小口径的远程/自动望远镜、日冕仪、射电望远镜等科学观测装置,云南天文台的南方天文观测集群已经初具规模。

随着天文观测需求不断提升,天文观测所产生的观测数据量也越来越大,这对数据存储和处理提出了更高的要求。为此,丽江观测站采用浪潮分布式存储构建三级数据存储平台,为天文研究乃至今后的数字经济产业研究提供有利的硬件平台支撑。

dc53df34-b26f-11ed-bfe3-dac502259ad0.png

云南天文台丽江观测站的2.4米光学望远镜

天文观测仪器背后惊人的数据需求

丽江观测站拥有多种型号的天文望远镜,包括光学望远镜、日冕仪和射电望远镜,整个观测站的观测能力已经覆盖了从光学到射电的波段范围,每年能开展多项具有国际先进水平的天体物理观测和研究工作。天文领域的科研工作者借助观测仪器设备对星体进行观测,并采集数据以便进一步研究。

近些年随着新的天文观测技术快速发展,观测的广度和精度得到极大提升,让天文工作者更清晰的观测到天文目标,也更准确的验证已有物理模型。与此同时,新的天文观测仪器采集的数据量也有了量级的提升,如丽江观测站正在调试的云南大学1.6米多通道测光巡天望远镜,其中装置了3台大靶面的科学技术CCD相机,每个相机由4片9k*9k的芯片拼接而成,在观测过程中三台相机同时曝光,一次曝光就能产生近1GB的观测数据,一个观测夜的观测数据量近3TB,一年的原始观测数据接近1PB。如何有效的传输观测站众多望远镜观测采集的数据、支撑计算平台高效的分析和处理观测数据、安全存储原始数据和价值数据,给丽江天文观测站的观测数据管理提出了新的需求。

首先,数据性能需求。在数据采集过程中,天文望远镜观测产生的数据,需要通过数据采集程序,实时地完成数据采集、数据预处理、计算、数据存盘等多个任务。数据量根据观测设备数量及型号等因素会有不同,数据采集过程就对存储提出了数GB/s至数十GB/s的带宽需求,以保障数据稳定写入。数据计算过程,作为以数据为驱动的天文观测任务,科研计算平台需要存储集群平台提供数十GB/s聚合带宽的读写能力以保证计算任务并行的高效性。在实现用户数据共享的同时,还要针对不同的用户进行权限控制和配额限制,以实现存储数据的安全高效使用。

其次,数据的长期保存需求。天文观测的原始数据要通过合理的生命周期管理系统进行永久归档保留,数据的自动化迁移归档、数据的安全性、归档数据长期保存成本、存储的易扩展性是数据归档存储考虑的重要因素。

分层存储方案满足不同天文数据的需求

丽江观测站为了满足天文科研工作者对望远镜观测数据的存储和分析处理过程中高带宽存储资源需求,从而满足大量文件的频繁读写,采用了浪潮的计算节点和分布式存储搭建了三级分层的存储资源池,通过浪潮分布式存储高性能节点AS13000G5-H搭建高速存储层提供并行读写能力,满足前端多个计算节点同时在存储上进行数据读写的需求;采用浪潮分布式存储AS13000G5-M系列4U60高密节点提供2PB低速存储空间,用于存储前端回传的观测原始数据以及计算集群计算处理后的归档数据。

为天文观测任务提供性能保障

浪潮AS13000G5-H通过私有客户端,能够使接收到的数据并发写入每个数据节点,打破传统存储的单存储节点性能限制,通过RDMA协议,有效降低数据传输过程中的时延,进一步提升传输效率,单存储节点性能可达到GB/s读写带宽。通过并行文件系统可以添加更多的存储节点,性能和容量随节点数的增加而线性增长。

科研项目的阶段性增长可以按需满足、高效运维

为保障天文数据长期可靠保存、弹性扩展的需求,浪潮存储在架构和运维方面进行了创新。

在扩展性方面,浪潮存储基于分布式存储架构支持灵活扩展,可随着天文科研项目需求横向扩展,运用独特的扩容算法,在扩容同时可保障业务性能无明显波动,性能与容量随着节点的扩展而线性增长,避免对现有接收业务和科研计算任务读写访问性能造成影响,存储空间可达到EB级别,满足了未来天文观测仪器设备提升的存储增长需求。

在可靠性方面,浪潮分布式存储采用纠删策略,允许多个节点损坏时业务不中断,保证观测任务以及计算任务7x24小时的连续业务访问,保障天文工作者科研项目顺利进行。同时还可搭配InView智能管理平台,对天文观测海量数据中心的设备进行管理,提供容量、性能、故障等预测性分析等一系列智能化功能,帮助运维人员预防硬件潜在故障,同时降低存储的复杂性和维护成本。

占地260余亩丽江观测站园区里运行的光学望远镜每年都要执行数千次的观测任务,积累大量的原始观测数据,这些观测数据帮助科研工作者取得了大量研究成果,加速中国天文研究的发展。如借助2.4米望远镜光谱观测发现了数十个高红移类星体,不断刷新中国发现类星体的红移记录;通过系外行星的精确视向速度搜寻工作,已经发现若干颗系外行星候选源;擅长搜寻新的凌食系外行星系统的宽视场巡天望远镜(小口径望远镜),帮助科学家们发现了10多颗凌食系外行星候选体以及200多颗其它类型的变源。正在建设的云南大学1.6米多通道测光巡天望远镜,建成后将通过3台相机进行同时曝光的巡天观测,将直接提供星空的“彩色电影”。

未来云南天文台丽江观测站也将在此基础上,不断进行天文学高新技术创新,为天文学的科学应用研究服务提供高质量的观测数据,发挥南方天文观测集群的前沿作用,推动天文领域研究的快速发展,探索宇宙奥秘。

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 存储
    +关注

    关注

    13

    文章

    4480

    浏览量

    86974
  • 数据采集
    +关注

    关注

    40

    文章

    6806

    浏览量

    115435
  • 分布式存储
    +关注

    关注

    4

    文章

    178

    浏览量

    19755

原文标题:云南天文台:基于分布式存储,为天文观测构建新数据底座

文章出处:【微信号:inspurstorage,微信公众号:浪潮存储】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
    相关推荐
    热点推荐

    先进的CMOS探测器:开创天文观测的未来

    ,需要一灵敏度高、噪音最小的相机来检测它们的微弱信号。 几十年来,在可见光中具有>95%量子效率(QE)的背照CCD一直是天文观测的首选探测器。空间内物体的微弱信号通常需要很长的曝光时间来确保检测。图1显示了CCD相机拍摄的两
    的头像 发表于 09-22 06:30 1054次阅读
    先进的CMOS探测器:开创<b class='flag-5'>天文</b><b class='flag-5'>观测</b>的未来

    操作天文望远镜哪这些必须注意

    使用望远镜,因为无法寻找可观测的星星,就只能看月亮;天文望远镜通常也可以观看风景或动植物,可以很容易得到比双筒望远镜更高的放大倍率。不过使用倍率应在100倍以下,20-50倍最合适。  天文望远镜是
    发表于 06-21 17:21

    一套基于PXA270的移动天文观测系统介绍

    王三强 叶张帆 陈俊近几年来,随着人类文明社会的发展和人民生活水平的提高,越来越多的人渴望了解探知宇宙的奥秘。目前进行科普天文观测一般过程:查天文历书、星图等确定星体位置;寻找合适
    发表于 07-23 07:43

    移动天文观测系统有什么特点?

    近几年来,随着人类文明社会的发展和人民生活水平的提高,越来越多的人渴望了解探知宇宙的奥秘。目前进行科普天文观测一般过程:查天文历书、星图等确定星体位置;寻找合适
    发表于 08-30 06:52

    Teledyne获得1520万美元订单,欧洲南方天文台提供红外探测器

    2048 x 2048像素的H2RG阵列,是天文学领域的标准阵列,正用于美国宇航局的詹姆斯韦伯太空望远镜(JWST)、欧洲航天局(ESA)的欧几里得暗能量任务,以及大部分地面天文台。H4RG-15阵列则是一款更大的阵列,像素达到4096 x 4096,边长超过6 cm。
    发表于 06-27 11:11 1451次阅读

    吉利FY11正式定名“星越” 特斯拉Model 3开始交付

    日前,吉利官方正式公布了吉利FY11的最终名称-星越。据了解,“星越”这一名称来源于一颗轨道位于火星和木星之间的主带小行星,这颗小行星由吉利下属的天文小组于中国科学院云南天文台丽江观测站正式发现。
    发表于 02-26 15:57 3715次阅读

    新仪器助力激光干涉引力波天文台扩大探测范围

    近日,一组国际研究人员激光干涉引力波天文台(LIGO)开发了一种新仪器,仪器可以去除量子噪声,扩大探测器在宇宙的探测范围。
    的头像 发表于 12-23 09:51 3151次阅读

    SpaceX星链卫星对不同天文台的影响

    据外媒CNET报道,近日一位著名的天文学家表示,在未来几年内,SpaceX计划将12000多颗卫星部署到低地球轨道,这可能会影响到在天空扫描可能有害的小行星的天文台
    的头像 发表于 03-18 09:18 2392次阅读

    中科院云南天文台发现太阳暗条触发和物质转移机制

    太阳活动与人类命运息息相关。记者16日从中科院云南天文台获悉,该台抚仙湖太阳观测与研究团组近期对太阳相关活动区的暗条爆发作详细研究后,发现了太阳暗条触发和物质转移机制。
    的头像 发表于 04-16 16:14 1938次阅读

    天文观测系统中直线电机的作用分析

    ,让人充满好奇心和探索欲;二来天文非常的广博,包括天文观测天文历法、天体物理、天体化学、航天学等。 在自然科学的发展过程中,天文学是较早出
    发表于 06-22 15:03 593次阅读

    美国NFS宣布将对阿雷西博天文台望远镜进行拆除

    据外媒报道,今日,美国国家科学基金会(NFS)宣布,他们将对一个重要的地标建筑--阿雷西博天文台望远镜实施拆除。据悉,该天文台在2020年经历了两次重大电缆故障。由于电缆故障,该建筑被认为已无法修复并将在不久的将来退役。
    的头像 发表于 11-20 11:45 1829次阅读

    西华师范大学研发的天文望远镜成功投用

    由西华师范大学携手中国天文台研发智造的天文望远镜圆满通过调试并正式启用,该天文望远镜坐落于海拔4200米的青海冷湖赛什腾天文观测基地C平台上
    发表于 03-24 17:53 1637次阅读

    西安光机所自由曲面冷光学红外探测终端成功获得应用简析

    近日,由西安光机所飞行器光学成像监视与测量技术研究室设计研制的制冷中继长波红外探测终端,配合总体单位完成在云南天文台丽江观测站2.4米口径天文望远镜外场的装机、调试和标定工作,成功实现了接近极限灵敏度的
    的头像 发表于 02-28 10:51 911次阅读

    滨松科研级相机天文领域应用案例:其他方向

    以下案例是介绍观测月球和恒星等方向。 案例:月球观测 关键词:月球观测天文台使用高倍望远镜对月球表面进行观测。 案例:恒星 关键词:恒星
    的头像 发表于 06-12 06:57 622次阅读
    滨松科研级相机<b class='flag-5'>天文</b>领域应用案例:其他方向

    滨松科研级相机天文领域应用案例:太阳成像

      太阳发出强光的球形部分人们会将其称为光球,通常情况下,人们可以看到的只是这个光球的表面。在光球的表面,时常会出现一些黑色的斑点。天文学家们借助工业相机、望远镜和天文台等设备来观测其变化
    的头像 发表于 06-20 06:55 589次阅读
    滨松科研级相机<b class='flag-5'>天文</b>领域应用案例:太阳成像

    有几种电平转换电路,适用于不同的场景

    一.起因一般在消费电路的元器件之间,不同的器件IO的电压是不同的,常规的有5V,3.3V,1.8V等。当器件的IO电压一样的时候,比如都是5V,都是3.3V,那么其之间可以直接通讯,比如拉中断,I2Cdata/clk脚双方直接通讯等。当器件的IO电压不一样的时候,就需要进行电平转换,不然无法实现高低电平的变化。二.电平转换电路常见的有几种电平转换电路,适用于

    张飞实战电子官方
    1天前
    240

    瑞萨RA8系列教程 | 基于 RASC 生成 Keil 工程

    对于不习惯用 e2 studio 进行开发的同学,可以借助 RASC 生成 Keil 工程,然后在 Keil 环境下愉快的完成开发任务。

    RA生态工作室
    05-01 10:00
    435

    共赴之约 | 第二十七届中国北京国际科技产业博览会圆满落幕

    作为第二十七届北京科博会的参展方,芯佰微有幸与800余家全球科技同仁共赴「科技引领创享未来」之约!文章来源:北京贸促5月11日下午,第二十七届中国北京国际科技产业博览会圆满落幕。本届北京科博会主题为“科技引领创享未来”,由北京市人民政府主办,北京市贸促会,北京市科委、中关村管委会,北京市经济和信息化局,北京市知识产权局和北辰集团共同承办。5万平方米的展览云集

    芯佰微电子
    1天前
    486

    道生物联与巍泰技术联合发布 RTK 无线定位系统:TurMass™ 技术与厘米级高精度定位的深度融合

    道生物联与巍泰技术联合推出全新一代 RTK 无线定位系统——WTS-100(V3.0 RTK)。该系统以巍泰技术自主研发的 RTK(实时动态载波相位差分)高精度定位技术为核心,深度融合道生物联国产新兴窄带高并发 TurMass™ 无线通信技术,为室外大规模定位场景提供厘米级高精度、广覆盖、高并发、低功耗、低成本的一站式解决方案,助力行业智能化升级。

    道生物联
    1天前
    411

    智能家居中的清凉“智”选,310V无刷吊扇驱动方案--其利天下

    炎炎夏日,如何营造出清凉、舒适且节能的室内环境成为了大众关注的焦点。吊扇作为一种经典的家用电器,以其大风量、长寿命、低能耗等优势,依然是众多家庭的首选。而随着智能控制技术与无刷电机技术的不断进步,吊扇正朝着智能化、高效化、低噪化的方向发展。那么接下来小编将结合目前市面上的指标,详细为大家讲解其利天下有限公司推出的无刷吊扇驱动方案。▲其利天下无刷吊扇驱动方案一

    其利天下技术
    05-10 16:29
    920

    电源入口处防反接电路-汽车电子硬件电路设计

    一、为什么要设计防反接电路电源入口处接线及线束制作一般人为操作,有正极和负极接反的可能性,可能会损坏电源和负载电路;汽车电子产品电性能测试标准ISO16750-2的4.7节包含了电压极性反接测试,汽车电子产品须通过该项测试。二、防反接电路设计1.基础版:二极管串联二极管是最简单的防反接电路,因为电源有电源路径(即正极)和返回路径(即负极,GND),那么用二极

    张飞实战电子官方
    05-09 19:34
    863

    半导体芯片需要做哪些测试

    首先我们需要了解芯片制造环节做⼀款芯片最基本的环节是设计->流片->封装->测试,芯片成本构成⼀般为人力成本20%,流片40%,封装35%,测试5%(对于先进工艺,流片成本可能超过60%)。测试其实是芯片各个环节中最“便宜”的一步,在这个每家公司都喊着“CostDown”的激烈市场中,人力成本逐年攀升,晶圆厂和封装厂都在乙方市场中“叱咤风云”,唯独只有测试显

    汉通达
    05-09 10:02
    807

    解决方案 | 芯佰微赋能示波器:高速ADC、USB控制器和RS232芯片——高性能示波器的秘密武器!

    示波器解决方案总述:示波器是电子技术领域中不可或缺的精密测量仪器,通过直观的波形显示,将电信号随时间的变化转化为可视化图形,使复杂的电子现象变得清晰易懂。无论是在科研探索、工业检测还是通信领域,示波器都发挥着不可替代的作用,帮助工程师和技术人员深入剖析电信号的细节,精准定位问题所在,为创新与发展提供坚实的技术支撑。一、技术瓶颈亟待突破性能指标受限:受模拟前端

    芯佰微电子
    05-09 10:36
    1.5k

    硬件设计基础----运算放大器

    1什么是运算放大器运算放大器(运放)用于调节和放大模拟信号,运放是一个内含多级放大电路的集成器件,如图所示:左图为同相位,Vn端接地或稳定的电平,Vp端电平上升,则输出端Vo电平上升,Vp端电平下降,则输出端Vo电平下降;右图为反相位,Vp端接地或稳定的电平,Vn端电平上升,则输出端Vo电平下降,Vn端电平下降,则输出端Vo电平上升2运算放大器的性质理想运算

    张飞实战电子官方
    05-08 19:34
    610

    ElfBoard技术贴|如何调整eMMC存储分区

    ELF 2开发板基于瑞芯微RK3588高性能处理器设计,拥有四核ARM Cortex-A76与四核ARM Cortex-A55的CPU架构,主频高达2.4GHz,内置6TOPS算力的NPU,这一设计让它能够轻松驾驭多种深度学习框架,高效处理各类复杂的AI任务。

    ElfBoard
    05-08 15:01
    1.1k

    米尔基于MYD-YG2LX系统启动时间优化应用笔记

    1.概述MYD-YG2LX采用瑞萨RZ/G2L作为核心处理器,该处理器搭载双核Cortex-A55@1.2GHz+Cortex-M33@200MHz处理器,其内部集成高性能3D加速引擎Mail-G31GPU(500MHz)和视频处理单元(支持H.264硬件编解码),16位的DDR4-1600/DDR3L-1333内存控制器、千兆以太网控制器、USB、CAN、

    米尔电子
    05-08 08:07
    401

    运放技术——基本电路分析

    虚短和虚断的概念由于运放的电压放大倍数很大,一般通用型运算放大器的开环电压放大倍数都在80dB以上。而运放的输出电压是有限的,一般在10V~14V。因此运放的差模输入电压不足1mV,两输入端近似等电位,相当于“短路”。开环电压放大倍数越大,两输入端的电位越接近相等。“虚短”是指在分析运算放大器处于线性状态时,可把两输入端视为等电位,这一特性称为虚假短路,简称

    张飞实战电子官方
    05-07 19:32
    553

    飞凌嵌入式携手中移物联,谱写全国产化方案新生态

    4月22日,飞凌嵌入式“2025嵌入式及边缘AI技术论坛”在深圳成功举办。中移物联网有限公司(以下简称“中移物联”)携OneOS操作系统与飞凌嵌入式共同推出的工业级核心板亮相会议展区,操作系统产品部高级专家严镭受邀作《OneOS工业操作系统——助力国产化智能制造》主题演讲。

    飞凌嵌入式
    05-07 11:26
    1.7k

    ATA-2022B高压放大器在螺栓松动检测中的应用

    实验名称:ATA-2022B高压放大器在螺栓松动检测中的应用实验方向:超声检测实验设备:ATA-2022B高压放大器、函数信号发生器,压电陶瓷片,数据采集卡,示波器,PC等实验内容:本研究基于振动声调制的螺栓松动检测方法,其中低频泵浦波采用单频信号,而高频探测波采用扫频信号,利用泵浦波和探测波在接触面的振动声调制响应对螺栓的松动程度进行检测。通过螺栓松动检测

    Aigtek安泰电子
    05-06 18:44
    1.1k

    MOS管驱动电路——电机干扰与防护处理

    此电路分主电路(完成功能)和保护功能电路。MOS管驱动相关知识:1、跟双极性晶体管相比,一般认为使MOS管导通不需要电流,只要GS电压(Vbe类似)高于一定的值,就可以了。MOS管和晶体管向比较c,b,e—–>d(漏),g(栅),s(源)。2、NMOS的特性,Vgs大于一定的值就会导通,适合用于源极接地时的情况(低端驱动),只要栅极电压达到4V或10V就可以

    张飞实战电子官方
    05-06 19:34
    586