0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

使用DNA在现实世界中存储数据

DPVg_AI_era 来源:YXQ 2019-08-01 15:29 次阅读

相比传统的数据储存方式,DNA存储具有占用空间小、获取容易、储存时间长3大优势,但也面临存储速度慢、花费高的弊端。随着技术的不断成熟,它真的能成为主流吗?

全球每年产生的数据需要4180亿个1TB硬盘才能放下,若是把如此庞大的数据放到DNA上,只需 1kg DNA就够了!DNA存储才是未来!

几年前,甚至研究人员也不愿使用DNA来存储数据,因为这看起来过于科幻,并没有任何实用价值。今天,我们可以使用正确的软件和生物化学模块扩展PostgreSQL,并在DNA上运行SQL。

在这个数据爆炸的时代,全球的数据不仅远远超过我们理解数字的能力(比如你知道Zettabytes是多少吗?)更超过了我们的储存能力。

一切都是数字化的,一切都越来越多地运行在基于数据训练算法的应用程序上,而这些算法反过来会产生更多的数据来为更多的下游应用程序和算法提供信息。你懂了吧?

简单地说,按照这种速度,很快就没有足够的数据存储和计算材料可供使用。这就是为什么人们现在已经开始寻找替代的数据存储介质的原因。使用DNA来存储数据,这听起来很奇怪,实际上很有意义。现在,研究人员取得了突破,使他们能够将DNA存储整合到流行的开源数据库PostgreSQL中。

DNA是如何储存数据的?

DNA的核心是数据存储层。DNA由四种碱基组成:腺嘌呤、鸟嘌呤、胞嘧啶和胸腺嘧啶(又名AGCT)。从这四个碱基中,DNA形成由三个核苷酸组成的基团(称为密码子)。密码子是给我们的细胞指示蛋白质形成的单位。

我们的信息技术基础设施基于以位(bits)为单位的信息存储(由两位数字组成:0和1),而DNA信息存储在四个潜在基本单元的串中。为了将非遗传信息存储在DNA中,我们必须首先将二进制数据从位转换为DNA数据(AGCT)结构。

将Bits转换为DNA序列

理论部分实际上相当简单。与使用硅或磁性介质(它们的工作原理是将状态存储为1和0的序列)相同,存储A、G、C和T的序列。但是,这在实践中是如何工作的呢?如何在DNA中写入和读取数据呢?

这听起来可能有点遥不可及,但分子技术的进步已经使它成为可行——尽管并不完美。

例如,微软展示了世界上第一个自动DNA数据存储和检索系统。如果你想知道这个DNA来自哪里:这是合成DNA,产生它的是系统的一部分。

天然存在的DNA由两条核苷酸链的双螺旋的形式构成。相反,用于数据存储的DNA是单链核苷酸序列,也称为寡核苷酸(oligo),它通过化学过程合成,该化学过程一次构建一个核苷酸。

使用DNA在现实世界中存储数据

伦敦帝国理工学院 SCALE实验室负责人Heinis和Eurecom数据科学系助理教授Appuswamy 在创新数据系统研究会议上发表了题为“ OligoArchive: Using DNA in the DBMS storage hierarchy ”的研究论文。虽然他们不是第一个使用DNA存储和检索数据的人,但他们是第一个使用结构化数据、与现成的数据库集成、并超越存储、实现计算的人。

关于DNA作为数据存储层的第一件事是,每次执行写操作时,都必须合成寡核苷酸。这将如何在实践中发挥作用?实验室技术人员是否必须待命执行此操作,并“重新填充”用于化学过程的原材料?

并非如此,根据Appuswamy和Heinis的说法,这是微软通过其自动DNA存储和检索系统所证明的价值所在。这表明,在没有人参与的情况下操作这样一个过程是可能的。就像除了维护,没有人监督数据中心的日常运作一样,这同样适用于基于DNA的数据中心。

尽管如此,我们还远没有用合成DNA阵列取代硬盘。首先,以这种方式存储数据的现代技术非常缓慢。刚开始,科学家们花了一周时间来存储一兆字节的数据。

Appuswamy和Heinis一致认为,在这方面还需要更多的工作。但这超出了他们自己的研究范围,所以只能等待生化合成过程进一步提高。

首先,他们注意到存储速度已经越来越快,目前速度是每秒几KB。虽然与SSD相比,这仍然非常缓慢,但这是一个很大的进步。对于Appuswamy和Heinis的研究(即归档存储),这实际上是可以接受的。

数据库引擎使用三层存储层次结构,由具有不同价格/性能特性的设备组成。性能层存储高性能OLTP和实时分析应用程序访问的数据。

容量层存储由延迟不敏感(latency-insensitive)的批分析应用程序访问的数据。归档层用于存储很少访问的数据,例如,在安全合规性检查或法律审计期间。今天磁带通常用于这一层。

OligoArchive通过将基于磁带的归档层替换为基于DNA的归档层来改变数据库存储层次结构。合成DNA的存储需要额外的措施,对于普通的设备来说,基于DNA的存储是否有效还值得怀疑。但无论如何,数据和数据库都将进入云端,只要你的数据安全地存储在数据中心,对终端用户来说,这都是一个黑匣子。

在DNA上运行SQL

Appuswamy和Heinis还指出,即使它仍然很慢,DNA存储提供了很大的并行处理潜力。因为它很丰富、价格低廉 - 或者更确切地说,我们希望它最终会是这样。按照目前的速度,存储一分钟的高质量立体声将花费100,000美元。

尽管使用合成DNA进行大规模存储仍然过于昂贵,但Appuswamy和Heinis表示,他们预计成本会下降,这是包括存储技术在内的每一项科技突破的典型方式。

如果合成寡核苷酸在经济上变得可行,那么拥有大量的合成寡核苷酸将是一个合理的预期。这意味着许多DNA存储单元可以并行运行的巨大潜力。虽然不是每种算法的每一个方面都是可并行的,但对于那些算法来说,可以实现极大的加速。这就把我们带到了一个关键点。

直到今天,DNA一直被用于存储非结构化文件,无论是文本还是视频,或者其他什么。Appuswamy和Heinis所做的是将DNA存储整合到关系数据库中。他们采用了标准数据库基准测试TPC-H中包含的数据和查询,并在PostgreSQL实例上运行了TPC-H。不是串行访问,而是随意选择数据。

使用后端的DNA在数据库系统中存储结构化数据,并通过SQL查询,这在今天已成为现实。

研究人员为PostgreSQL构建了归档和恢复工具(pg_oligo_dump和pg_oligo_restore),对DNA上的关系数据执行模式感知编码和解码,并使用这些工具将12KB TPC-H数据库归档到DNA,执行in-vitro计算,以及再次恢复它。

这是巨大的。这意味着现在DNA存储还可以支持SQL操作,来有选择地访问和处理部分数据。请注意,数据不会被提取到数据库来执行操作。Appuswamy和Heinis找到了一种方法来处理寡核苷酸中的SQL连接。这超出了生化储存的范围——它还需要生物化学计算。

然而,要做到这一点,研究人员必须处理一系列与用于编码和解码DNA信息的技术缺陷有关的问题。对DNA进行操作需要专门的编码技术,这些技术可以产生适合生化操作的寡核苷酸。读取DNA数据目前非常容易出错,以前的工作依赖于数据过度表示(over-representation):数据被写在许多副本中,因此如果原始数据被破坏,备份还在。

相比之下,Appuswamy和Heinis依赖于元数据。他们利用数据库模式感知,在编写的块中添加一些额外的数据位。研究表明,这可以在编码(写入)过程中提高密度,并有助于在解码(读取)过程中识别错误。他们注意到这比预期效果更好。

DNA是数据的未来吗?

尽管部分技术还不成熟,但这是一个重大突破。拥有足够的数据中心存储空间已经成为一个game changer。但是,将像DNA这样丰富的东西作为一种可行的存储和计算介质的意义可能会超出我们的想象。

这可能只是朝这个方向迈出的第一步,但每一个旅程都从第一步开始,Appuswamy和Heinis并不是独行者。

Eurecom,CNRSICL,UCA以及DNA合成初创企业Helixworks已获得欧盟资助,以进一步开展DNA储存研究。该系统将被设计成支持数据编码的全自动循环,将其合成为DNA,并通过序列读取数据。它将存储各种不同的数据类型,并在存储和精确检索数据时实现近距离数据处理。

将数据存储在DNA中的进一步研究将由欧盟资助

Appuswamy和Heinis提到,到目前为止,主要是其他研究人员对这个感兴趣,至于说公司,微软似乎比任何公司都表现出了更多的兴趣。

掌握这项技术可能意味着拥有未来,因为这一领域的突破将产生巨大的影响。Appuswamy和Heinis指出,这表明了人们的态度:

“几年前,人们会认为这太离谱了。今天,当我们告诉他们我们正在做什么时,他们会说——多告诉我们一些”。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 存储
    +关注

    关注

    13

    文章

    4202

    浏览量

    85533
  • DNA
    DNA
    +关注

    关注

    0

    文章

    242

    浏览量

    30973

原文标题:存储1分钟声音花10万美元,DNA存储真的有未来吗?

文章出处:【微信号:AI_era,微信公众号:新智元】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    dp接口虚拟现实的作用

    虚拟现实(VR)技术的发展为用户带来了沉浸式的体验,使得人们能够以前所未有的方式探索虚拟世界。在这一过程,DP接口(DisplayPort)扮演了至关重要的角色。 一、DP接口简介
    的头像 发表于 10-30 14:07 96次阅读

    存储数据会因为断电而丢失吗

    存储数据是否会因为断电而丢失,取决于存储器的类型及其工作原理。深入探讨这个问题之前,我们首先需要了解
    的头像 发表于 09-26 15:23 997次阅读

    DNA计算机研究取得突破性进展:PB级数据存储与高效处理

    8月29日,科学界传来振奋人心的消息,一项革命性的研究成果为实现全功能DNA计算机奠定了坚实基础。研究团队成功开发出一种创新技术,该技术不仅能在DNA存储惊人的PB级
    的头像 发表于 08-29 16:29 420次阅读

    ram存储数据断电后会丢失吗

    后,存储RAM数据会丢失。 一、RAM的工作原理 RAM的基本概念 RAM是一种半导体存储器,由大量的
    的头像 发表于 08-06 09:19 1253次阅读

    增强现实和虚拟现实的联系和区别

    信息叠加到现实世界的技术。用户可以通过头戴式显示器、智能手机或平板电脑等设备,看到现实世界与虚拟信息的结合。 虚拟
    的头像 发表于 07-08 11:00 1803次阅读

    增强现实是虚实结合吗为什么

    们提供了一种全新的交互方式,使得虚拟世界现实世界之间的界限变得模糊,实现了虚实结合。 增强现实技术是一种将计算机生成的虚拟信息与现实
    的头像 发表于 07-08 10:58 400次阅读

    虚拟现实技术和增强现实技术区别与联系

    是一种通过计算机生成的三维环境,使用户能够沉浸在一个虚拟世界,实现与虚拟环境的交互。VR技术的核心原理是通过计算机图形学、传感器技术、人机交互技术等手段,模拟现实世界的环境和物体,让
    的头像 发表于 07-04 11:44 1834次阅读

    数字孪生:当数字科技遇上现实世界

    数字孪生是指通过数字化技术,将物理世界的实体与虚拟数字模型相联系,从而实现实时复制和仿真的技术。它的出现,为我们打开了一扇通往未来的大门。数字孪生正在深刻改变着我们的生活和工作方式,带来了前所未有
    的头像 发表于 05-13 16:41 351次阅读

    增强现实ar是什么

    增强现实(Augmented Reality,简称AR)是一种将虚拟信息融入到现实环境的技术,使用户能够现实
    的头像 发表于 05-02 15:18 702次阅读

    NetApp数据恢复—NetApp存储的卷丢失的数据恢复案例

    。 NetApp存储故障: 操作过程由于未知原因导致卷丢失,卷内虚拟机无法访问。管理员对该NetApp存储进行检查并试图恢复数据但是没有成功,于是联系我们
    的头像 发表于 03-07 15:42 364次阅读
    NetApp<b class='flag-5'>数据</b>恢复—NetApp<b class='flag-5'>存储</b><b class='flag-5'>中</b>的卷丢失的<b class='flag-5'>数据</b>恢复案例

    电感磁性存储的作用是什么?

    ,电感作为关键元件之一,为存储和读取数据提供支持。本文将详细介绍电感磁性存储的作用,包括其原理、构造、性能和优点等方面,旨在为读者提供
    的头像 发表于 01-30 16:18 926次阅读

    DNA存储卡:高价与遥远现实

    生物记忆表示,其 DNA 存储卡有望保证 150 年内的数据存储安全,远远超出人类生存年限。然而,对于多数消费者而言,花费如此高价仅换来 1KB
    的头像 发表于 01-23 10:29 536次阅读

    BCP为什么只有收集数据后才存储数据

    有很多不便之处,因为可以存储 BCP 的收集数据的数量限制为 10,000。 为什么只有收集数据
    发表于 01-22 07:06

    ram存储数据断电后是否会丢失?

    当电源断开时,随机存取存储器(RAM)数据通常会丢失。这是因为RAM是一种易失性存储器,它必须以恒定的电源供应来维持存储
    的头像 发表于 01-16 16:30 7885次阅读

    数字数据初创公司Biomemory宣布推出1000美元全球首款DNA存储产品

    Biomemory的DNA数据存储卡承诺“最低”寿命为150年。1000美元的价格包括了两张相同的卡——一张用于保存,另一张用于测试检索数据的过程,其中带有1KB的
    的头像 发表于 12-18 17:04 825次阅读