0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

大数据技术分为哪两个方面

讯维官方公众号 来源:讯维官方公众号 作者:讯维官方公众号 2022-07-22 11:34 次阅读

大数据需要特殊的技术,主要包括大规模并行处理(MPP)数据库、数据挖掘网络、分布式文件系统、分布式数据库、云计算平台、互联网和可扩展的存储系统。大数据技术分为整体技术和关键技术两个方面。

1.整体技术

整体技术主要有数据采集、数据存取、基础架构、数据处理、统计分析、数据挖掘、模型预测和结果呈现等。

2.关键技术

大数据处理关键技术一般包括:大数据采集、大数据预处理、大数据存储及管理、大数据分析及挖掘、大数据展现和应用(大数据检索、大数据可视化、大数据应用、大数据安全等)。

(1)大数据采集技术:数据采集是通过RFID射频技术、传感器以及移动互联网等方式获得的各种类型的结构化及非结构化的海量数据。大数据采集一般分为大数据智能感知层和基础支撑层: 大数据智能感知层:主要包括数据传感体系、网络通信体系、传感适配体系、智能识别体系及软硬件资源接入系统。实现对结构化、半结构化、非结构化的海量数据的智能化识别、定位、跟踪、接入、传输、信号转换、监控、初步处理和管理等。必须着重攻克针对大数据源的智能识别、感知、适配、传输、接入等技术。

基础支撑层:提供大数据服务平台所需的虚拟服务器,结构化、半结构化及非结构化数据的数据库及物联网络资源等基础支撑环境。重点攻克分布式虚拟存储技术,大数据获取、存储、组织、分析和决策操作的可视化接口技术,大数据的网络传输与压缩技术,大数据隐私保护技术等。

(2)大数据预处理技术:大数据预处理主要完成对已接收数据的抽取、清洗等操作。

抽取:因获取的数据可能具有多种结构和类型,数据抽取过程可以将这些复杂的数据转化为单一的或者便于处理的构型,以达到快速分析处理的目的。

清洗:对于大数据,并不全是有价值的,有些数据并不是我们所关心的内容,而另一些数据则是完全错误的干扰项,因此要对数据通过过滤“去噪”从而提取出有效数据。

(3)大数据存储及管理技术:大数据存储与管理要用存储器把采集到的数据存储起来,建立相应的数据库,并进行管理和调用。要解决大数据的可存储、可表示、可处理、可靠性及有效传输等几个关键问题。

(4)大数据分析及挖掘技术:数据分析及挖掘技术是大数据的核心技术。主要是在现有的数据上进行基于各种预测和分析的计算,从而起到预测的效果,满足一些高级别数据分析的需求。数据挖掘就是从大量的、不完全的、有噪声的、模糊的、随机实际数据中,提取隐含在其中的、人们事先不知道的但又是潜在有用的信息和知识的过程。

(5)数据展现和应用:大数据技术能够将隐藏于海量数据中的信息挖掘出来,从而提高各个领域的运行效率。在我国,大数据重点应用于以下三大领域:商业智能、政决策和公共服务。

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 传感器
    +关注

    关注

    2542

    文章

    50078

    浏览量

    748826
  • 数据采集
    +关注

    关注

    38

    文章

    5574

    浏览量

    113196
  • 大数据
    +关注

    关注

    64

    文章

    8818

    浏览量

    137053

原文标题:大数据技术到底有哪些

文章出处:【微信号:xunwei201508,微信公众号:讯维官方公众号】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    二极管的伏安特性分为两个部分?

    二极管是一种半导体器件,具有单向导电性。其伏安特性是描述二极管在不同电压下电流变化的曲线。二极管的伏安特性可以分为两个部分:正向特性和反向特性。 正向特性 正向特性是指二极管在正向偏置下,即阳极接
    的头像 发表于 08-16 11:16 335次阅读

    大数据在军事方面的应用

    智慧华盛恒辉大数据在军事方面的应用广泛且深入,涵盖了战争决策、情报分析、装备研发、后勤保障、科研方法、管理水平、作战能力和信息化建设等多个方面。以下是对这些应用的详细归纳: 智慧华盛恒辉一、战争决策
    的头像 发表于 07-16 09:44 489次阅读

    大数据采集系统分为几类

    和应用场景. 1. 概述 大数据采集系统是实现数据收集、处理和存储的关键环节。随着大数据技术的快速发展,大数据采集系统也在不断演进和创新。本
    的头像 发表于 07-01 15:44 1069次阅读

    大数据在军事方面的应用有哪些

    智慧华盛恒辉大数据在军事方面的应用涵盖了多个方面,这些应用不仅提高了军事管理的效率和水平,也极大地提升了军队的作战能力和情报获取能力。以下是大数据在军事
    的头像 发表于 06-23 10:34 620次阅读

    电磁继电器分为两个电路

    的控制。根据其结构和工作原理,电磁继电器可以分为两个电路:控制电路和工作电路。 一、控制电路 控制电路是电磁继电器的重要组成部分,它的作用是提供电磁铁所需的电流,使其产生磁场。控制电路主要由电源、控制开关和
    的头像 发表于 06-21 09:28 371次阅读

    交流电机分为

    交流电机是工业和日常生活中最常见的电机类交流电机分为种型之一,它们将交流电能转换为机械能。根据其运行原理和结构特点,交流电机一般分为同步电机和异步电机
    的头像 发表于 06-09 15:17 487次阅读

    arcgis中如何关联两个属性表

    在ArcGIS中,关联两个属性表是一重要的操作,可以通过此操作将两个表中的数据关联起来,以便进行分析和查询。下面是详细介绍如何在ArcGIS中实现属性表的关联。 首先,我们需要明确
    的头像 发表于 02-25 11:01 3400次阅读

    大数据技术是干嘛的 大数据核心技术有哪些

    的核心技术,包括数据采集、存储与管理、处理与分析等方面。 一、大数据技术背景和概念 1.1 背景 随着互联网
    的头像 发表于 01-31 11:07 2478次阅读

    两个机器的时钟怎么同步?

    两个机器的时钟怎么同步? 在现代社会中,时间同步对于各种科学研究、工业生产和通信技术都具有重要意义。在许多应用程序中,如分布式系统、计算机网络和数据同步等领域,为了确保数据的一致性和准
    的头像 发表于 01-16 14:26 1277次阅读

    网络通信技术分为层次

    网络通信技术分为物理层、数据链路层和网络层三层次。每个层次都有不同的功能和任务,它们协同工作,确保数据在网络中的传输和接收。以下是关于网络
    的头像 发表于 12-20 09:13 1831次阅读

    kernel的启动分为两个阶段

    kernel的启动主要分为两个阶段。 1、阶段一 从入口跳转到start_kernel之前的阶段。 对应代码arch/arm/kernel/head.S中stext的实现: ENTRY (stext
    的头像 发表于 12-04 16:45 491次阅读

    vlookup两个表怎么匹配相同数据

    VLOOKUP是一种非常有用的Excel函数,它可以帮助我们在两个表中匹配相同的数据。在本文中,我们将详细介绍VLOOKUP函数的工作原理,并通过示例方式演示如何将两个表匹配起来。 首先,我们需要
    的头像 发表于 11-30 17:18 2417次阅读

    两个硬盘2系统开机切换

    切换两个硬盘上的系统是一种常见的行为,可以让用户在不同的操作系统之间进行切换,以满足不同的需求。在本文中,我们将详细介绍如何配置和使用两个硬盘上的系统进行切换。本文将分为以下几个部分进行讨论:硬件
    的头像 发表于 11-28 15:08 6312次阅读

    通过Level和Step两方面剖析现代电子集成技术

    芯片上的集成,封装内的集成,PCB板级集成,是电子集成的三层次。每一层次的集成,都分为不同的环节。这篇文章,我们从层次-Level和环节-Step两个方面来剖析现代电子集成
    发表于 11-15 15:11 490次阅读
    通过Level和Step<b class='flag-5'>两方面</b>剖析现代电子集成<b class='flag-5'>技术</b>

    电压型逆变电路分类解读 逆变电路可分为大类

    电压型逆变电路分类解读 逆变电路可分为大类 电压型逆变电路是一种将直流电转化为交流电的电路,是现代电力电子技术中的重要应用之一。根据不同的控制方式和输出波形,逆变电路可以
    的头像 发表于 10-16 15:52 1847次阅读