0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

大数据技术分为哪两个方面

讯维官方公众号 来源:讯维官方公众号 作者:讯维官方公众号 2022-07-22 11:34 次阅读

大数据需要特殊的技术,主要包括大规模并行处理(MPP)数据库、数据挖掘网络、分布式文件系统、分布式数据库、云计算平台、互联网和可扩展的存储系统。大数据技术分为整体技术和关键技术两个方面。

1.整体技术

整体技术主要有数据采集、数据存取、基础架构、数据处理、统计分析、数据挖掘、模型预测和结果呈现等。

2.关键技术

大数据处理关键技术一般包括:大数据采集、大数据预处理、大数据存储及管理、大数据分析及挖掘、大数据展现和应用(大数据检索、大数据可视化、大数据应用、大数据安全等)。

(1)大数据采集技术:数据采集是通过RFID射频技术、传感器以及移动互联网等方式获得的各种类型的结构化及非结构化的海量数据。大数据采集一般分为大数据智能感知层和基础支撑层: 大数据智能感知层:主要包括数据传感体系、网络通信体系、传感适配体系、智能识别体系及软硬件资源接入系统。实现对结构化、半结构化、非结构化的海量数据的智能化识别、定位、跟踪、接入、传输、信号转换、监控、初步处理和管理等。必须着重攻克针对大数据源的智能识别、感知、适配、传输、接入等技术。

基础支撑层:提供大数据服务平台所需的虚拟服务器,结构化、半结构化及非结构化数据的数据库及物联网络资源等基础支撑环境。重点攻克分布式虚拟存储技术,大数据获取、存储、组织、分析和决策操作的可视化接口技术,大数据的网络传输与压缩技术,大数据隐私保护技术等。

(2)大数据预处理技术:大数据预处理主要完成对已接收数据的抽取、清洗等操作。

抽取:因获取的数据可能具有多种结构和类型,数据抽取过程可以将这些复杂的数据转化为单一的或者便于处理的构型,以达到快速分析处理的目的。

清洗:对于大数据,并不全是有价值的,有些数据并不是我们所关心的内容,而另一些数据则是完全错误的干扰项,因此要对数据通过过滤“去噪”从而提取出有效数据。

(3)大数据存储及管理技术:大数据存储与管理要用存储器把采集到的数据存储起来,建立相应的数据库,并进行管理和调用。要解决大数据的可存储、可表示、可处理、可靠性及有效传输等几个关键问题。

(4)大数据分析及挖掘技术:数据分析及挖掘技术是大数据的核心技术。主要是在现有的数据上进行基于各种预测和分析的计算,从而起到预测的效果,满足一些高级别数据分析的需求。数据挖掘就是从大量的、不完全的、有噪声的、模糊的、随机实际数据中,提取隐含在其中的、人们事先不知道的但又是潜在有用的信息和知识的过程。

(5)数据展现和应用:大数据技术能够将隐藏于海量数据中的信息挖掘出来,从而提高各个领域的运行效率。在我国,大数据重点应用于以下三大领域:商业智能、政决策和公共服务。

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 传感器
    +关注

    关注

    2551

    文章

    51125

    浏览量

    753752
  • 数据采集
    +关注

    关注

    39

    文章

    6114

    浏览量

    113679
  • 大数据
    +关注

    关注

    64

    文章

    8892

    浏览量

    137456

原文标题:大数据技术到底有哪些

文章出处:【微信号:xunwei201508,微信公众号:讯维官方公众号】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    二极管的伏安特性分为两个部分?

    二极管是一种半导体器件,具有单向导电性。其伏安特性是描述二极管在不同电压下电流变化的曲线。二极管的伏安特性可以分为两个部分:正向特性和反向特性。 正向特性 正向特性是指二极管在正向偏置下,即阳极接
    的头像 发表于 08-16 11:16 859次阅读

    触发器的两个稳定状态分别是什么

    触发器作为数字电路中的基本逻辑单元,具有两个稳定状态,这两个状态通常用于表示二进制数码中的0和1。
    的头像 发表于 08-12 11:01 1241次阅读

    大数据在军事方面的应用

    智慧华盛恒辉大数据在军事方面的应用广泛且深入,涵盖了战争决策、情报分析、装备研发、后勤保障、科研方法、管理水平、作战能力和信息化建设等多个方面。以下是对这些应用的详细归纳: 智慧华盛恒辉一、战争决策
    的头像 发表于 07-16 09:44 1086次阅读

    大数据采集系统分为几类

    和应用场景. 1. 概述 大数据采集系统是实现数据收集、处理和存储的关键环节。随着大数据技术的快速发展,大数据采集系统也在不断演进和创新。本
    的头像 发表于 07-01 15:44 1545次阅读

    交流二元继电器有两个线圈

    交流二元继电器是一种常见的电气元件,广泛应用于各种电气控制系统中。它主要由两个线圈组成,这两个线圈分别是线圈1和线圈2。下面我们将详细介绍这两个线圈的特点、工作原理以及在实际应用中的注意事项。 一
    的头像 发表于 06-29 09:43 690次阅读

    大数据在军事方面的应用有哪些

    智慧华盛恒辉大数据在军事方面的应用涵盖了多个方面,这些应用不仅提高了军事管理的效率和水平,也极大地提升了军队的作战能力和情报获取能力。以下是大数据在军事
    的头像 发表于 06-23 10:34 1035次阅读

    电磁继电器分为两个电路

    的控制。根据其结构和工作原理,电磁继电器可以分为两个电路:控制电路和工作电路。 一、控制电路 控制电路是电磁继电器的重要组成部分,它的作用是提供电磁铁所需的电流,使其产生磁场。控制电路主要由电源、控制开关和
    的头像 发表于 06-21 09:28 679次阅读

    交流电机分为

    交流电机是工业和日常生活中最常见的电机类交流电机分为种型之一,它们将交流电能转换为机械能。根据其运行原理和结构特点,交流电机一般分为同步电机和异步电机
    的头像 发表于 06-09 15:17 675次阅读

    请问Stlcr1v1传感器的温度是通过两个引脚传出来的?如何让温度通过uart两个串口传出来?

    我们想做不联电脑手机机的单纯的单片机串口通信,不知道我们传感器的温度是通过两个引脚传出来的,也不知道怎么样让温度通过uart两个串口传出来。我们还把上面原本的初始程序给覆盖。有没有大佬知道温度是通过哪个引脚传出来的?这个传感器
    发表于 06-03 08:53

    两个铜片可以形成原电池吗

    两个铜片本身不能形成原电池,因为原电池的工作原理依赖于两个不同电位的电极材料之间的氧化还原反应。
    的头像 发表于 05-21 16:23 975次阅读

    降噪是什么原理 降噪方法分为哪几种

    ,下面将从原理和方法两个方面详细介绍,以满足您的要求。 一、降噪的原理 1.信号处理原理:降噪的基本原理是通过加工处理噪声信号,使得其与原始信号进行相减或者滤除部分噪声,从而达到降低噪声干扰的目的。信号处理的主要方式
    的头像 发表于 03-14 16:55 7563次阅读

    arcgis中如何关联两个属性表

    在ArcGIS中,关联两个属性表是一重要的操作,可以通过此操作将两个表中的数据关联起来,以便进行分析和查询。下面是详细介绍如何在ArcGIS中实现属性表的关联。 首先,我们需要明确
    的头像 发表于 02-25 11:01 4259次阅读

    两个电位器地控制一变频器,如何接线?

    两个电位器地控制一变频器,如何接线? 接线方式如下: 1. 首先,明确需要使用的电器设备。在这个场景中,我们需要两个电位器(即可变电阻器)和一
    的头像 发表于 02-05 10:13 5324次阅读

    大数据技术是干嘛的 大数据核心技术有哪些

    的核心技术,包括数据采集、存储与管理、处理与分析等方面。 一、大数据技术背景和概念 1.1 背景 随着互联网
    的头像 发表于 01-31 11:07 3485次阅读

    两个机器的时钟怎么同步?

    两个机器的时钟怎么同步? 在现代社会中,时间同步对于各种科学研究、工业生产和通信技术都具有重要意义。在许多应用程序中,如分布式系统、计算机网络和数据同步等领域,为了确保数据的一致性和准
    的头像 发表于 01-16 14:26 1671次阅读