0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

卷积网络和全连接网络的比较

jf_78858299 来源:算法与编程之美 作者:算法与编程之美 2023-03-24 14:49 次阅读

**1 **问题

我们在深度学习的过程中,开始对模型进行在测试集的精度进行预测时,最开始是全连接网络进行模型的精度预测,最后发现测试集的精度预测值不是很理想,就在想能不能换一种网络层提高测试集的精度?

**2 **方法

在后续的学习中,我们学习和了解了卷积网络,卷积神经网络也是通过一层一层的节点组织起来的。和全连接神经网络一样,卷积神经网络中的每一个节点就是一个神经元。在全连接神经网络中,每相邻两层之间的节点都有边相连,于是会将每一层的全连接层中的节点组织成一列,这样方便显示连接结构。而对于卷积神经网络,相邻两层之间只有部分节点相连,为了展示每一层神经元的维度,一般会将每一层卷积层的节点组织成一个三维矩阵。

全连接层的参数太多,对于MNIST数据,每一张图片的大小是28281,其中28*28代表的是图片的大小,*1表示图像是黑白的,有一个色彩通道。有的图片会更大或者是彩色的图片,这时候参数将会更多。参数增多除了导致计算速度减慢,还很容易导致过拟合的问题。所以需要一个合理的神经网络结构来有效的减少神经网络中参数的个数。卷积神经网络就可以更好的达到这个目的。于是我们就用卷积神经网络替代了全连接神经网络进行测试,发现确实提高了测试集的精度。

这是全连接网络的网络层

图片

这是卷积网络的网络层:

图片

最后我们训练了五十个周期,得出对比:

这是卷积网络测试集的精度

图片

这是全连接网络测试集的精度

图片

**3 **结语

我们通过训练发现卷积网络确实提高了网络测试集的精度,而从中也发现了卷积神经网络的输入输出以及训练的流程和全连接神经网络基本一致,而他们两种网络唯一区别就是神经网络相邻两层的连接方式。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 深度学习
    +关注

    关注

    73

    文章

    5508

    浏览量

    121305
  • MNIST
    +关注

    关注

    0

    文章

    10

    浏览量

    3386
  • 卷积网络
    +关注

    关注

    0

    文章

    42

    浏览量

    2185
收藏 人收藏

    评论

    相关推荐

    连接神经网络卷积神经网络有什么区别

    连接神经网络卷积神经网络的区别
    发表于 06-06 14:21

    卷积网络FCN进行图像分割

    与 FCN 通常CNN网络卷积层之后会接上若干个连接层, 将卷积层产生的特征图(feature map)映射成一个固定长度的特征向量。
    发表于 09-26 17:22 630次阅读

    详解卷积神经网络卷积过程

    卷积过程是卷积神经网络最主要的特征。然而卷积过程有比较多的细节,初学者常会有比较多的问题,这篇文
    的头像 发表于 05-02 15:39 1.8w次阅读
    详解<b class='flag-5'>卷积</b>神经<b class='flag-5'>网络</b><b class='flag-5'>卷积</b>过程

    卷积神经网络连接层作用理解总结

    一般来说,卷积神经网络会有三种类型的隐藏层——卷积层、池化层、连接层。卷积层和池化层
    的头像 发表于 01-30 17:23 2w次阅读

    如何区分卷积网络连接网络

    卷积神经网络是一类包含卷积计算且具有深度结构的前馈神经网络,是深度学习。卷积神经网络具有表征学习
    的头像 发表于 02-21 15:05 1586次阅读
    如何区分<b class='flag-5'>卷积</b><b class='flag-5'>网络</b>与<b class='flag-5'>全</b><b class='flag-5'>连接</b><b class='flag-5'>网络</b>

    PyTorch教程14.11之卷积网络

    电子发烧友网站提供《PyTorch教程14.11之卷积网络.pdf》资料免费下载
    发表于 06-05 11:19 0次下载
    PyTorch教程14.11之<b class='flag-5'>全</b><b class='flag-5'>卷积</b><b class='flag-5'>网络</b>

    卷积神经网络的基本原理 卷积神经网络发展 卷积神经网络三大特点

    中最重要的神经网络之一。它是一种由多个卷积层和池化层(也可称为下采样层)组成的神经网络。CNN 的基本思想是以图像为输入,通过网络卷积、下
    的头像 发表于 08-21 16:49 2494次阅读

    卷积神经网络基本结构 卷积神经网络主要包括什么

    。它的基本结构由卷积层、池化层和连接层三部分组成,其中卷积层是核心部分,用于提取图像的特征,池化层用于降低特征图的大小,
    的头像 发表于 08-21 16:57 9150次阅读

    卷积神经网络层级结构 卷积神经网络卷积层讲解

    像分类、目标检测、人脸识别等。卷积神经网络的核心是卷积层和池化层,它们构成了网络的主干,实现了对图像特征的提取和抽象。 一、卷积神经
    的头像 发表于 08-21 16:49 8955次阅读

    卷积神经网络的介绍 什么是卷积神经网络算法

    的深度学习算法。CNN模型最早被提出是为了处理图像,其模型结构中包含卷积层、池化层和连接层等关键技术,经过多个卷积层和池化层的处理,CNN可以提取出图像中的特征信息,从而对图像进行分
    的头像 发表于 08-21 16:49 1899次阅读

    常见的卷积神经网络模型 典型的卷积神经网络模型

    LeNet是卷积神经网络的开山祖师,是由Yan LeCunn在1998年提出的经典卷积神经网络模型。它最初是为手写体数字识别而设计的,由卷积
    的头像 发表于 08-21 17:11 2875次阅读

    卷积神经网络模型的优缺点

    等领域中非常流行,可用于分类、分割、检测等任务。而在实际应用中,卷积神经网络模型有其优点和缺点。这篇文章将详细介绍卷积神经网络模型的特点、优点和缺点。 一、
    的头像 发表于 08-21 17:15 4597次阅读

    卷积神经网络的工作原理和应用

    卷积神经网络(FCN)是深度学习领域中的一种特殊类型的神经网络结构,尤其在计算机视觉领域表现出色。它通过全局平均池化或转置卷积处理任意尺寸
    的头像 发表于 07-11 11:50 1204次阅读

    神经网络中的卷积层、池化层与连接

    在深度学习中,卷积神经网络(Convolutional Neural Network, CNN)是一种特别适用于处理图像数据的神经网络结构。它通过卷积层、池化层和
    的头像 发表于 07-11 14:18 6457次阅读

    卷积神经网络与传统神经网络比较

    神经网络,也称为连接神经网络(Fully Connected Neural Networks,FCNs),其特点是每一层的每个神经元都与下一层的所有神经元相连。这种结构简单直观,但在处理图像等高维数据时会遇到显著的问题,如参数
    的头像 发表于 11-15 14:53 571次阅读