0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

如何用数学函数去理解机器学习的过程

倩倩 来源:人人都是产品经理 2020-04-15 15:39 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

近期也是在做项目的过程中发现,其实AI产品经理不需要深入研究每一种算法,能了解机器学习的过程,这其中用到哪些常用算法,分别使用与解决哪些问题和应用场景,并基于了解的知识,去更好的建立AI产品落地流程、把控项目进度、风险评估,这个才是最关键的地方,算法研究交给专业的算法工程师,各司其职,相互配合。

基于最近看的一些文章和书籍,本文将重点分享,如何用数学函数去理解机器学习的过程,以及用数学原理指导产品工作的一些思考。

一、机器学习的本质

机器学习,即学习人类的分析、判断、解决问题的能力。人的能力如何得来?通过长期的信息输入,再经过大脑思考,最后输出对事物的判断。

那么机器如何学习?通过大量的训练数据,学习找规律,找到问题的理想最优解。所以,机器学习的本质其实是函数预测,即f:x-》y。

图片来源:网络

中学时期,我们常解的数据问题之一便是:求解方程。已知坐标(x1,y1),(x2,y2)…(xn,yn)求解n元n次方程,再将新的x带入方程对应的y。机器学习的过程可以类比方程求解过程:

样本数据:已知的坐标集D:(x1,y1),(x2,y2)…(xn,yn);

算法:即求解函数的方法;

模型训练:最后求解的方程或函数;

评估方法:将新的x带入方程验证函数“预测”是否正确。

与普通的函数不同的是,机器学习往往很难求解出完整的方程,通过各种手段求最接近理想情况下的未知项取值。以人脸识别为例,预测函数为:f:X(图片脸部特征)—》Y(身份),其中f则是通过机器学习后,具有人脸识别能力的模型。使用不同的机器学习方法训练的模型不同,即对应的函数形式也不同。

机器学习解决的常见四类问题:分类、聚类、排序和推荐。

(1)分类问题:一般包括二分类和多分类的问题,二分类即非黑即白,比如垃圾邮件过滤;多分类问题,即有多种类别的输出结果,比如图像识别。

(2)聚类问题:在一个集合中,将相似度高的对象组成多个类的过程叫聚类。比如一些新闻类的应用,将未标注的数据通过聚类算法来构建主题。

(3)排序问题:根据相关度、重要度、匹配度等,让用户在海量的信息中找到想要的信息,常见的应用场景,如搜索引擎。

(4)推荐问题:典型的应用场景,电商行业的千人千面,根据用户的购买、收藏等行为,分析用户的喜好,实现精准营销。

在理解了机器学习的本质以及常见的问题类型后,下面将介绍机器学习的过程。

二、机器学习的过程

机器学习的过程主要分为三个步骤:样本准备、算法选取、模型评估。

1. 样本准备

机器学习,需要先学习才能预测判断,样本则是机器学习的信息输入,样本的质量很大程度上决定了机器学习的效果。以人脸识别为例,其样本是大量的人脸图片。那么,大量的样本如何获取?按数据来源分类,可分为内部样本和外部样本。

(1)内部样本

内部样本数据,一般可基于内部已积累的样本数据,或通过对产品进行数据标注或者埋点,来收集更多维度的样本数据。

(2)外部样本

若数据的量级或丰富度不够,则可能需要获取一些外部样本。比如通过搜索典型的大型公开数据集,或者数据爬取等方式,来获取一些指定场景的新样本。

2. 算法选取

在机器学习的过程中,找到接近理想模型(函数)的方法即算法。机器学习的常用算法很多,不同的算法,解决的问题不同,适用的场景也不同。

如下图,比如解决聚类问题,一般使用无监督学习算法,分类问题,一般使用有监督学习算法:支持向量机SVM、神经网络等,目前神经网络依然是研究热点之一。

(1)神经网络原理

神经网络是一种模仿人类思考方式的模型,就像飞机模仿鸟的形态一样,神经网络也借鉴了生物学的神经元结构。神经元细胞主要由树突、轴突和细胞体构成,树突用于接收信号并传递给细胞体,细胞体处理信号,轴突输出信号。神经网络结构与此类似,一个典型的单隐含层神经网络架构如下图:

图片来源:网络

输入层:接收输入数据,如图片、语音特征等;

隐藏层:承载数据特征运算;

输出层:输出计算的结果;

其本质是,通过调整内部大量处理单元的连接关系、激励函数和权重值,实现对理想函数的逼近。

(2)深度学习

深度学习是神经网络的一种算法,目前在计算机视觉等领域应用十分广泛,相比单隐藏层神经网络结构,深度学习神经网络是一种多隐藏层、多层感知器的学习结构。如下图所示,增加更多的隐藏层后,网络能更深入得表示特征,以及具有更强的函数模拟能力,能获得更好的分类能力。

图片来源:网络

深度学习三类经典的神经网络分别是:深度神经网络DNN、卷积神经网络CNN、和循环神经网络RNN。其中DNN、CNN一般解决计算机视觉、图像识别等分类问题,RNN适用于自然语言处理等问题。

基于大量的样本、选取合适的算法进行模型训练后,下一步则是对模型的预测效果进行评估。

3. 模型评估

模型评估一般可分为两个阶段:实验阶段和上线阶段,在实验阶段能达到一定的使用标准指标,才能进入实际上线使用阶段。

(1)实验阶段

为了评估模型的可用性,需要对模型的预测能力进行评价,其中很重要的一个评价指标就是准确率,即模型预测和标签一致的样本占所有样本的比例。即选择不同于训练数据的,有标签数据的测试集,输入模型进行运算,计算预测的准确率,评估模型对于测试集的预测效果是否能模型可用指标。

(2)上线阶段

在模型投入使用后,基于上线后的真实数据反馈,评估模型的能力,并基于新的反馈数据,持续迭代优化模型,提高或保持模型的泛化能力。

三、总结与思考

作为产品赋能的一个“工具”,产品化的整个流程可总结为:业务需求-》转化为业务函数》样本数据获取-》选择合适的算法-》模型训练-》内部评估-》上线验证迭代。

其实这个过程,最底层的逻辑还是基于数学建模原理的思路来解决问题,也可用来指导一些日常产品工作中的问题。比如,《增长黑客》中的增长杠杆、北极星指标等方法,其本质也是数据建模的原理。定义业务函数、确定影响因素、权重成本分析、判断最优解决方案,评估上线反馈形成闭环。

所有,很多问题表面看起来各式各样、各不相同,但抽象出来可能就是一些学科问题,比如数学、物理、经济学等,联想到我前段时间分享的一篇文章《透过《奇葩说》论点,看背后的多元思维模型》中提到的多元思维模型核心观点——越往深层次思考,越能挖掘事物本质,越接近学科原理。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 算法
    +关注

    关注

    23

    文章

    4800

    浏览量

    98505
  • 机器学习
    +关注

    关注

    67

    文章

    8561

    浏览量

    137208
  • 数据集
    +关注

    关注

    4

    文章

    1240

    浏览量

    26259
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    热分析(结构函数)的数学基础(上篇)

    在介绍通过瞬态温度响应曲线得到结构函数过程之前,我们需要先了解一下RC热网络模型和时间常数的概念。这里我们借用一下JESD51-14中对RC热网络模型的描述,假设有一个四周绝热的正立方体,将它和一
    的头像 发表于 04-20 17:15 66次阅读
    热分析(结构<b class='flag-5'>函数</b>)的<b class='flag-5'>数学</b>基础(上篇)

    NVIDIA如何用AI构建机器

    下一代机器人将是通用型专家,既能理解指令、学习通用技能,又可针对特定任务进行训练。
    的头像 发表于 03-25 09:55 863次阅读

    数学工程计算+失效分析,双轮驱动电路可靠性

    数学计算驱动可靠设计在电子产品研发过程中,你是否经常遇到以下问题:产品在测试中偶发失效,却找不到根本原因?器件选型凭经验、靠感觉,缺乏量化依据?电路设计完成后,总是要经历多轮“试错—改板—测试
    的头像 发表于 02-27 17:44 390次阅读
    <b class='flag-5'>数学</b>工程计算+失效分析,双轮驱动电路可靠性

    避繁就简!商汤日日新大模型灵性巧解数学难题,获赞“机器的审美”

    大模型也能拥有某种数学家“直觉”! 在近日举办的第十届世界华人数学家大会“人工智能与数学”夜话活动上,由菲尔兹奖得主丘成桐院士引领,集结国内四大顶尖模型团队,上海人工智能实验室、商汤科技、阿里通义
    的头像 发表于 01-12 11:41 408次阅读
    避繁就简!商汤日日新大模型灵性巧解<b class='flag-5'>数学</b>难题,获赞“<b class='flag-5'>机器</b>的审美”

    何用软件实现系统的复位?

    看门狗的工作过程是怎样的? 如何用软件实现系统的复位?
    发表于 01-08 06:15

    机器学习和深度学习中需避免的 7 个常见错误与局限性

    无论你是刚入门还是已经从事人工智能模型相关工作一段时间,机器学习和深度学习中都存在一些我们需要时刻关注并铭记的常见错误。如果对这些错误置之不理,日后可能会引发诸多麻烦!只要我们密切关注数据、模型架构
    的头像 发表于 01-07 15:37 337次阅读
    <b class='flag-5'>机器</b><b class='flag-5'>学习</b>和深度<b class='flag-5'>学习</b>中需避免的 7 个常见错误与局限性

    函数指针及指针函数的区别

    学习arm过程中发现这“指针函数”与“函数指针”容易搞错,所以今天,我自己想一次把它搞清楚,找了一些资料,和大家的一些总结,整理到此。和大家分享。   首先它们之间的定义:   1、
    发表于 12-12 06:34

    何用函数指针调用函数

    给大家举一个例子: int Func(int x);/*声明一个函数*/ int (*p) (int x);/*定义一个函数指针*/ p = Func; /*将Func函数的首地址赋给指针变量
    发表于 12-11 06:26

    时钟周期、机器周期、指令周期介绍

    的描述里也叫节拍,即将一个机器周期划分成若干个相等的时间段,每一段仅完成一个基本操作,用一个电平信号宽度对应。 个人理解:时钟周期取决于晶振频率,它是机器运行过程中所有时间的最小单位。
    发表于 11-17 07:54

    激活函数ReLU的理解与总结

    《The Organization of Behavior》论文中描述了神经元学习法则。 人工神经网络更进一步被美国神经学家Frank Rosenblatt所发展。他提出了可以模拟人类感知能力的机器,并称之为‘感知机
    发表于 10-31 06:16

    量子机器学习入门:三种数据编码方法对比与应用

    在传统机器学习中数据编码确实相对直观:独热编码处理类别变量,标准化调整数值范围,然后直接输入模型训练。整个过程更像是数据清洗,而非核心算法组件。量子机器
    的头像 发表于 09-15 10:27 934次阅读
    量子<b class='flag-5'>机器</b><b class='flag-5'>学习</b>入门:三种数据编码方法对比与应用

    如何在机器视觉中部署深度学习神经网络

    人士而言往往难以理解,人们也常常误以为需要扎实的编程技能才能真正掌握并合理使用这项技术。事实上,这种印象忽视了该技术为机器视觉(乃至生产自动化)带来的潜力,因为深度学习并非只属于计算机科学家或程序员。 从头开始:什么
    的头像 发表于 09-10 17:38 1037次阅读
    如何在<b class='flag-5'>机器</b>视觉中部署深度<b class='flag-5'>学习</b>神经网络

    FPGA在机器学习中的具体应用

    随着机器学习和人工智能技术的迅猛发展,传统的中央处理单元(CPU)和图形处理单元(GPU)已经无法满足高效处理大规模数据和复杂模型的需求。FPGA(现场可编程门阵列)作为一种灵活且高效的硬件加速平台
    的头像 发表于 07-16 15:34 3069次阅读

    何用FastMCP快速开发自己的MCP Server?

    作者:算力魔方创始人/英特尔创新大使刘力很多读者反馈:通过 《用MCP将百度地图能力轻松接入DeepSeek》 和 《如何用DeepSeek+MCP实现AutoGLM沉思的能力?》 的实战,真真切切
    的头像 发表于 05-07 16:07 3032次阅读
    如<b class='flag-5'>何用</b>FastMCP快速开发自己的MCP Server?

    【「# ROS 2智能机器人开发实践」阅读体验】视觉实现的基础算法的应用

    阅读心得体会:ROS2机器人视觉与地图构建技术 通过对本书第7章(ROS2视觉应用)和第8章(ROS2地图构建)的学习,我对机器人视觉感知和自主导航的核心技术有了更深入的理解。以下是我
    发表于 05-03 19:41