机器学习初识

什么是机器学习

机器学习模型

很多人会望文生义的产生误解,认为 机器学习 是机器能够像人一样学习甚至于学生的比人更好。

机器学习算法与非机器学习算法(如控制交通灯的程序)的不同之处在于,它能够使自身的行为适应新的输入。这种似乎没有人为干预的适应,偶尔会给人一种机器真的是在学习的错觉。然而,在机器学习模型的背后,这种行为上的适应和人类编写的每一条机器指令一样严格。

机器学习模型:

机器学习算法是揭示数据中潜在关系的过程。 机器学习模型(machine learning model)是机器学习算法产出的结果,可以将其看作是在给定输入情况下、输出一定结果的 函数(function)F。机器学习模型不是预先定义好的固定函数,而是从历史数据中推导出来的。因此,当输入不同的数据时,机器学习算法的输出会发生变化,即机器学习模型发生改变。

机器学习的任务,就是从广阔的映射空间中学习函数。机器学习模型的结果往往无法达到 100%精确。

有监督vs无监督

当给出一个机器学习问题的时候,首先可以确认的是它是 有监督 还是 无监督 问题。

对于任何的机器学习问题,都可以从一组 样本 组成的数据集开始,每个样本可以表示为一个 属性元组。

在一个有监督的学习任务中,数据样本将包含一个目标属性有y,也就是真值,而任务则是通过学习来得到一个函数F,它接受非目标属性x,并且输出一个接近目标属性的值,也就是F(x)≈y。目标属性y就像指导学习任务的导师,因为y提供了一个关于学习结果的基准。

与有监督的学习任务相反的是无监督学习,无监督的学习任务中灭有设置真值。人们的预期是从数据中学习潜在的模式或规则,而不以预先定义的真值作为基准。

在没有真值作为基准的情况之下,无监督学习可以得到:

  1. 聚类:给定一个数据集,可以根据数据集中的样本之间的相似性,将样本聚集成祖。
  2. 关联:给定一个数据集,关联任务是发现样本属性之间隐藏的关联模式。

在数据集很大但是标记样本很少的情况之下,可以找到同时具备有监督和无监督学习的应用。这样的任务则被称之为半监督学习。

在多数情况之下,收集大量的含有标记的数据是非常耗时和昂贵的,因为这需要人工成本。

分类vs回归

如果机器学习模型的输出是离散值,那么将其成为分类模型;如果输出的是连续值,则被称之为叫做回归模型。

比如说照片中是否包含毛的模型可以被认为是分类模型,可以用布尔值来表示是否是猫:

 

回归模型的一个例子则是估算房产价值的模型,房子的特征会包括面积,房产类型和地理位置等等。在这种情况之下,可以将预期输出看作是一个实数p∈R,因此它是一个回归模型。

假设我们以地场面积作为唯一变量,以抵偿价格为输出的回归模型:

 

如何做

机器学习工作流

构建机器学习模型的工作流是以数据为中心的,可以说数据决定了机器学习模型的构建方式:

 

从数据出发,首先要确定机器学习问题的类型是有监督的还是无监督的机器学习问题。

对于有监督的机器学习算法,根据模型预期输出进一步确定生成模型的类型:分类或者回归,即分类模型的离散值和回归模型的连续之。

一旦确定了想要从数据中构建的模型类型,就可以开始执行特征工程,这是一组将数据转换为所需格式的活动,以下是几个例子:

  1. 将数据分成两组:训练和测试。在训练模型的过程中使用训练数据集,然后使用测试数据集来测试或验证我们构建的模型是否足够通用,是否可以应用与不可见的数据。
  2. 原始数据集通常是不完整的,带有缺失值。因此需要使用各种策略来填充这些缺失值,比如说使用平均值来进行填充。
  3. 数据集通常包含分类属性,因为算法的限制,通常会将这些分类字符串值编码为数值。

当数据准备好之后,则选择一个机器学习算法,并且向算法输入准备好的训练数据,这也就是训练过程。

当我们在训练过程结束后获得了机器学习模型,就需要使用保留的测试数据对模型进行测试,也就是测试过程。由于初次测试的模型无法让人刚到满意,所以需要再一次回到训练过程中,并调整选择的模型公开的一些参数,也就是超参数调优。

数据

通过数据来训练模型,模型所能够达到的上线是由数据决定的,训练者所能够做的就是找到一个可以接近数据所设置的上限的模型,并不能够指望一个模型能够从数据范围之内学到其他的东西。

从经验上来讲:若输入错误数据,则输出也将是错误数据。

因为技术上的限制,亦或者是隐私政策的限制,往往无法得到高质量的全面的数据进行训练。

欠拟合vs过拟合

对于有监督学习算法,通常有两种情况之下生成的模型不能够很好的拟合数据:

  1. 欠拟合(underfitting)
  2. 过拟合(overfitting)

有监督学习算法的一个重要度量是:泛化。泛化衡量从训练数据到处的模型是否能够对不可见的数据的期望属性的预测能力。

欠拟合模型是指不能很好地拟合训练数据的模型,即显著偏离真实值的模型。

 

欠拟合模型是指不能很好地拟合训练数据的模型,即显著偏离真实值的模型。欠拟合的原因之一可能是模型对数据而言过于简化,因此无法捕获数据中隐藏的关系。

过拟合模型是与训练数据拟合较好的模型,即误差很小或没有误差,但不能很好地推广到不可见数据。

为什么

为何使用机器学习

ML 算法之所以存在,是因为它们能够解决非 ML 算法无法解决的问题,而且还提供了非 ML 算法所不具备的优势。

区分 ML 算法与非 ML 算法的最重要特征之一是,它将模型与数据分离,以便 ML 算法能够适应不同的业务场景或相同的业务案例,但具有不同的上下文。

通过分离模型与数据,ML 算法可以一种更灵活、更通用、更自治的方式来解决许多问题,也就是说,它更像是一个人。

机器学习的局限

和人类一样,ML 模型也会犯错。即目前最先进的 ML 算法通常无法达到 100%精确。

般来说,可以达到 ~80精度的ML模型被认为具有良好的性能。因此,在算法精度至关重要的情况下,人们应该慎重考量他们采用 ML 算法的决定。

有人可能会想,如果我们把 ML 模型所犯的每一个错误都看作是软件中的一个缺陷,难道我们就不能一个接一个地纠正它们,从而一步一步地提高准确性吗?答案是否定的。

究其原因有两个方面:

  1. 一般来说,我们通常无法显式地操作一个 ML 模型,而是用给定的数据结合 ML 算法来共同生成模型。为了改进一个模型,我们要么改进算法,要么提高数据质量,而不是直接修改模型。
  2. 即使我们可以在随后操作生成的 ML 模型,由于无法直观看到改进造成的影响,在某些 “错误” 情况下,如何在不影响其他正确情况的情况下更改 ML 模型的输出又成为了一个新的难题。

热门文章

暂无图片
编程学习 ·

C语言二分查找详解

二分查找是一种知名度很高的查找算法,在对有序数列进行查找时效率远高于传统的顺序查找。 下面这张动图对比了二者的效率差距。 二分查找的基本思想就是通过把目标数和当前数列的中间数进行比较,从而确定目标数是在中间数的左边还是右边,将查…
暂无图片
编程学习 ·

GMX 命令分类列表

建模和计算操作命令: 1.1 . 创建拓扑与坐标文件 gmx editconf - 编辑模拟盒子以及写入子组(subgroups) gmx protonate - 结构质子化 gmx x2top - 根据坐标生成原始拓扑文件 gmx solvate - 体系溶剂化 gmx insert-molecules - 将分子插入已有空位 gmx genconf - 增加…
暂无图片
编程学习 ·

一文高效回顾研究生课程《数值分析》重点

数值分析这门课的本质就是用离散的已知点去估计整体,就是由黑盒子产生的结果去估计这个黑盒子。在数学里这个黑盒子就是一个函数嘛,这门课会介绍许多方法去利用离散点最大化地逼近这个函数,甚至它的导数、积分,甚至微分方程的解。…
暂无图片
编程学习 ·

在职阿里5年,一个28岁女软测工程师的心声

简单的先说一下,坐标杭州,14届本科毕业,算上年前在阿里巴巴的面试,一共有面试了有6家公司(因为不想请假,因此只是每个晚上去其他公司面试,所以面试的公司比较少) ​ 编辑切换为居中…
暂无图片
编程学习 ·

字符串左旋c语言

目录 题目: 解题思路: 第一步: 第二步: 第三步: 总代码: 题目: 实现一个函数,可以左旋字符串中的k个字符。 例如: ABCD左旋一个字符得到BCDA ABCD左旋两个字符…
暂无图片
编程学习 ·

设计模式--观察者模式笔记

模式的定义与特点 观察者(Observer)模式的定义:指多个对象间存在一对多的依赖关系,当一个对象的状态发生改变时,所有依赖于它的对象都得到通知并被自动更新。这种模式有时又称作发布-订阅模式、模型-视图模式&#xf…
暂无图片
编程学习 ·

睡觉突然身体动不了,什么是睡眠痽痪症

很多朋友可能有这样的体验,睡觉过程中突然意识清醒,身体却动弹不了。这时候感觉非常恐怖,希望旁边有一个人推自己一下。阳光以前也经常会碰到这样的情况,一年有一百多次,那时候很害怕晚上到来,睡觉了就会出…
暂无图片
编程学习 ·

深入理解C++智能指针——浅析MSVC源码

文章目录unique_ptrshared_ptr 与 weak_ptrstd::bad_weak_ptr 异常std::enable_shared_from_thisunique_ptr unique_ptr 是一个只移型别(move-only type,只移型别还有std::mutex等)。 结合一下工厂模式,看看其基本用法&#xff…
暂无图片
编程学习 ·

@TableField(exist = false)

TableField(exist false) //申明此字段不在数据库存在,但代码中需要用到它,通知Mybatis-plus在做写库操作是忽略它。,.
暂无图片
编程学习 ·

Java Web day15

第十二章文件上传和下载 一、如何实现文件上传 要实现Web开发中的文件上传功能,通常需要完成两步操作:一.是在Web页面中添加上传输入项;二是在Servlet中读取上传文件的数据,并保存到本地硬盘中。 需要使用一个Apache组织提供一个…
暂无图片
编程学习 ·

【51nod 2478】【单调栈】【前缀和】小b接水

小b接水题目解题思路Code51nod 2478 小b接水 题目 输入样例 12 0 1 0 2 1 0 1 3 2 1 2 1输出样例 6解题思路 可以发现最后能拦住水的都是向两边递减高度(?) 不管两个高积木之间的的积木是怎样乱七八糟的高度,最后能用来装水的…
暂无图片
编程学习 ·

花了大半天写了一个UVC扩展单元调试工具

基于DIRECTSHOW 实现的,用的是MFC VS2019. 详见:http://www.usbzh.com/article/detail-761.html 获取方法 加QQ群:952873936,然后在群文件\USB调试工具&测试软件\UVCXU-V1.0(UVC扩展单元调试工具-USB中文网官方版).exe USB中文网 USB中文…
暂无图片
编程学习 ·

贪心(一):区间问题、Huffman树

区间问题 例题一:区间选点 给定 N 个闭区间 [ai,bi]请你在数轴上选择尽量少的点,使得每个区间内至少包含一个选出的点。 输出选择的点的最小数量。 位于区间端点上的点也算作区间内。 输入格式 第一行包含整数 N,表示区间数。 接下来 …
暂无图片
编程学习 ·

C语言练习实例——费氏数列

目录 题目 解法 输出结果 题目 Fibonacci为1200年代的欧洲数学家,在他的着作中曾经提到:「若有一只免子每个月生一只小免子,一个月后小免子也开始生产。起初只有一只免子,一个月后就有两只免子,二个月后有三只免子…
暂无图片
编程学习 ·

Android开发(2): Android 资源

个人笔记整理 Android 资源 Android中的资源,一般分为两类: 系统内置资源:Android SDK中所提供的已经定义好的资源,用户可以直接拿来使用。 用户自定义资源:用户自己定义或引入的,只适用于当前应用的资源…
暂无图片
编程学习 ·

零基础如何在短时间内拿到算法offer

​算法工程师是利用算法处理事物的职业 算法(Algorithm)是一系列解决问题的清晰指令,也就是说,能够对一定规范的输入,在有限时间内获得所要求的输出。 如果一个算法有缺陷,或不适合于某个问题,执…
暂无图片
编程学习 ·

人工智能:知识图谱实战总结

人工智能python,NLP,知识图谱,机器学习,深度学习人工智能:知识图谱实战前言一、实体建模工具Protegepython,NLP,知识图谱,机器学习,深度学习 人工智能:知识图…
暂无图片
编程学习 ·

【无标题】

这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题,有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注…