佳木斯人才网:监视学习算法

admin 3周前 (06-21) 科技 5 1
  • 本文首发自民众号:RAIS,点击直接关注。

前言

本系列文章为 《Deep Learning》 读书笔记,可以参看原书一起阅读,效果更佳。由于各平台 Markdown 剖析差异,有些公式显示效果欠好,请到我 小我私家维护网站 查看。

监视学习算法

监视学习算法的界说是,给定一组输入 x 和输出 y,学习若何将其关联起来,现在的大部分情形都是监视学习算法的范围。

逻辑回归

许多的监视学习算法是基于估量概率分 布P(y|x) 的,假设参数遵守高斯漫衍,我们可以使用最大似然估量找到对于有参漫衍族 P(y|x;θ) 最好的参数向量 θ,即用最大似然估量获得目的函数,优化这个目的函数。线性回归对应于高斯漫衍漫衍族,通过界说一族差别的概率漫衍,可将线性回归扩展到分类情形中。

详细的做法就是将线性函数的输出使用 sigmoid 函数(就是前文说的谁人样子像 S 型)将其压缩到 (0, 1) 空间内,这就叫做逻辑回归。注重这个逻辑回归不是回归,而是用来解决分类问题。固然,线性回归也可以推广为 Softmax 回归,不是这里的重点。

支持向量机

支持向量机是监视学习中关于分类与回归问题中主要的算法。与逻辑回归类似,这个模子也是基于线性函数的,不外输出有所差别,不输出概率,而是输出种别,为正正类,为负负类。

核技巧,实在这是一个数学上的观点,用来增添维度区分差别数据,如下图,区分下图中左侧的四个点,用的方式是增添一个维度,然后用平面支解,这与用一条曲线去支解没什么本质的区别,来自 视频

上面这样做也会有一个问题,在数据量大且维数许多的情形下,会导致盘算量急剧增大,这欠好。核函数就是用来解决这个问题的,核函数只是用来盘算映射到高维空间之后的内积的一种简捷方式,隐含着也从低纬到高维的映射,但其盘算量可控,降低盘算的复杂度,甚至把不可能的盘算变为可能,可以将低纬空间内线性不可分的两类点酿成线性可分的。

USACO07MAR Face The Right Way G 差分

机械学习中最常用的核函数是高斯核(也称径向基函数),N(x;μ,∑) 是尺度正态漫衍,能够把原始特征映射到无限维,能够对照 u 和 v 的相似度,映射到 0 和 1:

\[k(u,v)=N(u-v;0,\sigma^2I) \]

其他监视学习算法

邻近回归:前面先容过最近邻近回归,这也是一种非概率监视学习算法。K-最近邻回归是一种可以用于分类或回归的算法,K-最近邻算法就是从训练集(根本就没训练,感受叫训练集都不太准确,应该叫样本集)中找到与测试输入的点最近的 K 个点,然后接纳少数遵守多数的头脑,谁多就听谁的(分类),或者求平均(回归),然则这在 K 取值差别的时刻,获得的效果可能差别,因此 K 的选择是对照主要的。这个方式的特点是训练集可以趋近于无限大,在对照好的情形下回收敛到贝叶斯错误率。这个方式需要训练集较大,训练集较少的情形下泛化水平不够好;且其由于几乎没有训练的历程,因此也不能学习出特征中哪些是更有识别力的,无法找到要害属性。

决议树:决议树会将输入空间分成不重叠的子区域,叶节点和输出区域一一对应。构建决议树前需要凭据信息增益的方式举行特征选择,然后天生决议树,为防止过拟合可能还需要举行剪枝。

总结

本文先容了几种最常见的监视学习算法。

  • 本文首发自民众号:RAIS,点击直接关注。
,

阳光在线

阳光在线www.sssmobilesss.com(原诚信在线)现已开放阳光在线手机版下载。阳光在线游戏公平、公开、公正,用实力赢取信誉。

皇冠体育声明:该文看法仅代表作者自己,与本平台无关。转载请注明:佳木斯人才网:监视学习算法

网友评论

  • (*)

最新评论

  • 联博统计 2020-06-21 00:06:11 回复

    欧博亚洲欧博亚洲(Allbet Game)是欧博Allbet在亚洲建立的战略合作拓展事业部。欧博亚洲(Allbet Game)开放欧博平台网址、会员注册充值提现、代理开户、电脑客户端下载、IOS APP下载、安卓下载、欧博真人游戏(百家乐)等业务。每天晚上必看

    1

文章归档

站点信息

  • 文章总数:510
  • 页面总数:0
  • 分类总数:8
  • 标签总数:985
  • 评论总数:165
  • 浏览总数:3808