《白话深度学习与TensorFlow》——2.3 深度学习为什么这么强

2.3 深度学习为什么这么强

神经网络,尤其是深度神经网络之所以这么吸引人,主要是因为它能够通过大量的线性分类器和非线性关系的组合来完成平时非常棘手的线性不可分的问题。
2.3.1 不用再提取特征
前面我们说过,在以往我们使用的朴素贝叶斯、决策树、支持向量机SVM这些分类器模型中,提取特征是一个非常重要的前置工作,也就是说人类在驱使这些分类器开始训练之前,先要把大量的样本数据整理出来,“干干净净”地提取其中能够清晰量化的数据维度。否则这些基于概率和基于空间距离的线性分类器是没办法进行工作的。
然而在神经网络中,由于巨量的线性分类器的堆叠(并行和串行)以及卷积网络的使用,它对噪声的忍耐能力、对多通道数据上投射出来的不同特征偏向的敏感程度会自动重视或者忽略。这样我们在处理的时候,人类所需要使用的技巧就没有那么高要求了,也就是我们通常所说的End-to-End的训练方式。
这是一种非常新颖并且非常有吸引力的方式,人类对机器学习中的环节干预越少,就意味着距离人工智能的方向越近,这让我们充满了对未来的期望。
2.3.2 处理线性不可分
神经网络还有一个最神奇的地方,那就是用大量的线性分类器的堆叠使得整个模型可以将线性不可分的问题变得可分。看看下面这个简单的例子。
SVM也有一定的能力来处理线性不可分的问题,但它利用的是维度的引入(或者说升维)来解决的。而神经网络的每一个神经元都是一个线性分类器,所以神经网络能且只能通过线性分类器的组合来实现线性不可分的问题。

例如,在这个二维空间中有这样一个不规则的四边形,如果我们想用一条线(一个线性分类器)把它分开,并保证其一侧是这个四边形内所有的点,我们称为“类别1”,另一侧是其他的点,我们称为“类别0”,这简直是不可能的,因为不管怎么画,这一条线都会使得其中至少有一个类非常“不纯”。没关系,我们大不了画4条线了,

用这4条线把它围起来,也就是必须同时满足4个分类器的1分类标准才算是我们要约束的1分类——每条直线的表达式都是形如f(x)?=?wx?+?b的线性分类器。其实这也就是神经网络比以前各种分类器厉害的地方了,以前任何一种分类器可都没有这种能耐。这里画出来的这个不规则四边形不一定是一张图片中的信息,它只是用来表示一些向量在空间中的聚集区域。
神经网络的神经元可以有很多层,每层可以有很多个神经元,整个网络的规模可以有几千甚至几万个神经元,那么在这种情况下,我们几乎可以描绘出任意的线性不可分的模型了。当然,我们这里只是用一个简单的二维向量来进行示意,真正的商用场景中,这些向量通常有几十万个维度或者更多,神经网络的层数也会非常深——这就是我们平时所说的深度学习了。随着维度的加大,深度的加深,所能描述的分类器的复杂程度也会随之增加,所以传统分类模型中无法通过简单的线性分类器和非线性分类器处理的复杂学习场景(例如图形、视频、音频等)就能够通过海量分类器的叠加来实现。

时间: 2024-09-22 08:05:48

《白话深度学习与TensorFlow》——2.3 深度学习为什么这么强的相关文章

《白话深度学习与TensorFlow》——3.2 与其他框架的对比

3.2 与其他框架的对比 1)?TensorFlow:深度学习最流行的库之一,是谷歌在深刻总结了其前身 DistBelief 的经验教训上形成的:它不仅便携.高效.可扩展,还能在不同计算机上运行:小到智能手机,大到计算机集群:它是一款轻量级的软件,可以立刻生成你的训练模型,也能重新实现它:TensorFlow有强大的社区.企业支持,因此它广泛用于从个人到企业.从初创公司到大公司等不同群体. 2)?Caffe:卷积神经网络框架,专注于卷积神经网络和图像处理,是用C++语言写成 的,执行速度非常快.

TensorFlow与主流深度学习框架对比

引言:AlphaGo在2017年年初化身Master,在弈城和野狐等平台上横扫中日韩围棋高手,取得60连胜,未尝败绩.AlphaGo背后神秘的推动力就是TensorFlow--Google于2015年11月开源的机器学习及深度学习框架. TensorFlow在2015年年底一出现就受到了极大的关注,在一个月内获得了GitHub上超过一万颗星的关注,目前在所有的机器学习.深度学习项目中排名第一,甚至在所有的Python项目中也排名第一.本文将带我们简单了解下TensorFlow,并与其他主流深度学

深度学习框架TensorFlow在Kubernetes上的实践

什么是深度学习? 深度学习这个名词听了很多次,它到底是什么东西,它背后的技术其实起源于神经网络.神经网络最早受到人类大脑工作原理的启发,我们知道人的大脑是很复杂的结构,它可以被分为很多区域,比如听觉中心.视觉中心,我在读研究中心的时候,做视频有计算机视觉研究室,做语言有语言所,语音有语音所,不同的功能在学科划分中已经分开了,这个和我们人类对大脑理解多多少少有一些关系.之后科学家发现人类大脑是一个通用的计算模型. 科学家做了这样一个实验,把小白鼠的听觉中心的神经和耳朵通路剪断,视觉输入接到听觉中心

谷歌开源深度学习系统TensorFlow 的图片文字说明模型

谷歌开源深度学习系统TensorFlow 的图片文字说明模型 责任编辑:editor007 作者:aiko |  2016-09-23 22:27:27 本文摘自:36kr   今天,谷歌宣布开源图片文字说明模型 Show and Tell,该模型具有自动生成图片文字说明的功能,准确率达 93.9%. 谷歌于 2014 年发表论文首次介绍了 Show and Tell 这一系统模型,在 2015 年又对其进行了内容更新,对相关技术做了更加准确的改进.之后,谷歌一直在完善这一技术,最终作为谷歌 T

【干货】AI 实践者需要掌握的10大深度学习方法:反向传播、迁移学习、梯度下降……

过去10年,人们对机器学习的兴趣激增.几乎每天,你都可以在各种各样的计算机科学课程.行业会议.华尔街日报等等看到有关机器学习的讨论.在所有关于机器学习的讨论中,许多人把机器学习能做的事情和他们希望机器学习做的事情混为一谈.从根本上讲,机器学习是使用算法从原始数据中提取信息,并在某种类型的模型中表示这些信息.我们使用这个模型来推断还没有建模的其他数据. 神经网络是机器学习的一种模型,它们至少有50年历史了.神经网络的基本单元是节点(node),基本上是受哺乳动物大脑中的生物神经元启发.神经元之间的

一入侯门“深”似海,深度学习深几许(深度学习入门系列之一)

更多深度文章,请关注云计算频道:https://yq.aliyun.com/cloud  [导言]目前人工智能非常火爆,而深度学习则是引领这一火爆现场的"火箭".于是,有关"深度学习"的论文.书籍和网络博客汗牛充栋,但大多数这类文章都具备"高不成低不就"的特征.对于高手来说,自然是没有问题,他们本身已经具备非常"深度"的学习能力,如果他们想学习有关深度学习的技术,直接找来最新的研究论文阅读就好了.但是,对于低手(初学者)而言,

数据不够怎么训练深度学习模型?不妨试试迁移学习

深度学习大牛吴恩达曾经说过:做AI研究就像造宇宙飞船,除了充足的燃料之外,强劲的引擎也是必不可少的.假如燃料不足,则飞船就无法进入预定轨道.而引擎不够强劲,飞船甚至不能升空.类比于AI,深度学习模型就好像引擎,海量的训练数据就好像燃料,这两者对于AI而言同样缺一不可. 随着深度学习技术在机器翻译.策略游戏和自动驾驶等领域的广泛应用和流行,阻碍该技术进一步推广的一个普遍性难题也日渐凸显:训练模型所必须的海量数据难以获取. 以下是一些当前比较流行的机器学习模型和其所需的数据量,可以看到,随着模型复杂

实践指南!16位资深行业者教你如何学习使用TensorFlow

首发地址:https://yq.aliyun.com/articles/71257 更多深度文章,请关注:https://yq.aliyun.com/cloud 如何开始学习使用TensorFlow? 相关回答: Harrison Kinsley --PythonProgramming.net的创始人 TensorFlow官方网站有相当多的文档和教程,但这些往往认为读者掌握了一些机器学习和人工智能知识.除了知道ML和AI,你也应该对Python编程语言非常熟练.因此,在开始学习如何使用Tenso

Tensorflow 全网最全学习资料汇总之Tensorflow 的入门与安装【2】

自2015年11月发布以来,谷歌旗下的机器学习开源框架TensorFlow已经在图像识别,大数据分析,语音识别和语义理解,机器翻译等各个领域得到了广泛应用,同时也得到了业内人士的普遍认可,成为了目前最受关注和使用率最高的开源框架之一. 本文将重点整理TensorFlow框架的入门和安装教程.更多关于TensorFlow的深入介绍.应用项目以及各机器学习开源框架之间的对比等内容,请见雷锋网的系列文章. 下面是本文整理的资料内容: 在安装之前,这里先列出一些对TensorFlow给出大略介绍的文章,

TensorFlow 全网最全学习资料汇总之TensorFlow的技术应用【4】

随着谷歌2015年发布开源人工智能系统TensorFlow,让本就如火如荼的深度学习再添一把火,截至现在,TensorFlow已经历了多个版本演进,功能不断完善,AI开发者也能灵活自如的运用TensorFlow解决一些实际问题,下面雷锋网会对一些比较实用的TensorFlow应用做相关整理,让大家对TensorFlow有理性和感性的双层认知. TensorFlow在图像识别中的应用 对人类而言,区分画面.图像就如同与生俱来一样简单,例如我们能够轻松的识别老虎与雄狮的区别,但如果把这个问题交给计算