脑芯编:窥脑究竟,织网造芯(一)

雷锋网(公众号:雷锋网)按:本文作者痴笑,矽说(微信号:silicon_talks)主笔。

你信不信有一天,硅工造的芯片会写诗?

如果信,

那说好的“诗三百,一言以蔽之,思无邪”,

还真的是“无邪”么?

如果不信,请读下面这一首:

如果要给这诗一个赏析,大概可以是一个忧伤的故事。

天边云的变换复杂,而我却是半梦半醒,我在想一个人,想第一次和他相见,想他的风流倜傥,想他的英雄飒爽。

如果你是个文科生,或许你会嘲笑这首连平仄都不满足的劣质诗歌,韵脚也押的有些蹩脚,故事更是为赋新词强说愁。

如果你是理科男,或许对这种思春的小情怀不以为然。

不过,那是因为你们并没有看懂这首诗。

因为这诗暗藏了一个密码,藏着人工智能遇到摩尔定律后蹭出的火花。

另外,这诗不是人工智能的产物,只是矽说在这个人工智能横行的年代里特有的小情怀。

但可能在不远的将来,人工智能将会开车,会翻译,会调情,也会写下更美的篇章。想解开这个人工智能与集成电路的秘密?关注雷锋网后期更新,我们一句一句地读下去。

〈一〉昨夜神风送层云

在我读书的时候,人工智能(Artifical Intelligence, AI)从来就是CS (Computer Science)的天下,哪有电路撺掇的份。那时候的码农们或许会挂着机器学习,数据挖掘,支持向量机,压缩感知……但从来没有一次,电路的突破是由人工智能推动的。可是在今天,如果你打开半导体行业的利好消息,有多少不是和人工智能,深度学习相关的?

过去几个月,光在半导体巨头们发生的人工智能的故事就足以吊足大家的胃口。何况,这还是只是很多硅工心目中的人工智能元年。

是什么导致了半导体行业”AI一出惊天下“的巨大改变?矽说推出“脑芯编”系列,为你揭秘类脑芯片的过去,现在与未来。

从人工智能到神经网络神经网络

在人工智能改变半导体行业之前,在AI领域发生过一场“华山论剑”,耗时数载,最终以“深度学习神经网络(Deep Learning Neural Network)”一统江湖落下帷幕。该过程腥风血雨,而主角“神经网络”的遭遇更堪比张无忌、杨过,历经少年时的悲惨遭遇,被无数号称时代“大侠”嗤之以鼻,但终究是主角光环加持,加之得外家指点,十年一剑终成大器,号令天下,谁敢不从。

本篇对这里其中的故事,按下不表,有好事者,可以去各处搜搜,剧情精彩不容错过。但是这里还是要感谢,在神经网络经历最寒冬的时候,一众大牛如 Yann LeCun (读作杨雷昆,不是严立春!!),Geoffrey Hinton等的默默坚守,才有神经网络的今天。不过他们也早已是Facebook / Google的首席科学家,如今功成名就,也是吾等小辈无法企及的高度。

Yann LeCun,   Geoffrey Hinton

神经网络在人工智能领域,属于机器学习一路的分支。所谓机器学习,就是让电脑经过学习后代替人脑做出判断,理解,甚至决定(还记得赢了李世石的AlphaGo么?)。而所谓深度学习和浅学习的区别在于设计者是否告诉电脑的学习策略。最常见的例子是大家电子邮件系统里的垃圾邮件分类,一般一份邮件是否是垃圾邮件,在于它是否满足一些标准,比如是不是群发的,有没有叫你买东西的广告,是不是图片占有比例很高,然后发信人有没有被举报过等等……这些标准都是一个个特征,如果一种机器学习方法规定了学习的特征与策略,那就是浅学习,如果没有规定,需要算法本身去挖掘策略,那就是深度学习。

所以,深度学习的一大隐忧就是——人类并不知道算法本身究竟在想什么?所以如果哪天他在他负责的算法下隐藏了一个暗算/统治人类的bug,那我们就被彻底奴役了。

不过,所谓“庄生晓梦迷蝴蝶”,人类自己究竟是不是被另外一个物种开发出来的一种新智慧呢?然后,那个物种是不是已经被我们灭绝了呢?我们并没有答案。

码农老师教的生物课

为了弄清这横扫千军的神经网络,首先让我们来上一堂不污的生物课。既然叫神经网络,那起源就是生物脑科学。很久以前,人们发现一个单神经细胞(也叫神经元)包括输入(树突dendrites),激活判断(细胞核nucleus),输出(轴突axon)和与下一个神经元的连接关系(突触synapse)。如果用数学抽象出来过程,就是把一堆输入经过线性组合以后经过一个阈值判断,然后输出给下一级。这样一个简单的神经元就形成。把足够多个神经元连起来就能实现神经网络了。

上面两个图就是真实的神经元和它的数学模型。不过我还是要吐槽下:

从上述神经元的提出,到许多仿生的算法结构的研究,如多层感知器(Multilayer Perceptron) ,脉冲神经元(Spiking Neural)之类的,经过了一个甲子的时间,特别但都没没什么巨大的成功,原因有两个:

(1)当时的集成电路计算规模与资源远没有达到面向实际应用的需求,仔细去研究神经元的数学模型,会发现每个神经元有若干个权重和成累加计算 。他对应汇编可以大致是如下流程:

累加器清零                            (mov)

-- 循环开始                             (branch)

    从存储器中加载权重          (load)

    从存储器/外设中加载输入    (load)

    权重 乘以 输入                    (multiply)

    累加                                    (add)

-- 判断是否重新循环              (goto)

    激活函数                             (??)

输出 存储                           (store)

对于一个N输入的神经元要走N个循环,这对于上个世纪的单核单线程的CPU,实在是操作难度太复杂。这也就是为什么当流水线与并行处理 不断壮大的近十年,神经网络的发展得到了迅猛发展。

(2)连得不对。这短短四个字,虽说的轻巧,但要找到连连看的窍门,着实花费了多少人的青春?关于怎么连,各位看官先别着急,且听脑芯编下回分解。

作为脑芯编的开篇,今天就到这里,所谓“神风送层云”指的就是集成电路的下一个增长点或许就在在人工智能领域取得巨大成功的神经网络硬件实现上。

特别鸣谢复旦大学脑芯片研究中心提供技术咨询,欢迎有志青年报考。

本文作者:矽说

本文转自雷锋网禁止二次转载,原文链接

时间: 2024-11-02 05:20:15

脑芯编:窥脑究竟,织网造芯(一)的相关文章

脑芯编:窥脑究竟,织网造芯(二)

雷锋网(公众号:雷锋网)按:本文作者痴笑,矽说(微信号:silicon_talks)主笔.本文为<脑芯编:窥脑究竟,织网造芯>系列第二篇. 〈二〉几重卷积几重生 蜘蛛结网,是为了捕食昆虫: 蜘蛛侠结网,是为了拯救世界: 码农Data Scientist (~ds~) 结网,是为了-- 换一个角度看世界, 英语叫做: Representation. 如果你只想知道一个关于神经网络的常识,我认为上面这个单词是最不应该错过的.就像每个学模拟电子学的人,其实归根结底就是学了两个字--放大. 话接上回,

脑芯编 | 窥脑究竟,结网造芯(三)

雷锋网按:本文作者痴笑,矽说(微信号:silicon_talks)主笔.本文为雷锋网(公众号:雷锋网)发布的<脑芯编 | 窥脑究竟,结网造芯>系列第三篇. 〈三〉梦里不问形与令 世界上有两种管家: 一种是Batman的Alfred 能服务能做饭能伪装能打架 狠起来超人也不是干不过 另一种是天朝的大内总管 掌印秉笔,啥事不会 老大又吩咐了就去传个话 你脑子里的CPU是哪一种?   有了神经元,知道了怎么把神经元连成网络,这个系列终于进入了主题--怎么实现神经网络.如果在这个问题上加一个条件,那就

脑芯编:分手?摆脱冯诺依曼的深度学习硬件

不知不觉,<脑芯编>已经走过了上半阙.默默挥手告别那些弃剧的看官,也由衷感谢仍然愿意用手指点进来的您.你们是撑住脑芯编不烂尾的重要力量,与其肉麻,不如再念一遍诗的上半阙: 昨夜神风送层云,(神经元与网络) 几重卷积几重生.(卷积神经网络) 梦里不知形与令,(计算体系结构) 烛台簇华照单影.(单指令多数据) 上次我们讲到,现行的计算机体系结构--"冯诺依曼"结构是阻碍深度学习神经网络的一个重要瓶颈.其计算和存储分离的特点,使得神经元计算的效率低下.合理改变指令集,加入乘累加指

近距离接触类脑计算,看脑机接口如何走向脑机融合|CCF-ADL 新课报名中

雷锋网(公众号:雷锋网)AI科技评论按:7月28日~7月30日,由中国计算机学会主办的第81期 ADL(Advanced Disciplines Lectures)学科前沿讲习班将在京召开.本期主题为<类脑计算>,旨在帮助学员快速入门类脑计算原理和技术,了解学科热点以及应用方法,开阔科研视野,增进学术交流和增强实践能力.雷锋网作为独家合作媒体将进行全程报道,同时AI慕课学院已获本次讲习班独家线上视频版权,不能来现场听课的同学请猛戳右侧超链接:www.mooc.ai  . 课程链接:类脑计算线上

中国脑健康日:珍视脑健康,得了脑病必须正规治疗

中新广东网深圳9月15日电  (帅菲斐) 9月16日是中国脑健康日,深圳市第二人民医院副院长.神经外科专家李维平教授指出,珍视脑健康,预防颅脑疾病,不分年龄.性别.职业.地区. 脑的功能既重要又神秘 李维平指出:人脑的功能既重要,又神秘.人的思想.信仰.记忆.行为.情感都与大脑密不可分.人脑是思维形成的场所,控制机体各种生理活动的中枢,还具有协调人体肢体运动.躯体感觉.视觉.听觉.嗅觉的能力.正是由于有了大脑,人们才得以讲话.计数.作曲.欣赏音乐.识别几何图形.相互理解和彼此交流.大脑还具有制定

【演讲实录】清华大学王生进教授:脑电识别与脑机交互的三大问题和解决关键

  ◆ ◆ ◆ 本文内容选自清华大学电子工程系王生进教授于清华人工智能论坛上所做的题为<脑电识别与脑机交互>的演讲.他认为人类正处于人工智能的启蒙阶段,脑机交互,是人机交互的重要方向.探索人脑,发现感知认知机理,解明推理决策过程,实现自我意识,这是人工智能未来研究的重要方面. 演讲全文如下: 各位来宾.各位专家,大家下午好.很高兴主办方能给我们提供这样一个机会,让我们一同开启探讨人工智能未来发展之路.刚才张院士的报告非常精彩,张院士把人工智能的过去.现在和未来做了一个全面的概述,高屋建瓴.下面

迪威视讯打造全国网格化管理样板 龙华“织网工程”

在当前"互联网+"时代下,一些地方开始尝试运用云计算.大数据.物联网等信息化手段推动社会治理,深圳市龙华新区"织网工程"就是这样一个有益的尝试.在深圳市迪威视讯股份有限公司的技术支持下,龙华新区"织网工程"告别了以管控为主的社会管理方式,向真正意义上的公共服务看齐,并在我国首次实现大城市政府数据的大集中和大共享. 一."互联网+社会建设"的有益尝试 据了解,所谓"织网工程",是充分运用网格理念和现代信息技术

织网网络为您提供10M-100M免费ASP空间服务_免费ASP空间

织网网络提供10M-100M免费空间申请,即时申请就开通,空间支持HTML.ASP.FSO.ACCESS等,支持WEB上传管理方式, 他们的声明: 织网工作室为庆祝论坛一周年.现推出免费100M动态ASP网页空间.本空间支持web上传.支持在线编辑.支持计数器功能. 演示地址:http://web.dosite.cn/66162 申请地址:http://web.dosite.cn

盛大既当先烈又当先锋:陈天桥上下扩张织网

<数字商业时代>杂志2010年第1期杂志封面 陈天桥终于搭建出梦想中互动娱乐王国的 雏形:游戏失意,他密密匝匝圈起创意产业:不再使用强硬的收购,而是通过价值观选择合作伙伴. 2010年,盛大变得像一艘航母,但他们能顺利航行吗? 左右纵横 上下通吃 全能盛大 娱乐狂飙 所有你能想到的与娱乐沾边的事情,盛大都可能会做. 采访/蒋毅坤 刘扬 孟岩峰 撰文/蒋毅坤 摄影/徐胤 "更加现代!更加炫!"盛大集团公关部副经理李乃莹这么形容2010年底将在江苏无锡开工建设的盛大主题公园.据