Neural Representation Learning in NLP | 实录·PhD Talk #07

this blog from: https://opendatascience.com/blog/notes-on-representation-learning-1/   Notes on Representation Learning By Zac Kriegman, Senior Data Scientist in the Thomson Reuters Data Innovation Lab | 02/07/2017   Tags: Deep Learning , Neural Netw

  Predictive learning vs. representation learning  预测学习 与 表示学习   When you take a machine learning class, there's a good chance it's divided into a unit on supervised learning and a unit on unsupervised learning. We certainly care about this distincti

Note: 以下是根据综述 [1][2] 梳理的笔记,由于是初探,语言和理论必然有不严谨之处,欢迎指正. 网络表示学习(Representation Learning on Network),一般说的就是向量化(Embedding)技术,简单来说,就是将网络中的结构(节点.边或者子图),通过一系列过程,变成一个多维向量,通过这样一层转化,能够将复杂的网络信息变成结构化的多维特征,从而利用机器学习方法实现更方便的算法应用. Embedding Nodes 在这些方法中,受研究和应用关注最多的就是节

  UNSUPERVISED REPRESENTATION LEARNING WITH DEEP CONVOLUTIONAL GENERATIVE ADVERSARIAL NETWORKS  ICLR 2016    摘要:近年来 CNN 在监督学习领域的巨大成功 和 无监督学习领域的无人问津形成了鲜明的对比,本文旨在链接上这两者之间的缺口.提出了一种 deep convolutional generative adversarial networks (DCGANs),that have ce

来源:paperweekly 原文链接

Q 请问老师,切分文本中的数学公式没有标注样本怎么破? 陈新驰 可以人工标注一些,或者先用匹配的方法把一些模式很强的公式分出来. Q 看起来神经网络的分词,较少考虑了时间性能,但是作为 NLP 的基础模块如果做工业产品这个时间代价会比较突出,博士怎么看这个问题? 陈新驰 神经网络的话一般来说只是训练的时候比较慢,因为它的过程会比较长一点,那么它在 test 的时候其实效率和速度还是可以的,再加上我们用 GPU 的话可以快速的矩阵运算,所以它不会在 test 的时候输于传统的方法. Q 字标注的也

来源:paperweekly 原文链接

雷锋网AI科技评论按:计算机语言学和自然语言处理最顶尖的会议之一ACL 正在2017年7月30日至8月4日期间在加拿大温哥华举行.雷锋网 AI科技评论将赴前线带来一手报道,并对论文及大会概况进行梳理. ACL 2017中,谷歌的参与力度极大 在刚刚结束的 CVPR 2017中,来自各大科技界公司的论文就数量众多:ACL 2017 中业界公司们同样是一股重要力量.谷歌就已经发文对自己参加 ACL 2017 的各方面情况做了介绍,雷锋网(公众号:雷锋网) AI 科技评论编译如下. 作为自然语言处理和

  Learning Multi-Domain Convolutional Neural Networks for Visual Tracking CVPR 2016   本文提出了一种新的CNN 框架来处理跟踪问题.众所周知,CNN在很多视觉领域都是如鱼得水,唯独目标跟踪显得有点"慢热",这主要是因为CNN的训练需要海量数据,纵然是在ImageNet 数据集上微调后的model 仍然不足以很好的表达要跟踪地物体,因为Tracking问题的特殊性,至于怎么特殊的,且听细细道来. 目标跟