本周值得读:7份最新「Paper + Code」 | PaperDaily #22

[ 自然语言处理 ]

SQLNet: Generating Structured Queries From Natural Language Without Reinforcement Learning
@guotong1988 推荐
Seq2Seq

Text2SQL,根据自然语言生成结构化 SQL 语句。

论文链接
http://www.paperweekly.site/papers/1273
代码链接
https://github.com/xxj96/SQLNet

Dynamic Evaluation of Neural Sequence Models
@utopiar 推荐
Recurrent Neural Networks

本文提出使用动态评估来改进神经序列模型的性能。 模型通过基于梯度下降的机制适应最近的历史,将以更高概率分配给重新出现的连续模式。动态评估将 Penn Treebank 和 WikiText-2 数据集上的 perplexities 分别提高到 51.1 和 44.3。

论文链接
http://www.paperweekly.site/papers/1279
代码链接
https://github.com/benkrause/dynamic-evaluation

Exploring the Syntactic Abilities of RNNs with Multi-task Learning
@Andy 推荐
Multi-task Learning

本文主要通过了对一致性预测还有 CCG 超标记进行多任务学习,来展示了如何通过多任务学习,让 RNN 能够学习出更加复杂的句法表达。此外还发现利用一致性预测的训练数据,也可以提高其他只有有限训练数据任务的表现。这样的多任务模型,还可以将语法知识注入进语言模型中去(当然也包括机器翻译)。

论文链接
http://www.paperweekly.site/papers/1235
代码链接
https://github.com/emengd/multitask-agreement

[ 计算机视觉 ]

StarGAN: Unified Generative Adversarial Networks for Multi-Domain Image-to-Image Translation
@paperweekly 推荐
GAN

Reddit 热文,利用 GAN 自定义表情和面部特征。StarGAN 是一种全新的可扩展方法,仅使用一个模型就能为多个域执行图像到图像转换。

论文链接
http://www.paperweekly.site/papers/1227
代码链接
https://github.com/yunjey/StarGAN

What is the Role of Recurrent Neural Networks (RNNs) in an Image Caption Generator?
@jamiechoi 推荐
Image Captioning

文章比较了 RNN 在 image caption 里的两种作用:1. Inject模型:RNN 用来 encode 文字和图片;2. Merge 模型:RNN 只 encode 文字,图片在较后的阶段再与文字信息结合。最后得出结论,Merge 模型较好。

论文链接
http://www.paperweekly.site/papers/1200
代码链接
https://github.com/mtanti/rnn-role

[ 机器学习 ]

Dilated Recurrent Neural Networks
@snowwalkerj 推荐
RNN

本文提出的 dilated RNN,解决了长程依赖的问题,同时可提高并行率,提高计算速度;提出 Mean Recurrent Length 指标,衡量 RNN 可记忆的时间长度,仅用普通的 RNN 模块在多项任务上达到 state of art 效果。

论文链接
http://www.paperweekly.site/papers/1220
代码链接
https://github.com/code-terminator/DilatedRNN

Multi-Rate Deep Learning for Temporal Recommendation
@Ttssxuan 推荐
LSTM

使用多种时间粒度进行用户行为预测,并为大量数据提出类似词嵌的预训方法。 使用 DSSM 建模用户静态兴趣,使用一个 LSTM 时序网络建模用户短期兴趣,使用一个 LSTM 时序网络建模全局用户兴趣。

论文链接
http://www.paperweekly.site/papers/1208
代码链接
https://github.com/sonyisme/keras-recommendation

时间: 2024-10-09 13:49:22

本周值得读:7份最新「Paper + Code」 | PaperDaily #22的相关文章

开源代码上新!6 份最新「Paper + Code」 | PaperDaily #17

[ 自然语言处理 ] DuReader: a Chinese Machine Reading Comprehension Dataset from Real-world Applications @zhangjun 推荐 大型中文阅读理解数据集,工作来自百度. 论文链接https://www.paperweekly.site/papers/1137 代码链接https://github.com/baidu/DuReader TransNets - Learning to Transform fo

开源代码“All in One”:6 份最新「Paper + Code」等你复现 | PaperDaily #12

[ 自然语言处理 ] Earth Mover's Distance Minimization for Unsupervised Bilingual Lexicon Induction @paperhwd 推荐 文章想解决的问题是如何使用无监督的方法构建双语词典,传统方法需要利用有监督的种子翻译词对来获得两个语言空间的映射.文章的主要思路是借助 GAN 这个工具.当然我们知道 GAN 存在训练困难的问题,所以文章其实真正实现的是 WGAN. 关于文章的应用和意义,一方面为许多跨语言处理任务提供了重

这 8 份「Paper + Code」,你一定用得上 | PaperDaily #08

[ 自然语言处理 ] SLING: A framework for frame semantic parsing @paperweekly 推荐 一个非常快的 semantic parsing 工具,工作来自 Google. 论文链接http://www.paperweekly.site/papers/957 代码链接https://github.com/google/sling Optimal Hyperparameters for Deep LSTM-Networks for Sequenc

每周「Paper + Code」清单:句子嵌入,文本表示,图像风格转换

[ 自然语言处理 ] Sockeye: A Toolkit for Neural Machine Translation@zhangjun 推荐Neural Machine Translation 一个开源的产品级神经机器翻译框架,构建在 MXNet 平台上. 论文链接https://www.paperweekly.site/papers/1374代码链接https://github.com/awslabs/sockeye Multilingual Hierarchical Attention

大神们最近都在读这些论文 | 本周值得读 #44

#GAN# Triple Generative Adversarial Nets 从博弈角度来说,TripleGAN 的博弈涉及三方,判别器.生成器和分类器.其中,判别器和生成器有对抗:判别器和分类器(在训练前期)有对抗:生成器和分类器协助作用.可以从斗地主的角度来看,判别器是地主,生成器和分类器是农民. 它拆掉分类器,就是一个 CGAN.拆掉生成器,它就是一个半监督的 GAN.此外,我们还能从对偶学习的角度进行解读,生成器对 p(x|y) 进行建模,而分类器则对 p(y|x) 建模.两者在判别

PaperWeekly 第二十六期 --- 2016年最值得读的NLP paper解读(3篇)+在线Chat实录

引言 本期Chat是PaperWeekly第一次尝试与读者进行互动交流,一共分享和解读3篇paper,均选自2016年最值得读的自然语言处理领域paper,分别是: End-to-End Reinforcement Learning of Dialogue Agents for Information Access Dual Learning for Machine Translation SQuAD: 100,000+ Questions for Machine Comprehension o

【一文读懂Hinton最新Capsules论文】CNN 未来向何处去

Hinton 上周发表的一篇论文 Dynamic Routing Between Capsules 提出用 Capsule 这个概念代替反向传播,引起广泛关注,大数医达创始人,CMU计算机学院暨机器人研究所博士邓侃用浅显的语言梳理解读了论文.邓侃认为,capsule 作为视觉数学表征,很可能是为了把视觉,听觉.阅读的原本相互独立的数学向量,统一起来,完成多模态机器学习的终极目标. CNN 未来向何处去? 做领袖不容易,要不断地指明方向.所谓正确的方向,不仅前途要辉煌,而且道路要尽可能顺畅. G

PaperWeekly 第46期 | 关于远程监督,我们来推荐几篇值得读的论文

说起关系抽取,就不得不提远程监督(distant supervision),将已有的知识库(比如 freebase)对应到丰富的非结构化数据中(比如新闻文本),从而生成大量的训练数据,从而训练出一个效果不错的关系抽取器.提到远程监督,下面的这篇工作就不得不提: [1] Distant supervision for relation extraction without labeled data  本文并非第一篇提出远程监督概念的 paper,但是第一个将远程监督概念应用到关系抽取任务中,并且提

ACL的「深度学习热」:论文纷纷「入坑」,企业蜂拥「入局」|ACL 2017

演讲结束,掌声响起. 赵衡急急忙忙收拾东西离开座位,希望在人潮散场前赶紧离开 ACL 2017 的主会场,好找个地方看看接下来的议程--但也已经晚了.尽管大门试图严密地隔开场内场外,但赵衡推开门时,会场外熙熙攘攘.甚至显得有些吵闹的对话声涌进大厅,引来不少观众的回头侧目. 赵衡背着包,磕磕碰碰地跟着人海移动到下一个会场时,他心里只暗暗后悔没有再早一点离场. 「我猜主办方也没想到有这么多人,今年的场子定得太小了,」赵衡半是无奈半是欣慰地感慨道.作为国内 Top 5 高校的博士生,他感慨自己遇上了