TensorFlow教程之进阶指南 3.1 总览

本文档为TensorFlow参考文档,本转载已得到TensorFlow中文社区授权。

综述 Overview

Variables: 创建,初始化,保存,和恢复

TensorFlow Variables 是内存中的容纳 tensor 的缓存。这一小节介绍了用它们在模型训练时(during training)创建、保存和更新模型参数(model parameters) 的方法。

TensorFlow 机制 101

用 MNIST 手写数字识别作为一个小例子,一步一步的将使用 TensorFlow 基础架构(infrastructure)训练大规模模型的细节做详细介绍。

TensorBoard: 学习过程的可视化

对模型进行训练和评估时,TensorBoard 是一个很有用的可视化工具。此教程解释了创建和运行 TensorBoard 的方法,和使用摘要操作(Summary ops)的方法,通过添加摘要操作(Summary ops),可以自动把数据传输到 TensorBoard 所使用的事件文件。

TensorBoard: 图的可视化

此教程介绍了在 TensorBoard 中使用可视化工具的方法,它可以帮助你理解张量流图的过程并 debug。

数据读入

此教程介绍了把数据传入 TensorSlow 程序的三种主要的方法: Feeding, Reading 和 Preloading.

线程和队列

此教程介绍 TensorFlow 中为了更容易进行异步和并发训练的各种不同结构(constructs)。

添加新的 Op

TensorFlow 已经提供一整套节点操作()operation),你可以在你的 graph 中随意使用它们,不过这里有关于添加自定义操作(custom op)的细节。

自定义数据的 Readers

如果你有相当大量的自定义数据集合,可能你想要对 TensorFlow 的 Data Readers 进行扩展,使它能直接以数据自身的格式将其读入。

使用 GPUs

此教程描述了用多个 GPU 构建和运行模型的方法。

共享变量 Sharing Variables

当在多 GPU 上部署大型的模型,或展开复杂的 LSTMs 或 RNNs 时,在模型构建代码的不同位置对许多相同的变量(Variable)进行读写常常是必须的。设计变量作用域(Variable Scope)机制的目的就是为了帮助上述任务的实现。

时间: 2024-08-03 11:53:31

TensorFlow教程之进阶指南 3.1 总览的相关文章

TensorFlow教程之进阶指南 3.5 读取数据

本文档为TensorFlow参考文档,本转载已得到TensorFlow中文社区授权. 数据读取 TensorFlow程序读取数据一共有3种方法: 供给数据(Feeding): 在TensorFlow程序运行的每一步, 让Python代码来供给数据. 从文件读取数据: 在TensorFlow图的起始, 让一个输入管线从文件中读取数据. 预加载数据: 在TensorFlow图中定义常量或变量来保存所有数据(仅适用于数据量比较小的情况). 目录 数据读取 供给数据(Feeding) 从文件读取数据 文

TensorFlow教程之进阶指南 3.10 共享变量

本文档为TensorFlow参考文档,本转载已得到TensorFlow中文社区授权. 共享变量 你可以在怎么使用变量中所描述的方式来创建,初始化,保存及加载单一的变量.但是当创建复杂的模块时,通常你需要共享大量变量集并且如果你还想在同一个地方初始化这所有的变量,我们又该怎么做呢.本教程就是演示如何使用tf.variable_scope() 和tf.get_variable()两个方法来实现这一点. 问题 假设你为图片过滤器创建了一个简单的模块,和我们的卷积神经网络教程模块相似,但是这里包括两个卷

TensorFlow教程之进阶指南 3.7 添加新的OP

本文档为TensorFlow参考文档,本转载已得到TensorFlow中文社区授权. 增加一个新 Op 预备知识: 对 C++ 有一定了解. 已经下载 TensorFlow 源代码并有能力编译它. 如果现有的库没有涵盖你想要的操作, 你可以自己定制一个. 为了使定制的 Op 能够兼容原有的库 , 你必须做以下工作: 在一个 C++ 文件中注册新 Op. Op 的注册与实现是相互独立的. 在其注册时描述了 Op 该如何执行. 例如, 注册 Op 时定义了 Op 的名字, 并指定了它的输入和输出.

TensorFlow教程之进阶指南 3.8 自定义数据读取

本文档为TensorFlow参考文档,本转载已得到TensorFlow中文社区授权. 自定义数据读取 基本要求: 熟悉 C++ 编程. 确保下载 TensorFlow 源文件, 并可编译使用. 我们将支持文件格式的任务分成两部分: 文件格式: 我们使用 Reader Op来从文件中读取一个 record (可以使任意字符串). 记录格式: 我们使用解码器或者解析运算将一个字符串记录转换为TensorFlow可以使用的张量. 例如, 读取一个 CSV 文件,我们使用 一个文本读写器, 然后是从一行

TensorFlow教程之进阶指南 3.6 线程和队列

本文档为TensorFlow参考文档,本转载已得到TensorFlow中文社区授权. 在使用TensorFlow进行异步计算时,队列是一种强大的机制. 正如TensorFlow中的其他组件一样,队列就是TensorFlow图中的节点.这是一种有状态的节点,就像变量一样:其他节点可以修改它的内容.具体来说,其他节点可以把新元素插入到队列后端(rear),也可以把队列前端(front)的元素删除. 为了感受一下队列,让我们来看一个简单的例子.我们先创建一个"先入先出"的队列(FIFOQue

TensorFlow教程之进阶指南 3.2 变量:创建、初始化、保存和加载

本文档为TensorFlow参考文档,本转载已得到TensorFlow中文社区授权. 当训练模型时,用变量来存储和更新参数.变量包含张量 (Tensor)存放于内存的缓存区.建模时它们需要被明确地初始化,模型训练后它们必须被存储到磁盘.这些变量的值可在之后模型训练和分析是被加载. 本文档描述以下两个TensorFlow类.点击以下链接可查看完整的API文档: tf.Variable 类 tf.train.Saver 类 创建 当创建一个变量时,你将一个张量作为初始值传入构造函数Variable(

TensorFlow教程之进阶指南 3.3 TensorBoard:可视化学习

本文档为TensorFlow参考文档,本转载已得到TensorFlow中文社区授权. TensorBoard:可视化学习 TensorBoard 涉及到的运算,通常是在训练庞大的深度神经网络中出现的复杂而又难以理解的运算. 为了更方便 TensorFlow 程序的理解.调试与优化,我们发布了一套叫做 TensorBoard 的可视化工具.你可以用 TensorBoard 来展现你的 TensorFlow 图像,绘制图像生成的定量指标图以及附加数据. 当 TensorBoard 设置完成后,它应该

TensorFlow教程之进阶指南 3.9 使用 GPUs

本文档为TensorFlow参考文档,本转载已得到TensorFlow中文社区授权. 支持的设备 在一套标准的系统上通常有多个计算设备. TensorFlow 支持 CPU 和 GPU 这两种设备. 我们用指定字符串strings 来标识这些设备. 比如: "/cpu:0": 机器中的 CPU "/gpu:0": 机器中的 GPU, 如果你有一个的话. "/gpu:1": 机器中的第二个 GPU, 以此类推... 如果一个 TensorFlow

简明 TensorFlow 教程 —  第三部分: 所有的模型

本文讲的是简明 TensorFlow 教程 -  第三部分: 所有的模型, 快速上手世界上最流行的深度学习框架 概述 在本文中,我们将讨论 TensorFlow 中当前可用的所有抽象模型,并描述该特定模型的用例以及简单的示例代码. 完整的工作示例源码. 一个循环神经网络. 递归神经网络 简称 RNN 用例:语言建模,机器翻译,词嵌入,文本处理. 自从长短期记忆神经网络(LSTM)和门限循环单元(GRU)的出现,循环神经网络在自然语言处理中的发展迅速,远远超越了其他的模型.他们可以被用于传入向量以