TensorFlow-3: 用 feed-forward neural network 识别数字
今天继续看 TensorFlow Mechanics 101: https://www.tensorflow.org/get_started/mnist/mechanics
完整版教程可以看中文版tutorial: http://wiki.jikexueyuan.com/project/tensorflow-zh/tutorials/mnist_tf.html
这一节讲了使用 MNIST 数据集训练并评估一个简易前馈神经网络(feed-forward neural network)
input,output 和前两节是一样的:即划分数据集并预测图片的 label
data_sets.train 55000个图像和标签(labels),作为主要训练集。
data_sets.validation 5000个图像和标签,用于迭代验证训练准确度。
data_sets.test 10000个图像和标签,用于最终测试训练准确度(trained accuracy)。
主要有两个代码:
mnist.py https://github.com/tensorflow/tensorflow/blob/master/tensorflow/examples/tutorials/mnist/mnist.py
- 构建一个全连接网络,由 2 个隐藏层,1 个 `softmax_linearv 输出构成
- 定义损失函数,用 `cross entropyv
- 定义训练时的优化器,用
GradientDescentOptimizer
- 定义评价函数,用
tf.nn.in_top_k
**fully_connected_feed.py ** https://github.com/tensorflow/tensorflow/blob/master/tensorflow/examples/tutorials/mnist/fully_connected_feed.py
- 向
placeholder_inputs
传入batch size
,得到 image 和 label 的两个placeholder - 定义生成
feed_dict
的函数,key 是 placeholders,value 是 data - 定义
do_eval
函数,每隔 1000 个训练步骤,就对模型进行以下评估,分别作用于训练集、验证集和测试集 - 训练时:
- 导入数据
- 得到 image 和 label 两个 placeholder
- 传入
mnist.inference
定义的 NN, 得到 predictions - 将 predictions 传给
mnist.loss
计算 loss - loss 传给
mnist.training
进行优化训练 - 再用
mnist.evaluation
评价预测值和实际值
代码中涉及到下面几个函数:
with tf.Graph().as_default():
即所有已经构建的操作都要与默认的 tf.Graph
全局实例关联起来,tf.Graph
实例是一系列可以作为整体执行的操作
summary = tf.summary.merge_all():
为了释放 TensorBoard 所使用的 events file,所有的即时数据都要在图表构建时合并至一个操作 op 中,每次运行 summary 时,都会向 events file 中写入最新的即时数据
summary_writer = tf.summary.FileWriter(FLAGS.log_dir, sess.graph):
用于写入包含了图表本身和即时数据具体值的 events file。
saver = tf.train.Saver():
就是向训练文件夹中写入包含了当前所有可训练变量值 checkpoint file
with tf.name_scope('hidden1'):
主要用于管理一个图里面的各种 op,返回的是一个以 scope_name
命名的 context manager,一个 graph 会维护一个 name_space
的堆,实现一种层次化的管理,避免各个 op 之间命名冲突。例如,如果额外使用 tf.get_variable()
定义的变量是不会被 tf.name_scope()
当中的名字所影响的
tf.nn.in_top_k(logits, labels, 1):
意思是在 K 个最有可能的预测中如果可以发现 true,就将输出标记为 correct。本文 K 为 1,也就是只有在预测是 true 时,才判定它是 correct。
- linux下mysql函数的详细案列
- Java集合深度解析之Hashtable
- linux 下mysql的安装,并设置必要的密码
- golang使用protobuf
- hdu 3518 (后缀数组)
- hdu ----3695 Computer Virus on Planet Pandora (ac自动机)
- 编程之美----NIM游戏
- hdu----1686 Oulipo (ac自动机)
- C++ GPU && CPU
- MyCat安装与测试教程 超详细!
- 关于如何来构造一个String类
- Java集合深度解析之LinkedList
- 2015编程之美(资格赛)--基站选址
- CentOS7下Nginx服务器安装与使用教程
- JavaScript 教程
- JavaScript 编辑工具
- JavaScript 与HTML
- JavaScript 与Java
- JavaScript 数据结构
- JavaScript 基本数据类型
- JavaScript 特殊数据类型
- JavaScript 运算符
- JavaScript typeof 运算符
- JavaScript 表达式
- JavaScript 类型转换
- JavaScript 基本语法
- JavaScript 注释
- Javascript 基本处理流程
- Javascript 选择结构
- Javascript if 语句
- Javascript if 语句的嵌套
- Javascript switch 语句
- Javascript 循环结构
- Javascript 循环结构实例
- Javascript 跳转语句
- Javascript 控制语句总结
- Javascript 函数介绍
- Javascript 函数的定义
- Javascript 函数调用
- Javascript 几种特殊的函数
- JavaScript 内置函数简介
- Javascript eval() 函数
- Javascript isFinite() 函数
- Javascript isNaN() 函数
- parseInt() 与 parseFloat()
- escape() 与 unescape()
- Javascript 字符串介绍
- Javascript length属性
- javascript 字符串函数
- Javascript 日期对象简介
- Javascript 日期对象用途
- Date 对象属性和方法
- Javascript 数组是什么
- Javascript 创建数组
- Javascript 数组赋值与取值
- Javascript 数组属性和方法
- PyQt5 图形界面-实现按钮监听事件
- Python 技术篇-文件操作:文件的读取和写入
- Salesforce Javascript(一) Promise 浅谈
- Python 技巧篇-英文单词首字母大小写转换功能实例演示,字符串切片实现
- 5千字的SpringMVC总结,我觉得你会需要
- 【原创】Java并发编程系列36 | FutureTask
- React Hooks-useTypescript!
- spring-boot项目优雅的http客户端工具,真香!
- 人人都可以学会生存分析(学徒数据挖掘)
- 谈谈const跟Object.freeze()
- Java String类源码阅读笔记
- 别再用JSON配置文件了
- 什么,你一定要基于FPKM标准化表达矩阵做单细胞差异分析
- Tomcat 9最新版安装与使用手册,tomcat更改端口号,tomcat控制台乱码问题解决方法
- Python 技术篇-读取遍历指定路径的文件,区分文件和文件夹