pytorch-学习之旅

pytorch基础　　

import torch
from torch import nn

1 tensor：张量，表示一个多维的矩阵。

　b.numpy()能将b转换为numpy数据类型，同时使用torch.from_num py()将numpy转换为tensor。若将a的类型转换成float，a.float().

b.numpy():将b转换成numpy数据类型
torch.from_num py():把numpy转换成tensor
如果需要更改tensor的数据类型，只需要在转换后的tensor后面加上你需要的类型，eg：将a转换成float，
只需a.float（）
如果电脑支持GPU,可以将Tensor 放到GPU上
torch.cuda.is_available()判断一下是否支持GPU，
如果把tensor放到GPU上，只需a.cuda（）就把tensor a 放到GPU上
if torch.cuda.is_available():
    a_cuda = a.cuda()
    print(a_cuda)

2  torch.autograd.Variable(变量)：

Variable提供了自动求导的功能，在做运算的时候需要构造一个计算图谱，然后再里面进行前向传播和反向传播
Variable和Tensor本质上没有区别，不过Variable会被放入一个计算图中，然后进行前向传播，反向传播，自动求导
Variable是在torch.autograd.variable中，将一个tensor编程Variable，Variable（a），有三个重要的组成属性：data，grad，grad_fn。
data：取出Variable里面的tensor数值，
grad_fn：得到这个Variable的操作，比如通过加减还是乘除得到，
grad：Variable的反向传播梯度
例如：
x = Variable(torch.Tensor([1],requires_grad=True)
w = Variable(torch.Tensor([2],requires_grad=True)
b = Variable(torch.Tensor([3],requires_grad=True)
y = w*x +b
y.backward()自动求导
print(x.grad)x的梯度

3.

import torch
x = torch.rand(3)
"""
读取数据
torch.utils.data.DataLoader定义一个新的迭代器
dataiter = DataLoader(myDataset,batch_size = 32,shuffle = True,collate_fn = default_colllate)
collate_fn:如何取样本
读取图片：
ImageFolder：处理图片
dset = ImageFolder(root = 'root_path',transform = None,loader = default_loader)
root ：根目录，这个目录下有几个文件夹，每个文件夹表示一个类别：transform和target_transform是图片增强
loader是图片读取的办法，因为我们读取的是图片的名字，然后通过loader将图片转换成我们需要的图片类型
进入神经网络。
"""
"""
所有的层结构和损失函数都来自于torch.nn,所有的模型构建都是从这个基类nn.Module继承的
"""
# class net_name(nn.Module):
#     def __init__(self,other_arguments):
#         super(net_name,self).__init__()
#         self.conv1 = nn.Conv2d(in_channels,out_channels,kernel_size)
#         def forward(self,x):
#             x = self.conv1(x)
#             return x
"""
所有的网络层都是由nn这个包得到的，eg，nn.Linear
定义好模型之后，通过nn这个包定义损失函数
criterion =nn.CrossEntropyLoss()
loss = criterion(output,target)
"""
"""

4. torch.optim(优化)：

实现各种优化的包，
optimizer = torch.optim.SGD(model.parameters(),lr = 0.01,momentum = 0.9)
学习率是0.01，动量是0.9的随机梯度下降，在优化之前将梯度归零，optimizer.zeros(),通过loss.backward()反向传播，
自动求导得到每个参数的梯度，最后需要optimizer.step()就可以通过梯度做一步参数更新。

梯度：导数的多变量表达式，函数的梯度形成了一个向量场，同时也是一个方向，这个方向上导数最大，且等于梯度。

"""
5. 线性模型
一维线性回归：f(xi) = wxi+b
Loss = Σ(f(xi)-yi)2

原文地址：https://www.cnblogs.com/shuangcao/p/11700710.html