简单线性回归(梯度下降法) python实现
时间:2019-08-29
本文章向大家介绍简单线性回归(梯度下降法) python实现,主要包括简单线性回归(梯度下降法) python实现使用实例、应用技巧、基本知识点总结和需要注意事项,具有一定的参考价值,需要的朋友可以参考一下。
grad_desc
简单线性回归(梯度下降法)¶
0.引入依赖¶
In [1]:
import numpy as np
import matplotlib.pyplot as plt
1.导入数据¶
In [34]:
points = np.genfromtxt("data.csv",delimiter=",")
#points
#提取points中的两列数据,分别作为x,y
x=points[:,0];
y=points[:,1];
#用plt画出散点图
plt.scatter(x,y)
plt.show()
2.定义损失函数¶
In [35]:
# 损失函数是系数的函数,另外还要传入数据的x,y
def compute_cost(w,b,points):
total_cost=0
M =len(points)
for i in range(M):
x=points[i,0]
y=points[i,1]
total_cost += (y-w*x-b)**2
return total_cost/M #一除都是浮点 两个除号是地板除,整型。 如 3 // 4
3.定义模型的超参数¶
In [52]:
alpha = 0.0000001
initial_w = 0
initial_b = 0
num_iter =20
4.定义核心梯度下降算法函数¶
In [37]:
def grad_desc(points,initial_w,initial_b,alpha,num_iter):
w = initial_w
b = initial_b
# 定义一个list保存所有的损失函数值,用来显示下降过程。
cost_list=[]
for i in range(num_iter):
cost_list.append(compute_cost(w,b,points))
w,b= step_grad_desc(w,b,alpha,points)
return [w,b,cost_list]
def step_grad_desc(current_w,current_b,alpha,points):
sum_grad_w=0
sum_grad_b=0
M=len(points)
#对每个点代入公式求和
for i in range(M):
x= points[i,0]
y= points[i,1]
sum_grad_w += (current_w * x +current_b -y) *x
sum_grad_b += current_w * x +current_b -y
#用公式求当前梯度
grad_w=2/M * sum_grad_w
grad_b=2/M * sum_grad_b
#梯度下降,更新当前的w和b
updated_w = current_w- alpha * grad_w
updated_b = current_b -alpha * grad_b
return updated_w,updated_b
5.测试,运行梯度下降算法¶
In [54]:
w,b,cost_list= grad_desc(points,initial_w,initial_b,alpha,num_iter)
print ("w is :",w)
print ("b is :",b)
cost = compute_cost(w,b,points)
print("cost_list:",cost_list)
print("cost is:",cost)
plt.plot(cost_list)
Out[54]:
In [55]:
plt.scatter(x,y)
pred_y= w*x+b
plt.plot(x,pred_y,c='r')
Out[55]:
In [ ]:
原文地址:https://www.cnblogs.com/arli/p/11428236.html
- JavaScript 教程
- JavaScript 编辑工具
- JavaScript 与HTML
- JavaScript 与Java
- JavaScript 数据结构
- JavaScript 基本数据类型
- JavaScript 特殊数据类型
- JavaScript 运算符
- JavaScript typeof 运算符
- JavaScript 表达式
- JavaScript 类型转换
- JavaScript 基本语法
- JavaScript 注释
- Javascript 基本处理流程
- Javascript 选择结构
- Javascript if 语句
- Javascript if 语句的嵌套
- Javascript switch 语句
- Javascript 循环结构
- Javascript 循环结构实例
- Javascript 跳转语句
- Javascript 控制语句总结
- Javascript 函数介绍
- Javascript 函数的定义
- Javascript 函数调用
- Javascript 几种特殊的函数
- JavaScript 内置函数简介
- Javascript eval() 函数
- Javascript isFinite() 函数
- Javascript isNaN() 函数
- parseInt() 与 parseFloat()
- escape() 与 unescape()
- Javascript 字符串介绍
- Javascript length属性
- javascript 字符串函数
- Javascript 日期对象简介
- Javascript 日期对象用途
- Date 对象属性和方法
- Javascript 数组是什么
- Javascript 创建数组
- Javascript 数组赋值与取值
- Javascript 数组属性和方法
- 一致性hash算法及java实现
- 【Pytorch 】笔记九:正则化与标准化大总结
- 【Pytorch 】笔记十:剩下的一些内容(完结)
- 你知道怎么查看 IP 地址吗?
- spring cloud微服务之间的调用
- 华为网络整体解决方案 | 整体布局思想一定要有!
- java使用influxDB时序数据库
- 网络工程师必看 | 从动态图看VLAN技术,建议收藏!
- 【原创】Java并发编程系列35 | ScheduledThreadPoolExecutor定时器
- 『极限版』不掺水,用纯 CSS 来实现超飒的表单验证功能
- 从0到1开发测试平台(十三)前后端接口token验证
- 如何使用PYTHON抓取新闻文章
- Open3d 学习计划—13(Azure Kinect)
- 头条面试题:计算目录树的深度
- /etc/passwd文件和/etc/shadow文件