图解机器学习总结——2、回归
时间:2022-05-04
本文章向大家介绍图解机器学习总结——2、回归,主要内容包括一、回归的定义、二、最小二乘学习法、三、最小二乘法实例、四、局部加权线性回归、五、最小二乘的性质、六、大规模数据的学习算法、基本概念、基础应用、原理机制和需要注意的事项等,并结合实例形式分析了其使用技巧,希望通过本文能帮助到大家理解应用这部分内容。
一、回归的定义
二、最小二乘学习法
三、最小二乘法实例
对于如下的数据集:
画图的代码如下:
#coding:UTF-8
'''
Date:20160423
@author: zhaozhiyong
'''
from pylab import *
f =open("data.txt")
x = []
y = []
for line in f.readlines():
lines = line.strip().split("t")
if len(lines) == 3:
x.append(float(lines[1]))
y.append(float(lines[2]))
f.close()
plot(x,y,".")
plt.title("data")
show()
利用最小二乘法求得的结果为: [[ 3.00774324] [ 1.69532264]]
代码如下:
#coding:UTF-8
'''
Date:20160423
@author: zhaozhiyong
'''
from numpy import *
def load_data():
f = open("data.txt")
x = []
y = []
for line in f.readlines():
lines = line.strip().split("t")
x_tmp = []
if len(lines) == 3:
x_tmp.append(float(lines[0]))
x_tmp.append(float(lines[1]))
y.append(float(lines[2]))
x.append(x_tmp)
f.close()
return mat(x), mat(y).T
def lr(x, y):
if linalg.det(x.T * x) != 0:
return ((x.T * x)**(-1) * (x.T) * y)
if __name__ == "__main__":
x, y = load_data()
#核心的最小二乘
w = lr(x,y)
print w
最终的图形如下:
四、局部加权线性回归
五、最小二乘的性质
六、大规模数据的学习算法
回归的结果如下:
程序代码如下:
#coding:UTF-8
'''
Date:20160423
@author: zhaozhiyong
'''
from numpy import *
def sgd(n, p):
f = open("data.txt")
w = mat(zeros((1, n)))#初始化
for line in f.readlines():
lines = line.strip().split("t")
x_tmp = []
y = 0.0
if len(lines) == 3:
x_tmp.append(float(lines[0]))
x_tmp.append(float(lines[1]))
y = float(lines[2])
x = mat(x_tmp).T
w = w - p * (w * x - y) * x.T
f.close()
return w
if __name__ == "__main__":
w = sgd(2, 0.1)
print w
- JavaScript 教程
- JavaScript 编辑工具
- JavaScript 与HTML
- JavaScript 与Java
- JavaScript 数据结构
- JavaScript 基本数据类型
- JavaScript 特殊数据类型
- JavaScript 运算符
- JavaScript typeof 运算符
- JavaScript 表达式
- JavaScript 类型转换
- JavaScript 基本语法
- JavaScript 注释
- Javascript 基本处理流程
- Javascript 选择结构
- Javascript if 语句
- Javascript if 语句的嵌套
- Javascript switch 语句
- Javascript 循环结构
- Javascript 循环结构实例
- Javascript 跳转语句
- Javascript 控制语句总结
- Javascript 函数介绍
- Javascript 函数的定义
- Javascript 函数调用
- Javascript 几种特殊的函数
- JavaScript 内置函数简介
- Javascript eval() 函数
- Javascript isFinite() 函数
- Javascript isNaN() 函数
- parseInt() 与 parseFloat()
- escape() 与 unescape()
- Javascript 字符串介绍
- Javascript length属性
- javascript 字符串函数
- Javascript 日期对象简介
- Javascript 日期对象用途
- Date 对象属性和方法
- Javascript 数组是什么
- Javascript 创建数组
- Javascript 数组赋值与取值
- Javascript 数组属性和方法