决策树
时间:2019-10-30
本文章向大家介绍决策树,主要包括决策树使用实例、应用技巧、基本知识点总结和需要注意事项,具有一定的参考价值,需要的朋友可以参考一下。
一,决策树概念
通过分支进行判断结果,而这些分支就是特征,如果重要的特征在根节点,就能有效的减少决策次数。所以决策树的问题在于如何高效的构建决策树。
二。 信息论
1.信息熵 -代表信息(结果)的不确定性
2.信息增益 当确定某个特征后,信息熵改变的大小(信息熵-条件熵)
三。sklearn决策树
1 from sklearn.datasets import load_iris 2 from sklearn.model_selection import train_test_split 3 from sklearn.tree import DecisionTreeClassifier,export_graphviz 4 import pydotplus 5 6 def decision_iris(): 7 """ 8 用决策树对鸢尾花进行分类 9 :return: 10 """ 11 #1.获取数据集 12 iris=load_iris() 13 #2.划分数据集 14 x_train,x_test,y_train,y_test=train_test_split(iris.data,iris.target) 15 #3.决策树预估器 16 estimator=DecisionTreeClassifier(criterion="entropy") 17 estimator.fit(x_train,y_train) 18 #4.模型评估 19 y_predict=estimator.predict(x_test) 20 print("y_predict:\n",y_test) 21 print("直接对比真实值和预测值",y_predict==y_test) 22 score=estimator.score(x_test,y_test) 23 print("准确率为:",score) 24 #可视化决策树 25 export_graphviz(estimator,out_file="iris_tree.dot",feature_names=iris.feature_names) 26 graph=pydotplus.graph_from_dot_file("iris_tree.dot") 27 graph.write_pdf('iris.pdf') 28 29 if __name__ == "__main__": 30 decision_iris()
四。用决策树预测泰坦尼克号人员生存
原文地址:https://www.cnblogs.com/sclu/p/11765369.html
- JavaScript 教程
- JavaScript 编辑工具
- JavaScript 与HTML
- JavaScript 与Java
- JavaScript 数据结构
- JavaScript 基本数据类型
- JavaScript 特殊数据类型
- JavaScript 运算符
- JavaScript typeof 运算符
- JavaScript 表达式
- JavaScript 类型转换
- JavaScript 基本语法
- JavaScript 注释
- Javascript 基本处理流程
- Javascript 选择结构
- Javascript if 语句
- Javascript if 语句的嵌套
- Javascript switch 语句
- Javascript 循环结构
- Javascript 循环结构实例
- Javascript 跳转语句
- Javascript 控制语句总结
- Javascript 函数介绍
- Javascript 函数的定义
- Javascript 函数调用
- Javascript 几种特殊的函数
- JavaScript 内置函数简介
- Javascript eval() 函数
- Javascript isFinite() 函数
- Javascript isNaN() 函数
- parseInt() 与 parseFloat()
- escape() 与 unescape()
- Javascript 字符串介绍
- Javascript length属性
- javascript 字符串函数
- Javascript 日期对象简介
- Javascript 日期对象用途
- Date 对象属性和方法
- Javascript 数组是什么
- Javascript 创建数组
- Javascript 数组赋值与取值
- Javascript 数组属性和方法
- python第五课——流程控制语句
- LNMP架构应用实战—Nginx反向代理负载均衡配置
- python第六课——判断结构
- MySQL数据库入门——备份数据库
- python第七课——循环结构 while
- python第八课——random模块的使用
- python第九课——while死循环
- python第十课——循环结构收尾
- python第十二课——for in循环
- Linux系统实战——批量无人值守安装操作系统
- python第十三课——嵌套循环
- python第十四课--排序及自定义函数
- python第十四课--排序及自定义函数之案例一:选择排序
- python第十四课--排序及自定义函数之案例二:冒泡排序
- python第十四课--排序及自定义函数之自定义函数(案例一)