现在 tensorflow和mxnet 很火,是否还有必要学习 scikit-learn 等框架?
本文整理自作者在知乎问题《现在 tensorflow 和 mxnet 很火,是否还有必要学习 scikit-learn 等框架?》下的回答,AI 研习社获其作者 阿萨姆 授权转载。
原题如下:
现在 tensorflow 和 mxnet 很火,那么对于深度学习(机器学习)准备入门的学生还有必要学习 scikit-learning,caffe 之类的框架么,以及是否有其他需要注意的地方?比如可以通过一些具体的场景描述一下这些框架的使用。
Scikit-learn 和 TensorFlow 之间有很多显著差异,非常有必要同时了解它们。
区别 1:对于数据的处理哲学不同导致了功能不同
Scikit-learn(sklearn) 的定位是通用机器学习库,而 TensorFlow(tf) 的定位主要是深度学习库。一个显而易见的不同:tf 并未提供 sklearn 那种强大的特征工程,如维度压缩、特征选择等。究其根本,我认为是因为机器学习模型的两种不同的处理数据的方式:
传统机器学习:利用特征工程 (feature engineering),人为对数据进行提炼清洗
深度学习:利用表示学习 (representation learning),机器学习模型自身对数据进行提炼
机器学习与深度学习对于特征抽取的不同之处,原图 [1]
上图直观的对比了我们提到的两种对于数据的学习方式,传统的机器学习方法主要依赖人工特征处理与提取,而深度学习依赖模型自身去学习数据的表示。这两种思路都是现行并存的处理数据的方法,更加详细的对比可以参考:人工智能(AI)是如何处理数据的?(http://t.cn/RHMSvc2)
sklearn 更倾向于使用者可以自行对数据进行处理,比如选择特征、压缩维度、转换格式,是传统机器学习库。而以tf 为代表的深度学习库会自动从数据中抽取有效特征,而不需要人为的来做这件事情,因此并未提供类似的功能。
区别 2:模型封装的抽象化程度不同,给与使用者自由度不同
sklearn 中的模块都是高度抽象化的,所有的分类器基本都可以在 3-5 行内完成,所有的转换器 (如 scaler 和 transformer) 也都有固定的格式。这种抽象化限制了使用者的自由度,但增加了模型的效率,降低了批量化、标准化的的难度 (通过使用 pipeline)。
而 tf 不同,虽然是深度学习库,但它有很高的自由度。你依然可以用它做传统机器学习所做的事情,代价是你需要自己实现算法。因此用 tf 类比 sklearn 不适合,封装在 tf 等工具库上的 keras[2] 才更像深度学习界的 sklearn。
从自由度角度来看,tf 更高;从抽象化、封装程度来看,sklearn 更高;从易用性角度来看,sklearn 更高。
区别 3:针对的群体、项目不同
sklearn 主要适合中小型的、实用机器学习项目,尤其是那种数据量不大且需要使用者手动对数据进行处理,并选择合适模型的项目。这类项目往往在 CPU 上就可以完成,对硬件要求低。
tf 主要适合已经明确了解需要用深度学习,且数据处理需求不高的项目。这类项目往往数据量较大,且最终需要的精度更高,一般都需要 GPU 加速运算。对于深度学习做 “小样” 可以在采样的小数据集上用 keras 做快速的实验,没了解的过朋友看一下 keras 的示例代码,就可以了解为什么 keras 堪比深度学习上的 sklearn 了。
总结
不难看出,sklearn 和 tf 有很大区别。虽然 sklearn 中也有神经网络模块,但做严肃的、大型的深度学习是不可能依靠 sklearn 的。虽然 tf 也可以用于做传统的机器学习、包括清理数据,但往往事倍功半。
更常见的情况下,可以把 sklearn 和 tf,甚至 keras 结合起来使用。sklearn 肩负基本的数据清理任务,keras 用于对问题进行小规模实验验证想法,而 tf 用于在完整的的数据上进行严肃的调参 (炼丹) 任务。
而单独把 sklearn 拿出来看的话,它的文档做的特别好,初学者跟着看一遍 sklearn 支持的功能大概就对机器学习包括的很多内容有了基本的了解。举个简单的例子,sklearn 很多时候对单独的知识点有概述,比如简单的异常检测 (2.7. Novelty and Outlier Detection,http://t.cn/RxwY7Pr)。因此,sklearn 不仅仅是简单的工具库,它的文档更像是一份简单的新手入门指南。
因此,以 sklearn 为代表的传统机器学习库(如瑞士军刀般的万能但高度抽象),和以 tf 为代表的自由灵活更具有针对性的深度学习库(如乐高般高度自由但使用繁琐)都是机器学习者必须要了解的工具。
工具是死的,人是活的。虽然做技术的一大乐趣就是造轮子,但不要把自己绑在一个轮子上,这样容易被碾死在滚滚向前的科技巨轮之下。
[1]Log Analytics With Deep Learning and Machine Learning - XenonStack,http://t.cn/R9MLg63
[2]Keras Documentation,https://keras.io/
- Redis源码分析(一)——Redis数据结构-字符串SDS
- 使用RNN预测股票价格系列二
- 微软 WCF的几种寄宿方式,寄宿IIS、寄宿winform、寄宿控制台、寄宿Windows服务
- 深度学习框架之一:Theano | Lasagne简单教程
- 有趣的应用 | 使用RNN预测股票价格系列一
- 通过深度学习实现安全帽佩戴的检测
- python及numpy,pandas易混淆的点
- 深度学习中的损失函数总结以及Center Loss函数笔记
- TF使用例子-LSTM实现序列标注
- 图像学习-验证码识别
- ResNet原理及其在TF-Slim中的实现
- 理工男的文科梦 —— LSTM深度学习写春联
- keras学习笔记-黑白照片自动着色的神经网络-Alpha版
- keras学习笔记-黑白照片自动着色的神经网络-Beta版
- JavaScript 教程
- JavaScript 编辑工具
- JavaScript 与HTML
- JavaScript 与Java
- JavaScript 数据结构
- JavaScript 基本数据类型
- JavaScript 特殊数据类型
- JavaScript 运算符
- JavaScript typeof 运算符
- JavaScript 表达式
- JavaScript 类型转换
- JavaScript 基本语法
- JavaScript 注释
- Javascript 基本处理流程
- Javascript 选择结构
- Javascript if 语句
- Javascript if 语句的嵌套
- Javascript switch 语句
- Javascript 循环结构
- Javascript 循环结构实例
- Javascript 跳转语句
- Javascript 控制语句总结
- Javascript 函数介绍
- Javascript 函数的定义
- Javascript 函数调用
- Javascript 几种特殊的函数
- JavaScript 内置函数简介
- Javascript eval() 函数
- Javascript isFinite() 函数
- Javascript isNaN() 函数
- parseInt() 与 parseFloat()
- escape() 与 unescape()
- Javascript 字符串介绍
- Javascript length属性
- javascript 字符串函数
- Javascript 日期对象简介
- Javascript 日期对象用途
- Date 对象属性和方法
- Javascript 数组是什么
- Javascript 创建数组
- Javascript 数组赋值与取值
- Javascript 数组属性和方法
- 【编译技术】:解读 Babel AST Format——01
- 【编译技术】:解读 Babel AST Format——02
- PyTorch入门笔记-PyTorch初见
- ssh 连接 Linux 服务器并安装 Anaconda
- Ant Design Vue 报错:Failed to resolve directive: ant-portal的解决办法
- 小程序生成二维码海报的组件-wxa-plugin-canvas
- kbone 是什么?这可能是最好的小程序开源框架
- jQuery根据填写的input的数值导出excel表格
- 小程序根据返回值英文渲染出对应的中文
- redis灵魂拷问:聊一聊AOF日志重写
- 小程序返回的时间戳转化成时间
- JSP 报错:ReferenceError: $ is not defined
- 小程序使用 组件库 vant-weapp详细教程
- DEBUG=1 宏定义对 @weakify 和 @strongify 的影响分析
- 为什么 demangle 会失败?