使用Pyspark进行特征工程时的那些坑

时间:2022-07-24
本文章向大家介绍使用Pyspark进行特征工程时的那些坑,主要内容包括其使用实例、应用技巧、基本知识点总结和需要注意事项,具有一定的参考价值,需要的朋友可以参考一下。

以脚本spark_clean_online_action.py、数据集new_sxf_time_count_1781115582.csv为例: 集群节点包括212、216、217、218。需要注意的是:

  • 每台节点有且仅有Python 2.7.5 和Python 2.6.8 两个环境 完成相关依赖安装

1、上传待处理文件到HDFS

2、Pyspark默认调用的是Python 2.7.5 解释器,所以需更改调用版本,每个节点执行: export PYSPARK_PYTHON=/usr/local/python3/bin/python3

3、spark2-submit --driver-memory 1g --num-executors 4 --executor-cores 10 --master yarn --deploy-mode client spark_clean_online_action.py

或者不执行2和3,仅执行:

4、spark2-submit --driver-memory 1g --num-executors 4 --executor-cores 10 --master yarn --deploy-mode client --conf spark.yarn.appMasterEnv.PYSPARK_PYTHON=/usr/local/python3/bin/python3 spark_clean_online_action.py

版本

  • pandas==0.20.3
  • pyspark==2.3.0
  • pyarrow==0.12.1