pyspark的需要hadoop的支持,具体原理也不是很懂,就是很离谱,由于我的pyspark是直接安转在conda的环境上的,昨晚想跑一个文件,抛出一个pyspark无法找到lzo压缩的异常,最后把lzo压缩删除,
找到hadoop的core-site.xml把lzo配置注释掉重新启动集群,问题解决。
解决不了问题,把提出问题的人解决掉,快乐就是这么简单。
注释掉这些
pyspark的需要hadoop的支持,具体原理也不是很懂,就是很离谱,由于我的pyspark是直接安转在conda的环境上的,昨晚想跑一个文件,抛出一个pyspark无法找到lzo压缩的异常,最后把lzo压缩删除,
找到hadoop的core-site.xml把lzo配置注释掉重新启动集群,问题解决。
解决不了问题,把提出问题的人解决掉,快乐就是这么简单。
注释掉这些
ClkLog针对神策不支持全埋点的客户端实现用户访问基础统计分析-1
1)hadoop 本身并不支持 lzo 压缩,故需要使用 twitter 提供的 hadoop-lzo 开源组件。hadoop nblogs./allthewayforward/p/11 ...
举报文章
请选择举报类型
补充说明
0/200
上传截图
格式支持JPEG/PNG/JPG,图片不超过1.9M