关于spark debug的文件,算上这篇,已有4篇了,总结一下:
1,spark本地开发,元数据库,数据存储都在开发机。请参考:scala spark sql 本地调试
2,spark连接远程hive,单namenode。请参考:spark 连接远程hive调试的3种方法
3,spark远程调试。请参考:idea 2步配置 远程调试spark
关于spark debug的文件,算上这篇,已有4篇了,总结一下:
1,spark本地开发,元数据库,数据存储都在开发机。请参考:scala spark sql 本地调试
2,spark连接远程hive,单namenode。请参考:spark 连接远程hive调试的3种方法
3,spark远程调试。请参考:idea 2步配置 远程调试spark
对于习惯了sql的开发同学来说,写sql肯定比较用map,filter内在算法因子要顺手的多。