玩过大数据的人，肯定都遇到过小文件问题。这也是玩大数据，必须跨过去的一个坎，要不然，大数据玩不转。
做大数据，时间挺长的了。基于hadoop的大数据生态圈，还是比较稳定和高效的。
默认情况下，简单的HQL查询会扫描整个表。查询大表时，这会降低性能。可以通过创建分区来解决此问题。在Hive中，每个分区对应于预定义的分区列，这些分区列映射到HDFS中表的目录中的子目录。当查询表时，只读取表中所需的数据分区（目录），因此查询的I/O和时间大大减少。使用分区是提高Hive性能的一种非常简单有效的方法。
网上购物，很多人只会看最近三个月，或者半年的订单，更早的历史订单就很少有人关注了。这种场景还是挺适合kudu+hdfs.
Apache Kudu旨在快速分析、快速变化的数据。Kudu提供快速插入/更新和高效列扫描的组合，以在单个存储层上实现多个实时分析工作负载。因此，Kudu非常适合作为存储需要实时查询的数据的仓库。此外，Kudu支持实时更新和删除行，以支持延迟到达的数据和数据更正。
Apache HDFS旨在以低成本实现无限的可扩展性。它针对数据不可变的面向批处理的场景进行了优化，与Apache Parquet文件格式配合使用时，可以以极高的吞吐量和效率访问结构化数据。
kudu存最近半年的订单数据，hdfs存历史的订单数据。
1，创建hbase表
Kudu和Impala均是Cloudera贡献给Apache基金会的顶级项目。cdh中impala和kudu做了深度整合，性能方面，还是不错的。
cdh管理界面已经停止了所有服务，但是jps查看的时候，还是有很多进程。通过kill强制杀死后，又起来了。
关于spark debug的文件，算上这篇，已有4篇了，总结一下：
1，spark本地开发，元数据库，数据存储都在开发机。请参考：scala spark sql 本地调试
2，spark连接远程hive，单namenode。请参考：spark 连接远程hive调试的3种方法
3，spark远程调试。请参考：idea 2步配置 远程调试spark
对于习惯了sql的开发同学来说，写sql肯定比较用map，filter内在算法因子要顺手的多。