2019年,5月存档

张映 发表于 2019-05-23

分类目录: html/css

h5从视频中截取图片,报错

Uncaught DOMException: Failed to execute 'toDataURL' on 'HTMLCanvasElement': Tainted canvases may not be exported.

产生这个问题原因是跨域,第一次碰到静态文件跨域问题

阅读全文>>

张映 发表于 2019-05-22

分类目录: 技术其他

jetbrains产的开发工具,在使用方面感觉差不多。debug的配置也是比较相似的。

阅读全文>>

张映 发表于 2019-05-21

分类目录: 服务器相关

python的环境以前搭过,到博客找了一下没有。做过的东西要记录很重要的。不然就是浪费时间。

对于gunicorn和uwsgi的选择,主要看个人喜好。gunicorn配置简单点。但是如果用nginx的话,用uwsgi好一点,nginx兼容了uwsgi。

阅读全文>>

张映 发表于 2019-05-20

分类目录: linux

玩linux系统十几年了,好长时间没有碰到过网络问题了。浪费一个小时去解决。挺怪的一个问题。

阅读全文>>

张映 发表于 2019-05-15

分类目录: hadoop/spark/scala

spark申请资源时,报错了,如下

2019-05-15 10:15:15 INFO BlockManagerInfo:54 - Added broadcast_0_piece0 in memory on namenode1:37836 (size: 83.1 KB, free: 6.2 GB)
2019-05-15 10:15:15 INFO SparkContext:54 - Created broadcast 0 from broadcast at DAGScheduler.scala:1161
2019-05-15 10:15:15 INFO DAGScheduler:54 - Submitting 2 missing tasks from ResultStage 0 (MapPartitionsRDD[1] at sql at run.scala:132) (first 15 tasks are for partitions Vector(0, 1))
2019-05-15 10:15:15 INFO YarnScheduler:54 - Adding task set 0.0 with 2 tasks
2019-05-15 10:15:30 WARN YarnScheduler:66 - Initial job has not accepted any resources; check your cluster UI to ensure that workers are registered and have sufficient resources

提示已经很清楚了,资源不够。因资源不够报出来的错识,非常的多。以前写的博客里面有提到了一些。

阅读全文>>

张映 发表于 2019-05-10

分类目录: hadoop/spark/scala

一个topic创建了几个partition,启动consumer的时候,只会消费一个partition,消费完了后,会把这个consumer给关闭掉。再启动consumer时,还是只会消费上次消费的那个partition。中间没有任何报错。

阅读全文>>

张映 发表于 2019-05-06

分类目录: hadoop/spark/scala

删除topic后,在重新创建相同名字的topic,报错了。下面总结一套,可行的方案。

阅读全文>>

张映 发表于 2019-05-06

分类目录: hadoop/spark/scala

kafka设置了max.poll.records为50000条,但是只能读取到1400条左右,没有任何报错。估计应当是配置问题。

阅读全文>>

张映 发表于 2019-05-06

分类目录: hadoop/spark/scala

元数据换成mysql,请参考:hive mysql 安装配置,spark从kafka读取数据后,入库hdfs时,会连接mysql元数据库,spark采用的是长连接,当spark关闭时,连接会处于睡眠状态。长时间不处理,mysql的连接数就会被占满。

阅读全文>>