搜索结果

张映 发表于 2021-09-18

分类目录: clickhouse

clickhouse中的表基本上都ReplicatedMergeTree+Distributed。而canal只支持单表(从源码中也可以看出),所以做了canal二次开发以实现insert update delete truncate功能。单表和整库都支持。

本文所介绍的canal二次开发,只提供思路,并不能照抄代码。

阅读全文>>

张映 发表于 2021-09-07

分类目录: clickhouse

clickhouse不支持自增ID,primary key可以重复。这对于习惯了mysql的人来说,肯定很不爽。如果写入到mysql,mysql同步数据到clickhouse,然后从clickhouse来读,这样就很完美了。

采用MaterializeMySQL引擎局限性比较大,同步的表数据只能在clickhouse集群中的某一台机器上,这样集群资源不能充分利用。

我想达到目的,在clickhouse中创建Distributed+ReplicatedMergeTree+zookeeper来实现分布式库和表,然后能过canal把mysql数据同步到过去。这样能充分利用系统资源,也能克服clickhouse的弊端。

阅读全文>>

张映 发表于 2021-04-23

分类目录: elasticsearch

elasticsearch dsl写起来,还是比较麻烦的,特别是聚合的时候,推荐以下方式转换。

阅读全文>>

张映 发表于 2021-03-02

分类目录: elasticsearch

在看这篇文章前,要看一下这篇,mysql 同步数据到 elasticsearch,这篇文章只讲了,单服务器单库单表的情况。本文主要讲,多服务器,多库,多表的情况。

阅读全文>>

张映 发表于 2021-02-20

分类目录: elasticsearch

数据量比较大的情况下,elasticsearch单表操作要比mysql快很多,全文检索也比mysql快很多。试用了一下阿里的canal,感觉还不错。

阅读全文>>

张映 发表于 2021-02-05

分类目录: elasticsearch

elasticsearch出现unassigned的分片,导致kibana和elasticsearch-head现黄色。

阅读全文>>

张映 发表于 2020-12-16

分类目录: tidb

TiDB 是 PingCAP 公司自主设计、研发的开源分布式关系型数据库,是一款同时支持在线事务处理与在线分析处理 (Hybrid Transactional and Analytical Processing, HTAP)的融合型分布式数据库产品,具备水平扩容或者缩容、金融级高可用、实时 HTAP、云原生的分布式数据库、兼容 MySQL 5.7 协议和 MySQL 生态等重要特性。目标是为用户提供一站式 OLTP (Online Transactional Processing)、OLAP (Online Analytical Processing)、HTAP 解决方案。TiDB 适合高可用、强一致要求较高、数据规模较大等各种应用场景。

阅读全文>>

张映 发表于 2020-05-13

分类目录: 服务器相关

filebeat客户端日志收集工具,以前就玩过,请参考:ubuntu elasticsearch,logstash,kibana,filebeat安装配置,以前用的filebeat应当是filebeat6,升级后,配置变化还是挺大的。

阅读全文>>

张映 发表于 2020-05-09

分类目录: 云计算

elk是elasticsearch,logstash,kibana的缩写,组成了日志收集的服务端。在看这篇文章,要先了解以下二篇文章:

ubuntu elasticsearch,logstash,kibana,filebeat安装配置

kubernetes(k8s) 集群 安装配置

阅读全文>>

张映 发表于 2018-08-17

分类目录: elasticsearch, php

laravel安装elasticsearch scout,用的过程中,发现一个问题,只能存在一个模板和一个索引,用的是elasticsearch 6。

阅读全文>>