锐单电子商城，一站式电子元器件采购平台！

电话：400-990-0325

ClickHouse-分片集群

时间：2023-04-05 16:07:00 150a单相继电器

虽然副本可以提高数据的可用性，降低丢失的风险，但每个服务器实际上必须容纳所有数据，而且没有解决数据的横向扩展。

要解决数据水平切分的问题，需要引入分片的概念。通过分片把一份完整的数据进行切分，不同的分片分布到不同的节点上，再通过 Distributed 表引擎将数据拼接在一起。

Distributed 表引擎本身不存储数据，有点类似 MyCat 之于 MySql，通过分布式逻辑表将分布式数据写入、分发一种中间件，操作多个节点不同分片的分布式数据。

注意：ClickHouse 集群是表级的。在实际企业中，大多数都是高可用性的，但没有分数

避免降低查询性能和操作集群的复杂性。

1.集群写入过程(3) 分片 2 副本共 6 个节点)

internal_replication:同步内部副本

true：由分片自己同步

false：由distribute表同步，压力大

2.集群读取过程(3) 分片 2 副本共 6 个节点)

3 分片 2 副本共 6 节点集群配置(供参考)

配置位置仍在以前/etc/clickhouse-server/config.d/metrika.xml，内容如下

注:不创建外部文件也可以直接创建。 config.xml 的中指定

                                              true                                                       node01                     9000                                                                        node02                     9000                                                             true                                       node03                     9000                                                        node04                     9000                                                             true                                       node05                     9000                                                        node06                     9000

4.配置三节点版本集群和副本

4.1 集群及副本规划(2) 只有第一个分片有副本)

4.2 配置步骤

1)在Node01的/etc/clickhouse-server/config.d 目录下创建 metrika-shard.xml 文件

vim /etc/clickhouse-server/config.d/metrika-shard.xml

注:不创建外部文件也可以直接创建。 config.xml 的中指定

true

Node01

9000

default

1234qwer

Node02

9000

default

1234qwer

true

Node03

9000

default

1234qwer

Node01

2181

Node02

2181

Node03

2181

rep_1_1

2)将 Node01 的 metrika-shard.xml 同步到 Node02 和 Node03

scp /etc/clickhouse-server/config.d/metrika-shard.xml root@Node02:/etc/clickhouse-server/config.d/
scp /etc/clickhouse-server/config.d/metrika-shard.xml root@Node03:/etc/clickhouse-server/config.d/

3)修改 Node02 和 Node03 中 metrika-shard.xml 宏的配置

(1)Node02


        01 
        rep_1_2

(2)Node03


        02 
        rep_2_1

4)在 Node01 上修改/etc/clickhouse-server/config.xml

 vim /etc/clickhouse-server/config.xml 
 

/etc/clickhouse-server/config.d/metrika-shard.xml

5)同步/etc/clickhouse-server/config.xml 到 Node02 和 Node03

scp /etc/clickhouse-server/config.xml root@Node02:/etc/clickhouse-server/
scp /etc/clickhouse-server/config.xml root@Node03:/etc/clickhouse-server/

6)重启三台服务器上的 ClickHouse 服务

sudo clickhouse restart

查看集群

superset-BI :) show clusters;
SHOW CLUSTERS
Query id: 391735d2-bf74-43f5-aa86-b6d203c357cd
┌─cluster─────────────────────────────────────────┐
│ gmall_cluster                                   │
│ test_cluster_one_shard_three_replicas_localhost │
│ test_cluster_two_shards                         │
│ test_cluster_two_shards_internal_replication    │
│ test_cluster_two_shards_localhost               │
│ test_shard_localhost                            │
│ test_shard_localhost_secure                     │
│ test_unavailable_shard                          │
└─────────────────────────────────────────────────┘
8 rows in set. Elapsed: 0.002 sec.

7)在 Node01 上执行建表语句

➢ 会自动同步到 Node02 和 Node03 上

➢ 集群名字要和配置文件中的一致

➢ 分片和副本名称从配置文件的宏定义中获取

create table st_fz_order_mt_01 on cluster gmall_cluster (

id UInt32,

sku_id String,

total_amount Decimal(16,2),

create_time Datetime

) engine

=ReplicatedMergeTree('/clickhouse/tables/{shard}/st_fz_order_mt_01','{replica}')

partition by toYYYYMMDD(create_time)

primary key (id)

order by (id,sku_id);

superset-BI :) create table st_fz_order_mt_01 on cluster gmall_cluster (

id UInt32,

sku_id String,

total_amount Decimal(16,2),

create_time Datetime

) engine

=ReplicatedMergeTree('/clickhouse/tables/{shard}/st_fz_order_mt_01','{replica}')

partition by toYYYYMMDD(create_time)

primary key (id)

order by (id,sku_id);

CREATE TABLE st_fz_order_mt_01 ON CLUSTER gmall_cluster

(

`id` UInt32,

`sku_id` String,

`total_amount` Decimal(16, 2),

`create_time` Datetime

)

ENGINE = ReplicatedMergeTree('/clickhouse/tables/{shard}/st_fz_order_mt_01', '{replica}')

PARTITION BY toYYYYMMDD(create_time)

PRIMARY KEY id

ORDER BY (id, sku_id)

Query id: b7818894-861b-443c-86e7-41832716eb34

┌─host────────┬─port─┬─status─┬─error─┬─num_hosts_remaining─┬─num_hosts_active─┐

│ Node1 │ 9000 │ 0 │ │ 2 │ 2 │

└─────────────┴──────┴────────┴───────┴─────────────────────┴──────────────────┘

┌─host────────┬─port─┬─status─┬─error─┬─num_hosts_remaining─┬─num_hosts_active─┐

│ Node2 │ 9000 │ 0 │ │ 1 │ 0 │

│ Node3 │ 9000 │ 0 │ │ 0 │ 0 │

3 rows in set. Elapsed: 0.166 sec.

等三个节点都完事儿即可。

在Node02和Node03上查看表是否创建成功

show tables;

8)在 Node02 上创建 Distribute 分布式表

date1002 :) create table st_fz_order_mt_all2 on cluster gmall_cluster

(

id UInt32,

sku_id String,

total_amount Decimal(16,2),

create_time Datetime

)engine = Distributed(gmall_cluster,default, st_fz_order_mt_01,hiveHash(sku_id));

CREATE TABLE st_fz_order_mt_all2 ON CLUSTER gmall_cluster

(

`id` UInt32,

`sku_id` String,

`total_amount` Decimal(16, 2),

`create_time` Datetime

)

ENGINE = Distributed(gmall_cluster, default, st_fz_order_mt_01, hiveHash(sku_id))

Query id: e447cdff-133f-4159-99bd-038d573ce8c8

┌─host────────┬─port─┬─status─┬─error─┬─num_hosts_remaining─┬─num_hosts_active─┐

│ Node2 │ 9000 │ 0 │ │ 2 │ 0 │

│ Node1 │ 9000 │ 0 │ │ 1 │ 0 │

│ Node3 │ 9000 │ 0 │ │ 0 │ 0 │

3 rows in set. Elapsed: 0.131 sec.

参数含义：

Distributed(集群名称，库名，本地表名，分片键)

分片键必须是整型数字，所以用 hiveHash 函数转换，也可以 rand()

9)在 Node01 上插入测试数据

insert into st_order_mt_all2 values
(201,'sku_001',1000.00,'2020-06-01 12:00:00') ,
(202,'sku_002',2000.00,'2020-06-01 12:00:00'),
(203,'sku_004',2500.00,'2020-06-01 12:00:00'),
(204,'sku_002',2000.00,'2020-06-01 12:00:00'),
(205,'sku_003',600.00,'2020-06-02 12:00:00');

10)通过查询分布式表和本地表观察输出结果

(1)分布式表

superset-BI :) select * From st_fz_order_mt_all2;
SELECT *
FROM st_fz_order_mt_all2
Query id: d8b676e9-c119-4483-8ca2-f0b5cd150a61
┌──id─┬─sku_id──┬─total_amount─┬─────────create_time─┐
│ 202 │ sku_002 │         2000 │ 2020-06-01 12:00:00 │
│ 203 │ sku_004 │         2500 │ 2020-06-01 12:00:00 │
│ 204 │ sku_002 │         2000 │ 2020-06-01 12:00:00 │
└─────┴─────────┴──────────────┴─────────────────────┘
┌──id─┬─sku_id──┬─total_amount─┬─────────create_time─┐
│ 205 │ sku_003 │          600 │ 2020-06-02 12:00:00 │
└─────┴─────────┴──────────────┴─────────────────────┘
┌──id─┬─sku_id──┬─total_amount─┬─────────create_time─┐
│ 201 │ sku_001 │         1000 │ 2020-06-01 12:00:00 │
└─────┴─────────┴──────────────┴─────────────────────┘

(2)本地表

Node1:
superset-BI :) select * From st_fz_order_mt_01;
SELECT *
FROM st_fz_order_mt_01
Query id: ddcb5176-e443-4253-9877-57fec8f57311
┌──id─┬─sku_id──┬─total_amount─┬─────────create_time─┐
│ 202 │ sku_002 │         2000 │ 2020-06-01 12:00:00 │
│ 203 │ sku_004 │         2500 │ 2020-06-01 12:00:00 │
│ 204 │ sku_002 │         2000 │ 2020-06-01 12:00:00 │
└─────┴─────────┴──────────────┴─────────────────────┘
3 rows in set. Elapsed: 0.002 sec. 

Node2:

Node3:
date1001 :) select * From st_fz_order_mt_01;
SELECT *
FROM st_fz_order_mt_01
Query id: 7a336004-7040-4098-948e-1e7c5d983edb
┌──id─┬─sku_id──┬─total_amount─┬─────────create_time─┐
│ 205 │ sku_003 │          600 │ 2020-06-02 12:00:00 │
└─────┴─────────┴──────────────┴─────────────────────┘
┌──id─┬─sku_id──┬─total_amount─┬─────────create_time─┐
│ 201 │ sku_001 │         1000 │ 2020-06-01 12:00:00 │
└─────┴─────────┴──────────────┴─────────────────────┘
2 rows in set. Elapsed: 0.002 sec.

可以看到数据分布在Node1和Node3两个节点上。

锐单商城拥有海量元器件数据手册、IC替代型号，打造电子元器件IC百科大全！

ClickHouse-分片集群

1.集群写入过程(3) 分片 2 副本共 6 个节点)

2.集群读取过程(3) 分片 2 副本共 6 个节点)

3 分片 2 副本共 6 节点集群配置(供参考)

4.配置三节点版本集群和副本

4.1 集群及副本规划(2) 只有第一个分片有副本)

4.2 配置步骤

相关文章