快乐学习
前程无忧、中华英才非你莫属!

MyCAT入门到精通-Day5

一、rule.xml
rule.xml 里面就定义了我们对表进行拆分所涉及到的规则定义。我们可以灵活的对表使用不同的分片算法, 或者对表使用相同的算法但具体的参数不同。这个文件里面主要有 tableRule 和 function 这两个标签。在具体使用过程中可以按照需求添加 tableRule 和 function。

1、 tableRule 标签
这个标签定义表规则。
定义的表规则:
<tableRule name=”rule1″>
<rule>
<columns>id</columns>
<algorithm>func1</algorithm>
</rule>
</tableRule>
name 属性指定唯一的名字,用于标识不同的表规则。
内嵌的 rule 标签则指定对物理表中的哪一列进行拆分和使用什么路由算法。
columns 内指定要拆分的列名字。algorithm 使用 function 标签中的 name 属性。连接表规则和具体路由算法。当然,多个表规则可以连接到
同一个路由算法上。table 标签内使用。让逻辑表使用这个规则进行分片。
在schema.xml中 rule=“auto-sharding-long” 这个选项与rule.xml中的<tableRule name=”rule1″> 一 一 对应。
<!– auto sharding by id (long) –>
<table name=”travelrecord” dataNode=”dn1,dn2,dn3″ rule=”auto-sharding-long” />


2 、function 标签
<function name=”hash-int”
class=”io.mycat.route.function.PartitionByFileMap”>
<property name=”mapFile”>partition-hash-int.txt</property>
</function>
name 指定算法的名字。
class 制定路由算法具体的类名字。
property 为具体算法需要用到的一些属性。 路由算法的配置可以查看算法章节。


 
二、Mycat 的分片 join
1、 join 概述
Join 绝对是关系型数据库中最常用一个特性,然而在分布式环境中,跨分片的 join 确是最复杂的,最难解决一 个问题。
Mycat 目前版本支持跨分片的 join,主要实现的方式有四种。
全局表,ER 分片,catletT(人工智能)和 ShareJoin,Sh areJoin 在开发版中支持,前面三种方式 1.3.0.1 支
持。
2、 全局表
一个真实的业务系统中,往往存在大量的类似字典表的表格,它们与业务表之间可能有关系,这种关系,可 以理解为“标签”,而不应理解为通常的“主从关系”,这些表基本上很少变动,可以根据主键 ID 进行缓存,下
面这张图说明了一个典型的“标签关系”图:
在分片的情况下,当业务表因为规模而进行分片以后,业务表与这些附属的字典表之间的关联,就成了比较 棘手的问题,考虑到字典表具有以下几个特性:
• 变动不频繁
• 数据量总体变化不大
• 数据规模不大,很少有超过数十万条记录。
鉴于此,MyCAT 定义了一种特殊的表,称之为“全局表”,全局表具有以下特性:
• 全局表的插入、更新操作会实时在所有节点上执行,保持各个分片的数据一致性
• 全局表的查询操作,只从一个节点获取
• 全局表可以跟任何一个表进行 JOIN 操作
将字典表或者符合字典表特性的一些表定义为全局表,则从另外一个方面,很好的解决了数据 JOIN 的难题。
通过全局表+基于 E-R 关系的分片策略,MyCAT 可以满足 80%以上的企业应用开发。
配置
全局表配置比较简单,不用写 Rule 规则,如下配置即可:
<table name=”company” primaryKey=”ID” type=”global” dataNode=”dn1,dn2,dn3″ />
需要注意的是,全局表每个分片节点上都要有运行创建表的 DDL 语句。


3、 ER Join
MyCAT 借鉴了 NewSQL 领域的新秀 Foundation DB 的设计思路,Foundation DB 创新性的提出了 Table Group 的概念,其将子表的存储位置依赖于主表,并且物理上紧邻存放,因此彻底解决了 JION 的效率和性能问 题,根据这一思路,提出了基于 E-R 关系的数据分片策略,子表的记录与所关联的父表记录存放在同一个数据分 片上。
customer 采用 sharding-by-intfile 这个分片策略,分片在 dn1,dn2 上,orders 依赖父表进行分片,两个表 的关联关系为 orders.customer_id=customer.id。于是数据分片和存储的示意图如下:
这样一来,分片 Dn1 上的的 customer 与 Dn1 上的 orders 就可以进行局部的 JOIN 联合,Dn2 上也如此,再合 并两个节点的数据即可完成整体的 JOIN,试想一下,每个分片上 orders 表有 100 万条,则 10 个分片就有 1 个亿,基
于 E-R 映射的数据分片模式,基本上解决了 80%以上的企业应用所面临的问题。
配置
以上述例子为例,schema.xml 中定义如下的分片配置:
<table name=”customer” dataNode=”dn1,dn2″ rule=”sharding-by-intfile”>
<childTable name=”orders” joinKey=”customer_id” parentKey=”id”/>
</table>


4、 Share join
ShareJoin 是一个简单的跨分片 Join,基于 HBT 的方式实现。
目前支持 2 个表的 join,原理就是解析 SQL 语句,拆分成单表的 SQL 语句执行,然后把各个节点的数据汇集。
配置
 
支持任意配置的 A,B 表如:
A,B 的 dataNode 相同
<table name=”A” dataNode=”dn1,dn2,dn3″ rule=”auto-sharding-long” />
<table name=”B” dataNode=”dn1,dn2,dn3″ rule=”auto-sharding-long” />
A,B 的 dataNode 不同
<table name=”A” dataNode=”dn1,dn2 ” rule=”auto-sharding-long” />
<table name=”B” dataNode=”dn1,dn2,dn3″ rule=”auto-sharding-long” />
<table name=”A” dataNode=”dn1 ” rule=”auto-sharding-long” />
<table name=”B” dataNode=” dn2,dn3″ rule=”auto-sharding-long” />
代码测试
先把表 company 从全局表修改下配置
<table name=”company” primaryKey=”ID” dataNode=”dn1,dn2,dn3″ rule=”mod-long” /> 重新插入数据
mysql> delete from company;
Query OK, 9 rows affected (0.19 sec)
mysql> insert company (id,name) values(1,’mycat’); Query OK, 1 row affected (0.08 sec)
mysql> insert company (id,name) values(2,’ibm’); Query OK, 1 row affected (0.03 sec
mysql> insert company (id,name) values(3,’hp’);
Query OK, 1 row affected (0.03 sec)
 
下面可以看下普通的 join 和 sharejoin 的区别
mysql> select a.*,b.id, b.name as tit from customer a,company b where a.company_id=b.id;
+—-+——+————+————-+—-+——+
| id | name | company_id | sharding_id | id | tit |
+—-+——+————+————-+—-+——+
| 3 | feng | 3 | 10000 | 3 | hp |
+—-+——+————+————-+—-+——+
1 row in set (0.03 sec)
mysql> /*!mycat:catlet=demo.catlets.ShareJoin */ select a.*,b.id, b.name as tit from customer a,company b on a.company_id=b.id;
+—-+——+————+————-+—-+——-+
| id | name | company_id | sharding_id | id | tit |
+—-+——+————+————-+—-+——-+
| 3 | feng | 3 | 10000 | 3 | hp |
| 1 | wang | 1 | 10000 | 1 | mycat |
| 2 | xue | 2 | 10010 | 2 | ibm |
+—-+——+————+————-+—-+——-+
3 rows in set (0.05 sec)
其他两种写法
/*!mycat:catlet=demo.catlets.ShareJoin */ select a.*,b.id, b.name as tit from customer a join company b on
+—-+——+————+————-+—-+——-+
| id | name | company_id | sharding_id | id | tit |
+—-+——+————+————-+—-+——-+
| 3 | feng | 3 | 10000 | 3 | hp |
| 1 | wang | 1 | 10000 | 1 | mycat |
| 2 | xue | 2 | 10010 | 2 | ibm |
+—-+——+————+————-+—-+——-+ 3 rows in set (0.01 sec)
/*!mycat:catlet=demo.catlets.ShareJoin */ select a.*,b.id, b.name as tit from customer a join company b where a.company_id=b.id;
+—-+——+————+————-+—-+——-+
| id | name | company_id | sharding_id | id | tit |
+—-+——+————+————-+—-+——-+
| 3 | feng | 3 | 10000 | 3 | hp |
| 1 | wang | 1 | 10000 | 1 | mycat |
| 2 | xue | 2 | 10010 | 2 | ibm |
+—-+——+————+————-+—-+——-+
3 rows in set (0.01 sec)
对*的支持,还可以这样写 SQL
mysql> /*!mycat:catlet=demo.catlets.ShareJoin */ select a.*,b.* from customer a join company b on
+—-+——+————+————-+——-+
| id | name | company_id | sharding_id | name |
+—-+——+————+————-+——-+
| 1 | wang | 1 | 10000 | mycat |
| 2 | xue | 2 | 10010 | ibm |
| 3 | feng | 3 | 10000 | hp |
+—-+——+————+————-+——-+
3 rows in set (0.02 sec)
mysql> /*!mycat:catlet=demo.catlets.ShareJoin */ select * from customer a join company b on a.company_id=b.id;
+—-+——+————+————-+——-+
| id | name | company_id | sharding_id | name | +—-+——+————+————-+——-+
| 1 | wang | 1 | 10000 | mycat |
| 2 | xue | 2 | 10010 | ibm |
| 3 | feng | 3 | 10000 | hp |
+—-+——+————+————-+——-+
3 rows in set (0.02 sec)
/*!mycat:catlet=demo.catlets.ShareJoin */ select a.id,a.user_id,a.traveldate,a.fee,a.days,b.id as nnid, b.title as tit from travelrecord a join hotnews b on b.id=a.days order by a.id ;

 
5、 catlet(人工智能)
 
解决跨分片的 SQL JOIN 的问题,远比想象的复杂,而且往往无法实现高效的处理,既然如此,就依靠人工 的智力,去编程解决业务系统中特定几个必须跨分片的 SQL 的 JOIN 逻辑,MyCAT 提供特定的 API 供程序员调 用,这就是 MyCAT 创新性的思路——人工智能。
以一个跨节点的 SQL 为例。
Select a.id,a.name,b.title from a,b where a.id=b.id
其中 a 在分片 1,2,3 上,b 在 4,5,6 上,需要把数据全部拉到本地(MyCAT 服务器),执行 JOIN 逻 辑,具体过程如下(只是一种可能的执行逻辑):
EngineCtx ctx=new EngineCtx();//包含 MyCat.SQLEngine
String sql=,“select a.id ,a.name from a ”;
//在 a 表所在的所有分片上顺序执行下面的本地 SQL
ctx.executeNativeSQLSequnceJob(allAnodes,new DirectDBJoinHandler());
DirectDBJoinHandler 类是一个回调类,负责处理 SQL 执行过程中返回的数据包,这里的这个类,主要目的
是用 a 表返回的 ID 信息,去 b 表上查询对于的记录,做实时的关联: DirectDBJoinHandler{
Private HashMap<byte[],byte[]> rows;//Key 为 id,value 为一行记录的 Column 原始 Byte 数组,这里是 a.id,a.name,b.title 这三个要输出的字段
Public Boolean onHeader(byte[] header){
//保存 Header 信息,用于从 Row 中获取 Field 字段值
Public Boolean onRowData(byte[] rowData){}
String id=getColumnAsString(“id”);
//放入结果集,b.title 字段未知,所以先空着 rows.put(getColumnRawBytes(“id”),rowData);
//满 1000 条,发送一个查询请求
String sql=”select b.id, b.name from b where id in (………….)”;
//此 SQL 在 B 的所有节点上并发执行,返回的结果直接输出到客户端 ctx.executeNativeSQLParallJob(allBNodes,sql ,new MyRowOutPutDataHandler(rows));
}
Public Boolean onRowFinished(){}
Public Boolean onRowFinished(){}
Public void onJobFinished(){
If(ctx.allJobFinished())
{///used total time ….
}
最后,增加一个 Job 事件监听器,这里是所有 Job 完成后,往客户端发送 RowEnd 包,结束整个流程。
ctx.setJobEventListener(new JobEventHandler(){public void onJobFinished(){ client.writeRowEndPackage()}});
以上提供一个 SQL 执行框架,完全是异步的模式执行,并且以后会提供更多高质量的 API,简化分布式数据
处理,比如内存结合文件的数据 JOIN 算法,分组算法,排序算法等等,期待更多的牛人一起来完善。

6 、Spark/Storm 对 join 扩展
看到这个标题,可能会感到很奇怪,Spark 和 Storm 和 Join 有关系吗? 有必要用 Spark,storm 吗? mycat 后续的功能会引入 spark 和 storm 来做跨分片的 join,大致流程是这样的在 mycat 调用 spark,storm的 api,把数据传送到 spark,storm,在 spark,storm 进行 join,在把数据传回 mycat,mycat 在返回给客户端。

7、 两个表标准 Join 的支持
两个表标准 Join主要包括八方面内容:
 两个分片规则,分片都相同的表之间 JOIN
 一个分片表和一个全局表之间 JOIN
 两表 JOIN 作为子表
待完善
 两个分片规则相同,分片不同的表之间 JOIN
 两个分片规则不同的表之间 JOIN
 一个分片表和一个本地表之间 JOIN
 一个本地表和一个全局表之间 JOIN
 分布式 JOIN算法的设计开发

 
1. 测试计划
1) 在 DB 服务器上新建四个库,库名为 htdb,htdb1,htdb2,htdb3。
2) Htdb中存放非分片表数据。
3) Htdb1,htdb2,htdb3三个库用于存放分片表数据。
2. 测试实施
两个分片规则,分片都相同的表之间 JOIN
配置分片规则
<table name=”company” primaryKey=”ID” dataNode=”htdb1,htdb2,htdb3″ rule=”rang-long” />
<table name=”address” primaryKey=”ID” dataNode=”htdb1,htdb2,htdb3″ rule=”rang-long” />
 
准备测试数据
create table company(id int primary key, companyname varchar(20), addressid int);
create table address(id int primary key, addressname varchar(20));
insert into company(id,companyname,addressid) values(1, ‘Intel’, 1),(2, ‘IBM’, 2),(3, ‘Dell’, 3),(5000001, ‘Sony’, 5000001),(5000002, ‘Apple’, 5000002),(10000001, ‘Microsoft’,
10000001),(10000002, ‘Oracle’, 10000002);
insert into address(id,addressname) values(1, ‘USA_1’),(2, ‘USA_2’),(3, ‘USA_3’),(5000001, ‘USA_4’),(5000002, ‘USA_5’),(10000001, ‘USA_6’),(10000002, ‘USA_7’);
测试结果
 
 
一个分片表和一个全局表之间 JOIN
 配置分片规则
<table name=”company” primaryKey=”ID” dataNode=”htdb1,htdb2,htdb3″ rule=”auto-sharding-long” /> <table name=”address” primaryKey=”ID” dataNode=”htdb1,htdb2,htdb3″ type=”global” />

 

 准备测试数据
create table company(id int primary key, companyname varchar(20), addressid int);
create table address(id int primary key, addressname varchar(20));
insert into company(id,companyname,addressid) values(1, ‘Intel’, 1),(2, ‘IBM’, 2),(3, ‘Dell’, 3),(5000001, ‘Sony’, 5000001),(5000002, ‘Apple’, 5000002),(10000001, ‘Microsoft’, 10000001),(10000002, ‘Oracle’,
10000002);
insert into address(id,addressname) values(1, ‘USA_1’),(2, ‘USA_2’),(3, ‘USA_3’),(5000001, ‘USA_4’),(5000002, ‘USA_5’),(10000001, ‘USA_6’),(10000002, ‘USA_7’),(15000001, ‘USA_8’),(15000002, ‘USA_9’);
 
 测试结果
 
两表 JOIN 作为子表
 
 配置分片规则
<table name=”company” primaryKey=”ID” dataNode=”htdb1,htdb2,htdb3″ rule=”auto-sharding-long” /> <table name=”address” primaryKey=”ID” dataNode=”htdb1,htdb2,htdb3″ rule=”auto-sharding-long” />

 

 准备测试数据
create table company(id int primary key, companyname varchar(20), addressid int);
create table address(id int primary key, addressname varchar(20));
insert into company(id,companyname,addressid) values(1, ‘Intel’, 1),(2, ‘IBM’, 2),(3, ‘Dell’, 3),(5000001, ‘Sony’, 5000001),(5000002, ‘Apple’, 5000002),(10000001, ‘Microsoft’, 10000001),(10000002, ‘Oracle’,
10000002);
insert into address(id,addressname) values(1, ‘USA_1’),(2, ‘USA_2’),(3, ‘USA_3’),(5000001, ‘USA_4’),(5000002, ‘USA_5’),(10000001, ‘USA_6’),(10000002, ‘USA_7’);
测试结果
 
参考:Mycat权威指南
打赏

未经允许不得转载:同乐学堂 » MyCAT入门到精通-Day5

分享到:更多 ()

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址

特别的技术,给特别的你!

联系QQ:1071235258QQ群:226134712
error: Sorry,暂时内容不可复制!