Amoeba for MySQL---分布式数据库Proxy解决方案

2024-04-24 22:18

本文主要是介绍Amoeba for MySQL---分布式数据库Proxy解决方案,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Amoeba for MySQL 位于Client、Database Server(s)之间,具有负载均衡、高可用性、sql过滤、可承受高并发、读写分离、Query Route(解析sql query语句,并且根据条件与预先设定的规则,请求到指定的目标数据库。可并发请求多台数据库合并结果)、对客户端透明,能降低数据切分带来的复杂多数据库结构、数据切分规则给应用带来的影响。适用mysql 4.1或者以上版本(mysql 协议版本:10)暂时不支持事务、DDL语句目前只会分配给默认的数据库执行,运行环境至少需要运行 mysql 4.1以上服务, Java 1.5或以上版本。
Amoeba与mysql proxy存在一些区别。在mysql proxy上面如果想要读写分离并且读集群、写集群机器比较多情况下,用mysql proxy 需要自己写一个LUA脚本,目前mysql proxy没有现成的比较好的lua脚本。amoeba只需要进行相关的配置就可以满足需求。


一、Mysql Master/Slave 结构之下的读写分离:
Master: serverM (主库,接收写操作)
slaves:serverA、serverB、serverC(3个辅库,只读操作)

amoeba提供读写分离pool相关配置,可配置serverA、serverB、serverC形成一个虚拟的virtualSlave,该配置提供LB,failover/failbackup功能.
 
<dbServer name="virtualSlave" virtual="true"> 
    <poolConfig> 
        <className>com.meidusa.amoeba.server.MultipleServerPool</className> 
        <!-- 负载均衡参数 1=ROUNDROBIN , 2=WEIGHTBASED --> 
        <property name="loadbalance">1</property> 
                  
        <!-- 参与该pool负载均衡的poolName列表以逗号分割 --> 
        <property name="poolNames">serverA,serverB,serverC</property> 
    </poolConfig> 
</dbServer> 


<dbServer name="virtualSlave" virtual="true">
 <poolConfig>
  <className>com.meidusa.amoeba.server.MultipleServerPool</className>
  <!-- 负载均衡参数 1=ROUNDROBIN , 2=WEIGHTBASED -->
  <property name="loadbalance">1</property>
    
  <!-- 参与该pool负载均衡的poolName列表以逗号分割 -->
  <property name="poolNames">serverA,serverB,serverC</property>
 </poolConfig>
</dbServer>

 

如果不启用数据切分功能,那么只需要配置QueryRouter属性
wirtePool=serverM
readPool=virtualSlave

<queryRouter> 
    <className>com.meidusa.amoeba.mysql.parser.MysqlQueryRouter</className> 
    <property name="LRUMapSize">1500</property> 
    <property name="defaultPool">serverM</property> 
 
    <property name="writePool">serverM</property> 
    <property name="readPool">virtualSlave</property> 
 
    <property name="needParse">true</property> 
</queryRouter> 

 <queryRouter>
  <className>com.meidusa.amoeba.mysql.parser.MysqlQueryRouter</className>
  <property name="LRUMapSize">1500</property>
  <property name="defaultPool">serverM</property>

  <property name="writePool">serverM</property>
  <property name="readPool">virtualSlave</property>

  <property name="needParse">true</property>
 </queryRouter>


client发送过来的update/insert/delete语句被发送到wirtePool,将select语句发送到readPool机器执行。

 

二、数据切分方面:
这方面amoeba显然也很容易,举个数据切分例子:

select * from user_event where user_id='test' and  gmt_create between Sysdate() -1 and Sysdate()

如果根据gmt_create 时间进行数据切分,比如6个月进行切分一次,amoeba提供利用类似sql表达式进行数据切分:

规则1:GMT_CREATE > to_date('2008-01-01','yyyy-mm-dd') and GMT_CREATE < to_date('2008-05-31','yyyy-mm-dd')

规则1对应服务器1

规则2:GMT_CREATE > to_date('2008-06-01','yyyy-mm-dd') and GMT_CREATE < to_date('2008-12-31','yyyy-mm-dd')

规则2对应服务器2
上面的sql的条件 gmt_create 与规则里面的的gmt_create 进行交集判断,如果存在交集则表示符合规则,则会将sql转移到 规则1 的相应的服务器上面执行。

利用amoeba写出这种类似规则很容易,但是要想做到数据切分以后可线性扩容,那么这样的规则需要自己根据业务实际情况进行设置。amoeba可同时将sql并发分发到多台服务器、然后将结果合并再反馈给客户端,而且amoeba内部采用无阻塞模式,工作线程是不会等待的,并发请求多台 database server情况下,客户端等待的时间基本上面是性能最差的那台database server+amoeba内部解析协议时间。


中文文档地址: http://amoeba.sourceforge.net/amoeba.pdf

http://docs.hexnova.com/amoeba/
amoeba 未来发展方向: http://amoeba.sourceforge.net/amoeba-big-picture.pdf

文件下载: http://www.sourceforge.net/projects/amoeba
amoeba 开发者博客: http://amoeba.meidusa.com

这篇关于Amoeba for MySQL---分布式数据库Proxy解决方案的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/932988

相关文章

Spring Security基于数据库验证流程详解

Spring Security 校验流程图 相关解释说明(认真看哦) AbstractAuthenticationProcessingFilter 抽象类 /*** 调用 #requiresAuthentication(HttpServletRequest, HttpServletResponse) 决定是否需要进行验证操作。* 如果需要验证,则会调用 #attemptAuthentica

SQL中的外键约束

外键约束用于表示两张表中的指标连接关系。外键约束的作用主要有以下三点: 1.确保子表中的某个字段(外键)只能引用父表中的有效记录2.主表中的列被删除时,子表中的关联列也会被删除3.主表中的列更新时,子表中的关联元素也会被更新 子表中的元素指向主表 以下是一个外键约束的实例展示

基于MySQL Binlog的Elasticsearch数据同步实践

一、为什么要做 随着马蜂窝的逐渐发展,我们的业务数据越来越多,单纯使用 MySQL 已经不能满足我们的数据查询需求,例如对于商品、订单等数据的多维度检索。 使用 Elasticsearch 存储业务数据可以很好的解决我们业务中的搜索需求。而数据进行异构存储后,随之而来的就是数据同步的问题。 二、现有方法及问题 对于数据同步,我们目前的解决方案是建立数据中间表。把需要检索的业务数据,统一放到一张M

如何去写一手好SQL

MySQL性能 最大数据量 抛开数据量和并发数,谈性能都是耍流氓。MySQL没有限制单表最大记录数,它取决于操作系统对文件大小的限制。 《阿里巴巴Java开发手册》提出单表行数超过500万行或者单表容量超过2GB,才推荐分库分表。性能由综合因素决定,抛开业务复杂度,影响程度依次是硬件配置、MySQL配置、数据表设计、索引优化。500万这个值仅供参考,并非铁律。 博主曾经操作过超过4亿行数据

性能分析之MySQL索引实战案例

文章目录 一、前言二、准备三、MySQL索引优化四、MySQL 索引知识回顾五、总结 一、前言 在上一讲性能工具之 JProfiler 简单登录案例分析实战中已经发现SQL没有建立索引问题,本文将一起从代码层去分析为什么没有建立索引? 开源ERP项目地址:https://gitee.com/jishenghua/JSH_ERP 二、准备 打开IDEA找到登录请求资源路径位置

MySQL数据库宕机,启动不起来,教你一招搞定!

作者介绍:老苏,10余年DBA工作运维经验,擅长Oracle、MySQL、PG、Mongodb数据库运维(如安装迁移,性能优化、故障应急处理等)公众号:老苏畅谈运维欢迎关注本人公众号,更多精彩与您分享。 MySQL数据库宕机,数据页损坏问题,启动不起来,该如何排查和解决,本文将为你说明具体的排查过程。 查看MySQL error日志 查看 MySQL error日志,排查哪个表(表空间

MySQL高性能优化规范

前言:      笔者最近上班途中突然想丰富下自己的数据库优化技能。于是在查阅了多篇文章后,总结出了这篇! 数据库命令规范 所有数据库对象名称必须使用小写字母并用下划线分割 所有数据库对象名称禁止使用mysql保留关键字(如果表名中包含关键字查询时,需要将其用单引号括起来) 数据库对象的命名要能做到见名识意,并且最后不要超过32个字符 临时库表必须以tmp_为前缀并以日期为后缀,备份

[MySQL表的增删改查-进阶]

🌈个人主页:努力学编程’ ⛅个人推荐: c语言从初阶到进阶 JavaEE详解 数据结构 ⚡学好数据结构,刷题刻不容缓:点击一起刷题 🌙心灵鸡汤:总有人要赢,为什么不能是我呢 💻💻💻数据库约束 🔭🔭🔭约束类型 not null: 指示某列不能存储 NULL 值unique: 保证某列的每行必须有唯一的值default: 规定没有给列赋值时的默认值.primary key:

MySQL-CRUD入门1

文章目录 认识配置文件client节点mysql节点mysqld节点 数据的添加(Create)添加一行数据添加多行数据两种添加数据的效率对比 数据的查询(Retrieve)全列查询指定列查询查询中带有表达式关于字面量关于as重命名 临时表引入distinct去重order by 排序关于NULL 认识配置文件 在我们的MySQL服务安装好了之后, 会有一个配置文件, 也就

Java 连接Sql sever 2008

Java 连接Sql sever 2008 /Sql sever 2008 R2 import java.sql.Connection; import java.sql.DriverManager; import java.sql.ResultSet; import java.sql.Statement; public class TestJDBC