Atlas介绍 :
Atlas 是由 Qihoo 360公司Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它在MySQL官方推出的MySQL-Proxy 0.8.2版本的基础上,修改了大量bug,添加了很多功能特性。目前该项目在360公司内部得到了广泛应用,很多MySQL业务已经接入了Atlas平台,每天承载的读写请求数达几十亿条。
源码Github:https://github.com/Qihoo360/Atlas
主要功能:
读写分离
从库负载均衡
自动分表
IP过滤
SQL语句黑白名单
DBA可平滑上下线DB
自动摘除宕机的DB
使用场景:
Atlas是一个位于前端应用与后端MySQL数据库之间的中间件,它使得应用程序员无需再关心读写分离、分表等与MySQL相关的细节,可以专注于编写业务逻辑,同时使得DBA的运维工作对前端应用透明,上下线DB前端应用无感知。
读写分离方案
安装Atlas之前注意的事项:
Atlas只能安装运行在64位的系统上
Centos 5.X安装 Atlas-XX.el5.x86_64.rpm,Centos 6.X安装Atlas-XX.el6.x86_64.rpm。
后端mysql版本应大于5.1,建议使用Mysql 5.6
实现Mysql读写分离
Atlas的安装:
下载地址:
https://github.com/Qihoo360/Atlas/releases/download/2.2.1/Atlas-2.2.1.el6.x86_64.rpm 或者
https://download.csdn.net/download/fd2025/10375544
rpm -i Atlas-2.2.1.el6.x86_64.rpm
默认安装目录为:/usr/local/mysql-proxy
编辑Atlas配置文件:
vim /usr/local/mysql-proxy/test.cnf
[mysql-proxy]
#带#号的为非必需的配置项目
#管理接口的用户名
admin-username = root
#管理接口的密码
admin-password = root
#设置主库和从库的地址,其中主库为写库,从库为读库
#主库地址:Atlas后端连接的MySQL主库的IP和端口,可设置多项,用逗号分隔
proxy-backend-addresses = 192.168.50.110:3306
#设置从库的地址和端口
proxy-read-only-backend-addresses= 192.168.50.111
#若配置为主库也分担读请求,并且设置权重为(主:从)=(1:3)
#proxy-read-only-backend-addresses = 192.168.50.110:[email protected],,[email protected]
#用户名与其对应的加密过的MySQL密码,密码使用PREFIX/bin目录下的加密程序encrypt加密,下行的user1和user2为示例,将其替换为你的MySQL的
#用户名和加密密码!
pwds = root:/iZxz+0GRoA=
#设置Atlas的运行方式,设为true时为守护进程方式,设为false时为前台方式,一般开发调试时设为false,线上运行时设为true,true后面不能有空格。
daemon = true
#设置Atlas的运行方式,设为true时Atlas会启动两个进程,一个为monitor,一个为worker,monitor在worker意外退出后会自动将其重启,
#设为false时只有worker,没有monitor,一般开发调试时设为false,线上运行时设为true,true后面不能有空格。
keepalive = true
#工作线程数,对Atlas的性能有很大影响,可根据情况适当设置
event-threads = 8
#日志级别,分为message、warning、critical、error、debug五个级别
log-level = message
#日志存放的路径
log-path = /usr/local/mysql-proxy/log
#SQL日志的开关,可设置为OFF、ON、REALTIME,OFF代表不记录SQL日志,ON代表记录SQL日志,REALTIME代表记录SQL日志且实时写入磁盘,默认为OFF
sql-log = ON
#慢日志输出设置。当设置了该参数时,则日志只输出执行时间超过sql-log-slow(单位:ms)的日志记录。不设置该参数则输出全部日志。
#sql-log-slow = 10
#实例名称,用于同一台机器上多个Atlas实例间的区分
#instance = test
#Atlas监听的工作接口IP和端口,应用程序将连接这个地址,把Atlasd当做mysql-server,此处携程3306端口
proxy-address = 192.168.50.113:1234
#Atlas监听的管理接口IP和端口
admin-address = 192.168.50.113:2345
#分表设置,此例中person为库名,mt为表名,id为分表字段,3为子表数量,可设置多项,以逗号分隔,若不分表则不需要设置该项
#tables = person.mt.id.3
#默认字符集,设置该项后客户端不再需要执行SET NAMES语句
#charset = utf8
#允许连接Atlas的客户端的IP,可以是精确IP,也可以是IP段,以逗号分隔,若不设置该项则允许所有IP连接,否则只允许列表中的IP连接
#client-ips = 127.0.0.1, 192.168.1
#Atlas前面挂接的LVS的物理网卡的IP(注意不是虚IP),若有LVS且设置了client-ips则此项必须设置,否则可以不设置
#lvs-ips = 192.168.1.1
~
安装Atlas
[[email protected] ~]# rpm -ivh Atlas-2.2.1.el6.x86_64.rpm
Preparing... ########################################### [100%]
1:Atlas ########################################### [100%]
会默认在”/usr/local/mysql-proxy”下给你生成4个文件夹
[[email protected] ~]# ls -l /usr/local/mysql-proxy/
总用量 0
drwxr-xr-x 2 root root 75 2月 14 16:07 bin
drwxr-xr-x 2 root root 22 2月 14 16:07 conf
drwxr-xr-x 3 root root 331 2月 14 16:07 lib
drwxr-xr-x 2 root root 6 12月 17 2014 log
bin目录下放的都是可执行文件
l encrypt是用来生成MySQL密码加密的,在配置的时候会用到
l mysql-proxy是MySQL自己的读写分离代理
l mysql-proxyd是360弄出来的,后面有个“d”,服务的启动、重启、停止。都是用他来执行的
conf目录下放的是配置文件
l test.cnf只有一个文件,用来配置代理的,可以使用vim来编辑
lib目录下放的是一些包,以及Atlas的依赖
log目录下放的是日志,如报错等错误信息的记录
进入bin目录,使用encrypt来对数据库的密码进行加密,我的MySQL数据的用户名是mysql,密码是123456,我需要对密码进行加密
[[email protected] ~]# cd /usr/local/mysql-proxy/bin/
[[email protected] bin]# ./encrypt 123456
/iZxz+0GRoA=
配置Atlas,使用vim进行编辑
[[email protected] bin]# cd ../conf/
[[email protected] conf]# vim test.cnf
#管理接口的用户名
admin-username = user
#管理接口的密码
admin-password = pwd
#Atlas后端连接的MySQL主库的IP和端口,可设置多项,用逗号分隔
proxy-backend-addresses = 192.168.200.111:3306
#Atlas后端连接的MySQL从库的IP和端口,@后面的数字代表权重,用来作负载均衡,若省略则默认为1,可设置多项,用逗号分隔
proxy-read-only-backend-addresses =192.168.200.112:[email protected],192.168.200.113:[email protected]
#用户名与其对应的加密过的MySQL密码,密码使用PREFIX/bin目录下的加密程序encrypt加密
pwds = myslave:/iZxz+0GRoA=
#Atlas监听的工作接口IP和端口
proxy-address = 0.0.0.0:1234
#Atlas监听的管理接口IP和端口
admin-address = 0.0.0.0:2345
启动Atlas
[[email protected] conf]# /usr/local/mysql-proxy/bin/mysql-proxyd test start
OK: MySQL-Proxy of test is started
测试一下Atlas服务器的MySQL状态,要确认它是关闭状态,并且使用mysql命令,进不去数据库
[[email protected] ~]# systemctl status mariadb
Unit mariadb.service could not be found.
[[email protected] ~]# mysql
bash: mysql: 未找到命令...
确认系统中自带的MySQL进不去了,使用如下命令,进入Atlas的管理模式“mysql -h192.168.200.114 -P2345 -uuser -ppwd ”,能进去说明Atlas正常运行着呢,因为它会把自己当成一个MySQL数据库,所以在不需要数据库环境的情况下,也可以进入到MySQL数据库模式。
[[email protected] ~]# yum -y install mariadb mariadb-devel
[[email protected] ~]# mysql -h192.168.200.114 -P2345 -uuser -ppwd
Welcome to the MariaDB monitor. Commands end with ; or \g.
Your MySQL connection id is 1
Server version: 5.0.99-agent-admin
Copyright (c) 2000, 2017, Oracle, MariaDB Corporation Ab and others.
Type ‘help;‘ or ‘\h‘ for help. Type ‘\c‘ to clear the current input sta
tement.
MySQL [(none)]>
可以访问“help”表,来看MySQL管理员模式都能做些什么。可以使用SQL语句来访问
MySQL [(none)]> select * FROM backends;
+-------------+----------------------+-------+------+
| backend_ndx | address | state | type |
+-------------+----------------------+-------+------+
| 1 | 192.168.200.111:3306 | up | rw |
| 2 | 192.168.200.112:3306 | up | ro |
| 3 | 192.168.200.113:3306 | up | ro |
+-------------+----------------------+-------+------+
3 rows in set (0.00 sec)
测试atlas读写功能
注意:如果atlas和mysql处于同一台机器,连接atlas时必须指定-h 127.0.0.1或者机器的IP 因为不指定-h的时候mysql连接走的unix socket连接,此时-P参数无效,-P后面指定任意端口都是连到的本机的mysql实例
准备测试环境
在Master上创建一个表,同步到slave1 slave2上
MariaDB [(none)]> create database cloud;
Query OK, 1 row affected (0.01 sec)
MariaDB [(none)]> use cloud;
Database changed
MariaDB [cloud]> create table data(id int(10),name varchar(10),address varchar(20));
Query OK, 0 rows affected (0.24 sec)
MariaDB [cloud]> show databases;
+--------------------+
| Database |
+--------------------+
| information_schema |
| cloud |
| mysql |
| performance_schema |
| test |
+--------------------+
5 rows in set (0.00 sec)
分别在从服务器上
MariaDB [(none)]> show databases;
+--------------------+
| Database |
+--------------------+
| information_schema |
| cloud |
| mysql |
| performance_schema |
| test |
+--------------------+
5 rows in set (0.00 sec)
MariaDB [(none)]> stop slave;
Query OK, 0 rows affected (0.01 sec)
然后在主服务器上:
mysql> insert into data values(‘1‘,‘crushlinx‘,‘this_is_master‘);
Query OK, 1 row affected (0.04 sec)
应为在服务器上同步了表,所以在从服务器上可以直接手动插入其他内容
在slave1上:
mysql> use cloud;
Database changed
mysql> show tables;
+-------------------+
| Tables_in_db_test |
+-------------------+
| data |
+-------------------+
1 row in set (0.00 sec)
mysql> insert into data values(‘2‘,‘crushlinux‘,‘this_is_slave1‘);
Query OK, 1 row affected (0.01 sec)
在slave2上:
mysql> use cloud;
Database changed
mysql> show tables;
+-------------------+
| Tables_in_db_test |
+-------------------+
| data |
+-------------------+
1 row in set (0.00 sec)
mysql> insert into data values(‘3‘,‘crushlinux‘,‘this_is_slave2‘);
Query OK, 1 row affected (0.01 sec)
在atlas上测试读操作:
mysql> use cloud;
Database changed
mysql> show tables;
+-------------------+
| Tables_in_db_test |
+-------------------+
| data |
+-------------------+
1 row in set (0.01 sec)
mysql> select * from data;
+------+-------+----------------+
| id | name | address |
+------+-------+----------------+
| 2 | zhang | this_is_slave1 |
+------+-------+----------------+
1 row in set (0.05 sec)
在atlas上测试写操作
mysql> insert into data values(‘4‘,‘zhang‘,‘write_test‘);
Query OK, 1 row affected (0.12 sec)
然后在atlas上进行查询,发现查询不到
mysql> select * from data;
+------+-------+----------------+
| id | name | address |
+------+-------+----------------+
| 2 | zhang | this_is_slave1 |
+------+-------+----------------+
1 row in set (0.05 sec)
然后在Master上发现可以查询到
mysql> select * from data;
+------+-------+----------------+
| id | name | address |
+------+-------+----------------+
| 1 | zhang | this_is_master |
| 4 | zhang | write_test |
+------+-------+----------------+
2 rows in set (0.00 sec)
若开启slave 数据将会同步到atlas 和从
由此可以验证,已经通过amoeba实现了MYSQL的读写分离,目前所有的写操作都全部在MASTER上,所有的读操作都分摊给了slave从服务器,