数据仓库的未来 MariaDB ColumnStore

MariaDB ColumnStore 简介

Part1: 写在最前

MariaDB ColumnStore is the future of data warehousing. ColumnStore allows us to store more data and analyze it faster. Everyday, Pinger’s mobile applications process millions of text messages and phone calls. We also process more than 1.5 billion rows of logs per day. Analytic scalability and performance is critical to our business. MariaDB’s ColumnStore manages massive amounts of data and will scale with Pinger as we grow.

----from mariadb.com

Part2: 大牛如何说

MariaDB ColumnStore是在MariaDB 10.1基础上移植了InfiniDB4.6.2构建的大规模并行，高性能，压缩，分布式开源列式存储引擎，类似收费产品Infobright。它设计用于大数据离线分析，用来抗衡Hadoop。你可以使用标准SQL语句进行查询，支持目前流行的sqlyog/navicat客户端工具连接，对业务方使用没有任何的不便，并且你不需要创建任何索引，不需要修改业务方的复杂SQL（自身就支持复杂的关联查询、聚合、存储过程和用户定义的函数），你唯一要做的就是把数据导入到ColumnStore里，就没你事了。这对一家没有Hadoop工程师的公司来说，MariaDB ColumnStore会是一个更好的替代产品。

-----from 贺春D

Part3: 环境简介

192.168.1.248 HE1 um1

192.168.1.249 HE2 um2

192.168.1.250 HE3 pm1

192.168.1.251 HE4 pm2

Column Store架构概述

Part1: 写在最前

MariaDB ColumnStore是一种专为分布式大规模并行处理（MPP）设计的列式存储引擎。它由三个组件组成，协同工作。

在官方给出的架构图中，我们可以看到分为三个组件构成：UM、PM、数据存储层。

用户模块（UM）：

用户模块管理和控制终端用户查询的操作，它维护每个查询的状态，向一个或多个性能模块发出请求以代为执行SQL查询工作，最后，用户模块汇集来自各个参与的性能模块的所有查询结果，以形成返回给用户的完整的查询结果集。

性能模块（PM）：

性能模块负责存储，检索和管理数据，处理对查询操作的块请求，并将其传递回用户模块以完成查询请求。性能模块将获取的数据缓存在其内存中计算。MPP是通过允许用户配置尽可能多的性能模块，以实现更高的处理能力。

存储：

MariaDB ColumnStore对于存储系统极为灵活。当在内部运行时，它可以使用本地存储或共享存储（例如SAN）来存储数据。在Amazon EC2环境中，它可以使用临时或弹性块存储（EBS）卷。当无共享部署需要数据冗余时，它被构建为与GlusterFS和Apache Hadoop分布式文件系统（HDFS）集成。

一句话总结： 用户模块（UM）将客户端发出的SQL请求进行分配，分配到后端性能模块（PM），PM进行数据查询分析，将处理的结果返回给UM，UM再把PM分析的结果进行聚合，最后返回给客户端最终的查询结果。

Column Store性能对比

Percona 专业mysql服务提供商性能测试InfiniDB比其他OLAP优势明显。

Column Store安装

Part1: 打通互信

[root@HE1 ~]# ssh-keygen [root@HE1 ~]# ssh-copy-id '-p 22 root@192.168.1.248' [root@HE1 ~]# ssh-copy-id '-p 22 root@192.168.1.249' [root@HE1 ~]# ssh-copy-id '-p 22 root@192.168.1.250' [root@HE1 ~]# ssh-copy-id '-p 22 root@192.168.1.251' [root@HE1 ~]# ssh HE1 [root@HE1 ~]# ssh HE2 [root@HE1 ~]# ssh HE3 [root@HE1 ~]# ssh HE4 [root@HE1 ~]# cat /etc/hosts 192.168.1.248 HE1 192.168.1.249 HE2 192.168.1.250 HE3 192.168.1.251 HE4

在HE1,HE2,HE3,HE4每台机器上执行上述命令，打通ssh互信。

Part2: 关闭防火墙

[root@HE1 ~]# /etc/init.d/iptables status

iptables: Firewall is not running.

[root@HE1 ~]# chkconfig iptables off [root@HE1 ~]# chkconfig --list | grep iptables

iptables0:off1:off2:off3:off4:off5:off6:off

Part3: 关闭文件系统访问时间和修改磁 盘调度策略

[root@HE1 ~]# cat /etc/fstab # # /etc/fstab # Created by anaconda on Sat Mar 5 09:35:40 2016 # # Accessible filesystems, by reference, are maintained under '/dev/disk' # See man pages fstab(5), findfs(8), mount(8) and/or blkid(8) for more info # UUID=397d50ba-22b0-4d50-9e29-89e3b92d2d07 / ext4 defaults,noatime,barrier=0 1 1 [root@HE1 ~]# echo "deadline" > /sys/block/sda/queue/scheduler

Part4: 关闭numa

[root@HE1 ~]# cat /etc/grub.conf # grub.conf generated by anaconda # # Note that you do not have to rerun grub after making changes to this file # NOTICE: You have a /boot partition. This means that # all kernel and initrd paths are relative to /boot/, eg. # root (hd0,0) # kernel /vmlinuz-version ro root=/dev/sda2 # initrd /initrd-[generic-]version.img #boot=/dev/sda default=1 timeout=5 splashimage=(hd0,0)/grub/splash.xpm.gz hiddenmenu title CentOS (2.6.32-573.18.1.el6.x86_64.debug) root (hd0,0) kernel /vmlinuz-2.6.32-573.18.1.el6.x86_64.debug ro root=UUID=397d50ba-22b0-4d50-9e29-89e3b92d2d07 rd_NO_LUKS rd_NO_LVM LANG=en_US.UTF-8 rd_NO_MD SYSFONT=latarcyrheb-sun16 crashkernel=auto KEYBOARDTYPE=pc KEYTABLE=us rd_NO_DM rhgb quiet numa=off initrd /initramfs-2.6.32-573.18.1.el6.x86_64.debug.img title CentOS (2.6.32-431.el6.x86_64) root (hd0,0) kernel /vmlinuz-2.6.32-431.el6.x86_64 ro root=UUID=397d50ba-22b0-4d50-9e29-89e3b92d2d07 rd_NO_LUKS rd_NO_LVM LANG=en_US.UTF-8 rd_NO_MD SYSFONT=latarcyrheb-sun16 crashkernel=auto KEYBOARDTYPE=pc KEYTABLE=us rd_NO_DM rhgb quiet numa=off initrd /initramfs-2.6.32-431.el6.x86_64.img

Part5: 安装jemalloc内存管理

[root@HE1 ~]# yum install jemalloc-* [root@HE1 ~]# reboot

在HE1,HE2,HE3,HE4每台机器上执行上述命令

Part6: 安装boost软件包

[root@HE1 ~]# yum -y install boost* [root@HE1 ~]# yum -y groupinstall "Development Tools" [root@HE1 ~]# yum -y install cmake [root@HE1 ~]# tar xvf boost_1_55_0.tar.gz [root@HE1 ~]# cd boost_1_55_0 [root@HE1 boost_1_55_0]# ./bootstrap.sh --with-libraries=atomic,date_time,exception,filesystem,iostreams,locale,program_options,regex,signals,system,test,thread,timer,log --prefix=/usr [root@HE1 boost_1_55_0]# ./b2 install

Part6: 安装perl依赖包

[root@HE1 ~]# yum -y install expect perl perl-DBI openssl zlib perl-DBD-MySQL

Part7: 安装Mariadb ColumStore

[root@HE1 ~]# tar xvf mariadb-columnstore-1.0.6-1-centos6.x86_64.bin.tar.gz -C /usr/local

Part8: 配置M ariadb ColumStore

[root@HE1 ~]# /usr/local/mariadb/columnstore/bin/postConfigure

至此，MariaDB ColumnStore安装并配置完成

Column Store单点故障测试

Part1: 关闭HE2

当前HE2为primary um

mcsadmin> getSystemStatus getsystemstatus Mon Dec 26 15:56:47 2016 System columnstore-1 System and Module statuses Component Status Last Status Change ------------ -------------------------- ------------------------ System B