• http://www.boulai.com
  • |
    |
    |
    |
    移动端

    一篇掌握MySQL,Oracle和PostgreSQL数据库体系架构

    本文总结了MySQL,Oracle和PostgreSQL数据库体系架构,快来看看吧,一定有所收获!

    作者:佚名来源:架构之家|2018-07-18 16:57

    年前最后一场技术盛宴 | 1月27日与京东、日志易技术大咖畅聊智能化运维发展趋势!


    MySQL 体系架构 

    一.逻辑模块组成

    总的来说,MySQL 可以看成是二层架构,第一层我们通常叫做SQL Layer,在MySQL 数据库系统处理底层数据之前的所有工作都是在这一层完成的,包括权限判断,sql 解析,执行计划优化,querycache 的处理等等;    第二层就是存储引擎层,我们通常叫做Storage Engine Layer,也就是底层数据存取操作实现部分,由多种存储引擎共同组成。所以,可以用如下一张最简单的架构示意图来表示MySQL 的基本架构,如图2-1 所示:

    虽然从上图看起来MySQL 架构非常的简单,就是简单的两部分而已,但实际上每一层中都含有各自的很多小模块,尤其是第一层SQL Layer,结构相当复杂的。下面我们就分别针对SQL Layer 和Storage Engine Layer 做一个简单的分析。

    SQL Layer 中包含了多个子模块,下面我将逐个做一下简单的介绍:

    1、初始化模块

    顾名思议,初始化模块就是在MySQL Server 启动的时候,对整个系统做各种各样的初始化操作,比如各种buffer,cache 结构的初始化和内存空间的申请,各种系统变量的初始化设定,各种存储引擎的初始化设置,等等。

    2、核心API

    核心API 模块主要是为了提供一些需要非常高效的底层操作功能的优化实现,包括各种底层数据结构的实现,特殊算法的实现,字符串处理,数字处理等,小文件I/O,格式化输出,以及最重要的内存管理部分。核心API 模块的所有源代码都集中在mysys和strings文件夹下面,有兴趣的读者可以研究研究。

    3、网络交互模块

    底层网络交互模块抽象出底层网络交互所使用的接口api,实现底层网络数据的接收与发送,以方便其他各个模块调用,以及对这一部分的维护。所有源码都在vio 文件夹下面。

    4、Client& Server 交互协议模块

    任何C/S 结构的软件系统,都肯定会有自己独有的信息交互协议,MySQL 也不例外。MySQL的Client & Server 交互协议模块部分,实现了客户端与MySQL 交互过程中的所有协议。当然这些协议都是建立在现有的OS 和网络协议之上的,如TCP/IP 以及Unix Socket。

    5、用户模块

    用户模块所实现的功能,主要包括用户的登录连接权限控制和用户的授权管理。他就像MySQL 的大门守卫一样,决定是否给来访者“开门”。

    6、访问控制模块

    造访客人进门了就可以想干嘛就干嘛么?为了安全考虑,肯定不能如此随意。这时候就需要访问控制模块实时监控客人的每一个动作,给不同的客人以不同的权限。访问控制模块实现的功能就是根据用户模块中各用户的授权信息,以及数据库自身特有的各种约束,来控制用户对数据的访问。用户模块和访问控制模块两者结合起来,组成了MySQL 整个数据库系统的权限安全管理的功能。

    7、连接管理、连接线程和线程管理

    连接管理模块负责监听对MySQL Server 的各种请求,接收连接请求,转发所有连接请求到线程管理模块。每一个连接上MySQL Server 的客户端请求都会被分配(或创建)一个连接线程为其单独服务。而连接线程的主要工作就是负责MySQL Server 与客户端的通信,接受客户端的命令请求,传递Server 端的结果信息等。线程管理模块则负责管理维护这些连接线程。包括线程的创建,线程的cache 等。

    8、Query 解析和转发模块

    在MySQL 中我们习惯将所有Client端发送给Server 端的命令都称为query,在MySQL Server 里面,连接线程接收到客户端的一个Query 后,会直接将该query 传递给专门负责将各种Query 进行分类然后转发给各个对应的处理模块,这个模块就是query 解析和转发模块。其主要工作就是将query 语句进行语义和语法的分析,然后按照不同的操作类型进行分类,然后做出针对性的转发。

    9、QueryCache 模块

    Query Cache 模块在MySQL 中是一个非常重要的模块,他的主要功能是将客户端提交给MySQL 的Select 类query 请求的返回结果集cache 到内存中,与该query 的一个hash 值做一个对应。该Query 所取数据的基表发生任何数据的变化之后,MySQL 会自动使该query 的Cache 失效。在读写比例非常高的应用系统中,Query Cache 对性能的提高是非常显著的。当然它对内存的消耗也是非常大的。

    10、Query 优化器模块

    Query 优化器,顾名思义,就是优化客户端请求的query,根据客户端请求的query 语句,和数据库中的一些统计信息,在一系列算法的基础上进行分析,得出一个最优的策略,告诉后面的程序如何取得这个query 语句的结果。

    11、表变更管理模块

    表变更管理模块主要是负责完成一些DML 和DDL 的query,如:update,delte,insert,create table,alter table 等语句的处理。

    12、表维护模块

    表的状态检查,错误修复,以及优化和分析等工作都是表维护模块需要做的事情。

    13、系统状态管理模块

    系统状态管理模块负责在客户端请求系统状态的时候,将各种状态数据返回给用户,像DBA 常用的各种showstatus 命令,showvariables 命令等,所得到的结果都是由这个模块返回的。

    14、表管理器

    这个模块从名字上看来很容易和上面的表变更和表维护模块相混淆,但是其功能与变更及维护模块却完全不同。大家知道,每一个MySQL 的表都有一个表的定义文件,也就是*.frm文件。表管理器的工作主要就是维护这些文件,以及一个cache,该cache 中的主要内容是各个表的结构信息。此外它还维护table 级别的锁管理。

    15、日志记录模块

    日志记录模块主要负责整个系统级别的逻辑层的日志的记录,包括error log,binary log,slow query log 等。

    16、复制模块

    复制模块又可分为Master 模块和Slave 模块两部分, Master 模块主要负责在Replication 环境中读取Master 端的binary 日志,以及与Slave 端的I/O 线程交互等工作。

    Slave 模块比Master 模块所要做的事情稍多一些,在系统中主要体现在两个线程上面。一个是负责从Master请求和接受binary 日志,并写入本地relay log 中的I/O 线程。另外一个是负责从relay log 中读取相关日志事件,然后解析成可以在Slave 端正确执行并得到和Master端完全相同的结果的命令并再交给Slave 执行的SQL 线程。

    17、存储引擎接口模块

    存储引擎接口模块可以说是MySQL 数据库中最有特色的一点了。目前各种数据库产品中,基本上只有MySQL 可以实现其底层数据存储引擎的插件式管理。这个模块实际上只是一个抽象类,但正是因为它成功地将各种数据处理高度抽象化,才成就了今天MySQL 可插拔存储引擎的特色。 

    二.各模块工作配合

    在了解了MySQL 的各个模块之后,我们再看看MySQL各个模块间是如何相互协同工作的。

    接下来,我们通过启动MySQL,客户端连接,请求query,得到返回结果,最后退出,这样一整个过程来进行分析。

    当我们执行启动MySQL 命令之后,MySQL 的初始化模块就从系统配置文件中读取系统参数和命令行参数,并按照参数来初始化整个系统,如申请并分配buffer,初始化全局变量,以及各种结构等。同时各个存储引擎也被启动,并进行各自的初始化工作。当整个系统初始化结束后,由连接管理模块接手。连接管理模块会启动处理客户端连接请求的监听程序,包括tcp/ip 的网络监听,还有unix 的socket。这时候,MySQL Server 就基本启动完成,准备好接受客户端请求了。

    当连接管理模块监听到客户端的连接请求(借助网络交互模块的相关功能),双方通过Client & Server 交互协议模块所定义的协议“寒暄”几句之后,连接管理模块就会将连接请求转发给线程管理模块,去请求一个连接线程。

    线程管理模块马上又会将控制交给连接线程模块,告诉连接线程模块:现在我这边有连接请求过来了,需要建立连接,你赶快处理一下。连接线程模块在接到连接请求后,首先会检查当前连接线程池中是否有被cache 的空闲连接线程,如果有,就取出一个和客户端请求连接上,如果没有空闲的连接线程,则建立一个新的连接线程与客户端请求连接。当然,连接线程模块并不是在收到连接请求后马上就会取出一个连接线程连和客户端连接,而是首先通过调用用户模块进行授权检查,只有客户端请求通过了授权检查后,他才会将客户端请求和负责请求的连接线程连上。

    在MySQL 中,将客户端请求分为了两种类型:一种是query,需要调用Parser 也就是Query 解析和转发模块的解析才能够执行的请求;一种是command,不需要调用Parser 就可以直接执行的请求。如果我们的初始化配置中打开了Full QueryLogging 的功能,那么Query 解析与转发模块会调用日志记录模块将请求计入日志,不管是一个Query 类型的请求还是一个command 类型的请求,都会被记录进入日志,所以出于性能考虑,一般很少打开Full QueryLogging 的功能。

    当客户端请求和连接线程“互换暗号(互通协议)”接上头之后,连接线程就开始处理客户端请求发送过来的各种命令(或者query),接受相关请求。它将收到的query语句转给Query 解析和转发模块,Query 解析器先对Query 进行基本的语义和语法解析,然后根据命令类型的不同,有些会直接处理,有些会分发给其他模块来处理。

    如果是一个Query 类型的请求,会将控制权交给Query解析器。Query 解析器首先分析看是不是一个select 类型的query,如果是,则调用查询缓存模块,让它检查该query 在query cache 中是否已经存在。如果有,则直接将cache 中的数据返回给连接线程模块,然后通过与客户端的连接的线程将数据传输给客户端。如果不是一个可以被cache 的query类型,或者cache 中没有该query 的数据,那么query 将被继续传回query 解析器,让query解析器进行相应处理,再通过query 分发器分发给相关处理模块。

    如果解析器解析结果是一条未被cache 的select 语句,则将控制权交给Optimizer,也就是Query 优化器模块,如果是DML 或者是DDL 语句,则会交给表变更管理模块,如果是一些更新统计信息、检测、修复和整理类的query 则会交给表维护模块去处理,复制相关的query 则转交给复制模块去进行相应的处理,请求状态的query 则转交给了状态收集报告模块。实际上表变更管理模块根据所对应的处理请求的不同,是分别由insert 处理器、delete 处理器、update 处理器、create 处理器,以及alter 处理器这些小模块来负责不同的DML和DDL 的。

    在各个模块收到Query 解析与分发模块分发过来的请求后,首先会通过访问控制模块检查连接用户是否有访问目标表以及目标字段的权限,如果有,就会调用表管理模块请求相应的表,并获取对应的锁。表管理模块首先会查看该表是否已经存在于table cache 中,如果已经打开则直接进行锁相关的处理,如果没有在cache 中,则需要再打开表文件获取锁,然后将打开的表交给表变更管理模块。

    当表变更管理模块“获取”打开的表之后,就会根据该表的相关meta 信息,判断表的存储引擎类型和其他相关信息。根据表的存储引擎类型,提交请求给存储引擎接口模块,调用对应的存储引擎实现模块,进行相应处理。

    不过,对于表变更管理模块来说,可见的仅是存储引擎接口模块所提供的一系列“标准”接口,底层存储引擎实现模块的具体实现,对于表变更管理模块来说是透明的。他只需要调用对应的接口,并指明表类型,接口模块会根据表类型调用正确的存储引擎来进行相应的处理。

    当一条query 或者一个command 处理完成(成功或者失败)之后,控制权都会交还给连接线程模块。如果处理成功,则将处理结果(可能是一个Result set,也可能是成功或者失败的标识)通过连接线程反馈给客户端。如果处理过程中发生错误,也会将相应的错误信息发送给客户端,然后连接线程模块会进行相应的清理工作,并继续等待后面的请求,重复上面提到的过程,或者完成客户端断开连接的请求。

    如果在上面的过程中,相关模块使数据库中的数据发生了变化,而且MySQL 打开了binlog 功能,则对应的处理模块还会调用日志处理模块将相应的变更语句以更新事件的形式记录到相关参数指定的二进制日志文件中。

    在上面各个模块的处理过程中,各自的核心运算处理功能部分都会高度依赖整个MySQL的核心API 模块,比如内存管理,文件I/O,数字和字符串处理等等。

    了解到整个处理过程之后,我们可以将以上各个模块画成如图2-2 的关系图:

    下面这个是官方文档里的一个图:

    Oracle体系结构介绍   --基础篇

    在学习oracle中,体系结构是重中之重,掌握的越深入越好。在实际工作遇到疑难问题,其实都可以归结到体系结构中来解释,所以我们根据下面的示图了解一下oracle体系结构。

    1. Summarize

    根据示图,便于我们记忆,示图分三部分组成,左侧User Process、Server Process、PGA可以看做成Clinet端,上面的实例(Instance)和下面的数据库(Database)及参数文件(parameter file)、密码文件(password file)和归档日志文件(archived logfiles)组成Oracle Server,所以整个示图可以理解成一个C/S架构。

    Oracle Server 由两个实体组成:实例(instance)与数据库(database)。这两个实体是独立的,不过连接在一起。在数据库创建过程中,实例首先被创建,然后才创建数据库。在典型的单实例环境中,实例与数据库的关系是一对一的,一个实例连接一个数据库,实例与数据库也可以是多对一的关系,即不同计算机上的多个实例打开共享磁盘系统上的一个公用数据库。这种多对一关系被称为实际应用群集(Real Application Clusters,RAC)RAC极大提高了数据库的性能、容错与可伸缩性(可能耗费更多的存储空间)并且是oracle网格(grid)概念的必备部分。

    2. Client端

    在Client端的作用是如何从客户端创建服务器进程与数据库进行交互的过程。

    2.1 User process

    用户运行一个应用程序时与Oracle数据库进程交互(例如:sql/plus)时,oracle创建一个用户进程来运行用户的应用程序。

    2.2 Server process

    Server Process是用来处理连接到实例的用户进程(User Process)提交的请求。当应用程序与Oracle服务器运行在同一台机器上时,某些用户进程(User Process)可以与Server Process合并为同一个进程,即便减小系统开销。从逻辑层面来讲,用户进程必须要通过一个Server Process来同Oracle进行通信的.(只不过有些时候在同一台机器的时候,某些User Process和Server Process会合并罢了)

    2.3 PGA

    PGA(Program Global Area)程序全局区,是用户进程连接到数据库并创建一个会话时,由Oracle服务器进程分配的专门用于当前用户会话的内存区,该区域是私有的。

    为每个用户连接Oracle数据库保留的内存

    当进程创建时分配

    进程结束后被释放

    只能被一个进程使用

    参数:PGA_AGGREGATE_TARGET指定PGA的总共大小

    3. Database

    "3+3"结构,3个必要文件+3个可选文件。

    3.1 Data files

    内容:

    1)用户数据:用户表、DML语句可调整;

    2)数据字典数据:数据字典表记录DB结构、只读不可修改、DDL语句调整

    3)真实看到的文件

    作用:

    读取数据

    特点:

    1)至少包含一个SYSTEM表空间、DDL语言

    2)各种不同表空间 数据字典信息

    3)我的数据保存在表空间上,表空间是以多个数据文件的形式体现的。

    3.2 Control files

    内容:

    1)DB基本信息:DBID

    2)DB结构信息

    3)最后一次同步的SCN信息

    3.1)同步:内存区域database buffer cache的脏数据写出磁盘

    3.2)SCN:(system change number),时间轴、生命线

    4)当前日志序列号

    5)RMAN备份信息

    作用:

    1)记录数据库基本信息

    2)记录内存下一些信息

    特点:

    1)大小一般不变(固定部分、可变部分)

    2)个数,一个即可,分类存放

    3.3 Redo log files

    内容:

    按时间顺序记录着DB中的改变(redo entry条目),数据块改变就会生成redo

    作用:

    提供数据的可恢复性

    特点:

    1)大小不变

    2)顺序写

    3)容量有限,循环覆写

    4)至少两组日志,日志成员冗余

    5)提供恢复的手段

    3.4 Parameter file

    内容:

    1)记录那些定制的DB参数

    2)参数默认值

    3)pfile:需要重启实例和spfile

    作用:

    定义数据库实例的属性

    特点:

    两种类型参数的特点

    3.5 Password file

    内容:

    特权身份用户的口令

    作用:

    用于特权身份用户登录的验证

    特点:

    1)操作系统、密码认证方式登录数据库

    2)特高、特权身份登录到数据库实例启动数据库,跳过了数据字典的验证

    3)O7:Oracle 7版本,启用普通身份登录

    3.6 Archived logfiles

    内容:

    重做日志(redo log)历史

    作用:

    1)长期保存日志以便恢复

    2)保证redo log 不丢失

    特点:

    1)个数=当前日志数-1

    2)大小<=在线日志文件大小

    3)命名需要具有唯一性:序列号、RAC节点号

    4)离线文件可通过操作系统命令管理

    4. Instance

    实例由存储结构和进程组成,并且只短暂存在于RAM和CPU中。

    4.1 SGA

    内存结构包括两个部分

    1)系统全局(SGA):在实例启动时候分配,是Oracle实例的基础组件。

    2)程序全局(PGA):当服务器进程生成分配。

    4.1.1 Shared Pool

    用于存储:

    1)最近执行的SQL语句

    2)最近使用的数据定义

    由两个与性能相关的部分组成:

    1)库缓存

    2)数据字典缓存

    由参数SHARED_POOL_SIZE决定大小

    4.1.1.1 Library Cache

    1.1)存储最近使用的SQL和PL/SQL语句的信息(软解析,缓存一次多次使用)

    1.2)共享常用的语句

    1.3)管理上遵循LRU规则

    1.4)包括两个部分

    1.4.1)共享SQL区

    1.4.2)共享PL/SQL区

    1.5)大小由Shared Pool的大小决定

    4.1.1.2 Data Dictionary Cache

    2.1)存储在数据库中最近使用的定义

    2.2)包括数据文件、表、索引、列、用户、权限和其他的数据库对象

    2.3)在分析阶段,服务器进程查找数据字典去验证对象的名字以及是否是合法访问

    2.4)对于查询和DML语句,如果数据字典的信息在缓存中能够提高响应时间

    2.5)大小由Shared Pool 的大小决定

    4.1.2 Database Buffer Cache

    1)存储从数据文件中获得的数据块的镜像

    2)当获取和更新数据的时候能够大幅度的提高性能

    3)管理上遵循LRU规则

    4)参数DB_BLOCK_SIZE其块的大小

    5)包括以下独立的子缓存:

    DB_CACHE_SIZE

    DB_KEEP_CACHE_SIZE

    DB_RECYCLE_CACHE_SIZE

    6)能够动态的调整大小

    4.1.3 Redo Log Buffer

    1)记录所有数据库的块改变

    2)主要的目的是用于恢复

    3)大小由参数LOG_BUFFER(不可动态调整)决定

    4.1.4 Large Pool

    1)是系统全局区中可选的一个部分

    2)用于:

    2.1)RMAN备份恢复操作

    2.2)I/0并行进程

    2.3)共享服务器的会话内存(UGA),以减轻在共享池中的负担

    3)大小由参数LARGE_POOL_SIZE决定

    4)能够被动态的改变大小

    4.1.5 Java Pool

    1)Java命令的分析

    2)如果要安装和使用Java

    3)大小由参数JAVA_POOL_SIZE决定,如果granule是4M,默认是24M,granule是16M,默认大小是32M

    4.1.6 Streams Pool

    流相关的数据在流池中,提高缓存效果。目前oracle较为弱化,提高采用Oracle Golden Gate(OGG),高级复制功能。

    4.2 Process structure

    Oracle有以下几种进程:

    1)用户进程:在用户连接数据时产生

    2)服务器进程:当连接到Oracle实例并且用户建立会话的时候产生

    3)后台进程:Oracle实例启动的时候产生

    4)维持物理和内存之间的联系

    4.1)必须要有的后台进程:DBWn、PMON、CKPT、LGWR、SMON

    4.2)可选的后台进程:ARCn、CJQn、Jnnn、RECO、MMAN、MMON、Snnn、Dnnn、Pnnn

    4.2.1 PMON

    PMON(进程监测进程):

    1)清除失败的进程

    1.1)回滚事务

    1.2)释放锁

    1.3)释放其他资源

    1.4)重启死掉的dispatchers

    1.5)动态注册监听器

    4.2.2 SMON

    SMON(系统检测进程)作用:

    1)实例恢复:

    1.1)前滚所有重做日志中的改变

    1.2)打开数据库为了用户能访问

    1.3)回滚没有提交的事务

    2)释放临时表空间(deallocated)

    4.2.3 DBWR

    DBWn(数据库写进程)写的条件:

    1)发生检查点

    2)脏缓存到达限制(1/4满)

    3)没有自由的缓存

    4)超时发生

    5)RACping请求(8i)

    6)表空间离线

    7)表空间只读

    8)热备份表空间开始动作

    9)表被删除或者截断

    4.2.4 LGWR

    LGWR(日志写进程)的条件:

    1)commit的时候

    2)达到三分之一满

    3)日志的大小到1M

    4)每隔三秒

    5)在DBWn进程写之前

    4.2.5 CKPT

    CKPT(检查点进程)作用:

    1)给DBWn信号

    2)更新数据文件头

    3)更新控制文件

    4.2.6 ARCn

    ARCn(归档进程):

    1)可选的后台进程

    2)当启用归档方式后自动归档重做日志文件

    PostgreSQL 体系架构

    PostgreSQL是自由的对象-关系数据库服务器,在灵活的BSD-风格许可证下发行的。PostgreSQL数据库是一种几乎可以运行在各种平台上的免费的开放源码的对象关系数据库,它是一种以关系数据库和SQL为基础,扩展了抽象数据类型,从而具备面向对象特性的数据库。PostgreSQL数据库由连接管理系统(系统控制器)、编译执行系统、存储管理系统、事务系统、系统表五大部分组成,其组成结构和关系如图2-3所示。

    图  PostgreSQL体系结构

    连接管理系统接受外部操作对系统的请求,对操作请求进行预处理和分发,起系统逻辑控制作用;编译执行系统由查询编译器、查询执行器组成,完成操作请求在数据库中的分析处理和转化工作,最终实现物理存储介质中数据的操作;存储管理系统由索引管理器、内存管理器、外存管理器组成,负责存储和管理物理数据,提供对编译查询系统的支持;事务系统由事务管理器、日志管理器、并发控制、锁管理器组成,日志管理器和事务管理器完成对操作请求处理的事务一致性支持,锁管理器和并发控制提供对并发访问数据的一致性支持;系统表是PostgreSQL数据库的元信息管理中心,包括数据库对象信息和数据库管理控制信息。系统表管理元数据信息,将PostgreSQL数据库的各个模块有机地连接在一起,形成一个高效的数据管理系统[1]。

    【编辑推荐】

    1. 如何10分钟搭建MySQL Binlog分析+可视化方案
    2. DB-Engines 2017 年度数据库:PostgreSQL 实至名归
    3. 再见乱码:5分钟读懂MySQL字符集设置
    4. 避免MySQL替换逻辑SQL的坑爹操作
    5. 浅谈MySQL集群高可用架构
    【责任编辑:庞桂玉 TEL:(010)68476606】

    点赞 0
    分享:
    大家都在看
    猜你喜欢

    读 书 +更多

    Linux命令、编辑器与Shell编程

    本书是目前所能找到的最实用、最全面的Linux指南和参考手册,也是唯一一本提供以下全部内容的书籍: 更好更实用的示例覆盖了实际工作中需...

    订阅51CTO邮刊

    点击这里查看样刊

    订阅51CTO邮刊
    砚山县论坛 临高县论坛 荷塘区论坛 巴林右旗论坛 修水论坛
    宜良县论坛 东湖街道论坛 那曲县论坛 普济禅院论坛 黄竹湾论坛