Quick BI 的模型设计与生成SQL原理剖析

59次阅读
没有评论

共计 2506 个字符,预计需要花费 7 分钟才能阅读完成。

自动写代码机器人,免费开通

Quick BI 的模型设计与生成 SQL 原理剖析

一、  摘要

随着互联网的高速发展,数据量呈现井喷式的增长,如何来分析和使用这些数据,使数据产生商业价值,已经变得越来越重要。值得高兴的是,当前越来越多的人已经意识到了用数据分析决定商业策略的重要性,也都在进行着各行各业的数据分析。众所周知数据分析的核心是数据,为了更容易的分析数据,数据模型的设计需要遵循一定的规范。当前最流行的联机分析处理 (OLAP) 的规范为维度建模规范。本文介绍 Quick BI 如何进行维度建模,基于维度模型如何来自动化的生成分析查询的 SQL 语句,从而使数据分析变得更容易。

 

关键字:Quick BI、OLAP、维度建模、SQL

 

二、  维度模型的分类

OLAP(On-line Analytical Processing,联机分析处理)根据存储数据的方式不同可以分为 ROLAP、MOLAP、HOLAP。ROLAP 表示基于关系数据库存储的 OLAP 实现(Relational OLAP),以关系数据库为核心, 以关系型结构进行多维数据的表示和存储;MOLAP 表示基于多维数据存储的 OLAP 实现(Multidimensional OLAP);HOLAP 表示基于混合数据存储的 OLAP 实现(Hybrid OLAP),如低层用关系型数据库存储,高层是多维数组存储。接下来主要介绍基于关系型数据库的 ROLAP 的建模原理。

ROLAP 将多维数据库中的表分为两类:事实表和维度表。事实表用于存储维度关键字和数值类型的事实数据,一般是围绕业务过程进行设计,例如:销售事实表,一般来存储用户在什么时间、地点购买了产品,销量和销售额等信息。维度表用于存储维度的详细数据,例如销售事实表中存储了产品维度的 ID,产品维度表中存储产品的名称、品牌信息,两者通过产品 ID 进行关联。

ROLAP 根据事实表、维度表间的关系,又可分为星型模型(Star Schema)、雪花模型(Snowflake Schema)。

1.  星型模型

星型模型它由事实表(FactTable)和维表(DimensionTable)组成。事实表中的维度外键分别与相对应的维表中的主键相关联,关联之后由于形状看起来像是一个星星,所以形象的称为星型模型。以下示例为星型模型:其中 sales_fact_1997 为事实表,存储客户在某个时间、某个商店、购买了某个产品,购买量和销售额的信息,记录的是一个下单过程。事实表 sales_fact_1997 通过外键 product_id、customer_id、time_id、store_id 分别与维度表 product(产品维表)、customer(客户维表)、time_by_day(时间维表)、store(商店维表)相关联,关联关系为多对一关联。

 

Quick BI 的模型设计与生成 SQL 原理剖析

2.  雪花模型

雪花模型是当有一个或多个维表没有直接连接到事实表上,而是通过其他维表连接到事实表上时,其图解就像一个雪花,故称雪花模型。下面示例 product(产品)维度表与 product_class(产品类别)维度表通过 product_class_id 相关联,关联关系为多对一。product_class 没有与 sales_fact_1997 事实表直接关联。

 

Quick BI 的模型设计与生成 SQL 原理剖析

三、  基于 ROLAP 模型的 SQL 生成原理

模型构建好了后,接下来的重点就是针对分析需求来生成满足分析需要的 SQL 语句,然后将 SQL 语句下发到 DB 中来查询数据,返回分析结果。下面通过具体的需求场景来介绍如何生成 SQL 语句。

1.  基于星型模型 (或雪花模型) 生成 SQL

需求场景:

按日期、产品查看总的销售额、销售量,日期限定在 1997 年,总销售额限定在 1000 元以上,结果按照总的销售额倒序排列,看前 5 个。

Quick BI 的模型设计与生成 SQL 原理剖析

生成 SQL 思路

1.  分析需要用到的字段和表,目标是明确查询需要用到哪些表、表间关系、表上分组字段、聚合字段,确定 SQL 中 select 和 from 信息。

2.  分析筛选条件,目标是明确 SQL 中 where 中需过滤的值。

3.  分析分组维度,目标是明确 SQL 中 group by 的字段。

4.  分析聚合后的筛选条件,目标是明确 having 中需要过滤的值。

5.  分析需要排序的列和排序类型(升序还是降序)。

6.  生成结果个数限制条件

7.  根据以上信息生成查询 SQL:

select 分组字段、聚合字段 from 表(含表关联) where 筛选条件 group by 分组维度 having 聚合后的筛选条件 order by 排序信息 结果条数限制。

生成 SQL

按照上面的步骤,和本例子中的需求,分析查询中的关键信息(以下步骤与生成 SQL 思路中的步骤一一对应)

1.  用到的分组字段:the_date、product_name, 其中分组字段 the_date 为日粒度,需处理为年粒度:DATE_FORMAT(`the_date` , %Y)

聚合字段:store_sales、unit_sales,聚合方式都为 sum;

用到的表:sales_fact_1997、product、time_by_day;

表间关系:sales_fact_1997. product_id= product. product_id

  sales_fact_1997. time_id= time_by_day .time_id

2.  筛选条件:

the_date`= STR_TO_DATE(1997-01-01 00:00:00 , %Y-%m-%d %H:%i:%s)

3.  分组维度:DATE_FORMAT(`the_date` , %Y)、product_name

4.  聚合后的筛选条件:SUM(`store_sales`) 1000

5.  排序:order by 聚合后的别名 desc

6.  限制结果个数:limit 0,5

7.  生成的 SQL 如下

Quick BI 的模型设计与生成 SQL 原理剖析

 

四、  附录 - 用到的表

下面罗列出以上示例中用到的表的建表语句,需要在 MySQL 数据库下执行,其他类型数据库需要做一些调整。

1.  sales_fact_1997 表

Quick BI 的模型设计与生成 SQL 原理剖析

2.  product 表

Quick BI 的模型设计与生成 SQL 原理剖析

 

3.  product_class 表

Quick BI 的模型设计与生成 SQL 原理剖析

 

4.  time_by_day 表

Quick BI 的模型设计与生成 SQL 原理剖析

5.  customer 表

Quick BI 的模型设计与生成 SQL 原理剖析

6.  store 表

 Quick BI 的模型设计与生成 SQL 原理剖析

向 AI 问一下细节

丸趣 TV 网 – 提供最优质的资源集合!

正文完
 
丸趣
版权声明:本站原创文章,由 丸趣 2023-12-18发表,共计2506字。
转载说明:除特殊说明外本站除技术相关以外文章皆由网络搜集发布,转载请注明出处。
评论(没有评论)