热门搜索:  

PowerBI开发 第七篇:数据集和数据刷新

PowerBI报表是基于数据分析的引擎,数据真正的来源(Data Source)是数据库,文件等数据存储媒介,PowerBI支持的数据源类型多种多样。PowerBI Service(云端)有时不直接访问Data Source,而是直接从PowerBI Service创建的数据集(Dataset)中获取数据,数据集中存储的内容主要分为三部分:Data Source的数据(Data)、连接数据源的凭证(Credentials)、以及数据源的架构(Table Schema)等元数据(metadata)。PowerBI Service分析数据时,直接访问Dataset获取数据,执行聚合计算,以响应用户的查询请求。使用Dataset的好处是:PowerBI只需要维护统一的Data Store,不需要从众多不同的DataSource中读取数据,所需要的数据都能从单一的数据结构(Dataset)中读取。

PowerBI Service为每个发布的Report自动创建一个Dataset,每一个Dataset的大小的上限是1GB。在导入(Import)连接模式下,PowerBI把多个Data Source的数据导入到Dataset中,也就是说,Dataset存储的是多个数据源(Data Source)的快照。是否把数据源导入到Dataset,是由数据连接(Data Connection Model)决定的。

一,数据连接模式

当使用“Get Data”连接到Data Source时,PowerBI 自动创建Dataset,把数据从多个Data Source加载到一个Dataset中,Dataset还包含连接Data Source的凭证(Credentials),以及数据的架构等元数据。PowerBI Service直接从Dataset中引用数据,而不是直接从Data Source中。PowerBI支持的连接模式有两种,分别是:Import,Live/DirectQuery。导入(Import)模式把Data Source的数据导入到PowerBI Service的Dataset中,而直接查询(DirectQuery)模式建立Data Source 和Dataset之间的直接连接。

1,导入(Import)模式

对于导入(Import)模式,云端的Dataset中存储的数据来源于内网(On-Premises)数据的副本,一旦加载数据源,查询定义的所有数据都会被加载到Dataset中。PowerBI从高度优化的Dataset中查询数据,查询性能高,能够快速响应用户的交互式查询。由于导入模式是把数据源快照复制到Dataset中,因此,底层数据源的改动不会实时更新到Dataset,这使得Dataset存储的数据是过时的,用户需要手动刷新或设置调度刷新,否则,Dataset的数据不会更新。数据的刷新是全量更新,而非增量。

导入模式的限制是:Dataset的最大Size是1GB。

2,直接查询(DirectQuery)模式

对于DirectQuery模式,PowerBI直接访问底层的数据源,因此数据始终是最新的。一旦加载数据,PowerBI Service不会向Dataset中加载任何数据(Data),这意味着,Dataset不存储任何数据(Data),但是,Dataset仍然会存储连接Data Source的凭证,以及数据源的元数据,用于访问底层数据源。在执行查询请求时,PowerBI Service直接把查询请求发送到原始的Data Source中去获取所需的数据。直接查询采用主动获取数据的方式,这意味着,底层数据的任何更新,不会立即反应到现有的报表展示中,用户需要刷新(Refresh)数据,但是,新的查询请求,都会使用最新的数据。

直接查询模式需要使用本地数据网管(On-Premises Data Gateway),PowerBI Service能够从云端向本地数据源(on-premises data sources)发送查询请求。当产生数据交互行为时,查询直接发送到数据库,Excel,Azure SQL DB/DW等,由于PowerBI和Data Source之间是直接连接,因此,不需要调度数据PowerBI Service的数据集(Dataset)。

Live/DirectQuery – This means there is a live connection between Power BI and the data source.

DirectQuery连接模式的好处是:

  • 能够访问更大Size的Dataset:由于不需要把数据加载到Dataset中,DirectQuery模式能够从海量的数据源中加载数据;
  • 直接访问数据源:在DirectQuery模式下,PowerBI使用的是最新的数据。

二,数据刷新(Data Refresh)

PowerBI Service从Dataset中获取数据,用于数据分析和展示,用户可以通过"SCHEDULE REFRESH"和"REFRESH NOW"刷新Dataset的数据,把Dataset的数据更新到最新。用户刷新Dataset之前,必须配置内网数据网关(On-Premises Data Gateway),详细信息,请参考我的博文《PowerBI开发 第六章:数据网管》。PowerBI Service对数据Dataset的刷新是完整数据刷新,而不是增量数据刷新。

When you refresh data, you are updating the data in the dataset that is stored in Power BI from your data source. This refresh is a full refresh and not incremental.

当使用Import连接模式时,所有的数据都会从Data Source导入到PowerBI Service的缓存中,PowerBI的可视化控件都是从缓存中查询数据。一旦PowerBI文件发布到PowerBI Service中,PowerBI 将会创建一个Dataset,用于存储被导入的数据。设置调度,定时刷新Dataset,使得PowerBI呈现最新的分析数据,对于做出正确的决策是非常重要的。

三,连接模式的性能

推荐使用导入(Import)连接模式,这是因为PowerBI 使用内存的列式数据库 VertiPaq,用于对已发布的数据集(Dataset)进行数据压缩和快速处理,能够使PowerBI报表执行脱机访问,面向列的处理,高度优化对1:N关系的处理性能。导入模式非常适合聚合查询,特别是,当存在大量的关系时,PowerBI能够快速执行聚合运算。导入模式的缺点是Dataset的Size最大是1GB,需要调度刷新才能访问最新的数据。

直接查询(DirectQuery)模式,建立PowerBI和Data Source之间的直接连接,访问的数据始终是最新的,并且数据源的大小是无限制的。在直接查询模式下,PowerBI直接发送查询到Datasource中,以获取所需要的数据。当Data Source是关系型数据库时,PowerBI直接发送SQL查询语句到数据库中。直接查询模式的最大缺点是性能问题。

在直接查询模式下,所有的直接查询请求都直接发送到源数据库中,后端数据源响应查询请求的速度决定了直接查询的性能。虽然PowerBI尽可能的优化生成的SQL命令,但是,通过监控发现,PowerBI最终生成的SQL命令是非常低效的,特别是在查询海量的数据源时,后端(Back-end)数据源需要执行很长时间,才能返回结果。等待的时间超过30s,用户体检就很不理想了。当导入模式不能满足业务需求时,再考虑直接查询模式。

 

参考文档:

Data refresh in Power BI

Use DirectQuery in Power BI Desktop

Power BI and DirectQuery

当前文章:http://fsj.066lhc.com/a/2fae1_18.html

发布时间:2017-10-21 04:09:19

我的心没有回程    我的心没有回程  我的心没有回程  我的心没有回程  我的心没有回程  我的心没有回程  我的心没有回程  我的心没有回程  我的心没有回程  

http://www.hnhx.net.cn/7734B06Z6/201710100809.htmlhttp://www.hnhx.net.cn/57Sp705pm3/201710100395.htmlhttp://www.hnhx.net.cn/543h2WG3x1/201710100090.htmlhttp://www.uknet.cn/shishang/meistyle/2017/1015/24074.htmlhttp://www.uknet.cn/qushi/24080.htmlhttp://www.uknet.cn/zzqq/2017/1015/24116.htmlhttp://www.uknet.cn/video/guoji/2017/1016/24131.htmlhttp://www.uknet.cn/licai/24132.htmlhttp://www.uknet.cn/qiche/hangqing/24139.htmlhttp://www.uknet.cn/licai/24141.htmlhttp://www.uknet.cn/zzqq/2017/1016/24145.htmlhttp://www.uknet.cn/licai/24149.htmlhttp://www.uknet.cn/licai/24152.htmlhttp://www.uknet.cn/zzqq/2017/1016/24155.htmlhttp://www.uknet.cn/zzqq/2017/1016/24172.htmlhttp://www.uknet.cn/zzqq/2017/1016/24173.htmlhttp://www.uknet.cn/zzqq/2017/1016/24174.htmlhttp://www.uknet.cn/jiaoyu/24177.htmlhttp://www.uknet.cn/zzqq/2017/1017/24181.htmlhttp://www.uknet.cn/licai/24186.htmlhttp://www.uknet.cn/qushi/24189.htmlhttp://www.uknet.cn/jiaoyu/24207.htmlhttp://www.uknet.cn/licai/24220.htmlhttp://www.uknet.cn/video/2017/1017/24223.htmlhttp://www.uknet.cn/video/guonei/2017/1018/24245.htmlhttp://www.uknet.cn/zzqq/2017/1018/24248.htmlhttp://www.uknet.cn/zzqq/2017/1018/24264.htmlhttp://www.uknet.cn/zqbf/2017/1018/24275.htmlhttp://www.uknet.cn/qushi/24291.htmlhttp://www.uknet.cn/video/guoji/2017/1020/24328.htmlhttp://www.uknet.cn/zzqq/2017/1020/24341.htmlhttp://www.uknet.cn/zzqq/2017/1020/24355.htmlhttp://www.uknet.cn/licai/24358.htmlhttp://www.uknet.cn/licai/24372.htmlhttp://www.uknet.cn/shichang/24384.htmlhttp://www.uknet.cn/licai/24385.htmlhttp://www.uknet.cn/qushi/24407.htmlhttp://www.uknet.cn/zzqq/2017/1022/24415.htmlhttp://www.uknet.cn/licai/24434.htmlhttp://www.hnhx.net.cn/3j0M98mB8/201710100034.htmlhttp://www.hnhx.net.cn/3G530cZ57J/201710100026.htmlhttp://www.hnhx.net.cn/9QT4nPJ6Y2/201710100990.htmlhttp://www.hnhx.net.cn/3j0M98mB8/201710100034.htmlhttp://www.hnhx.net.cn/966x7nK79/201710100344.htmlhttp://www.hnhx.net.cn/0fwY883P2/201710100163.htmlhttp://www.hnhx.net.cn/YM9920t4Kp/201710100385.htmlhttp://www.hnhx.net.cn/Sl40z285K/201710100036.htmlhttp://www.uknet.cn/jiaoyu/24207.htmlhttp://www.uknet.cn/video/guonei/2017/1018/24245.htmlhttp://www.uknet.cn/licai/24358.html