资讯专栏INFORMATION COLUMN

[原]解密Airbnb 自助BI神器:Superset 颠覆 Tableau

Keagan / 1771人阅读

摘要:概述我非常认同前百度数据工程师现神策分析创始人桑老师最近谈到的数据分析三重境界统计计数多维分析机器学习数据分析的统计计数和多维分析,我们通常称之为数据探索式分析,这个步骤旨在了解数据的特性,有助于我们进一步挖掘数据的价值。

概述

我非常认同前百度数据工程师、现神策分析创始人桑老师最近谈到的数据分析三重境界:

统计计数

多维分析

机器学习

数据分析的统计计数和多维分析,我们通常称之为数据探索式分析,这个步骤旨在了解数据的特性,有助于我们进一步挖掘数据的价值。而基于我们对数据的理解,再引入机器学习的算法对数据做出预测就变得水到渠成了。

现实世界里,大部分的公司更多时间其实没有这个精力去搭建复杂的数据分析平台,面对快速变化的业务需求,很多数据工程师都把自己的青春埋葬在SQL里了。(其实我也是埋葬在SQL里的)

这几年,所谓的无埋点技术、自助式分析等等概念开始兴起,得益于数据领域的快速发展,国内外也涌现了大量基于数据分析平台的start-ups,而随着技术的发展,许多创业公司也是抱团取暖组成一个更大的团体。

考虑到国内数据安全性的问题,即使我们使用大厂比如百度的网站分析服务也很难保证数据安全性,私有化部署才是很多企业级解决方案的王道。

随着 Superset 被Airbnb的数据科学部门开源了,我看到的是有许多数据分析平台的创业公司或许要转变方向了,自助式分析将不再依赖于各大厂商!

什么是Superset

Superset的中文翻译是快船,而Superset其实是一个自助式数据分析工具,它的主要目标是简化我们的数据探索分析操作,它的强大之处在于整个过程一气呵成,几乎不用片刻的等待。

Superset 的特性

Superset通过让用户创建并且分享仪表盘的方式为数据分析人员提供一个快速的数据可视化功能。
在你用这种丰富的数据可视化方案来分析你的数据的同时,Superset还可以兼顾数据格式的拓展性、数据模型的高粒度保证、快速的复杂规则查询、兼容主流鉴权模式(数据库、OpenID、LDAP、OAuth或者基于Flask AppBuilder的REMOTE_USER)
通过一个定义字段、下拉聚合规则的简单的语法层操作就让我们可以将数据源在U上丰富地呈现。Superset还深度整合了Druid以保证我们在操作超大、实时数据的分片和切分都能行云流水。

数据库支持

Superset 是基于 Druid.io 设计的,但是又支持横向到像 SQLAlchemy 这样的常见Python ORM框架上面。

那Druid又是什么呢?

Druid 是一个基于分布式的快速列式存储,也是一个为BI设计的开源数据存储查询工具。Druid提供了一种实时数据低延迟的插入、灵活的数据探索和快速数据聚合。现有的Druid已经可以支持扩展到TB级别的事件和PB级的数据了,Druid是BI应用的最佳搭档。

想必,你已经受够了Hive那个龟速查询,迫不及待想体验一下这种酣畅淋漓的快感了吧!

实战

既然,要行云流水,没有Docker是不行的,想要了解一下Docker可以参考之前的文章:海纳百川 有容乃大:SparkR与Docker的机器学习实战

这里我默认你已经具备了使用Daocloud加速Docker的知识。

本地跑Docker

下载镜像:

docker pull index.tenxcloud.com/7harryprince/Superset

跑容器

docker run -p 8088:8088 -d index.tenxcloud.com/7harryprince/Superset

查询一下你的docekr ip

docker-machine ls
NAME      ACTIVE   DRIVER       STATE     URL                         SWARM   DOCKER    ERRORS
default   -        virtualbox   Running   tcp://192.168.99.100:2376           v1.9.1    
dev       -        virtualbox   Saved                                         Unknown   

这里可以看到我的默认Docker的IP是192.168.99.100

所以需要在浏览器中访问 192.168.99.100:8088

这样我们又是三行代码搞定了一个大数据分析神器。

需要注意到,这个 Superset 容器里的默认鉴权配置是:

username: admin
password: Superset_admin
在线Demo

下面我提供了Superset的一个在线Demo:

http://52.33.104.157:8088/login/

下面是仪表盘的交互式分析页面:

我们可以导出JSON、CSV文件、直接得到SQL语句甚至分享页面链接。

下面是全球人口的一个分析仪表盘,感觉再改动一下就可以做信息图了,大数据分析也不在话下。

下面是我最喜欢的sankey chart:

架构

看到如此惊艳的数据产品,想必你也很想自己动手做一个吧!让我们一起看看整体的架构。

后端

整个项目的后端是基于Python的,用到了Flask、Pandas、SqlAlchemy。

Flask AppBuilder(鉴权、CRUD、规则)

Pandas(分析)

SqlAlchemy(数据库ORM)

此外,也关注到Superset的缓存机制值得我们学习:

采用memcache和Redis作为缓存

级联超时配置

UI具有时效性控制

允许强制刷新

前端

自然前端是JS的天下,用到了npm、react、webpack,这意味着你可以在手机也可以流畅使用。

d3 (数据可视化)

nvd3.org(可重用图表)

局限性

Superset的可视化,目前只支持每次可视化一张表,对于多表join的情况还无能为力

依赖于数据库的快速响应,如果数据库本身太慢Superset也没什么办法

语义层的封装还需要完善,因为druid原生只支持部分sql。

参考资料

Superset GitHub地址

推荐镜像 kochalex/Superset

知乎:presto、druid、sparkSQL、kylin的对比分析,如性能、架构等,有什么异同?

mysql-db installation

Superset - sweet time based visualisation and dashboard reporting

Superset Installation

推荐产品

神策分析:数据分析平台的私有化部署方案

神策目前提供私有化的数据分析平台解决方案,根据桑老师的说法,现在考虑到安全性的问题,还没有做到Docker部署,只能远程部署(大概半个小时),这里有一丝淡淡的遗憾。

作为分享主义者(sharism),本人所有互联网发布的图文均遵从CC版权,转载请保留作者信息并注明作者 Harry Zhu 的 FinanceR专栏:https://segmentfault.com/blog...,如果涉及源代码请注明GitHub地址:https://github.com/harryprince。微信号: harryzhustudio
商业使用请联系作者。

文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。

转载请注明本文地址:https://www.ucloud.cn/yun/37913.html

相关文章

  • Superset搭建及其简单使用

    摘要:背景老板一直反馈说我们给不了他想要的关键每次他想要的都不一样每实现一个新功能他就想要一堆相关的信息我要将这些信息都给他做成网页用图表展示出来各种维度搜索这还不得累死这帮开发小伙伴所以对于他这种需求我基本都予以回绝坚决不做不过口头说不做也深知 背景 老板一直反馈说我们给不了他想要的, 关键每次他想要的都不一样, 每实现一个新功能, 他就想要一堆相关的信息, 我要将这些信息都给他做成网页,...

    YPHP 评论0 收藏0
  • 四大热门的自助BI工具深度测评

    摘要:本文就来深度测评市场上几大热门的自助工具,,亿信,。亿信也称为豌豆,为了使业务人员能够完成自助数据分析,它自动识别索引维度和相关关系,形成数据模型。 在了解过自助式BI的基本知识之后,我们知道传统BI工具已不能满足企业对于及时性数据分析的需求,以IT主导的商业智能BI和分析将逐步演变为以业务为主导的自助式分析。本文就来深度测评市场上几大热门的自助BI工具:FIneBI,Tableau,...

    jsbintask 评论0 收藏0
  • 5大知名的BI工具对比介绍

    摘要:企业对于工具的需求,已经刻不容缓。本文就对当下市面上最热门的款知名的工具进行对比介绍。最后,它还有全套的售后服务,完全不用担心不能落地的问题是国际知名的工具。亿信也称为豌豆,也是国内一款知名的工具。 工欲善其事,必先利其器。企业对于BI工具的需求,已经刻不容缓。国内国外的BI工具不少,如Tableau、FineBI、Power BI等等。本文就对当下市面上最热门的5款知名的BI工具进行...

    songze 评论0 收藏0
  • 5大好用又免费BI软件系统

    摘要:这种生态系统对用户来说非常好。个人使用是免费的,企业部署是基于功能和项目出价。当数据量小时,速度很快,但当数据量大时,性能会下降。提供了三个程序的免费版本和。 在BI诞生之前,业务数据的角色被忽略了。领导者通常依靠长期经验来做出重大决定。在某些重要时刻,经历可能会由于时间、地点和环境而导致不可预测的波动。这样的决定往往伴随着巨大的风险。现在可视化BI 可以帮助充分利用企业在日常运营中积...

    asce1885 评论0 收藏0
  • []数据科学教程:如何使用Airflow调度数据科学工作流

    摘要:概述是一个我们正在用的工作流调度器,相对于传统的任务管理,很好的为我们理清了复杂的任务依赖关系监控任务执行的情况。步骤三修改默认数据库找到配置文件修改配置注意到,之前使用的的方式是行不通的。微信号商业使用请联系作者。 showImg(https://segmentfault.com/img/remote/1460000006760428?w=1918&h=1556); 概述 Airfl...

    v1 评论0 收藏0

发表评论

0条评论

最新活动
阅读需要支付1元查看
<