摘要：今天我们来介绍一下基于阿里云表格存储，以及相关的大数据产品来采集与分析数据的方案。我们尝试一种基于和阿里云其他大数据产品的新方案，我们先看架构图图中关键路径分析页等客户端先通过埋点系统收集数据，然后通过表格存储的将数据写入的原始数据表。
摘要： 摘要 在互联网高度发达的今天，ipad、手机等智能终端设备随处可见，运行在其中的APP、网站也非常多，如何采集终端数据进行分析，提升软件的品质非常重要，例如PV/UV统计、用户行为数据统计与分析等。虽然场景简单，但是数据量大，对系统的吞吐量、实时性、分析能力、查询能力都有较高的要求，搭建起来并不容易。
摘要
在互联网高度发达的今天，ipad、手机等智能终端设备随处可见，运行在其中的APP、网站也非常多，如何采集终端数据进行分析，提升软件的品质非常重要，例如PV/UV统计、用户行为数据统计与分析等。虽然场景简单，但是数据量大，对系统的吞吐量、实时性、分析能力、查询能力都有较高的要求，搭建起来并不容易。今天我们来介绍一下基于阿里云表格存储，以及相关的大数据产品来采集与分析数据的方案。
TableStore
TableStore(表格存储)是阿里云自主研发的专业级分布式NoSQL数据库，是基于共享存储的高性能、低成本、易扩展、全托管的半结构化数据存储平台，支撑互联网和物联网数据的高效计算与分析。
目前不管是阿里巴巴集团内部，还是外部公有云用户，都有成千上万的系统在使用。覆盖了重吞吐的离线应用，以及重稳定性，性能敏感的在线应用。表格存储的具体的特性可以看下面这张图片。
基于TableStore的数据采集分析系统
一个典型的数据采集分析统计平台，对数据的处理，主要由如下五个步骤组成：
对于上图流程的具体实现，网上有许多可以参考的案例，数据在客户端采集完以后，如果量比较小，我们可能直接在后端的API上做一次透传，然后持久化到RDBMS类型的数据库中就好了，通过Sql可以进行数据分析。如果数据量很大，就需要一些中间件来辅助收集和上传，然后分别将数据写入到在线和离线的系统中，比如先上传到Flume，Flume可以做数据的采集与聚合，再将Flume作为消息的生产者，将生产的消息数据通过Kafka Sink发布到Kafka中，Kafka作为消息队列的角色，可以对接后端的在线和离线计算平台。如下图所示：
引入Flume和Kafka的原因有很多，比如他们可以处理大流量的数据、做数据聚合、保证数据不丢失等，但最关键的原因是他们拥有高吞吐的能力。引入的组件多，系统的复杂性和成本也会相应的增加，上图中，Spark Streaming/Storm分析完成以后，结果数据还需要引入另外的存储组件进行存储，比如HBase/MySQL，如果引入MySQL可能还需要再引入Redis做热点数据缓存，这样一来就更加复杂了。
我们尝试一种基于TableStore和阿里云其他大数据产品的新方案，我们先看架构图：
图中关键路径分析：
1、Web页、APP等客户端先通过埋点系统收集数据，然后通过表格存储的SDK将数据写入TableStore的原始数据表。
2、MaxCompute直读TableStore原始数据表的数据进行分析，然后QuickBI读取MaxCompute的数据进行展示，具体操作可参考：MaxCompute直读直写表格存储、QuickBI新建云数据源。
3、TableStore原始数据表中的数据可增量同步到ElasticSearch或者openSearch中，同步方法参考：TableStore数据同步到ElasticSearch，TableStore数据同步到OpenSearch。
4、TableStore中的数据可增量同步到Blink/Flink进行分析，分析完以后的数据再写回TableStore的结果数据表中，DavaV读取结果数据表的数据进行展示。
新架构优势分析：
1、客户端数据直读直写TableStore，不需要再引入API层进行数据透传，降低了复杂度，对于大型应用来说也减少了不少的服务器成本。
2、TableStore已经对接了丰富了大数据组件，包括阿里云的大数据产品和开源大数据产品，数据的同步与读写非常容易。
3、实时分析与离线分析后的结果数据再写回TableStore，DataV直接读取结果数据进行展示，因为TableStore具备高性能与高吞吐特点，不需要再引入Redis等缓存组件，可以简化整个系统。
直读直写安全问题：
关于数据直读直写TableStore，大家可能都会想到一个安全的问题，客户端直连TableStore不是要把AccessKey和AccessId暴露在客户端吗？答案是不用，我们使用STSToken授权访问TableStore，过程如下图所示：
TableStore提供的SDK都支持使用STS授权的方式进行访问，示例可参考TableStore NodeJs SDK使用STSToken，使用STS方式访问TableStore需要控制好授权策略，客户端不需要的接口请不要授权。
浏览器跨域访问TableStore：
如果在浏览器端直接访问TableStore，由于浏览器有同源策略的限制，会产生跨域问题。因为TableStore的EndPoint域名与用户Web站点的域名不同。解决这个问题的思路有两个：一是Web端不直接访问TableStore，改为先请求自己的Web Server端，Web Server端再使用TableStore SDK来发起请求，这样其实就是后端访问了，问题解决了但也没了我们直读直写的优势；二是TableStore服务端通过某种方式直接支持js跨域请求，这条路我们正在支持当中，当前处于开发阶段，支持的方式是cors协议支持跨域。但目前也有快捷的支持方式，如果您有浏览器直接访问TableStore的需求，可以直接联系我们，支持起来也很快。
作者：boxiao
文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。
转载请注明本文地址：https://www.ucloud.cn/yun/61912.html
摘要：摘要阿里云表格存储于近期功能再升级，升级后的表格存储支持对采集的数据进行持久化存储，其新增支持，以及最新发布的能够帮助用户轻松构建千万级和流系统。功能一支持对采集的数据进行持久化存储阿里云表格存储支持对采集的数据进行持久化存储。 摘要： 阿里云表格存储于近期功能再升级，升级后的表格存储支持对DataHub采集的数据进行持久化存储，其Python SDK新增支持Python 3.x，以及...
摘要：产品新功能发布阿里云发布对象存储支持默认加密功能对象存储在客户端和服务器端具备全面的安全加密能力。针对小鹏汽车的一系列需求，阿里云为其打造业界首个定制车载闪电立方深度学习解决方案。【最新动态】 表格存储TableStore全新升级，打造统一的在线数据存储平台！ 表格存储 TableStore 是阿里云面向海量结构化和半结构化数据自研的 Serverless NoSQL 数据库，被广泛用于社...
摘要：接下来来看一下是如何编写一个组件的，在看源码之前，首先还是要对他的组件的大致功能有一个了解，这样我们在看源码的时候才会知道这一段大概实现了什么功能。最后我实现的功能文档以及最终的一个样例 在你实现一个组件过程中，一定要注意一下几点 将代码模块化并且分离。如果你将大量的逻辑或者是代码都放在钩子函数中（比如mounted），那么写出来的组件代码将非常丑陋，这样子写出的代码也往往难以维护。...
摘要：本文章从如下图所示的最基本的入手，分析组件源代码。本人已经对组件原来的源码进行削减，源码点击这里下载。还有两个重要的函数与。在组件的阶段会调用更新，从而触发重新渲染。例如当组件加载后发送请求，待请求响应赋值，重新渲染。 本文章从如下图所示的最基本的table入手，分析table组件源代码。本人已经对table组件原来的源码进行削减，源码点击这里下载。本文只对重要的代码片段进行讲解，推荐...
阅读 2052·2021-11-19 09:55
阅读 2434·2021-11-11 16:55
阅读 2960·2021-09-28 09:36
阅读 1667·2021-09-22 16:05
阅读 3059·2019-08-30 15:53
阅读 1672·2019-08-30 15:44
阅读 2800·2019-08-29 13:10
阅读 1173·2019-08-29 12:30
