回答:我是做JAVA后台开发的，目前为止最多处理过每天600万左右的数据！数据不算特别多，但是也算是经历过焦头烂额，下面浅谈下自己和团队怎么做的？后台架构:前置部门:负责接收别的公司推过来的数据，因为每天的数据量较大，且分布不均，使用十分钟推送一次报文的方式，使用batch框架进行数据落地，把落地成功的数据某个字段返回给调用端，让调用端验证是否已经全部落地成功的，保证数据的一致性！核心处理:使用了spr...
李增田
|
1062人阅读
回答:使用SQL处理数据时，数据会在数据库内直接进行处理，而且sql处理本身可以对sql语句做优化，按照最优的策略自动执行。使用Java处理时，需要把数据从数据库读入到Java程序内存，其中有网络处理和数据封装的操作，数据量比较大时，有一定的延迟，所以相对来说数据处理就慢一些。当然，这个只是大体示意图，实际根据业务不同会更复杂。两者侧重的点不同，有各自适合的业务领域，需要根据实际情况选用合适的方式。
stefanieliang
|
1580人阅读
回答:（1）如果有耗时长的操作，后面的请求都需要进行等待； ◆ 单个 value 的内容过大，在添加、获取、删除时都会比较耗时； ◆ 使用复杂的命令，比如：SORT/SUNION/ZUNIONSTORE； ◆ 集合的数据非常大，而又进行了全量查询。（2）并发量非常大时，虽然 IO 有多路复用机制，从内核缓冲区中拷贝数据的操作仍然是同步操作，会带来性能瓶颈。
社区管理员
|
554人阅读
回答:首先明确下定义：计算时间是指计算机实际执行的时间，不是人等待的时间，因为等待时间依赖于有多少资源可以调度。首先我们不考虑资源问题，讨论时间的预估。执行时间依赖于执行引擎是 Spark 还是 MapReduce。Spark 任务Spark 任务的总执行时间可以看 Spark UI，以下图为例Spark 任务是分多个 Physical Stage 执行的，每个stage下有很多个task，task 的...
silenceboy
|
910人阅读
海量数据处理的三个主要因素 越来越多的大企业的数据集以及创建需要的一切技术，包括存储、网络、分析、归档和检索等，这些被认为是海量数据。这些大量信息直接推动了存储、服务器以及安全的发展。同时也是...
...和模型，现已成为研究模糊的、不较精确的、不完整的及海量信息处理的重要工具。粒计算是一个含义广泛的术语，覆盖了所有有关粒的理论、方法学、技术和工具的研究，并认为粒计算是模糊信息粒化、Rough集理论和区间计算...
...和模型，现已成为研究模糊的、不较精确的、不完整的及海量信息处理的重要工具。粒计算是一个含义广泛的术语，覆盖了所有有关粒的理论、方法学、技术和工具的研究，并认为粒计算是模糊信息粒化、Rough集理论和区间计算...
...战性的技术，且它还牵扯到了一个我更加感兴趣的话题：海量数据处理。 由此，最近凡是空闲时，便在看Hadoop，MapReduce海量数据处理这方面的论文。但在看论文的过程中，总觉得那些论文都是浅尝辄止，常常...
...和模型，现已成为研究模糊的、不较精确的、不完整的及海量信息处理的重要工具。粒计算是一个含义广泛的术语，覆盖了所有有关粒的理论、方法学、技术和工具的研究，并认为粒计算是模糊信息粒化、Rough集理论和区间计算...
...和模型，现已成为研究模糊的、不较精确的、不完整的及海量信息处理的重要工具。粒计算是一个含义广泛的术语，覆盖了所有有关粒的理论、方法学、技术和工具的研究，并认为粒计算是模糊信息粒化、Rough集理论和区间计算...
...提出了巨大的挑战。其中主要表现在智能交通行业领域中海量的交通流信息和卡口过车抓拍图片、智慧城市行业领域中的海量视频录像文件等非结构化数据，安防行业的主要用户公安、交警都有着需要对海量图片和视频文件进行...
...让用户获得更便捷、灵活、高效的大数据解决方案，减少海量数据分析、处理、查询的延迟，青云QingCloud 基于 SparkMR 推出新一代可提供计算、存储、分析、查询一站式全方位的大数据服务 QingMR 。 作为 SparkMR 的升级版本，QingMR ...
...数据存储和处理工具对于处理互联网泡沫之后开始出现的海量数据显得力不从心, 所以开发了Hadoop。首先，谷歌提出了MapReduce构架，它能够应对来自整合全球信息任务所产生的数据流，并使这些数据变得具有很高的可访问性。此...
...日后台架构专场的出品人我今天给大家带来《构造高可靠海量用户服务-SNG数亿级日活跃业务后台核心技术揭秘》，一起探讨怎么从可用性的维度提升海量服务的可靠性及海量服务的故障处理方式，包括：SNG后台架构的概览；面...
...日后台架构专场的出品人我今天给大家带来《构造高可靠海量用户服务-SNG数亿级日活跃业务后台核心技术揭秘》，一起探讨怎么从可用性的维度提升海量服务的可靠性及海量服务的故障处理方式，包括：SNG后台架构的概览；面...
...联网的发展，谁也无法否认，我们已经切实地迎来了一个海量数据的时代，数据调查公司IDC预计2011年的数据总量将达到1.8万亿GB，对这些海量数据的分析已经成为一个非常重要且紧迫的需求。 作为一家互联网数据分析公司...
...音乐，图片，视频监控文件，软件，镜像，扫描件等其他海量文件的存储，这些都可以使用，主要还是易用性跟性价比。 分享三： 从架构来看，云存储比紧耦合设计的传统存储有更好的横向扩展性，这样在容量和性能上有...
...音乐，图片，视频监控文件，软件，镜像，扫描件等其他海量文件的存储，这些都可以使用，主要还是易用性跟性价比。分享三：从架构来看，云存储比紧耦合设计的传统存储有更好的横向扩展性，这样在容量和性能上有更大的...
轻量云主机已更新简化版Windows帕鲁镜像的安装教程，现在仅需3步，就可以畅游帕鲁大陆！需要Lin...
UCloud轻量云主机已更新Linux帕鲁镜像的安装教程，现在仅需1步，就可以畅游帕鲁大陆！也欢迎大...
rose
zone
