资讯专栏INFORMATION COLUMN

想搞大数据??你这样是自寻死路!!

wthee / 3053人阅读

摘要:所以这一段时间以来,诸葛建国殚精竭虑,夙夜忧叹,觉得自己搞大数据真是自寻死路,恨不得举身赴清池,自挂东南枝。既然诸葛建国已经使用了来管理大数据组件,完全可以再次扩展,让它管理更多的分布式系统。

近日来,家住北京市朝阳区的程序员诸葛建国非常郁闷。因为他的公司审时度势,附庸风雅牵强附会的上了一套大数据系统,可谓麻雀虽小五脏俱全,包括了:

分布式文件系统HDFS

分布式数据库hbase,mongodb,kudu

分布式内存文件系统alluxio

用于多维分析的druid

实时流计算系统storm

正所谓,覆巢之下,安有完卵。这些产品虽然好用,但是却给诸葛建国带来了很多烦恼。为了安装软件,他要重复重复再重复的登录一台又一台的服务器;为了修改某个参数,他又要重复重复再重复的登录一台又一台的服务器;为了监控服务的运行状态,他要不择手段的查看服务的端口或者进程;为了启动某个挂掉的服务,他要记住那些诘屈聱牙晦涩难懂的linux命令。更让他细思极恐的是,如果某个底层服务中节点发生了增减或者迁移,所有依赖这个服务的服务都要修改配置并重新启动。所以这一段时间以来,诸葛建国殚精竭虑,夙夜忧叹,觉得自己搞大数据真是自寻死路,恨不得举身赴清池,自挂东南枝。

虽然他掌握了同时操作多台服务器的技巧,然而人心不足蛇吞象,诸葛建国欲壑难填得陇望蜀,他迫切的希望有产品能釜底抽薪,一劳永逸的解决他的问题。

他希望有一款产品能一站式管理大数据平台

能全程图形化安装

能自动处理好服务中错综复杂的关系

能一键修改服务参数

能一键执行他永远记不住的linux命令

还好他的同事夏侯富贵给了诸葛建国一个提示。既然诸葛建国已经使用了cloudera来管理大数据组件,完全可以再次扩展cloudera manager,让它管理更多的分布式系统。

项目地址是https://github.com/kabike/jdt-csd

文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。

转载请注明本文地址:https://www.ucloud.cn/yun/8396.html

相关文章

  • 数据环境下该如何优雅地设计数据分层

    摘要:例如以研究人的旅游消费为主题的数据集中,便可以结合航空公司的登机出行信息,以及银联系统的刷卡记录,进行结合分析,产生数据集。 0x00 前言 最近出现了好几次同样的对话场景:问:你是做什么的?答:最近在搞数据仓库。问:哦,你是传统行业的吧,我是搞大数据的。答:...... 发个牢骚,搞大数据的也得建设数据仓库吧。而且不管是传统行业还是现在的互联网公司,都需要对数据仓库有一定的重视,而不...

    CHENGKANG 评论0 收藏0
  • 大话-URL和URI的区别和联系

    摘要:此时这个通讯地址就是,若干年后,小明可能已经搬家了,无论小明的家庭搬去了任何地方,但是这个地址不会变,你仍然可以去八阿哥路号,但是你却找不到小明了。同时身份证不会发生变化,通过身份证我们唯一确认小明,这就是统一资源标识符。 2019年6月15日,菜鸟坐在电脑桌前,喝着咖啡,唱着歌,心情大美。写了一个博客《程序员的前世与今生》。正巧,大鸟从他身边路过,猫了一眼,觉得不错,就跟菜鸟说:菜鸟...

    gaomysion 评论0 收藏0
  • 天天吹微服务,单体应用有啥不好?

    摘要:单体应用,由于就是一个项目,所有的功能都是写在一个项目中,不可避免的出现项目过度复杂的情况。 单体应用确实有问题! 最近在研究微服务架构,有一点点心得,打算在公众号上写几篇文章和大家慢慢分享下。 这个话题有点大,我会分几篇文章和大家慢慢说,今天就先来说说传统的单体应用有哪些弊端,正是因为单体应用存在的弊端,使得我们不得不考虑发展微服务。 人类发展的历史就是一个社会分工不断细化的历史,...

    fish 评论0 收藏0
  • 学习Python的建议

    摘要:如果初学者接触的第一门语言是,学习曲线则会平滑得多,掌握一些基本语法和内置的数据结构,已经可以上手写一些小工具或者小型应用。如果你的学习时间充足,我的建议是一定要学数据结构和算法。 前言 Python是最容易入门的编程语言,没有之一。如果初学者接触的第一门语言是C或者C++,对他们来说最难的不是语法,而是容易出现内存泄漏、指针等问题。有时候排查这些问题对初学者的打击很大,尤其是没掌握排...

    eechen 评论0 收藏0
  • 程序员如何赚钱

    摘要:相比之下程序员如果有自己的个人博客,长期坚持技术文章的输出,最终也会形成品牌。希望每个人都能躺着赚钱。 作为一个程序员,时常都会想以后自己干不动的时候该怎么办? 1. 努力工作 showImg(https://segmentfault.com/img/bVbk61b?w=600&h=506); 每天上班都认认真真,这样就会有好的绩效,年终奖就会多一点。可能公司坑一点的话,年底是没有年终...

    glumes 评论0 收藏0

发表评论

0条评论

wthee

|高级讲师

TA的文章

阅读更多
最新活动
阅读需要支付1元查看
<