资讯专栏INFORMATION COLUMN

《从0到1学习Flink》—— Mac 上搭建 Flink 1.6.0 环境并构建运行简单程序入门

zeyu / 1367人阅读

摘要:总结本文描述了如何在电脑上安装,及运行它。相关文章从到学习介绍从到学习上搭建环境并构建运行简单程序入门从到学习配置文件详解从到学习介绍从到学习如何自定义从到学习介绍从到学习如何自定义

准备工作

1、安装查看 Java 的版本号,推荐使用 Java 8。

安装 Flink

2、在 Mac OS X 上安装 Flink 是非常方便的。推荐通过 homebrew 来安装。

</>复制代码

  1. brew install apache-flink

3、检查安装:

</>复制代码

  1. flink --version

结果:

</>复制代码

  1. Version: 1.6.0, Commit ID: ff472b4

4、启动 flink

</>复制代码

  1. zhisheng@zhisheng  /usr/local/Cellar/apache-flink/1.6.0/libexec/bin  ./start-cluster.sh
  2. Starting cluster.
  3. Starting standalonesession daemon on host zhisheng.
  4. Starting taskexecutor daemon on host zhisheng.

接着就可以进入 web 页面(http://localhost:8081/) 查看

demo

1、新建一个 maven 项目

创建一个 SocketTextStreamWordCount 文件,加入以下代码:

</>复制代码

  1. package com.zhisheng.flink;
  2. import org.apache.flink.api.common.functions.FlatMapFunction;
  3. import org.apache.flink.api.java.tuple.Tuple2;
  4. import org.apache.flink.streaming.api.datastream.DataStreamSource;
  5. import org.apache.flink.streaming.api.datastream.SingleOutputStreamOperator;
  6. import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment;
  7. import org.apache.flink.util.Collector;
  8. /**
  9. * Created by zhisheng_tian on 2018/9/18
  10. */
  11. public class SocketTextStreamWordCount {
  12. public static void main(String[] args) throws Exception {
  13. //参数检查
  14. if (args.length != 2) {
  15. System.err.println("USAGE:
  16. SocketTextStreamWordCount ");
  17. return;
  18. }
  19. String hostname = args[0];
  20. Integer port = Integer.parseInt(args[1]);
  21. // set up the streaming execution environment
  22. final StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();
  23. //获取数据
  24. DataStreamSource stream = env.socketTextStream(hostname, port);
  25. //计数
  26. SingleOutputStreamOperator> sum = stream.flatMap(new LineSplitter())
  27. .keyBy(0)
  28. .sum(1);
  29. sum.print();
  30. env.execute("Java WordCount from SocketTextStream Example");
  31. }
  32. public static final class LineSplitter implements FlatMapFunction> {
  33. @Override
  34. public void flatMap(String s, Collector> collector) {
  35. String[] tokens = s.toLowerCase().split("W+");
  36. for (String token: tokens) {
  37. if (token.length() > 0) {
  38. collector.collect(new Tuple2(token, 1));
  39. }
  40. }
  41. }
  42. }
  43. }

接着进入工程目录,使用以下命令打包。

</>复制代码

  1. mvn clean package -Dmaven.test.skip=true

然后我们开启监听 9000 端口:

</>复制代码

  1. nc -l 9000

最后进入 flink 安装目录 bin 下执行以下命令跑程序:

</>复制代码

  1. flink run -c com.zhisheng.flink.SocketTextStreamWordCount /Users/zhisheng/IdeaProjects/flink/word-count/target/original-word-count-1.0-SNAPSHOT.jar 127.0.0.1 9000

注意换成你自己项目的路径。

执行完上述命令后,我们可以在 webUI 中看到正在运行的程序:

我们可以在 nc 监听端口中输入 text,比如:

然后我们通过 tail 命令看一下输出的 log 文件,来观察统计结果。进入目录 apache-flink/1.6.0/libexec/log,执行以下命令:

</>复制代码

  1. tail -f flink-zhisheng-taskexecutor-0-zhisheng.out

注意:切换成你自己的路径和查看自己的目录。

总结

本文描述了如何在 Mac 电脑上安装 Flink,及运行它。接着通过一个简单的 Flink 程序来介绍如何构建及运行Flink 程序。

关注我

转载请注明地址:http://www.54tianzhisheng.cn/2018/09/18/flink-install

另外我自己整理了些 Flink 的学习资料,目前已经全部放到微信公众号了。你可以加我的微信:zhisheng_tian,然后回复关键字:Flink 即可无条件获取到。

相关文章

1、《从0到1学习Flink》—— Apache Flink 介绍

2、《从0到1学习Flink》—— Mac 上搭建 Flink 1.6.0 环境并构建运行简单程序入门

3、《从0到1学习Flink》—— Flink 配置文件详解

4、《从0到1学习Flink》—— Data Source 介绍

5、《从0到1学习Flink》—— 如何自定义 Data Source ?

6、《从0到1学习Flink》—— Data Sink 介绍

7、《从0到1学习Flink》—— 如何自定义 Data Sink ?

文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。

转载请注明本文地址:https://www.ucloud.cn/yun/72051.html

相关文章

  • 01学习Flink》—— Data Source 介绍

    摘要:指定了该迭代器返回元素的类型。这可能导致节点故障后的恢复速度较慢,因为该作业将从最后一个检查点恢复读取。监听的端口过来的数据这个在从到学习上搭建环境并构建运行简单程序入门文章里用的就是基于的程序。取消一个,也即将中的循环元素的行为终止。 showImg(https://segmentfault.com/img/remote/1460000016944116); 前言 Data Sou...

    XFLY 评论0 收藏0
  • Flink 源码解析 —— 分析 Batch WordCount 程序的执行过程

    摘要:批处理的程序分析博客从到学习介绍从到学习上搭建环境并构建运行简单程序入门从到学习配置文件详解从到学习介绍从到学习如何自定义从到学习介绍从到学习如何自定义从到学习转换从到学习介绍中的从到学习中的几种详解从到学习读取数据写入到从到学习项 批处理的 WordCount 程序分析: https://t.zsxq.com/YJ2Zrfi 博客 1、Flink 从0到1学习 —— Apache ...

    LdhAndroid 评论0 收藏0

发表评论

0条评论

zeyu

|高级讲师

TA的文章

阅读更多
最新活动
阅读需要支付1元查看
<