HDFS shell操作

Tecode 发布于2022-06-28 18:59 / 1636人阅读

摘要：目录返回列表的信息如下目录名修改日期修改时间权限用户组示例返回值成功返回，失败返回。这个命令允许有多个源路径，此时目标路径必须是一个目录。不允许在不同的文件系统间移动文件。示例返回值成功返回，失败返回。

调用文件系统(FS)Shell命令应使用 bin/hadoop fs 的形式

ls
使用方法：hadoop fs -ls

如果是文件，则按照如下格式返回文件信息：文件名 <副本数> 文件大小修改日期修改时间权限用户ID 组ID 如果是目录，则返回它直接子文件的一个列表，就像在Unix中一样。目录返回列表的信息如下：目录名

修改日期修改时间权限用户ID 组ID 示例： hadoop fs -ls /user/hadoop/file1 /user/hadoop/file2 hdfs://host:port/user/hadoop/dir1 /nonexistentfile 返回值：成功返回0，失败返回-1。
text
使用方法：hadoop fs -text

将源文件输出为文本格式。允许的格式是zip和TextRecordInputStream。

mv
使用方法：hadoop fs -mv URI [URI …]

将文件从源路径移动到目标路径。这个命令允许有多个源路径，此时目标路径必须是一个目录。不允许在不同的文件系统间移动文件。示例：

hadoop fs -mv /user/hadoop/file1 /user/hadoop/file2
hadoop fs -mv hdfs://host:port/file1 hdfs://host:port/file2 hdfs://host:port/file3 hdfs://host:port/dir1
返回值：

成功返回0，失败返回-1。

put
使用方法：hadoop fs -put ...

从本地文件系统中复制单个或多个源路径到目标文件系统。也支持从标准输入中读取输入写入目标文件系统。

hadoop fs -put localfile /user/hadoop/hadoopfile
hadoop fs -put localfile1 localfile2 /user/hadoop/hadoopdir
hadoop fs -put localfile hdfs://host:port/hadoop/hadoopfile
hadoop fs -put - hdfs://host:port/hadoop/hadoopfile 从标准输入中读取输入。
返回值：

成功返回0，失败返回-1。

rm
使用方法：hadoop fs -rm URI [URI …]

删除指定的文件。只删除非空目录和文件。请参考rmr命令了解递归删除。示例：

hadoop fs -rm hdfs://host:port/file /user/hadoop/emptydir
返回值：

成功返回0，失败返回-1。

http://hadoop.apache.org/docs/r1.0.4/cn/hdfs_shell.html

HDFS shell操作练习

在centos 中创建 test.txt

touch test.txt

在centos中为test.txt 添加文本内容

vi test.txt

在HDFS中创建 hadoop001/test 文件夹

hadoop fs -mkdir -p /hadoop001/test

把text.txt文件上传到HDFS中

hadoop fs -put test.txt /hadoop001/test/

查看hdfs中 hadoop001/test/test.txt 文件内容

hadoop fs -cat /hadoop001/test/test.txt

将hdfs中 hadoop001/test/test.txt文件下载到centos

hadoop fs -get /hadoop001/test/test.txt test.txt

删除HDFS中 hadoop001/test/

hadoop fs -rm -r /hadoop001

超融合服务器私有云 shell脚本操作mysql HDFS flume hdfs hbase hdfs

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/125941.html

Hadoop Shell命令

调用文件系统(FS)Shell命令应使用 bin/Hadoop fs 的形式。所有的的FS shell命令使用URI路径作为参数。URI格式是scheme://authority/path。对HDFS文件系统，scheme是hdfs，对本地文件系统，scheme是file。其中scheme和authority参数都是可选的，如果未...

Darkgel 2019-04-25 17:00 评论0 收藏0
大数据系列（5）——hdfs的学习

...文件系统 1.2 hdfs的特点分布式数据量越来越多，在一个操作系统管辖的范围存不下了，那么就分配到更多的操作系统管理的磁盘中，但是不方便管理和维护，因此迫切需要一种系统来管理多台机器上的文件，这就是分布式文件...

kyanag 2019-08-08 15:39 评论0 收藏0
通过HBase Observer同步数据到ElasticSearch

...计算能力，从而实现一个HBase框架上的MapReduce，那HBase的操作性能将进一步提升。正是为了解决这一问题，HBase 0.92版本后推出了Coprocessor -- 协处理器，一个工作在Master/RegionServer中的框架，能运行用户的代码，从而灵活地完成分布...

FrozenMap 2019-07-16 14:54 评论0 收藏0
慕课网_《HBase入门》学习总结

... 访问http://zccoder.com:60030/进行验证RegionServer进程第四章：操作命令 4-1 HBase表结构 HBase表操作命令介绍并演示 Create：创建表 Describe：查看表结构说明 is_enabled：查看表是否可用 Drop：删除表 Enable：使表可用（激活表） is_disabled：...

zsy888 2019-05-28 18:46 评论0 收藏0
大数据入门指南（GitHub开源项目）

...ve的安装部署 Hive CLI和Beeline命令行的基本使用 Hive 常用DDL操作 Hive 分区表和分桶表 Hive 视图和索引 Hive常用DML操作 Hive 数据查询详解三、Spark Spark Core : Spark简介 Spark开发环境搭建弹性式数据集RDD RDD常用算子详解 Spark运行模式...

guyan0319 2019-08-19 11:46 评论0 收藏0