详情页标题前

阿里云对象存储OSSEMR集群接入OSS-HDFS服务快速入门-云淘科技

详情页1

阿里云开源大数据开发平台E-MapReduce(简称EMR)特定版本集群默认集成OSS-HDFS服务。本文介绍如何通过EMR集群完成OSS-HDFS服务快速入门的常见操作。

前提条件

  • 已创建EMR-3.42.0及以上版本或EMR-5.8.0及以上版本的集群。具体步骤,请参见创建集群。

  • 已开通并授权访问OSS-HDFS服务。具体操作,请参见开通并授权访问OSS-HDFS服务。

操作视频

观看以下视频了解如何通过EMR集群快速接入OSS-HDFS服务并完成常见操作。

操作步骤

  1. 登录EMR集群。

    1. 登录EMR on ECS控制台。

    2. 单击创建的EMR集群。

    3. 单击节点管理页签,然后单击节点组左侧的阿里云对象存储OSSEMR集群接入OSS-HDFS服务快速入门-云淘科技

    4. 单击ECS ID。在ECS实例页面,单击实例ID右侧的远程连接

    如果您希望使用SSH方式(SSH密钥对或SSH密码)在Windows和Linux环境中登录集群,请参见登录集群。

  2. 通过HDFS Shell命令执行OSS-HDFS服务快速入门常见操作。
    • 上传文件

      将本地根目录下的examplefile.txt文件上传至examplebucket,示例如下:

      hdfs dfs -put examplefile.txt oss://examplebucket.cn-shanghai.oss-dls.aliyuncs.com/
    • 新建目录

      在examplebucket下创建名为dir/的目录,示例如下:

      hdfs dfs -mkdir oss://examplebucket.cn-shanghai.oss-dls.aliyuncs.com/dir/
    • 查看文件或目录信息

      查看examplebucket下的文件或目录信息,示例如下:

      hdfs dfs -ls oss://examplebucket.cn-shanghai.oss-dls.aliyuncs.com/
    • 获取文件或目录大小

      获取examplebucket下所有文件或目录的大小,示例如下:

      hdfs dfs -du oss://examplebucket.cn-shanghai.oss-dls.aliyuncs.com/
    • 查看文件内容

      查看examplebucket下名为localfile.txt的文件内容,示例如下:

      hdfs dfs -cat oss://examplebucket.cn-shanghai.oss-dls.aliyuncs.com/localfile.txt

      重要 查看文件内容时,文件内容将以纯文本形式打印到屏幕上。如果文件内容进行了特定格式的编码,请使用HDFS的Java API读取并解码文件内容。

    • 拷贝目录或文件

      例如,将examplebucket下根目录subdir1拷贝到目录subdir2下,且根目录subdir1所在的位置、根目录下的文件和子目录结构和内容保持不变,示例如下:

      hdfs dfs -cp oss://examplebucket.cn-shanghai.oss-dls.aliyuncs.com/subdir1  oss://examplebucket.cn-shanghai.oss-dls.aliyuncs.com/subdir2/subdir1
    • 移动目录或文件

      例如,将examplebucket根目录srcdir及其包含的文件或者子目录移动至另一个根目录destdir下,示例如下:

      hdfs dfs -mv oss://examplebucket.cn-shanghai.oss-dls.aliyuncs.com/srcdir  oss://examplebucket.cn-shanghai.oss-dls.aliyuncs.com/destdir
    • 下载文件

      将examplebucket下的exampleobject.txt下载到本地根目录文件夹/tmp,示例如下:

      hdfs dfs -get oss://examplebucket.cn-shanghai.oss-dls.aliyuncs.com/exampleobject.txt  /tmp/
    • 删除目录或文件

      删除examplebucket下destfolder/目录及其目录下的所有文件,示例如下:

      hdfs dfs -rm oss://examplebucket.cn-shanghai.oss-dls.aliyuncs.com/destfolder/

内容没看懂? 不太想学习?想快速解决? 有偿解决: 联系专家

阿里云企业补贴进行中: 马上申请

腾讯云限时活动1折起,即将结束: 马上收藏

同尘科技为腾讯云授权服务中心。

购买腾讯云产品享受折上折,更有现金返利:同意关联,立享优惠

转转请注明出处:https://www.yunxiaoer.com/157686.html

(0)
上一篇 2023年12月10日
下一篇 2023年12月10日
详情页2

相关推荐

  • 腾讯云裸金属云服务器步骤二:配置服务器

    操作场景 本章节介绍如何配置服务器,包括选择操作系统、配置 RAID 以及定义操作系统分区,还包括添加外网访问能力等。 操作步骤 选择操作系统 1. 请选择服务器配置,单击【下一步:选择操作系统】。2. 请根据界面的提示,选择操作系统。n以选择 CentOS 6.5 为例。n 说明 云服务器可以使用虚拟化技术屏蔽硬件的兼容性,所以在云服务器上安装操作系统…

    2023年12月9日
  • 腾讯云弹性伸缩五分钟创建伸缩方案

    简介 快速入门介绍了如何创建完整的弹性伸缩方案,您需要通过以下3步来完成: 说明快速入门中相关操作以使用弹性伸缩控制台操作为例,如果您更倾向于使用 API 方式,请参见 API 使用示例。 操作步骤 请您根据以下参考文档,快速创建完整的弹性伸缩方案:步骤1:创建启动配置步骤2:创建伸缩组步骤3:创建伸缩策略 弹性伸缩官网1折活动,限时活动,即将结束,速速…

    2023年12月9日
  • 腾讯云裸金属云服务器步骤一:选购黑石服务器

    说明目前黑石物理服务器1.0已不再新增售卖,感谢您的支持与信赖。如您需使用黑石物理服务器,可前往最新产品 黑石物理服务器2.0 进行选购和使用。 操作场景 本章节介绍如何访问黑石服务器购买页及按照业务需求挑选黑石服务器。 操作步骤 访问购买页 请访问 黑石服务器购买页。 选择地域 应选择离您的用户最近的数据中心。n数据中心与您的用户距离越近,则越能获得更小的…

    2023年12月9日
  • 信息流广告,信息流部分建议宽度830px,只针对默认列表样式,顺序随机
  • 阿里云ECS云服务器常用操作导航-云淘科技

    在使用云服务器ECS时,您可能会遇到各种问题,例如远程连接、更换操作系统、扩容云盘、升高或降低实例配置、使用快照或镜像等。本文介绍了云服务器ECS的常用操作,供您参考。 使用限制 使用云服务器ECS的注意事项,请参见使用须知。 使用云服务器ECS的资源规格限制,请参见使用限制和查看和提升实例配额。 如果云服务器需要备案,则云服务器有购买要求,且每台ECS实例…

    2023年12月9日
  • 腾讯云对象存储请求速率与性能优化

    注意当前 COS 已经通过底层索引打散机制实现高 QPS,如果有需要更高性能的 QPS 需求,可以 联系我们。在日常组织文件过程中,我们仍然推荐您遵循本文档的要求,避免过于集中的索引存储方式。 简介 本文探讨请求速率性能优化在腾讯云对象存储(Cloud Object Storage,COS)上的最佳实践。腾讯云对象存储提供的典型工作负载能力为每秒30000个…

    腾讯云 2023年12月9日

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信
本站为广大会员提供阿里云、腾讯云、华为云、百度云等一线大厂的购买,续费优惠,保证底价,买贵退差。