EMR-3.42及后续版本或EMR-5.8.0及后续版本的集群，支持OSS-HDFS（JindoFS服务）作为数据存储，提供缓存加速服务和Ranger鉴权功能，使得在Hive或Spark等大数据ETL场景将获得更好的性能和HDFS平迁能力。本文为您介绍E-MapReduce（简称EMR）Hive或Spark如何操作OSS-HDFS。
前提条件
- 已创建EMR-3.42.0及以上版本或EMR-5.8.0及以上版本的集群。具体步骤，请参见创建集群。
- 已开通并授权访问OSS-HDFS服务。具体操作，请参见开通并授权访问OSS-HDFS服务。
背景信息
OSS-HDFS服务是一款云原生数据湖存储产品，基于统一的元数据管理能力，在完全兼容HDFS文件系统接口的同时，提供充分的POSIX能力支持，能更好的满足大数据和AI领域丰富多样的数据湖计算场景，详细信息请参见OSS-HDFS服务概述。
操作步骤
说明 本示例以Hive操作OSS-HDFS为例介绍。您也可以参照此方式使用Spark操作OSS-HDFS。
- 登录集群，具体操作请参见登录集群。
-
创建指向OSS-HDFS的Hive表。
- 执行以下命令，进入Hive命令行。
hive -
执行以下命令，创建指向OSS-HDFS的数据库。
CREATE DATABASE if not exists dw LOCATION 'oss://./';说明
-
上述命令中的
dw为数据库名，为任意路径，.为获取到的HDFS服务的域名。 - 本示例使用OSS-HDFS的域名作为路径的前缀。如果您希望只使用Bucket名称来指向OSS-HDFS，则可以配置Bucket级别的Endpoint或全局Endpoint，具体操作请参见附录一：配置Endpoint的其他方式。
-
- 执行以下命令，使用新创建的数据库。
use dw; - 执行以下命令，在新建的数据库下创建表。
CREATE TABLE IF NOT EXISTS employee(eid int, name String,salary String,destination String) COMMENT 'Employee details';
- 执行以下命令，进入Hive命令行。
- 向表中插入数据。使用INSERT INTO语句向表写入数据，该语句会产生MapReduce作业。
INSERT INTO employee(eid, name, salary, destination) values(1, 'liu hua', '100.0', ''); - 验证表数据。
SELECT * FROM employee WHERE eid = 1;返回信息中会包含插入的数据。
OK 1 liu hua 100.0 Time taken: 12.379 seconds, Fetched: 1 row(s)
内容没看懂？ 不太想学习？想快速解决？ 有偿解决： 联系专家
阿里云企业补贴进行中： 马上申请
腾讯云限时活动1折起，即将结束： 马上收藏
同尘科技为腾讯云授权服务中心。
购买腾讯云产品享受折上折，更有现金返利:同意关联，立享优惠
转转请注明出处：https://www.yunxiaoer.com/158924.html
