OSS/OSS-HDFS 快速入门§

前置条件§

访问 OSS/OSS-HDFS 前,需要创建对应的存储空间(Bucket)。

路径说明§

存储系统 根路径示例 描述
OSS oss://examplebucket.oss-cn-shanghai-internal.aliyuncs.com/ 以在上海区域已创建了名为examplebucket的 OSS Bucket,并使用内网 endpoint 访问为例。 注:在 EMR 集群中未挂载公网的节点,默认不支持访问 OSS 公网 endpoint,即默认不支持跨区域访问。
OSS-HDFS oss://examplebucket.cn-shanghai.oss-dls.aliyuncs.com/ 以在上海区域已创建了名为examplebucket的 OSS-HDFS Bucket 为例。 注:OSS-HDFS 目前只支持内网访问,即默认不支持跨区域访问。

访问 OSS 和 OSS-HDFS 的方式,除路径中的 endpoint 外,使用方式均相同。

访问方式§

访问方式 示例 描述
Hadoop Shell 命令 hadoop fs -ls oss://examplebucket.cn-shanghai.oss-dls.aliyuncs.com/ JindoSDK 中的JindoOssFileSystem 是 Hadoop FileSystem 的一种实现。 在执行 Hadoop Shell 可以通过识别路径中的 endpoint 来访问 OSS/OSS-HDFS。 更多使用方式,详见 《通过 Hadoop Shell 命令访问 OSS/OSS-HDFS》
Jindo CLI 命令 jindo fs -ls oss://examplebucket.cn-shanghai.oss-dls.aliyuncs.com/ Jindo CLI 实现了类似 Hadoop Shell 的方式来访问 OSS/OSS-HDFS。 此外,还支持了更多的功能,比如归档/缓存/错误分析等。详见 《通过 Jindo CLI 命令访问 OSS/OSS-HDFS》
POSIX 命令 mkdir -p /mnt/oss jindo-fuse /mnt/oss -ouri=oss://examplebucket.cn-shanghai.oss-dls.aliyuncs.com/ ls /mnt/oss 通过实现 FUSE API,jindo-fuse 可以通过挂载 OSS/OSS-HDFS 路径到本地路径的方式,使用户可以像访问本地文件一样访问 OSS/OSS-HDFS。 详见《通过 POSIX 访问 OSS/OSS-HDFS》
OSS 控制台 image 可以通过打开 OSS 控制台 -> 文件列表 -> OSS文件/HDFS 来访问 OSS/OSS-HDFS