详情页标题前

阿里云对象存储OSSPython断点续传上传-云淘科技

详情页1

通过断点续传上传的方式将文件上传到OSS前,您可以指定断点记录点。上传过程中,如果出现网络异常或程序崩溃导致文件上传失败时,将从断点记录处继续上传未上传完成的部分。

注意事项

  • 本文以华东1(杭州)外网Endpoint为例。如果您希望通过与OSS同地域的其他阿里云产品访问OSS,请使用内网Endpoint。关于OSS支持的Region与Endpoint的对应关系,请参见访问域名和数据中心。
  • 本文以从环境变量读取访问凭证为例。如何配置访问凭证,请参见Python配置访问凭证。

  • 本文以OSS域名新建OSSClient为例。如果您希望通过自定义域名、STS等方式新建OSSClient,请参见Python初始化。
  • 要断点续传上传,您必须有oss:PutObject权限。具体操作,请参见为RAM用户授权自定义的权限策略。

  • 断点续传内部使用了多线程,调用时无需在外部封装多线程,否则可能导致数据重复传输。

  • 网络情况较好时,建议增加分片大小。反之,减小分片大小。

示例代码

以下代码用于断点续传上传。

# -*- coding: utf-8 -*-
import oss2
from oss2.credentials import EnvironmentVariableCredentialsProvider
# 从环境变量中获取访问凭证。运行本代码示例之前,请确保已设置环境变量OSS_ACCESS_KEY_ID和OSS_ACCESS_KEY_SECRET。
auth = oss2.ProviderAuth(EnvironmentVariableCredentialsProvider())
# yourEndpoint填写Bucket所在地域对应的Endpoint。以华东1(杭州)为例,Endpoint填写为https://oss-cn-hangzhou.aliyuncs.com。
# 填写Bucket名称,例如examplebucket。
bucket = oss2.Bucket(auth, 'https://oss-cn-hangzhou.aliyuncs.com', 'examplebucket')

# yourObjectName填写Object完整路径,完整路径中不能包含Bucket名称,例如exampledir/exampleobject.txt。
# yourLocalFile填写本地文件的完整路径,例如D:\localpath\examplefile.txt。如果未指定本地路径,则默认从示例程序所属项目对应本地路径中上传文件。
oss2.resumable_upload(bucket, 'exampledir/exampleobject.txt', 'D:\localpath\examplefile.txt')
# 如未使用参数store指定目录,则会在HOME目录下建立.py-oss-upload目录来保存断点信息。

# Python SDK 2.1.0以上版本支持断点续传上传时设置以下可选参数。
# import sys
# # 当无法确定待上传的数据长度时,total_bytes的值为None。
# def percentage(consumed_bytes, total_bytes):
#     if total_bytes:
#         rate = int(100 * (float(consumed_bytes) / float(total_bytes)))
#         print('\r{0}% '.format(rate), end='')
#         sys.stdout.flush()
# # 如果使用store指定了目录,则断点信息将保存在指定目录中。如果使用num_threads设置并发上传线程数,请将oss2.defaults.connection_pool_size设置为大于或等于并发上传线程数。默认并发上传线程数为1。
# oss2.resumable_upload(bucket, '', '',
#                       store=oss2.ResumableStore(root='/tmp'),
#                       # 指定当文件长度大于或等于可选参数multipart_threshold(默认值为10 MB)时,则使用分片上传。
#                       multipart_threshold=100*1024,
#                       # 设置分片大小,单位为字节,取值范围为100 KB~5 GB。默认值为100 KB。
#                       part_size=100*1024,
#                       # 设置上传回调进度函数。
#                       progress_callback=percentage,
#                       # 如果使用num_threads设置并发上传线程数,请将oss2.defaults.connection_pool_size设置为大于或等于并发上传线程数。默认并发上传线程数为1。
#                       num_threads=4)

相关文档

关于断点续传上传的完整示例代码,请参见GitHub示例。

内容没看懂? 不太想学习?想快速解决? 有偿解决: 联系专家

阿里云企业补贴进行中: 马上申请

腾讯云限时活动1折起,即将结束: 马上收藏

同尘科技为腾讯云授权服务中心。

购买腾讯云产品享受折上折,更有现金返利:同意关联,立享优惠

转转请注明出处:https://www.yunxiaoer.com/158215.html

(0)
上一篇 2023年12月10日
下一篇 2023年12月10日
详情页2

相关推荐

  • 阿里云云原生大数据计算服务 MaxCompute使用Tunnel命令或Tunnel SDK-云淘科技

    MaxCompute的客户端(odpscmd)、Studio等数据上传下载工具均通过Tunnel功能实现数据的上传与下载,本文为您介绍如何使用Tunnel命令或Tunnel SDK上传数据至MaxCompute。 前提条件 已经创建好MaxCompute项目,并用对应的工具连接MaxCompute。 说明 连接MaxCompute的操作详情请参见连接至Max…

  • 阿里云云原生大数据计算服务 MaxCompute存储成本优化-云淘科技

    本文从数据分区、表生命周期和定期删除表3个方面为您介绍如何优化存储成本。 对于存储优化而言,有三个关键点: 合理地进行数据分区。 设置合理的表生命周期。 定期地删除废表。 合理设置数据分区 MaxCompute将分区列的每个值作为一个分区。您可以指定多级分区,即将表的多个字段作为表的分区,分区之间的关系类似多级目录的关系。在使用数据时如果指定了需要访问的分区…

  • 阿里云日志服务SLS导入OSS数据-云淘科技

    本文介绍导入OSS数据到日志服务所涉及的使用限制。 采集限制 限制项 说明 单个文件大小 如果是Snappy压缩格式的文件(非Framing-format格式),最大支持350 MB。 如果是其他格式的文件,最大支持5 GB。 单个文件大小超过限制时,导入任务会忽略整个文件。 单条数据大小 单条数据最大为3 MB。数据大小超过限制时,该数据会被丢弃。 数据处…

    阿里云日志服务SLS 2023年12月10日
  • 信息流广告,信息流部分建议宽度830px,只针对默认列表样式,顺序随机
  • 阿里云日志服务SLS全局参数-云淘科技

    在使用日志服务CLI工具执行命令时,不需要每次都输入全局参数。日志服务CLI默认使用全局参数进行请求处理。本文介绍日志服务CLI的常用全局参数。 参数名称 数值类型 是否必选 示例值 描述 –access-id String 否 LTAI4G243ui******pLMZ 阿里云访问密钥中的AccessKey ID,请根据实际情况替换。如何获取A…

    阿里云日志服务SLS 2023年12月10日
  • 阿里云负载均衡设置报警规则-云淘科技

    开通云监控服务后,您可以通过云监控控制台、API和SDK为传统型负载均衡CLB实例配置监控报警规则。 背景信息 传统型负载均衡CLB(Classic Load Balancer)的监听或实例被删除,其在云监控设置的报警规则也会相应删除。 前提条件 请确保您已经创建了CLB实例并添加了监听并开启了健康检查。具体操作,请参见: 添加TCP监听 添加UDP监听 添…

    2023年12月10日

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信
本站为广大会员提供阿里云、腾讯云、华为云、百度云等一线大厂的购买,续费优惠,保证底价,买贵退差。