详情页标题前

阿里云人工智能平台PAI准备工作-云淘科技

详情页1

为了方便您快速提交训练任务,您在创建训练任务前需准备好训练任务所需的通用计算资源或灵骏智算资源,并配置好训练任务可能需要使用的数据集和代码集,PAI支持添加文件系统NAS或对象存储OSS的数据集以及Git代码集。本文介绍提交训练任务前所需的准备工作。

前提条件

如果您使用OSS作为存储系统,请确保已经根据业务需求为服务关联角色授予了OSS访问权限。否则挂载OSS后,进行数据访问时,可能产生I/O错误。关于如何为服务关联角色授予OSS访问权限,请参见云产品依赖与授权:DLC。

使用限制

由于OSS与NAS不同,并非一个真正的文件系统,而是一个分布式对象存储。因此使用OSS作为存储系统时,不支持文件系统的部分功能。例如,挂载OSS后,不支持对已经存在的文件追加写和覆盖写。

准备资源组

  • 准备通用计算资源组

    提交训练任务前,您需准备好训练任务所需的通用计算资源,通用计算资源包括公共资源组、自运维资源组和专有资源组。阿里云人工智能平台PAI准备工作-云淘科技

    • 公共资源组:授权完成DLC后,即为您准备好公共资源组,无需您手动添加资源组等操作。在工作空间的新建任务页面提交训练任务时,支持选择公共资源组。

    • 专有资源组:您可以预先创建专有资源组并购买计算资源,用于在工作空间的新建任务页面提交训练任务。

    • 自运维资源组:创建了符合要求的ACK集群后,您可以将ACK集群添加为自运维资源组,用于在DLC Dashboard页面提交训练任务。

    通用计算资源的介绍详情请参见新增通用计算资源的资源配额,资源组的准备操作请参见新建及管理通用计算资源。

  • 准备灵骏智算资源组

    如果您想高性能完成AI训练任务,提交训练任务前,您需要准备好训练任务所需的灵骏智算资源,并关联到工作空间,详情请参见灵骏智算资源概述。

(可选)准备数据集

提交训练任务前,您需将训练任务所需的数据上传至OSS或NAS后,创建为训练任务可直接使用的数据集。准备提交训练任务所需的数据集时,有以下注意事项。

  • 创建用于训练任务的数据集时,仅支持创建从阿里云存储这种类型的数据集,且属性必须为文件夹

    重要

    如果需要开启数据集加速,则加速挂载点挂载点类型需选择为VPC,且选择灵骏智算资源绑定的VPC与交换机。

    阿里云人工智能平台PAI准备工作-云淘科技操作入口及其他参数的配置详情请参见创建及管理数据集。

  • 由于OSS与NAS不同,并非一个真正的文件系统,而是一个分布式对象存储。因此使用OSS作为存储系统时,不支持文件系统的部分功能。例如,挂载OSS后,不支持对已经存在的文件追加写和覆盖写。

(可选)准备代码集

提交训练任务前,您需将训练任务可能需要使用的代码添加为代码集。操作详情请参见代码配置。阿里云人工智能平台PAI准备工作-云淘科技

(可选)准备镜像

提交训练任务前,您需准备训练环境需要安装的镜像。您可以直接使用公开的社区标准镜像,PAI也为您提供了公共的阿里云官方镜像,同时您也可以使用自定义镜像。

  • 社区镜像:由社区提供的标准镜像,不同镜像的详情请参见社区镜像版本详情。

  • PAI平台镜像:由阿里云PAI产品提供的多种官方镜像,支持不同的资源类型、Python版本及深度学习框架TensorFlow和PyTorch,镜像列表请参见公共镜像列表。

  • 用户自定义镜像:可选择使用您添加到PAI的自定义的镜像,选择前,您需要先将自定义镜像添加到PAI中,操作详情请参见查看并添加镜像。

  • 镜像地址:使用您自定义的镜像时,也可以直接在相关训练任务的配置框中配置公网环境下可访问的Docker Registry Image URL。

如果您使用自定义镜像,建议您在工作空的AI资产管理 > 镜像页面中,将镜像添加为PAI的AI资产,便于多个训练任务直接选择使用,操作详情请参见查看并添加镜像。阿里云人工智能平台PAI准备工作-云淘科技

内容没看懂? 不太想学习?想快速解决? 有偿解决: 联系专家

阿里云企业补贴进行中: 马上申请

腾讯云限时活动1折起,即将结束: 马上收藏

同尘科技为腾讯云授权服务中心。

购买腾讯云产品享受折上折,更有现金返利:同意关联,立享优惠

转转请注明出处:https://www.yunxiaoer.com/163867.html

(0)
上一篇 2023年12月10日
下一篇 2023年12月10日
详情页2

相关推荐

  • 阿里云对象存储OSSBrowser.js图片处理-云淘科技

    图片处理是OSS提供的海量、安全、低成本、高可靠的图片处理服务。原始图片上传到OSS后,您可以通过简单的RESTful接口,在任何时间、任何地点、任何互联网设备上对图片进行处理。 注意事项 当您使用webpack或browserify等打包工具时,请通过npm install ali-oss的方式安装Browser.js SDK。 通过浏览器访问OSS时涉及…

    阿里云对象存储 2023年12月10日
  • 阿里云对象存储OSSgetallpartsize(获取碎片大小)-云淘科技

    进行分片上传操作时,执行getallpartsize命令可获取Bucket内所有未完成的Multipart任务产生的碎片(Part)信息。 说明 本文各命令行示例均基于Linux 64位系统,其他系统请将命令开头的./ossutil64替换成对应的Binary名称。详情请参见命令行工具ossutil快速入门。 关于分片上传的更多信息,请参见分片上传。 命令格…

    阿里云对象存储 2023年12月10日
  • 阿里云对象存储OSS查询账号级别的用量情况-云淘科技

    通过用户中心查询的账号级别用量情况,可作为计量数据。如果您希望查看当前账号下OSS的使用记录明细,可以导出OSS的用量明细表。 操作步骤 登录用户中心。 在左侧导航栏,选择账单管理 > 账单详情。 在用量明细页签,按以下要求完成各配置项。 参数 说明 产品 选择对象存储OSS。 计量规格 选择对象存储OSS。 使用时间 选择您希望查询的时间段。查询的开…

    阿里云对象存储 2023年12月10日
  • 信息流广告,信息流部分建议宽度830px,只针对默认列表样式,顺序随机
  • 阿里云对象存储OSSOSS ON云盒快速入门-云淘科技

    通过OSS ON云盒,您可以对本地数据进行数据监控、数据处理等操作。OSS ON云盒适用于业务要求低延时、多分支机构统一管理等场景。本文介绍OSS ON云盒的基本操作,包括创建云盒Bucket、在Bucket中上传文件(Object)以及下载Object。 前提条件 仅华东1(杭州)、华南1(深圳)、华南2(河源)、华北2(北京)、西南1(成都)地域支持使用…

    阿里云对象存储 2023年12月10日
  • 阿里云对象存储OSSOSS小时数据-云淘科技

    调用QueryUserOmsData查询OSS按小时计量的数据信息。 请求参数 名称 类型 是否必选 示例值 描述 Action String 是 QueryUserOmsData 系统规定参数,取值为QueryUserOmsData。 DataType String 是 Hour 计量数据时间类型,取值为Hour。 Table String 是 OSS 计…

    阿里云对象存储 2023年12月10日

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信
本站为广大会员提供阿里云、腾讯云、华为云、百度云等一线大厂的购买,续费优惠,保证底价,买贵退差。