详情页标题前

阿里云云原生大数据计算服务 MaxCompute数据传输与迁移概述-云淘科技

详情页1

MaxCompute提供多种渠道,以便您从业务系统或外部数据写入数据到MaxCompute,或者从MaxCompute写出数据到外部系统或外部数据源。

数据传输渠道

  • SDK-Tunnel渠道阿里云云原生大数据计算服务 MaxCompute数据传输与迁移概述-云淘科技
  • (湖仓一体)阿里云云原生大数据计算服务 MaxCompute数据传输与迁移概述-云淘科技
  • JDBC渠道阿里云云原生大数据计算服务 MaxCompute数据传输与迁移概述-云淘科技

场景数据写入MaxCompute

离线数据批量写入(数据通道)

  • 场景特征。
    • 周期调度任务(天、小时级别调用)。
    • 对数据延迟不敏感(只要在调度周期执行完成即可满足需求)。
  • 典型场景。
    类型 典型场景
    数据库批量同步 数据集成-离线数据同步。
    数据上云搬站 MMA。
    本地文件上传 odps控制台-Tunnel命令上传。
    其它自定义上传 SDK写入-批量数据通道(Tunnel)。

离线数据流式写入(数据通道)

  • 场景特征。
    • 流式数据写入(7天24小时不间断写入)。
    • 对数据可见延迟容忍度高(可接受偶发小时级别数据可见延迟)。
    • 对请求延迟容忍度高(可接受偶发分钟级别请求延迟)。
  • 典型场景。
    类型 典型场景
    数据库Binlog采集
    • 数据集成-数据库实时数据同步。
    • DTS。
    日志采集
    • 数据集成-实时数据同步(SLS)。
    • SLS数据投递。
    • 日志采集客户端LogStash。
    流计算任务写入 Flink写入MaxCompute结果表。
    流数据同步任务写入
    • DataHub数据同步MaxCompute。
    • KafKa数据同步MaxCompute。
    自定义写入 SDK写入-流式数据通道(Streaming Tunnel)。

离线数据批量数据写入(外表-湖仓一体)

  • 场景特征:主要用于数据联邦查询分析,偶尔需要对数据进行搬运。
  • 典型场景。
    类型 典型场景
    OSS数据与MaxCompute数据上传
    • LOAD命令。
    • 外部表,湖仓一体。
    Hologres数据写入MaxCompute MaxCompute直读Hologres数据。
    OTS/RDS(MySQL)/HBase/Lindorm/Hudi/HDFS/Hive等其它数据源写入MaxCompute 无。

实时数据写入(数据通道)

  • 可接受数据可见延迟。
    • 对数据可见延迟容忍度高(可接受偶发的小时级别数据可见延迟)。
    • 对请求延迟容忍度低(需要保证稳定的秒级延迟)。
    • 建议实时数据写入DataHub再同步MaxCompute。
  • 需要数据实时可见。
    • 对数据可见延迟容忍度低(需要保证稳定的分钟级数据可见延迟)。
    • 对请求延迟容忍度低(需要保证稳定的秒级延迟)。
    • 建议使用Hologres等实时数仓产品。

场景从MaxCompute读数据

批量数据读取(数据通道)

  • 场景特征。
    • 周期调度任务(天、小时级别调用)。
    • 对数据延迟不敏感(只要在调度周期执行完成即可满足需求)。
  • 典型场景。
    类型 典型场景
    数仓数据批量导出 数据集成-批量数据导出。
    Flink读取MaxCompute表数据 Flink读MaxCompute源表。
    下载数据到本地文件 odps控制台-Tunnel 命令上传。
    其它自定义数据下载 SDK读数据-批量数据通道(Tunnel)。

批量数据读取(JDBC)

  • 场景特征。
    • 数据管理、数据开发、数据治理、数据地图、数据资产管理、需要查看数据样例数据。
    • 数据分析汇总与可视化展现。
  • 典型场景。
    类型 典型场景
    数仓管理员对数据进行预览
    • DataWorks-数据分析、数据管理、数据开发调度(数据通道)。
    • Kettle。
    商业智能,制作报表,看板
    • Quick BI。
    • Superset。

离线数据批量数据读取(外部表-湖仓一体)

  • 场景特征:主要用于数据联邦查询分析,偶尔需要对数据进行搬运。
  • 典型场景。
    类型 典型场景
    OSS数据与MaxCompute数据下载
    • UNLOAD命令。
    • 外部表,湖仓一体。
    Hologres读取MaxCompute数据 Hologres外部表存储直读。
    OTS/RDS(MySQL)等读取MaxCompute数据 无。

内容没看懂? 不太想学习?想快速解决? 有偿解决: 联系专家

阿里云企业补贴进行中: 马上申请

腾讯云限时活动1折起,即将结束: 马上收藏

同尘科技为腾讯云授权服务中心。

购买腾讯云产品享受折上折,更有现金返利:同意关联,立享优惠

转转请注明出处:https://www.yunxiaoer.com/158513.html

(0)
上一篇 2023年12月10日 上午1:20
下一篇 2023年12月10日
详情页2

相关推荐

  • 阿里云大数据开发治理平台 DataWorks概述-云淘科技

    DataWorks的安全中心,帮助您快速构建平台的数据内容、个人隐私等相关的安全能力,满足企业面向高风险场景的各类安全要求(例如,审计),无需您额外配置即可直接使用该功能。 DataWorks的安全中心作为云上大数据体系的安全门户,致力于向您提供面向数据安全生命周期全过程的安全能力,同时在符合安全规范要求的前提下,提供各类安全诊断的最佳实践。其核心功能如下:…

  • DataWorks在做selelct 查询存储在maxcompute中的表的时候,报错?-云小二-阿里云

    DataWorks在做selelct 查询存储在maxcompute中的表的时候,报错? 以下为热心网友提供的参考意见 报错显示项目不存在可以在maxcompute管理控制台看下这个项目是否是存在且正常 ,此回答整理自钉群“DataWorks交流群(答疑@机器人)”

    2023年12月30日
  • 信息流广告,信息流部分建议宽度830px,只针对默认列表样式,顺序随机
  • 阿里云RDS数据库点云模型-云淘科技

    点云数据通常是由3D扫描仪扫描资料并以点的形式输出的记录,每一个点包含有三维坐标,有些可能含有颜色信息(RGB)或反射强度信息(Intensity),点云数据含有空间坐标信息,且具有数量众多、属性维度复杂的特点。 概述 Ganos PointCloud是对象关系型数据库PostgreSQL的一个扩展,使PostgreSQL能够有效快速存储和管理点云数据,并提…

    阿里云数据库 2023年12月9日
  • 阿里云RDS数据库修改或重置账号权限-云淘科技

    您可以根据需要修改普通账号的权限,重置高权限账号的权限为初始状态。 重置高权限账号的权限 进入账号管理页面。 登录RDS管理控制台,在左侧单击实例列表,然后在上方选择地域。 单击目标实例ID,在左侧导航栏单击账号管理。 在目标高权限账号的操作列,单击重置账号权限。 在弹出的对话框中,输入新密码并确认新密码,单击确定。 修改普通账号的权限 进入账号管理页面。 …

    阿里云数据库 2023年12月9日
  • 阿里云日志服务SLS选择网络-云淘科技

    本文介绍使用Logtail采集日志时,如何选择网络。 网络类型 阿里云内网:阿里云内网为千兆共享网络,日志数据通过阿里云内网传输比公网传输更快速、稳定,内网包括VPC和经典网络。 公网:使用公网传输日志数据,不仅会受到网络带宽的限制,还可能会因网络抖动、延迟、丢包等影响数据采集的速度和稳定性。 全球加速:利用阿里云CDN边缘节点进行日志采集加速,相对公网采集…

    2023年12月10日

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信
本站为广大会员提供阿里云、腾讯云、华为云、百度云等一线大厂的购买,续费优惠,保证底价,买贵退差。