阿里云云原生大数据计算服务 MaxComputeMaxCompute后付费消费突增排查-云淘科技

步骤一：获取Information Schema服务

MaxCompute对项目内已完成的作业历史，保留近14天数据。如果您时常有查询14天以前的数据需求，建议定时备份元数据至您的项目中。如果您更多是临时查询14天以内的作业运行历史，可以忽略此步骤。

1. 登录MaxCompute客户端或使用SQL分析连接，执行如下命令创建元数据备份表。

   --project_name为MaxCompute项目名称。
   --创建tasks_history备份表。
   create table if not exists .tasks_history
   (
       task_catalog STRING
       ,task_schema STRING
       ,task_name STRING
       ,task_type STRING
       ,inst_id STRING
       ,status STRING
       ,owner_id STRING
       ,owner_name STRING
       ,result STRING
       ,start_time DATETIME
       ,end_time DATETIME
       ,input_records BIGINT
       ,output_records BIGINT
       ,input_bytes BIGINT
       ,output_bytes BIGINT
       ,input_tables STRING
       ,output_tables STRING
       ,operation_text STRING
       ,signature STRING
       ,complexity DOUBLE
       ,cost_cpu DOUBLE
       ,cost_mem DOUBLE
       ,settings STRING
       ,ds STRING
   );
   --创建tunnels_history备份表
   create table if not exists .tunnels_history
   (
   tunnel_catalog  string
   ,tunnel_schema   string
   ,session_id      string
   ,operate_type    string
   ,tunnel_type     string
   ,request_id      string
   ,object_name     string
   ,partition_spec  string
   ,data_size       bigint
   ,block_id        bigint
   ,offset          bigint
   ,length          bigint
   ,owner_id        string 
   ,owner_name      string 
   ,start_time      datetime
   ,end_time        datetime 
   ,client_ip       string 
   ,user_agent      string 
   ,object_type     string 
   ,columns         string 
   ,ds  string
   );

2. 进入DataWorks数据开发界面，创建ODPS SQL节点（history_backup）并配置定时调度，用于定时将数据写入备份表tasks_history和tunnels_history。完成后单击左上角图标保存。

   创建ODPS SQL节点操作，请参见创建ODPS SQL节点。

   ODPS SQL节点运行的命令示例如下：

   --project_name为MaxCompute项目名称。 
   use ; 
   --备份tasks_history。
   insert into table .tasks_history 
   select task_catalog,task_schema ,task_name,task_type STRING,inst_id,`status`,owner_id,owner_name,result,start_time,end_time,input_records,output_records,input_bytes,output_bytes,input_tables,output_tables,operation_text,signature,complexity,cost_cpu,cost_mem,settings,ds from information_schema.tasks_history where ds ='${datetime1}';
   --备份tunnels_history。
   insert into table .tunnels_history 
   select tunnel_catalog,tunnel_schema,session_id,operate_type,tunnel_type,request_id,object_name,partition_spec,data_size,block_id,offset,length,owner_id,owner_name,start_time,end_time,client_ip,user_agent,object_type,columns,ds from information_schema.tunnels_history where ds ='${datetime1}';

   ${datetime1}为DataWorks的调度参数，您需要在ODPS SQL节点右侧，单击调度配置，在基础属性区域配置参数值为datetime1=${yyyymmdd}。

   说明

   如果需要同时对多个MaxCompute项目的元数据进行统计分析，您可以创建多个ODPS SQL节点，将这些MaxCompute项目的元数据写入到同一张数据备份表中。

SQL作业计算费用高出预期

SQL作业整体消费较高（包含外部表作业），可能是单条作业消费异常，也可能由于重复执行或调度属性配置不合理造成作业量突增。

--分析作业增长趋势。
SELECT  signature
        ,ds
        ,COUNT(*) AS tasknum
FROM    information_schema.tasks_history 
--如果是查询14天前的元数据，需要查询通过步骤三备份的表，表名为.tasks_history
where   task_type = 'SQL' OR task_type = 'SQLRT'
AND ds >= '待查询的日期分区'
GROUP BY ds
         ,signature
ORDER BY tasknum DESC
LIMIT   10000
;

--确认异常的signature，查看对应的SQL作业近期执行情况
SELECT  *
FROM    information_schema.tasks_history 
--如果是查询14天前的元数据，需要查询通过步骤三备份的表，表名为.tasks_history
where   signature = '异常signature'
AND ds >= '待查询的日期分区'
;

Spark计算费用高出预期

Spark作业整体消费较高，可以通过查询消费异常的作业inst_id，查看具体的执行信息。

1. 登录MaxCompute客户端或使用SQL分析连接，使用use命令切换到步骤四找出的高额消费的项目，通过TASKS_HISTORY查询作业消费情况，命令示例如下。

   --开启2.0数据类型开关。2.0数据类型详情，请参见2.0数据类型版本。
   set odps.sql.decimal.odps2=true;
   select  inst_id --实例id
   ,cost_cpu --作业CPU消耗（100表示1 core×s。例如：10 core运行5s，cost_cpu为10×100×5=5000）。
   ,cast(cost_cpu/100/3600 * 0.66 as DECIMAL(18,5) ) cost_sum
   from    information_schema.tasks_history 
   --如果是查询14天前的元数据，需要查询通过步骤三备份的表，表名为.tasks_history
   where   task_type = 'CUPID' and status='Terminated'
   AND ds = '待查询的日期分区'
   ORDER BY cost_sum DESC
   LIMIT 10000
   ;

   说明

   • Spark作业当日计算费用 = 当日总计算时×单价（0.66元/计算时）。

   • task_type = 'CUPID'表示Spark作业。

2. 根据inst_id，查看具体的执行信息，命令示例如下。

   select operation_text from information_schema.tasks_history 
   where ds='任务执行所在日期分区' and inst_id='';