GBase 8a集群通过SQL查询加载历史记录日志

GBase 8a数据库集群,通过load加载入库,并在加载完成后,将加载信息记录到文件loader_result.log日志文件里,用户可以自行对文件进行分析。数据库也提供了SQL的方式从元数据表load_result查询。如果加载日志行数非常多,将占用很多的内存资源。

1、加载日志文件保存路径

加载完成时将加载结果信息,没有写入到真实的表里面,而是写入到日志文件 loader_result.log 中,加载结 果信息是以’|’为列分隔符,以’\n’为行分隔符存储的普通文本文件,存放在发起 节点 gcluster($GCLUSTER_HOM/log/gcluster/)日志目录,不支持指定存放路 径。

可以通过文件,直接看到每次加载的结果。如果文件很大,后面的通过SQL的方式耗时会很长,并占用大量内存,建议用文件排查或统计。

SQL方式是通过每次加载整个文件到一个内存表(memory引擎),然后提供了SQL查询方式,所以每次查询都会重新加载入库。

建议,如果真的要对很长时间的数据进行统计分析,可以先把数据load到一个自行创建的表(express引擎)里面,然后再统计分析。

2、通过SQL查询当前节点发起的加载结果记录

gbase> select * from information_schema.load_result where task_id=17\G
*************************** 1. row ***************************
        TASK_ID: 17
        DB_NAME: testdb
        TB_NAME: dim_busi_info_20170527_test
           USER: root
      ACCESS_IP: 192.168.174.61
        HOST_IP: 192.168.174.61
     START_TIME: 2017-09-21 14:48:00
       END_TIME: 2017-09-21 14:48:02
   ELAPSED_TIME: 2
     TOTAL_SIZE: 429542
  AVERAGE_SPEED: 214771
 LOADED_RECORDS: 6878
SKIPPED_RECORDS: 1
  IGNORED_FILES: 0
         RESULT: SUCCESS
        SQL_CMD: LOAD DATA INFILE 'ftp://gbase:*****@192.168.174.61/dim_busi_info_20170527_test' into table dim_busi_info_20170527_test fields terminated by ','
        MESSAGE: 
1 row in set (Elapsed: 00:00:00.01)

3、SQL查询整个集群所有节点发起的加载结果记录

gbase> select * from information_schema.cluster_load_result where task_id=17\G
*************************** 1. row ***************************
        TASK_ID: 17
        DB_NAME: testdb
        TB_NAME: dim_busi_info_20170527_test
           USER: root
      ACCESS_IP: 192.168.174.61
        HOST_IP: 192.168.174.61
     START_TIME: 2017-09-21 14:48:00
       END_TIME: 2017-09-21 14:48:02
   ELAPSED_TIME: 2
     TOTAL_SIZE: 429542
  AVERAGE_SPEED: 214771
 LOADED_RECORDS: 6878
SKIPPED_RECORDS: 1
  IGNORED_FILES: 0
         RESULT: SUCCESS
        SQL_CMD: LOAD DATA INFILE 'ftp://gbase:*****@192.168.174.61/dim_busi_info_20170527_test' into table dim_busi_info_20170527_test fields terminated by ','
        MESSAGE: 
1 row in set (Elapsed: 00:00:00.02)

对应字段含义如下

查看加载错误数据的方法,请参考

GBase 8a集群通过SQL获得加载错误数据信息日志

常见加载错误信息,请参考

GBase 8a数据库加载LOAD报错信息分析和解决文章汇总

GBase 8a集群通过SQL查询加载历史记录日志》有1条评论

发表评论

您的电子邮箱地址不会被公开。