还是继续分析报警信息的关联,下面两个看似没有直接联系的报警信息其实很有关联。
下面是主库的报警的信息,查看v$dataguard_status得到了最新的错误信息。
#############################
[DB监控系统]_adb2_p@10.127.xx.19_报警
ZABBIX-监控系统:
------------------------------------
报警内容: DG_issue
------------------------------------
报警级别: PROBLEM
------------------------------------
监控项目: dg_issue:2015-09-26 03:52:00.0Log Transport ServicesErrorError 12514 received logging on to the standby2015-09-26 03:52:00.0Log Transport ServicesErrorPING[ARC1]: Heartbeat failed to connect to standby '(DESCRIPTION=(ADDRESS_LIST=(ADDRESS=(PROTOCOL=TCP)(HOST=xxxxx.com)(PORT=1521)))(CONNECT_DATA=(SERVICE_NAME=sadb2_XPT)(INSTANCE_NAME=adb2)(SERVER=dedicated)))'. Error is 12514.2015-09-26 03:52:02.0Log Transport ServicesErrorError 12514 received logging on to the standby2015-09-26 03:52:02.0Fetch Archive LogErrorFAL[server, ARC1]: Error 12514 creating remote archivelog file '(DESCRIPTION=(ADDRESS_LIST=(ADDRESS=(PROTOCOL=TCP)(HOST=xxxx)(PORT=1521)))(CONNECT_DATA=(SERVICE_NAME=sadb2_XPT)(INSTANCE_NAME=adb2)(SERVER=dedicated)))'
------------------------------------
报警时间:2015.09.26-03:53:09
下面是相邻时间段里备库的报警信息
[DB监控系统]_acb2_s1@10.127.xx.29_报警
ZABBIX-监控系统:
------------------------------------
报警内容: Free disk space is less than 20% on volume /opt
------------------------------------
报警级别: PROBLEM
------------------------------------
监控项目: Free disk space on /opt (percentage):9.82 %
------------------------------------
报警时间:2015.09.26-03:28:57
这两条信息看似没有必然的关联,我们来分析一下原委,看看怎么解决这个问题。
既然提示备库有问题,我们来看看备库的日志信息。
Redo Shipping Client Connected as PUBLIC
-- Connected User is Valid
RFS[1750]: Assigned to RFS process 3676
RFS[1750]: Identified database type as 'physical standby'
RFS[1750]: Archived Log: '/U01/app/oracle/admin/adb2/arch/1_7751_782793360.dbf'
Sat Sep 26 03:14:46 CST 2015
Stopping background process MMNL
Sat Sep 26 03:14:47 CST 2015
Stopping background process MMON
Sat Sep 26 03:14:48 CST 2015
SMON: disabling cache recovery
Sat Sep 26 03:14:50 CST 2015
Starting background process MMON
Sat Sep 26 03:14:50 CST 2015
ALTER DATABASE RECOVER MANAGED STANDBY DATABASE THROUGH ALL SWITCHOVER DISCONNECT NODELAY
Starting background process MMNL
MMON started with pid=11, OS id=20676
Sat Sep 26 03:14:50 CST 2015
Attempt to start background Managed Standby Recovery process (adb2)
MMNL started with pid=20, OS id=20678
MRP0 started with pid=21, OS id=20680
Sat Sep 26 03:14:50 CST 2015
MRP0: Background Managed Standby Recovery process started (adb2)
Managed Standby Recovery not using Real Time Apply
parallel recovery started with 15 processes
Sat Sep 26 03:14:56 CST 2015
Waiting for all non-current ORLs to be archived...
Media Recovery Log /U01/app/oracle/admin/adb2/arch/1_7751_782793360.dbf
Sat Sep 26 03:14:56 CST 2015
Completed: ALTER DATABASE RECOVER MANAGED STANDBY DATABASE THROUGH ALL SWITCHOVER DISCONNECT NODELAY
Sat Sep 26 03:14:59 CST 2015
Media Recovery Waiting for thread 1 sequence 7752
Sat Sep 26 03:21:38 CST 2015
Redo Shipping Client Connected as PUBLIC
-- Connected User is Valid
RFS[1751]: Assigned to RFS process 21848
RFS[1751]: Identified database type as 'physical standby'
RFS[1751]: Archived Log: '/U01/app/oracle/admin/adb2/arch/1_7752_782793360.dbf'
Sat Sep 26 03:21:39 CST 2015
Media Recovery Log /U01/app/oracle/admin/adb2/arch/1_7752_782793360.dbf
Media Recovery Waiting for thread 1 sequence 7753
单纯看日志没有发现相关的ora错误。
查看备库的文件系统信息。可以看到分区/opt的空间目前是正常的,说明在之后空间得到了释放。
$ df -h
Filesystem Size Used Avail Use% Mounted on
/dev/sda1 5.9G 959M 4.6G 17% /
/dev/sda3 7.5G 6.2G 943M 88% /var
/dev/sda5 12G 2.7G 8.1G 25% /usr
tmpfs 32G 8.0K 32G 1% /dev/shm
/dev/shm 32G 8.0K 32G 1% /tmp
/dev/sda7 495G 352G 118G 75% /opt
好了,问题背景交代完了,我们这个时候就来分析一下,这个问题在最近每天都会存在,时间段固定,可以断定这是一个scheduler或者crontab之类触发的。
而数据备份在备库中,crontab更加现实一些,因为这个库是10g的库,还在mount阶段。
所以查看了crontab,发现确实在特定的时间段存在一个备份任务。这是一个使用datapump的逻辑备份。
因为这个库也不算大,但是数据还是比较重要,在有些数据误删除的情况下,还可以根据需要做一些对应的数据恢复工作,所以采用了逻辑备份的方式做了一次全备。
查看base目录下的空间使用情况,发现备份集的数据比数据库数据文件的还要大一些。这个似乎也不太合理。
$ du -sh ./*
182G ./backup_stage
169G ./oracle
12M ./oraInventory
oracle目录下的文件如下:
oracle]$ ll
total 12
drwxrwxr-x 3 oracle oinstall 4096 Feb 19 2014 admin
drwxr-xr-x 3 oracle oinstall 4096 May 14 2012 oradata
drwxrwxr-x 5 oracle oinstall 4096 Jul 30 11:08 product
查看之后发现backup_stage下存放的是近两天的备份内容,也就是近两天的数据备份都可以根据需要进行恢复。
那么crontab是怎么配置的呢?
30 1 * * * . $HOME/.adb2profile;$HOME/dbadmin/scripts/expdpfull.sh
这个重要的脚本的内容如下:
less $HOME/dbadmin/scripts/expdpfull.sh
#!/bin/bash
. ~oracle/.bash_profile
home=~oracle
export home
lexphome=/U01/app/backup_stage/exp
export lexphome
expfile=${ORACLE_SID}_`date +%Y%m%d`
export expfile
dgmgrl / "edit database sadb2 set state='READ-ONLY'"
if [ $? -ne 0 ]; then
echo "set read-only failed!"
exit 1
fi
sleep 60
exp \'/ as sysdba\' parfile=$home/dbadmin/scripts/dbexp_full_adb2.par log=$lexphome/${expfile}.log
dgmgrl / "edit database sadb2 set state='ONLINE'"
if [ $? -ne 0 ]; then
echo "set online failed!"
exit 1
fi
find $lexphome/ -name '*.dmp' -mtime +1 -exec rm -f {} \;
所做的工作大体如下,取消备库的日志应用,然后把数据库置为read-only状态,然后做逻辑备份,备份完成之后把备库开启日志应用,然后删除前一天的备份。
流程和思路应该看不出什么问题吧。
但是这个问题仔细琢磨了下,觉得还是哪里不对劲,但又说不出。最后仔细揣摩了一番,发现这个流程其实还是可以做改进的。
打个比方,磁盘剩余空间又160G,每天的备份大概是50G,这样每天备份完成删除之后就会剩余60G的空间,
如果按照现有的流程来做,就是下面的形式
开启逻辑备份 50G, 已有近两天的备份100G,那么剩余空间就是160G-50G*2-50G=10G
如果是这种情况,就会出现空间的紧缩和抖动。使用zabbix查看近期的空间紧缩情况确实就是这样的情况
我们可以做这样一种优化,即开始备份前,删除前两天的一个备份,然后开始当天的备份,这样,备份就始终是两个,空间使用率反而还会短期扩张。
明白了思路,解决起来就轻松很多,可以直接在备份前开始清理前两天的一个备份。
脚本内容如下:
less $HOME/dbadmin/scripts/expdpfull.sh
#!/bin/bash
. ~oracle/.bash_profile
home=~oracle
export home
lexphome=/U01/app/backup_stage/exp
export lexphome
expfile=${ORACLE_SID}_`date +%Y%m%d`
export expfile
find $lexphome/ -name '*.dmp' -mtime +1 -exec rm -f {} \;
dgmgrl / "edit database sadb2 set state='READ-ONLY'"
if [ $? -ne 0 ]; then
echo "set read-only failed!"
exit 1
fi
sleep 60
exp \'/ as sysdba\' parfile=$home/dbadmin/scripts/dbexp_full_adb2.par log=$lexphome/${expfile}.log
dgmgrl / "edit database sadb2 set state='ONLINE'"
if [ $? -ne 0 ]; then
echo "set online failed!"
exit 1
fi
find $lexphome/ -name '*.dmp' -mtime +1 -exec rm -f {} \;
这样空间使用就会始终保持在基线之上,达到一个相对合理的状态。
明白了这一点,再来看看我们所说的报警,主库的v$dataguard_status中有这样一段内容,Error 12514 creating remote archivelog file '(DESCRIPTION=(ADDRESS_LIST=(ADDRESS=(PROTOCOL=TCP)(HOST=xxxx)(PORT=1521)))(CONNECT_DATA=(SERVICE_NAME=sadb2_XPT)(INSTANCE_NAME=adb2)(SERVER=dedicated)))'
大体意思就是从主库发送归档到备库失败,无法创建,无法创建的原因应该就是空间问题,但是备库的空间马上又释放了,所以从日志中还没有体现出来。
所以在空间有限的情况下我们进行流程的优化,达到的效果还是一致的。