PostgreSQL - Folyamatos archiválás

A RoolWikiBÓL

(Változatok közti eltérés)
2007. október 15., 14:31 változat (szerkesztés)
Rozsahegyil (Vita | szerkesztései)

← Előző változtatások
2007. október 15., 14:35 változat (szerkesztés) (undo)
Rozsahegyil (Vita | szerkesztései)
(Létrehozzuk a backup adatbázist)
Következő változtatások →
50. sor: 50. sor:
* PostgreSQL telepítése a backup gépre. (Ugyanaz a verzió legyen mint a forrás rendszeren!) * PostgreSQL telepítése a backup gépre. (Ugyanaz a verzió legyen mint a forrás rendszeren!)
-* A data.backup.tbz2 kicsomagolása+* A data.backup.tbz2 kicsomagolása
-** Töröljük a pg_log, pg_xlog és pg_xlog/archive_status mappákból a fájlokat+** Töröljük a data/pg_log, data/pg_xlog és data/pg_xlog/archive_status mappákból a fájlokat
-** Töröljük a serverlog, postgresql.pid fájlt!+** Töröljük a data/serverlog, data/postgresql.pid fájlt!
** Szerkesszük át a postgresql.conf fáljt: ne legyen bekapcsolva a wal archiválás! ** Szerkesszük át a postgresql.conf fáljt: ne legyen bekapcsolva a wal archiválás!
archive_command = <két egymást követő aposztróf> archive_command = <két egymást követő aposztróf>
62. sor: 62. sor:
* Indítsuk el a szervert! * Indítsuk el a szervert!
 +
 +Ezt nálunk egy szkript elvégzi:
 +
 + [ -d /uhu/pgsql8.2.3/data ] && echo Először törölni kell a data mappát! && exit 1
 + echo Új data létrehozása.
 + cd /uhu/pgsql8.2.3
 + <br>
 + DATABACKUP=data.backup.tbz2
 + <br>
 + [ ! -f $DATABACKUP ] && echo Nem létezik a $DATABACKUP fájl. && exit 2
 + tar xjf $DATABACKUP
 + <br>
 + echo Új data inicializálása.
 + cd ./data
 + <br>
 + rm postmaster.pid
 + rm -r pg_log/*
 + rm pg_xlog/0*
 + rm -r pg_xlog/safe
 + rm pg_xlog/archive_status/*
 + <br>
 + cp ../postgresql.conf .
 + cp ../recovery.conf .
 + cp ../000* pg_xlog/
 + <br>
 + echo Új data kész.
 + exit 0
 +
Ekkor nem lesz folytonos a mentés. Induláskor amíg talál wal szegmenst, addig azokat betölti, de ezután leáll a visszaállító mód. Ezután hiába jönnek létre a fő szerveren wal szegmensek, azok nem kerülnek át a biztonsági szerverre. A "restore commnad" minden wal szegmensre ki lesz adva, ha az nincs a pg_xlog mappában. Ha egy olyan parancsot írunk ide (lehet egy szkript is), ami addig vár, amíg elérhető nem lesz a következő szegmens, majd végrehajtja a másolást, akkor elérhető a folyamatos mentés. Ezzel magyarázható az is, hogy a biztonsági adatbázis nem használható lekérdezésre. Ekkor nem lesz folytonos a mentés. Induláskor amíg talál wal szegmenst, addig azokat betölti, de ezután leáll a visszaállító mód. Ezután hiába jönnek létre a fő szerveren wal szegmensek, azok nem kerülnek át a biztonsági szerverre. A "restore commnad" minden wal szegmensre ki lesz adva, ha az nincs a pg_xlog mappában. Ha egy olyan parancsot írunk ide (lehet egy szkript is), ami addig vár, amíg elérhető nem lesz a következő szegmens, majd végrehajtja a másolást, akkor elérhető a folyamatos mentés. Ezzel magyarázható az is, hogy a biztonsági adatbázis nem használható lekérdezésre.

2007. október 15., 14:35 változat

Ez a folyamatos archiválás teszt és dokumentáció a 23.3. Continuous Archiving and Point-In-Time Recovery (PITR) és a [1] postgresql dokumentáció alapján készült.

A cél egy másik számítógépre duplikálni a fő adatbázist, úgy hogy folyamatosan - a lehető leginkább - naprakész legyen. Ha a fő rendszer bármilyen hiba miatt működésképtelenné válik, akkor ez a biztonsági léphet a helyébe. A biztonsági adatbázis nem hozzáférhető ebben az üzemmódban. A használatba állításához le kell állítani a folytonos mentés funkcióját.


Tartalomjegyzék

Engedélyezzük a WAL log archiválást

A postgresql.conf fájlban az archive_command változónak kell értéket adni. pl:

archive_command = '
  echo %f >> /home/postgres/wal_ahead_log_8.2.3/date 
  && date >> /home/postgres/wal_ahead_log_8.2.3/date 
  && test ! -f /home/postgres/wal_ahead_log_8.2.3/%f 
  && echo copy >> /home/postgres/wal_ahead_log_8.2.3/date 
  && cp %p /home/postgres/wal_ahead_log_8.2.3/%f
'

(egy sorba kell írni a parancsot!) Elő lehet írni, hogy ha egy megadott időn belül nem készül wal log fájl, akkor készítse el:

archive_timeout = 1h

A wal_ahead_log_8.2.3 mappában összegyűlt fájlokat majd egy másik hoszton működő szerver fogja magához másolni, amikor szüksége van rá. Ezt az scp paranccsal teszi. Mivel a másolás a háttérben történik, be kell állítani, hogy az scp ne kérjen jelszót.

Újra kell olvastatni a postgresql-el a konfigurációs fájlokat.

/etc/init.d/postgresql8.2.3 reload

Készíteni kell egy alap mentést

  • Működjön a wal logok archiválása!
  • Be kell lépni a backup módba.
select pg_start_backup('label');
  • Fájlrendszer szintű mentést kell készíteni
 tar cjf data.backup.tbz2 data
  • backup mód vége
 select pg_stop_backup();

Befejezi a backup módot. Kiírja az utolsó wal szegmens számát. Eddig felhasználva a wal szegmenseket (azaz log fájlokat) a stop backuppal azonos állapotú adatbázis jön majd létre.

Létrehozzuk a backup adatbázist

  • PostgreSQL telepítése a backup gépre. (Ugyanaz a verzió legyen mint a forrás rendszeren!)
  • A data.backup.tbz2 kicsomagolása
    • Töröljük a data/pg_log, data/pg_xlog és data/pg_xlog/archive_status mappákból a fájlokat
    • Töröljük a data/serverlog, data/postgresql.pid fájlt!
    • Szerkesszük át a postgresql.conf fáljt: ne legyen bekapcsolva a wal archiválás!
archive_command = <két egymást követő aposztróf>
archive_timeout = 0
  • A data mappában létre kell hozni egy recovery.conf állományt. Ez tartalmazza a rendszer visszaállítást vezérlő paramétereket. Nekünk most a következő kell:
restore_command = 'scp 192.168.1.13:/home/postgres/wal_ahead_log_8.2.3/%f %p'
  • Indítsuk el a szervert!

Ezt nálunk egy szkript elvégzi:

[ -d /uhu/pgsql8.2.3/data ] && echo Először törölni kell a data mappát! && exit 1
echo Új data létrehozása.
cd /uhu/pgsql8.2.3

DATABACKUP=data.backup.tbz2
[ ! -f $DATABACKUP ] && echo Nem létezik a $DATABACKUP fájl. && exit 2 tar xjf $DATABACKUP
echo Új data inicializálása. cd ./data
rm postmaster.pid rm -r pg_log/* rm pg_xlog/0* rm -r pg_xlog/safe rm pg_xlog/archive_status/*
cp ../postgresql.conf . cp ../recovery.conf . cp ../000* pg_xlog/
echo Új data kész. exit 0


Ekkor nem lesz folytonos a mentés. Induláskor amíg talál wal szegmenst, addig azokat betölti, de ezután leáll a visszaállító mód. Ezután hiába jönnek létre a fő szerveren wal szegmensek, azok nem kerülnek át a biztonsági szerverre. A "restore commnad" minden wal szegmensre ki lesz adva, ha az nincs a pg_xlog mappában. Ha egy olyan parancsot írunk ide (lehet egy szkript is), ami addig vár, amíg elérhető nem lesz a következő szegmens, majd végrehajtja a másolást, akkor elérhető a folyamatos mentés. Ezzel magyarázható az is, hogy a biztonsági adatbázis nem használható lekérdezésre.

A folytonos archiválást biztosító program

A recovery.conf tartalma ekkor a következő lesz:

 restore_command = '/uhu/pgsql8.2.3/bin/get_wal.sh %f %p'

A get_wal.sh program:

#!/bin/bash

SOURCE=$1 TARGET=$2 OK=0 LOGFILE=masol.txt
SIZE_EXPECTED=16777216 #bytes 16 MB
echo >> $LOGFILE echo $SOURCE >> $LOGFILE COUNTER=0 WRONG_SIZE_COUNTER=0
if [ $SOURCE == "00000001.history" ] then exit 1 fi
while [ 1 ] do echo `date` Copy $SOURCE to $TARGET >> $LOGFILE scp 192.168.1.13:/home/postgres/wal_ahead_log_8.2.3/$SOURCE $TARGET >> $LOGFILE RET=$? echo Copy returns $RET >> $LOGFILE if [ "$RET" -ne "0" ] then ((COUNTER++)) echo $COUNTER. returns $RET >> $LOGFILE if [ $COUNTER -gt 10 ] then exit 1 fi echo sleep 10 minutes >> $LOGFILE sleep 10m else if [ -f $TARGET ] then TARGET_SIZE=$(stat -c '%s' ${TARGET}) else TARGET_SIZE=-1 fi echo target size is $TARGET_SIZE >> $LOGFILE if [ $TARGET_SIZE -eq $SIZE_EXPECTED ] then echo done. >> $LOGFILE exit 0 else ((WRONG_SIZE_COUNTER++)) echo $WRONG_SIZE_COUNTER. wrong size: $TARGET_SIZE >> $LOGFILE if [ $WRONG_SIZE_COUNTER -gt 1 ] then exit 0 fi echo sleep 1 minute >> $LOGFILE sleep 1m fi fi done
echo "HIBA" >> $LOGFILE

Az archiválás leállítása

  • Szabványos módon leállítjuk a PostgreSQL adatbázis szervert.
/etc/init.d/postgresql8.2.3 stop
  • Kicseréljük az visszaállító parancsot (restore_command), hogy ne várjon a következő archive log elkészültére, de ha létezik a kért fájl, akkor azt másolja a megadott helyre.
 scp 192.168.1.13:/home/postgres/wal_ahead_log_8.2.3/%f %p
  • újraindítjuk a PostgreSQL adatbázis szervert.
/etc/init.d/postgresql8.2.3 start


Az utolsó - a leállítás előtt sikeresen betöltött - archive logot fogja még kérni a szerver, majd - ha időközben több nem jött létre - befejezi a visszaállító módot (database system is ready).

Személyes eszközök