Tar hat einen gravierenden Nachteil: Tar nutzt beim Packen nur einen Prozessorkern. Auf heutigen Systemen mit 4,8,16 CPUs ein großes Manko.

Was die wenigsten wissen: TAR steht für Tape ARrchiver und wurde dafür geschrieben Daten auf Magnetbändern zu sichern. Unter Linux hat er sich zum de-facto Standard für das Sichern von Backups etabliert. Die Standard-Syntax, die jeder Admin kennt, lautet
tar cvzf archiv.tgz Pfad1/ Pfad2/

Für bessere Packraten d.h. kleinere Archive gibt es die von Haus aus unterstützte Alternative bzip2:
tar cvjf archiv.tgz Pfad1/ Pfad2/
Diese Form des Backups hat auf modernen Rechnern aber einen gravierenden Nachteil:
Tar nutzt beim Packen nur einen Prozessorkern. Auf heutigen Systemen mit 4,8,16 CPUs ein großes Manko, dass leider auch viel Zeit kostet, wenn man zB darauf warten muss bis ein Backup fertig ist um den nächsten Prozess zu starten.

TAR zu parallelisieren mit pigz

Abhilfe schafft das kleine Programm pigz, welches als externer Packer für tar genutzt werden kann.
pigz ermöglicht es TAR zu parallelisieren und mehrere CPUs für TAR zu nutzen.
Mit dem Parameter „--use-comcodess-program=“ oder kurz “-I” kann tar alternative externe Packer verwenden.
Dem Parameter kann entweder nur der Name oder der komplette Pfad zum Packer angegeben werden.
tar -c --use-comcodess-program=/opt/pigz/pigz -f archiv.tgz Pfad1/ Pfad2/
oder kurz:
tar -c -I pigz -f archiv.tgz Pfad1/ Pfad2/

Voraussetzungen für parallelisierten TAR unter Ubuntu

Installation von pigz unter Ubuntu  14.04.3 LTS
apt-get install pigz

Installation von pigz unter anderen Distributionen

  1. Download von pigz von der Homepage http://zlib.net/pigz/
  2. pigz mit tar entpacken 😉
  3. In das entpackte Verzeichnis wechseln
  4. make” eingeben
  5. “pigz” liegt nun in dem Verzeichnis

 

1 Kommentar
  1. Kristian
    Kristian sagte:

    Erstaunlich was man noch so lernt zur späten Stunde :D. Danke für den Tipp. Damit geht es echt schneller.

    Btw. unter CentOS 7 / 8 lässt sich pigz mit dem Befehl
    > yum install -y pigz
    installieren.

    Antworten

Hinterlasse ein Kommentar

An der Diskussion beteiligen?
Hinterlasse uns deinen Kommentar!

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.