Dr. Jan Morlock

Number of videos:
1
MapReduce mit Disco
PyCon DE 2013
Dr. Jan Morlock
Recorded: Oct. 17, 2013Language: German

Mit dem MapReduce-Verfahren können massive Datenmengen auf einem Rechencluster verarbeitet werden. Namensgeber und wichtige Bestandteile sind eine Map- und eine Reduce-Phase. Diese werden jeweils parallelisiert ausgeführt und ermöglichen somit eine optimale Auslastung der vorhandenen Ressourcen. Im Vergleich zu einer entsprechenden sequentiellen Implementierung können dadurch große Zeiteinsparungen erreicht werden.

Mit dem freien Disco-Framework können MapReduce-Aufgaben leicht in Python erstellt werden. Beim Zugriff auf die Eingabedaten werden verschiedene Protokolle unterstützt. Während der Ausführung kann der Zustand des Rechenclusters sowie der Fortschritt der einzelnen Aufgaben mit Hilfe einer Weboberfläche überwacht werden. Ein verteiltes Dateisystem, das Disco Distributed Filesystem (DDFS), wird zur Speicherung der Zwischen- und Endergebnisse verwendet.