Geschrieben von PNY Pro, Mai 03, 2019
Als PC-Enthusiast liebe ich es, Hardwarelösungen gegeneinander auszuspielen, um ihre relative Leistung bei der Bewältigung einer bestimmten Aufgabe zu ermitteln. Dieser Vorgang wird auch als "Benchmarking" bezeichnet. Benchmarking-Ergebnisse gelten in der Regel als das beste Werkzeug, um die Vorzüge konkurrierender Systeme zu bewerten und eine Kaufentscheidung zu treffen.
In dieser dreiteiligen Blogserie werden wir besprechen, wie man ein System aufbaut, mit einem Schwerpunkt auf dem Benchmarking der GPU-Leistung für Deep Learning mit Ubuntu 18.04, NVIDIA GPU Cloud (NGC) und TensorFlow.
Die Blogserie wird wie folgt ablaufen:
Erster Teil: Einführung
Teil Zwei: Überlegungen zur Hardware
Dritter Teil: Software-Einrichtung
Die meisten Gamer sind mit Benchmarking-Tools wie 3DMark und Unigene Superposition vertraut, während Profis sich auf bewährte Suiten wie SPECviewperf und PassMark verlassen. Wenn es um Deep Learning-Benchmarks geht, ist der bekannteste "Maßstab" das Training eines neuronalen ResNet-50-Netzwerks mit dem ImageNet-Datensatz, genauer gesagt dem ImageNet 2012-Datensatz für die Bildklassifizierung.
Unternehmen, die sich auf Deep Learning konzentrieren, verwenden diese Metrik häufig, um die Rechenleistung zu messen und zu vergleichen. Diese Metrik erschien kürzlich in einem NVIDIA-Blog, in dem die Leistung verschiedener Deep Learning-Frameworks verglichen wurde. Mehr darüber erfahren Sie unter: https://developer.nvidia.com/deep-learning-performance-training-inference
Deep Learning entwickelt sich schnell weiter, so dass diese Kennzahl keine vollständige Darstellung der Deep Learning-Leistung ist. Sie ist jedoch nützlich und relevant, da sie uns einen fairen Standard zum Vergleich von "Bildern pro Sekunde"-Ergebnissen bietet.
Ich sollte anmerken, dass Dr. Kinghorn von PNYs Partner Puget Systems vor einem Jahr über dieses Thema geschrieben hat; seine Blogs sind ein nützlicher Leitfaden für Anfänger und bieten auch nützliche Tipps für fortgeschrittene Benutzer. Seine Bemühungen sind sehr empfehlenswert. Nehmen Sie sich die Zeit, seinen ursprünglichen 5-teiligen Blog zu lesen
Einführung in NGC.
Die Geheimwaffe für die Erstellung dieses Workflow-Benchmarks ist die NVIDIA GPU Cloud (NGC).
NGC ist eine kostenlose Docker-Container-Registry, eine Sammlung der besten Software für beschleunigte Data Science, maschinelles Lernen und Analysen. Zu den beliebten Frameworks, die auf NGC verfügbar sind, gehören TensorFlow, PyTorch, Caffe2 und viele andere. Sie können die NGC-Registry unter folgendem Link durchsuchen: https: //ngc.nvidia.com/catalog, eine Registrierung ist nicht erforderlich.
Was also ist ein Container? Laut Docker.com:
"Ein Container ist eine Standard-Softwareeinheit, die den Code und alle seine Abhängigkeiten zusammenfasst, damit die Anwendung schnell und zuverlässig in einer anderen Computerumgebung ausgeführt werden kann. Ein Docker-Container-Image ist ein leichtgewichtiges, eigenständiges, ausführbares Softwarepaket, das alles enthält, was zur Ausführung einer Anwendung benötigt wird: Code, Laufzeit, Systemtools, Systembibliotheken und Einstellungen. https://www.docker.com/resources/what-container
Nach dieser Definition ist ein Container eine kontrollierte Softwareumgebung, in der die gesamte Software so konzipiert ist, dass sie gut zusammenarbeitet. Durch die Verwendung eines Docker-Containers stellen Sie sicher, dass Ihre Softwareumgebung zwischen den Tests konsistent und frei von Abhängigkeitsfehlern über verschiedene Bibliotheken hinweg ist. NGC-Container haben den zusätzlichen Vorteil, dass sie von NVIDIA optimiert, validiert und GPU-beschleunigt sind und daher gut mit NVIDIA-GPUs funktionieren.
Warum müssen Sie ein Linux-System verwenden? Zurzeit funktioniert NGC nur unter Linux.
Bevor wir uns im nächsten Blog mit Hardware-Überlegungen befassen, sollten Sie die NGC-Registrierung besuchen und sich einen Eindruck von der Vielfalt der verfügbaren Container verschaffen. Besuchen Sie dann die PNY-Landingpage für künstliche Intelligenz, um mehr darüber zu erfahren, wie NVIDIA-GPUs die Welt verändern.
