Veröffentlicht von PNY Pro, 3. Mai 2019
Als PC-Enthusiast liebe ich es, Hardware-Lösungen miteinander zu vergleichen, um ihre relative Leistung bei der Ausführung einer bestimmten Aufgabe zu ermitteln. Dieser Vorgang wird auch als „Benchmarking“ bezeichnet. Benchmark-Ergebnisse gelten in der Regel als das beste Instrument, um die Vorzüge konkurrierender Systeme bei der Kaufentscheidung zu bewerten.
In dieser dreiteiligen Blogserie werden wir erläutern, wie man ein System aufbaut, wobei der Schwerpunkt auf der Leistungsbewertung von GPUs für Deep Learning unter Verwendung von Ubuntu 18.04, NVIDIA GPU Cloud (NGC) und TensorFlow liegt.
Die Blogreihe wird wie folgt fortgesetzt:
Teil 1: Einleitung
Teil 2: Überlegungen zur Hardware
Teil 3: Software-Einrichtung
Die meisten Gamer kennen Benchmark-Tools wie 3DMark und Unigene Superposition, während Fachleute auf bewährte Suiten wie SPECviewperf und PassMark setzen. Bei Deep-Learning-Benchmarks gilt das Trainieren eines ResNet-50-Neuralnetzwerks unter Verwendung des ImageNet-Datensatzes – genauer gesagt des ImageNet-2012-Datensatzes für die Bildklassifizierung – als der bekannteste „Maßstab“.
Unternehmen, die sich auf Deep Learning konzentrieren, nutzen diese Kennzahl häufig, um die Rechenleistung zu messen und zu vergleichen. Diese Kennzahl wurde kürzlich in einem NVIDIA-Blogbeitrag vorgestellt, in dem die Leistung verschiedener Deep-Learning-Frameworks verglichen wurde. Weitere Informationen hierzu finden Sie unter:https://developer.nvidia.com/deep-learning-performance-training-inference
Deep Learning entwickelt sich rasant weiter, daher gibt diese Kennzahl keinen vollständigen Überblick über die Leistungsfähigkeit von Deep Learning. Dennoch ist sie nützlich und relevant, da sie uns einen fairen Maßstab für den Vergleich der Ergebnisse bei „Bildern pro Sekunde“ bietet.
Ich möchte darauf hinweisen, dass Dr. Kinghorn von PNYs Partnerunternehmen Puget Systems bereits vor einem Jahr zu diesem Thema geschrieben hat; seine Blogbeiträge sind ein nützlicher Leitfaden für Anfänger und bieten auch fortgeschrittenen Anwendern hilfreiche Tipps. Seine Beiträge sind sehr empfehlenswert. Nehmen Sie sich die Zeit, seine ursprüngliche 5-teilige Blogreihe zu lesen
Einführung in NGC.
Die Geheimwaffe für die Erstellung dieses Workflow-Benchmarks ist die NVIDIA GPU Cloud, kurz NGC.
NGC ist ein kostenloses Docker-Container-Register, das eine Sammlung der besten Software für beschleunigte Datenwissenschaft, maschinelles Lernen und Analytik bietet. Zu den auf NGC verfügbaren beliebten Frameworks gehören TensorFlow, PyTorch, Caffe2 und viele andere. Sie können das NGC-Register unter folgendem Link durchsuchen: https://ngc.nvidia.com/catalog. Eine Registrierung ist nicht erforderlich.
Was ist also ein Container? Laut Docker.com:
„Ein Container ist eine Standard-Softwareeinheit, die Code und alle seine Abhängigkeiten bündelt, sodass die Anwendung schnell und zuverlässig in verschiedenen Rechenumgebungen ausgeführt werden kann. Ein Docker-Container-Image ist ein schlankes, eigenständiges, ausführbares Softwarepaket, das alles enthält, was zur Ausführung einer Anwendung benötigt wird: Code, Laufzeitumgebung, Systemwerkzeuge, Systembibliotheken und Einstellungen.“ https://www.docker.com/resources/what-container
Nach dieser Definition ist ein Container eine kontrollierte Softwareumgebung, in der alle Komponenten so konzipiert sind, dass sie reibungslos zusammenarbeiten. Durch die Verwendung eines Docker-Containers stellen Sie sicher, dass Ihre Softwareumgebung über alle Tests hinweg konsistent und in Bezug auf verschiedene Bibliotheken frei von Abhängigkeitsfehlern ist. NGC-Container bieten den zusätzlichen Vorteil, dass sie für NVIDIA optimiert, validiert und GPU-beschleunigt sind, sodass sie gut mit NVIDIA-GPUs zusammenarbeiten.
Warum müssen Sie ein Linux-System verwenden? Derzeit funktioniert NGC nur unter Linux.
Bevor wir uns im nächsten Blogbeitrag mit Hardware-Aspekten befassen, schauen Sie doch einmal im NGC-Register vorbei und verschaffen Sie sich einen Überblick über die vielfältigen verfügbaren Container. Besuchen Sie anschließend die Landingpage von PNY zum Thema Künstliche Intelligenz, um mehr darüber zu erfahren, wie NVIDIA-GPUs die Welt verändern.
