Przejdź do głównej treści
Profesjonalny

PNY Pro Tip #01: Benchmark dla głębokiego uczenia przy użyciu NVIDIA GPU Cloud i Tensorflow (część 1)

Wysłane przez PNY Pro03 maja 2019 r.

Jako entuzjasta komputerów PC, uwielbiam porównywać ze sobą rozwiązania sprzętowe, aby określić ich względną wydajność podczas wykonywania określonego zadania. Proces ten znany jest również jako "benchmarking". Wyniki benchmarków są zwykle uważane za najlepsze narzędzie do oceny zalet konkurencyjnych systemów przy podejmowaniu decyzji o zakupie.

W tej 3-częściowej serii blogów omówimy, jak zbudować system, z naciskiem na testowanie wydajności GPU dla Deep Learning przy użyciu Ubuntu 18.04, NVIDIA GPU Cloud (NGC) i TensorFlow.

 

Seria blogów będzie przebiegać w następujący sposób:

Część pierwsza: Wprowadzenie

Część druga: Rozważania na temat sprzętu

Część trzecia: Konfiguracja oprogramowania

Większość graczy zna narzędzia benchmarkowe, takie jak 3DMark i Unigene Superposition, podczas gdy profesjonaliści polegają na zaufanych zestawach, takich jak SPECviewperf i PassMark. Jeśli chodzi o benchmarki Deep Learning, najbardziej znanym "miernikiem" jest szkolenie sieci neuronowej ResNet-50 przy użyciu zestawu danych ImageNet, a dokładniej zestawu danych ImageNet 2012 do klasyfikacji obrazów.

Firmy koncentrujące się na Deep Learning często używają tej metryki do pomiaru i porównywania wydajności obliczeniowej. Metryka ta pojawiła się w niedawnym blogu NVIDIA, w którym porównano wydajność różnych frameworków Deep Learning. Więcej informacji na ten temat można znaleźć na stronie: https://developer.nvidia.com/deep-learning-performance-training-inference

Wskazówka 12- NVIDIA

Deep Learning szybko ewoluuje, więc ta metryka nie jest pełną reprezentacją wydajności Deep Learning. Jest jednak przydatna i istotna, ponieważ daje nam uczciwy standard porównywania wyników "obrazów na sekundę".

Powinienem zauważyć, że Dr Kinghorn z PNY's partner Puget Systems pisał na ten temat rok temu; jego blogi są przydatnym przewodnikiem dla początkujących i oferują przydatne wskazówki również dla zaawansowanych użytkowników. Jego wysiłki są godne polecenia. Poświęć trochę czasu na przeczytanie jego oryginalnego 5-częściowego bloga

https://www.pugetsystems.com/labs/hpc/How-To-Setup-NVIDIA-Docker-and-NGC-Registry-on-your-Workstation—Part-1-Introduction-and-Base-System-Setup-1095/

 

Wprowadzenie do NGC.

Tajną bronią do stworzenia tego benchmarku przepływu pracy jest NVIDIA GPU Cloud lub NGC.

NGC to darmowy rejestr kontenerów Docker, będący zbiorem najlepszego oprogramowania do akceleracji nauki o danych, uczenia maszynowego i analityki. Popularne frameworki dostępne w NGC obejmują TensorFlow, PyTorch, Caffe2 i wiele innych. Rejestr NGC można przeglądać, odwiedzając ten link: https: //ngc.nvidia.com/catalog, rejestracja nie jest wymagana.

Wskazówka 12 - NGC

Czym więc jest kontener? Według Docker.com:

"Kontener to standardowa jednostka oprogramowania, która pakuje kod i wszystkie jego zależności, dzięki czemu aplikacja działa szybko i niezawodnie z jednego środowiska komputerowego do drugiego. Obraz kontenera Docker to lekki, samodzielny, wykonywalny pakiet oprogramowania, który zawiera wszystko, co jest potrzebne do uruchomienia aplikacji: kod, środowisko uruchomieniowe, narzędzia systemowe, biblioteki systemowe i ustawienia". https://www.docker.com/resources/what-container

Biorąc pod uwagę tę definicję, kontener jest kontrolowanym środowiskiem oprogramowania, w którym całe oprogramowanie jest zaprojektowane tak, aby dobrze ze sobą współpracować. Korzystając z kontenera Docker, zapewniasz, że środowisko oprogramowania jest spójne między testami i wolne od błędów zależności w różnych bibliotekach. Kontenery NGC mają tę dodatkową zaletę, że są zoptymalizowane przez NVIDIA, zweryfikowane i akcelerowane przez GPU, więc będą dobrze współpracować z procesorami graficznymi NVIDIA.

Dlaczego musisz używać systemu Linux? Obecnie NGC działa tylko w systemie Linux.

Zanim przejdziemy do rozważań na temat sprzętu w następnym blogu, odwiedź rejestr NGC i zapoznaj się z różnorodnym zestawem dostępnych kontenerów. Następnie odwiedź stronę internetową PNY poświęconą sztucznej inteligencji, aby uzyskać więcej informacji na temat tego, jak układy GPU NVIDIA zmieniają świat.

http://www.pny.com/ai

Wskazówka 12 PNY