Publié par PNY ProLe 3 mai 2019
En tant que passionné d'informatique, j'aime comparer les solutions matérielles les unes aux autres afin de déterminer leurs performances relatives dans l'accomplissement d'une tâche particulière. Ce processus est également connu sous le nom de "benchmarking". Les résultats de l'analyse comparative sont généralement considérés comme le meilleur outil pour évaluer les mérites de systèmes concurrents lors d'une décision d'achat.
Dans cette série de blogs en trois parties, nous verrons comment construire un système, en mettant l'accent sur l'évaluation des performances du GPU pour le Deep Learning à l'aide d'Ubuntu 18.04, de NVIDIA GPU Cloud (NGC) et de TensorFlow.
La série de blogs se déroulera comme suit :
Première partie : Introduction
Deuxième partie : Considérations sur le matériel
Troisième partie : Configuration du logiciel
La plupart des joueurs connaissent les outils d'analyse comparative tels que 3DMark et Unigene Superposition, tandis que les professionnels s'appuient sur des suites fiables telles que SPECviewperf et PassMark. En ce qui concerne les tests d'apprentissage profond, l'outil de référence le plus connu est l'entraînement d'un réseau neuronal ResNet-50 à l'aide de l'ensemble de données ImageNet, plus précisément l'ensemble de données ImageNet 2012 pour la classification d'images.
Les entreprises spécialisées dans le Deep Learning utilisent souvent cette métrique pour mesurer et comparer les performances de calcul. Cette mesure est apparue dans un récent blog de NVIDIA qui comparait les performances de différents frameworks de Deep Learning. Pour en savoir plus, consultez le site : https://developer.nvidia.com/deep-learning-performance-training-inference
L'apprentissage profond évolue rapidement, et cette mesure n'est donc pas une représentation complète des performances de l'apprentissage profond. Cependant, elle est utile et pertinente car elle nous donne une norme équitable pour comparer les résultats "images par seconde".
Kinghorn, de Puget Systems, partenaire de PNY, a écrit sur ce sujet il y a un an ; ses blogs sont un guide utile pour les débutants et offrent également des conseils utiles pour les utilisateurs avancés. Ses blogs sont des guides utiles pour les débutants et offrent des conseils utiles pour les utilisateurs avancés. Ses efforts sont hautement recommandés. Prenez le temps de lire son blog original en 5 parties
Introduction au CGN.
L'arme secrète de ce benchmark de flux de travail est le NVIDIA GPU Cloud, ou NGC.
NGC est un registre gratuit de conteneurs Docker, une collection des meilleurs logiciels pour la science des données accélérée, l'apprentissage automatique et l'analyse. Les frameworks populaires disponibles sur NGC incluent TensorFlow, PyTorch, Caffe2 et bien d'autres. Vous pouvez parcourir le registre NGC en visitant ce lien : https://ngc.nvidia.com/catalog, aucune inscription n'est requise.
Qu'est-ce qu'un conteneur ? Selon Docker.com :
"Un conteneur est une unité logicielle standard qui regroupe le code et toutes ses dépendances afin que l'application s'exécute rapidement et de manière fiable d'un environnement informatique à l'autre. Une image de conteneur Docker est un ensemble de logiciels légers, autonomes et exécutables qui comprend tout ce qui est nécessaire à l'exécution d'une application : le code, le moteur d'exécution, les outils système, les bibliothèques système et les paramètres." https://www.docker.com/resources/what-container
Selon cette définition, un conteneur est un environnement logiciel contrôlé où tous les logiciels sont conçus pour bien fonctionner ensemble. En utilisant un conteneur Docker, vous vous assurez que votre environnement logiciel est cohérent entre les tests et sans erreur de dépendance entre les différentes bibliothèques. Les conteneurs NGC ont l'avantage supplémentaire d'être optimisés, validés et accélérés par le GPU de NVIDIA, de sorte qu'ils fonctionnent bien avec les GPU NVIDIA.
Pourquoi devez-vous utiliser un système Linux ? À l'heure actuelle, le CNG ne fonctionne qu'avec Linux.
Avant de nous pencher sur les considérations matérielles dans le prochain blog, visitez le registre NGC et faites-vous une idée de la diversité des conteneurs disponibles. Ensuite, visitez la page d'atterrissage de PNY sur l'intelligence artificielle pour plus d'informations sur la façon dont les GPU NVIDIA changent le monde.
