Vai al contenuto principale
Non classificato

PNY Pro Conseil #01 : Benchmark per il Deep Learning utilizzando le GPU NVIDIA Cloud e Tensorflow (1ère partie)

Da 3 febbraio 202016 gennaio 2023Non ci sono commenti

Inviato da PNY Pro, 03 maggio 2019

In quanto appassionato di informatica, mi piace contrapporre le soluzioni materiali una all'altra per determinare le loro prestazioni relative durante l'esecuzione di un compito particolare. Questo processo è conosciuto anche con il nome di "Benchmarking". I risultati dell'analisi comparativa sono generalmente considerati il miglior strumento per valutare i risultati dei sistemi concorrenti durante una decisione d'acquisto.

In questa serie di blog in tre parti, discutiamo delle modalità di costruzione di un sistema, ponendo l'accento sulla valutazione delle prestazioni delle GPU per l'apprendimento in profondità utilizzando Ubuntu 18.04, NVIDIA GPU Cloud (NGC) e TensorFlow.

La serie di articoli che seguono sono presentati qui:

Partie Une: Introduzione

Parte seconda: Considerazioni sull'hardware

Parte terza: Configurazione del software

La maggior parte dei giocatori conosce gli strumenti di benchmarking come 3DMark e Unigene Superposition, mentre i professionisti utilizzano le suite di fiducia come SPECviewperf e PassMark. Per quanto riguarda i criteri di valutazione dell'apprendistato approfondito, il "bâton de mesure" più conosciuto è la formazione di una rete neuronale ResNet-50 con l'ausilio dell'insieme di dati ImageNet, in particolare l'insieme di dati ImageNet 2012 per la classificazione delle immagini.

Le aziende incentrate sull'apprendimento approfondito utilizzano spesso questa misura per misurare e confrontare le prestazioni di calcolo. Questa misura è presente in un recente blog di NVIDIA che confronta le prestazioni di diversi ambiti del Deep Learning. Per saperne di più su questo argomento, visitate l'indirizzo seguente: https: //developer.nvidia.com/deep-learning-performance-training-inference

Suggerimento 12- NVIDIA

Il Deep Learning si evolve rapidamente, e questa misura non è quindi una rappresentazione completa delle prestazioni del Deep Learning. Ciononostante, è utile e pertinente, in quanto ci consente di disporre di una norma equa per confrontare i risultati "immagini per secondo".

Vorrei ricordare che il dottor Kinghorn di Puget Systems, partner di PNY, ha scritto su questo argomento un anno fa; i suoi blog sono una guida utile per i principianti e offrono anche consigli utili per gli utenti più esperti. I suoi sforzi sono vivamente raccomandati. Prendete il tempo di leggere il suo blog originale in 5 parti:

https://www.pugetsystems.com/labs/hpc/How-To-Setup-NVIDIA-Docker-and-NGC-Registry-on-your-Workstation—Part-1-Introduction-and-Base-System-Setup-1095/

 

Introduzione a NGC.

L'arma segreta per costruire questo benchmark di workflow è NVIDIA GPU Cloud, o NGC.

L'NGC è un registro di contenitori Docker gratuiti, una raccolta dei migliori strumenti per l'accelerazione della scienza dei dati, l'apprendimento automatico e l'analisi. I framework più popolari disponibili su NGC sono TensorFlow, PyTorch, Caffe2 e molti altri. È possibile consultare il registro NGC cliccando su questo link: https: //ngc.nvidia.com/catalog, non è necessaria alcuna iscrizione.

Suggerimento 12 - NGC

E poi, che cos'è un conteneur? Secondo Docker.com :

"Un conteneur è un'unità standard di logica che raggruppa il codice e tutte le sue dipendenze affinché l'applicazione venga eseguita in modo rapido e affidabile da un ambiente informatico all'altro. Un'immagine di contenuto Docker è un insieme di dispositivi logici semplici, autonomi ed esecutivi che comprendono tutto ciò che è necessario per l'esecuzione di un'applicazione: codice, tempi di esecuzione, strumenti di sistema, bibliografia di sistema e parametri ". https://www.docker.com/resources/what-container

Secondo questa definizione, un conteneur è un ambiente logico controllato all'interno del quale tutti i dispositivi logici sono concepiti per funzionare insieme. Utilizzando un conteneur Docker, vi assicurate che il vostro ambiente logico sia omogeneo tra i test e senza errori di dipendenza tra le diverse biblioteche. I conteneurs NGC hanno l'ulteriore vantaggio di essere ottimizzati, validati e accelerati dalle GPU NVIDIA, il che consente loro di funzionare correttamente con le GPU NVIDIA.

Pourquoi devez-vous utiliser un système Linux? Attualmente, NGC funziona solo con Linux.
Prima di affrontare le considerazioni di carattere materiale nel prossimo blog, visitate il registro di NGC e fatevi un'idea della gamma di dispositivi disponibili. Inoltre, visitate la pagina di accoglienza dell'intelligenza artificiale di PNY per avere maggiori informazioni sul modo in cui le GPU NVIDIA cambiano il mondo.

http://www.pny.com/ai

Suggerimento 12 PNY