PNY Pro, 3 maggio 2019
Da appassionato di informatica, mi piace mettere a confronto diverse soluzioni hardware per valutare le loro prestazioni relative nell'esecuzione di una determinata attività. Questo processo è noto anche come “benchmarking”. I risultati dell'analisi comparativa sono generalmente considerati lo strumento migliore per valutare i pregi dei sistemi concorrenti al momento di prendere una decisione di acquisto.
In questa serie di articoli in tre parti, parleremo di come realizzare un sistema, concentrandoci sulla valutazione delle prestazioni delle GPU per l'apprendimento profondo utilizzando Ubuntu 18.04, NVIDIA GPU Cloud (NGC) e TensorFlow.
La serie di articoli che seguirà sarà strutturata come segue:
Parte prima: Introduzione
Parte seconda: Considerazioni sull'hardware
Parte terza: Configurazione del software
La maggior parte degli utenti conosce strumenti di benchmarking come 3DMark e Unigene Superposition, mentre i professionisti si affidano a suite affidabili come SPECviewperf e PassMark. Per quanto riguarda i criteri di valutazione dell'apprendimento profondo, il "metro di misura" più noto è l'addestramento di una rete neurale ResNet-50 utilizzando il set di dati ImageNet, più precisamente il set di dati ImageNet 2012 per la classificazione delle immagini.
Le aziende specializzate nel deep learning utilizzano spesso questo parametro per misurare e confrontare le prestazioni di calcolo. Questo parametro è stato menzionato in un recente post sul blog di NVIDIA che metteva a confronto le prestazioni di diversi framework di deep learning. Per saperne di più, visitate il seguente link: https://developer.nvidia.com/deep-learning-performance-training-inference
Il deep learning è in rapida evoluzione, pertanto questo parametro non offre un quadro completo delle sue prestazioni. Tuttavia, è utile e pertinente in quanto fornisce un criterio equo per confrontare i risultati in termini di «immagini al secondo».
Vorrei sottolineare che il dottor Kinghorn di Puget Systems, partner di PNY, ha scritto su questo argomento un anno fa; i suoi blog sono una guida utile per i principianti e offrono anche consigli preziosi per gli utenti esperti. Consiglio vivamente di dare un'occhiata. Prendetevi il tempo di leggere il suo blog originale in cinque parti:
Introduzione a NGC.
L'arma segreta per realizzare questo benchmark del flusso di lavoro è NVIDIA GPU Cloud, o NGC.
NGC è un registro gratuito di container Docker che raccoglie i migliori software per l'accelerazione della scienza dei dati, l'apprendimento automatico e l'analisi. I framework più popolari disponibili su NGC sono TensorFlow, PyTorch, Caffe2 e molti altri. È possibile consultare il registro NGC cliccando su questo link: https://ngc.nvidia.com/catalog, non è richiesta alcuna registrazione.
Allora, cos’è un container? Secondo Docker.com:
“Un container è un’unità software standard che raggruppa il codice e tutte le sue dipendenze, in modo che l’applicazione possa essere eseguita in modo rapido e affidabile da un ambiente informatico all’altro. Un’immagine container Docker è un pacchetto software leggero, autonomo ed eseguibile che include tutto il necessario per l’esecuzione di un’applicazione: codice, runtime, strumenti di sistema, librerie di sistema e configurazioni”. https://www.docker.com/resources/what-container
Secondo questa definizione, un container è un ambiente software controllato in cui tutti i programmi sono progettati per funzionare insieme. Utilizzando un container Docker, si garantisce che l'ambiente software sia coerente tra i vari test e privo di errori di dipendenza tra le diverse librerie. I container NGC presentano l'ulteriore vantaggio di essere ottimizzati, convalidati e accelerati dalla GPU NVIDIA, il che consente loro di funzionare correttamente con le GPU NVIDIA.
Perché dovreste utilizzare un sistema Linux? Al momento, NGC funziona solo con Linux.
Prima di addentrarci nelle considerazioni relative all’hardware nel prossimo articolo, visitate il registro di NGC per farvi un’idea della vasta gamma di container disponibili. Successivamente, visitate la pagina dedicata all’intelligenza artificiale di PNY per ulteriori informazioni su come le GPU NVIDIA stanno cambiando il mondo.
