Inviato da PNY Pro, 03 maggio 2019
Come appassionato di PC, amo mettere a confronto le soluzioni hardware per determinarne le prestazioni relative nel completamento di un particolare compito. Questo processo è noto anche come "benchmarking". I risultati dei benchmark sono generalmente considerati lo strumento migliore per valutare i meriti di sistemi concorrenti quando si decide di acquistare un prodotto.
In questa serie di blog in tre parti, discuteremo come costruire un sistema, con particolare attenzione al benchmarking delle prestazioni delle GPU per il Deep Learning utilizzando Ubuntu 18.04, NVIDIA GPU Cloud (NGC) e TensorFlow.
La serie di blog procederà come segue:
Prima parte: Introduzione
Parte seconda: considerazioni sull'hardware
Terza parte: Impostazione del software
La maggior parte dei giocatori ha familiarità con strumenti di benchmarking come 3DMark e Unigene Superposition, mentre i professionisti si affidano a suite affidabili come SPECviewperf e PassMark. Per quanto riguarda i benchmark del Deep Learning, il "metro di paragone" più noto è l'addestramento di una rete neurale ResNet-50 utilizzando il dataset ImageNet, in particolare il dataset ImageNet 2012 per la classificazione delle immagini.
Le aziende che si occupano di Deep Learning utilizzano spesso questa metrica per misurare e confrontare le prestazioni di calcolo. Questa metrica è apparsa in un recente blog di NVIDIA che confrontava le prestazioni di diversi framework di Deep Learning. Per saperne di più: https: //developer.nvidia.com/deep-learning-performance-training-inference
Il Deep Learning è in rapida evoluzione, quindi questa metrica non è una rappresentazione completa delle prestazioni del Deep Learning. Tuttavia, è utile e rilevante in quanto ci fornisce uno standard equo per confrontare i risultati delle "immagini al secondo".
Vorrei ricordare che il Dr. Kinghorn di Puget Systems, partner di PNY, ha scritto su questo argomento un anno fa; i suoi blog sono una guida utile per i principianti e offrono consigli utili anche per gli utenti avanzati. I suoi sforzi sono altamente raccomandabili. Leggete il suo blog originale in 5 parti.
Introduzione a NGC.
L'arma segreta per la creazione di questo benchmark del workflow è NVIDIA GPU Cloud, o NGC.
NGC è un registro gratuito di container Docker, una raccolta dei migliori software per la scienza dei dati accelerata, l'apprendimento automatico e l'analisi. I framework più diffusi disponibili su NGC includono TensorFlow, PyTorch, Caffe2 e molti altri. È possibile consultare il registro NGC visitando questo link: https: //ngc.nvidia.com/catalog, non è richiesta alcuna registrazione.
Quindi, cos'è un container? Secondo Docker.com:
"Un container è un'unità standard di software che impacchetta il codice e tutte le sue dipendenze in modo che l'applicazione venga eseguita in modo rapido e affidabile da un ambiente informatico all'altro. L'immagine di un container Docker è un pacchetto di software leggero, autonomo ed eseguibile che include tutto ciò che serve per eseguire un'applicazione: codice, runtime, strumenti di sistema, librerie di sistema e impostazioni". https://www.docker.com/resources/what-container
In base a questa definizione, un contenitore è un ambiente software controllato in cui tutto il software è progettato per funzionare bene insieme. Utilizzando un container Docker, si garantisce che l'ambiente software sia coerente tra i test e privo di errori di dipendenza tra le varie librerie. I container NGC hanno il vantaggio aggiuntivo di essere ottimizzati, convalidati e accelerati da GPU NVIDIA, quindi funzionano bene con le GPU NVIDIA.
Perché è necessario utilizzare un sistema Linux? Attualmente, NGC funziona solo con Linux.
Prima di immergerci nelle considerazioni sull'hardware nel prossimo blog, visitate il registro NGC e fatevi un'idea della vasta gamma di contenitori disponibili. Quindi visitate la landing page di PNY sull'intelligenza artificiale per ulteriori informazioni su come le GPU NVIDIA stanno cambiando il mondo.
