În cadrul evenimentului SC19 din Denver Microsoft și NVIDIA au anunțat disponibilitatea serviciului de cloud Azure NDv2 care aduce putere de procesare bazată pe GPU, specializat în operații high computing și machine learning.
Aceste mașini virtuale vin cu 8 GPU-uri NVIDIA Tesla V100 NVLink interconectate, fiecare cu 32GB HMBM2 și 40 non-hyperthreaded cores Intel Xeon Platinum 8168, cu 672 GB RAM. Plus suport 100 Gigabit EDR InfiniBand de la Mellanox.
Practic, oricine vrea să realizeze operații de machine learning sau orice alt fel de procese ce necesită o putere de calcul mărită, o poate face rapid, porning o mașină virtuală în Azure. Cum s-ar spune, un super computer la îndemâna oricui … își permite să plătească facturile asociate. Beneficiile GPU sunt net superioare celor CPU pe anumite tipuri de operații, în special pe cele de machine learning.
Folosind 64 de mașini NDv2, Microsoft și NVIDIA au reușit să antreneze un model BERT în aproximativ trei ore.
Detaliile de preț încă nu sunt oficiale – nici nu mă aștept să fie ieftine serviciile NDv2, cred însă că cel puțin în perioada de preview o să vedem oferte speciale pentru Universități și medii de cercetare ce pot pune în valoare puterea de procesare. Și e bine că și Microsoft vine cu soluții similare celor Amazon, optimizate pentru CUDA.
via MS
