Google Cloud ha annunciato la disponibilità generale delle sue macchine virtuali TPU.
Le Tensor Processing Unit (TPU) sono circuiti integrati specifici dell'applicazione (ASIC) sviluppati da Google che vengono utilizzati per accelerare i carichi di lavoro di machine learning.
Cloud TPU ti consente di eseguire i tuoi carichi di lavoro di machine learning sull'hardware di accelerazione TPU del colosso dell'hosting cloud utilizzando la piattaforma di machine learning open source TensorFlow.
Cosa possono fare le macchine virtuali TPU per gli utenti?
Google afferma che la sua comunità di utenti ha abbracciato le TPU virtuali perché forniscono una migliore esperienza di debug e consentono anche determinate configurazioni di addestramento, incluso l'apprendimento per rinforzo distribuito, che a suo dire non erano fattibili con l'architettura del nodo UPT (Internet Access) esistente da Google. .
Le Cloud TPU sono ottimizzate per carichi di lavoro di valutazione e raccomandazione su larga scala secondo Google, citando come Snap sia stato uno dei primi ad adottare la funzionalità.
Inoltre, con il rilascio GA delle VM TPU, Google sta introducendo una nuova API di integrazione TPU, che sostiene possa accelerare i carichi di lavoro di classificazione e raccomandazione basati su ML.
Google ha evidenziato quante aziende moderne si affidano a casi d'uso di ranking e raccomandazioni, come consigli audio e video, consigli sui prodotti e ranking degli annunci.
Il gigante della tecnologia ha affermato che le TPU possono aiutare le aziende a implementare un approccio basato sulla rete neurale profonda per affrontare i casi d'uso di cui sopra, che secondo lui possono essere costosi e ad alta intensità di risorse.
Google afferma inoltre che le sue VM TPU offrono diverse funzionalità aggiuntive rispetto all'architettura del nodo TPU esistente grazie alla loro configurazione di runtime locale, poiché la pipeline dei dati di input può essere eseguita direttamente sugli host TPU, il che consente alle organizzazioni di risparmiare risorse IT.
TPU VM GA Release supporta anche altri importanti framework ML come PyTorch e JAX.
Sei interessato ad implementare una TPU virtuale? Puoi seguire una delle guide rapide o dei tutorial di Google.