GeForce RTX 3000, tutti i segreti dell'architettura Ampere

Nei giorni scorsi Nvidia ha svelato le prime informazioni sulle nuove GeForce RTX 3000, illustrando a grandi linee le novità della nuova architettura Ampere, le prestazioni delle schede video in arrivo e alcune nuove tecnologie che segneranno la prossima generazione di videogiochi in arrivo a partire dalla fine di quest'anno. Nelle scorse ore l'azienda statunitense ha tenuto alcune sessioni tecniche a cui abbiamo avuto modo di partecipare per approfondire alcuni aspetti delle nuove GPU. In attesa di proporvi la recensione delle nuove schede video, possiamo rivelarvi maggiori dettagli sui fondamentali che consentono alle schede GeForce RTX 3070, RTX 3080 e RTX 3090 di migliorare drasticamente le prestazioni delle proposte RTX 2000, consentendo un'esperienza di gioco ad altissima risoluzione, senza dover rinunciare ai miglioramenti grafici legati al ray tracing.

Ampere, cosa cambia rispetto a Turing?

Nvidia ritiene che Ampere rappresenti il passo avanti prestazionale più grande di sempre, qualcosa che non si era ancora visto con le precedenti generazioni. In linea generale, l'azienda guidata da Jen-Hsun Huang afferma di aver migliorato le prestazioni per watt rispetto all'architettura Turing del 90%. Un risultato sì figlio del passaggio a un nuovo processo produttivo (8 nm personalizzati di Samsung), ma soprattutto di un grande lavoro di riprogettazione degli Streaming Multiprocessor (SM), degli RT core (seconda generazione) e dei Tensor core (terza generazione) per prestazioni in crescita rispettivamente di 2,7 volte, 1,7 volte e 2,7 volte.

Per prima cosa, Nvidia ha lavorato sulle unità Streaming Multiprocessor per raddoppiare il throughput per le operazioni FP32 rispetto all'SM di Turing. La casa di Santa Clara ha incluso datapath rinnovati per le operazioni FP32 e INT32. Il datapath in ogni partizione consiste di 16 core FP32 capaci di svolgere 16 operazioni FP32 per clock. Un altro datapath è composto da 16 core FP32 e 16 core INT32.

Di conseguenza, ogni partizione SM di Ampere può eseguire sia 32 operazioni FP32 per clock, o 16 operazioni FP32 e 16 operazioni INT32 per clock. Tutte e quattro le partizioni SM combinate possono eseguire 128 operazioni FP32 per clock, che è il doppio dell'SM di Turing, o 64 operazioni FP32 e 64 operazioni INT32 per clock. Raddoppiare la velocità di calcolo FP32, ci ha spiegato Nvidia, migliora le prestazioni per diverse operazioni di calcolo e in ambito grafico, come il denoising del ray tracing tramite shader.

Raddoppiare il throughput di calcolo ha richiesto il raddoppio dei datapath, ed è per questo che l'SM Ampere ha raddoppiato la larghezza di banda della cache L1 e aumentato la sua capacità del 33%, nonché raddoppiato la dimensione della partizione cache - una parte di cache che contiene informazioni destinate a un uso futuro da parte della GPU, sulla base di quanto svolto in precedenza dagli shader. Le prestazioni della cache L1 dell'SM di Ampere sono pari a 128 byte/clock contro i 64 byte/clock di quello nelle GPU Turing. La bandwidth L1 totale della GeForce RTX 3080 è 219 GB/s contro i 116 GB/s della GeForce RTX 2080 Super.

Come le precedenti GPU Nvidia, Ampere rimane composto da Graphics Processing Cluster (GPC), Texture Processing Cluster (TPC), Streaming Multiprocessor (SM), Raster Operators (ROPs) e controller di memoria. Il GPC è il blocco hardware di livello più alto, con tutte le unità grafiche al suo interno. Ogni GPC include un Raster Engine dedicato e ora include due partizioni ROPs (ogni partizione contiene otto unità ROP), una novità di Ampere.  

Ampere ha inoltre la capacità di far lavorare le unità CUDA core, RT core e Tensor core nello stesso momento, permettendo ad esempio a un gioco di applicare il DLSS per fare l'upscaling di un frame mentre le altre due unità sono impegnate sui calcoli per l'immagine successiva, riducendo il tempo di rendering e di conseguenza aumentando le prestazioni generali.

Per quanto riguarda invece le unità RT core e Tensor Core, Nvidia afferma che Ampere ha unità RT core di seconda generazione capaci di gestire le intersezioni dei raggi con i triangoli al doppio della velocità, mentre la terza generazione dei Tensor Core svolge due volte i calcoli legati alle matrici sparse. Andiamo però con ordine.

I nuovi RT core, in particolare, hanno un paio di importanti novità: l'unità dedicata a calcolare l'intersezione dei raggi con i triangoli (triangle intersection) faceva da collo di bottiglia con Turing, e perciò è stata velocizzata (e dotata di risorse dedicate) per accelerare i calcoli. L'altra aggiunta si chiama interpolate triangle position, ed è pensata per introdurre il motion blur nel mondo del ray tracing. Il motion blur è quell'effetto sfocatura molto usato per gli oggetti in movimento, in modo da restituire un senso di velocità - pensate alle pale di un aereo, una ruota e altro ancora.

Il problema con il motion blur è che i triangoli all'interno del box BVH (Bounding Volume Hierarchy) non sono più fissi nel tempo come con il ray tracing tradizionale. Per questo Nvidia ha migliorato l'RT core, risolvendo il problema e garantendo prestazioni otto volte migliori per quanto riguarda l'attraversamento della scena da parte dei raggi.

Per quanto riguarda i Tensor core di terza generazione, Nvidia ha lavorato sul deep learning in particolare per sfruttare la cosiddetta "sparsity", un fenomeno per cui una matrice densa può essere ridotta senza impatto sulla sua accuratezza, con benefici prestazionali. Si parte da una matrice densa e poi si passa all'allenamento alimentando la rete neurale e facendola evolvere.

Vi è poi la fase di pruning - l'operazione di ridurre la dimensione di una rete rimuovendo parametri - e poi si ritorna ad allenare la rete con i nuovi parametri. In questo modo, il Tensor core è in grado di lavorare al doppio velocità perché salta i dati non necessari. Come si può vedere dalla slide qui sopra, in GA102 ci sono meno Tensor core per SM rispetto al TU102, ma sono molto più efficienti e potenti.

L'impatto delle innovazioni sui videogiochi

Per mostrarci come si traducono tutte queste novità a livello di architettura nel mondo reale, Nvidia ha preso ad esempio Wolfenstein: Youngblood, che prossimamente sarà aggiornato proprio per sfruttare al meglio le caratteristiche di Ampere. L'azienda ha spiegato per filo e per segno l'impatto delle innovazioni sul tempo di rendering di un frame, che è poi quello che decide il frame rate finale.

Per prima cosa Nvidia ci ha mostrato una slide relativa all'architettura Pascal, ossia le schede GeForce GTX 1000, in cui si vede come un frame tradizionale è calcolato dagli shader in 12 millisecondi, mentre quando si prova a dare in pasto il ray tracing allo shader, il tempo sale a 92 millisecondi, raggiungendo così prestazioni ingiocabili.

L'architettura Turing è stata la prima a implementare RT core e Tensor core, unità specializzate pensate proprio per far sì che gli shader si occupino di calcoli a loro più congeniali. L'architettura Turing riduce quei 92 millisecondi a 51 millisecondi sfruttando semplicemente gli shader più performanti, ma l'attivazione degli RT core permette al tempo di rendering del frame di scendere a 20 millisecondi e successivamente, grazie all'ausilio dei Tensor core, di arrivare 12 ms. In pratica, nello stesso tempo in cui Pascal renderizza un frame "classico", Turing non solo si occupa dello shading, ma anche di ray tracing e dei calcoli legati ai Tensor core.

Con Ampere il quadro è ancora migliore. Si passa dai 20 millisecondi per renderizzare un frame (operazioni di shading e ray tracing) delle GPU Turing a 11 millisecondi. Questo si deve al raddoppio delle unità FP32, alla maggiore cache L1 e alle innovazioni della nuova generazione degli RT core. Come potete vedere dalle slide, i calcoli legati al ray tracing vengono completati in circa metà del tempo di Turing e anche lo shading risulta accelerato.

Se si guarda a un frame che contiene shading, ray tracing e DLSS, l'architettura Turing impiega 13 millisecondi, mentre Ampere scende a 7,5 millisecondi operando allo stesso modo. La nuova architettura ha però alcuni assi nella manica e consente un'efficiente esecuzione in parallelo dei calcoli relativa a grafica, ray tracing e DLSS, riuscendo così ad abbassare il tempo di rendering a 6,7 ms. Interessante infine notare come eseguire il ray tracing via software tramite shader richieda 37 millisecondi su Ampere contro i 92 millisecondi di Turing.

Il dissipatore "non convenzionale" delle Founders Edition

Le nuove soluzioni Founders Edition di Nvidia si presentano con un nuovo sistema di raffreddamento, totalmente diverso da quello delle precedenti generazioni. Per crearlo, Nvidia è partita da un assunto, ossia che un classico case moderno ha ventole frontali che immettono aria fredda e una ventola posteriore che estrare l'aria calda. La scheda video si trova nel mezzo e questo le consente di sfruttare il flusso d'aria a proprio vantaggio.

Nvidia ha così ideato un nuovo dissipatore con ventole assiali "push-pull" per la serie RTX 3000 Founders Edition, almeno per quanto riguarda le top di gamma RTX 3090 e RTX 3080, mentre la RTX 3070 ha un aspetto più classico. L'azienda aveva già affermato che il nuovo sistema è in grado di gestire 90W in più rispetto al precedente. Se si pensa al dissipatore della "vecchia" RTX 2080 Ti, si vede come le ventole incamerino aria fresca all'interno del dissipatore, non dando però sfogo all'aria calda, se non dalle feritoie posteriori. La scheda ha inoltre un lungo PCB, su cui si estende il sistema di raffreddamento a camera di vapore, un baseplate per conferire maggiore rigidità e il backplate posteriore.

Per arrivare a poter espelle l'aria calda da più parti seguendo il naturale flusso d'aria nel case, Nvidia è partita dal PCB, realizzando una scheda molto più compatta e densa di componenti, con un finale a "V", per poi adottare un approccio totalmente diverso, che oltre a un telaio esterna unibody (quello con la scritta GeForce RTX), conta un imponente e spesso radiatore e una camera di vapore ibrida con heatpipe più lunga del PCB stesso. La ventola di destra (pull) raccogliere aria fresca dal basso e la fa passare sul radiatore e sulle heatpipe, per poi espellerla verso l'alto, dove viene catturata dalla ventola posteriore del PC. A sinistra invece c'è una seconda ventola che raccoglie altrettanta aria fredda, maggiormente in prossimità della GPU: in questo caso l'aria calda fuoriesce dalle feritoie posteriori, come sempre.

Secondo Nvidia questo sistema di raffreddamento è molto più efficiente del precedente, in quanto posto carico fisso di 320W per la RTX 3080 e RTX 2080, la prima raggiunge temperature di 20° inferiori con una rumorosità di 10 dBA più bassa. Lo stesso discorso vale nel confronto tra la RTX 3090 e la RTX Titan, con la prima che a parità di carico di 350W è 30° più fresca e assicura una rumorosità di 20 dBA inferiore.

In soldoni, secondo Nvidia una scheda video Ampere Founders Edition raggiunge 78 °C e una rumorosità di 30 dBA a fronte di 81 °C e 32 dBA di una Turing, nonostante la nuova proposta produca 40 fps in più e offra uno scaling decisamente migliore. L'azienda assicura che anche mettendo la scheda video in verticale, il sistema di raffreddamento funzionerà pressoché con la stessa efficienza e l'aria calda sparata verso l'alto non dovrebbe comportare problematiche per il raffreddamento ad aria della CPU.

AV1, HDMI 2.1, PCIe 4.0 e altre novità

La nuova famiglia di schede GeForce RTX 3000 integra un encoder di settima generazione (lo stesso delle schede RTX 2000) che userà il nuovo Video Codec SDK 10.0, un SDK rinnovato che sarà integrato nei prossimi mesi nelle app di streaming sbloccato nuovi preset con ulteriori opzioni prestazionali. Allo stesso modo, tutte le schede Ampere hanno un decoder di quinta generazione, differente da quello di Turing, e in grado di abilitare l'accelerazione della decodifica di AV1 tramite la GPU. AV1 è un codec che richiede una bandwidth del 50% inferiore rispetto all'H.264 e permette la riproduzione di video fino all'8K HDR senza un grande impatto prestazionale sulla CPU.

Le GPU Ampere sono inoltre le prime a supportare l'HDMI 2.1 per gestire, grazie a un unico cavo, la risoluzione 8K a 60 Hz oppure il 4K a 120 Hz (garantito inoltre il supporto all'HDR 12 bit). Altra novità per Nvidia è il supporto PCI Express 4.0 da parte delle nuove schede video, ma ciò non significa che non potrete installarle anche sulle motherboard con slot PCIe 3.0: non ci sono incompatibilità di sorta. Nvidia ha inoltre affermato che la differenza prestazionale usando le schede RTX 3000 su bus PCI Express 4.0 oppure 3.0 è ampiamente dipendente dal carico, ma in linea generale è pochi punti percentuali, perciò non è un elemento di cui necessariamente conto nella realizzazione di un nuovo PC.

Nvidia ci ha inoltre parlato di nuovo di RTX IO, la sua tecnologia basata sull'API DirectStorage di Microsoft per liberare le prestazioni dello storage sfruttando la GPU, e trovate tutto quello che ci ha confidato in questo articolo pubblicato nei giorni scorsi e che abbiamo integrato con ulteriori informazioni. Infine, parliamo del connettore PCIe a 12 pin che Nvidia ha adottato sulle nuove schede Founders Edition: Nvidia ha assicurato che si tratta di un progetto a disposizione non solo dei partner, ma anche di altre aziende: se AMD o Intel volessero usarlo per le future schede video, potrebbero farlo senza alcun problema. In ogni caso, sembra che nel caso dei partner Nvidia molti abbiano optato per i classici connettori a 8 pin. A ogni modo nelle scatole delle schede con connettore a 12 pin è presente un adattatore per gli alimentatori con connettori a 8 pin.

RTX 3090, RTX 3080, RTX 3070, ricapitoliamo specifiche e prestazioni

Chiudiamo ricapitolando quanto sappiamo, in termini di specifiche e prestazioni, delle nuove schede. Non abbiamo ancora tutte le informazioni che vorremmo, qualche dettaglio in più lo abbiamo però in particolare per quanto riguarda la RTX 3080. Andiamo però con ordine. La GeForce RTX 3090, come già scritto nei giorni scorsi, anche se numericamente rappresenta l'ammiraglia di questa nuova generazione (almeno per ora), non va intesa come il successore della RTX 2080 Ti bensì della Titan RTX, quindi una scheda video di una categoria superiore, pensata per un uso elitario, tanto che Nvidia ne parla in ottica di gaming 8K, qualcosa di lontanissimo e inavvicinabile per la stragrande maggioranza dei videogiocatori. Ciononostante, dato che al contrario della Titan RTX la nuova proposta arriverà anche sotto forma di soluzioni custom dai partner, Nvidia si aspetta vendite superiori, nonostante il prezzo di oltre 1500 euro (1549 euro per la FE).

Veniamo però ai numeri. La Big Ferocious GPU (BFGPU), come l'ha ribattezzata il CEO Jen-Hsun Huang, si presenta con un totale di 10496 CUDA core, più del doppio rispetto ai 4608 della Titan RTX, di conseguenza le prestazioni passano da 16 a 36 TFLOPs per quanto riguarda gli shader. I nuovi RT core consentono alla nuova BFGPU di raggiungere prestazioni in ray tracing stimate in 70 TFLOPs, a fronte dei 49 TFLOPs della Titan RTX, mentre i nuovi Tensor core toccano prestazioni di 285 TFLOPs, un netto passo avanti rispetto ai 131 TFLOPs garantiti dalle unità di precedente generazione sulla Titan RTX.

L'enorme e potente GPU, che opera a 1,4 - 1,7 GHz (base - boost) è coadiuvata da 24 GB di memoria GDDR6X a 19,5 Gbps collegati da un bus a 384 bit (bandwidth di 940 GB/s). Il TDP (Nvidia in realtà usa TGP) della scheda è di 350W. Il DLSS è di particolare importanza per questa scheda video, infatti la nuova versione 2.1 ha una novità fondamentale che permette di abilitare il ray tracing in 8K: Nvidia parla AI Super Resolution 9X e di "ultra performance mode", con un upscaling da 2560x1400 a 7680x4320 pixel. Altre novità del DLSS 2.1 sono il supporto alla risoluzione dinamica e ai giochi in realtà virtuale, finora esclusi. La RTX 3090 sarà disponibile dal 24 settembre.

La GeForce RTX 3080 è il vero successore della RTX 2080 Ti (nel video qui sotto la nuova scheda è mediamente 40 fps più veloce), anche se Nvidia la paragona per ragioni squisitamente numeriche alla RTX 2080 nel corso delle sue presentazioni. La nuova proposta si basa su una GPU GA102 con 6 GPC, 68 SM e un totale di 8704 CUDA core, esattamente il doppio della precedente ammiraglia. Questo incremento delle unità, per giunta migliorate, consente di raggiungere prestazioni di 30 TFLOPs per quanto concerne gli shader. Le unità RT core (il chip ne ha 68) arrivano a 58 TFLOPs, mentre i Tensor core (272 unità) a 238 TFLOPs. Pensate che la RTX 2080 si ferma a 10 TFLOPs per le prestazioni di shading, 30 TFLOPs per quanto concerne il ray tracing e 81 TFLOPs per i calcoli gestiti dai Tensor core.

Il chip grafico a bordo dei questa scheda lavora di base a 1,44 GHz e accelera a 1,71 GHz grazie agli algoritmi di GPU boost. La scheda è dotata di 10 GB di memoria GDDR6X a 19 Gbps su bus a 320 bit, per una bandwidth di 760 GB/s. A proposito dei 10 GB, l'azienda ritiene che siano più che sufficienti per giocare a titoli come Shadow of the Tomb Raider, Assassin's Creed Odyssey, Metro Exodus, Wolfenstein Youngblood, Gears of War 5, Borderlands 3 e Red Dead Redemption 2 in 4k con dettagli al massimo e ray tracing qualora supportato con prestazioni tra 60 e 100 fps, con un'occupazione della VRAM da 4 a 6 GB. Per quanto riguarda il TDP, Nvidia dichiara 320W. Secondo l'azienda la RTX 3080 è fino a 2 volte più veloce della RTX 2080 e può garantire prestazioni a 60 fps costanti in 4K con ray tracing attivo. La scheda sarà disponibile dal 17 settembre a 719 euro nel caso della Founders Edition.

Infinte la GeForce RTX 3070: numericamente succede alla RTX 2070, ma è una scheda che secondo Nvidia è capace di offrire prestazioni superiori persino alla RTX 2080 Ti e si candida come GPU ideale per chi vuole giocare con alti fps a 1440p oppure in 4K con prestazioni soddisfacenti.

La GPU a bordo di questa scheda conta 5888 CUDA core a 1,5 GHz di base e 1,73 GHz in boost, affiancati da 8 GB di memoria GDDR6 su bus a 256 bit. Il TDP è di 220W. Stando ai dati di Nvidia, mentre gli shader della RTX 2070 assicurano prestazioni di 7 TFLOPs, la nuova arrivata tocca i 20 TFLOPs. Per quanto concerne le prestazioni degli RT core, c'è un balzo da 23 a 40 TFLOPs, mentre i nuovi Tensor core raggiungono 163 TFLOPs al posto di "soli" 60 TFLOPs della RTX 2070. Questa nuova proposta sarà disponibile nel corso di ottobre a 519 euro per quanto riguarda la Founders Edition.