[Thread Ufficiale] Aspettando le nuove vga nVidia

[Andy1111]

Sicuramente dopo questa generazione dovranno sistemare il packaging e la cache, anche in ottica MCM :

While AMD is not as good as Nvidia in many elements of design, we believe they are undoubtably better in some areas such as cache and packaging. We believe much of this stems from their CPU team’s pedigree. AMD is very good at making extremely dense high-performance caches for GPUs as shown by their Infinity Cache. In fact, in our final die size estimates, Nvidia’s 96MB of L2 is still nowhere near as dense as AMD’s 96MB of L3 Infinity Cache.

Questo mi era sfuggito :

With this cache configuration, we can calculate the theoretical cache bandwidth with these figures. AMD has 1.99TB/s Infinity Cache bandwidth on Navi 21 at 1.94GHz. If we assume Nvidia is running at the same 1.94GHz on AD102, then they will be able to achieve 5.96TB/s of bandwidth at their L2. Clocks will differ in the end products, but we expect somewhere around 2.25GHz will be realistic for Ada in desktop. We expect RDNA3 to clock above 2.5GHz on desktop.

[mikael84]

Originariamente inviato da Telstar

Probabilmente le tweakeranno per battere la concorrenza rossa (come al solito).
Fino ad allora sono tutte speculazioni. CMQ almeno i chip midrange sembrano scalare bene.

Si al momento si. Almeno i particolari, tutto il resto dovrebbe essere confermato.

Originariamente inviato da Andy1111

Sicuramente dopo questa generazione dovranno sistemare il packaging e la cache, anche in ottica MCM :

While AMD is not as good as Nvidia in many elements of design, we believe they are undoubtably better in some areas such as cache and packaging. We believe much of this stems from their CPU team’s pedigree. AMD is very good at making extremely dense high-performance caches for GPUs as shown by their Infinity Cache. In fact, in our final die size estimates, Nvidia’s 96MB of L2 is still nowhere near as dense as AMD’s 96MB of L3 Infinity Cache.

Questo mi era sfuggito :

With this cache configuration, we can calculate the theoretical cache bandwidth with these figures. AMD has 1.99TB/s Infinity Cache bandwidth on Navi 21 at 1.94GHz. If we assume Nvidia is running at the same 1.94GHz on AD102, then they will be able to achieve 5.96TB/s of bandwidth at their L2. Clocks will differ in the end products, but we expect somewhere around 2.25GHz will be realistic for Ada in desktop. We expect RDNA3 to clock above 2.5GHz on desktop.

Nvidia è da anni che lavora al MCM, ma ancora non l'ha realizzato probabilmente ha ancora qualche problema di parallelizzazione. Considerando l'MCM compute molto più semplice, mi aspettavo che iniziassero da Hopper, ma a quanto pare il GH102 è stato cancellato. Il problema inizialmente era dovuto alle latenze. In fatti sono curioso di vedere AMD cosa combina, considerando che anche il banco di prova CDNA è una dual gpu, non MCM.



Allora, sul livello l2 vs l3, Ampere attualmente ha latenze l2 quasi pari alla l3 di AMD, di conseguenza ha dovuto optare sulla grandezza e larghezza di banda di quest' ultima, perchè c'è un problema che si chiama warp stall severo, purtroppo ereditato dal compute per una questione di accesso ai registri.

Il gigathread manda i dati ai rispettivi warp (AD102 ne avrà 576 ), e tutti (in maniera semplicistica) cercheranno di lavorare, ma spesso gran parte rimane in idle, in attesa di dati, o facendo altro.
Dentro il warp è stato introdotto un independent sheduler, per evitare pure i frazionamenti dei gruppi di 4 fp. Ovvero warp al lavoro, 4 lavorano, 4 in idle, 4 in coda.

La derivazione compute, ha fatto perdere della efficacia complessiva ai warp, in quanto da maxwell e pascal, venivano processate contemporaneamente 32fp con 512 istruzioni per cuda, ora solo 16 con 1024 istruzioni, ma queste non possono sopperire allo stallo.

Avere il doppio dei warp a parità di cuda, fa si che la percentuale di utilizzo sia ben minore, quindi l'unica soluzione e cercare di dargli quanta più banda, e con minor latenze possibili.
Di l3 si parlava già ai tempi del pre hopper MCM


La fortuna di ampere/turing, sono le migliorie interne a livello di L1/L0 e le operazioni INT contemporanee, ma pecca molto nell'elaborazione warp.
Il tutto si amplifica per operazioni RT, dove il chip necessità di utilizzare in parte tutte le risorse, aumentando ancora le latenze.

Riguardo i clock, si 2,25/2,5ghz saranno mediamente i valori in base ai TDP.
I VRM saranno gli UPI piombati, quindi poco margine.
A 2,25ghz, non potrebbe prendere la 3090.

[Maury]

AD 104 per una ipotetica 4070 da soli 7680 cc non è un pò fiacco ?, se non ricordo male si parlava di una 4060 a tallonare una 3090, ora ci vuole la 4070, siamo stati ridimensionati mi sa

[Ubro92]

Originariamente inviato da Maury

AD 104 per una ipotetica 4070 da soli 7680 cc non è un pò fiacco ?, se non ricordo male si parlava di una 4060 a tallonare una 3090, ora ci vuole la 4070, siamo stati ridimensionati mi sa

Se usano AD103 per il mobile, per forza di cose passi ad AD104 per la 4070 che comunque dovrebbe andare come 3090ti, a seguire il cut con l'eventuale 4060ti che tallonerebbe 3080.

In sostanza si replicherebbe ciò che è avvenuto per ampere con 3060 e 3060ti, ripresentandosi lo stacco di performance tra 4060 e 4060ti, ma l'eventuale 4060 ricavata da AD106 andrebbe comunque come 3070/2080ti e con 12GB di vram quindi il chip rimane appetibile.

[mikael84]

Originariamente inviato da Maury

AD 104 per una ipotetica 4070 da soli 7680 cc non è un pò fiacco ?, se non ricordo male si parlava di una 4060 a tallonare una 3090, ora ci vuole la 4070, siamo stati ridimensionati mi sa

Beh ridimensionati è dire poco, anche se ancora non è del tutto deciso.
Fa pensare il fatto che l'ipotetica 4070 se la vedrebbe alla pari con la 7700xt di AMD.
Questo chip ha come obbiettivo GA102 e 3080/ti varie in base al clock, troppo poco stacco sui chip minori rispetto ai chip top.
La x70 è sempre stata 1/2 del chippone, o qualche volta poco più, qua siamo quasi a livelli da x60 (1/3).

Originariamente inviato da Ubro92

Se usano AD103 per il mobile, per forza di cose passi ad AD104 per la 4070 che comunque dovrebbe andare come 3090ti, a seguire il cut con l'eventuale 4060ti che tallonerebbe 3080.

Troppo ottimista mi sa, la 3090ti, solo pe flops, la prenderesti a 2,8 almeno (43 vs 43tf).

Originariamente inviato da Ubro92

In sostanza si replicherebbe ciò che è avvenuto per ampere con 3060 e 3060ti, ripresentandosi lo stacco di performance tra 4060 e 4060ti, ma l'eventuale 4060 ricavata da AD106 andrebbe comunque come 3070/2080ti e con 12GB di vram quindi il chip rimane appetibile.

AD106 avrà 8gb.
Da considerare anche eventuali cut di entrambe i chip, vedi 3070 iniziale e 3060 liscia.
Saltando AD103 le fasce minori non avrebbero tutto sto salto, anzi pare proprio definire un salto gigante tra x80 e chip midrange.

[Maury]

Originariamente inviato da mikael84

Beh ridimensionati è dire poco, anche se ancora non è del tutto deciso.
Fa pensare il fatto che l'ipotetica 4070 se la vedrebbe alla pari con la 7700xt di AMD.
Questo chip ha come obbiettivo GA102 e 3080/ti varie in base al clock, troppo poco stacco sui chip minori rispetto ai chip top.
La x70 è sempre stata 1/2 del chippone, o qualche volta poco più, qua siamo quasi a livelli da x60 (1/3).

Quello che mi lascia peplesso a questo punto è l'inqadramento della 4060, andrebbe come una 3070TI ? Troppo poco, quando oggi una 3060TI è piuttosto vicina ad una 3070.
Spero che non sia questa la realtà, perchè di botto la 4070 ha perso ogni interesse da parte mia, lo step dopo, 4080 costerà molto ma molto...

[nessuno29]

Certo che Nvidia da Turing in poi le x60 le sta proprio umiliando...

[mikael84]

Originariamente inviato da Maury

Quello che mi lascia peplesso a questo punto è l'inqadramento della 4060, andrebbe come una 3070TI ? Troppo poco, quando oggi una 3060TI è piuttosto vicina ad una 3070.
Spero che non sia questa la realtà, perchè di botto la 4070 ha perso ogni interesse da parte mia, lo step dopo, 4080 costerà molto ma molto...

Lo spero, per me sarebbe pure un upgrade bello sensato, per chi ha dalla 3070 in su, non così eclatante.
in questo caso, significherebbe anche abbandonare il suffisso TI.
Mi sarei aspettato per logica, una 9200 cc, cut AD103.

Da quello che si legge, pare inoltre che ci siano 2 4090, una full (ti), ed una bella cuttata (16-17k), più un cut più aggressivo per cache fallata (4080).
Un 2x in CC tra x80 e x70 è pazzesco.

Cmq entro maggio, dovremmo avere la panoramica completa.

Originariamente inviato da nessuno29

Certo che Nvidia da Turing in poi le x60 le sta proprio umiliando...

Con Ampere, almeno ha mantenuto 1/3 dei cuda dal chippone.
Qua siamo ad 1/4 preciso, e sarebbe anche un downgrade lato ram (infatti sarebbe più x50).

Vediamo l'evolversi.

[davide155]

Ma secondo quale logica (parlo seriamente e serenamente) ad103 dovrebbe andare solo ed esclusivamente su notebook? Cioè perché non introdurlo anche su desktop per frammentare più equamente l'offerta? Così avremmo si una 4070 più vicina alla 4080, ed un bel salto poi per una eventuale 4090ti full mega pawa chip.
Stessa cosa è successa per ampere a quanto ricordo. O sbaglio?
Perché?

[mikael84]

Originariamente inviato da davide155

Ma secondo quale logica (parlo seriamente e serenamente) ad103 dovrebbe andare solo ed esclusivamente su notebook? Cioè perché non introdurlo anche su desktop per frammentare più equamente l'offerta? Così avremmo si una 4070 più vicina alla 4080, ed un bel salto poi per una eventuale 4090ti full mega pawa chip.
Stessa cosa è successa per ampere a quanto ricordo. O sbaglio?
Perché?

E' una possibilità che stanno riportando tutte le fonti. Infatti viene indicata come RTX 4070 AD104-400 12gb.
Anche nell' ultimo riepilogo aggiornato si sottolinea:
https://semianalysis.substack.com/p/...ifications?s=r

"It’s important to note that GA103 never came to desktop and is only available on the top end of laptop GPU, so this could happen again with the Ada generation."

Infatti GA103 è stato completamente dedicato ai notebook ed alla quadro mobile. Successivamente lo hanno decurtato per alcune 3060ti desk che viene utilizzato in alcune zotac.

L'ipotesi andrebbe pure ad allinearsi alla 7700xt di AMD, che sarebbero a questo punto equivalenti.

Naturalmente, io lo riporto per info, di certo al 100% non c'è nulla.

[davide155]

Si si certo capisco, ma non comprendo il perché di nvidia di lasciare quel chip ad appannaggio solo dei notebook. È sprecatissimo per me. O meglio, perché non metterlo sia su notebook che su desktop.....
Sicuramente ci sono delle scelte ben precise.

[mikael84]

Originariamente inviato da davide155

Si si certo capisco, ma non comprendo il perché di nvidia di lasciare quel chip ad appannaggio solo dei notebook. È sprecatissimo per me. O meglio, perché non metterlo sia su notebook che su desktop.....
Sicuramente ci sono delle scelte ben precise.

Qua potrebbero rientrare anche scelte societarie. Era lo stesso scenario pre Ampere.
GA103 con 7680cc, doveva essere il chip della 3080 liscia (con lo stesso bus), poi tale chip, fu cancellato (verso metà maggio), e riapparve come chip mobile (era già disegnato ovviamente).
Questo chip, stranamente è dannatamente grande, un chip da 496mm2, contro i 392mm2 della 3070ti, segno che hanno ripreso il progetto base per il notebook.
La 3080 fu tagliata a pennello vs la 6800xt.

Ora non sappiamo la sorte di AD103, potrebbe essere utilizzato in desk come no, oppure come possibile refresh di serie.

[ninja750]

Originariamente inviato da nessuno29

Certo che Nvidia da Turing in poi le x60 le sta proprio umiliando...

Originariamente inviato da mikael84

Con Ampere, almeno ha mantenuto 1/3 dei cuda dal chippone.
Qua siamo ad 1/4 preciso, e sarebbe anche un downgrade lato ram (infatti sarebbe più x50).

Vediamo l'evolversi.

GTX960 wannabe

[Alfhw]

Ma LDLC non fa più drop di Nvidia Founders? L'ultimo è stato 2 mesi fa.
O forse le Founders sono fuori produzione?

[MarkkJ]

Originariamente inviato da Alfhw

Ma LDLC non fa più drop di Nvidia Founders? L'ultimo è stato 2 mesi fa.
O forse le Founders sono fuori produzione?

sembra di no, su Telegram ho visto solo su siti DE e UK

[mikael84]

Originariamente inviato da ninja750

GTX960 wannabe

GTX 960 sempre 1/3 delle ALU (1024 vs 3072). La 950 aveva 1/4.
GTX 1060: 1280cc/ 3840cc big pascal (1/3)
Ampere: 3584cc (3060) 10752 (big )
Con turing stessa cosa, ma ne hanno fatto due per la questione RT. La classica x60 sarebbe sempre 1/3.

Nel pre Maxwell il margine era ancora minore, ma li non si era ancora verificato il salto di una fasciam tanto che la x80 era il chippone, e la x70 era il suo cut (quella che oggi è la x80ti).

[Thunder-74]

Articolo interessante in merito ai consumi delle VGA e dei picchi che possono essere 3 volte superiori al consumo della scheda stessa per 100ms. Picchi che nell'ipotesi dei 600w delle top della prossima gen, arriverebbe a a 1800w... tutto questo sarebbe perfettamente gestito dal nuovo standard ATX 3.0

Le schede grafiche PCIe Gen 5.0 possono avere "escursioni di potenza" fino a 1800 W, ma gli alimentatori ATX 3.0 possono far funzionare il tuo PC senza intoppi

[Maury]

Una 4070 con 7680 cc torna un minimo interssante se può godere di un clock di almeno 2600 mhz, ma sarà fattibile salire così tanto ?

Sembra strano che nVidia voglia stare così bassa con 4060 e 4070, se le voci su AMD sono vere in raster le rosse andranno veramente forte.

[scorpion73]

Originariamente inviato da Thunder-74

Articolo interessante in merito ai consumi delle VGA e dei picchi che possono essere 3 volte superiori al consumo della scheda stessa per 100ms. Picchi che nell'ipotesi dei 600w delle top della prossima gen, arriverebbe a a 1800w... tutto questo sarebbe perfettamente gestito dal nuovo standard ATX 3.0

Le schede grafiche PCIe Gen 5.0 possono avere "escursioni di potenza" fino a 1800 W, ma gli alimentatori ATX 3.0 possono far funzionare il tuo PC senza intoppi

Se fosse vero ti obbligherebbero a cambiare la PSU, ergo altre spese.
Grazie ma anche no.

[mikael84]

Originariamente inviato da Thunder-74

Articolo interessante in merito ai consumi delle VGA e dei picchi che possono essere 3 volte superiori al consumo della scheda stessa per 100ms. Picchi che nell'ipotesi dei 600w delle top della prossima gen, arriverebbe a a 1800w... tutto questo sarebbe perfettamente gestito dal nuovo standard ATX 3.0

Le schede grafiche PCIe Gen 5.0 possono avere "escursioni di potenza" fino a 1800 W, ma gli alimentatori ATX 3.0 possono far funzionare il tuo PC senza intoppi

e tanto pure.
Devono venderli questi alimentatori a cavo nativo, stop.
Sono contro gli adattatori, ma neppure li vietano in quanto rispettano pienamente le specifiche, addirittura AWG20.

Chiudo OT.

Originariamente inviato da Maury

Una 4070 con 7680 cc torna un minimo interssante se può godere di un clock di almeno 2600 mhz, ma sarà fattibile salire così tanto ?

Sembra strano che nVidia voglia stare così bassa con 4060 e 4070, se le voci su AMD sono vere in raster le rosse andranno veramente forte.

Il clock dipende dal PP, dalla microarchitettura, dall'utilizzo dei transistor (implementando transistor più lenti con meno dispersione di corrente in parti meno sensibili e transistor più rapidi, con una dispersione elevata in altre aree). Ad esempio AMD lavorando sulla dispersione, clock gating etc, ha guadagnato il 17%. Infine dal TDP e dal clock che può essere raggiunto in base al blocco dei VRM.

Quindi viene difficile sapere con certezza, quanto possano boostare e quanto possano raggiungere. Io mi terrei tra i 2,2/2,5, magari 2,2 boost base.
Ad oggi il chip HPC ha preso quasi il 30% di clock a tot. TDP, ma quei clock li prendeva in OC facilmente a 16nm.

Circa AD103, dovremmo aspettare almeno maggio per saperne di più, per ora il primo in fase avanzata è AD102.
Sulla 4070, fa riflettere che impostata così, andrebbe alla pari, o in linea perfetta con la 7700xt di AMD.