NVIDIA lavora su Neural Texture Compression: giochi più fotorealistici e minore uso di VRAM

Gli ingegneri di NVIDIA stanno lavorando su Neural Texture Compression (NTC), un nuovo metodo di compressione particolarmente adatto a texture e superfici di materiali. La nuova tecnica potrebbe migliorare la grafica nei giochi tenendo sotto controllo la memoria grafica occupata.
di Manolo De Agostini pubblicata il 08 Maggio 2023, alle 08:01 nel canale Schede VideoNVIDIA
Al SIGGRAPH 2023 che si terrà ad agosto NVIDIA parlerà di "Random-Access Neural Compression of Material Textures", una nuova tecnica di compressione neurale pensata specificatamente per le texture dei materiali. Lo studio nasce dalla volontà di affrontare un problema, ovvero la crescente domanda di storage e memoria legati a una grafica che, anno dopo anno, aspira sempre di più al fotorealismo.
"Sblocchiamo due livelli di dettaglio in più, ad esempio 16 volte più texel, usando un bitrate di compressione inferiore, con una qualità d'immagine che è migliore delle tecniche di compressione d'immagine avanzate, come AVIF e JPEG XL. Allo stesso tempo il nostro metodo permette la decompressione on-demand in tempo reale, con accesso casuale simile alla compressone di blocchi di texture sulle GPU, permettendo la compressione su disco e memoria".
Gli ingegneri di NVIDIA, tra cui ritroviamo anche l'italiano Marco Salvi, spiegano che "l'idea chiave dietro il nostro approccio è comprimere più materiali texture e le loro catene di mipmap insieme, e usare una piccola rete neurale, che è ottimizzata per ogni materiale, per decomprimerli. Infine, usiamo un'implementazione di addestramento personalizzata per raggiungere velocità di compressione funzionali, le cui prestazioni superano quelle di framework generali, come PyTorch, di un ordine di grandezza".
We created a novel compression algorithm and format explicitly designed for rendering and graphics. Compressing whole material texture stacks and their mipmaps together, we beat the BC formats by 10-16x - while keeping the random access requirement. pic.twitter.com/mBogq7Nwy3
— Bart Wronski 🇺🇦 (@BartWronsk) May 2, 2023
Neural Texture Compression (NTC) sembra promettere quindi un uso più efficace della VRAM delle schede video, un problema lamentato da molti appassionati. Con 16 volte più texel rispetto alla compressione standard Block Compression (BC), NTC si presenta come un lavoro ancora da affinare ma che sembra partire sotto una buona stella, infatti sfruttando i Tensor core di una RTX 4090 per renderizzare un'immagine in 4K i primi dati prestazionali sono buoni, seppur perfettibili.
"Che dire delle prestazioni?", recita un tweet del ricercatore Bart Wronski, "le reti neurali non sono lente? Non proprio! Sfruttando le GPU NVIDIA con potenti cache e Tensor Core, comprimiamo un materiale 4K a 9 canali in circa 1 minuto. Il costo di decompressione all'interno di uno shader è di circa 0,6-1,1 ms a risoluzione 4K".
The decompression cost inside of a shader is ~0.6-1.1ms at 4K screen resolution.
— Bart Wronski 🇺🇦 (@BartWronsk) May 2, 2023
This requires future work, but it will only get better, and I'd argue that it is already in a practical realm. For more details, check out our paper! https://t.co/La6yaoB1PT pic.twitter.com/4en5iGookb
In un esempio presente nel video che potete vedere di seguito, si vede che la nuova tecnica prevede texture che occupano 3,6 MB, leggermente più grandi di quelle compresse utilizzando il metodo classico (3,33 MB), ma con filtri di qualità superiore e molti più dettagli. La GeForce RTX 4090 usata per il confronto impiega solo 0,49 ms con la tecnica BC e 1,15 ms con NTC.
Può sembrare una piccola differenza ma, in una pipeline di rendering in cui ogni millisecondo gioca un ruolo importante, non lo è. NVIDIA sta lavorando per migliorare le prestazioni di Neural Texture Compression, seppur come affermato da Wronski, il livello raggiunto rientra già nel reame dell'applicabilità concreta.
30 Commenti
Gli autori dei commenti, e non la redazione, sono responsabili dei contenuti da loro inseriti - infoBen vengano tutte queste ottimizzazioni ma physix che fine ha fatto?
Stavo guardando una retrospettiva di Half Life 2 in questi giorni su yt e raccontavano di quando in quello stesso periodo altri team stavano riflettendo sull'uso della fisica dei giochi, e avevano concluso che era un potere "troppo grande" da dare ai giocatori, e che avrebbe probabilmente "rotto" il gioco. HL2 ha osato, e ha avuto successo, ma potrebbe esserci una resistenza da parte dei game designers ad includerla massicciamente, perché le gpu moderne sono tranquillamente in grado di gestire complesse simulazioni fisiche in real time, quindi il problema per cui questo non viene fatto deve essere altrove...
Potrebbe essere interessante come tecnica ma immagino che sarà ovviamente chiusa e proprietaria, anzi meglio, gira ma ad un decimo della velocità, per via di emulazioni e roba varia
Sono solo io che penso che,ci fanno pagare cara della tecnologia che va avanti solo a trucchi alla Houdini?
Il tutto per non ammettere che per RT e altissime risoluzioni,la tecnologia è ancora indietro ...
Sono solo io che penso che,ci fanno pagare cara della tecnologia che va avanti solo a trucchi alla Houdini?
Il tutto per non ammettere che per RT e altissime risoluzioni,la tecnologia è ancora indietro ...
non solo, in questo modo con due righe di software possono continuare a venderti vga con "poca" vram
Tanto si sa che di vram alla fine ne servirà il doppio, perché si la compressione funziona in maniera eccellente in laboratorio, ma all'atto pratico blurra tutto e quindi dobbiamo caricare le texture due volte, per settare "neural texture!! IT'S ON!!!", e preservare al contempo la qualità
Stavo guardando una retrospettiva di Half Life 2 in questi giorni su yt e raccontavano di quando in quello stesso periodo altri team stavano riflettendo sull'uso della fisica dei giochi, e avevano concluso che era un potere "troppo grande" da dare ai giocatori, e che avrebbe probabilmente "rotto" il gioco. HL2 ha osato, e ha avuto successo, ma potrebbe esserci una resistenza da parte dei game designers ad includerla massicciamente, perché le gpu moderne sono tranquillamente in grado di gestire complesse simulazioni fisiche in real time, quindi il problema per cui questo non viene fatto deve essere altrove...
Indubbiamente la fisica genera poi altri problemi, ad esempio se distruggo un edificio poi le routine dei personaggi non giocanti si devono adattare alla nuova situazione, oppure potrei "scavarmi" percorsi alternativi e rompere il gioco ma ci sono una marea di modi per ovviare a questi problemi.
Basta limitare la fisica in modo intelligente.
Intanto fatemi buttare giù qualche albero porca miseria, date un po' più dinamicità all'acqua. I tessuti, cacchio fateli reagire ai colpi. Il fumo, che problema può causare fare in modo che si deformi interagendo con i dintorni.
In un open world potrò rompere due muri o qualche baracca? Potrò incendiare la vegetazione? Createmi acqua più realistica, oceani con moti ondosi che magari cambiano a seconda del clima.
Ci sono cose che già facevano diversi titoli.
In FC2 il fuoco si propagava seguendo il vento porca miseria!! In Bad Company 2 potevi rompere un po' di casette, scavare il terreno. In HL2, che hai citato, potevi interagire con una marea di oggetti. In Crysis potevi rompere le baracche e far crollare le palme. In Red Faction potevi spaccare un sacco di roba. No parliamo poi dei giochi in cui i corpi dei NPC reagivano in modo realistico ai colpi. Vogliamo poi parlare dei combattimenti in prima persona di Dark Messiah of Might and Magic (anche se qui è più combat system ma comunque basato sulla fisica)? Sono titoli usciti da una vita ormai e siamo tornati indietro su tutto, SU TUTTO!
Potrei andare avanti ma direi che ho espresso il concetto.
Insomma dai sono cose su cui si potrebbe lavorare, basta con ste texture, non sono diapositive, sono giochi!
Basta limitare la fisica in modo intelligente.
Intanto fatemi buttare giù qualche albero porca miseria, date un po' più dinamicità all'acqua. I tessuti, cacchio fateli reagire ai colpi. Il fumo, che problema può causare fare in modo che si deformi interagendo con i dintorni.
In un open world potrò rompere due muri o qualche baracca? Potrò incendiare la vegetazione? Createmi acqua più realistica, oceani con moti ondosi che magari cambiano a seconda del clima.
Ci sono cose che già facevano diversi titoli.
In FC2 il fuoco si propagava seguendo il vento porca miseria!! In Bad Company 2 potevi rompere un po' di casette, scavare il terreno. In HL2, che hai citato, potevi interagire con una marea di oggetti. In Crysis potevi rompere le baracche e far crollare le palme. In Red Faction potevi spaccare un sacco di roba. No parliamo poi dei giochi in cui i corpi dei NPC reagivano in modo realistico ai colpi. Vogliamo poi parlare dei combattimenti in prima persona di Dark Messiah of Might and Magic (anche se qui è più combat system ma comunque basato sulla fisica)? Sono titoli usciti da una vita ormai e siamo tornati indietro su tutto, SU TUTTO!
Potrei andare avanti ma direi che ho espresso il concetto.
Insomma dai sono cose su cui si potrebbe lavorare, basta con ste texture, non sono diapositive, sono giochi!
Bisogna fare delle scelte in base al mercato, se vuoi i mega riflessi e le ombre diffuse e tutto luccicoso deve essere tutto immobile, perché altrimenti non basterebbe la potenza di un mainframe a generare il cambio repentino di luce rilfessa, raggi e tutto con la nuova realtà
Come in control, bello bellissimo uau, intanto però i lampadari sono immobili, in un gioco dove tutto vola via come palloncini e spacciato per "vera fisica"
Per non parlare dell'unreal, dove è l'unica cosa che si muove è il giocatore nella maggior parte dei giochi
Devi effettuare il login per poter commentare
Se non sei ancora registrato, puoi farlo attraverso questo form.
Se sei già registrato e loggato nel sito, puoi inserire il tuo commento.
Si tenga presente quanto letto nel regolamento, nel rispetto del "quieto vivere".