Confronto della idoneità delle GPU NVidia per l'AI
L'AI richiede molto potere...
Indice
Nel mezzo del caos del mondo moderno qui sto confrontando le specifiche tecniche di diverse schede adatte a AI compiti (Deep Learning, Object Detection e LLMs). Sono tutte incredibilmente costose però.
Questo è un’immagine generata dall’AI. Non prenderla troppo seriamente…
Diamo un’occhiata ad altre opzioni, solo per dare un’occhiata intorno
Scheda | VRAM | Larghezza Bus | Bandwidth della Memoria | CUDA Cores | Tensor Cores | Potenza (W) |
---|---|---|---|---|---|---|
RTX 4060 Ti 16GB | 16 GB | 128-bit | 288 GB/s | 4,352 | 136 | 165 |
RTX 4070 Ti 16GB | 16 GB | 256-bit | 672 GB/s | 7,680 | 240 | 285 |
RTX 4080 16GB | 16 GB | 256-bit | 716,8 GB/s | 9,728 | 304 | 320 |
RTX 4080 Super 16GB | 16 GB | 256-bit | 736 GB/s | 10,240 | 320 | 320 |
RTX 4090 24GB | 24 GB | 384-bit | 1008 GB/s | 16,384 | 512 | 450 |
RTX 5060 Ti 16GB | 16 GB | 128-bit | 448 GB/s | 4,608 | 144 | 180 |
RTX 5070 Ti 16GB | 16 GB | 256-bit | 896 GB/s | 8,960 | 280 | 300 |
RTX 5080 16GB | 16 GB | 256-bit | 896 GB/s | 10,752 | 336 | ~320 |
RTX 5090 32GB | 32 GB | 512-bit | 1792 GB/s | 21,760 | 680 | ~450 |
RTX 2000 Ada | 16 GB | 128-bit | 224 GB/s | 2,816 | 88 | 70 |
RTX 4000 Ada | 20 GB | 160-bit | 280 GB/s | 6,144 | 192 | 70 |
RTX 4500 Ada | 24 GB | 192-bit | 432 GB/s | 7,680 | 240 | 210 |
RTX 5000 Ada | 32 GB | 256-bit | 576 GB/s | 12,800 | 400 | 250 |
RTX 6000 Ada | 48 GB | 384-bit | 960 GB/s | 18,176 | 568 | 300 |
Bandwidth della Memoria:
- RTX 5090 (1792 GB/s), poi RTX 4090 (1008 GB/s), poi RTX 6000 Ada (960 GB/s)
Tensor Cores:
- RTX 5090 (680), poi RTX 6000 Ada (568), poi RTX 4090 (512)
CUDA Cores
- RTX 5090 (21,760), poi RTX 6000 Ada (18,176), poi RTX 4090 (16,384)
RAM
- RTX 6000 Ada (48 GB), poi RTX 5090 e RTX 5000 Ada (32 GB), poi RTX 4090 (24 GB)
Prezzi in Australia
- RTX 6000 Ada: 12.000 AUD
- RTX 5090: 6.000 AUD
- RTX 5000 Ada: 7.000 AUD
- RTX 4090: esaurito
La migliore scheda GPU per LLM
Tuttavia penso che la RTX 5090 rimanga comunque la scelta migliore per l’apprendimento automatico, il deep learning, l’AI e anche per LLM :)
Prezzi reali
Un po’ costosa…
E i prezzi reali della RTX 5090 sono il 50% più alti del previsto. Guarda qui!
Quello è del 15/05/2025
Link utili
- Come avviare finestre del terminale in tile su Linux Mint/Ubuntu
- Reinstallare Linux
- Bash Cheat Sheet
- Docker Cheat Sheet
- Ollama Cheat Sheet
- Installare Portainer su Linux
- Problemi di degradazione nei processori Intel 13° e 14° generazione
- Convertire contenuti HTML in Markdown utilizzando LLM e Ollama
- La scheda Quadro RTX 5880 Ada 48GB è buona?
- Riordinare documenti di testo con Ollama e modello di embedding Qwen3 - in Go