NVIDIA RTX 4080 - 16 GB nutzbar

Great performance but 16GB limits you to 14B models. Consider 3090 for more VRAM at lower cost.

Technische Daten

MarkeNVIDIA
ModellRTX 4080
Nutzbarer VRAM16 GB
ArchitekturAda
CUDA-Kerne / Stream-Prozessoren9.728
Speicherbandbreite717 GB/s
TDP320 W
FP32-TFLOPS49

Aktuelle Angebote

Gebraucht ab 1.100 €

Preise zuletzt aktualisiert:

GPUDojo wird von seinen Lesern unterstützt. Wenn Sie über Links auf unserer Website einkaufen, erhalten wir möglicherweise eine Provision.

Günstigste erfasste Angebote je Händler

DE · EUR · Wöchentlich seit Mai 2026 · ggf. zzgl. Versand

600 €700 €800 €900 €1.000 €1.100 €8. Mai21. Juni5. Aug.19. Sept.3. Nov.eBay 1.100 €
Zu diesen Preisen

Jede Linie zeigt das günstigste Angebot, das wir bei diesem Händler in wöchentlichen Momentaufnahmen erfasst haben, bis zum heutigen Angebot. Der Zustand kann zwischen den Aufnahmen wechseln (neu, gebraucht oder bei älteren Einträgen nicht erfasst). eBay-Preise verstehen sich ohne Versand.

Tabelle der wöchentlichen Angebote
Günstigstes erfasstes Angebot je Händler · DE · EUR
DatumeBay
Heute, 3. Nov. 2026 1.100,00 €
30. Okt. 2026 1.050,00 €
23. Okt. 2026 1.099,00 €
9. Okt. 2026 950,00 €
2. Okt. 2026 950,00 €
25. Sept. 2026 999,00 €
18. Sept. 2026 949,99 €
11. Sept. 2026 900,00 €
4. Sept. 2026 833,00 €
1. Sept. 2026 849,99 €
28. Aug. 2026 849,99 €
21. Aug. 2026 799,00 €
14. Aug. 2026 799,00 €
7. Aug. 2026 799,00 €
31. Juli 2026 790,00 €
24. Juli 2026 750,00 €
17. Juli 2026 750,00 €
10. Juli 2026 750,00 €
3. Juli 2026 750,00 €
26. Juni 2026 780,00 €
19. Juni 2026 790,00 €
12. Juni 2026 749,99 €
5. Juni 2026 790,00 €
29. Mai 2026 680,00 €
22. Mai 2026 720,34 €
15. Mai 2026 740,00 €
8. Mai 2026 760,00 €

Für KI- und LLM-Einsatz

Gut für 14B-Modelle. 30B-Modelle erfordern eine aggressive Quantisierung.

Welche Modelle laufen darauf?

  • 14B Q6_K, 30B Q3_K (passt knapp)
  • 14B Q4_K_M, 7B mit voller Präzision
  • 7B Q6_K, 14B Q3_K (passt knapp)
  • nur 7B Q4_K_M

Geschätzte Leistung

Generierung: ~54 Token/s

Prefill: ~875 Token/s

Empfohlene Quantisierungen

  • Q4_K_M für 14B-Modelle
  • Q6_K für 7B- bis 8B-Modelle
  • Q8 für 7B, sofern der VRAM reicht

Vor- und Nachteile

Vorteile

  • Ada-Architektur: umfassende Unterstützung durch CUDA-Software
  • Consumer-Karte: einfach einzubauen, mit Displayausgängen

Nachteile

  • 16 GB nutzbarer VRAM: für Modelle ab 30B ist Quantisierung nötig
  • Mittlere Speicherbandbreite: nur mäßige Inferenzgeschwindigkeit
  • 320 W TDP: hoher Stromverbrauch

Community-Fazit

  • r/LocalLLaMA

    Fast but 16GB is the bottleneck. Most recommend spending the same money on a 3090 for more VRAM.

    Quelle