NVIDIA RTX 4090 - 24 GB nutzbar

Fastest consumer GPU for AI inference. Worth it if speed matters more than value.

Technische Daten

MarkeNVIDIA
ModellRTX 4090
Nutzbarer VRAM24 GB
ArchitekturAda
CUDA-Kerne / Stream-Prozessoren16.384
Speicherbandbreite1008 GB/s
TDP450 W
FP32-TFLOPS83

Aktuelle Angebote

Gebraucht ab 2.999 €

Preise zuletzt aktualisiert:

GPUDojo wird von seinen Lesern unterstützt. Wenn Sie über Links auf unserer Website einkaufen, erhalten wir möglicherweise eine Provision.

Günstigste erfasste Angebote je Händler

DE · EUR · Wöchentlich seit Mai 2026 · ggf. zzgl. Versand

1.750 €2.000 €2.250 €2.500 €2.750 €3.000 €15. Mai27. Juni9. Aug.21. Sept.3. Nov.eBay 2.999 €
Zu diesen Preisen

Jede Linie zeigt das günstigste Angebot, das wir bei diesem Händler in wöchentlichen Momentaufnahmen erfasst haben, bis zum heutigen Angebot. Der Zustand kann zwischen den Aufnahmen wechseln (neu, gebraucht oder bei älteren Einträgen nicht erfasst). eBay-Preise verstehen sich ohne Versand.

Tabelle der wöchentlichen Angebote
Günstigstes erfasstes Angebot je Händler · DE · EUR
DatumeBay
Heute, 3. Nov. 2026 2.999,00 €
30. Okt. 2026 2.900,00 €
23. Okt. 2026 2.850,00 €
9. Okt. 2026 2.750,00 €
2. Okt. 2026 2.699,00 €
25. Sept. 2026 2.650,00 €
18. Sept. 2026 2.399,00 €
11. Sept. 2026 2.399,00 €
4. Sept. 2026 2.399,00 €
1. Sept. 2026 2.359,00 €
28. Aug. 2026 2.359,00 €
21. Aug. 2026 2.389,99 €
14. Aug. 2026 2.099,00 €
7. Aug. 2026 2.099,00 €
31. Juli 2026 2.099,00 €
24. Juli 2026 2.093,00 €
17. Juli 2026 1.987,00 €
10. Juli 2026 1.990,00 €
3. Juli 2026 2.050,00 €
26. Juni 2026 2.200,00 €
19. Juni 2026 2.199,00 €
12. Juni 2026 2.200,00 €
5. Juni 2026 2.190,00 €
29. Mai 2026 2.100,00 €
22. Mai 2026 2.200,00 €
15. Mai 2026 2.099,00 €

Für KI- und LLM-Einsatz

Solide Wahl für 30B-Modelle und problemlose Inferenz mit 14B-Modellen.

Welche Modelle laufen darauf?

  • 30B Q4_K_M, 14B mit voller Präzision, 70B Q2 (passt knapp)
  • 14B Q6_K, 30B Q3_K (passt knapp)
  • 14B Q4_K_M, 7B mit voller Präzision
  • 7B Q6_K, 14B Q3_K (passt knapp)
  • nur 7B Q4_K_M

Geschätzte Leistung

Generierung: ~76 Token/s

Prefill: ~1482 Token/s

Empfohlene Quantisierungen

  • Q4_K_M empfohlen für 30B-Modelle
  • Q6_K oder Q8 für 14B und darunter
  • Volle Präzision für 7B-Modelle

Vor- und Nachteile

Vorteile

  • 24 GB nutzbarer VRAM: geeignet für große Modelle
  • Hohe Speicherbandbreite für schnelle Token-Generierung
  • Ada-Architektur: umfassende Unterstützung durch CUDA-Software
  • Consumer-Karte: einfach einzubauen, mit Displayausgängen

Nachteile

  • 450 W TDP: hoher Stromverbrauch

Community-Fazit

Durchschnittliche Bewertung: 9,5/10 (1 Bewertung)

  • TechPowerUp 9.5/10

    The undisputed king of consumer GPUs. Ada Lovelace architecture delivers massive performance gains.

    Quelle
  • r/LocalLLaMA

    Fastest consumer card for inference. Overkill for most use cases but unmatched speed for 24GB tier.

    Quelle