NVIDIA T4 - 16 GB nutzbar

70W, single-slot, 16GB, and it runs off slot power in almost any server. Only 320 GB/s, so it favours always-on inference over speed.

Technische Daten

MarkeNVIDIA
ModellT4
Nutzbarer VRAM16 GB
ArchitekturTuring
CUDA-Kerne / Stream-Prozessoren2.560
Speicherbandbreite320 GB/s
TDP70 W
FP32-TFLOPS8.1

Aktuelle Angebote

Gebraucht ab 720 €

Preise zuletzt aktualisiert:

GPUDojo wird von seinen Lesern unterstützt. Wenn Sie über Links auf unserer Website einkaufen, erhalten wir möglicherweise eine Provision.

Günstigste erfasste Angebote je Händler

DE · EUR · Wöchentlich seit Mai 2026 · ggf. zzgl. Versand

400 €500 €600 €700 €800 €8. Mai21. Juni5. Aug.19. Sept.3. Nov.eBay 720 €
Zu diesen Preisen

Jede Linie zeigt das günstigste Angebot, das wir bei diesem Händler in wöchentlichen Momentaufnahmen erfasst haben, bis zum heutigen Angebot. Der Zustand kann zwischen den Aufnahmen wechseln (neu, gebraucht oder bei älteren Einträgen nicht erfasst). eBay-Preise verstehen sich ohne Versand.

Tabelle der wöchentlichen Angebote
Günstigstes erfasstes Angebot je Händler · DE · EUR
DatumeBay
Heute, 3. Nov. 2026 719,99 €
30. Okt. 2026 719,99 €
23. Okt. 2026 720,00 €
9. Okt. 2026 720,00 €
2. Okt. 2026 690,00 €
25. Sept. 2026 679,99 €
18. Sept. 2026 679,99 €
11. Sept. 2026 679,99 €
4. Sept. 2026 690,00 €
1. Sept. 2026 690,00 €
28. Aug. 2026 690,00 €
21. Aug. 2026 690,00 €
14. Aug. 2026 690,00 €
7. Aug. 2026 690,00 €
31. Juli 2026 690,00 €
24. Juli 2026 679,95 €
17. Juli 2026 550,00 €
10. Juli 2026 545,00 €
3. Juli 2026 499,00 €
26. Juni 2026 545,00 €
19. Juni 2026 600,00 €
12. Juni 2026 650,00 €
5. Juni 2026 650,00 €
29. Mai 2026 650,00 €
22. Mai 2026 650,00 €
15. Mai 2026 799,00 €
8. Mai 2026 789,00 €

Für KI- und LLM-Einsatz

Gut für 14B-Modelle. 30B-Modelle erfordern eine aggressive Quantisierung. Langsamere Generierung: nutzbar, aber nicht flott. Datacenter-GPU ohne Displayausgänge; möglicherweise ist eine separate Kühllösung erforderlich.

Welche Modelle laufen darauf?

  • 14B Q6_K, 30B Q3_K (passt knapp)
  • 14B Q4_K_M, 7B mit voller Präzision
  • 7B Q6_K, 14B Q3_K (passt knapp)
  • nur 7B Q4_K_M

Geschätzte Leistung

Generierung: ~24 Token/s

Prefill: ~145 Token/s

Empfohlene Quantisierungen

  • Q4_K_M für 14B-Modelle
  • Q6_K für 7B- bis 8B-Modelle
  • Q8 für 7B, sofern der VRAM reicht

Vor- und Nachteile

Vorteile

  • Nur 70 W TDP: stromsparend
  • Turing-Architektur: umfassende Unterstützung durch CUDA-Software

Nachteile

  • 16 GB nutzbarer VRAM: für Modelle ab 30B ist Quantisierung nötig
  • Mittlere Speicherbandbreite: nur mäßige Inferenzgeschwindigkeit
  • Kein Displayausgang: nur Headless-Betrieb
  • Benötigt eventuell eine nachgerüstete Kühllösung

Community-Fazit

No community reviews yet for the T4. Know a good review? Let us know.