KI-Hardware für Unternehmen:
von der Grafikkarte bis zum DGX Spark

Nicht jedes Unternehmen braucht einen Serverraum. Wir ordnen ein, welche Hardware für welchen Einsatzzweck wirklich sinnvoll ist — vom Einsteiger-PC mit Gamer-Grafikkarte bis zur professionellen KI-Appliance.

Warum eigene KI-Hardware?

Cloud-KI ist bequem, aber es gibt gute Gründe, Modelle lokal zu betreiben: Datenschutz (Kunden- und Personaldaten verlassen das Haus nicht), kalkulierbare Kosten (einmalige Anschaffung statt Kosten pro Anfrage) und Verfügbarkeit unabhängig von Internet und Drittanbietern. Für viele KMU-Zwecke — Textentwürfe, Transkription, Bildgenerierung, Wissenssuche — reicht überraschend erschwingliche Hardware.

Die Grundregel: VRAM entscheidet

Bei KI auf eigener Hardware ist der Videospeicher (VRAM) der Grafikkarte der Engpass. Er bestimmt, wie große Modelle laufen: kleine Sprachmodelle (7–14 Mrd. Parameter) laufen ab 12 GB, komfortabel ab 24 GB; starke offene Modelle (30–70 Mrd.) brauchen 48 GB und mehr. Bildgenerierung mit Flux oder Stable Diffusion kommt mit 16–24 GB gut zurecht.

Einstieg: Consumer-Grafikkarten

Für erste eigene Versuche genügt ein handelsüblicher PC mit starker Nvidia-Karte. Das ist der günstigste Weg, KI im Betrieb zu testen.

Karte	VRAM	Geeignet für	Preisrahmen*
Nvidia GeForce RTX 5060 Ti / 4060 Ti 16GB	16 GB	Transkription (Whisper), kleine Sprachmodelle 7–14B, Bildbearbeitung	ca. 400–500 €
Nvidia GeForce RTX 5070 Ti / 4070 Ti Super	16 GB	wie oben, deutlich schneller; Flux-Bilder in guter Geschwindigkeit	ca. 800–1.000 €
Nvidia GeForce RTX 5090 / 4090	24–32 GB	Sprachmodelle bis ~32B, flüssige Bildgenerierung, Feintraining (LoRA)	ca. 2.000–3.500 €

*Straßenpreise, Änderungen je nach Marktphase; Stand Oktober 2026. Details und Spezifikationen direkt beim Hersteller: Nvidia GeForce-Übersicht.

Hinweis: Consumer-Karten sind auf Desktop-Workloads optimiert und nicht für 24/7-Rechenlast im Serverraum zertifiziert. Für den Dauerbetrieb siehe unten die Profi-Klassen.

Professional: Nvidia RTX PRO Workstations

Wer KI produktiv im Betrieb einsetzt, will zertifizierte Treiber, Zuverlässigkeit unter Dauerlast und mehr VRAM. Hier beginnt die Welt der professionellen Workstations — fertig konfigurierte Systeme von Herstellern wie PNY, Dell (Precision), HP (Z) oder Lenovo (P-Series), ausgestattet mit Nvidia RTX PRO:

Systemklasse	typische Karte	VRAM	Profileinsatz
Einsteiger-Workstation	RTX PRO 4000 Blackwell	20 GB	Einzelarbeitsplatz: Textmodelle bis 14B, Whisper, Codeassistent
Mittelklasse	RTX PRO 5000 / 6000 Blackwell	32–96 GB	Abteilungsrechner: große Sprachmodelle (30–70B), Flux-Pipeline, Feintraining
Maximale Workstation	RTX PRO 6000 Blackwell (96 GB)	96 GB	Kompakte „KI-Abteilung auf dem Schreibtisch": RAG-Dienste fürs ganze Unternehmen

Datenblätter: Nvidia RTX PRO (Professional GPUs). Ein solcher Rechner ersetzt für viele KMU einen Cloud-Vertrag komplett — nach zwölf bis vierundzwanzig Monaten meistens amortisiert.

Appliance: Nvidia DGX Spark

Der Nvidia DGX Spark ist Nvidias kompakteste DGX-Maschine: ein handtellergroßes, fertiges System, gebaut als persönliche KI-Appliance für den Schreibtisch.

GB10 Grace-Blackwell-Superchip mit 128 GB unified Memory — genug für große Sprachmodelle, die auf Consumer-Grafikkarten nicht mehr laufen.
Abgestimmter Software-Stack (DGX-Software, Nvidia-KI-Ökosystem) — kein Zusammenbasteln von Treibern.
Leise und stromsparend (Betrieb im Büro möglich), direkt am Arbeitsplatz oder als kleiner Server für eine Kleingruppe.
Preisrahmen: grob 4.000–5.000 €; Details: Nvidia DGX Spark.

Einordnung: Der DGX Spark ist ideal, wenn ein Team gemeinsam eigene Modelle betreiben will, ohne einen Serverraum zu bauen — z. B. für die firmeninterne Wissenssuche, Dokumentenanalyse oder Softwareentwicklung mit KI-Unterstützung. Wir setzen diese Klasse selbst produktiv ein (lokale Sprachmodelle, Transkription, Bildgenerierung) und kennen Stärken und Grenzen genau.

Das große Geschwister: Nvidia DGX Station

Die Nvidia DGX Station ist die workstation-formatige Variante eines Rechenzentrums: ein Grace-Blackwell-Ultra-System mit mehreren Terabyte-Speicherklasse im GB300-Design, gedacht für echte Modellentwicklung und Feintraining im Unternehmen — ohne eigenes Rechenzentrum. Für KMU interessant, sollte aber bewusst entschieden werden: Preisklasse deutlich sechsstellig. Ehrliche Einordnung: Die meisten KMU-Projekte aus unserer Projektliste kommen mit DGX Spark oder einer RTX-PRO-Workstation vollständig aus.

Alternative: Apple Silicon

Mac mini, Mac Studio oder Mac Pro mit M4-Chips sind eine unterschätzte KI-Plattform: unified Memory (bis 128 bzw. 192 GB), sehr leise, sehr sparsam. Für Textmodelle (Inferenz, Wissenssuche) oft das beste Preis-Leistungs-Verhältnis — nur fürs Training und manche CUDA-only-Software ist Nvidia überlegen.

Gebrauchte Datacenter-GPUs?

Auf dem Zweitmarkt tauchen ehemalige Rechenzentrums-Karten (z. B. A100-Module) günstig auf. Vorsicht: Viele davon sind passiv gekühlt (Eigenbau-Lüftung nötig), laufen nur in speziellen Servern und haben keine Freigabe für Workstation-Betrieb. Für KMU meistens der falsche Weg — solide Workstation-Hardware ist unkritischer.

Was empfehlen wir wem?

Situation	Empfehlung	Budget
Erst ausprobieren, einzelner Arbeitsplatz	PC mit RTX 5070 Ti / 5090	1.500–3.500 €
Produktivbetrieb für ein Team (Wissenssuche, Transkription, Bilder)	RTX PRO 6000-Workstation oder DGX Spark	4.000–12.000 €
Große Modelle / eigenes Feintraining	DGX Spark (maximaler Memory-Ausbau) oder DGX Station	5.000 € bis sechsstellig
Nur Text/Inferenz, maximale Effizienz	Mac Studio M4 Ultra	4.000–7.000 €

Welche Kombination zu Ihrem Betrieb passt, hängt von Datenlage, Nutzerzahl und Datenschutzanforderungen ab — Neuritheon plant, liefert und betreibt solche Systeme inklusive Software-Stack.