custom-aiservers sind lokale KI-Systeme für datenkritische Betriebe: Desktop-Kisten für Kanzlei, Praxis und Vertrieb, 2U-Rack-Nodes für den Serverraum. Gebaut, 24 Stunden eingebrannt, mit Messprotokoll übergeben, und nach dem Kauf reden wir über Strom, nicht über Token-Abrechnungen.
24 GB reichen für Q4, für Arbeit, die das Haus verlässt, brauchen Sie Q8, und Q8 braucht 48 GB. Der Unterschied zwischen Professional und Premium ist nicht die Grafikkarte, es ist, was sonst noch gleichzeitig läuft.
| Quant | Größe (27B) | Qualität | Wann einsetzen |
|---|---|---|---|
| Q4 | ~15 GB | gut, sichtbare Verluste | Interner Kram, Entwürfe, Sortierung, Durchsatz zählt |
| Q5 | ~18 GB | sehr gut | Balancierter Mittelweg |
| Q6 | ~21 GB | fast Original | Empfehlung für die meisten Standardfälle |
| Q8 | ~28 GB | wischt Q4 qualitativ weg | Wenn die Ausgabe stimmen muss: Verträge, Mandanten, Patientenbriefe |
Der Satz, der die Konfiguration entscheidet: „Q4 ist günstiger. Q8 ist besser. Die Frage ist nicht welches, die Frage ist, was es kostet, wenn die Ausgabe nicht stimmt."
Jede Config wird komplett aufgebaut: Zusammenbau, 24-Stunden-Burn-in, Q8-Validierung, Dokumentation und Einweisung. Das ist der Verkauf, nicht die Teileliste.
Kundensegmentierung, Lead-Sortierung, Notizen, Fristen, einfache Textarbeit. Q4-Qualität, und die ehrliche Grenze: kein System für Vertrags- oder Kundenbriefe.
Die Grenze: Q8 (~28 GB) passt nicht auf 24 GB. Keine parallelen Modelle, ein Use Case gleichzeitig. Wer Ausgabe produziert, die rausgeht, braucht Config B.
Verträge zusammenfassen, Patientenbriefe, Belege extrahieren, Compliance-Checks, mit Q8, dem Qualitäts-Minimum für alles, was nach außen geht. Die meistgewählte Konfiguration.
Ehrlicher Nachteil von 2 Karten: Tensor-Parallel über zwei Karten kostet Effizienz, Q8 ist der langsamere Pfad und ein Qualitäts-Trade, kein Geschwindigkeits-Trade. Genau das wird vor dem Kauf gesagt.
Alles aus Config B, plus Headroom: Whisper, OCR-Pipeline und 27B Q8 gleichzeitig. 128 GB ECC-RAM, NVMe-Raid, Workstation-Thermik. Für Kanzleien und Praxen, die im Team arbeiten.
Sonst reicht Config B. Nicht die größte Konfiguration, sondern die, die Ihren Use Case trägt, das ist die Empfehlung, die ich auch gegen meinen eigenen Umsatz gebe.
Gemessen auf der realen Hardware, nicht auf einem Datenblatt. Referenzen stammen aus der lokalen Testumgebung.
3 Minuten Audio werden in 20 Sekunden transkribiert. Lokal, ohne Upload, ohne Wartezeit. Die Daten verlassen das Gerät nicht.
Ein Vertragsabsatz (~100 Wörter) steht in 3–5 Sekunden. Eine Patientenbrief-Seite in 13–19 Sekunden. Auf Config B, 2× 3090.
Keine Token-Abrechnung, keine API-Preisänderung, kein Netzzugang nötig. Was bleibt, ist Strom, und der ist kalkulierbar.
Q4 vs. Q8 in einem Satz: Q8 braucht ~60 % mehr VRAM, ist etwas langsamer, und wischt Q4 qualitativ weg. Sichtbar wird das genau bei Verträgen, Mandanten- und Kunden-Output. Der Preis von Q8 ist nicht das Modell, es ist die Kapazität, die es belegt.
Welche Fähigkeit läuft auf welcher Kiste, und was kostet sie einmalig.
| Fähigkeit | Config A (24 GB) | Config B (48 GB) | Config C (48 GB+) |
|---|---|---|---|
| 27B Q4 (~15 GB) | ✅ | ✅ | ✅ |
| 27B Q8 (~28 GB) | ❌ zu groß | ✅ | ✅ |
| Whisper (Transkription) | ✅ | ✅ parallel zu Q8 | ✅ parallel |
| OCR / Belege extrahieren | ✅ (Q4) | ✅ (Q8) | ✅ (Q8) |
| Verträge / Außen-Output | ❌ Q4 reicht nicht | ✅ (Q8) | ✅ (Q8) |
| Parallele Nutzer | 1 | 2–3 | 5–10 |
| RAG mit großem Kontext | begrenzt | ✅ | ✅ besser |
| 35B-Klasse | ❌ | begrenzt | ✅ |
| Preis einmalig | ~1.380 € | ~2.240 € | ~4.250 € |
| Monatlich danach | ~30–50 € Strom | ~50 € Strom | ~60–80 € Strom |
Im Preis enthalten: Zusammenbau, 24-h-Burn-in mit Messprotokoll, Q8-Validierung, Dokumentation, Einweisung. Nicht enthalten: Stromkosten, Versand, Support-SLAs, Wartungsverträge, Betriebssystem-Lizenzen (Proxmox/Linux = 0 €). Preise netto, Desktop-Configs als marktbelegte Schätzung, vor Angebot final verifiziert.
VRAM ist alles bei lokaler KI. Neuware zahlt für FLOPS, die diese Workloads nicht brauchen, Decode ist bandbreitenlimitiert.
Die 3090 ist die günstigste gebrauchte Karte mit 24 GB. Für Q8 braucht es zwei Stück, dann ist man bei rund 1.650 € GPU-Budget. Billiger kommt man an 48 GB nirgends.
Die Antwortgeschwindigkeit hängt an der Speicherbandbreite, nicht an Rechenleistung auf dem Papier. Eine RTX 5090 ist schneller, aber bei 27B zählt, wie viel Modell in den Speicher passt.
Ampere (3090) hat kein FP8, Q8 läuft als INT8/FP16. Wer „3090 mit FP8" rechnet, liegt etwa Faktor 2 daneben. Das steht im Angebot, nicht im Kleingedruckten.
Der Wert steckt im Burn-in: 24 Stunden Last plus Messprotokoll statt Herstellergarantie-Sternchen. Die Verantwortung endet am laufenden System, nicht an der Rechnung.
2U-Server mit PMEM-Option, gebraucht aber eingebrannt: B2B-Direktverkauf mit 24-h-Burn-in und Protokoll. Kein Jahresvertrag nötig, und wenn Sie später mieten statt kaufen, wird die Anzahlung angerechnet.
Desktop-Kiste oder Rack-Node? Config A/B/C sind die Kisten für Kanzlei, Praxis und Vertrieb, leise, unter dem Schreibtisch, 3090-GPU für lokale Modelle. C1–C3 sind Serverklasse (2U, PMEM, ECC) für B2B mit Serverraum, MSP-Betrieb oder als Brücke in die RentCompute-Miete (2.999 €/Monat). Im Gespräch werden die beiden nie als Konkurrenz zueinander geführt, sie lösen verschiedene Aufgaben.
Wer die Kapazität braucht, aber nicht die Anschaffung: gemietete Rechenleistung mit Anrechnung beim späteren Kauf.
Volle Kapazität, ein Mieter. Wer später kauft, bekommt die Anzahlung angerechnet.
Vier Slots pro Node, für Teams, die keine volle Kiste brauchen, aber eigene Grenzen.
Für rechenlastige Einzelaufgaben: Reranking, Batch-Jobs, Experimente.
Wann kaufen ehrlicher ist: Bei fester Dauerlast jenseits der Break-even-Schwelle ist der Kauf die bessere Rechnung, und das sage ich auch dann, wenn Miete kurzfristig bequemer wäre. Die Rechnung dazu steht auf der TCO-Rechner-Seite.
Die Antwort steht nicht in der Konfigurationstabelle, sie steht in Ihrer Arbeitswoche. Im 250-€-Check klären wir, was laufen muss, und rechnen die passende Config dagegen.