Erste Schritte mit lokalen Modellen.
Für alle, die kleinere Modelle lokal ausprobieren wollen. Wir stimmen Server und GPU so ab, dass die Einstiegshürde niedrig bleibt.
Generalüberholte, GPU-fähige Server als Basis für lokale LLM-Inferenz und Fine-Tuning. Die GPUs stimmen wir auf Ihre Modelle ab und bauen sie nach Ihren Vorgaben ein. Ihre Daten bleiben in Ihrem Rack, nicht bei einer Dritt-API.
Hardware ansehen Custom-Konfiguration anfragenFür alle, die kleinere Modelle lokal ausprobieren wollen. Wir stimmen Server und GPU so ab, dass die Einstiegshürde niedrig bleibt.
Mehr VRAM und mehr Rechenleistung, ausgelegt auf Modelle bis etwa 50 Milliarden Parameter. Wir sagen Ihnen, welche GPU dafür reicht.
Für große Modelle, Fine-Tuning und Training. Unsere Gehäuse nehmen mehrere Beschleuniger auf, die Bestückung besprechen wir vorher.
Passt keine der Klassen, bauen wir das System nach Ihren Vorgaben. Nennen Sie uns Modell, gleichzeitige Nutzer und Budget, wir schlagen eine Konfiguration vor.
Prompts, Dokumente und Ausgaben verlassen Ihr Netzwerk nie, relevant für DSGVO und Mandantenvertraulichkeit.
Nutzen Sie Open-Weight-Modelle so viel Sie wollen. Keine API-Abrechnung, keine Rate-Limits.
keine Abo-Modelle oder Abhängigkeit von externen Firmen
Kein Umweg über eine Cloud-Region, die Inferenz läuft im selben LAN wie Ihre Anwendung.
Jedes System wird vor dem Versand getestet und gereinigt und mit aktueller Firmware übergeben.
Nennen Sie uns Modellgröße und gleichzeitige Nutzer, wir empfehlen die passende GPU- und VRAM-Konfiguration.
Eine einzige High-End-GPU-Instanz in der Cloud kostet bei dauerhafter Inferenz oder Training schnell mehrere tausend Euro im Monat. Ein generalüberholter Server mit eigenen GPUs ist ein einmaliger Kauf, den Sie jahrelang nutzen.
Kostenvergleich anfordern2x Xeon E5-2690 v4 · LGA2011-3 · IPMI · GPUs auf Anfrage
Individuelle Konfiguration auf Anfrage
289 € VB
Angebot anfragenRAM, CPUs, Laufwerke, Controller und Netzteile konfigurieren wir auf Anfrage nach Ihren Vorgaben. Alle Preise sind unverbindliche Richtwerte je System in Euro, VB bedeutet Verhandlungsbasis. Das verbindliche Angebot erhalten Sie nach Ihrer Anfrage per E-Mail. Gemäß § 19 UStG wird keine Umsatzsteuer berechnet.
Alle Modelle mit offenen Gewichten, über Runtimes wie Ollama, vLLM oder llama.cpp. Die gängigsten Familien und was sie ungefähr an VRAM brauchen:
| Modell | Größen | VRAM (4-Bit) |
|---|---|---|
| Llama | 8B, 70B | ca. 6 GB / 45 GB |
| Mistral | 7B, 24B | ca. 6 GB / 16 GB |
| Qwen | 7B, 32B, 72B | ca. 6 GB / 20 GB / 46 GB |
| DeepSeek | 8B, 32B, 70B | ca. 6 GB / 20 GB / 45 GB |
| Gemma | 4B, 12B, 27B | ca. 4 GB / 9 GB / 18 GB |
Richtwerte für 4-Bit-Quantisierung, die in der Praxis übliche Variante. Unquantisiert (FP16) liegt der Bedarf rund dreimal so hoch. Dazu kommt Spielraum für den Kontext, je nach Länge einige GB. Nennen Sie uns Ihr Zielmodell und die erwartete Zahl gleichzeitiger Nutzer, dann dimensionieren wir es konkret.
Ja, mit entsprechend bestückter Hardware. Wie viele GPUs und wie viel VRAM Sie dafür brauchen, hängt vom Modell ab. Nennen Sie uns Ihr Vorhaben, dann schlagen wir eine Konfiguration vor.
Ja. Wenn keine der Leistungsklassen passt, konfigurieren wir das System nach Ihren Vorgaben. Nennen Sie uns Modell, gleichzeitige Nutzer und Budget, dann schlagen wir eine Konfiguration vor.
Bei dauerhaften Workloads meist ja, ein einmaliger Hardwarekauf hat keinen laufenden Stundenzähler. Wir rechnen es gern für Ihren konkreten Workload durch.
Für Verbraucher gelten die gesetzlichen Gewährleistungsrechte. Mit Geschäftskunden vereinbaren wir die Bedingungen im jeweiligen Angebot. Melden Sie sich bei einem Problem bei uns, wir klären den Fall gemeinsam.
Schicken Sie uns das Modell (oder die Modellgröße), das Sie betreiben wollen, die erwarteten gleichzeitigen Nutzer und ob Sie Training oder nur Inferenz brauchen. Wir empfehlen eine Konfiguration und machen ein Angebot.
Angebot anfragen