Unabhängiges Unternehmen · wir stehen nicht in Zusammenhang mit der Swiss AI Initiative (EPFL, ETH Zürich, CSCS), die das Apertus-Modell entwickelt, und werden nicht von ihr gesponsert oder unterstützt · Offizielle Seite: apertus-ai.org
KI-Server für lokale LLMs
KI-Kiste und KI-Kraftwerk sind KI-Server für den Betrieb lokaler LLMs in eurem Unternehmen. Sie bringen Open-Weight-Modelle und euer apertus.ai Gateway zu euch ins Haus: vorkonfiguriert geliefert, von uns betreut. Eure Daten und Datenbanken bleiben im eigenen Netz.
Direkt zu KI-Kiste & KI-Kraftwerk ↓ Benchmarks ↓ Datenbanken ↓
KI-Kiste · NVIDIA GB10 · 128 GB
01 Zwei Größen
Beide Systeme kommen mit vorinstalliertem Gateway, Open WebUI und ausgewählten Modellen. Ihr schließt sie an, wir übernehmen Updates, Monitoring und Wartung.
Für Teams
Nº 01
Der kompakte KI-Server für Teams bis ~25 Mitarbeitende. Leise und sofort einsatzbereit.
ab5.900 €
je nach Konfiguration, zzgl. MwSt.
Für Abteilungen & Unternehmen
Nº 02
Der KI-Server für Abteilungen und ganze Unternehmen. Mehr Nutzer, größere Modelle, on-premise.
Auf Anfrage
abhängig von GPU-Anzahl und Ausbau
02 Benchmarks
Richtwerte mit vLLM für aktuelle Open-Weight-Modelle auf KI-Kiste und KI-Kraftwerk: das Tempo einer einzelnen Anfrage, wie viele Anfragen parallel flüssig laufen und wie viele Mitarbeitende ein System im Alltag realistisch versorgt.
Lesetempo ≈ 6 Token/s
KI-Kiste · NVIDIA GB10 · 128 GB
Gemma 4 26B-A4B FP8 + MTP
Parallel flüssig8 Anfragen à 80 Token/s
Reicht fürbis ~25 Mitarbeitende
Qwen3.8 27B NVFP4 + MTP
Parallel flüssig10 Anfragen à 10 Token/s
Reicht fürbis ~10 Mitarbeitende
Kraftwerk 1× · 1× RTX PRO 6000 · 96 GB
Qwen3.8 27B FP8 + MTP
Parallel flüssig32 Anfragen à 30 Token/s
Reicht fürbis ~60 Mitarbeitende
Gemma 4 31B NVFP4
Parallel flüssig4 Anfragen à 23 Token/s
Reicht fürbis ~30 Mitarbeitende
Qwen3.8 27B FP8 + MTP · Coding-Agents, 32k Kontext
Parallel flüssig6 Anfragen à 30 Token/s
Reicht für~6 Devs mit Coding-Agent
Kraftwerk 2× · 2× RTX PRO 6000 · 192 GB
Qwen3.8 Flash-Next FP8
Parallel flüssig32 Anfragen à 23 Token/s
Reicht fürbis ~100 Mitarbeitende
Qwen3.8 27B FP8 + MTP · 2 Instanzen
Parallel flüssig64 Anfragen à 30 Token/s
Reicht fürbis ~120 Mitarbeitende
Kraftwerk 4× · 4× RTX PRO 6000 · 384 GB
GLM-5.3-Flash NVFP4 + MTP
Parallel flüssig8 Anfragen à 110 Token/s
Reicht fürbis ~150 Mitarbeitende
Qwen3.8 Flash-Next FP8 + MTP
Parallel flüssig32 Anfragen à 20 Token/s
Reicht fürbis ~120 Mitarbeitende
Qwen3.8 27B FP8 + MTP · 4 Instanzen
Parallel flüssig128 Anfragen à 30 Token/s
Reicht fürbis ~200 Mitarbeitende
Je System das Modell aus der Tabelle, das die meisten Mitarbeitenden versorgt · ein Punkt = 20 Mitarbeitende
Richtwerte, Stand Oktober 2026, aus öffentlichen vLLM-Benchmarks unabhängiger Labs und der Community auf derselben Hardware, abgerundet. MTP heißt: Das Modell schreibt mit seinem eigenen Vorhersage-Kopf mehrere Token pro Schritt, ohne Qualitätsverlust. Parallel flüssig: gemessene gleichzeitige Anfragen mit dem Tempo jeder einzelnen, meist bei kurzen Prompts; lange Dokumente senken die Werte. Mitarbeitende: vorsichtig gerechnet, mit 10–15 % der Belegschaft gleichzeitig aktiv und einem Viertel Reserve für Agenten und lange Dokumente. Vor der Lieferung messen wir mit euren Workloads.
03 On-Premise
Läuft apertus.ai bei euch on-premise, verbindet das MCP Gateway lokale Modelle direkt mit euren internen Datenbanken, ERP, DMS und Fileshares. Jeder Zugriff läuft über Rechte und Audit-Log, und keine Anfrage verlässt euer Netzwerk.
Euer Netzwerk
Eure Datenquellen
apertus.ai Gateway
AI & MCP, on-premise
04 Immer dabei
Gateway, Open WebUI und eure Modelle sind eingerichtet, wenn das System bei euch ankommt.
Wir wählen Modelle nach euren Anwendungsfällen, Nutzerzahlen und Sprachen aus und halten sie aktuell.
Monitoring, Sicherheits- und Modell-Updates übernehmen wir, beim KI-Kraftwerk auch vor Ort.
Über das Gateway kombiniert ihr lokale Modelle mit Cloud-Modellen in der EU, etwa für Lastspitzen.
Das MCP Gateway verbindet die Modelle sicher mit euren Datenbanken, ERP und DMS.
Hardware, Software und Modelle von einem Anbieter, mit festem Ansprechpartner bei uns.
FAQ Häufige Fragen
Open-Weight-Modelle bis rund 200 Mrd. Parameter. Für mehrere Nutzer gleichzeitig eignet sich besonders das schnelle MoE-Modell Gemma 4 26B-A4B, für anspruchsvolle Aufgaben und Coding Qwen3.8 27B. Wir wählen mit euch die Modelle aus, die zu euren Anwendungsfällen passen.
Die KI-Kiste reicht für Teams bis rund 25 Mitarbeitende im Chat-Alltag. Für ganze Abteilungen, Coding-Agents oder sehr große Modelle ist das KI-Kraftwerk die richtige Wahl. Wir rechnen das mit euren Zahlen durch.
Ja. Über das Gateway legt ihr fest, welche Anfragen lokal bleiben und welche Cloud-Modelle in der EU nutzen dürfen, zum Beispiel für Lastspitzen oder sehr große Modelle.
Wir überwachen die Systeme und spielen Sicherheits- und Modell-Updates ein, über einen abgesicherten Zugang, den ihr kontrolliert. Beim KI-Kraftwerk kommen wir für Installation und Wartung auch vor Ort.
Die KI-Kiste ist kompakt und läuft im Büro oder im Serverschrank. Das KI-Kraftwerk gehört in einen Serverraum oder euer Rechenzentrum, als Tower oder 19-Zoll-Server.
Die KI-Kiste startet bei 5.900 € netto, je nach Konfiguration. Das KI-Kraftwerk kalkulieren wir nach GPU-Anzahl und Ausbau. Dazu kommt der laufende Betrieb durch uns mit Monitoring, Updates und Modellpflege, nach Angebot. Im Gespräch rechnen wir mit euren Nutzerzahlen durch, ab wann sich lokale KI gegenüber Cloud-Modellen lohnt.
Lokale KI macht den datenschutzkonformen Einsatz deutlich einfacher: Anfragen, Antworten und angebundene Daten verlassen euer Netzwerk nicht, und kein externer Anbieter verarbeitet die Inhalte. Die Verantwortung für die Verarbeitung bleibt bei euch, wir unterstützen mit Dokumentation.
Nein. Wir wählen Modelle und Hardware passend zu euren Anwendungsfällen aus, liefern das System fertig eingerichtet und übernehmen Updates, Monitoring und neue Modelle. Eure IT stellt Strom, Netzwerk und einen Platz im Büro oder Serverraum bereit.
Ein LLM mit Ollama oder LM Studio ist schnell auf einem einzelnen Rechner installiert. Für ein Unternehmen fehlen dann aber Nutzerverwaltung, Rechte, Audit-Log, die Anbindung an eure Systeme und jemand, der Updates und Ausfälle übernimmt. KI-Kiste und KI-Kraftwerk bringen das mit: Gateway, Open WebUI und Betrieb aus einer Hand.
Kontakt 20 Minuten, ehrliche Einschätzung
Bucht euch ein kurzes Gespräch. Wir schauen auf eure Situation und sagen ehrlich, ob und wie apertus.ai euch hilft.
Was im Gespräch passiert