On-Premises bedeutet, dass die Anwendung in Ihrem Haus verarbeitet wird. Die Daten verlassen das Unternehmen nicht. Wir klären das Betriebsmodell, beraten zur passenden Hardware und richten den Betrieb ein, auf Wunsch bis zum Betrieb ganz ohne Netzverbindung.
On-Premises KI bedeutet, dass die Modelle auf Ihrer eigenen Hardware laufen, in Ihrem Rechenzentrum oder in einer abgesicherten Umgebung, die Sie kontrollieren. Es gibt keine externe Schnittstelle, an die Daten gesendet werden. Das ist der Kern des Unterschieds zu einem Betrieb über eine Cloud-Schnittstelle.
Diese Seite beschäftigt sich mit der Frage, wo die Anwendung läuft. Welche Modelle darin arbeiten, beschreibt die Seite zu Private LLM. Die rechtliche Bewertung des Einsatzes behandelt die Seite zu DSGVO-konformer KI.
| Aspekt | Betrieb über Cloud-Schnittstelle | On-Premises |
|---|---|---|
| Ort der Daten | Auf Servern des Anbieters | Auf Ihrer eigenen Hardware |
| Abhängigkeit | Vom Anbieter und dessen Schnittstelle | Von der eigenen Infrastruktur |
| Betrieb ohne Netz | Nicht möglich | Möglich |
| Auslastung | Nutzungsabhängig abgerechnet | Feste, planbare Ressourcen |
Ob On-Premises passt, hängt vom Anwendungsfall ab. Die folgende Gegenüberstellung zeigt, wann der Betrieb im Haus sinnvoll ist und wann ein anderer Weg genügt.
Entscheidend ist, wie groß das eingesetzte Modell ist und wie viele Anfragen parallel bearbeitet werden. Die folgende Einordnung gibt eine grobe Orientierung. Die konkrete Ausstattung stimmen wir im Erstgespräch ab.
| Klasse | Geeignet für | Typische Ausstattung |
|---|---|---|
| Einstieg | Erste Anwendungsfälle, kleine Teams, Prototypen | Eine leistungsfähige GPU |
| Produktivbetrieb | Regelmäßige Nutzung durch mehrere Personen | Mehrere GPUs oder eine größere Rechenzentrums-GPU |
| Höhere Auslastung | Viele Nutzer, große Modelle, eigenes Anpassen der Modelle | Mehrere Rechenzentrums-GPUs |
Ein Start ist auch ohne eigene Hardware möglich, etwa in einer abgesicherten Umgebung ohne Zugriff durch Dritte. Eine spätere Verlagerung auf eigene Server ist vorgesehen, wenn dies gewünscht ist.
Wir klären, welche Daten verarbeitet werden, welche Anforderungen an den Datenschutz bestehen und ob ein Betrieb ohne Netzverbindung erforderlich ist.
Wir beraten zur passenden Ausstattung und legen fest, ob der Betrieb auf eigenen Servern, im eigenen Rechenzentrum oder in einer abgesicherten Umgebung stattfindet.
Wir installieren die Anwendung, richten Zugriffskontrolle und Protokollierung ein und binden sie an Ihre bestehenden Systeme an.
Wir übernehmen auf Wunsch Betrieb und Wartung oder übergeben an Ihr Team, mit Dokumentation und Schulung. Die Prüfung auf Konformität beschreibt Säule 3.
Die KI-Anwendung läuft auf Ihren eigenen Servern, in Ihrem Rechenzentrum oder in einer abgesicherten Umgebung, die Sie kontrollieren. Die Daten verlassen das Unternehmen nicht.
Wenn mit sensiblen Daten gearbeitet wird, wenn regulatorische Vorgaben eine Verarbeitung im Haus verlangen oder wenn keine Abhängigkeit von externen Anbietern gewünscht ist. Auch ein Betrieb ganz ohne Netzverbindung ist möglich.
Der Bedarf richtet sich nach Modellgröße und Nutzung. Für kleinere Anwendungen genügt eine einzelne leistungsfähige GPU, für den Produktivbetrieb werden mehrere oder größere GPUs eingesetzt. Wir beraten zur passenden Ausstattung.
Ja. Ein Start ist auch in einer abgesicherten Umgebung ohne Zugriff durch Dritte möglich. Eine spätere Verlagerung auf eigene Server ist vorgesehen, wenn dies gewünscht ist.
Im Erstgespräch klären wir Sicherheitsstufe, Hardware und Betriebsmodell. Die erste Einschätzung ist kostenlos.
Erstgespräch vereinbaren →