Private AI ist eine Betriebsarchitektur, bei der Datenpfad, Modellzugriff, Berechtigungen, Protokollierung und Aufbewahrung bewusst kontrolliert werden. Sie ist nicht automatisch gleichbedeutend mit einem lokalen Modell. Für manche Workflows ist eine verwaltete API mit klaren Verträgen und Datenkontrollen sinnvoll; andere benötigen Schweizer Hosting, lokale Inferenz, On-Prem-Betrieb oder eine hybride Kombination.
Was bedeutet Private AI konkret?
Eine private AI-Architektur beantwortet fünf Fragen nachvollziehbar:
- Welche Daten verlassen welches System?
- Welcher Provider und welches Modell verarbeitet sie?
- Wo werden Eingaben, Ausgaben und Logs gespeichert?
- Wer darf auf Modelle, Quellen und Werkzeuge zugreifen?
- Wie werden Daten gelöscht, exportiert und überprüft?
Der Begriff beschreibt damit Kontrolle über den gesamten Verarbeitungspfad, nicht nur den Standort eines Servers.
Welche Betriebsmodelle gibt es?
Verwaltete Modell-API
Eine verwaltete API bietet schnellen Zugang zu leistungsfähigen Modellen und reduziert den eigenen Infrastrukturaufwand. Sie eignet sich, wenn Vertragsbedingungen, Datenverarbeitung, Speicherregeln, Region und Sicherheitskontrollen zum Anwendungsfall passen.
Prüfen Sie nicht nur, ob ein Provider Training mit Kundendaten ausschliesst. Relevant sind auch Logging, Abuse Monitoring, Supportzugriffe, Subprozessoren, Übermittlungen, Löschfristen und die tatsächlich verwendete Region.
Schweizer Cloud oder verwaltete private Umgebung
Eine Schweizer Hosting- oder Cloud-Umgebung kann Datenlokation und vertragliche Zuständigkeit vereinfachen. Sie garantiert jedoch nicht automatisch vollständige Datenhoheit. Betreiberzugriffe, Backups, Monitoring, Modellbezug und externe Schnittstellen bleiben Teil der Architekturprüfung.
Dieses Modell eignet sich häufig, wenn Organisationen lokale Zuständigkeit wünschen, aber Hardware und Inferenz nicht vollständig selbst betreiben wollen.
Lokale Inferenz
Bei lokaler Inferenz läuft das Modell auf kontrollierter Hardware in einem eigenen oder dedizierten Umfeld. Das reduziert externe Modellaufrufe und kann für vertrauliche Dokumente, geringe Latenz oder offlinefähige Prozesse sinnvoll sein.
Dafür übernimmt die Organisation mehr Verantwortung: Modellbetrieb, Patches, Kapazität, Evaluation, Zugriffsschutz und Überwachung. Ein lokal betriebenes Modell ist nicht automatisch sicher, korrekt oder günstiger.
On-Prem-Betrieb
On-Prem bedeutet, dass Infrastruktur innerhalb der eigenen kontrollierten Umgebung betrieben wird. Das kann bei strengen Netz-, Vertrags- oder Datenanforderungen notwendig sein. Es ist aber meist die anspruchsvollste Variante für Betrieb, Skalierung und Modellaktualisierung.
On-Prem sollte aus einem klaren Risikomodell folgen, nicht aus einem allgemeinen Gefühl, dass intern immer sicherer sei.
Hybride AI-Architektur
Hybride Architekturen routen Aufgaben nach Sensitivität und Leistungsbedarf. Vertrauliche Extraktion kann lokal erfolgen, während unkritische Zusammenfassungen oder komplexe allgemeine Aufgaben eine verwaltete API nutzen. Ein Gateway setzt dabei Regeln für Datenklassen, Modelle, Provider und Fallbacks um.
Für viele Organisationen ist hybrid die praktischste Option, weil nicht jeder Workflow dieselbe Schutzstufe benötigt.
Wie wählt man die richtige Architektur?
1. Daten und Risiken klassifizieren
Beginnen Sie nicht mit einem Modellvergleich. Ordnen Sie Daten nach Vertraulichkeit, regulatorischer Relevanz, Geschäftsgeheimnis, Personenbezug und Auswirkungen eines Fehlers. Dokumentieren Sie, welche Kategorien externe Verarbeitung erlauben und welche nicht.
2. Workflow statt Chatbot betrachten
Ein Workflow besteht aus mehr als Prompt und Antwort. Quellen, Retrieval, Tool-Aufrufe, Logs, Memory, menschliche Freigaben und Exportpfade können Daten an zusätzliche Systeme übertragen. Zeichnen Sie den vollständigen Datenfluss vom Eingang bis zur Aufbewahrung.
3. Qualitätsbedarf messen
Lokale oder offene Modelle können für Extraktion, Klassifikation und domänenspezifische Aufgaben sehr gut funktionieren. Komplexe Reasoning-, Coding- oder multimodale Aufgaben können andere Modelle erfordern. Testen Sie reale Aufgaben mit einem festen Evaluationsset, statt Modellqualität aus Benchmarks abzuleiten.
4. Betriebskosten vollständig rechnen
Vergleichen Sie nicht nur API-Preise mit Hardwarekosten. Berücksichtigen Sie Engineering, Betrieb, Auslastung, Redundanz, Monitoring, Updates, Evaluation und Support. Lokale Infrastruktur kann bei stabiler hoher Nutzung wirtschaftlich sein, bei schwankender kleiner Nutzung aber unnötige Fixkosten erzeugen.
5. Exit und Portabilität definieren
Eine kontrollierte Architektur dokumentiert Modelle, Prompts, Evaluationssets, Datenformate und Schnittstellen so, dass ein Providerwechsel möglich bleibt. Portabilität bedeutet nicht, dass jedes Modell identische Ergebnisse liefert. Sie bedeutet, dass Wechselkosten sichtbar und testbar sind.
Welche Kontrollen sind unabhängig vom Hosting nötig?
Unabhängig vom Betriebsmodell braucht Private AI:
- rollenbasierte Zugriffe auf Quellen und Werkzeuge,
- getrennte Umgebungen für Entwicklung und Produktion,
- Protokollierung wichtiger Zugriffe und Aktionen,
- definierte Aufbewahrungs- und Löschprozesse,
- Evaluation vor Modell- oder Promptwechseln,
- Limits für Agentenschritte, Werkzeuge und Kosten,
- dokumentierte menschliche Freigaben für kritische Resultate.
Hosting ist nur eine Kontrollschicht. Ein Schweizer Server verhindert weder falsche Berechtigungen noch unkontrollierte Agentenaktionen.
Ist Schweizer Hosting immer erforderlich?
Nein. Die richtige Antwort hängt von Daten, Vertrag, Risikomodell, Schnittstellen und internen Vorgaben ab. Schweizer Hosting kann sinnvoll oder vorgeschrieben sein, ist aber kein Ersatz für eine vollständige Datenschutz- und Sicherheitsprüfung. Umgekehrt ist eine internationale Cloud nicht automatisch ungeeignet, wenn Datenpfad, Verträge und Kontrollen den Anforderungen entsprechen.
Für konkrete rechtliche Anforderungen sollten Organisationen ihre Datenschutz- und Rechtsberatung einbeziehen. Die technische Architektur muss diese Anforderungen anschliessend prüfbar umsetzen.
Quellen und weiterführende Grundlagen
- Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter: https://www.edoeb.admin.ch/
- Schweizer Bundesgesetz über den Datenschutz: https://www.fedlex.admin.ch/eli/cc/2022/491/de
- NIST AI Risk Management Framework: https://www.nist.gov/itl/ai-risk-management-framework
- OWASP Top 10 for Large Language Model Applications: https://owasp.org/www-project-top-10-for-large-language-model-applications/
Nächster Schritt
Erstellen Sie für einen konkreten Workflow eine Datenflusskarte mit Quellen, Modellen, Providern, Logs, Speicherorten und Verantwortlichkeiten. Vergleichen Sie danach zwei oder drei Betriebsmodelle auf Qualität, Risiko, Kosten und Portabilität. So wird Private AI zu einer überprüfbaren Architekturentscheidung statt zu einem unscharfen Hosting-Versprechen.