Mitarbeiter-Chat auf eigenem Wissen – DSGVO-konforme ChatGPT-Alternative
Anonymisiertes Anwendungsbeispiel.
- Aufgabentyp
- Wissen
- Betrieb
- Self-hosted
- Aufwand
- Mittel
- Zeitrahmen
- 4-8 Wochen
- Quelle
- Konzept, basierend auf zwei aktiven Mandanten-Setups
Aufgabe
Mitarbeitende verbringen täglich 1,5-2 Stunden mit Informationssuche in SharePoint, Mail-Archiven, PDFs und Wikis. Gleichzeitig nutzen viele heimlich ChatGPT, weil es schneller ist – und kippen unbemerkt vertrauliche Daten in fremde Cloud-Systeme. Die Geschäftsführung will den Produktivitätsgewinn, aber DSGVO-konform und auditfähig.
Lösungsweg
OpenWebUI als zentrales Chat-Frontend mit RBAC und SSO, RAG-Anbindung an die firmeneigenen Wissensquellen (Wiki, SharePoint, Vertragsmuster, Prozessdokus). LLM läuft auf Mistral-EU oder Llama via Ollama, Embeddings über Jina AI (EU), Vektor-Index in Qdrant. Ingest aus SharePoint und Confluence per n8n-Workflow, automatisch alle 4 Stunden. Antworten kommen mit Quellenverweis.
Kontrollpunkt Die Kontrolle ist systemisch im Ablauf verankert.
Vorher und Nachher
Die Veränderung wird als Arbeitsablauf beschrieben, nicht als Erfolgsversprechen.
Vorher
- 1,5-2 Std/Tag Suche in SharePoint, Mail, PDFs, Wiki
- ChatGPT-Schatten-IT mit Datenleck-Risiko
- Onboarding teuer, Senior-Wissen schwer abrufbar
- Keine Auditfähigkeit für KI-Nutzung
Nachher
- Antwort im Browser-Chat in unter 10 Sek mit Quellenlink
- Alle Anfragen geloggt, rollenbasiert, DSGVO-konform
- Onboarding um 50 % verkürzt, Senior-Wissen abrufbar
- Mitarbeitende dürfen offiziell und ohne Schatten-IT
Dokumentierte Ergebniswerte
Die Werte gelten im jeweils beschriebenen Szenario und sind kein allgemeiner Benchmark.
- weniger Suchzeit bei wiederkehrenden Fragen
- ≈ 70 %
- DSGVO-konform, alle Daten in EU/On-Prem
- 100 %
- Amortisation ab Pilotstart
- 3-6 Mon.
Werkzeug-Stack
Das hier ist die Inhouse-Variante zu den anderen Wissensbot-Cases hier (Vertrieb, Anlagenbau): nicht für eine Fachabteilung, sondern als zentraler Mitarbeiter-Chat für die gesamte Belegschaft. Vergleichbar mit ChatGPT Enterprise oder Microsoft Copilot – nur eben mit Daten, die das Haus nicht verlassen.
Warum OpenWebUI als Frontend
OpenWebUI ist die ausgereifteste Open-Source-Chat-UI für genau diesen Anwendungsfall: integrierte RAG-Engine, RBAC mit Gruppen und Modell-Whitelists, SSO über OIDC, Audit-Logs, Anbindung an quasi jedes LLM-Backend. Bis 50 aktive Nutzer ist die Eigennutzung lizenzfrei – auch mit eigenem Branding. Details auf der Tool-Seite.
Ein Eigenbau lohnt sich eher, wenn die Wissensbasis selbst im Zentrum steht und weniger Wert auf breite Mitarbeiter-Verwaltung mit vielen Rollen liegt – rag.go4ai.de ist so ein Fall. Für einen unternehmensweiten Chat mit RBAC/SSO ist eine ausgereifte Standardlösung wie OpenWebUI der schnellere und wartungsärmere Weg als ein Eigenbau pro Einsatz.
Ablauf eines typischen Setups
- Inventur (Woche 1): Welche Quellen kommen rein? SharePoint, Confluence, Vertragsmuster, Prozessdokumentation, technische Spezifikationen. Berechtigungen klären – was darf wer sehen?
- Stack hochziehen (Woche 2): Docker-Stack mit OpenWebUI, Qdrant, Ollama oder Mistral-Anbindung – auf einem VPS in Deutschland oder On-Prem.
- Erste Quelle anbinden (Woche 2-3): n8n-Workflow für SharePoint-Sync, Chunking, Embedding via Jina AI, Index in Qdrant. SSO-Integration.
- Pilotbetrieb (Woche 4-5): 5-10 Power-User aus verschiedenen Abteilungen. Feedback einsammeln, Prompt-Templates verfeinern, Quellen-Boosting.
- Rollout (Woche 6-8): Gruppen, Rollen, Rechte definieren, Schulung der Belegschaft (30-60 Min pro Person), Monitoring-Dashboards für die IT.
Was im Szenario bewusst nicht passiert
- Keine Trainings-Pipeline: Es werden keine Modelle auf Unternehmensdaten trainiert – RAG retrieved, das LLM formuliert. Datenschutz-Argument ist klar.
- Keine Auto-Aktionen: Der Chat antwortet, er handelt nicht. Mail-Versand, Rechnungsstellung, CRM-Schreibvorgänge passieren weiterhin über kontrollierte Workflows (n8n), nicht über den Chat-Output.
- Kein Schatten-Onboarding: Wer keinen SSO-Account hat, kommt nicht rein. Externe Mitarbeiter explizit als eingeschränkte Gruppe modellieren.
Abgrenzung zur Free-Tier-Lizenz
OpenWebUI ist bis 50 aktive Nutzer pro 30-Tage-Fenster frei nutzbar – auch mit White-Label-Branding. Bei Konzernrollouts über 50 Nutzer lohnt sich ein früher Blick auf die Enterprise-Lizenz. Bei Pflicht zu vollständigem White-Label ab Tag 1 ist LibreChat (MIT) eine Alternative. Die Tool-Seite OpenWebUI erklärt die Lizenz-Schwellen im Detail.