Private KI: Der KI-Assistent für Ihr Team, betrieben auf Ihrem Server
Ihre Mitarbeitenden lassen sich von KI E-Mails entwerfen, Dokumente zusammenfassen und Angebote übersetzen. Oft läuft das über private Konten, und Kundendaten landen bei Anbietern, mit denen Sie keinen Vertrag haben. Mit Private KI bekommt Ihr Team einen eigenen KI-Assistenten im Browser. Er läuft auf einem Server, den Sie kontrollieren, ersetzt erkannte personenbezogene Daten, bevor eine Anfrage zum Sprachmodell geht, und nutzt auf Wunsch Modelle aus europäischen Rechenzentren.
Microsoft-Partner &
Office-365-Experten4,9Google-Bewertungen (27)ISO/IEC 27001-
zertifiziertMicrosoft-Partner &
Office-365-Experten4,9Google-Bewertungen (27)ISO/IEC 27001-
zertifiziertMicrosoft-Partner &
Office-365-Experten4,9Google-Bewertungen (27)ISO/IEC 27001-
zertifiziertMicrosoft-Partner &
Office-365-ExpertenAusgangslage
Ihr Team nutzt KI längst. Die Frage ist, wo.
In vielen Unternehmen läuft KI inoffiziell. Jemand kopiert eine Kundenbeschwerde in ein kostenloses Chat-Konto, lässt einen Vertrag zusammenfassen oder eine Mahnung umformulieren. Das spart Zeit. Sie wissen aber nicht, welche Daten wohin gehen, ob der Anbieter sie zum Training nutzt und wer die Verläufe später lesen kann.
Ein Verbot hilft selten, die Arbeit wandert dann aufs private Handy. Besser ist ein Werkzeug, das genauso bequem ist und bei dem Sie die Regeln festlegen.
Ihr Nutzen
Was sich für Ihr Unternehmen ändert
Ihr Team meldet sich mit dem Microsoft-365-Konto an und arbeitet im Browser, ohne Installation. Chatverläufe, Vorlagen und hochgeladene Dokumente speichert ein Server, den Sie kontrollieren.
Ein Filter erkennt Namen, E-Mail-Adressen, Telefonnummern und IBANs und ersetzt sie durch Platzhalter, bevor die Anfrage an das Sprachmodell geht. In der Antwort setzt das System die echten Werte wieder ein.
Mistral, Modelle bei deutschen Cloud-Anbietern, GPT oder Claude: Sie legen fest, welche Modelle zur Auswahl stehen und welche Abteilung welches nutzt. Ein Anbieterwechsel ist eine Einstellung und kein neues Projekt.
Statt einer festen Lizenz pro Kopf zahlen Sie, was Ihr Team tatsächlich verbraucht. Budgets pro Abteilung verhindern Überraschungen auf der Rechnung.
Auswertungen zeigen Nutzung und Kosten je Abteilung. Ob Chatinhalte protokolliert werden und wie lange Verläufe gespeichert bleiben, entscheiden Sie gemeinsam mit Datenschutz und Betriebsrat.
Alle drei Bausteine sind Open Source. Für die Grundversionen fallen keine Lizenzgebühren an, und Sie hängen weder an einem KI-Konzern noch an uns.
So funktioniert es
Was mit einer Anfrage passiert
- 1Frage stellen
Eine Mitarbeiterin fügt eine Kundenmail in den KI-Assistenten ein und bittet um einen Antwortentwurf.
- 2Daten ersetzen
Der Filter findet im Text Namen, Adressen, Telefonnummern und Kontodaten. Den Namen der Kundin ersetzt er zum Beispiel durch den Platzhalter PERSON_1.
- 3Modell antworten lassen
Die bereinigte Anfrage geht an das Sprachmodell, das für diese Abteilung freigegeben ist. Verbrauch und Kosten werden dabei erfasst.
- 4Antwort prüfen
Im Entwurf stehen wieder die echten Namen. Die Mitarbeiterin prüft ihn und verschickt ihn wie gewohnt.
Modelle
Welches Modell für welche Daten?
| Variante | Wo das Modell läuft | Geeignet für |
|---|---|---|
| EU-Anbieter | In Rechenzentren in Deutschland oder der EU, zum Beispiel bei Mistral, IONOS oder STACKIT, mit Auftragsverarbeitungsvertrag. | Den Arbeitsalltag, auch mit Kundendaten. Unsere Empfehlung für den Start. |
| Internationale Anbieter | Bei OpenAI, Anthropic oder Google, häufig in den USA. Der Filter entfernt vorher erkannte personenbezogene Daten. | Aufgaben ohne vertrauliche Inhalte, bei denen das stärkste Modell den Unterschied macht. |
| Eigene Hardware | Offene Modelle auf einem GPU-Server in Ihrem Haus oder bei einem Hoster in Deutschland. | Besonders vertrauliche Daten und Teams, die KI sehr viel nutzen. |
Die Varianten lassen sich kombinieren. Pro Abteilung legen Sie fest, welche Modelle zur Auswahl stehen.
Technik
Drei Open-Source-Bausteine, die wir für Sie betreiben
Die Oberfläche, mit der Ihr Team arbeitet. Sie bedient sich wie ChatGPT und bietet Anmeldung über Microsoft 365, gemeinsame Vorlagen und Wissenssammlungen aus eigenen Dokumenten, etwa Ihrem Qualitätshandbuch.
Die Schaltstelle zwischen Oberfläche und Sprachmodellen. LiteLLM bindet über 100 Modellanbieter an, teilt Budgets auf Abteilungen auf, zählt den Verbrauch und weicht auf ein anderes Modell aus, wenn ein Anbieter ausfällt.
Ein Open-Source-Werkzeug von Microsoft, das personenbezogene Daten in Texten findet und ersetzt. Wir richten es für deutsche Texte ein und ergänzen bei Bedarf eigene Muster, zum Beispiel Ihre Kunden- oder Aktennummern.
Ablauf
Vom Erstgespräch zum Einsatz im Team
- 1Anforderungen klären
Wir besprechen, welche Aufgaben Ihr Team mit KI erledigen möchte, welche Daten dabei vorkommen und welche Modelle deshalb infrage kommen. Ihre Datenschutzbeauftragten können von Anfang an dabei sein.
- 2Einrichten
Wir installieren Open WebUI, LiteLLM und Presidio auf einem Server in Ihrer Umgebung oder bei einem Hoster in Deutschland, binden die Anmeldung über Microsoft 365 an und hinterlegen die Modelle.
- 3Pilot mit einer Abteilung
Eine kleine Gruppe arbeitet einige Wochen damit. Danach wissen Sie, welche Aufgaben gut laufen, wo wir den Filter nachschärfen und was die Nutzung kostet.
- 4Schulen und ausrollen
Ihr Team lernt an eigenen Aufgaben, wie man gute Anfragen stellt und Ergebnisse prüft. Das hilft auch bei der Pflicht zur KI-Kompetenz aus dem EU AI Act.
- 5Betreiben
Wir spielen Updates ein, behalten Kosten und Filter im Blick und nehmen neue Modelle auf, wenn sie für Sie besser passen.
Kosten
Einrichtung nach Aufwand, Modelle nach Verbrauch
Für die Open-Source-Versionen fallen keine Lizenzgebühren an. Einrichtung und Betreuung rechnen wir je angefangene 15 Minuten ab, nach dem Erstgespräch erhalten Sie eine Aufwandsschätzung. Hinzu kommen der Server und die Nutzung der Sprachmodelle, die der Anbieter nach verarbeiteter Textmenge abrechnet.
Nutzt Ihr Team KI nicht den ganzen Tag, liegt das oft unter dem, was feste Lizenzen pro Kopf kosten würden. Ob Digitalisierungsförderung infrage kommt, prüfen wir im Erstgespräch mit, mehr unter Förderprogramme.
Datenschutz
DSGVO und EU AI Act
Eine datenschutzrechtliche Prüfung bleibt nötig. Private KI macht sie einfacher, weil die Datenflüsse überschaubar sind. Oberfläche, Filter und Verläufe liegen auf Ihrem Server, das Sprachmodell bei einem Anbieter Ihrer Wahl mit Auftragsverarbeitungsvertrag.
Wir liefern die technische Beschreibung für Ihr Verzeichnis der Verarbeitungstätigkeiten und stimmen die Einstellungen mit Ihren Datenschutzbeauftragten ab. Als ISO-27001-zertifizierter IT-Dienstleister sichern wir den Server so ab wie den Rest Ihrer IT.
Wo nutzt Ihr Team heute schon KI?
Im kostenlosen Erstgespräch klären wir, welche Aufgaben und Daten betroffen sind, welche Modelle passen und wie ein Pilot mit einer Abteilung aussehen kann.
Reden wir
Klartext.
Ein Anruf, eine Mail, ein Formular – suchen Sie sich aus, wie Sie uns erreichen. Wir melden uns innerhalb eines Arbeitstages.
Kundenstimmen
Echte
Erfolgsgeschichten.
Wir helfen mittelständischen Unternehmen, Organisationen, Kanzleien und Praxen bei der Digitalisierung und schützen ihre IT vor Ausfallzeiten. Unsere Kunden bewerten uns auf Google mit 4,9 von 5 Sternen aus 27 Rezensionen.
Endlich ein IT-Partner, bei dem wir persönliche Ansprechpartner haben – und keine anonyme Hotline. Reaktionszeit stimmt, Kommunikation ist auf den Punkt.
Die Migration in die Cloud lief geräuschlos. Wir konnten am nächsten Morgen einfach weiterarbeiten – so muss IT-Beratung sein.
Wir haben mit ITS zum ersten Mal das Gefühl, dass jemand unser Geschäft wirklich versteht – nicht nur unsere Server.
Endlich ein IT-Partner, bei dem wir persönliche Ansprechpartner haben – und keine anonyme Hotline. Reaktionszeit stimmt, Kommunikation ist auf den Punkt.
Die Migration in die Cloud lief geräuschlos. Wir konnten am nächsten Morgen einfach weiterarbeiten – so muss IT-Beratung sein.
Wir haben mit ITS zum ersten Mal das Gefühl, dass jemand unser Geschäft wirklich versteht – nicht nur unsere Server.
Schnelle Hilfe bei DATEV-Themen, verlässliche Betreuung und immer eine verständliche Erklärung. Absolut empfehlenswert.
Kompetentes Team, kurze Wege, faire Preise. Unsere Telefonanlage und Microsoft 365 laufen seit dem Umstieg absolut stabil.
Sehr freundlicher Service, der auch bei dringenden Störungen sofort erreichbar ist. Man merkt, dass hier Menschen und nicht Ticketnummern zählen.
Wissenswertes
Häufige
Fragen.
Weiterführende Leistungen
Passend zum Thema.