Ein eigenes Unternehmens-GPT: Chat mit Ihren Unternehmensdaten, ohne dass sie das Haus verlassen
Kurz gesagt
Ein Unternehmens-GPT ist ein Chat-Assistent, der Fragen aus Ihren eigenen Dokumenten, Verfahren und Systemen beantwortet, mit Quellenangabe. Es besteht aus einem Sprachmodell, einer Suche über Ihre Quellen, Rollen pro Team und einem Protokoll. Die Frage ist nicht, ob Sie eines brauchen, sondern wo das Modell läuft: bei einem US-Anbieter, der Ihre Daten sieht, oder auf einem Node, der Ihrer Organisation gehört und mit Open-Weight-Modellen arbeitet.
Was ein Unternehmens-GPT ist
Der Begriff kommt von den „Custom GPTs“ in ChatGPT: ein Chat, dem man eigene Dateien und Anweisungen mitgibt. Gemeint ist in Unternehmen meist mehr: ein Assistent, der das Handbuch, die Verträge, die Tickets und das Intranet kennt, Fragen daraus beantwortet und die Stelle nennt, aus der die Antwort stammt. Technisch heißt das Retrieval-Augmented Generation: Die Frage wird gegen Ihre Dokumente gesucht, die Treffer werden dem Modell mitgegeben, das Modell formuliert die Antwort mit Verweis. Siehe KI auf eigenen Dokumenten für die Technik.
Das Modell lernt dabei nichts: Es liest bei jeder Frage neu. Deshalb lässt sich ein Unternehmens-GPT ohne Training aufbauen, und deshalb bleibt die Zugriffsfrage die wichtigste.
Drei Wege, und was sie bedeuten
| Variante | Wo laufen Modell und Daten | Was Sie regeln müssen |
|---|---|---|
| Custom GPT in ChatGPT | Bei OpenAI in den USA; hochgeladene Dateien liegen dort | AVV nur mit Business oder Enterprise, Drittlandtransfer, kein Rollenmodell über Ihre eigenen Berechtigungen hinaus |
| Copilot oder ein Cloud-Assistent im Tenant | In der Cloud des Anbieters, innerhalb Ihrer Lizenzen | Welche Quellen der Assistent erreicht; alte Freigaben werden sichtbar. Siehe Copilot oder eigene KI |
| Eigener Node mit Open-Weight-Modell | In Ihrem Serverraum oder auf einem dedizierten Node in einem europäischen Rechenzentrum | Betrieb, Modellwahl, Anbindung der Quellen; kein Anbieter in der Kette |
Die ersten beiden Varianten sind schnell eingerichtet. Sie bedeuten aber, dass ein Dritter Ihre Fragen und Dokumente verarbeitet. Für Personalakten, Verträge, Patientendaten oder Mandate ist das die Stelle, an der die meisten Projekte scheitern.
Die vier Bausteine
- Modell. Ein Open-Weight-Modell wie Llama, Mistral oder Qwen, in einer Größe, die Ihr Node trägt. Ein großes Modell zum Formulieren, ein kleines zum Klassifizieren.
- Quellen. Dateiablagen, Intranet, Ticketsystem, Fachanwendungen, angebunden mit den Berechtigungen, die dort gelten. Beginnen Sie mit einer Abteilung und einem Dokumentbestand.
- Rollen. Wer darf was fragen, und aus welchen Quellen? Der Assistent darf nie mehr sehen als die Person, die fragt. Siehe Zugriffskontrolle für KI.
- Protokoll. Jede Frage, jede Antwort, jede Quelle. Für den Datenschutzbeauftragten, für die Fehlersuche, und ab Dezember 2027 für die Protokollpflicht der KI-Verordnung bei Hochrisiko-Anwendungen.
So führen Sie es ein
- Ein Prozess zuerst. Die Wissensdatenbank des Kundendienstes, das Qualitätshandbuch, die Vertragsvorlagen. Mit einer Eigentümerin und einem messbaren Ziel.
- Testfragen vorher. Dreißig echte Fragen mit bekannten Antworten. Damit vergleichen Sie Modelle und messen später die Korrekturquote.
- Quellen statt Gedächtnis. Antworten ohne Verweis gelten als Vermutung. Das sagt der Assistent selbst.
- Pilot mit einem Team, vier bis sechs Wochen. Dann erst die nächste Abteilung. Die vollständige Reihenfolge steht in Eine eigene KI-Umgebung aufbauen.
Wie werqly dazu passt
werqly ist ein Unternehmens-GPT auf einem Node, der Ihrer Organisation gehört: im eigenen Serverraum oder als dedizierter Node in werqly Cloud, mit Open-Weight-Modellen, angebundenen Quellen und werqly AI Control für Rollen, Quellen pro Rolle und Protokoll. Mitarbeitende chatten wie mit ChatGPT, nur dass Fragen und Dokumente das Haus nicht verlassen. Berechnen Sie unten die Konfiguration für Ihre Organisation.
Häufige Fragen
Fragen zu diesem Thema
Ist ein Custom GPT in ChatGPT ein Unternehmens-GPT?
Es ist der einfachste Einstieg, aber die Dateien liegen bei OpenAI in den USA, und ohne Business- oder Enterprise-Vertrag fehlt der Auftragsverarbeitungsvertrag. Für öffentliche Inhalte brauchbar, für vertrauliche Daten nicht.
Muss das Modell mit unseren Daten trainiert werden?
Nein. Ein Unternehmens-GPT sucht bei jeder Frage in Ihren Dokumenten und gibt die Treffer dem Modell mit. Das Modell bleibt unverändert, die Antworten werden mit Quellen belegt, und neue Dokumente sind sofort nutzbar.
Wie verhindern wir, dass der Assistent zu viel preisgibt?
Durch Rollen: Der Assistent durchsucht nur die Quellen, die die fragende Person auch selbst öffnen darf, und protokolliert jede Antwort. Beginnen Sie mit einem abgegrenzten Dokumentbestand und erweitern Sie schrittweise.
Welche Hardware braucht ein eigenes Unternehmens-GPT?
Einen Server mit GPU, dessen Größe von der Zahl der gleichzeitigen Nutzer und der Modellgröße abhängt. Für die meisten Organisationen reicht ein Node; der Rechner auf dieser Seite zeigt die passende Konfiguration.
Quellen
Dieser Beitrag ist eine allgemeine Information, keine Rechtsberatung. Regeln und Leitlinien ändern sich; prüfen Sie im Zweifel die genannten Quellen oder fragen Sie Ihre Rechtsabteilung oder Ihren Datenschutzbeauftragten.