07.08.2026•8 Min. Lesezeit

DSGVO und Firmenwissen: was in einen KI-Assistenten darf

Firmenwissen darf in einen KI-Assistenten, wenn drei Dinge geklärt sind: Es gibt einen Vertrag zur Auftragsverarbeitung mit dem Anbieter, die Wissensbasis enthält nur die personenbezogenen Daten, die für die Aufgabe wirklich nötig sind, und jemand weiß, wie man sie wieder löscht.

Das ist die Kurzfassung. Der Rest dieses Artikels ist die Begründung und der Teil, der in der Praxis Ärger macht.

Stand: 28. Juli 2026. Datenschutz- und KI-Recht bewegen sich, gerade beim Drittlandtransfer. Dieser Text ist eine Orientierung aus der Beratungspraxis und ersetzt keine Rechtsberatung. Für verbindliche Auskünfte wendest du dich an eine Anwältin, an eure Datenschutzbeauftragte oder direkt an die zuständige Aufsichtsbehörde. Ich verlinke bewusst auf Primärquellen, damit du selbst nachlesen kannst, statt einer Sekundärzusammenfassung zu vertrauen. Dieser Artikel gehört zum Guide zum Bauen eigener KI-Assistenten mit Firmenwissen.

Der Grundfall: Auftragsverarbeitung

Wenn du Dokumente mit personenbezogenen Daten in einen KI-Dienst hochlädst, verarbeitet dieser Anbieter Daten in deinem Auftrag. Nach Artikel 28 der Datenschutz-Grundverordnung braucht es dafür einen Vertrag, der Gegenstand, Dauer, Art und Zweck der Verarbeitung festlegt sowie die Pflichten des Auftragsverarbeiters regelt.

Drei praktische Punkte, die dabei regelmäßig schiefgehen:

Der Tarif entscheidet, nicht die Marke. Große Anbieter stellen einen Auftragsverarbeitungsvertrag in ihren Business- oder Enterprise-Tarifen zur Verfügung, im privaten Tarif häufig nicht. Wer mit dem persönlichen Account arbeitet, hat den Vertrag im Zweifel nicht, auch wenn das Produkt identisch aussieht. Das ist der häufigste Fehler, den ich sehe.

Der Vertrag muss abgeschlossen sein, nicht nur existieren. Bei manchen Anbietern ist der Abschluss ein aktiver Klick im Admin-Bereich. Prüfe das, statt es anzunehmen.

Training mit deinen Inhalten ist ein eigener Punkt. Ob deine Eingaben und Uploads zur Modellverbesserung genutzt werden, hängt am Tarif und an den Einstellungen. Kläre das, bevor die erste Datei hochgeht, und dokumentiere die Antwort.

Welche Bauform überhaupt in Frage kommt, hängt deshalb auch von diesen Vertragsfragen ab. Ich habe das in CustomGPT, Claude Project oder Gem als eigene Entscheidungsachse behandelt.

Personenbezogene Daten in der Wissensbasis

Der zweite Bereich ist der, bei dem du selbst am meisten in der Hand hast.

Personenbezogene Daten sind alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen. Das umfasst mehr, als die meisten annehmen: Namen in Protokollen, E-Mail-Adressen in Beispiel-Korrespondenz, Kundennummern, die sich zuordnen lassen, Fotos, Telefonnotizen.

Artikel 5 Absatz 1 Buchstabe c DSGVO verlangt Datenminimierung. Daten müssen dem Zweck angemessen und auf das notwendige Maß beschränkt sein. Übersetzt in die Assistenten-Praxis heißt das: Frage bei jedem Dokument, ob die Personenbezüge für die Aufgabe gebraucht werden. Meist lautet die Antwort nein. Der Assistent soll ja wissen, wie ihr arbeitet, und nicht, mit wem.

Was fast immer funktioniert:

Beispiele anonymisieren. Aus „Angebot an Frau Meier, Musterstraße 3” wird „Angebot an eine Kundin aus dem Handwerk”. Der Assistent lernt die Struktur, nicht die Person.
Rollen statt Namen. „Der zuständige Projektleiter” statt Klarname.
Beträge und Fallzahlen entfernen, wenn sie für die Aufgabe irrelevant sind.

Besondere Vorsicht verlangen die besonderen Kategorien nach Artikel 9 DSGVO. Dazu zählen etwa Gesundheitsdaten und Angaben zu Gewerkschaftszugehörigkeit oder Religion. Solche Daten gehören nach meiner Einschätzung nicht in eine hochgeladene Wissensbasis, solange ihr keine belastbare rechtliche Prüfung dazu habt.

Dazu kommt ein technischer Grund: Hinterlegtes Wissen lässt sich aus geteilten Assistenten herauskitzeln. Was das konkret bedeutet und welche Forschung dahintersteht, steht in KI-Assistenten im Team teilen. Für die Datenschutzfrage ist die Folge simpel: Behandle die Wissensbasis als potenziell lesbar.

Der Europäische Datenschutzausschuss hat am 17. Dezember 2024 seine Stellungnahme 28/2024 zu Datenschutzaspekten bei KI-Modellen angenommen. Sie behandelt unter anderem, wann ein KI-Modell überhaupt als anonym gelten kann, und stellt dafür strenge Anforderungen auf: Die Wahrscheinlichkeit, personenbezogene Daten direkt oder über Abfragen aus dem Modell zu gewinnen, muss unbedeutend sein. Für dich als Anwenderin ist das weniger direkt relevant als für Modellanbieter, aber es zeigt die Denkrichtung der Aufsicht.

Praxisnäher ist die Orientierungshilfe „Künstliche Intelligenz und Datenschutz” der Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder, veröffentlicht am 6. Mai 2024. Sie richtet sich ausdrücklich auch an Unternehmen, die KI-Anwendungen für eigene Zwecke einsetzen, und ist als Checkliste für Auswahl, Einführung und Nutzung gedacht. Aktuelle Fassungen findest du auf der Übersichtsseite der DSK.

Drittlandtransfer und das EU-US Data Privacy Framework

Die meisten relevanten Anbieter sitzen in den USA. Für die Übermittlung personenbezogener Daten dorthin braucht es eine Grundlage nach Kapitel V DSGVO.

Die Europäische Kommission hat am 10. Juli 2023 den Durchführungsbeschluss (EU) 2023/1795 erlassen und darin festgestellt, dass die USA für Daten, die an unter dem EU-US Data Privacy Framework zertifizierte Organisationen übermittelt werden, ein angemessenes Schutzniveau bieten. Für solche Übermittlungen sind keine zusätzlichen Instrumente wie Standardvertragsklauseln erforderlich.

Zwei Einschränkungen, die in der Praxis oft untergehen:

Der Beschluss gilt nicht pauschal für „die USA”. Er greift nur, wenn der konkrete Empfänger auf der beim US-Handelsministerium geführten Data Privacy Framework List steht. Ob dein Anbieter zertifiziert ist, kannst du dort prüfen, und du solltest es tun, statt es anzunehmen.

Der Rahmen wird angegriffen. Das Gericht der Europäischen Union hat am 3. September 2025 in der Rechtssache T-553/23 (Latombe gegen Kommission) eine Nichtigkeitsklage gegen den Angemessenheitsbeschluss abgewiesen und ihn damit bestätigt. Gegen Urteile des Gerichts ist ein Rechtsmittel zum Gerichtshof möglich, und die politische Diskussion um das Framework ist nicht beendet. Stand Juli 2026 ist der Beschluss in Kraft. Wer langfristig plant, sollte trotzdem wissen, welche Alternative er hätte, wenn sich das ändert.

Das ist kein Grund zur Panik. Es gehört als Notiz ins Risikoregister, zusammen mit der Frage, wie aufwendig ein Anbieterwechsel bei euch wäre. Die beiden Vorgängerabkommen sind gekippt worden. Unternehmen, die das damals kalt erwischt hat, hatten keinen Plan B. Wer seine Anweisungen und seine kuratierten Dokumente außerhalb des Tools versioniert liegen hat, ist hier deutlich entspannter.

Aufbewahrung und Löschung

Der unspektakulärste Teil und der, der am häufigsten fehlt.

Nach Artikel 5 Absatz 1 Buchstabe e DSGVO dürfen personenbezogene Daten nur so lange in identifizierbarer Form gespeichert werden, wie es für die Zwecke erforderlich ist. Artikel 17 regelt das Recht auf Löschung. Beides gilt auch für Dateien, die in einem KI-Assistenten liegen.

Drei Fragen, die ihr beantworten können solltet:

Wo liegen die Kopien? Eine hochgeladene Datei existiert im Zweifel an mehreren Stellen: in der Wissensbasis des Assistenten, in der Chat-Historie der Nutzenden, im Backup des Anbieters. Kläre für dein Tool, was beim Löschen tatsächlich verschwindet.
Wer prüft, ob die Dokumente noch aktuell und noch nötig sind? Das gehört in denselben Rhythmus wie die inhaltliche Pflege, siehe KI-Assistent aktuell halten.
Was passiert bei einem Löschverlangen einer betroffenen Person? Wenn du diese Frage nicht in fünf Minuten beantworten kannst, gehört sie ganz oben auf die Liste.

Die einfachste Vorbeugung ist wieder die Auswahl an der Quelle. Was du gar nicht erst hochlädst, musst du nicht löschen. Welche Dokumente sich lohnen und welche du besser bereinigst, steht in Welche Dokumente in die Wissensbasis gehören.

Betriebliche Mitbestimmung

Wer einen Betriebsrat hat, hat hier eine eigene Baustelle, und zwar unabhängig vom Datenschutz.

Nach § 87 Absatz 1 Nummer 6 BetrVG hat der Betriebsrat mitzubestimmen bei der Einführung und Anwendung technischer Einrichtungen, die dazu bestimmt sind, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen. Nach ständiger Rechtsprechung genügt die objektive Eignung zur Überwachung, eine Überwachungsabsicht ist nicht nötig. Ein System, das protokolliert, wer wann welche Anfragen stellt, kann darunter fallen.

Ergänzend wurde mit dem Betriebsrätemodernisierungsgesetz 2021 in § 80 Absatz 3 BetrVG klargestellt, dass die Hinzuziehung eines Sachverständigen als erforderlich gilt, wenn der Betriebsrat die Einführung oder Anwendung Künstlicher Intelligenz zu beurteilen hat. Der Arbeitgeber kann die Erforderlichkeit in diesem Fall also nicht mehr bestreiten.

Mein pragmatischer Rat: Hol den Betriebsrat früh dazu, bevor der Assistent gebaut ist. Eine Rahmen-Betriebsvereinbarung zum KI-Einsatz ist deutlich angenehmer zu verhandeln als eine nachträgliche Rechtfertigung für ein System, das schon läuft.

Der EU AI Act kommt dazu, ersetzt aber nichts

Kurz zur Abgrenzung, weil beides oft vermischt wird. Die DSGVO regelt personenbezogene Daten. Der EU AI Act regelt KI-Systeme. Beide gelten nebeneinander.

Für kleine Unternehmen ist vor allem Artikel 4 relevant, die Pflicht zur KI-Kompetenz von Personal und beauftragten Personen. Artikel 4 gilt seit dem 2. Februar 2025. Was das konkret bedeutet, welche Maßnahmen angemessen sind und warum Angstverkäufe hier fehl am Platz sind, habe ich im Praxis-Guide zu KI-Workshops für Unternehmen ausführlich behandelt.

Wie ich vorgehen würde

Nicht mit einer Datenschutzfolgenabschätzung anfangen, sondern mit einer Liste. Welche Aufgabe, welche Dokumente, welche Personenbezüge, welcher Anbieter, welcher Tarif. Diese fünf Spalten beantworten die meisten Fragen von selbst, und sie zeigen sofort, wo ihr eine echte Prüfung braucht.

Wenn du merkst, dass ihr diese Liste gar nicht befüllen könnt, weil unklar ist, welche Tools im Haus schon genutzt werden und welche Daten dort bereits liegen, dann fangt eine Stufe früher an.

Mit genau dieser Bestandsaufnahme beginnen die Datenschutzgespräche in meiner Beratungspraxis fast immer, und zwar bevor Verträge unterschrieben oder Dokumente hochgeladen werden. Dieselbe Reihenfolge geht der KI-Readiness-Check mit euch durch.

Und der Satz, den ich mir für Datenschutzfragen angewöhnt habe: Klären, bevor gebaut wird. Nachträglich Daten aus einem laufenden System zu entfernen kostet ein Vielfaches der Zeit, die eine Prüfung vorher gekostet hätte.

Quellen

Benedikt Backhaus

Experte für KI, Automatisierung und die Zukunft der Arbeit. Ich helfe Unternehmen und Einzelpersonen dabei, die Potenziale neuer Technologien zu nutzen.

Mehr über mich →Termin buchen →