06.08.2026•8 Min. Lesezeit

Die Wissensbasis: welche Dokumente in deinen KI-Assistenten gehören

In die Wissensbasis deines KI-Assistenten gehören die drei bis sieben Dokumente, die du selbst aufschlagen würdest, um die Aufgabe zu erledigen. Nicht mehr. Alles Weitere macht den Assistenten schlechter, nicht besser, und die häufigste Fehlerquelle ist ein Dokument, das noch stimmt, aber nicht mehr aktuell ist.

Das klingt nach einer Einschränkung und ist in Wahrheit eine Erleichterung. Die meisten Leute, die einen Assistenten bauen, scheitern nämlich nicht am Fehlen von Material. Sie scheitern daran, dass sie den ganzen Ordner hochladen.

Die Auswahlfrage, die alles vereinfacht

Du gibst die Aufgabe an eine neue Kollegin ab. Sie ist klug, kennt euer Geschäft aber nicht. Welche Dateien legst du ihr auf den Tisch, damit sie loslegen kann?

Das ist die komplette Auswahlmethodik. Was du ihr geben würdest, gehört rein. Was du ihr geben würdest „für den Fall, dass sie mal reinschauen will”, gehört nicht rein.

Typische Kandidaten in einem kleinen Unternehmen:

Leistungs- und Preisübersicht in der Fassung, die gerade gilt
Zwei bis vier Beispiel-Outputs, die du selbst gut findest
Ein FAQ aus echten Kundenfragen, nicht aus erfundenen
Tonalitätsregeln, wenn ihr welche habt, sonst zwei Beispieltexte statt Regeln
Eine Ausschlussliste: Themen, Aussagen, Kunden, über die nicht gesprochen wird

Fünf Dateien. Das ist für die allermeisten Assistenten in Betrieben unter 20 Personen bereits mehr als genug.

Warum mehr nicht besser ist

Der Reflex, alles hochzuladen, ist verständlich. Mehr Material klingt nach mehr Sicherheit.

Chroma hat im Sommer 2025 in der Untersuchung „Context Rot” 18 aktuelle Sprachmodelle darauf getestet, wie sich wachsende Eingabelängen auf die Ergebnisqualität auswirken. Alle 18 wurden schlechter, je länger die Eingabe wurde, und zwar auch bei einfachen Abrufaufgaben. Die Verschlechterung setzt lange vor dem Erreichen des Kontextfensters ein. Ein Modell mit großem Fenster kann also bereits deutlich früher unzuverlässig werden.

Für dich heißt das konkret: Wenn dein Assistent zwischen der aktuellen Preisliste und drei alten Angeboten mit anderen Preisen wählen muss, hast du ihm die Arbeit erschwert, ohne ihm etwas zu geben. Er wird sich manchmal richtig entscheiden. Manchmal nicht. Und du weißt nie, welches Mal gerade dran ist.

Es gibt einen zweiten Effekt, der seltener genannt wird. Je mehr du hochlädst, desto weniger genau weißt du selbst, was drin ist. Damit verlierst du die Fähigkeit, Fehler zu erklären, und das ist der Anfang vom Ende jedes Assistenten, der im Team laufen soll.

Veraltete Dokumente sind die Hauptfehlerquelle

Hier liegt der Punkt, an dem in der Praxis das meiste kaputtgeht.

Ein fehlendes Dokument merkst du sofort, weil der Assistent sagt, dass er es nicht weiß, oder weil er offensichtlichen Unsinn produziert. Ein veraltetes Dokument merkst du nie, weil die Antwort plausibel aussieht. Sie ist ordentlich formuliert, korrekt aufgebaut und enthält den Preis vom letzten Jahr.

Gartner beziffert die durchschnittlichen jährlichen Kosten schlechter Datenqualität für Organisationen auf 12,9 Millionen US-Dollar. Diese Zahl stammt aus dem Enterprise-Kontext und ist für einen Betrieb mit acht Leuten offensichtlich nicht übertragbar. Der Mechanismus dahinter schon: Falsche Daten verursachen ihre Kosten leise, verteilt und mit Verzögerung. Genau so verhält sich ein alter PDF-Anhang in deiner Wissensbasis.

Meine Gegenmaßnahmen, alle unspektakulär:

Datum in den Dateinamen. preisliste-2026-07.pdf statt preisliste_final_v3.pdf. Du siehst das Alter, ohne die Datei zu öffnen.
Ein Besitzer pro Dokument. Eine Person, die weiß, dass sie zuständig ist. Ohne Namen passiert nichts.
Ein fester Termin. Quartalsweise reicht in den meisten Fällen. Wie so eine Routine aussieht, steht in KI-Assistent aktuell halten.
Löschen statt archivieren. Alte Fassungen gehören nicht als Sicherheitskopie in die Wissensbasis. Sie gehören woanders hin.

Wann hast du zuletzt nachgesehen, welche Version deiner Preisliste tatsächlich in deinem Assistenten liegt?

Vier Dokumente, die regelmäßig überschätzt werden

Diese vier tauchen in fast jeder ersten Wissensbasis auf, die ich sehe, und tragen selten etwas bei.

Die Unternehmenspräsentation. Sie ist für Menschen in einem Raum gebaut, mit Bildern, Andeutungen und einem Sprecher, der den Rest erklärt. Als Textquelle liefert sie Behauptungen ohne Substanz.

Das Leitbild. „Wir stehen für Qualität und Partnerschaft” hilft einem Assistenten bei keiner einzigen Entscheidung. Was hilft, sind zwei echte Antworten, die du gut fandest.

Die komplette Website als Export. Enthält Navigation, Cookie-Hinweise, alte Landingpages und drei Preisstände. Der Anteil brauchbarer Information ist niedrig, der Anteil widersprüchlicher Information hoch.

Das Handbuch von 2021. Umfangreich, sorgfältig geschrieben, an vielen Stellen überholt. Genau die Kombination, die teuer wird.

Der gemeinsame Nenner: Alle vier fühlen sich beim Hochladen produktiv an. Keines von ihnen beantwortet eine Frage, die tatsächlich gestellt wird.

Der Test, bevor du live gehst

Bevor du den Assistenten jemandem gibst, stell ihm fünf Fragen, deren Antwort du sicher kennst, und eine sechste, deren Antwort in keinem deiner Dokumente steht.

Die ersten fünf zeigen dir, ob die Wissensbasis greift. Die sechste zeigt dir etwas Wichtigeres: was passiert, wenn er nichts findet. Wenn er dann anfängt zu erfinden, liegt das Problem selten an der Wissensbasis. Es liegt an fehlenden Grenzen, und wie du die formulierst, ist ein eigenes Thema. Wie ein sauberer Testlauf aussieht, steht in KI-Assistent testen.

Der Test dauert zehn Minuten und ist der einzige Grund, warum ich mich später auf einen Assistenten verlasse.

Struktur und Dateiformate

Ein paar Dinge, die den Unterschied zwischen brauchbar und mühsam machen.

Text schlägt Layout. Markdown, reiner Text und einfach aufgebaute PDFs funktionieren zuverlässig. Foliensätze, Prospekte mit Spalten und gescannte Dokumente funktionieren mal so, mal so. Wenn dein wichtigstes Wissen in einer Broschüre steckt, extrahier den Inhalt einmal in eine Textdatei. Das dauert zwanzig Minuten und erspart dir monatelang seltsame Antworten.

Überschriften sind kein Schmuck. Eine Datei mit klaren Zwischenüberschriften wird verlässlicher gefunden als ein Fließtextblock gleicher Länge. Das gilt für die Suche im Dokument genauso wie für dich beim Nachschlagen.

Eine Datei, ein Thema. Preise in die Preisdatei, Tonalität in die Tonalitätsdatei. Sammeldateien mit vier Themen sind bequem beim Hochladen und lästig bei jedem Update.

Tabellen sparsam. Eine kleine, saubere Preistabelle ist gut. Eine Excel-Tabelle mit verbundenen Zellen, Farbcodierung und drei Reitern ist eine Zumutung für jeden Beteiligten, Mensch wie Maschine.

Der Aufwand dafür lohnt sich auch außerhalb des Assistenten. Das McKinsey Global Institute schätzte 2012 in der Studie „The social economy”, dass Wissensarbeiter knapp 20 Prozent ihrer Arbeitswoche damit verbringen, interne Informationen zu suchen oder Kollegen zu finden, die weiterhelfen können. Die Studie ist alt, das Problem ist es nicht. Wenn du dein Wissen für einen Assistenten sortierst, sortierst du es für alle.

Was aus Vertraulichkeitsgründen draußen bleibt

Diese Liste ist kurz und sollte trotzdem jedes Mal durchgegangen werden, bevor eine Datei hochgeht.

Draußen bleiben: personenbezogene Daten ohne Rechtsgrundlage, Gesundheits- und Bewerberdaten, Gehaltslisten, Kundenverträge mit Vertraulichkeitsklauseln, alles unter NDA, Zugangsdaten und API-Schlüssel, interne Konfliktdokumentation.

Der praktische Test besteht aus einer Frage: Wärst du entspannt, wenn diese Datei in einem falschen Postfach landet? Bei einem Nein gehört sie nicht in einen Assistenten, den mehrere Leute benutzen.

Häufig lässt sich das Problem entschärfen, ohne auf den Inhalt zu verzichten. Aus einem Kundenvertrag wird eine anonymisierte Beispielklausel. Aus zwanzig echten Support-Tickets wird ein FAQ ohne Namen. Der Assistent braucht das Muster, selten den Einzelfall. Die rechtliche Seite, inklusive Auftragsverarbeitung und Speicherorten, behandele ich getrennt unter DSGVO und Firmenwissen im KI-Assistenten.

Der berechtigte Einwand

„Wenn ich so streng auswähle, kann mein Assistent doch die Hälfte der Fragen nicht beantworten.”

Stimmt. Und das ist der Zustand, den du willst. Ein Assistent, der bei fünf Themen zuverlässig ist und bei allem anderen ehrlich passt, ist im Alltag brauchbar. Einer, der auf alles irgendwas antwortet, wird nach dem dritten peinlichen Moment nicht mehr geöffnet. Wie du ihm das Passen beibringst, steht in Constraints schreiben.

Und der Ausbau ist ja möglich. Du fügst das sechste Dokument hinzu, wenn dir eine echte Frage dreimal begegnet ist, die es beantwortet hätte. Diese Reihenfolge ist der ganze Trick: Erst der Bedarf, dann die Datei.

Wie du in einer Stunde anfängst

Leg einen Ordner an. Kopier hinein, was du der neuen Kollegin geben würdest. Schau dir jede Datei kurz an und beantworte zwei Fragen: Stimmt das noch, und darf das raus aus dem Haus? Alles, was beides mit Ja beantwortet, kommt in den Assistenten.

Wie diese Wissensbasis dann mit den anderen beiden Bausteinen zusammenspielt, steht in Aufgabe, Wissensdaten, Constraints, und der komplette Aufbau eines KI-Assistenten mit Firmenwissen ordnet beides in den größeren Ablauf ein. Der Gedanke dahinter ist derselbe wie bei Skills statt Prompts: Du schreibst einmal auf, wie ihr arbeitet, statt es jedes Mal neu zu erklären.

Falls du beim Zusammensuchen merkst, dass die Hälfte der Dokumente gar nicht existiert, ist das ein Befund und kein Rückschlag. Der KI-Readiness-Check fragt genau diese Lücken ab, und meistens ist das Aufschreiben des fehlenden Wissens die eigentliche Arbeit, für die sich der ganze Aufwand am Ende auszahlt.

Quellen

Benedikt Backhaus

Experte für KI, Automatisierung und die Zukunft der Arbeit. Ich helfe Unternehmen und Einzelpersonen dabei, die Potenziale neuer Technologien zu nutzen.

Mehr über mich →Termin buchen →