3 KI-Mythen, die Prof. Patrick Glauner in unserem Gespräch zerlegt hat

Ich hatte vor ein paar Wochen das Privileg, mich mit Prof. Dr. Patrick Glauner länger zu unterhalten. Wer ihn nicht kennt: Patrick ist Professor für Künstliche Intelligenz an der Technischen Hochschule Deggendorf, hat dort einen englischsprachigen KI-Bachelor aufgebaut, war Fellow am CERN, hat in Luxemburg über KI promoviert und berät als Sachverständiger unter anderem das Europäische Parlament zu KI-Themen. Also kein Influencer-Take, sondern einer, der den Stoff von innen kennt.

Aus dem Gespräch hängen mir drei Aussagen seit Wochen nach. Drei Stellen, an denen die öffentliche Debatte aus meiner Sicht meilenweit am Forschungsstand vorbeiläuft. Ich teile sie hier, weil sich daraus drei sehr konkrete Konsequenzen für deinen KI-Einsatz im Job ergeben.

Mythos 1: „KI nimmt uns die Jobs weg”

Patricks Satz aus dem Interview:

„Die wirkliche Herausforderung ist nicht Arbeitslosigkeit, sondern dass man sich aktuell halten muss. Bereiche professionalisieren sich, differenzieren sich aus.”

Das deckt sich exakt mit dem, was die seriöse Arbeitsmarktforschung gerade liefert.

David Autor, Ökonom am MIT und einer der meistzitierten Forscher zum Thema „Technologie und Arbeitsmarkt”, hat in seinem Paper Applying AI to Rebuild Middle Class Jobs die zentrale These formuliert: Die echte Chance von KI liegt nicht im Wegrationalisieren, sondern darin, die Reichweite menschlicher Expertise zu erweitern. Aufgaben, die bisher nur einer kleinen elitären Gruppe (Ärzte, Anwälte, Senior Engineers) vorbehalten waren, werden durch KI für eine breitere Gruppe „mittlerer” Wissensarbeiter zugänglich.

Das ist keine schmuckverdächtige Aussage – das ist gut belegt durch Jahrzehnte Forschung zu Job-Polarisierung.

Die OECD AI Surveys ergänzen das Bild aus Sicht der Beschäftigten: 4 von 5 befragten Arbeitnehmern sagen, dass KI ihre Performance verbessert hat, 3 von 5 berichten von mehr Freude an der Arbeit. Gleichzeitig: Sorge vor Jobverlust ist real und sollte ernst genommen werden, ist aber empirisch nicht der dominante Effekt.

Sprich: Die Berufe verschwinden nicht en bloc. Sie verändern sich. Die Bedrohung ist nicht „du wirst arbeitslos”, sondern „dein Profil von 2022 reicht 2027 nicht mehr”.

Was das für dich heißt: Hör auf, deine Energie in „wird mein Job ersetzt”-Diskussionen zu stecken. Steck sie in „welche Aufgaben aus meinem Job gehören in einen KI-augmentierten Workflow – und welche bleiben meine?”. Das ist die Frage, die in fünf Jahren über dein Gehalt entscheidet.

Mythos 2: „Meine Daten landen im Modell”

Hier hat Patrick mir – ehrlich gesagt – ein paar Annahmen entkalkt, die ich vorher selbst nicht sauber durchdacht hatte. Seine Kernaussage:

„Ganz wenige Modelle speichern wirklich Trainingsdaten. Das ist eine absolute Randerscheinung. LLMs komprimieren Milliarden von Zusammenhängen zu Mustern. Memorization tritt nur bei überrepräsentierten Inhalten auf – und das ist kein Beweis dafür, dass Trainingsdaten gespeichert werden. Deine Chats werden nicht ins Modell übernommen.”

Das ist eine wichtige Differenzierung, weil im öffentlichen Diskurs oft drei verschiedene Dinge in einen Topf geworfen werden:

1. Trainingsdaten (was in das Modell zum Training reinging)
2. Memorization (was das Modell unbeabsichtigt verbatim wiedergeben kann)
3. Chat-Logs (was du beim Nutzen eintippst)

Das wegweisende Paper zum Thema ist Extracting Training Data from Large Language Models von Nicholas Carlini et al., präsentiert auf dem USENIX Security Symposium 2021. Das Team konnte aus GPT-2 hunderte verbatim Textsequenzen extrahieren – aber: bevorzugt solche, die in den Trainingsdaten dutzendfach dupliziert waren. Im Follow-up Quantifying Memorization Across Neural Language Models (Carlini et al. 2022) wurde das systematisch quantifiziert: Memorization steigt mit Modellgröße, Duplikation und Kontextlänge – aber sie ist eine Eigenschaft, die bei dupliziertem, häufigem Content auftritt, nicht ein generelles „das Modell speichert alles”.

Und – ganz wichtig für den Praxisalltag – das Carlini-Paper sagt nichts darüber aus, dass deine Chat-Eingaben automatisch ins nächste Modell wandern. Das ist eine Frage der Anbieter-AGB, nicht der Architektur. Anthropic, OpenAI und die anderen seriösen Anbieter machen dazu in den Business-/Enterprise-Tarifen klare Aussagen: Keine Nutzung deiner Inputs fürs Training, klare Data-Retention-Policies.

Was das für dich heißt: Lies einmal die Datenschutz-Settings deines KI-Tools. Wirklich. Bei den meisten Tools kannst du Training-Opt-out aktivieren. Im Business-/Team-Tarif ist es Standard. Wenn du das geklärt hast, hört der Mythos „meine Daten gehen ins Modell” auf, ein Gegenargument zu sein – und du kannst dich auf die echten Risiken konzentrieren: Halluzinationen, Quellenangaben, Prozess-Governance.

Mythos 3: „KI macht den Content schlechter”

Der dritte Punkt war für mich der spannendste, weil er gleichzeitig stimmt und nicht stimmt:

„Garbage hat zugenommen. Aber Menschen wollen weiter hochqualitativen Content. Und wenn ich KI richtig einsetze, kann ich viel besseren Content generieren. Menschliche Fähigkeiten plus KI-Fähigkeiten verbinden.”

Die „Garbage”-Seite ist gut dokumentiert. NewsGuard trackt im AI Tracking Center mittlerweile über 3.000 KI-Content-Farm-Websites in 16 Sprachen – Seiten, die KI-Output ohne nennenswerte redaktionelle Kontrolle veröffentlichen, oft mit gestohlenen oder umgeschriebenen Originalartikeln. Originality.AI misst kontinuierlich den Anteil KI-generierter Inhalte in den Top-20-Google-Suchergebnissen und kommt im Schnitt der letzten Monate auf rund 17 Prozent. Mit anderen Worten: Etwa jeder sechste Top-Treffer in der Suche ist primär maschinell erzeugt.

Das ist die Seite, die alle sehen. Die andere Seite – Patricks Punkt – wird viel zu selten erzählt: Wer KI als Verstärker nutzt statt als Ersatz für eigenes Denken, produziert messbar besseren Content. Bessere Strukturierung, schnellere Recherche, mehr Iterationen, bessere Übersetzungen, präzisere Datenvisualisierung.

Das deckt sich mit Autors These: KI hebt das Niveau dort, wo menschliche Expertise sie steuert, und sie senkt das Niveau dort, wo sie unbeaufsichtigt laufen darf.

Was das für dich heißt: Die simple Frage „nutzt du KI für Content?” ist nutzlos. Die nützliche Frage lautet: „Wo in deinem Content-Prozess sitzt der Mensch, der die KI führt – und welches handwerkliche Kriterium hat er für ‚fertig’?” Wer das nicht beantworten kann, produziert wahrscheinlich Slop. Wer es beantworten kann, produziert wahrscheinlich Material, das messbar besser ist als noch vor zwei Jahren.

Was ich aus dem Gespräch mitnehme

Drei Mythen, drei sehr konkrete Konsequenzen für meine Arbeit als KI-Trainer:

1. Arbeitsplatzangst entkräften, Aktualisierungspflicht betonen. In meinen Workshops verschiebe ich gerade massiv, wie viel Zeit ich mit „KI nimmt uns nicht die Jobs”-Beruhigung verbringe – und wie viel Zeit ich auf „so hältst du dein Profil aktuell” verwende.
2. Datenschutz präzise machen, statt pauschal warnen. Mit den Carlini-Papern in der Tasche kann ich Teams konkret erklären, was Memorization ist, was sie nicht ist und wo die echten Risiken liegen.
3. Content-Qualität ist eine Frage des Workflows, nicht des Tools. Wer KI als „Knopf drücken, fertig”-Maschine nutzt, produziert Müll. Wer einen sauberen Build–Review–Publish-Loop hat, produziert besseren Output als jemals zuvor.

Patrick hat im Gespräch nebenbei einen Satz gesagt, den ich mir aufgeschrieben habe: „Die Differenzierung gewinnt jetzt – nicht die Geschwindigkeit.” Ich glaube, das ist der eigentliche rote Faden hinter allen drei Mythen.

Wenn du das hier liest und denkst „ja, aber bei uns im Unternehmen sehen das viele anders”: Genau dann lohnt es sich, mit den verlinkten Quellen in die nächste interne Diskussion zu gehen. Mythen halten sich, weil ihnen keiner saubere Zahlen entgegenstellt. Forschungslage hilft.

Quellen

• Prof. Dr. Patrick Glauner – persönliche Webseite
• Prof. Dr. Patrick Glauner – Technische Hochschule Deggendorf
• Carlini et al. – Extracting Training Data from Large Language Models (USENIX Security 2021)
• Carlini et al. – Quantifying Memorization Across Neural Language Models (arXiv 2202.07646)
• David Autor (MIT) – Applying AI to Rebuild Middle-Class Jobs
• OECD – The Impact of AI on the Workplace
• NewsGuard – AI Tracking Center / Content Farm Sites
• Originality.AI – AI Content in Google Search Results (Ongoing Study)

Quellen

• Prof. Dr. Patrick Glauner – persönliche Webseite
• Prof. Dr. Patrick Glauner – Technische Hochschule Deggendorf
• Carlini et al. – Extracting Training Data from Large Language Models (USENIX 2021)
• Carlini et al. – Quantifying Memorization Across Neural Language Models
• David Autor (MIT) – Applying AI to Rebuild Middle-Class Jobs
• OECD – The Impact of AI on the Workplace
• NewsGuard – AI Tracking Center / Content Farm Sites
• Originality.AI – AI Content in Google Search Results (Ongoing Study)