»Die KI sucht doch nur raus, was irgendwo im Netz steht.« Den Satz hört man oft. Er ist bequem, und er ist falsch.
Ein Sprachmodell schlägt nichts nach. Es baut jede Antwort Stück für Stück neu, aus Wahrscheinlichkeiten. Das Ergebnis kann überraschen, manchmal klug, manchmal haarsträubend daneben.
Menschen arbeiten im Kern ähnlich, sie setzen Bekanntes neu zusammen. Nur haben sie ein paar Werkzeuge, die keinem Modell zur Verfügung stehen. Eines davon ist erstaunlich simpel. Aufstehen und losgehen.
Kein Archiv, sondern eine Wahrscheinlichkeitsmaschine
Ein großes Sprachmodell lernt im Training aus riesigen Textmengen, welches Wortstück auf welches andere folgt. Gespeichert werden dabei keine Dokumente, sondern Milliarden Gewichte, die Zusammenhänge kodieren. Beim Antworten berechnet das Modell für jedes nächste Wortstück eine Wahrscheinlichkeitsverteilung, zieht daraus eines, hängt es an und rechnet weiter. Token für Token. Wer genauer wissen will, warum dabei so menschlich klingende Sätze herauskommen, findet das im Artikel Warum sprechen KIs wie Menschen?
Deshalb fällt dieselbe Frage zweimal gestellt meist unterschiedlich aus. Nicht zwingend, denn wer den Zufall abschaltet, bekommt sehr ähnliche Antworten. Im Normalbetrieb ist aber Variation eingebaut.
Ganz so sauber ist die Trennung von Lernen und Speichern allerdings nicht. Nicholas Carlini und Kollegen zeigten 2021, dass sich aus GPT-2 wörtliche Passagen der Trainingsdaten herauslocken lassen. Aus 600.000 erzeugten Texten fischten sie 604 auswendig gelernte Sequenzen, darunter Namen, Telefonnummern und Code. Das betrifft vor allem Texte, die im Training oft vorkamen oder sehr ungewöhnlich waren. Größere Modelle sind dafür anfälliger, nicht weniger.
Das Modell ist also kein Archiv. Ein gelegentliches Echo seiner Quellen ist es manchmal trotzdem.
Neu kombiniert ist auch neu
Menschen halten ihre Einfälle gern für Schöpfung aus dem Nichts. Das sind sie selten. Im April 1970 explodierte an Bord von Apollo 13 ein Sauerstofftank, die Crew wich in die Mondfähre aus, und dort stieg der Kohlendioxidgehalt. Die eckigen Filterpatronen des Mutterschiffs passten nicht in die runden Halterungen der Fähre. Ein Team um den Ingenieur Ed Smylie entwarf am Boden einen Adapter aus Plastiktüten, Pappe von Logbuchdeckeln, Anzugschläuchen und Klebeband. Die Crew baute ihn nach Funkanweisung zusammen.
Kein einziges Teil war neu. Die Kombination schon.
Sprachmodelle machen etwas Verwandtes. Sie erkennen Muster über Fachgrenzen hinweg und übertragen sie. Fragt man nach einer Notreparatur mit Bordmitteln, kombiniert das Modell Wissen über Werkstoffe, Dichtungen und Improvisation zu einem Vorschlag, der so in keinem Trainingstext stand. Ob er funktioniert, weiß es nicht. Testen muss ein Mensch.
Seit OpenAI im September 2024 das Modell o1 vorstellte, rechnen viele Systeme vor der Antwort länger nach. Sie erzeugen eine interne Gedankenkette, verwerfen Ansätze und probieren andere. Das hilft spürbar bei Mathematik und Logik. Mit dem ziellosen Schweifen eines menschlichen Gehirns hat es wenig zu tun, die Kette bleibt auf die Aufgabe fixiert.
Wähle einen Auslöser, um zu sehen, wie Ideen bei Mensch und Maschine entstehen.
Marily Oppezzo und Daniel Schwartz (Stanford) ließen 2014 Testpersonen ungewöhnliche Verwendungen für Alltagsgegenstände suchen, mal im Sitzen, mal beim Gehen. Im ersten Experiment fiel 81 Prozent der Teilnehmenden beim Gehen mehr ein, selbst auf dem Laufband vor einer kahlen Wand. Der Effekt wirkte nach, als sie sich wieder setzten. Bei Aufgaben mit genau einer richtigen Lösung schnitten Gehende dagegen etwas schlechter ab. Warum Gehen wirkt, ist nicht geklärt.
Gerüche wecken andere Erinnerungen als Wörter oder Bilder. Johan Willander und Maria Larsson fanden 2006, dass duftausgelöste Erinnerungen meist aus dem ersten Lebensjahrzehnt stammen und stärker das Gefühl geben, zurückversetzt zu sein. Dass solche Erinnerungen auf neue Ideen bringen, ist plausibel, aber kaum untersucht.
Skizzieren, Modelle bauen, Dinge in die Hand nehmen: Das verlagert Denkarbeit aus dem Kopf in die Welt und macht Beziehungen sichtbar, die im Arbeitsgedächtnis schwer zu halten sind. Die Forschung dazu läuft unter dem Stichwort Embodied Cognition. Wie groß der Effekt auf Kreativität ist, ist umstritten.
Apollo 13 gilt als Beleg, dass Druck erfinderisch macht. Den CO₂-Adapter aus Plastiktüten, Pappe, Anzugschläuchen und Klebeband entwarf allerdings ein Team um Ed Smylie am Boden, die Crew baute ihn nach Funkanweisung. Teresa Amabile begleitete 177 Beschäftigte durch ihren Arbeitsalltag. An Tagen mit hohem Zeitdruck dachten sie seltener kreativ, fühlten sich aber kreativer. Ausnahme: wer ungestört an einer einzigen, wichtigen Aufgabe saß.
Wer ein Problem eine Weile liegen lässt, löst es im Schnitt besser. Das ergab die Metaanalyse von Ut Na Sio und Thomas Ormerod. Am stärksten wirkt die Pause bei offenen Aufgaben mit vielen möglichen Lösungen. Eine leichte Nebenbeschäftigung half bei manchen Aufgaben mehr als reines Nichtstun. Was in der Pause im Kopf genau passiert, ist nicht geklärt.
Ein Prompt ist der Auslöser für ein Sprachmodell, aber keine Suchanfrage. Er sagt nicht »Finde die Antwort«, sondern »Erzeuge eine«. Das Modell schlägt nichts nach, es baut die Antwort Wortstück für Wortstück aus Wahrscheinlichkeiten. Je klarer der Prompt, desto gezielter das Ergebnis. Ein vager Prompt führt mal zu überraschenden Kombinationen, mal ins Leere.
Ein Sprachmodell hat aus riesigen Textmengen gelernt, welche Zusammenhänge wiederkehren, quer durch alle Fachgebiete. Daraus baut es neue Kombinationen, meist keine Kopien. Ganz ausgeschlossen sind Kopien nicht: Nicholas Carlini und Kollegen holten 2021 wörtliche Trainingspassagen aus GPT-2 heraus. Und die Breite hat eine Kehrseite. In Kreativitätstests ähneln sich die Antworten verschiedener Modelle deutlich stärker als die verschiedener Menschen.
Temperature verschiebt die Wahrscheinlichkeiten, aus denen das Modell das nächste Wortstück zieht. Niedrig gewählt greift es fast immer zum naheliegendsten Wort, hoch gewählt auch mal zu Außenseitern. Max Peeperkorn und Kollegen haben 2024 nachgemessen: Höhere Temperatur hängt nur schwach mit Neuheit zusammen, aber moderat mit Inkohärenz.
Lässt man ein Modell Zwischenschritte ausschreiben, löst es Rechen- und Logikaufgaben deutlich besser. Seit OpenAI im September 2024 das Modell o1 vorstellte, erzeugen viele Systeme eine solche Gedankenkette intern, verwerfen Ansätze und probieren andere. Mit dem ziellosen Schweifen eines menschlichen Gehirns hat das wenig zu tun, die Kette bleibt auf die Aufgabe fixiert.
Ein Modell kann Bausteine verbinden, die in keinem einzelnen Trainingstext zusammen standen. So entstehen Vorschläge, die es in dieser Form nirgends gab. Ob dahinter echtes Verständnis steckt, ist umstritten. Klar ist nur: Je weiter eine Frage vom Gelernten entfernt liegt, desto unzuverlässiger werden die Antworten. Und ob ein Entwurf trägt, weiß das Modell selbst nicht.
Der Temperatur-Regler ist kein Kreativknopf
Gern wird behauptet, man müsse nur die »Temperature« hochdrehen, dann werde die KI kreativ. Der Parameter verschiebt die Wahrscheinlichkeiten. Niedrig gewählt greift das Modell fast immer zum naheliegendsten Wort, hoch gewählt auch mal zu Außenseitern.
Max Peeperkorn und Kollegen haben 2024 nachgemessen. Ihr Befund ist ernüchternd. Höhere Temperatur macht Texte nur schwach origineller, aber merklich inkohärenter. Der Effekt sei »weit nuancierter und schwächer« als oft behauptet.
Mehr Zufall ergibt eben nicht automatisch bessere Einfälle. Manchmal nur mehr Unsinn.
Warum Gehen beim Denken hilft
Dass Spaziergänge auf Ideen bringen, ist mehr als Volksweisheit. Marily Oppezzo und Daniel Schwartz von der Stanford University haben es 2014 in vier Experimenten mit insgesamt 176 Teilnehmenden geprüft. Die Probanden sollten möglichst viele ungewöhnliche Verwendungen für Alltagsgegenstände finden, einmal im Sitzen, einmal beim Gehen auf dem Laufband vor einer kahlen Wand.
Im ersten Experiment fielen 81 Prozent der Teilnehmenden beim Gehen mehr kreative Antworten ein. In weiteren Versuchen lag der Anteil bei 88 bis 100 Prozent, beim Gehen im Freien entstanden die originellsten Analogien. Der Effekt hielt sogar an, wenn sich die Leute nach dem Gehen wieder hinsetzten.
Interessant ist die Kehrseite. Bei Aufgaben mit genau einer richtigen Lösung schnitten die Gehenden etwas schlechter ab. Gehen öffnet also den Ideenfluss, fokussiert aber nicht. Wer ein Rätsel lösen muss, bleibt womöglich besser sitzen.
Den Mechanismus haben die beiden nicht geklärt. Sie schlossen einige Erklärungen aus, etwa die Ablenkung durch wechselnde Umgebung, denn das Laufband stand vor einer Wand. Als mögliche Ursachen nennen sie Kreislauf, Stimmung und die Art, wie das Gedächtnis Assoziationen freigibt. Bewiesen ist davon nichts. Die oft zitierte Behauptung, Gehen schalte gezielt bestimmte Hirnnetzwerke ein, geht über diese Daten hinaus.
Dazu passt ein älterer Befund. Ut Na Sio und Thomas Ormerod werteten 2009 in einer Metaanalyse die Forschung zur Inkubation aus, also zum Liegenlassen eines Problems. Pausen helfen im Schnitt, am meisten bei offenen Aufgaben mit vielen möglichen Lösungen. Und eine leichte Nebenbeschäftigung half bei manchen Aufgaben mehr als reines Nichtstun. Ein Spaziergang ist genau so eine Nebenbeschäftigung.
Mehr Ideen, weniger Vielfalt
Ein Sprachmodell geht nicht spazieren. Es hat keinen Körper, keine Pause zwischen zwei Anfragen, in der etwas nachreifen könnte, und keinen Geruch von nassem Laub, der eine Erinnerung anstößt. Was es hat, ist Breite. Kein Mensch hat so viel gelesen.
Wie sich das im Zusammenspiel auswirkt, haben Anil Doshi und Oliver Hauser 2024 in Science Advances untersucht. 300 Teilnehmende schrieben Kurzgeschichten aus acht Sätzen, manche mit Ideen von ChatGPT, 600 weitere bewerteten sie. Mit KI-Hilfe wurden die Geschichten origineller und besser geschrieben, vor allem bei Leuten, die von sich aus weniger kreativ waren. Gleichzeitig ähnelten sich die KI-gestützten Geschichten untereinander stärker.
Emily Wenger und Yoed Kenett fanden 2025 etwas Ähnliches eine Ebene höher. In Kreativitätstests ähnelten sich die Antworten von 22 verschiedenen Sprachmodellen deutlich mehr als die Antworten verschiedener Menschen. Unterschiedliche Firmen, sehr ähnliche Einfälle. Die Arbeit ist bislang ein Preprint, die Richtung deckt sich aber mit anderen Befunden.
Die Science-Fiction hat Bordcomputer lange als kühle Logiker gezeichnet, von HAL 9000 bis zum Schiffscomputer der Enterprise. Die echten Maschinen sind eher das Gegenteil. Sie liefern mühelos hundert Varianten, nur liegen die erstaunlich nah beieinander. Wer sich für das Genre interessiert, in dem solche Maschinen zu Hause sind, findet mehr unter Military Science-Fiction.
Für die Praxis ergibt sich eine plausible Arbeitsteilung. Die KI liefert Breite, schnell und billig. Der Mensch sorgt für Abweichung, für den Einfall, der nicht aus der Mitte der Verteilung kommt. Dafür muss er allerdings selbst noch denken, und zwar bevor er das Modell fragt.
Also erst eine Runde um den Block. Dann den Prompt schreiben.
Quellen
- Oppezzo, Schwartz: Give Your Ideas Some Legs: The Positive Effect of Walking on Creative Thinking, Journal of Experimental Psychology: Learning, Memory, and Cognition 40(4), 1142–1152 (2014)
- Sio, Ormerod: Does incubation enhance problem solving? A meta-analytic review, Psychological Bulletin 135(1), 94–120 (2009)
- Doshi, Hauser: Generative AI enhances individual creativity but reduces the collective diversity of novel content, Science Advances 10(28) (2024)
- Carlini et al.: Extracting Training Data from Large Language Models, USENIX Security 2021
- Peeperkorn, Kouwenhoven, Brown, Jordanous: Is Temperature the Creativity Parameter of Large Language Models?, arXiv (2024)
- Wenger, Kenett: We’re Different, We’re the Same: Creative Homogeneity Across LLMs, arXiv (2025)
- Universe Today: 13 Things That Saved Apollo 13, Part 10: Duct Tape