In meinen Workshops nimmt der Blick auf KI-Sprachmodelle als Lerngegenstand und dabei die Erklärung ihrer Funktionsweise relativ viel Raum ein. Dem entgegen wird häufig das folgende Argument angeführt:

„Ich muss die Funktionsweise von KI-Sprachmodellen nicht verstehen, um sie gut nutzen zu können. Denn ich muss ja schließlich auch nicht verstehen, wie ein Auto funktioniert, um damit gut von A nach B zu kommen.“

Dieses Argument erscheint angesichts der Entwicklung von KI-Sprachmodellen in den letzten Jahren immer schlüssiger. Schließlich ~verstehen die Modelle menschliche Kommunikation immer besser und können immer passender reagieren, auch wenn ich nicht mit einem gut gestalteten Prompt, sondern einer recht chaotischen Anweisung in die Interaktion gehe. Wozu braucht es dann trotzdem noch ein Verständnis der Funktionsweise? Ich finde die folgenden Argumente wichtig.

1. KI-Sprachmodelle sind Maschinen, deren Vermenschlichung nicht sinnvoll ist: Es stimmt, dass KI-Sprachmodelle immer besser in der Lage sind, auf menschliche Kommunikation zu reagieren und somit das Argument ‚Nur wenn ich verstehe, was unter der Haube passiert, kann ich auch gut funktionierende Prompts entwickeln‘ immer weniger relevant erscheint. Allerdings wäre mit solch einer intuitiven Nutzung eine Vermenschlichung von Maschinen die Folge. Wenn ich dabei nicht mitgehen will, dann gilt es bewusst, eine Mensch-Maschine-Interaktion zu entwickeln. Dazu ist ein Verständnis ihrer Funktionsweise nötig.
2. KI-Sprachmodelle sind ein Experiment: Mit KI-Sprachmodellen ist eine Technik entstanden, die nicht einfach nur ein Werkzeug ist, das eine bestimmte Funktion erfüllt, sondern eine Art künstliche Züchtung, in deren Code eingeschrieben ist, dass sie sich weiter entwickeln, also aus Eingaben und Reaktionen ~lernen soll. Das spricht nicht grundsätzlich gegen diese Technik, sondern kann durchaus spannende Möglichkeiten eröffnen. Voraussetzung ist aber, diese Entwicklungen nicht einfach laufen zu lassen, sondern zu gestalten und dazu zu analysieren und zu bewerten. Auch das funktioniert nur, wenn ich die grundsätzliche Funktionsweise verstehe.
3. KI-Sprachmodelle beeinflussen unser Denken und Urteilen: Ein Auto bringt mich von A nach B. Mit einem KI-Sprachmodell bin ich in einer sprachlichen Interaktion, womit es Einfluss auf mein Denken haben kann. Das ist ein deutlich sensibler und prägender Bereich. Sich darauf einzulassen, erscheint nur dann stimmig, wenn die Technik eingeschätzt werden kann. Das gilt umso mehr, da die längerfristigen Folgen von KI-Nutzung bislang noch kaum erforscht sind.
4. KI-Sprachmodelle sind nicht neutral: Auch Autos werden vermarktet und die Automobil-Hersteller haben ein Interesse an einem möglichst guten Verkauf ihrer Produkte. Hierbei bewegen wir uns aber im klassischen Bereich von Produktwerbung. Bei KI-Sprachmodellen geht es auch darum, Menschen an eine Plattform zu binden. Die dazu genutzten Mechanismen kann ich nur dann reflektieren und zu einer selbstbestimmten Nutzung kommen, wenn ich sie verstehe. Hinzu kommt, dass die vorherrschenden KI-Sprachmodelle von einer Tech-Elite getragen und mit Investitionen versorgt werden, die ein rechtes bis antidemokratisches Weltbild teilen. Filtermechanismen, ausgewählte Datenbasis und Systemprompts können vor diesem Hintergrund gezielt gestaltet werden. Auch wenn sie für Endnutzer:innen intransparent bleiben, ist es gut, darüber Bescheid zu wissen, um den Output entsprechend prüfen und einordnen zu können.
5. KI-Sprachmodelle sind Teil einer größeren Infrastruktur: Auch beim Kauf oder der Nutzung eines Autos werde ich vielleicht nicht die Funktionsweise in der Tiefe verstehen, aber im Interesse einer bewussten Entscheidung doch insoweit dazu lernen, dass ich zum Beispiel über ihren Verbrauch oder den jeweiligen Anbieter Bescheid weiß. Angesichts der Schäden, die KI-Sprachmodelle verursachen und den bestehende lokalen und dezentralen Alternativen, hilft das Wissen über die Funktionsweise von KI bei einer reflektierten und bewussten Entscheidung über die Nutzung oder Nicht-Nutzung.

Schließlich hilft das Wissen über die Funktionsweise auch dabei, die Technik als menschengemacht und damit gestaltbar zu erkennen. Das ist die unbedingte Voraussetzung dafür, um eine andere KI bzw. andere Technik möglich zu machen.

Fehlen dir noch Argumente? Teile sie gerne!

Entstanden sind die Argumente bei einem KI-Lerntag heute am Oberstufenzentrum in Schwarzheide in Brandenburg. Danke für den guten Austausch!

---

Beitrag weiternutzen und teilen

Dieser Beitrag steht unter der Lizenz CC BY 4.0 und kann somit gerne offen weitergenutzt und geteilt werden. Hier kannst du dir den Beitragslink und/oder den Lizenzhinweis kopieren. Wenn du den Beitragslink in das Suchfeld im Fediverse (z.B. bei Mastodon) eingibst, wird er dir dort angezeigt und du kannst ihn kommentieren.

---