Beim OERcamp in Erkner habe ich gestern eine Session zum Thema Künstliche Intelligenz, hier verstanden als Large Language Models, aus der Perspektive von Offenheit angeboten. Sinngemäß war mein Titel:

KI-Sprachmodelle sind Mist. Prove me wrong!

Hintergrund der Session war, dass ich Beratschlagungsbedarf zu Möglichkeiten und Grenzen von KI-Sprachmodellen hatte, ich zunehmend auch meine bisherigen Ansätze nochmals auf den Prüfstand stelle und mir die Frage nach möglichen Alternativen zu der vorherrschenden KI-Technologie wichtiger wird. Durch den Ansatz der Session erhoffte ich mir eine intensive Diskussion.

In diesem Blogbeitrag beschreibe ich genauer, was meine Thesen waren, wie wir vorgegangen sind und was wir zusammen getragen haben. Am Ende teile ich ein Fazit, das ich für mich aus der Diskussion mitnehme.

Gestaltung der Session

Ich bin in die Session mit dem viel zitierten ‚Hype Cycle‘ eingestiegen, wonach es eine sehr häufige Beobachtung ist, dass neue Technik beim ersten Ausprobieren oftmals sehr begeistert, dann erstmal sehr viel Frustration entsteht und erst darauf aufbauend dann eine reflektierte und stimmige Nutzung entsteht, womit sich die Erwartungen an die Technik auf einem mittleren Maß einpendeln. Diesen Hype Cycle kann ich auch bei mir beobachten, allerdings mit dem Unterschied, dass bei mir bei jeder weiteren Kurve der Begeisterung, meine kritische Distanz gefühlt zunahm und die Kurve deshalb in der Tendenz meines aktuellen Empfindens nach immer weiter nach unten verläuft.

Danach habe ich ganz kurz drei Thesen vorgestellt, die für mich bei dieser Einordnung wichtig sind. Diese Thesen habe ich bewusst zugespitzt formuliert, um – genau wie auch mit dem Titel der Session – in eine intensive Diskussion zu kommen:

1. LLMs sind als Ersetzung menschlicher Fähigkeiten gebaut und nicht als Erweiterung des Menschen in die Welt hinein. Damit widersprechen sie in ihrem grundsätzlichem Ansatz dem Leitbild einer konvivialen Technik, die Menschen zusammenbringen und gemeinsames Lernen und Entwicklung unterstützen würde.
2. LLMs bedeuten Monopolisierung und Konzentration von Daten. Anders lassen sie sich nicht entwickeln. Damit ist eine dezentrale Aneignung, die emanzipatorische Spielräume eröffnen könnte, nur sehr begrenzt möglich.
3. LLMs haben nicht nur Risiken, sondern verursachen reale Schäden. Neben der Ausbeutung natürlicher Ressourcen geht es hier auch um die Ausbeutung menschlicher Arbeitskraft. Insbsondere hängt die Vermenschlichung von Maschinen auf der einen Seite eng mit einer Entmenschlichung von Menschen auf der anderen Seite zusammen. Wir vermenschlichen große Sprachmodelle und können das nur, weil dahinter menschliche Arbeitskraft steckt: einerseits in Fortschreibung kolonialistischer Muster, andererseits durch die Ausbeutung von erstellten und geteilten Inhalte.

(Bei der Vorstellung in der Session habe ich These 1 und 2 getauscht, die hier jetzt gewählte Darstellung erscheint mir im Rückblick stimmiger).

Wir sind dann in Kleingruppen gegangen und haben dort Zustimmung, Widerspruch und Ergänzungen gesammelt. All das haben wir dann im Plenum mithilfe eines Bingo Harvesting zusammen getragen. Das bedeutete: eine Person startete mit einer Karte und platzierte sie auf den auf dem Boden visualisierten Thesen. Wer eine ähnliche Karte hatte, rief Bingo und legte sie dazu. So entstand nach und nach ein komplexes Mapping zu den Thesen, an dem sich jetzt weiterdenken lässt.

Mapping der Thesen

Hier sind die gesammelten und geclusterten Argumemte aus der Session – sortiert zu den drei Thesen:

These 1: Fehlende Konvivialität

Dagegen spricht:

• Vieles muss man vielleicht gar nicht mehr selbst lernen.
• KI ist flexibler als andere Technik und erlaubt sehr gezielte Mensch-Maschine-Interaktion.
• Sie ist niedrigschwellig zugänglich.
• Muss man wirklich alles verstehen? Wie ein Auto funktioniert, weiß man auch nicht.
• Vielleicht entstehen dadurch neue Arten des Lernens und Sich-Bewegens.
• Starker Werkzeugcharakter: Transkripte, Übersetzung, Leichte Sprache.
• Nur weil man KI nutzt, verschwinden Sprache und Kommunikation nicht.
• Der Umgang mit KI ist selbst ein Lernprozess.
• An manchen Stellen ist auch ein Jump-Skilling denkbar.
• Ist KI nur der Sündenbock für dahinterliegende Strukturen, z. B. die Prüfungskultur?

Dafür spricht:

• KI ist ähnlich wie Social Media auf Nutzung angelegt und kapert Bedürfnisse.
• De-Skilling ist trotz Lernprozess feststellbar.
• Menschen werden schlampiger beim Gegenlesen („schau dir das doch mal an, was ChatGPT gemacht hat“).
• Menschen sind schlicht überfordert.

These 2: Monopolisierung und Machtkonzentration:

Dagegen spricht:

• Die Technologie könnte auch zu einer Demokratisierung von Wissen führen.
• Wir akzeptieren auch sonst Monopole, etwa bei Strom oder Bahn.
• Man könnte KI vergesellschaften.
• Kleine Modelle sind möglich, wie das Beispiel China zeigt oder auch europäische Modelle; dann stimmt die Monopolisierungsthese so nicht mehr.

Dafür spricht:

• Hinweis auf die Protestbewegungen gegen Datenzentren, z. B. in den USA.
• Verweis auf die Enzyklika des Papstes, die eine kritische Einordnung vornimmt.
• KI kann Desinformation in der Gesellschaft verstärken.
• Menschen lassen sich damit auch im negativen Sinn bewegen. KI ist für das Böse nutzbar.
• KI demokratisiert kein Wissen, weil LLMs kein Wissen bereitstellen, sondern plausibel dargestellte Informationen.

These 3: Schäden und Entmenschlichung

Dagegen spricht:

• Große Chancen bei Barrierefreiheit und für Menschen mit Beeinträchtigungen.
• Auch beim Thema Einsamkeit gibt es Potenzial.
• Statt Ersetzung wäre Reskilling möglich — hin zu sinnvolleren Tätigkeiten.

Dafür spricht:

• In der Technik ist immer schon eine Idee angelegt: global gesehen werden koloniale Strukturen fortgeschrieben, aber auch innerhalb der eigenen Gesellschaft.
• Die Anbieter (insbesondere die öffentliche Hand z.B. bei AIS.chat) bemühen sich zwar, Vermenschlichung zu vermeiden, bei den angebotenen Tools ist sie trotzdem deutlich feststellbar.
• Besonders problematisch, wo im Sinne von Beziehung und Sexualität ein fragwürdiges Menschen- und Frauenbild vermittelt wird.
• Bestimmte Tätigkeiten werden an KI ausgelagert, Menschen werden ersetzt.
• Auch sprachlich zeigt sich die Vermenschlichung: Menschen sprechen unspezifisch von „der KI“ oder von „Chatty“.

Stimmungsbild der Session und mein Fazit

Zum Abschluss habe ich zu einer Aufstellung im Raum eingeladen. An der einen Seite war die Aussage ‚Ich stecke meine Energie in eine veränderte Nutzung und Gestaltung der vorherrschenden LLMs. Auf der anderen Seite: ‚Ich stecke meine Energie in die Entwicklung einer veränderten Technik.‘. Ich stand hier mit nur wenigen anderen deutlich näher an der zweiten, als bei der ersten Aussage. Mehrheitlich entschieden sich Menschen somit für deutlich mehr bis ausschließliche Energie in die Gestaltung der bestehenden Technologie zu stecken. Als eine Person, die nicht direkt Teil einer Schule oder Behörde ist und damit eher von außen auf solche Systeme blicken kann, habe ich natürlich auch eine andere Rolle. In dieser Rolle habe ich für mich in Auswertung der Session drei Fragen entwickelt, die ich hilfreich finde, sie mir für eine bewusste KI-Nutzung zu stellen. Vielleicht sind diese auch für andere und gerade auch innerhalb von Systemen hilfreich, um auch dort mehr Spielräume für Technikutopismus zu öffnen:

1. Wo liegen bei der Nutzung reale Entwicklungs- und Lernmöglichkeiten?
2. Was geht damit verloren?
3. Was bedeutet das für andere Menschen und unsere Welt insgesamt?

Ich stelle diese Fragen im Folgenden noch etwas genauer vor.

1. Wo liegen bei der Nutzung reale Entwicklungs- und Lernmöglichkeiten?

Die einfache, erste Orientierung ist hier, dass ich natürlich bewusst so gestalten kann, dass ich nicht Abkürzungen für mehr vermeintliche Effizienz wähle, sondern immer auch mein zukünftiges Ich im Blick habe und auf lernförderliche Entwicklung orientiere. Dann nutze ich LLMs z.B. weniger als Antwortmaschine, sondern mehr in einem hinterfragenden Sparring-Partner Sinn. Unser Beispiel beim OERcamp war hierfür, dass ich mir z.B. von einem LLM die Session-Dokus zusamen fassen lassen könnte, um dann gezielt zu entscheiden, wo ich vertiefen will. (Meine persönliche Erfahrung ist hier, dass auch solch eine als lernförderlich eingeordnete KI-Nutzung, häufig auf längere Sicht doch deutlich weniger lernförderlich ist, als ich lange Zeit annahm. Da bin ich aber noch nicht fertig mit Denken)

2. Was geht damit verloren?

Damit sind noch nicht die Schäden gemeint, die KI verursacht, sondern das, was mit der Nutzung von LLMs aus dem Blivkj gerät . Beispiel: Wenn ein KI-Modell für uns die Session dokumentiert, werden wir dann nicht viel eher dazu angestupst, darauf zu verzichten, uns eigene Gedanken zu machen und sie gemeinsam festzuhalten und uns dazu im Anschluss noch einmal zusammen zusetzen? Oder – in Fortführung des obigen Beispiels: Wenn ich bestimmte Sessions nach einer KI-Zusammenfassung gezielt ansteuere, dann verliere ich die Chance völlig zufällig auf eine Notiz in einer Session zu stoßen, die mir erstmsl nicht spannend erschien, aber es dann eben doch ist.

3. Was bedeutet das für andere Menschen und für unsere Welt im Ganzen?

Hier wird der Bildausschnitt größer: Wer arbeitet an dieser Technologie, wessen Inhalte stecken darin, wer trägt die Kosten, welche Ressourcen werden dafür ausgebeutet und welche Strukturen schreibe ich mit meiner Nutzung fort? Hier gibt es sicherlich kein richtiges Leben im falschen, aber wir sollten uns eine bewusste Abwägung zumuten. Im Beispiel von oben: Ist die Zusammenfassung der Session-Doku durch das LLM angesichts dieser Kosten wirklich angemessen, zumal ich auch – mit nur minimal weniger Aufwand – auch einfach die Titel im Sessionplan lesen und dann entscheiden könnte.

Danke

Ich habe mich sehr über das große Interesse an der Session und die sehr ernsthafte, gemeinsame Diskussion gefreut. Vielen Dank an alle, die sich beteiligt haben!

---

Beitrag weiternutzen und teilen

Dieser Beitrag steht unter der Lizenz CC BY 4.0 und kann somit gerne offen weitergenutzt und geteilt werden. Hier kannst du dir den Beitragslink und/oder den Lizenzhinweis kopieren. Wenn du den Beitragslink in das Suchfeld im Fediverse (z.B. bei Mastodon) eingibst, wird er dir dort angezeigt und du kannst ihn kommentieren.

---