Bereits vor einem Jahr habe ich mir einen eigenen KI-Server aufgesetzt und die Anleitung dazu geteilt. Ich nutzte dazu Ollama und OpenWebUI als Open-Source-‚Hülle‘, über die ich Schnittstellen zu KI-Sprachmodellen herstellen konnte. Das hat für mich im Hinblick auf eine digital-mündige KI-Nutzung zwei entscheidende Vorteile:

1. Ich konnte und kann mir diese Umgebung so einrichten, wie ich das möchte: Welche Temperatur soll das KI-Sprachmodell in einer Interaktion nutzen? Welche spezifischen Anweisungen sollen berücksichtigt werden? Welche Dateien will ich als Basis einspeisen und darauf Bezug nehmen? Anders als bei einer Nutzung von Plattformen wie ChatGPT oder Claude sind all diese Dinge auf meinem eigenen Server gespeichert.
2. Ich konnte und kann Open-Source-Modellen wie Mistral den Vorzug gegenüber proprietären Modellen geben. In der Praxis bedeutet das, dass ich für den überwiegenden Teil meiner KI-Chats das lokal auf meinem Server installierte Mistral nutzte. Erst wenn ich merkte, dass ich bei manchen Herausforderungen nicht weiterkomme, wechsle ich das Modell und nutzte dann eine Schnittstelle zu einem proprietären KI-Modell, in letzter Zeit meistens eines der Anthropic-Modelle. Ich habe dazu alle Modelle über OpenRouter gebündelt zur Verfügung.

Diese Installation ist immer noch cool und hilfreich, wenn es um die Interaktion mit KI-Sprachmodellen geht, und ich kann sie weiterhin empfehlen. Seit Anfang dieses Jahres experimentiere ich nun aber zunehmend mit sogenannten KI-Agenten.

Von KI-Sprachmodellen zu KI-Agenten

Der Begriff ‚KI-Agent‘ führt aus meiner Sicht vielfach zu falschen Assoziationen – und die geteilten Einsatzzwecke solcher KI-Agenten tun ihr Übriges. Schnell erhält man dann den Eindruck, dass diese KI-Agenten völlig autonom irgendwelche Aufgaben für einen erledigen, z. B. mithilfe bereitgestellter Kreditkartendaten und einem Zugriff zum Internet eine komplette Reise für die Sommerferien planen, während ich mich schon vorab entspannen kann. Während so etwas vielleicht theoretisch möglich ist, dürfte für alle offensichtlich sein, dass das Risiko für Missbrauch und Fehler bei solch einem Ansatz sehr hoch ist und die Nutzung von KI-Agenten in solch einer Art und Weise nicht empfehlenswert ist. Ganz unabhängig davon, ob ich solch eine Nutzung überhaupt für mich will.

Ich definiere KI-Agenten für mich stattdessen als ‚KI-Technologie, der ich Zugriff auf bestimmte Anwendungen auf meinem Rechner geben kann‘. Ganz konkret sieht das so aus, dass ich zum Beispiel einen Ordner auf meinem Laptop neu anlege, in diesen Ordner ein Video kopiere und dann an den genutzten KI-Agenten den Prompt schreibe, dass das Video transkribiert und dazu ein H5P-Inhalt erstellt werden soll. Das Tool wird dann nach weiteren Berechtigungen fragen (z. B. den Zugriff zu meiner Transkriptionssoftware oder den Zugriff zum Code-Verzeichnis von H5P im Internet). Ich kann jeweils immer prüfen, ob ich diesen Zugriff gewähren will. Wenn ja, dann bestätige ich das und das Tool arbeitet entsprechend weiter.

Ich kommuniziere mit solch einem KI-Agenten im Terminal (= in der Konsole des Rechners), was für Menschen, die das ansonsten gar nicht tun, wahrscheinlich deutlich komplizierter klingt, als es real ist. Denn sobald ich den KI-Agenten darin installiert habe, was meistens nur ein einziger Befehl ist, kann ich dann auch im Terminal mit normaler menschlicher Sprache chatten, so wie ich das auch mit einem klassischen KI-Sprachmodell tun würde. Es gibt zusätzlich einzelne Befehle. In diese kann ich mich dann aber nach und nach und Schritt für Schritt einarbeiten.

Möglichkeiten zur Nutzung von KI-Agenten

Für mich hat sich die Art und Weise, mit KI-Technologie zu arbeiten, mit solchen KI-Agenten sehr verändert, und ich nutze sie inzwischen häufiger als klassische Sprachmodelle.

Hier sind ein paar Einsatzzwecke:

• Ich lade eine Sammlung an Inhalten in einen Ordner, die wir bei einem Workshop erarbeitet haben – und lasse mir diese clustern und sortieren.
• Ich lasse einen heruntergeladenen Moodle-Kurs entpacken und arbeite dann an einer Neugestaltung/Aktualisierung.
• Ich erstelle Texte für einen Flipped-Inhalt bei einem Lernangebot – und lasse daraus eine statische Website erstellen. (Dazu habe ich einen vorbereiteten ‚Skill‘, also eine Anweisung, was mir bei solchen Aufgaben übergreifend wichtig ist, z.B. ein bestimmtes CSS verwenden, möglichst keine externen Einbettungen, ein einmal geschriebenes Impressum immer wieder nutzen …)
• Ich habe Freude bei der Gestaltung von Internetquatsch in Form von statischen Websites, die ich dann z. B. über GitLab, GitHub oder Codeberg online stellen kann.
• Ich passe das Theme in einem CMS wie Publii oder einem Wiki wie dem DokuWiki an, so dass es für einen bestimmten Einsatzzweck von mir passt.
• …

Das ABER …

Ich erlebe diese und weitere Einsatzzwecke als spannend und hilfreich und habe Freude beim Erkunden. An dieser Stelle kam dann aber bisher das große ‚Aber‘ für mich. Denn um diese Möglichkeiten zu nutzen, musste ich mich bisher für einen KI-Agenten-Anbieter entscheiden. Ich hatte Claude Code gewählt. Das funktionierte technisch gut; ich fand es aus der Perspektive der digitalen Mündigkeit aber nicht sinnvoll, weil ich ja eigentlich sehr bewusst versucht hatte, mich nicht in die Plattform eines Anbieters hineinziehen zu lassen, sondern mindestens jederzeit zwischen unterschiedlichen Anbietern wechseln zu können und – noch besser, wo möglich – lokal zu arbeiten bzw. Open-Source-Modelle zu nutzen.

Offensichtlich standen andere Menschen vor dem gleichen Problem wie ich – und es gibt eine Lösung: OpenCode!

Die Alternative: OpenCode

OpenCode ist ein Open-Source-Tool, das – ähnlich wie Ollama und OpenWebUI bei meinem KI-Server – eine offene Software für die Nutzung und Einrichtung von KI-Agenten bietet. Das Tool wird auf dem eigenen Rechner installiert. Jederzeit kann dann zwischen unterschiedlichen Anbietern hin- und hergewechselt werden. Und ich kann das Tool auch mit lokalen Modellen verbinden. Von dem Anbieter gibt es mit OpenCode Zen auch ein kuratiertes Set an KI-Agenten-Modellen. Diese sind – anders als meine bisherige OpenRouter-Schnittstelle – auf Agentenmodelle spezialisiert. Ähnlich wie bei OpenRouter zahle ich dann auch hier für verwendete Tokens.

Während die Einrichtung meines eigenen KI-Servers durchaus voraussetzungsreich war, ist OpenCode in der Installation nicht schwieriger als die Installation z.B. von Claude Code.

Die Schritte sind:

1. Du öffnest dein Terminal (= die Konsole, das schwarze Fenster, in das man Befehle eingeben kann.).
2. Du gibst den Befehl zur Installation ein, den du hier findest.
3. Du startest das Programm mit dem Befehl opencode.
4. Du wählst aus, mit welchen Modellen du es verbinden willst, indem du den Befehl /connect eingibst. Für den Start fand ich die Verbindung mit Zen super. Das konnte ich einfach auswählen und mir dann zur Verbindung einen API-Code von der Website kopieren.
5. Danach kannst du in das gewünschte Verzeichnis wechseln – und so wie gewohnt chatten.

Meine bisherigen Erkundungen finde ich sehr zufriedenstellend. Ich werde berichten, welche Erfahrungen ich weiter damit mache. Eine Installation und ein Ausprobieren kann ich schon jetzt sehr empfehlen, und ich wünsche dir viel Freude dabei!

---

Beitrag weiternutzen und teilen

Dieser Beitrag steht unter der Lizenz CC BY 4.0 und kann somit gerne offen weitergenutzt und geteilt werden. Hier kannst du dir den Beitragslink und/oder den Lizenzhinweis kopieren. Wenn du den Beitragslink in das Suchfeld im Fediverse (z.B. bei Mastodon) eingibst, wird er dir dort angezeigt und du kannst ihn kommentieren.

---