Ein Tag Arbeit! Nur um Grüße von Joshua zu bekommen. Und das selbst mit Hilfe von ChatGPT und Gemini, die mich in voller Überzeugung ihrer korrekten Antworten von Fehler zu Fehler permanent im Kreis geführt haben. Aber was tut man nicht alles, um die War games zu stoppen ;-).
What? Worum geht es? Agenten! Genau genommen KI-Agenten (bzw. AI-Agents). Ein Zeitungsbeitrag hat mir einen Floh ins Ohr gesetzt, der mich eben diesen Tag Arbeit gekostet hat. Aber ich habe wieder viel gelernt.
Konkret habe ich meine Experimente mit Open Claw bzw. OpenClaw und lokalen KI-Modellen wieder aufgenommen. Den KI-Agenten hatte ich mir von ein paar Monaten schon zu Gemüte geführt, grundsätzlich zum Laufen gebracht und dann wieder beiseite gelegt. Auch lokale LLM hatte ich mit Ollama ausprobiert, aber meine Bemühungen aufgrund meiner Hardwarebeschränkungen nicht weiter ausgebaut. Ich bin halt Mathematiker und denen sagt man nach, dass sie nur daran interessiert sind, ob und wie etwas grundsätzlich geht („Es gibt eine Lösung!“), nicht wie man es profan nutzen kann.
Aber der Beitrag hat mich getriggert, ob ich nicht Open Claw echte Agentenarbeiten übertragen kann. Nur never-ever in einem Live- bzw. Produktionssystem. Der Agent musste in jedem Fall in einen Käfig/Sandbox/isolierten Rechner.
Erste Idee – Installation auf meinem Raspberry PI 4 mit Ollama. Ging vom Grundsatz recht gut und Mini-KI-Models sind sogar lokal gelaufen. Aber Aufrufe von Tools (was ja eigentlich der Sinn eines Agenten ist) konnte man vergessen. Ebenso waren die Antwortzeiten zu teuer, weil ich zwischen jeder Anfrage und der Antwort einen Kaffee kochen konnte (bei den aktuellen Kaffeepreisen).
Idee 2: Nur Agent auf PI, KI auf altem Rechner. Zwei Stück aufprobiert (uralter ThinkCentre mit Mint Linux und alte Xeon-Workstation mit Windows 10 und Virtualbox). KIs jeweils zum Laufen gebracht, aber die Verbindung aus Openclaw ging einfach nicht einzurichten. ChatGPT als auch Gemini haben mich von einem Konfigurationsfehler zum nächsten geleitet. Über Stunden :-(. Diverse KI-Modelle, zig Einstellungen – nichts ging. Curl-Anfragen problemlos vom PI auf den KI-Server. Aber Openclaw hat immer nur Fehler gebracht.
Dann habe ich erst einmal aufgegeben. Aber ich bin halt Mathematiker und ich nehme es persönlich, wenn mich ein Problem triggert und ich es nicht lösen kann. Drüber geschlafen und weiter ging es.
Neuer Ansatz: Openclaw in einer VM auf meinem Hauptrechner. Und LM Studio statt Ollama. VirtualBox gleich gescheitert wegen Secure Boot und ich werde einen Teufel tun, wegen Experimenten an meinem Hauptrechner die Konfigurationen rumzuschrauben. Also Debian 13 minimal (Debian netinst ISO, nur mit SSH Server und Standard-Systemwerkzeugen) in KVM/QEMU statt VirtualBox.
Linux Mint (Host)
│
├── LM Studio
│ └── Ollama-kompatible API
└── lokaler API-Server (OpenAI-kompatibel)
│
└── Debian 13 minimal (VM in KVM/QEMU)
└── OpenClaw
Also zuerst unter Mint:
sudo apt update
sudo apt install qemu-kvm libvirt-daemon-system libvirt-clients virt-manager
sudo systemctl enable –now libvirtd
sudo usermod -aG libvirt $USER
sudo usermod -aG kvm $USER
Aus Mint dann Test mit curl, nachdem in LM Studio Modelle geladen und eingerichtet sowie LMS gestartet war:
curl http://<Mint-IP>:1234/v1/models
Das Gleiche in der Debian-VM. In Debian-VM dann (auf keinen Fall als root):
npm install -g openclaw
oder
curl -fsSL https://openclaw.ai/install.sh | bash -s — –no-onboard
Dann
openclaw –version
openclaw onboard –install-daemon
So etwas in der Art als Openclaw-Konfiguration (passendes Modell muss in LM Studio natürlich geladen und eingerichtet sein):
{
„gateway“: {
„mode“: „local“
},
„models“: {
„providers“: {
„lmstudio“: {
„api“: „openai-completions“,
„baseUrl“: „http://192.168.188.20:1234/v1“,
„models“: [
{
„id“: „qwen2.5-7b“,
„name“: „Qwen 2.5 7B“,
„contextWindow“: 32768,
„maxTokens“: 8192
}]}}},
„agents“: {
„defaults“: {
„model“: {
„primary“: „lmstudio/qwen2.5-7b“
}}}}
Dann
openclaw gateway install
openclaw gateway start
Das ist der grundsätzliche Workflow, aber ich habe auch hier noch ein paar Stunden gebraucht, bis alle Komplikationen abgearbeitet waren ;-(
Insbesondere muss ich derzeit den LMS-Server in der Konsole vom Mint starten:
lms ls
lms ps
lms server start –bind 0.0.0.0
Aus der GUI klappt nicht, aber das ist letztendlich mir egal.
Die Meldung „Context overflow: prompt too large for the model.“ hat aber ewig Probleme gemacht. Letztendlich lag es daran, dass von Openclaw eine falsche Modelinstanz mit zu niedrig eingestellten Token bzw. Kontext verwendet wurde. Aber das rauszubekommen, hat selbst mit ChatGPT Stunden gebraucht :-(.
Meine letztendlich funktionierende Kette sieht so aus:
OpenClaw → Debian-VM → Netzwerk → LM Studio → Qwen2.5-Coder-7B → Antwort → OpenClaw → Terminal
Mit der Konfiguration:
Debian 13 VM ✅
OpenClaw 2026.7.1-2 ✅
Gateway als User-Service ✅
LM Studio auf Mint ✅
Qwen2.5-Coder-7B-Instruct ✅
32.768 Context ✅
Netzwerkzugriff VM → Mint ✅
OpenAI-kompatible LM-Studio-API ✅
OpenClaw-Agent ✅
Das war – mit Verlaub – eine Sch…-Arbeit und bisher läuft das System nur grundsätzlich. Ich habe den Agenten noch gar nicht wirklich seine „Drecksarbeit“ machen lassen. Aber jetzt werde ich damit weiter experimentieren und hoffe, dass der Agent nicht ausbricht, wie aktuell gefühlt jede zweite KI der großen KI-Anbieter.