Der Linux Quatsch Thread

Mit OpenWebUI bekommt man eine an die Webversion von ChatGPT angelehnte Oberfläche. Ich habe das in Docker umgesetzt, also ein Nobrainer mit Watchtower für Updates, wo OpenWebUI, ollama und comfyUI laufen. In OpenWebUI dann noch einen Linker zu OpenRouter eingebaut. Bei der GPU musste ich mit ROCm etwas pfriemeln, weil die olle RX6900XT nicht nativ unterstützt wird.

Jetzt kann ich jedenfalls wahlweise Modelle über OpenWebUI lokal herunterladen und laufen lassen oder eben auf alle bei OpenRouter verfügbaren Modelle gegen Nutzungsgebühr umschalten. Mit Conduit gibt es dann sogar eine App fürs Smartphone.
 
Tuxedo OS wechselt von Ubuntu LTS auf Debian Testing:
Auch für @G4mest3r mit seiner Uralt-Version interessant.

Ki mit einem Zitroneneis!
Meine KI nutzt OS/2 und darf die Leute "belästigen".
1.png
 
Zuletzt bearbeitet:
Zurück