Ich bin zufällig bei Reddit [1][2][3] darüber gestolpert:
Die bisher kostenlosen 4 OCPUs und 24 GB RAM werden halbiert auf 2 OCPUs und 12 GB RAM. An sich finde ich das in Ordnung, weil es ist halt kostenlos. Aber eine Email dazu wäre schon super gewesen. Sonst gibts bald ein böses PAYG Erwachen, wenn die nicht mehr kostenlosen OCPUs und RAM berechnet werden.
Dazu habe ich dann noch für meine Radeon RX 9070 XT mit leider nur 16 GB RAM noch ein paar Einstellungen in LM Studio angepasst. Das wird vermutlich für andere GPU anders aussehen.
Unter Load habe ich den Context auf 32768 gesetzt, default sind nur 4096. Viel zu wenig.
Unter Inference muss Enable Thinking aktiviert sein, die Temperature habe ich auf 0.3 reduziert und die Repeat Penalty auf 1.2 gesetzt.
Und das hier ist dann z.B. ein Ergebnis nach ca. 3 Minuten.
Fazit: Technisch geht das. Macht das mit so einer kleinen GPU Spaß? Nicht wirklich… Dann doch lieber ein paar € in OpenRouter einwerfen und auf Deep Seek V4 Flash oder MiMo-V2.5 setzen. Für private Projekt ist das mehr als ausreichend, vor allem schneller, stabiler und weniger frustrierend.
LM Studio findet keine lokalen Modelle beim Start mehr und zeigt gefühlt endlos diesen Screen mit der Meldung „Indexing model files… (this might take a moment)“.
Dann könnte das hier eine Lösung sein:
LM Studio beenden.
Im Verzeichnis C:\Users\USERNAME\.lmstudio\extensions\backends alle Unterverzeichnisse löschen oder woanders hin verschieben.
LM Studio erneut starten und alle benötigten Runtimes erneut runterladen.
Dann sollte oben auch automatisch eine passende GGUF Runtime ausgewählt worden sein.
Um das zu prüfen, sollte nun unter Hardware eine GPU angezeigt werden.
Und jetzt werden hoffentlich wieder LLMs angezeigt und können ausgewählt werden.
Meine PowerColor Reaper Radeon RX 9070 XT gehört leider nicht zu den leisesten Vertretern der RX 9070 XT Generation, aber mit etwas Undervolting lässt sich das in den Griff bekommen.
Das ursprüngliche Watchtower-Repository von containrrr wurde aufgegeben und erhält scheinbar keine Updates mehr. Zum Glück gibt es aber einen aktiven Fork von nicholas-fedor, der das Projekt weiterführt und aktuell hält.
ghcr.io/nicholas-fedor/watchtower:latest
Wer Watchtower bereits nutzt, kann einfach auf das neue Image umsteigen:
Herausgekommen ist ein Tool, was als Totmannschalter agiert. Sobald sich ein Gerät nicht mehr regelmäßig meldet, wird eine Benachrichtigung verschickt, z.B. via Telegram oder Email. Sobald wieder Heartbeats reinkommen, gibt es eine erneute Benachrichtigung.
Falls unter Windows keine neuen Installation oder Updates starten oder mit dem Fehlercode 0x80070020 abbrechen, könnte die Ursache ein Task sein, der die appxmanifest.xml Datei des Games nicht freigibt.
Beispiele: Age of Empires 4 C:\XboxGames\Age of Empires IV\Content\appxmanifest.xml
Per default lädt Firefox nur alle angehefteten Tabs beim Start. Alle normalen Tabs erst, wenn darauf zugegriffen wird. Um direkt alles zu laden, muss folgende Einstellung in about:config gesetzt werden: