Nicht immer lässt sich zeitnah über jede Neuigkeit berichten, manche Ereignisse sind es aber dennoch Wert, Erwähnung zu finden. In dieser Zusammenfassung überblickt die Redaktion alle wichtigen Meldungen aus der Linux-Welt der vorangegangen Woche.
Das Update des Open-Source-Synchronisierungs-Tools FreeFileSync auf Version 13.6 umfasst neben kleineren Modifikationen wie der kompakten Anzeige des übergeordneten Pfads für mittlere und große Zeilengrößen auch Optimierungen bei bestehenden Funktionen sowie vor allem Fehlerbereinigungen.
Redis ändert nach 15 Jahren sein Lizenzmodel. Was bedeutet das für die Nutzer der beliebten Key-Value-Datenbank? (Datenbank, Server-Applikationen)
An image mode for RHEL and the new RHEL AI – Red Hat presented interesting innovations for its enterprise Linux at the Summit.
Nach zwei Wochen Pause geht die Berichterstattung auf LinuxNews weiter. Es folgt eine subjektive Auswahl von News aus den letzten beiden Wochen.
Ein Image-Modus für RHEL und das neue RHEL AI – beim Summit zeigte Red Hat interessante Neuerungen für sein Unternehmens-Linux.
Nach der Veröffentlichung von Fedora 40 im April gibt es nun den Fedora Asahi Remix, der diese Version von Linux auf Apple Silicon bringt. (Asahi Linux, Server)
Linux-Server und Netzwerkdienste effektiv und umfassend vor Angriffen schützen - von physischer Sicherheit über Verschlüsselung und 2FA bis hin zu SELinux.
Seit über zehn Jahren klagen Terraform-Nutzer über unverschlüsselte state files. Version 1.7 der freien Alternative Opentofu bietet nun optionale Verschlüsselung an. (Security, Dateisystem)
Der kostenlose Stresstest und Benchmark für Grafikkarten FurMark ist in aktualisierter Version 2.3.0.0 mit dem Support für Raspberry Pi OS erschienen. Ebenfalls neu ist die Anzeige der Lüfterdrehzahl während des Testlaufs im Kontrollmenü. Mit dem Update gehen auch Optimierungen einher und es werden kleinere Fehler beseitigt.
Der Open-Source-Debugger x64dbg eignet sich für Reverse Engineering und Malwareanalyse. Er bietet viele Funktionen zum Nachvollziehen innerer Programmabläufe.
Data Science und künstliche Intelligenz verändern die Welt nachhaltig. Gemeinsam mit StackFuel bietet die Golem Karrierewelt ein breites Spektrum an Workshops, die praktische Fähigkeiten in den Technologiefeldern vermitteln. (Golem Karrierewelt, Python)
At its summit, Red Hat also shows that there is no way around AI. But you won't find a chatbot or another OpenAI partnership.
Auf seinem Summit zeigt auch Red Hat, dass an KI kein Weg vorbeiführt. Doch noch einen Chatbot oder eine weitere OpenAI-Partnerschaft sucht man vergeblich.
Seit Nextcloud Hub 8 (29.0.0) ist ChatGPT nicht mehr über den Picker der Nextcloud zu erreichen. Dieser Umstand kann Nerven kosten, wenn OpenAI’s KI-Dienst hin und wieder genutzt wird und man plötzlich feststellt, dass dieser nicht mehr funktioniert. So ging es mir, als ich den in die Nextcloud integrierten KI-Assistenten einem kleinen Publikum vorstellen wollte. Da das neueste Release 29.0.0 noch recht frisch ist, findet man derzeit wenig Hinweise, wie man ChatGPT weiter nutzen kann.
Dies hat mich nun dazu bewogen einen kleinen Artikel hierzu zu schreiben. Grundvoraussetzung ist jedoch ein Account beim US-amerikanischen Softwareunternehmen OpenAI bei dem ein API-Key erstellt wird.
Des weiteren müssen in der Nextcloud die Apps OpenAI and LocalAI integration und Nextcloud Assistant hinzugefügt und aktiviert werden.
Im Anschluss wird der API-Key, wie im Screenshot zu sehen ist, in der App OpenAI and LocalAI integration hinterlegt.
Nun kann man über den neuen Nextcloud-Assistent das KI-Tool nutzen.
Viel Spaß!
Die Geschwindigkeit bei der lokalen Ausführung großer Sprachmodelle (LLMs) wird in Zukunft zu einem entscheidenden Kriterium für die CPU/GPU-Auswahl werden. Das gilt insbesondere für Software-Entwickler, die LLMs lokal nutzen möchten anstatt alle Daten an Anbieter wie ChatGPT in die Cloud zu übertragen.
Umso verblüffender ist es, dass es dafür aktuell kaum brauchbare Benchmarks gibt. In Anknüpfung an meinen Artikel Sprachmodelle lokal ausführen und mit Hilfe des Forum-Feedbacks habe ich die folgende Abbildung zusammengestellt.
Die Geschwindigkeit in Token/s wird — zugegeben unwissenschaftlich — mit der Ausführung des folgenden Kommandos ermittelt:
Anmeldenollama run llama2 "write a python function to extract email addresses from a string" --verbose
oder
ollama run llama3 "write a python function to extract email addresses from a string" --verbose
Bei den Tests ist llama3 um ca. 10 Prozent langsamer als llama2, liefert also etwas weniger Token/s. Möglicherweise liegt dies ganz einfach daran, dass das Sprachmodell llama3 in der Standardausführung etwas größer ist als llama2 (7 versus 8 Mrd. Parameter). Aber an der Größenordnung der Ergebnisse ändert das wenig, die Werte sind noch vergleichbar.
Beachten Sie, dass die im Diagramm angegebenen Werte variieren können, je nach installierten Treiber, Stromversorgung, Kühlung (speziell bei Notebooks) etc.
Helfen Sie mit! Wenn Sie Ollama lokal installiert haben, posten Sie bitte Ihre Ergebnisse zusammen mit den Hardware-Eckdaten im Forum. Verwenden Sie als Sprachmodell llama2 bzw. llama3 in der Defaultgröße (also mit 7 bzw. 8 Mrd. Parameter, entspricht llama2:7b oder llama3:8b). Das Sprachmodell ist dann ca. 4 bzw. 5 GByte groß, d.h. die Speicheranforderungen sind gering. (Falls Sie das LLM mit einer dezidierten GPU ausführen, muss diese einen ausreichend großen Speicher haben, in dem das ganze Sprachmodell Platz findet. Je nach Betriebssystem sind u.U. zusätzliche Treiber notwendig, damit die GPU überhaupt genutzt wird.)
Ich werde das Diagramm gelegentlich mit neuen Daten aktualisieren.
Ubuntu 24.04 liefert mit GNOME 46, frischem Installer und viel Neuem einen soliden Linux-Desktop. Für Unmut sorgt der fortgesetzte Snap-Zwang. Ein Überblick.
Die freie Bildbearbeitungsoftware GIMP bringt in der neuesten Version 2.10.38 einige Neuerungen, unter anderem eine verbesserte Unterstützung für (Zeichen-)Tablets unter Windows. Darüber hinaus soll die als „Stable“ gekennzeichnete Aktualisierung die häufig gewünschte Rückportierungen von GTK3 zu GTK2 mitbringen.
Als führende Open-Source-Lösung für Web Analytics ermöglicht Matomo eine effektive Überwachung der Performance von Webseiten und tiefe Einblicke in deren Daten, wie dieser Online-Workshop der Golem Karrierewelt zeigt. (Golem Karrierewelt, Datenschutz)
Ubuntu 24.04 glänzt mit aktueller Software und bringt sonst nur wenige große Neuerungen. Für Admins bestehender Server ist das Update eine sichere Bank.
Die freie Software SystemRescue ist in Version 11.01 erschienen und bringt neben dem Linux-Kernel 6.6.30 (LTS) auch kleine Verbesserungen. Beispielsweise wurde die ins Betriebssystem implementierte Partitions-Software GParted in einer aktualisierten Fassung (GParted-1.6.0) eingepflegt. Auch Fehlerkorrekturen sind inkludiert.
