
Auf seinem Summit zeigt auch Red Hat, dass an KI kein Weg vorbeiführt. Doch noch einen Chatbot oder eine weitere OpenAI-Partnerschaft sucht man vergeblich.
Seit Nextcloud Hub 8 (29.0.0) ist ChatGPT nicht mehr über den Picker der Nextcloud zu erreichen. Dieser Umstand kann Nerven kosten, wenn OpenAI’s KI-Dienst hin und wieder genutzt wird und man plötzlich feststellt, dass dieser nicht mehr funktioniert. So ging es mir, als ich den in die Nextcloud integrierten KI-Assistenten einem kleinen Publikum vorstellen wollte. Da das neueste Release 29.0.0 noch recht frisch ist, findet man derzeit wenig Hinweise, wie man ChatGPT weiter nutzen kann.
Dies hat mich nun dazu bewogen einen kleinen Artikel hierzu zu schreiben. Grundvoraussetzung ist jedoch ein Account beim US-amerikanischen Softwareunternehmen OpenAI bei dem ein API-Key erstellt wird.
Des weiteren müssen in der Nextcloud die Apps OpenAI and LocalAI integration und Nextcloud Assistant hinzugefügt und aktiviert werden.

Im Anschluss wird der API-Key, wie im Screenshot zu sehen ist, in der App OpenAI and LocalAI integration hinterlegt.

Nun kann man über den neuen Nextcloud-Assistent das KI-Tool nutzen.



Viel Spaß!
Die Geschwindigkeit bei der lokalen Ausführung großer Sprachmodelle (LLMs) wird in Zukunft zu einem entscheidenden Kriterium für die CPU/GPU-Auswahl werden. Das gilt insbesondere für Software-Entwickler, die LLMs lokal nutzen möchten anstatt alle Daten an Anbieter wie ChatGPT in die Cloud zu übertragen.
Umso verblüffender ist es, dass es dafür aktuell kaum brauchbare Benchmarks gibt. In Anknüpfung an meinen Artikel Sprachmodelle lokal ausführen und mit Hilfe des Forum-Feedbacks habe ich die folgende Abbildung zusammengestellt.

Die Geschwindigkeit in Token/s wird — zugegeben unwissenschaftlich — mit der Ausführung des folgenden Kommandos ermittelt:
ollama run llama2 "write a python function to extract email addresses from a string" --verbose
oder
ollama run llama3 "write a python function to extract email addresses from a string" --verbose
Bei den Tests ist llama3 um ca. 10 Prozent langsamer als llama2, liefert also etwas weniger Token/s. Möglicherweise liegt dies ganz einfach daran, dass das Sprachmodell llama3 in der Standardausführung etwas größer ist als llama2 (7 versus 8 Mrd. Parameter). Aber an der Größenordnung der Ergebnisse ändert das wenig, die Werte sind noch vergleichbar.
Beachten Sie, dass die im Diagramm angegebenen Werte variieren können, je nach installierten Treiber, Stromversorgung, Kühlung (speziell bei Notebooks) etc.
Helfen Sie mit! Wenn Sie Ollama lokal installiert haben, posten Sie bitte Ihre Ergebnisse zusammen mit den Hardware-Eckdaten im Forum. Verwenden Sie als Sprachmodell llama2 bzw. llama3 in der Defaultgröße (also mit 7 bzw. 8 Mrd. Parameter, entspricht llama2:7b oder llama3:8b). Das Sprachmodell ist dann ca. 4 bzw. 5 GByte groß, d.h. die Speicheranforderungen sind gering. (Falls Sie das LLM mit einer dezidierten GPU ausführen, muss diese einen ausreichend großen Speicher haben, in dem das ganze Sprachmodell Platz findet. Je nach Betriebssystem sind u.U. zusätzliche Treiber notwendig, damit die GPU überhaupt genutzt wird.)
Ich werde das Diagramm gelegentlich mit neuen Daten aktualisieren.


Die freie Bildbearbeitungsoftware GIMP bringt in der neuesten Version 2.10.38 einige Neuerungen, unter anderem eine verbesserte Unterstützung für (Zeichen-)Tablets unter Windows. Darüber hinaus soll die als „Stable“ gekennzeichnete Aktualisierung die häufig gewünschte Rückportierungen von GTK3 zu GTK2 mitbringen.
Als führende Open-Source-Lösung für Web Analytics ermöglicht Matomo eine effektive Überwachung der Performance von Webseiten und tiefe Einblicke in deren Daten, wie dieser Online-Workshop der Golem Karrierewelt zeigt. (Golem Karrierewelt, Datenschutz) 
Die freie Software SystemRescue ist in Version 11.01 erschienen und bringt neben dem Linux-Kernel 6.6.30 (LTS) auch kleine Verbesserungen. Beispielsweise wurde die ins Betriebssystem implementierte Partitions-Software GParted in einer aktualisierten Fassung (GParted-1.6.0) eingepflegt. Auch Fehlerkorrekturen sind inkludiert.

Der Instant Messenger Telegram erhält in der aktualisierten Version 5.0.0 für den Desktop neue Features. Dazu zählen unter anderem das Anzeigen von letzten Chats und häufigen Kontakten im Suchfeld. Darüber hinaus können Premium-Nutzer in der neuen Version animierte Emojis in Umfragen verwenden.

Die freie Software FrostWire ist in Version 6.13.2 mit einigen Neuerungen und Optimierungen erschienen, auch kleinere Fehlerbehebungen zählen dazu. Eine der wichtigsten Verbesserungen ist die Korrektur der SoundCloud-Suchfunktion. Darüber hinaus enthält FrostWire 6.13.2 jetzt die neueste Java Runtime Environment 22.

Der Instant Messenger Telegram erhält in der aktualisierten Version 5.0.0 für den Desktop neue Features. Dazu zählen unter anderem das Anzeigen von letzten Chats und häufigen Kontakten im Suchfeld. Darüber hinaus können Premium-Nutzer in der neuen Version animierte Emojis in Umfragen verwenden.
Ubuntu 24.04 alias Noble Numbat alias Snubuntu ist fertig. Im Vergleich zur letzten LTS-Version gibt es einen neuen Installer, der nach einigen Kinderkrankheiten (Version 23.04) inzwischen gut funktioniert. Ansonsten kombiniert Ubuntu ein Kernsystem aus Debian-Paketen mit Anwendungsprogramme in Form von Snap-Paketen. Für die einfache Anwendung bezahlen Sie mit vergeudeten Ressourcen (Disk Space + RAM).

Das neue Installationsprogramm hat bei meinen Tests gut funktioniert, inklusive LVM + Verschlüsselung. Einfluss auf die Partitionierung können Sie dabei allerdings nicht nehmen. (Das Installationsprogramm erzeugt eine EFI-, eine Boot- und eine LVM-Partition, darin ein großes Logical Volume.) Zusammen mit der Installation erledigt der Installaer gleich ein komplettes Update, was ein wenig Geduld erfordert.
Standardmäßig führt das Programm eine Minimalinstallation durch — ohne Gimp, Thunderbird, Audio-Player usw. Mit der Option Vollständige Option verhält sich der Installer ähnlich wie in der Vergangenheit. Ein wenig absurd ist, dass dann einige Programme als Debian-Pakete installiert werden, während Ubuntu sonst ja bei Anwendungsprogrammen voll auf das eigene Snap-Format setzt. Wenn Sie Ubuntu installieren, entscheiden Sie sich auch für Snap. Insofern ist es konsequenter, eine Minimalinstallation durchzuführen und später die entsprechenden Snaps im App Center selbst zu installieren.



Auf das Lamentieren über Snaps verzichte ich dieses Mal. Wer will, kann diesbezüglich meine älteren Ubuntu-Tests nachlesen. Für Version 24.04 hat Andreas Proschofsky in derstandard.at alles gesagt, was dazu zu sagen ist. Der größte Vorteil von Snaps für Canonical besteht darin, dass sich der Wartungsaufwand für Desktop-Programme massiv verringert: Die gleichen Snap-Pakete kommen in diversen Ubuntu-Versionen zum Einsatz.

Mit Ubuntu 24.04 hat Netplan den Sprung zu Version 1.0 gemacht. Größere Änderungen gab es keine mehr, die Versionsnummer ist eher ein Ausdruck dafür, dass Canonical die Software nun als stabil betrachtet. Wie bereits seit Ubuntu 23.10 ist Netplan das Backend zum NetworkManager. Netzwerkverbindungen werden nicht in /etc/NetworkManager/system-connections/ gespeichert wie auf den meisten anderen Distributionen, sondern als /etc/netplan/90-NM-*.yaml-Dateien (siehe auch meinen Bericht zu Ubuntu 23.10).
Ubuntu 24.04 kommt out-of-the-box mit HEIC/HEIF-Dateien zurecht, also mit am iPhone aufgenommenen Fotos. Vor einem dreiviertel Jahr hatte ich noch über entsprechende Probleme berichtet. Im Forum wurde damals kritisiert, dass meine Erwartungshaltung zu hoch sei. Aber, siehe da: Es geht!
Basis Programmierung Server
--------------- --------------- --------------
Kernel 6.8 bash 5.2 Apache 2.4
glibc 2.39 docker.io 24.0 CUPS 2.4
Gnome 46 gcc 13.2 MariaDB 10.11
X-Server 21.1 git 2.43 MySQL 8.0
Wayland 1.34 Java 21 OpenSSH 9.6
Mesa 24.0 PHP 8.3 qemu/KVM 8.2
Systemd 255 Python 3.12 Postfix 3.8
NetworkMan 1.46 Samba 4.19
GRUB 2.12
Seit ich Ubuntu auf dem Desktop kaum mehr nutze, habe ich mehr Distanz gewonnen. So fällt mein Urteil etwas milder aus ;-)
Für Einsteiger ist Ubuntu eine feine Sache: In den meisten Fällen funktioniert Ubuntu ganz einfach. Das gilt sowohl für die Unterstützung der meisten Hardware (auch relativ moderne Geräte) als auch für die Installation von Programmen, die außerhalb der Linux-Welt entwickelt werden (VSCode, Android Studio, Spotify etc.). Was will man mehr? Ubuntu sieht zudem in der Default-Konfiguration optisch sehr ansprechend aus, aus meiner persönlichen Perspektive deutlich besser als die meisten anderen Distributionen. Ich bin auch ein Fan der ständig sichtbaren seitlichen Task-Leiste. Schließlich zählt Canonical zu den wenigen Firmen, die noch Geld in die Linux-Desktop-Weiterentwicklung investieren; dafür muss man dankbar sein.
Alle, die einen Widerwillen gegenüber Snap verspüren, sollten nicht über Ubuntu/Canonical schimpfen, sondern sich für eine der vielen Alternativen entscheiden: Arch Linux, Debian, Fedora oder Linux Mint. Wer nicht immer die neueste Version braucht und sich primär Langzeit-Support wünscht, kann auch AlmaLinux oder Rocky Linux in Erwägung ziehen.
Tests

Der Multiplayer-Online-Hit League of Legends hat zum Start in den Mai ein Update auf Version 14.9 erhalten. Damit halten die Anti-Cheat-Software Vanguard und TPM-2.0-Pflicht Einzug. Spieler, die den für Windows veröffentlichten Titel zuletzt unter Linux gespielt haben, sind damit raus. Doch Riot Games sah keinen anderen Weg.

Der Open-Source-Videoeditor Shotcut, plattformübergreifende Videoschnittsoftware, die zahlreiche Audio- und Videoformate unterstützt, ist in der neuesten Version 24.04.28 für Windows, macOS und Linux erschienen. Neu ist unter anderem die Aktualisierung auf das Media Lovin' Toolkit („MLT“) 7.24.0.