💾

Die Welt verändert sich durch Data Science und Künstliche Intelligenz nachhaltig. Gemeinsam mit StackFuel bietet die Golem Karrierewelt Trainings, die praktische Fähigkeiten in den Technologiebereichen vermitteln. (Golem Karrierewelt, Python)

Folge 090 des CIW Podcasts. Über das Verhältnis zwischen Geben und Nehmen

DietPi 9.5 für den Monat Juni bringt neben vielen behobenen Fehlern zwei neue Images, ein neues Paket für den Gitea-Fork Forgejo und einige aktualisierte Pakete zu den Anwendern.

Quelle

Die erste Hälfte von 2024 neigt sich ihrem Ende zu. Nun gilt es, die Veranstaltungen für die zweite Hälfte anzukündigen.

Firefox 127 bringt neue Funktionen wie das Schließen von Tabs bei doppelt geöffneten Webseiten und dem automatischen Start mit dem Betriebssystem unter Windows und schließt 22 Sicherheitslücken.

Quelle

Kann ein Roboter einen Menschen beim Tischfußball schlagen? Ein junger Entwickler hat einen solchen Roboter entwickelt und es ausprobiert.

Zabbix hat Version 7.0 seines Monitoring-Tools vorgestellt. Es geht flotter ans Werk, bietet mehr Darstellungen für Metriken und überwacht Websites besser.​

Durch eine kleine Änderung im Linux-Kernel arbeiten Notebooks mit Meteor-Lake-CPU schneller und effizienter. (Intel Meteor Lake, Prozessor)

Wie man als Lehrperson aus dem goldenen Käfig von One Note ausbrechen kann. Hier findet ihr Alternativen zur Microsoft-Notizanwendung.

Eine Anleitung wie man mit einem sehr guten Ergebnis Bereiche in Gimp freistellen kann.

Leistungsfähige ARM-Notebooks mit guter Linux-Unterstützung sind quasi nicht existent. TUXEDO Computers will das ändern und zeigte auf der Computex einen Prototyp.

Quelle

Univention Nubus packt das IAM in souveränen Clouds an. Enthalten ist ein RfC-konformer LDAP-Server mit SAML-Anbindungen an verschiedene externe Dienste.

Die Macher der Pentesting-Distribution Kali Linux haben Version 2024.2 veröffentlicht. Die aktualisiert Pakete und den Desktop.

Apache Tapestry, Apache Wicket und Vaadin Flow - sie alle haben ihre Stärken und Schwächen. Wir helfen bei der Wahl des richtigen Java-Frameworks für komponentenorientierte Webanwendungen. (Frameworks, Java)

Ebenso wie Microsofts Recall erfasst Openrecall regelmäßig Screenshots und macht diese durchsuchbar. Das Projekt will vor allem bei Datenschutz und Sicherheit punkten. (Open Source, Microsoft)

Mit der integrierten Funktion von Thunderbird namens »Profil-Manager« ist es möglich, berufliche und private E-Mail-Adressen sauber zu trennen. Hier am Beispiel mit dem Betriebssystem Linux Mint.

Linux-Server und Netzwerkdienste effektiv und umfassend vor Angriffen schützen - von physischer Sicherheit über Verschlüsselung und 2FA bis hin zu SELinux.

Falls ihr Videos als Desktop-Hintergrund haben möchtet, findet ihr hier die Lösung. Geschmackssache sagte der Affe und biss in die Seife.

Fedora 41 soll laut einem neuen Vorschlag mit einem Anaconda-Installer als native Wayland-Anwendung ausgeliefert werden. Diese Änderung ist bisher nicht genehmigt.

Quelle

Der Call for Papers & Presentations für die 22. Kieler Open Source und Linux Tage ist eröffnet. Die Veranstaltung findet vom 19. – 21. September statt

Quelle

Dies ist die Fortsetzung von „Mit InstructLab zu Large Language Models beitragen“. Hier beschreibe ich, wie es nach dem Training weitergeht.

Das Training auf einer virtuellen Maschine mit Fedora 40 Server, 10 CPU-Threads und 32 GB RAM dauerte 180 Std. 44 Min. 7 Sek. Ich halte an dieser Stelle fest, ohne GPU-Beschleunigung fehlt es mir persönlich an Geduld. So macht das Training keinen Spaß.

Nach dem Training mit ilab train findet man ein brandneues LLM auf dem eigenen System:

(venv) tronde@instructlab:~/src/instructlab$ ls -ltrh models
total 18G
-rw-r--r--. 1 tronde tronde 4.1G May 28 20:34 merlinite-7b-lab-Q4_K_M.gguf
-rw-r--r--. 1 tronde tronde  14G Jun  6 12:07 ggml-model-f16.gguf

Test des neuen Modells

Den Chat mit dem LLM starte ich mit dem Befehl ilab chat -m models/ggml-model-f16.gguf. Das folgende Bild zeigt zwei Chats mit jeweils unterschiedlichem Ergebnis:

Fazit

Schade, das hat nicht so funktioniert, wie ich mir das vorgestellt habe. Es kommt weiterhin zu KI-Halluzinationen und nur gelegentlich gesteht das LLM seine Unkenntnis bzw. seine Unsicherheit ein.

Für mich sind damit 180 Stunden Rechenzeit verschwendet. Ich werde bis auf Weiteres keine Trainings ohne Beschleuniger-Karten mehr durchführen. Jedoch werde ich mir von Zeit zu Zeit aktualisierte Releases der verfügbaren Modelle herunterladen und diesen Fragen stellen, deren Antworten ich bereits kenne.

Wenn sich mir die Gelegenheit bietet, diesen Versuch auf einem Rechner mit entsprechender GPU-Hardware zu wiederholen, werde ich die Erkenntnisse hier im Blog teilen.

In KW 23 ist in der FOSS Welt einiges passiert: Von Linux Mint bis K-9 Mail.

Wie kann man unter Linux eine Anwendung aus dem Quelltext compilieren?

💾