Normale Ansicht

KI-Wochenrückblick KW 25/2023

25. Juni 2023 um 20:22

Und wieder ist eine Woche um! Im heutigen Wochenrückblick geht es um drei Nachrichten und einen Lesetipp.

MPT-30B

In fast jeder Woche erscheinen neue KI-Modelle. Seien es komplett neue Modelle wie Falcon oder Vertreter bestehender Modellfamilien wie das diese Woche veröffentlichte MPT-30B.

Konkurrenz belebt das Geschäft. Während Falcon-40B als eines der leistungsstärksten Open-Source-LLMs viele Benchmarks für sich entscheidet, ist das Deployment aufgrund der hohen Parameteranzahl teilweise mitunter herausfordernd. MPT-30B stellt sich hier als Alternative auf und gibt an, dass es auf einer A100-80G mit 16-Bit-Präsizion oder einer A100-40GB mit 8-Bit-Präsizion bereitgestellt werden kann. Ansonsten baut das Modell auf dem bereits vor einigen Wochen vorgestellten MPT-7B auf und wird durch seine Programmierfähigkeiten charaketerisiert, die durch die Auswahl der Trainingsdaten angelernt werden konnten. Das Modell ist wieder in verschiedenen Facetten verfügbar: als Basismodell, für Instruktionen optimiert oder für Chat optimiert.

SDXL 0.9

Stable Diffusion XL (SDXL) ist eine Weiterentwicklung aus dem Hause Stability AI. Deren erstes Produkt Stable Diffusion hat schon überzeugt, weil es eine Alternative zu OpenAI DALL-E war. Bei Stability AI werden öffentlichkeitswirksam die Entwicklungen im Blog vorgestellt und so war bereits SDXL Beta interessant, weil es nochmals die Fähigkeiten des Bildgenerators erweitert.

SDXL 0.9 ist nun der Nachfolger von SDXL Beta. Im Blogeintrag kann im direkten Vergleich nachvollzogen werden, dass SDXL 0.9 Bilder generiert, die deutlich besser zu den Bildbeschreibungen passen. Technisch wurde der Fortschritt durch eine Erhöhung der Parameterzahl erreicht. Mit 3.5 Mrd. Parametern als Basismodell und einer 6.6 Mrd. Parameter starken Ensemble-Pipeline handelt es sich dabei um das nach eigenen Angaben parameterstärkste Open-Source-Bildmodell. SDXL 0.9 ist bereits auf ClipDrop für den Einsatz verfügbar und kann über HuggingFace direkt bezogen werden.

Mercedes-Benz testet ChatGPT

Die Entwicklung der LLMs macht momentan vor den Systemen halt, bei denen man Sprachfähigkeiten am ehesten erwartet: Sprachassistenten auf Smartphones. Hier müssen wir uns bei den verbreiteten Systemen weiterhin noch auf die voreingestellten Fähigkeiten beschränken, die einprogrammiert wurden. Konkurrenz kommt nun von ungewohnter Seite: Mercedes-Benz hat in den letzten Tagen für die US-Kunden bekanntgegeben, in einer frühen Betaversion ChatGPT für die Sprachassistenz in ausgewählten Automodellen mit MBUX zu unterstützen.

Die Teilnahme an dem Programm ist optional. In der Pressemitteilung wird insbesondere der Datenschutz und die Hoheit über IT-Prozesse hervorgehoben. Technisch wird dieses Vorhaben über eine Kooperation mit Microsoft und dem Azure OpenAI Service umgesetzt.

Embeddings

KI ist ein sehr komplexes Thema, das viele Disziplinen umfasst. Umso wichtiger ist es, hochwertige Lernmaterialien zu beziehen. Vicki Boykis hat mit What are embeddings ein umfangreiches Handbuch ausgearbeitet, das sich mit einem wichtigen Kernelement beschäftigt, das LLMs heutzutage erst möglich macht. Konkret geht es dabei um Verfahren, natursprachliche Texte in Zahlen zu verwandeln, um sie mathematisch verarbeitbar zu machen.

Das Handbuch umfasst neben Erklärungen und mathematischen Hintergründen auch Codebeispiele, um selber einmal am Beispiel auszuprobieren, wie Embeddings konkret funktionieren.

Bis zur nächsten Woche!

Red Hat: Enterprise Linux schließt seine Quellen für Dritte

23. Juni 2023 um 12:40

Red Hat Enterprise Linux als Bezahl-Distribution für zertifizierte Anwendungen sperrt seine öffentlichen Quellen, welche bislang für binärkompatible und kostenfreie Nachbauten wie AlmaLinux genutzt wurden. Damit bleibt nur noch CentOS Stream öffentlich verfügbar, das aber mehr einer Test- und Entwicklungsplattform entspricht.

Updates unter Linux: Paketmanager NIX aktualisiert (fast) alles

19. Juni 2023 um 11:30

So komfortabel Paketmanager unter Linux auch sind, der Umfang der verfügbaren Software richtet sich nach der verwendeten Distribution. Dabei unterscheiden sich auch Programmversionen oftmals zwischen verschiedenen Distros. Mit über 80.000 Paketen in NIX rücken der Unterbau und dessen Quellen in den Hintergrund.

KI-Wochenrückblick KW 24/2023

18. Juni 2023 um 20:22

Während der letzte KI-Wochenrückblick etwas kürzer ausfiel, da die gefühlt gesamte Tech-Welt nach Cupertino geschaut hat, gibt es in dieser Woche etwas mehr zu berichten. Starten wir also rein!

AI und Compliance

Üblicherweise steht bei Tech-Themen die Technologie im Vordergrund. Nicht so bei KI. Man kann es vielleicht dem Zeitgeist oder den Erfahrungen mit dem Internet zuschreiben, aber bei rechtlichen oder gesellschaftlichen Auswirkungen wird bei KI ein strenger Maßstab angelegt. So hat in dieser Woche das EU-Parlament den lange diskutierten AI Act eine Stufe weitergeschoben. Im wesentlichen bedeutet der AI Act, dass man nicht mehr jede beliebige KI-Anwendung auf den Markt werfen kann. Erfüllt eine Anwendung bestimmte Kriterien, müssen zusätzliche, bürokratische Schritte zur Qualitätssicherung und Folgenabschätzung vorgenommen werden. Welche Kriterien das sind und was daraus folgt, ist im aktuellen Prozess schwer zu verfolgen, reicht(e) aber von "ChatGPT wird praktisch verboten" bis "Es wird sehr aufwändig".

Besonders schwierig ist es, die Auswirkungen eines solchen Regelwerks anhand konkreter Beispiele nachzuvollziehen. Risihi Bommasani vom Stanford CRFM hat diese Woche auf Twitter demonstriert, wie das aussehen könnte. Er und sein Team haben für 10 verschiedene KI-Anbieter in einer Punktematrix dargelegt, wo welche Anbieter punkten und wo noch Nachbesserungsbedarf ist. Besonders gut kam BigScience (BLOOM) an, hier wurden 36 von 48 möglichen Punkten geholt, besonders bei "Data sources", "Data governance" und "Downstream documentation" konnte BigScience punkten.

Sehen, was der andere sieht

Typische Ermittlerdokus sind der KI schon seit Jahrzehnten voraus und können die Regeln von Raum und Zeit auf Überwachungsvideos außer Kraft setzen. Aktuelle Entwicklungen in der KI ziehen aber langsam nach. Mit Seeing the World through Your Eyes haben Alzayer et al. von der University of Maryland, College Park gezeigt, dass die Reflexion der Pupillen eines Menschen in Bildsequenzen genutzt werden kann, um das Gesehene aus seiner Perspektive als 3D-Modell abzubilden.

So wird "Point of View" real und kann benutzt werden, um Gegenstände, die die Person sieht, wiederzuerkennen. Natürlich ist die Technologie nicht perfekt und verfügt über eine geringe Auflösung, zeigt aber, dass in den verschiedensten Bereichen der Musterverarbeitung Entwicklung stattfindet. Dieses Paper setzt auch neuronale Netze lediglich am Rande ein, was noch einmal verdeutlicht, dass KI nicht nur aus LLMs und Transformers besteht.

LLMs und Secret Sauce

Nichtdestotrotz bleiben die LLMs ein Thema. Galine Alperovich hat im letzten Monat eine Zusammenstellung von Tricks veröffentlicht, um 100K Context Windows zu ermöglichen. Mit Claude haben wir bereits ein System gesehen, was so ein enormes Kontextfenster umsetzt, auch MPT weist mittlerweile Kontextfenster um die 65.000 Token auf.

Ihre dargelegten Hinweise können genutzt werden, um das Training von eigenen Modellen zu optimieren, denn das stellt heutzutage die große Kunst dar. Dass das Training generell möglich ist, haben wir gesehen. Es aber auch aufwandsarm umzusetzen, kann einerseits die Kosten senken, aber auch das Training für kleinere Akteure generell erst möglich machen.

Abschließend für den heutigen Wochenrückblick können wir auch nochmal auf OpenLLaMA schauen. Viele Teams haben sich in der Zwischenzeit rangesetzt, um Meta AIs Arbeit zumindest zu reproduzieren. Die Ergebnisse trudeln Woche für Woche ein. Seit dieser Woche sind nun auch die Gewichte für OpenLLaMA-13B auf HuggingFace verfügbar.

Bleiben wir gespannt, was uns auch die nächste Woche wieder an Neuigkeiten bringt!

Koordinierungsstelle Digitale Souveränität und Open Source ausgeschrieben

16. Juni 2023 um 06:01

Bewerbungen ab sofort möglich

FOSS-Koordinierungsstelle

Bild: FOSS-Koordinierungsstelle

Die Stellenausschreibung der Stadt Dortmund zur Besetzung der Koordinierungsstelle Digitale Souveränität und Open Source wurde heute veröffentlicht. Do-FOSS bittet um Mithilfe beim Streuen der Stellenausschreibung an Interessierte! Ausgeschrieben wird die Einrichtung einer Planstelle in Vollzeit für eine wissenschaftliche Mitarbeit in der Wertigkeit Entgeltgruppe 13 des Tarifvertrags des öffentlichen Dienstes, welche die Koordinierung und Umsetzung zum Thema Digitale Souveränität und Open Source auf kommunaler Ebene übernimmt. Es soll eine Open-Source-Strategie für die Stadt Dortmund erarbeitet werden, die anhand standardisierter Bewertungskriterien die Entscheidungsfindung für den Einsatz von Open-Source-Software unterstützt und einen Fahrplan zur Sicherstellung der digitalen Souveränität enthält. An dieser Stelle sendet Do-FOSS auch Grüße in die Nachbarstadt Bochum, wo das Zentrum für Digitale Souveränität der Öffentlichen Verwaltung (ZenDiS) neu eröffnet werden wird.

Nähere Hintergründe zum Open-Source-Pionierweg der Stadt Dortmund wurden auf der virtuellen Veranstaltung: Kommunen brauchen Freie Software – Dortmund geht als Referenzkommune voran gegeben. Die Free Software Foundation Europe hat die Veranstaltung aufgenommen und die Aufzeichnung öffentlich zur Verfügung gestellt.



Link zum Video
Veranstaltung: Kommunen brauchen Freie Software. Link zu YouTube!
Zeitmarke des Einzelbeitrags von Do-FOSS 28,46

Neue Mailingliste zum Fachaustausch

Wer Informationen zu aktuellen Entwicklungen rund um Freie Software in Kommunen beziehen möchte und auch den Fachaustausch mit anderen sucht, könnte sich für die neu eingerichtete Mailingliste der Free Software Foundation Europe interessieren. Auch Do-FOSS ist dort vertreten. Darüber hinaus steht Do-FOSS wie üblich für Rückfragen gerne zur Verfügung und freut sich bereits auf die Einarbeitung der neuen Stelle in Kooperation mit der Stadt Dortmund.

CC0
Soweit im gesetzlichen Rahmen möglich verzichtet der Autor auf alle Urheber- und damit verwandten Rechte an diesem Werk.
Es kann beliebig genutzt, kopiert, verändert und veröffentlicht werden.
Für weitere Informationen zur Lizenz, siehe hier.

The post Koordinierungsstelle Digitale Souveränität und Open Source ausgeschrieben appeared first on Do-FOSS.

Linux und Open Source News Juni 2023 | Debian 12 | Fedora und LibreOffice | openSUSE Leap 15.5

14. Juni 2023 um 13:48

💾

Linux News (Nachrichten) Juni 2023: In diesem Video gibt es Nachrichten und Aktuelles über Linux und Open Source Software. Unter anderem geht es diesmal um Fedora, Debian 12, openSUSE Leap 15.5.

Linux Bücher für Einsteiger von mir (Ebook und Taschenbuch):
▶️ https://www.amazon.de/~/e/B001K73R84

Brandneu: Linux Mint 21 - Schnellanleitung für Einsteiger
▶️ https://www.amazon.de/dp/B0BB9LGMPG

0:00 Debian 12 Bookworm ist da
7:12 openSUSELeap 15.5 wurde veröffentlicht
9:33 Voyager Bookworm - Ein Debian Derivat
11:59 LibreOffice in Fedora künftig nur noch als Flatpak
15:32 risiOS 38 - Ein Fedora Derivat

Weitere Videos zu Linux Distributionen findet Ihr in dieser Playlist:
▶️ https://www.youtube.com/watch?v=sdYcdG4mn98&list=PLl0zRfPkQ7Xu86XQgKbUhVRSBbHpUzxxM

Andere Kanäle von mir:
Joe loves Linux ▶️ https://www.youtube.com/channel/UCdI8plWGpNHwN1oswHi3iWA
Raketenheftleser ▶️ https://www.youtube.com/channel/UCyPNZr7yK8278QXQDMFnQag
Joe's Musik Check ▶️ https://www.youtube.com/channel/UCuB7gdAs73msDRUnlRRKv5Q
JJ Fotoshow ▶️ https://www.youtube.com/c/JoeTravels

Web:
▶️ www.linuxumsteiger.net
▶️ www.josef-moser.de

Abonniere den Kanal:

▶️ https://www.youtube.com/channel/UCnKExIc8hWK5yS6VwVerqaA?sub_confirmation=1

Mit Superthanks kannst Du den Kanal unterstützen, wenn Du das möchtest.


#linux #ubuntu

KI-Wochenrückblick KW 23/2023

11. Juni 2023 um 21:55

Diese Woche war Tech-mäßig durch die WWDC 2023 dominiert. AI war bei Apple speziell bei macOS eher ein Randthema, das Augenmerk der Konferenz lag auf VR.

In aller Kürze also nun wichtige Nachrichten der Woche.

  • Generative AI gibt es bei Google Vertex AI nun für alle. Das berichtet TechCrunch. Bisher waren die Systeme nur auf einen kleinen Kreis von "trusted testers" beschränkt, der Zugriff steht nun allen zur Verfügung.
  • Orca von Microsoft wurde veröffentlicht. Dabei handelt es sich um ein 13 Mrd. Parameter starkes Modell, das insbesondere über verbesserte Schlussfolgerungsfähigkeiten verfügt. Damit soll Orca besser als Vicuna-13B und gleich auf mit ChatGPT bei z. B. dem BBH-Benchmark sein.
  • Simon Willison hat in seinem Blog einen umfangreichen Artikel samt Demo veröffentlicht, in dem es um GPT-Tokenizers und deren Funktionsweise geht. Sehr sehenswert!

Bis zur nächsten Woche!

Diablo IV unter Linux im Test: Benchmarks auf dem Arch-Gaming-PC und Valves Steam Deck (Update)

09. Juni 2023 um 12:00

Wie Diablo IV auf Windows-PCs mit 38 verschiedenen GPUs und 14 CPUs sowie auf dem Handheld Asus ROG Ally läuft, hat ComputerBase im Artikel Diablo IV im Technik-Test: 38 Grafikkarten, 14 CPUs und ROG Ally im Benchmark diese Woche bereits ausführlich getestet. Dieser Artikel reicht Linux-Gaming-PC- und Steam-Deck-Benchmarks nach.

DXVK: Version 2.2 des Vulkan-Wrappers integriert D3D11On12

15. Mai 2023 um 08:16

Mit Version 2.2 des Vulkan-Wrappers DXVK schicken sich die Entwickler an, weitere Fehlerkorrekturen durch- und neue Features einzuführen, darunter D3D11On12. DXVK ist als Bestandteil von Proton wesentlicher Bestandteil von Valves Bemühungen, das Gaming auf Linux und damit ihren eigenen Handheld Steam Deck zu bringen.

DistroSea: Über 30 Linux-Distributionen per VM im Browser testen

10. Mai 2023 um 05:30

Nachdem DistroTest vor einigen Monaten von der Bildfläche verschwand, gibt es nun mit DistroSea eine neue Möglichkeit, verschiedene Linux-Distributionen schnell und einfach im Browser zu testen. Auch wenn die Leistung bisher noch ein Engpass ist, bietet der Dienst Interessierten schon jetzt eine nützliche Plattform.

Keine Angst vor Linux: Ein Überblick zum Einstieg in die Windows-Alternative

04. Mai 2023 um 10:00

Linux hat auf dem privaten Desktop-PC noch immer keine große Verbreitung, obwohl es vom Mikroprozessor bis zum Großrechner überall Verwendung findet. Selbst zum Spielen aktueller Titel ist es mittlerweile auf diversen Wegen durchaus nutzbar. Ein Überblick zum Einstieg für alle Interessierten, um die ersten Klippen zu umschiffen.

Proton 8.0: Valve bringt großes Update für Spieler, die Linux nutzen (Update)

19. April 2023 um 07:05

Mit dem neuesten Update für Proton auf Version 8.0-1 hält nicht nur die Unterstützung zahlreicher weiterer Spiele in den offiziellen Release Einzug, auch gibt es technische Verbesserungen für das Steam Deck und Linux. Aber nicht alle Spieler profitieren, denn viele ältere Grafikkarten werden nicht mehr unterstützt.

Raspberry Pi 4 mit mehr RAM: 16-GB-Arbeitsspeicher-Mod scheitert an der Software

26. April 2023 um 07:35

Der Einplatinencomputer Raspberry Pi 4 ist nur mit 1 GB bis 8 GB RAM erhältlich. Einem Modder von MadEDoctor war das zu wenig, 16 GB sein Ziel. Er hat die technisch aufwändige Modifikation im Video dokumentiert. Es liefert interessante Einblicke und die Erkenntnisse, dass das Speicher-Upgrade im Alltag nicht nutzbar ist.

Manjaro Linux 22.1: (Gaming-)Distribution aktualisiert ihre Abbilder auf „Talos“

24. April 2023 um 10:00

Die bei Einsteigern beliebte, auf Arch Linux basierende und von Valve für Spiele empfohlene Linux-Distribution Manjaro erhält neue ISO-Abbilder zum Herunterladen. Dabei wurden die Softwarepakete des Betriebssystems auf einen neuen Stand gebracht. Offiziell erscheinen Editionen mit Gnome, Plasma und XFCE.

Linux: Canonical aktualisiert Ubuntu auf Version 23.04

22. April 2023 um 10:28

Ubuntu 23.04, Codename Lunar Lobster, ist erschienen. Neben einem Support für 9 Monate, gibt es zahlreiche Aktualisierungen für Programmpakete. Besonders die weitere Integration des UI-Frameworks Flutter und die Einführung, der aus der Enterprise-Edition stammenden Gruppenrichtlinien, stehen im Fokus des Betriebssystems.

❌