Neue KI-Chiphersteller fordern NVIDIA heraus
Zwei Startups - Cerebras Systems und Groq, Letzteres gegründet von einem Ingenieur, der zuvor Schaltkreise für Google entwickelte - haben Chips herausgebracht, mit denen das chinesische LLM DeepSeek…
Zwei Startups - Cerebras Systems und Groq, Letzteres gegründet von einem Ingenieur, der zuvor Schaltkreise für Google entwickelte - haben Chips herausgebracht, mit denen das chinesische LLM DeepSeek…
Elon Musks KI-Firma xAI baute zusammen mit Supermicro und NVIDIA den größten wassergekühlten GPU-Cluster der Welt.
Wer einen Rechner mit zwei Grafikprozessoren besitzt, soll unter openSUSE zukünftig mit dem Werkzeug Switcherooclt zwischen den beiden GPUs wechseln.
Wer einen Rechner mit zwei Grafikprozessoren besitzt, soll unter openSUSE zukünftig mit dem Werkzeug Switcherooclt zwischen den beiden GPUs wechseln.
Eigentlich hatte ich nicht vorgehabt, über Ubuntu 24.10 zu schreiben. Es ist kein LTS-Release, dramatische Neuerungen gibt es auch nicht. Aber dann ergab sich überraschend die Notwendigkeit, eine native Ubuntu-Installation auf meinem Notebook (Lenovo P1 gen1) durchzuführen. Außerdem feiert Ubuntu den 20. Geburtstag.
Also habe ich doch ein paar Worte (gar nicht so wenige) zum neuesten Release geschrieben. Der Text ist launiger geworden als beabsichtigt. Er konzentriert sich ausschließlich auf die Desktop-Nutzung, also auf Ubuntu für Büro-, Admin- oder Entwicklerrechner. Der Artikel bringt auch ein wenig meinen Frust zum Ausdruck, den ich mit Linux am Desktop zunehmend verspüre.
Ich lebe normalerweise in einer weitgehend virtuellen Linux-Welt. Auf meinem Arbeits-Notebook läuft zwar Arch Linux, aber neue Distributionen teste ich meistens in virtuellen Maschinen, viele meiner Server-Installationen befinden sich in Cloud-Instanzen, die Software-Entwicklung erfolgt in Docker-Containern. Überall Linux, aber eben meist eine (oder zwei) virtuelle Schichten entfernt.
Insofern ist es wichtig, hin und wieder auch eine »echte« Installation durchzuführen. Testkandidat war in diesem Fall ein fünf Jahre altes Lenovo P1 Notebook mit Intel-CPU und NVIDIA-GPU. Ich wollte Ubuntu auf eine noch leere 2-TB-SSD installieren, dabei aber nur 400 GiB nutzen. (Auch ein paar andere Distributionen verdienen im nächsten Jahr ihre Chance in der realen Welt …)
Weil ich nicht die ganze SSD nutzen möchte, werde ich zur manuellen Partitionierung gezwungen. So weit, so gut, allerdings fehlen dort die LVM-Funktionen. Somit ist es für Laien unmöglich, Ubuntu verschlüsselt in ein Logical Volume zu installieren. (Profis können sich Ihr Setup mit parted
, pvxxx
, vgxxx
, lvxxx
und cryptsetup
selbst zusammenbasteln. Ich habe das aber nicht getestet.)
Noch ein Ärgernis der manuellen Partitionierung: Das Setup-Programm kümmert sich selbst darum, eine EFI-Partition einzurichten. Gut! Aber auf einer aktuell leeren Disk wird diese kleine Partition immer NACH den anderen Partitionen platziert. Mir wäre lieber gewesen, zuerst 2 GiB EFI, dann 400 GiB für /. Solange es keine weiteren Partitionen gibt, hätte ich so die Chance, die Größe von / nachträglich zu ändern. Fehlanzeige. Im Übrigen hat das Setup-Programm auch die von mir gewählte Größe für die EFI-Partition ignoriert. Ich wollte 2 GiB und habe diese Größe auch eingestellt (siehe Screenshot). Das Setup-Programm fand 1 GiB ausreichend und hat sich durchgesetzt.
Für die meisten Linux-Anwender sind die obigen Anmerkungen nicht relevant. Wenn Sie Ubuntu einfach auf die ganze Disk installieren wollen (real oder in einer virtuellen Maschine), oder in den freien Platz, der neben Windows noch zur Verfügung steht, dann klappt ja alles bestens. Nur Sonderwünsche werden nicht erfüllt.
Letzte Anmerkung: Ich wollte auf dem gleichen Rechner kürzlich Windows 11 neu installieren. (Fragen Sie jetzt nicht, warum …) Um es kurz zu machen — ich bin gescheitert. Das Windows-11-Setup-Programm aus dem aktuellsten ISO-Image glänzt in moderner Windows-7-Optik. Es braucht anscheinend zusätzliche Treiber, damit es auf einem fünf Jahre alten Notebook auf die SSDs zugreifen kann. (?!) Mit der Hilfe von Google habe ich entdeckt, dass er wohl die Intel-RST-Treiber für die Intel-CPU des Rechners haben will. Die habe ich mir runtergeladen, auf einem anderen Windows-Rechner (wird selbstverständlich vorausgesetzt) ausgepackt, auf einen zweiten USB-Stick gegeben und dem Windows-Installer zum Fraß vorgeworfen. Aber es half nichts. Die Treiber wären angeblich inkompatibel zu meiner Hardware. Ich habe fünf Stunden alles Mögliche probiert, das Internet und KI-Tools befragt, diverse Treiber von allen möglichen Seiten heruntergeladen. Aussichtslos. Ich habe mir dann von Lenovo ein Recovery-Image (Windows 10, aber egal) für mein Notebook besorgt. Es bleibt bei der Partitionierung in einem Endlos-Reboot hängen. Vielleicht, weil vor fünf Jahren 2-TB-SSDs unüblich waren? Also: Wer immer (mich selbst eingeschlossen) darüber jammert, wie schwierig eine Linux-Installation doch sei, hat noch nie versucht, Windows auf realer Hardware zu installieren. (Ich weiß, in virtuellen Maschinen klappt es besser.) Jammern über Einschränkungen bei der Ubuntu-Installation ist Jammern auf hohen Niveau. Der Ubuntu-Installer funktioniert ca. 100 Mal besser als der von Windows 11!
Obwohl ich bekanntermaßen kein großer Snap-Fan bin, habe ich mich entschieden, Ubuntu zur Abwechslung einmal so zu verwenden, wie es von seinen Entwicklern vorgesehen ist. Ich habe daher einige für mich relevante Desktop-Programme aus dem App Center in Form von Snap-Paketen installiert (unter anderem eine Vorabversion von Gimp 3.0, VS Code, den Nextcloud Client und LibreOffice). Auf den Speicherverbrauch habe ich nicht geschaut, Platz auf der SSD und im RAM ist ja genug.
Grundsätzlich hat vieles funktioniert, aber gemessen daran, wie lange es nun schon Snaps gibt, stören immer noch erstaunlich viele Kleinigkeiten:
gnome-tweaks
alias Optimierungen im Tab Startprogramme).Updates des App Center (selbst ein Snap-Paket), während dieser läuft, sind weiter unmöglich.
Es gibt auch gute Nachrichten: Ein Klick auf ein heruntergeladenes Debian-Paket öffnet das App Center, und dieses kann nun tatsächlich das Debian-Paket installieren. (Es warnt langatmig, wie unsicher die Installation von Paketen unbekannter Herkunft ist, aber gut. In gewisser Weise stimmt das ja.)
Nicht nur dass, wenn Sie den Suchfilter korrekt einstellen, können Sie im App Center sogar nach Debian-Paketen suchen und direkt installieren. Ganz intuitiv ist das nicht, aber es ist ein Fortschritt.
Ubuntu 24.10 ist die erste Ubuntu-Version, bei der meine NVIDIA-Grafikkarte out of the box nahezu ohne Einschränkungen funktioniert. Ich habe während der Installation darum gebeten, auch proprietäre Treiber zu installieren. Beim ersten Start werden dementsprechend die NVIDIA-Treiber geladen. Ab dem ersten Login ist tatsächlich Wayland aktiv und nicht wie (bei meiner Hardware in der Vergangenheit) X.org.
Ich habe eine Weile in mit den Anzeige-Einstellungen gespielt: Zwei Monitore in unterschiedlichen Varianten, fraktionelle Skalierung (unscharf, aber prinzipiell OK) usw. Obwohl ich mir Mühe gegeben habe, das Gegenteil zu erreichen: Es hat wirklich jedes Monitor-Setup funktioniert. Ich würde das durchaus als Meilenstein bezeichnen. (Your milage may vary, wie es im Englischen so schön heißt. Alte Hardware ist beim Zusammenspiel mit Linux oft ein Vorteil.)
Na ja, fast alles: Ich war dann so übermütig und habe das System in den Bereitschaftsmodus versetzt. Am nächsten Tag wollte ich mich wieder anmelden. Soweit ich erkennen konnte, ist der Rechner gelaufen (die ganze Nacht??), er reagierte auf jeden Fall auf ping
. (Ich war so leichtsinnig und hatte noch keinen SSH-Server installiert. Großer Fehler!) Auf jeden Fall blieben sowohl das Notebook-Display als auch der angeschlossene Monitor schwarz. Ich konnte drücken, wohin ich wollte, den Display-Deckel auf und zu machen, das HDMI-Kabel lösen und wieder anstecken — aussichtslos. Einzige Lösung: brutaler Neustart (Power-Knopf fünf Sekunden lang drücken). Und ich hatte schon gedacht, es wäre ein Wunder passiert …
Und noch ein kleines Detail: Drag&Drop-Operationen zicken (z.B. von Nautilus nach Chrome, Bilder in die WordPress-Mediathek oder Dateien in die Weboberfläche von Nextcloud oder Moodle hochladen). Das ist seit fünf Jahren ein Wayland-Problem. Es funktioniert oft, aber eben nicht immer.
Das Ubuntu-Dock wird durch eine Ubuntu-eigene Gnome Shell Extension realisiert, die im Wesentlichen Dash to Dock entspricht. (Tatsächlich handelt es sich um einen Klon/Fork dieser Erweiterung.)
In den Gnome-Einstellungen unter Ubuntu-Schreibtisch können allerdings nur rudimentäre Einstellungen dieser Erweiterung verändert werden. Das ist schade, weil es ja viel mehr Funktionen gibt. Einige davon (per Mausrad durch die Fenster wechseln, per Mausklick Fenster ein- und wieder ausblenden) sind aus meiner Sicht essentiell.
Um an die restlichen Einstellungen heranzukommen, müssen Sie das vorinstallierten Programm Erweiterungen starten. Von dort gelangen Sie in den vollständigen Einstellungsdialog der Erweiterung.
Ubuntu hat den Linux-Desktop nicht zum erhofften Durchbruch verholfen, aber Ubuntu und Canonical haben den Linux-Desktop auf jeden Fall deutlich besser gemacht. Geld ist mit dem Linux-Desktop wohl keines zu verdienen, das hat auch Canonical erkannt. Umso höher muss man es der Firma anrechnen, dass sie sich nicht ausschließlich den Themen Server, Cloud und IoT zuwendet, sondern weiter Geld in die Desktop-Entwicklung steckt.
Die Linux-Community hat Ubuntu und Canonical viel zu verdanken. Und so schließe ich mich diversen Glückwünschen aus dem Netz an und gratuliere Ubuntu ganz herzlich zum 20-jährigen Jubiläum. »Wir hätten dich sonst sehr vermisst«, heißt es in manchen Geburtstagsliedern. Wie sehr trifft das auf Ubuntu zu!
Linux im Allgemeinen, Ubuntu im Speziellen funktioniert als Desktop-System gut, zu 90%, vielleicht sogar zu 95%. Seit Jahren, eigentlich schon seit Jahrzehnten. Na ja, zumindest seit einem Jahrzehnt.
Aber die fehlenden paar Prozent — an denen scheint sich nichts zu ändern. Und das ist schade, weil es ja so dringend eine Alternative zum goldenen Käfig (macOS) bzw. dem heillosen Chaos (Windows, bloatware included TM) bräuchte.
Profis können sich mit Linux als Desktop-System arrangieren und profitieren von den vielen Freiheiten, die damit verbunden sind. Aber es fällt mir seit Jahren immer schwerer, Linux außerhalb dieses Segments zu empfehlen.
Linux hält unsere (IT-)Welt server-seitig am Laufen. Praktisch jeder Mensch, der einen Computer oder ein Smartphone verwendet, nutzt täglich Dienste, die Linux-Server zur Verfügung stellen. Warum ist der kleine Schritt, um Linux am Desktop zum Durchbruch zu verhelfen, offenbar zu groß für die Menschheit (oder die Linux-Entwicklergemeinde)?
Mit dem R515-Treiber veröffentlichte Nvidia im Mai 2022 eine Reihe von Linux-GPU-Kernelmodulen als Open Source mit doppelter GPL- und MIT-Lizenzierung.
Erste für Enterprise gedachte Open-Source-Treibermodule gab NVIDIA vor zwei Jahren frei. Mit der Treiberversion 560 sollen demnächst Module für PCs und Notebooks folgen.
Als eins der letzten Puzzleteile für eine störungsfreie Grafikausgabe unter Wayland hat NVIDIA die Beta-Version des proprietären Treibers NVIDIA 555 für Linux freigegeben.
Ein großer Teil der Kritik an Wayland bezieht sich auf Probleme mit Nvidias proprietärem Treiber. Mit dem Merge von »explicit sync« könnte dies bald ein Ende haben.
Nach der Offenlegung von Nvidias Linux-Kernel-Treiber reagiert nun endlich die Upstream-Community. Der Nouveau-Treiber soll aufs Abstellgleis.
NVK, ein neuer Vulkan-Treiber für Nvidia-GPUs ist im Mesa-Hauptzweig gelandet und soll als experimenteller Treiber in der Version 23.3 von Mesa enthalten sein, teilt Entwickler Faith Ekstrand mit.
Über ein Jahr Arbeit haben Faith Ekstrand und seine Mitstreiter Karol Herbst und Dave Airlie bei Red Hat und etwa ein Dutzend Community-Mitarbeiter in den Open-Source-Treiber gesteckt. Danilo Krummrich bei Red Hat habe zudem die Nouveau-Kernel-Unterstützung für die neue Speicheranbindung und Ausführungs-API entwickelt, die von NVK benötigt werde.
Derzeit unterstütze der Treiber die Nvidia Hardware Turing (RTX 20XX und GTX 16XX) und jüngere GPUs.
NVK laufe auf demselben Nouveau-Kernel-Treiber wie die alten OpenGL-Treiber, erfordere aber eine völlig neue Userspace-API. Diese API werde in Linux 6.6 und späteren Kerneln enthalten sein, berichtet Ekstrand. Derzeit befinde sich die neue API im drm-misc-next-Zweig und warte auf den nächsten Pull von Linus, heißt es weiter.
Die Zusammenführung mit Mesa/main sei zwar ein großer Meilenstein, aber NVK sei noch lange nicht fertig. Es werde noch dauern, die Bugs auszubügeln und den Funktionsumfang zu vervollständigen.
In einem kleinen FAQ erläutert Ekstrand weitere Details.
Der Beitrag NVK: Open-Source-Vulkan-Treiber für Nvidia-GPUs erschien zuerst auf Linux-Magazin.
Das Tuxedo InfinityBook Pro 16 bietet mit einem einen Intel Core i7-13700H hohe Prozessorleistung und optionale, schnelle NVIDIA-GeForce-Grafik in einem dünnen Magnesiumgehäuse.
Das Notebook verwendet einen Intel Core i7-13700H mit 14 Kernen und 20 Threads sowie einer dauerhaften Energieaufnahme von bis zu 70 Watt. Für Grafikanforderungen stehen optional die NVIDIA GeForce RTX 4060 und RTX 4070 mit jeweils 8 GByte GDDR6-VRAM.
Das 16-Zoll-Display des InfinityBook Pro 16 bietet eine Auflösung von 2560 x 1600 Pixeln im 16:10-Format. Dank der schmalen Displayränder bleibt das Notebook kompakt mit Abmessungen von 34,5 x 21,5 cm. Das InfinityBook Pro 16 misst im Profil nur 17 mm und wiegt von 1,5 kg (ohne NVIDIA-Grafik) bis 1,6 kg.
Ein 80-Wh-Akku soll für eine Laufzeit von rund 7 Stunden bei Büroarbeiten und Surfen im Web bieten. Zwei Steckplätze ermöglichen den Einbau von bis zu 64 GB DDR5-4800 MHz-Arbeitsspeicher. Der Massenspeicher kann mit zwei M.2-SSDs (PCI-Express 4.0 x4) mit einer Gesamtkapazität von bis zu 8 TByte ausgestattet werden.
Tuxedo InfinityBook Pro 16. Quelle: Tuxedo
Das TUXEDO InfinityBook Pro 16 ist mit Thunderbolt 4 ausgestattet, was einen schnellen Datenaustausch und die Verbindung mit einem DisplayPort-Monitor ermöglicht. Es kann auch über den USB-C-Anschluss mit einem USB-C-Netzteil geladen werden. Weitere Anschlüsse umfassen einen weiteren USB-C-Port mit DisplayPort 1.4 (nur mit NVIDIA-Grafik nutzbar) und HDMI 2.0b (Anbindung: iGPU) zur Unterstützung zusätzlicher Bildschirme.
Das InfinityBook Pro 16 – Gen8 kann vorbestellt werden und wird laut Anbieter ab Ende Juli ausgeliefert. Es wird mit voller Linux-Unterstützung und vorinstalliertem Tuxedo OS oder alternativ Ubuntu 22.04, Kubuntu 22.04 oder Ubuntu Budgie 22.04 angeboten. Die Basiskonfiguration mit Intel Core i7-13700H, 16-Zoll-Omnia-Display, 2x 8 GByte Samsung 4800 MHz DDR5-RAM, einer 500 GByte Samsung 980-SSD und vorinstalliertem Tuxedo OS ist ab einem Preis von 1549 Euro erhältlich.
Der Beitrag Tuxedo InfinityBook Pro 16: Dünnes Business-Notebook erschien zuerst auf Linux-Magazin.
openSUSE Leap 15.5 ist ein weiteres Minor-Release, das auf SUSE Linux Enterprise Server 15 (SLES 15) basiert. Nach längerer Pause (zuletzt habe ich mir in diesem Blog openSUSE 15.1 angesehen) ist es wieder einmal Zeit, einen Blick in die openSUSE-Welt zu werfen.
Aktualisiert am 3.8.2023: NVIDIA-Treiberinstallation
openSUSE zeichnet sich durch einen seltsamen Mix aus alter und aktueller Software aus. Vollkommen unbegreiflich ist die uralte Python-Version (aktuell wäre 3.11).
Basis Desktop Programmierung Server
--------------- ------------------ -------------- --------------
Kernel 5.14 KDE Plasma 5.27 bash 4.4 Apache 2.4
glibc 2.31 Gimp 2.10 docker 20.10 CUPS 2.2
X-Server 1.20 LibreOffice 7.4 gcc 12.2 MariaDB 10.6
Wayland 1.21 git 2.35 OpenSSH 8.4
Mesa 20.2 Java 11/17 qemu/KVM 7.1
Systemd 249 PHP 7.4/8.0 Postfix 3.7
NetworkMan 1.38 podman 4.4 Samba 4.17
GRUB 2.06 Python 3.6
Sie können bei der Installation zwischen mehreren Desktop-Systemen wählen. Viele openSUSE-Anwender entscheiden sich für KDE. Gnome steht nur in der ziemlich alten Version 41 zur Verfügung.
Wenn Sie openSUSE in Kombination mit aktueller Software einsetzen möchten, sollten Sie sich die Rolling-Release-Variante Tumbleweed ansehen. Persönlich bin ich der Meinung, dass Tumbleweed das »bessere« openSUSE ist.
Die Installation von openSUSE funktioniert gut wie eh‘ und je. Das Installationsprogramm brilliert vor allem bei komplizierten Setups mit RAID und LVM. Standardmäßig kommt das Dateisystem btrfs zum Einsatz, wobei diverse Subvolumes für /var
, /tmp
usw. eingerichtet werden. Außerdem werden bei jeder Paket-Installation und bei jedem Update Snapshots erstellt. Diese Snapshots ermöglichen es, eine fehlgeschlagene Paketoperation rückgängig zu machen. (Allzu oft tritt dieser Fall in der Praxis nicht auf. Ich hatte dazu in den letzten Jahren nie die Notwendigkeit, egal, unter welcher Distribution ich gerade gearbeitet habe.)
Das Systemadministrations-Tool YaST war über lange Zeit das Unterscheidungsmerkmal zwischen SUSE und anderen Distributionen. Mittlerweile wirkt YaST aber definitiv angestaubt. Beispielsweise sind die Module zur Software-Verwaltung aus heutiger Sicht unübersichtlich und verwirrend organisiert. Das Firewall-Modul findet außer ‚docker‘ keine Netzwerkschnittstellen. Das AppArmor-Modul eignet sich gerade noch dazu, AppArmor zu deaktivieren bzw. wieder zu aktivieren.
Bei vergangenen openSUSE-Versionen gestaltete sich die Installation des proprietären NVIDIA-Treibers sehr einfach: NVIDIA-Paketquelle aktivieren, dann im YaST-Modul Online-Aktualisierung das Menükommando Extras/Alle
passenden empfohlenen Pakete installieren ausführen.
Aktuell scheitert allerdings die Aktivierung der NVIDIA-Paketquelle. Abhilfe: Richten Sie die Paketquelle
manuell mit Hinzufügen/URL angeben ein und verwenden Sie dabei die Adresse `http://download.nvidia.com/opensuse/leap/15.5` (mit HTTP, nicht HTTPS!). Siehe auch diesen Beitrag im NVIDIA-Forum.
Ich habe mich in den letzten Jahren immer wieder gefragt: Was macht die Attraktivität von openSUSE aus? Laut metrics.opensuse.org sind die Nutzerzahlen in den letzten zwei Jahren stark gestiegen. Auch auf distrowatch.com hält sich openSUSE in den Top-10. (Ich war vor 20 Jahren selbst großer SUSE-Fan, aber das hat sich gelegt.)
openSUSE konzentriert sich für die Desktop-Anwendung auf KDE. Wer KDE bevorzugt, hat im Linux-Mainstream wenig Auswahl. openSUSE ist dann durchaus eine sinnvolle Option.
openSUSE verzichtet in der Grundausstattung auf Snap- oder Flatpak-Pakete. Gerade im Vergleich zu Ubuntu kann man das als Pluspunkt sehen.
Für seine Enterprise-Version arbeitet SUSE momentan an einem Komplettumbau. SLES 15 soll durch die Adaptable Linux Platform (ALP) abgelöst werden. ALP basiert auf Micro OS, einer neuartigen immutable Distribution, bei der Updates in Form von atomaren Transaktionen (und nicht durch die Aktualisierung von Paketen) erfolgen. SUSE ALP ist allerdings nur das Kern-Betriebssystem. Die darin installierten Anwendungen sollen ähnlich wie Container (denken Sie an Docker oder Podman) laufen. Red Hat und Canonical experimentieren mit Silverblue bzw. mit Ubuntu Core und Snaps und in eine ähnliche Richtung.
openSUSE ALP soll diesen Paradigmen-Wechsel nachvollziehen. Bis es soweit ist, wird wohl noch einige Zeit vergehen — denn vorher soll es mit openSUSE 15.6 noch ein Minor Release geben (siehe news.opensuse.org).
Update 13.6.2023: Das in SUSE-Frage stets gut informierte Blog MerCurius weist darauf hin, dass ALP vermutlich eine reine Server-Plattform sein wird und keine Desktop-Pakete enthält. Damit openSUSE ALP als Desktop-System funktionieren kann, sucht openSUSE nach Unterstützung durch die Community.
Download, Release Informationen und sonstige Dokumentation
ALP/MicroOS/Silverblue/Ubuntu Core
NVIDIA-Paketquelle
“NeMo Guardrails” heißt das Toolkit von Nvidia, dass der Grafikspezialist unter einer Open-Source-Lizenz veröffentlicht hat. Damit sollen Chatbots sicherer werden.
NeMo Guardrails soll sich bei der Entwicklung sicherer und vertrauenswürdiger LLM-Konversationssysteme bewähren, teilt Nvidia mit. Die Sicherheit in der generativen KI sei ein branchenweites Anliegen und NeMo Guardrails sei so entwickelt worden, dass es mit allen LLMs funktioniere, einschließlich ChatGPT von OpenAI.
Dieses Leitplanken-Toolkit setze auf von der Community erstellten Werkzeugen wie LangChain. Die Toolkits würden kombinierbare und einfach zu verwendende Vorlagen und Muster anbieten, um LLM-gestützte Anwendungen zu erstellen. Dabei könnten LLMs, APIs und andere Softwarepakete zusammengebaut werden, so Nvidia in einem Blogbeitrag.
Mit dem Toolkit ließen sich Regeln aufstellen, um das Verhalten von Chatbots auf Nutzereingaben zu definieren. Derzeit gebe es die drei Regelsätze Topical, Safety und Security. Topical weise den Chatbot an, auf ein bestimmtes Thema konzentriert zu bleiben und nicht in unerwünschte Bereiche abschweifen. Security-Leitplanken würden dafür sorgen, dass Interaktionen mit einem LLM nicht zu Fehlinformationen, toxischen Reaktionen oder unangemessenen Inhalten führen. Security-Regeln verhinderten, dass ein LLM bösartigen Code ausführe oder eine externe Anwendung auf eine Weise aufrufe, die ein Sicherheitsrisiko darstellt.
Der Beitrag Open-Source-Tools von Nvidia sollen Chatbots sicherer machen erschien zuerst auf Linux-Magazin.
Wie berichtet, habe ich mein Arbeits-Notebook im Frühjahr 2022 auf Arch Linux umgestellt. Bisher für mich eine Erfolgsgeschichte, alles läuft, wie es soll, und ich habe stets aktuelle Software. Mein Interesse an anderen Distributionen hat seither spürbar nachgelassen.
Mit dem letzten Update, das ich gestern durchgeführt habe, begann allerdings das Grafiksystem zu spinnen. Während sich der Maus-Cursor weiterhin flüssig bewegt, sinkt die Framerate beim Verschieben eines Fensters auf deutlich unter 1 fps (d.h. vernünftiges Arbeiten ist undenkbar).
Die Umstände des Fehlers sind merkwürdig: Der Totaleinbruch der Grafikgeschwindigkeit kommt nur zustande, wenn mein Notebook mit einem externen 4k-Monitor verbunden ist UND der Notebook-Deckel geschlossen ist.
Hardware: Lenovo P1 mit Hybrid-Grafik Intel/NVIDIA (i7-8750H + Quadro P1000 Mobile)
Software: aktueller Kernel (6.0), aktueller proprietärer NVIDIA-Treiber (525.60), Xorg, GDM, Gnome 43)
Interessanterweise wird die Grafikgeschwindigkeit wieder normal, sobald ich den Notebook-Deckel öffne und somit BEIDE Bildschirme aktiv sind. Und, wie gesagt: das Setup hat jetzt über sieben Monate wunderbar funktioniert, ich habe nichts geändert. Irgendein Update (ich kann nicht sagen, welcher Komponente: Kernel, NVIDIA-Treiber, Xorg?) hat das fragile Gleichgewicht gestört.
Kurzes googlen führt zu diesem Forumbeitrag von 2021, der exakt mein Problem beschreibt:
https://bbs.archlinux.org/viewtopic.php?id=270330
Die dort beschriebene Lösung: optimus-manager
installieren.
Der optimus-manager
ist ein kleines Script, um den Grafiktreiber explizit zwischen einer integrierter CPU-Grafik und der externer GPU umzuschalten. Unter Ubuntu hatte ich in der Vergangenheit schon Erfahrungen mit prime-select
gemacht. optimus-manager
greift offenbar die gleiche Idee und (zumindest was gdm
betrifft) den gleichen Code auf.
Die Aktivierung des optimus-manager
verlangt die Installation von zwei AUR-Paketen, eben optimus-manager
sowie gdm-prime
, eine minimal veränderte Variante von gdm
. Ich verwende yay
zur Installation:
yay -Sy optimus-manager gdm-prime
Optimus ist anscheinend nicht Wayland-kompatibel. Bei mir ist Wayland sowieso deaktiviert (sonst funktioniert der externe Monitor gar nicht), aber gegebenenfalls müssen Sie eine Zeile in /etc/gdb/custom.conf
ändern:
# Datei /etc/gdm/custom.conf
[daemon]
# Uncomment the line below to force the login screen to use Xorg
WaylandEnable=false
Nach einem Rechner-Neustart wird nur die integrierte Intel-GPU verwendet. Abhilfe schafft:
optimus-manager --switch nvidia
Und danach funktioniert mein Rechner wieder wie in den letzten sieben Monate …
Zwei Stunden wertvolle Lebenszeit vergeudet :-(
Nie wieder ein Notebook mit NVIDIA. (Ich wiederhole mich, ich weiß …)