“NeMo Guardrails” heißt das Toolkit von Nvidia, dass der Grafikspezialist unter einer Open-Source-Lizenz veröffentlicht hat. Damit sollen Chatbots sicherer werden.

NeMo Guardrails soll sich bei der Entwicklung sicherer und vertrauenswürdiger LLM-Konversationssysteme bewähren, teilt Nvidia mit. Die Sicherheit in der generativen KI sei ein branchenweites Anliegen und NeMo Guardrails sei so entwickelt worden, dass es mit allen LLMs funktioniere, einschließlich ChatGPT von OpenAI.

Dieses Leitplanken-Toolkit setze auf von der Community erstellten Werkzeugen wie LangChain. Die Toolkits würden kombinierbare und einfach zu verwendende Vorlagen und Muster anbieten, um LLM-gestützte Anwendungen zu erstellen. Dabei könnten LLMs, APIs und andere Softwarepakete zusammengebaut werden, so Nvidia in einem Blogbeitrag.

Mit dem Toolkit ließen sich Regeln aufstellen, um das Verhalten von Chatbots auf Nutzereingaben zu definieren. Derzeit gebe es die drei Regelsätze Topical, Safety und Security. Topical weise den Chatbot an, auf ein bestimmtes Thema konzentriert zu bleiben und nicht in unerwünschte Bereiche abschweifen. Security-Leitplanken würden dafür sorgen, dass Interaktionen mit einem LLM nicht zu Fehlinformationen, toxischen Reaktionen oder unangemessenen Inhalten führen. Security-Regeln verhinderten, dass ein LLM bösartigen Code ausführe oder eine externe Anwendung auf eine Weise aufrufe, die ein Sicherheitsrisiko darstellt.

Der Beitrag Open-Source-Tools von Nvidia sollen Chatbots sicherer machen erschien zuerst auf Linux-Magazin.

Die Distribution Network Security Toolkit  (NST) enthält zahlreiche Werkzeuge für Sicherheitsexperten und Pentester. Obwohl die neue Version 36-13232 nur als Wartungsrelease gekennzeichnet ist, bringt sie dennoch ein paar erwähnenswerte Änderungen mit.

Zunächst dient ab sofort das aktuelle Fedora 36 als Unterbau. Der Kernel meldet sich in Version 5.18.10-200.fc36.x86_64, zudem haben die Entwickler zahlreiche Werkzeuge aktualisiert. Der Open Vulnerability Assessment Scanner (OpenVAS) und das Greenbone Vulnerability Management (Greenbone GVM) laufen ab sofort in einem Podman-Container.

Weitere Änderungen betreffen vor allem die Benutzeroberfläche (Web User Interface, WUI). Unter anderem bietet sie in der ARP Scan Application eine Spalte mit der Round Trip Time (RTT). Die Dig Application unterstützt Unterstriche in DNS Node Leaf Attribute Names, wie beispielsweise „_spf.google.com“. Das eingebettete IPv4-, IPv6- und Hostname-Widget bietet zudem eine NIC Selection Control. Endgültig ausgemustert haben die Entwickler das NST WUI Sidebar Navigation Menü. Sämtliche Neuerungen fasst die offizielle Ankündigung zusammen.

Der Beitrag Network Security Toolkit basiert auf Fedora 36 erschien zuerst auf Linux-Magazin.