Anmelden
Urlaub mit dem Lama
Urlaub ist herrlich, um einfach mal abzuschalten. Doch nach ein paar Tagen der puren Erholung packt mich meistens wieder der Drang, etwas Kreatives oder Produktives zu tun. Ein gutes Buch lesen? Schon erledigt. Rätseln? Nun ja, dieses Jahr hatte ich mir Sudoku als Endgegner ausgesucht – was mich am Ende ehrlicherweise mehr angestrengt als erfreut hat. Immerhin war ich an anderer Stelle produktiv und habe die Auffrischung meines A2-Fernpiloten-Kompetenznachweises erfolgreich hinter mich gebracht.
Doch der Tech-Spleen lässt einen auch im Urlaub nicht ganz los. Mir ging da nämlich eine Sache durch den Kopf: Letztes Jahr hat Prof. Klaus Knopper auf den Chemnitzer Linux-Tagen einen extrem spannenden Vortrag zum Thema lokale KI gehalten. Konkret ging es um Ollama auf dem Raspberry Pi. Warum also nicht die freie Zeit nutzen, um das Ganze mal aus der Ferne auf dem heimischen RasPi zu installieren und selbst auszuprobieren?
Was ist Ollama?
Für alle, die den Begriff noch nicht gehört haben, hilft ein kurzer Blick in die Wikipedia:
Ollama ist eine Open-Source-Software zur lokalen Ausführung von Large Language Models (LLMs) auf Desktop-Computern. Die Plattform ermöglicht die lokale Nutzung frei verfügbarer KI-Modelle und unterstützt die Integration mit weiteren lokalen Werkzeugen, die über eine Kommandozeilenschnittstelle oder eine Programmierschnittstelle (API) angebunden werden können. Ollama ist für macOS, Linux und Windows verfügbar.
Installation
Gesagt, getan. Die Installation auf dem Raspberry Pi – in meinem Fall ein Raspberry Pi 5 mit 8 GB RAM – erfolgt denkbar einfach über das Terminal mit folgendem Befehl:
curl -fsSL https://ollama.com/install.sh | sh
Am Ende des Installationsvorgangs spuckt das System noch den dezenten Hinweis aus, dass keine NPUs oder Grafikkarten von Nvidia gefunden wurden, die die Ausführung des Large Language Models beschleunigen könnten. Das war beim RasPi natürlich zu erwarten, hält uns aber nicht auf.
Damit wir der KI überhaupt Fragen stellen können, muss im Anschluss ein passendes und vor allem schlankes Modell installiert werden. Für diesen ersten Test habe ich mich für llama 3.2 (ca. 2 GB) entschieden:
ollama run llama3.2:3b
Der Praxistest: Was taugt die lokale KI?
Nachdem das Modell geladen war, wollte ich es natürlich wissen. Ich habe der lokalen KI eine klassische Frage gestellt:
Welche Linux-Distribution würdest du einem Anfänger empfehlen?
Eine gute Frage!
Als Anfänger ist es wichtig, eine Linux-Distribution zu wählen, die leicht zu installieren und zu bedienen ist. Hier sind einige beliebte Optionen:
- Ubuntu: Ubuntu ist eine der bekanntesten und am weitesten verbreiteten Linux-Distributionen. Sie bietet eine intuitive Benutzeroberfläche und eine riesige Gemeinschaft von Benutzern, die ihr helfen können, wenn
etwas nicht funktioniert.- Linux Mint: Linux Mint basiert auf Ubuntu und ist für ihre einfache und benutzerfreundliche Oberfläche bekannt. Sie ist auch sehr sicher und bietet viele zusätzliche Funktionen wie eine verbesserte
Sicherheitsfunktion und eine integrierte Diskografie.- Debian: Debian ist eine weitere beliebte Linux-Distribution, die für ihre Stabilität und Sicherheit bekannt ist. Sie bietet eine riesige Auswahl an Software und ist ein beliebter Kandidat für Entwickler und
Systemadministratoren.- Fedora: Fedora ist eine Linux-Distribution, die von der Open Source Initiative verwaltet wird. Sie bietet eine aktuelle und sichere Version von Linux und ist ein beliebter Kandidat für Entwickler und
Systemadministratoren.Meine Empfehlung wäre Ubuntu. Sie ist eine großartige Option für Anfänger, da sie leicht zu installieren und zu bedienen ist. Außerdem bietet sie eine riesige Gemeinschaft von Benutzern, die ihr helfen können, wenn
etwas nicht funktioniert.Ich hoffe, das hilft! Wenn du noch weitere Fragen hast, stehe ich gerne zur Verfügung.
Das Ergebnis kann sich absolut sehen lassen. Die Antwort hätte ich so oder so ähnlich wahrscheinlich auch gegeben. Ich bin wirklich nachhaltig beeindruckt, was der kleine Einplatinen-Computer hier ganz ohne Cloud-Anbindung zu leisten vermag.
Fazit
Eine lokale und ethische KI auf dem eigenen Raspberry Pi ist auf jeden Fall einen Blick wert. Wer seine Daten nicht ungeschützt den großen Hyperscalern in die Cloud blasen möchte, findet hier eine fantastische Alternative. Im Sinne der digitalen Souveränität ist diese Lösung für kleinere, alltägliche Aufgaben auf jeden Fall hervorragend geeignet.
Der Beitrag Urlaub mit dem Lama erschien zuerst auf intux.de.
Die Linux Foundation reagiert mit der Akrites Initiative auf wachsende Risiken für offene Software. KI findet Schwachstellen heute so schnell, dass klassische Sicherheitsprozesse kaum mithalten. Die Beteiligten warnen, dass moderne Modelle Lücken in Minuten aufspüren. Früher dauerte das oft viele Wochen. Diese Entwicklung trifft Bereiche wie Energie, Verkehr, Gesundheit und Finanzdienste. Gleichzeitig sinkt die Hürde […]
Brave hat mit Brave Origin einen interessanten Browser im Angebot, der auf überflüssige Extras verzichtet und sich klar auf Privatsphäre und Geschwindigkeit konzentriert. Linux‑Nutzer können ihn kostenlos verwenden und sofort starten. Wer macOS oder Windows nutzt, wird jedoch mit einmalig 59,99 $ zur Kasse gebeten. Origin entfernt viele Zusatzfunktionen des normalen Brave Browsers. Dazu zählen […]
Der neue COSMIC Desktop 1.1 liefert viele Verbesserungen und führt mit COSMIC Monitor ein eigenes Werkzeug zur Systemüberwachung ein. Die Aktualisierung stärkt das gesamte Umfeld der Oberfläche und sorgt für mehr Stabilität. System76 ersetzt künftig den GNOME Systemmonitor durch den eigenen Monitor. Die App zeigt Auslastung klarer an und passt besser zur übrigen COSMIC Umgebung. […]
Xfce erreicht einen wichtigen Meilenstein auf dem Weg zu Wayland und präsentiert eine erste Vorschau seines neuen Compositors xfwl4. Die frühe Testversion stammt aus sechs Monaten Entwicklungsarbeit. Entwickler Brian Tarricone hält sie für reif genug für breitere Tests. Viele Funktionen fehlen jedoch noch. Fehler sind ebenfalls zu erwarten, da das Projekt noch am Anfang steht. […]
Canonical erweitert seinen Livepatch Dienst nun auch auf ARM64 Systeme und ermöglicht damit sicherheitsrelevante Kernel Updates ohne Neustart auf performanter ARM-Hardware. Die neue Unterstützung richtet sich vor allem an Betreiber großer Serverlandschaften. Livepatch hält kritische Kernel Lücken geschlossen, während Dienste weiterlaufen. Das senkt Ausfallzeiten und schützt sensible Systeme an entfernten Standorten. Besonders ARM-Server und Edge-Geräte […]
KDE liefert mit Plasma 6.7.1 ein erstes wichtiges Wartungsupdate, das zahlreiche Fehler beseitigt und die Stabilität des aktuellen Desktops verbessert. Die neue Version verfeinert den Wechsel zwischen globalen Designs durch einen sanften Übergangseffekt. Zudem wird das Gamepad‑Plugin standardmäßig deaktiviert, da es bei einigen Nutzern zu Störungen führte. Auch die Zwischenablage‑Synchronisation in Remote‑Sitzungen arbeitet nun wieder […]
Mit Yay 13.0 erscheint ein umfangreiches Update. Der beliebte AUR-Helfer erweitert Prüfmechanismen für Pakete, nachdem es zuletzt zu massiven Malwarebefall in AUR Paketen kam . Nutzer erhalten zusätzliche Werkzeuge vor Installationen und Aktualisierungen. Eine wichtige Neuerung zeigt das Änderungsdatum von PKGBUILDs. Suchergebnisse und Upgrade-Menüs enthalten nun Altersangaben. So werden kürzlich geänderte Pakete schneller sichtbar. Die […]
Open Source ist längst kein Nischenthema mehr. Linux betreibt einen Großteil der Server im Internet, zahlreiche Unternehmen setzen auf freie Software und selbst Behörden und öffentliche Einrichtungen profitieren von Projekten, die von engagierten Entwicklern auf der ganzen Welt geschaffen werden. Doch hinter vielen dieser Projekte stehen Menschen, die ihre Freizeit investieren. Sie machen das unbezahlt, […]
Fedora arbeitet an einer neuen Remote Installation die direkt im Browser läuft. Die Funktion richtet sich an Geräte ohne Bildschirm und soll die Einrichtung deutlich vereinfachen. Im Mittelpunkt steht die Web Oberfläche des Installers Anaconda Web UI. Sie wurde bereits in neueren Fedora Versionen eingeführt und soll nun auch aus der Ferne nutzbar sein. Der […]
Homebrew 6.0 ist erschienen und bringt wichtige Neuerungen für Nutzer auf macOS und Linux. Die Version stärkt die Sicherheit des Paketmanagers und führt neue Werkzeuge für den Alltag ein. Im Zentrum steht das neue Vertrauensmodell für sogenannte Taps. Homebrew akzeptiert offizielle Quellen automatisch. Drittanbieter Taps müssen jedoch erst bestätigt werden bevor sie Code ausführen dürfen. […]
Thunderbird 152 ist erschienen und liefert viele praktische Neuerungen für Mail, Kalender und Kontakte. Die Version stärkt Sicherheit und Zuverlässigkeit und behebt zahlreiche Fehler. Eine wichtige Änderung betrifft die neue Einrichtungsfunktion für Thundermail Konten. Ein Konto lässt sich nun mit einem Klick hinzufügen. Unternehmen profitieren zudem von erweiterten Richtlinien für SecurityDevices. Gmail Nutzer erhalten mehr […]
Das Arch User Repository erlebt derzeit einen der schwersten Sicherheitsvorfälle seiner Geschichte. Zahlreiche Pakete wurden manipuliert und die Arch Maintainer arbeiten derzeit an einer umfassenden Bereinigung. Die Probleme begannen nach einer Warnung über ungewöhnlich viele bösartige Paketübernahmen. Angreifer nutzten das Adoptionssystem für verwaiste Pakete und schmuggelten schädliche Änderungen ein. Die Zahl betroffener Einträge stieg schnell […]
Seit Januar 2026 bewegt sich bereits viel rund um openSUSE Leap 16.1. Die Alpha‑Phase startete Anfang des Jahres pünktlich und legte den Grundstein für die laufenden Tests. Heute zeigt sich, wie klar der weitere Weg bereits vorgezeichnet ist. Bereits Mitte Mai startete die Einreichung des Betacodes für SLES 16.1 und dies mündete bereits am 27. […]
Die bevorstehende Ablösung eines alten Microsoft‑Zertifikats stellt viele Linux‑Systeme vor eine wichtige Umstellung. Die Secure‑Boot‑Kette muss auf eine neue Vertrauensbasis wechseln, damit künftige Installationsmedien weiterhin starten. Der bisher genutzte Schlüssel der Microsoft UEFI Certificate Authority aus dem Jahr 2011 läuft im Juni ab. Viele Linux‑Distributionen verwenden diesen Schlüssel, weil ihre shim‑Bootloader damit signiert sind. Shim […]
Linux 7.1 erscheint ohne späte Überraschungen und liefert viele Verbesserungen. Die Veröffentlichung durch Ankündigung von Linus Tovalds markiert einen stabilen Schritt nach vorn und stärkt wichtige Bereiche des Systems. Der NTFS‑Unterbau wurde vollständig erneuert und bietet nun vollständige Schreibfunktionen. Das Dateisystem nutzt jetzt die iomap‑Struktur des Kernels und arbeitet dadurch effizienter. Auch andere Dateisysteme erhalten […]
KDE hat die Version 6.27 seiner Frameworks veröffentlicht. Das monatliche Update liefert viele Detailverbesserungen, die den Desktop spürbar stabiler und runder machen. Im Mittelpunkt stehen diesmal zahlreiche Korrekturen im KIO Framework. Dateien lassen sich zuverlässiger öffnen und verschieben. Dialoge für Gerätezugriffe reagieren zuverlässiger. Auch die Navigation durch Pfade wirkt präziser. Bei MTP Kopien weist KIO […]