Anmelden
Urlaub mit dem Lama
Urlaub ist herrlich, um einfach mal abzuschalten. Doch nach ein paar Tagen der puren Erholung packt mich meistens wieder der Drang, etwas Kreatives oder Produktives zu tun. Ein gutes Buch lesen? Schon erledigt. Rätseln? Nun ja, dieses Jahr hatte ich mir Sudoku als Endgegner ausgesucht – was mich am Ende ehrlicherweise mehr angestrengt als erfreut hat. Immerhin war ich an anderer Stelle produktiv und habe die Auffrischung meines A2-Fernpiloten-Kompetenznachweises erfolgreich hinter mich gebracht.
Doch der Tech-Spleen lässt einen auch im Urlaub nicht ganz los. Mir ging da nämlich eine Sache durch den Kopf: Letztes Jahr hat Prof. Klaus Knopper auf den Chemnitzer Linux-Tagen einen extrem spannenden Vortrag zum Thema lokale KI gehalten. Konkret ging es um Ollama auf dem Raspberry Pi. Warum also nicht die freie Zeit nutzen, um das Ganze mal aus der Ferne auf dem heimischen RasPi zu installieren und selbst auszuprobieren?
Was ist Ollama?
Für alle, die den Begriff noch nicht gehört haben, hilft ein kurzer Blick in die Wikipedia:
Ollama ist eine Open-Source-Software zur lokalen Ausführung von Large Language Models (LLMs) auf Desktop-Computern. Die Plattform ermöglicht die lokale Nutzung frei verfügbarer KI-Modelle und unterstützt die Integration mit weiteren lokalen Werkzeugen, die über eine Kommandozeilenschnittstelle oder eine Programmierschnittstelle (API) angebunden werden können. Ollama ist für macOS, Linux und Windows verfügbar.
Installation
Gesagt, getan. Die Installation auf dem Raspberry Pi – in meinem Fall ein Raspberry Pi 5 mit 8 GB RAM – erfolgt denkbar einfach über das Terminal mit folgendem Befehl:
curl -fsSL https://ollama.com/install.sh | sh
Am Ende des Installationsvorgangs spuckt das System noch den dezenten Hinweis aus, dass keine NPUs oder Grafikkarten von Nvidia gefunden wurden, die die Ausführung des Large Language Models beschleunigen könnten. Das war beim RasPi natürlich zu erwarten, hält uns aber nicht auf.
Damit wir der KI überhaupt Fragen stellen können, muss im Anschluss ein passendes und vor allem schlankes Modell installiert werden. Für diesen ersten Test habe ich mich für Llama 3.2 (ca. 2 GB) entschieden:
ollama run llama3.2:3b
Der Praxistest: Was taugt die lokale KI?
Nachdem das Modell geladen war, wollte ich es natürlich wissen. Ich habe der lokalen KI eine klassische Frage gestellt:
Welche Linux-Distribution würdest du einem Anfänger empfehlen?
Eine gute Frage!
Als Anfänger ist es wichtig, eine Linux-Distribution zu wählen, die leicht zu installieren und zu bedienen ist. Hier sind einige beliebte Optionen:
- Ubuntu: Ubuntu ist eine der bekanntesten und am weitesten verbreiteten Linux-Distributionen. Sie bietet eine intuitive Benutzeroberfläche und eine riesige Gemeinschaft von Benutzern, die ihr helfen können, wenn
etwas nicht funktioniert.- Linux Mint: Linux Mint basiert auf Ubuntu und ist für ihre einfache und benutzerfreundliche Oberfläche bekannt. Sie ist auch sehr sicher und bietet viele zusätzliche Funktionen wie eine verbesserte
Sicherheitsfunktion und eine integrierte Diskografie.- Debian: Debian ist eine weitere beliebte Linux-Distribution, die für ihre Stabilität und Sicherheit bekannt ist. Sie bietet eine riesige Auswahl an Software und ist ein beliebter Kandidat für Entwickler und
Systemadministratoren.- Fedora: Fedora ist eine Linux-Distribution, die von der Open Source Initiative verwaltet wird. Sie bietet eine aktuelle und sichere Version von Linux und ist ein beliebter Kandidat für Entwickler und
Systemadministratoren.Meine Empfehlung wäre Ubuntu. Sie ist eine großartige Option für Anfänger, da sie leicht zu installieren und zu bedienen ist. Außerdem bietet sie eine riesige Gemeinschaft von Benutzern, die ihr helfen können, wenn
etwas nicht funktioniert.Ich hoffe, das hilft! Wenn du noch weitere Fragen hast, stehe ich gerne zur Verfügung.
Das Ergebnis kann sich absolut sehen lassen. Die Antwort hätte ich so oder so ähnlich wahrscheinlich auch gegeben. Ich bin wirklich nachhaltig beeindruckt, was der kleine Einplatinen-Computer hier ganz ohne Cloud-Anbindung zu leisten vermag.
Fazit
Eine lokale und ethische KI auf dem eigenen Raspberry Pi ist auf jeden Fall einen Blick wert. Wer seine Daten nicht ungeschützt den großen Hyperscalern in die Cloud blasen möchte, findet hier eine fantastische Alternative. Im Sinne der digitalen Souveränität ist diese Lösung für kleinere, alltägliche Aufgaben auf jeden Fall hervorragend geeignet.
Der Beitrag Urlaub mit dem Lama erschien zuerst auf intux.de.
Die Linux Foundation reagiert mit der Akrites Initiative auf wachsende Risiken für offene Software. KI findet Schwachstellen heute so schnell, dass klassische Sicherheitsprozesse kaum mithalten. Die Beteiligten warnen, dass moderne Modelle Lücken in Minuten aufspüren. Früher dauerte das oft viele Wochen. Diese Entwicklung trifft Bereiche wie Energie, Verkehr, Gesundheit und Finanzdienste. Gleichzeitig sinkt die Hürde […]
Brave hat mit Brave Origin einen interessanten Browser im Angebot, der auf überflüssige Extras verzichtet und sich klar auf Privatsphäre und Geschwindigkeit konzentriert. Linux‑Nutzer können ihn kostenlos verwenden und sofort starten. Wer macOS oder Windows nutzt, wird jedoch mit einmalig 59,99 $ zur Kasse gebeten. Origin entfernt viele Zusatzfunktionen des normalen Brave Browsers. Dazu zählen […]
Der neue COSMIC Desktop 1.1 liefert viele Verbesserungen und führt mit COSMIC Monitor ein eigenes Werkzeug zur Systemüberwachung ein. Die Aktualisierung stärkt das gesamte Umfeld der Oberfläche und sorgt für mehr Stabilität. System76 ersetzt künftig den GNOME Systemmonitor durch den eigenen Monitor. Die App zeigt Auslastung klarer an und passt besser zur übrigen COSMIC Umgebung. […]
Xfce erreicht einen wichtigen Meilenstein auf dem Weg zu Wayland und präsentiert eine erste Vorschau seines neuen Compositors xfwl4. Die frühe Testversion stammt aus sechs Monaten Entwicklungsarbeit. Entwickler Brian Tarricone hält sie für reif genug für breitere Tests. Viele Funktionen fehlen jedoch noch. Fehler sind ebenfalls zu erwarten, da das Projekt noch am Anfang steht. […]
KDE liefert mit Plasma 6.7.1 ein erstes wichtiges Wartungsupdate, das zahlreiche Fehler beseitigt und die Stabilität des aktuellen Desktops verbessert. Die neue Version verfeinert den Wechsel zwischen globalen Designs durch einen sanften Übergangseffekt. Zudem wird das Gamepad‑Plugin standardmäßig deaktiviert, da es bei einigen Nutzern zu Störungen führte. Auch die Zwischenablage‑Synchronisation in Remote‑Sitzungen arbeitet nun wieder […]
Open Source ist längst kein Nischenthema mehr. Linux betreibt einen Großteil der Server im Internet, zahlreiche Unternehmen setzen auf freie Software und selbst Behörden und öffentliche Einrichtungen profitieren von Projekten, die von engagierten Entwicklern auf der ganzen Welt geschaffen werden. Doch hinter vielen dieser Projekte stehen Menschen, die ihre Freizeit investieren. Sie machen das unbezahlt, […]
Thunderbird 152 ist erschienen und liefert viele praktische Neuerungen für Mail, Kalender und Kontakte. Die Version stärkt Sicherheit und Zuverlässigkeit und behebt zahlreiche Fehler. Eine wichtige Änderung betrifft die neue Einrichtungsfunktion für Thundermail Konten. Ein Konto lässt sich nun mit einem Klick hinzufügen. Unternehmen profitieren zudem von erweiterten Richtlinien für SecurityDevices. Gmail Nutzer erhalten mehr […]
LibreOffice erhält mit Version 26.2.4 ein frisches Wartungsupdate. Die neue Ausgabe verbessert Stabilität und Kompatibilität in mehreren Modulen und behebt zahlreiche Fehler, die Nutzer im Alltag spürbar störten. Writer profitiert von mehreren Korrekturen. Ein Fehler beim DOCX Export konnte Word zum Absturz bringen. Dieser wurde nun beseitigt. Auch falsch dargestellte Checkboxen unter Linux gehören der […]
Ubuntu 26.10 trägt den Namen Stonking Stingray und erscheint im Oktober. Die neue Version dient als erster wichtiger Zwischenschritt zur nächsten LTS Ausgabe und bringt viele Neuerungen für Desktop Nutzer und Entwickler. Ein zentrales Element ist die Einführung von GNOME 51. Die Desktop Umgebung erscheint kurz vor dem Release und soll ein moderneres Nutzererlebnis bieten. […]
GNOME 50.2 bringt viele Korrekturen und sorgt für spürbar mehr Stabilität. Die Aktualisierung richtet sich an alle Nutzer der aktuellen Desktop Reihe und verbessert zahlreiche zentrale Komponenten. Die überarbeitete GNOME Shell reagiert nun präziser auf Eingaben. Probleme bei Bildschirmfotos und der Auswahl von Bereichen an Monitorrändern treten nicht mehr auf. Auch der Bildschirmleser arbeitet zuverlässiger […]
Flatpak 1.18 ist erschienen und liefert ein Update, das vor allem AMD‑Nutzern Vorteile bringt. Die neue Version sorgt für mehr Stabilität und bessere Rückmeldungen bei Fehlern. Die wichtigste Neuerung betrifft AMDs Schnittstelle für GPU‑Berechnungen. Anwendungen mit DRI‑Zugriff können jetzt auch das Kernel Fusion Driver Interface nutzen. Das eröffnet mehr Möglichkeiten für Workloads, die stark auf […]
Arch Linux hat seinen Projektleiter für weitere zwei Jahre bestätigt. Levente Polyak führt die Open‑Source‑Distribution weiter an. Die Entscheidung fiel durch eine transparente Wahl mit zwei Kandidaten. Polyak nutzt den Spitznamen „Anthraxx” innerhalb der Entwicklergemeinschaft. Sein Sieg wiederholt die Situation aus dem Jahr 2024. Damals übernahm er ebenfalls diese zentrale Führungsposition für das Projekt. Die […]
Microsoft stellt Azure Linux 4.0 erstmals öffentlich als Vorschau bereit. Damit bestätigen sich entsprechende Vorabmeldungen. Die neue Version richtet sich an Azure Nutzer und soll eine einheitliche Grundlage für Cloud Workloads schaffen. Die Vorschau steht im Azure Marketplace bereit und kann sofort ausprobiert werden. Azure Linux basiert nun auf einer Fedora abgeleiteten Grundlage. Microsoft übernimmt […]
Microsoft erweitert Windows um vertraute Unix Werkzeuge. Coreutils für Windows wurde im Rahmen des Microsoft Build 2026 Events vorgestellt und liefert viele bekannte Befehle direkt ins System. Die Sammlung basiert auf dem Rust Projekt uutils und bringt zahlreiche Linux Befehle nativ auf Windows. Ziel ist ein reibungsloser Wechsel zwischen verschiedenen Plattformen. Entwickler sollen vertraute Abläufe […]
Mehrere npm Pakete aus Red Hats Cloud Umfeld wurden manipuliert. Die Attacke schleuste heimlich Malware ein und gefährdete sensible Zugangsdaten. Laut Sicherheitsfirma Aikido tauchten die betroffenen Pakete Anfang Juni auf. Insgesamt waren viele Versionen verschiedener Bibliotheken kompromittiert. Die Schadsoftware befand sich in einem versteckten Installationsskript. Dieses lief automatisch beim Installieren der Pakete. Die Malware trägt […]
KDE treibt den Wechsel zu Wayland voran und bestätigt den Abschied von X11 in Plasma 6.8. Die aktuelle Nutzung zeigt eine deutliche Tendenz. Die Entwickler bereiten Plasma 6.7 als letzte Version mit X11 Unterstützung vor. Danach beginnt die Entfernung des alten Codes und die Optimierung der modernen Umgebung. Der Schritt soll die Wartung vereinfachen und […]
KDE Linux konnte im Mai spürbare Schritte nach vorne machen und gewinnt an Struktur. Das Projekt stärkt seine Grundlagen und bringt mehr Kontrolle in Aufbau und Pflege des Systems. Die Entwickler setzen nun auf den eigenen kde‑builder, um KDE Software direkt zu kompilieren. Das frühere Erstellen von Arch‑Paketen entfällt damit. Die Distribution bleibt zwar technisch […]
Der Linux Coffee Talk, das lockere Format rund um Linux, Open Source und Technik im Alltag. Ohne Hype, ohne Clickbait, dafür mit echten Einordnungen der Meldungen, Meinungen und einem Überblick über die wichtigsten FOSS-/Linux-News aus Mai 2026. Wir sprechen über Distributionen, Tools, Datenschutz, Nerd-Themen und alles, was uns Linux-User bewegt. Perfekt für alle, die stets […]