KI-Tools selbst hosten in der Praxis: Private Websuche und lokale Sprachmodelle auf dem Mini-PC

Wer seine Websuche und seine KI auf die eigene Hardware holen will, hat zwei getrennte Aufgaben vor sich. Die eine: eine Suchmaschine, die keinen Suchverlauf an einen Konzern schickt. Die andere, optional: ein Sprachmodell, das lokal antwortet und keine Anfrage in die Cloud weiterreicht. Beides lässt sich mit drei quelloffenen Bausteinen auf einem Mini-PC umsetzen: SearXNG für die Suche, Ollama für lokale Modelle und Vane als KI-Antwortmaschine darüber.

Kurzantwort

SearXNG, Ollama und Vane auf einem Mini-PC selbst hosten: konkrete Einrichtung, realistische Hardware-Grenzen und was ohne Cloud wirklich funktioniert. Kurz gesagt: ki tools praxis ist vor allem dann relevant, wenn du schnell verstehen willst, was konkret dahinter steckt, welche Grenzen es gibt und welche Entscheidung daraus folgt. Die Details, Quellen und Einschränkungen stehen in den folgenden Abschnitten.

Die kurze Antwort

Für eine private Suchplattform auf einem Mini-PC reichen heute drei Komponenten, alle ohne Lizenzkosten:

SearXNG als Meta-Suchmaschine. Sie bündelt Ergebnisse vieler Suchdienste, legt kein Nutzerprofil an und lässt sich per Docker in wenigen Minuten aufsetzen 1.
Ollama als Laufzeit für lokale Sprachmodelle. Es lädt Modelle herunter und stellt sie über eine lokale API bereit, ohne Cloud-Anbindung 3.
Vane (früher Perplexica) als KI-Antwortmaschine. Es bezieht die Websuche über SearXNG und das Sprachmodell über Ollama und antwortet mit Quellenangaben 5.

Wer auf die Sprachmodell-Komponente verzichten will, betreibt nur SearXNG und hat bereits eine vollwertige private Suchmaschine. Wer KI-Antworten will, braucht zusätzlich Ollama und Vane. Die Grenze setzt nicht die Software, sondern die Hardware: Auf einem Mini-PC ohne dedizierte Grafikkarte laufen Modelle mit 3 bis 7 Milliarden Parametern, aber kein 70-Milliarden-Modell in brauchbarer Geschwindigkeit.

Wer noch Whoogle empfiehlt, hängt fest

Aus älteren Anleitungen geistert noch Whoogle durch die Selbsthosting-Foren. Wer es heute neu aufsetzt, bekommt keine Ergebnisse mehr. Das Projekt hat seine Arbeit am 24. Juli 2026 offiziell eingestellt; im Readme steht wörtlich „Whoogle has reached the end of the road" 2. Der Grund ist dort benannt: Seit Anfang 2025 blockiert Google Suchanfragen ohne JavaScript zunehmend und hat zuletzt die letzte noch funktionierende User-Agent-Kennung abgeschaltet 2. Whoogle war darauf aufgebaut, Google ohne JavaScript abzufragen; ohne diese Grundlage liefert es nichts mehr. Der Betreiber nennt als Alternative für viele Umsteiger Kagi, einen kostenpflichtigen Suchdienst 2.

Der übertragbare Punkt ist nicht die einzelne Software, sondern das Muster: Ein Selbsthosting-Werkzeug, das von einer einzigen vorgeschalteten Suchmaschine abhängt, stirbt mit deren Schnittstelle. SearXNG verteilt die Abfragen auf viele Backends und ist damit nicht auf Googles Verhalten angewiesen 1. Genau deshalb ist es der tragfähigere Baustein.

ki tools praxis – Illustration 2

SearXNG: die Suchmaschine

SearXNG ist eine Meta-Suchmaschine. Sie führt keine eigene Suche aus, sondern leitet die Anfrage anonymisiert an viele Suchdienste weiter, sammelt die Treffer und zeigt sie gebündelt. Die Dokumentation fasst den Kern zusammen: Nutzer werden weder verfolgt noch profiliert 1. Wer will, kann die Instanz zusätzlich über Tor betreiben 1. Die Software steht unter der AGPL-3.0-Lizenz 1.

Was SearXNG nicht ist: ein Ersatz, der jedes Google-Ergebnis eins zu eins reproduziert. Die Qualität hängt davon ab, welche Backends aktiviert sind und wie die Anbieter auf die Anfragen reagieren. Manche drosseln oder blockieren Anfragen aus Rechenzentren. Eine Instanz auf einer heimischen Leitung geht von einer privaten IP aus und umgeht dieses Problem teilweise. Dafür darf niemand erwarten, dass jede Spezialsuche, etwa die Bild- oder Nachrichtensuche eines einzelnen Anbieters, so vollständig läuft wie beim Original.

Die Installation ist die Docker-Anleitung der offiziellen Dokumentation 1. Der Kern ist ein Compose-Stack mit dem Image searxng/searxng und einer settings.yml, in der man einen zufälligen secret_key setzt und die gewünschten Such-Backends aktiviert. Nach dem Start läuft die Weboberfläche auf Port 8080.

Zwei Felder muss man vor dem ersten Start wirklich anfassen. Der secret_key sichert Sitzungen und Cookies ab und muss ein zufälliger Wert sein; den mitgelieferten Platzhalter ersetzt man 1. Der Instanzname erscheint in Kopfzeile und Seitentitel. Eine minimale, lauffähige settings.yml sieht so aus:

general:
  instance_name: "Meine Suche"

server:
  secret_key: "hier-zufallswert-eintragen"

Alle weiteren Optionen, vom SafeSearch-Standard über die Sprache bis zur Auswahl der Engines, sind in derselben Datei dokumentiert 1.

Wer erst prüfen will, ob die Suchqualität taugt, muss nichts installieren: Das Projekt verweist auf öffentliche Instanzen bei searx.space, die sich als Test nutzen lassen 1. Der wichtigste Hebel in der settings.yml ist die Auswahl der Engines. Standardmäßig ist eine breite Auswahl aktiv; wer gezielt nur bestimmte Anbieter erlaubt, verkleinert die Angriffsfläche und hält die Trefferliste übersichtlich. Die Dokumentation führt jede Engine einzeln auf, samt der Einschränkungen, die einzelne Anbieter bei automatisierten Anfragen setzen 1.

Ollama: lokale Sprachmodelle

Ollama ist der einfachste Weg, ein Sprachmodell auf eigener Hardware laufen zu lassen. Die Installation auf Linux ist ein einzelner Befehl, der ein Skript lädt und ausführt 3:

curl -fsSL https://ollama.com/install.sh | sh

Danach lädt man ein Modell und startet es im Terminal 3:

ollama run llama3.2

Die Modellbibliothek auf ollama.com/library listet die verfügbaren Modelle samt Größen 4. Zwei Werte entscheiden die Mini-PC-Frage: llama3.2 in der 3-Milliarden-Variante lädt rund 2,0 GB herunter, qwen2.5 in der 7-Milliarden-Variante rund 4,7 GB 4. Das sind die Größen, die auf einem Mini-PC realistisch sind.

Ollama stellt nach dem Start eine REST-API auf localhost:11434 bereit 3. Jedes Programm, das diese API anspricht, kann das lokale Modell nutzen, vom eigenen Skript bis zu Vane als Suchfrontend. Der Befehl ollama ps zeigt, welche Modelle gerade im Speicher liegen, ollama stop entlädt ein Modell wieder 3.

Ein Punkt, den viele Anleitungen überspringen: Die Download-Größe ist nicht der Speicherbedarf zur Laufzeit. Das Modell wird beim Laden in den Arbeitsspeicher gehalten. Als Faustregel gilt, dass ein 4-Bit-quantisiertes Modell etwa 0,5 bis 0,6 GB je Milliarde Parameter belegt; ein 70-Milliarden-Modell in 4 Bit braucht rund 40 GB 6. Daraus folgt die RAM-Planung: 16 GB für ein 7-Milliarden-Modell, 32 GB für ein 13-Milliarden-Modell, 64 GB oder mehr für ein 70-Milliarden-Modell 6. Für ein 3-Milliarden-Modell reichen 8 GB, weil es zur Laufzeit nur rund 2 GB belegt 4.

Vane: aus Suche wird Antwort

Vane ist der Baustein, der aus Meta-Suchmaschine und lokalem Modell eine KI-Antwortmaschine macht. Das Projekt ging aus der KI-Antwortmaschine Perplexica hervor und wurde von seinem Betreiber in Vane umbenannt 5. Die Selbstbeschreibung ist präzise: eine auf Privatsphäre ausgerichtete KI-Antwortmaschine, die vollständig auf eigener Hardware läuft, lokale Modelle über Ollama unterstützt und die Websuche über SearXNG bezieht 5. Wer mag, kann statt Ollama auch einen Cloud-Anbieter wie OpenAI, Claude oder Groq anbinden 5.

Der Unterschied zur normalen Suche: Vane liest die Treffer, verdichtet sie mit dem Sprachmodell zu einer Antwort und gibt die verwendeten Quellen mit an 5. Für einen Mini-PC ist das der sinnvollste Aufbau, weil SearXNG und Ollama bereits laufen und Vane nur als Frontend darüber liegt.

Die Installation ist ein Docker-Befehl 5:

docker run -d -p 3000:3000 -v vane-data:/home/vane/data --name vane itzcrazykns1337/vane:latest

Das Image bringt SearXNG bereits mit; nach dem Start öffnet man http://localhost:3000 und richtet im Setup die Modell-Anbindung ein. Wer eine eigene SearXNG-Instanz weiterverwenden will, nutzt das schlanke Image vane:slim-latest und setzt die Umgebungsvariable SEARXNG_API_URL auf die eigene Instanz; in SearXNG müssen dafür das JSON-Format und die Wolfram-Alpha-Engine aktiviert sein 5. Für die lokale Variante wählt man im Vane-Setup Ollama als Anbieter und das zuvor geladene Modell. Vane steht unter der MIT-Lizenz 5.

Hardware: was der Mini-PC leisten muss

Die Software ist schnell installiert; die Hardware entscheidet, welche Modelle nutzbar sind. Drei Kriterien reichen für die Entscheidung.

Arbeitsspeicher zuerst. Die Modellgröße bestimmt den RAM-Bedarf, nicht die CPU-Taktfrequenz. Für ein 3-Milliarden-Modell reichen 8 GB System-RAM; für ein 7-Milliarden-Modell sind 16 GB komfortabel, weil neben dem Modell auch Betriebssystem, SearXNG und Vane Speicher brauchen 6. Ein Mini-PC mit 8 GB trägt die reine Suche und ein 3B-Modell; für ein 7B-Modell wird er knapp.

Grafikkarte ist optional, aber spürbar. Ohne dedizierte GPU rechnet die CPU die Inferenz. Das funktioniert, ist aber langsam: Ein 7B-Modell liefert auf einer typischen Mini-PC-CPU nur wenige bis etwa ein Dutzend Token pro Sekunde 6. Eine Grafikkarte beschleunigt deutlich, kostet im Mini-PC-Gehäuse aber meist die Lüfterlosigkeit und treibt den Stromverbrauch nach oben. Für die reine Suche ohne KI-Antworten ist keine GPU nötig.

Raspberry Pi als Sonderfall. Ein Raspberry Pi 5 mit 8 GB RAM trägt SearXNG problemlos. Bei lokalen Modellen kommt er an seine Grenze: Ein 3B-Modell startet, antwortet aber langsam; ein 7B-Modell ist auf dem Pi in der Praxis nicht sinnvoll nutzbar. Wer nur eine private Suchmaschine will, kann den Pi nehmen. Wer KI-Antworten erwartet, nimmt einen x86-Mini-PC mit mindestens 16 GB RAM.

Als Zielkonfiguration für beides gilt ein x86-Mini-PC mit 16 bis 32 GB RAM und integrierter Grafikeinheit, ohne dedizierte GPU. Darauf laufen SearXNG, Ollama mit einem 7B-Modell und Vane parallel. Die Antworten kommen mit spürbarer Verzögerung, aber sie kommen. Geräte der Intel-N100-Klasse mit 16 GB RAM leisten das, sofern eine schnelle SSD verbaut ist. Die Platte zählt doppelt: Das Modell wird von dort in den RAM geladen, und jeder Neustart von Ollama liest es erneut ein. Eine NVMe-SSD verkürzt das Laden eines 4,7-GB-Modells auf Sekunden; eine langsame SATA-Platte macht daraus spürbare Wartezeit.

Die Entscheidung lässt sich auf zwei Fragen reduzieren. Soll nur gesucht werden, reichen 8 GB RAM und eine beliebige CPU. Sollen KI-Antworten dazukommen, sind 16 GB das sinnvolle Minimum, und mehr RAM erlaubt größere Modelle. Eine dedizierte GPU ist erst nötig, wenn die Geschwindigkeit eines 7B-Modells nicht mehr reicht.

Einrichtung Schritt für Schritt

Die Reihenfolge ist wichtig, weil Vane auf SearXNG und Ollama aufbaut.

Schritt 1: Docker bereitstellen. Auf Debian oder Ubuntu installieren Sie Docker und das Compose-Plugin. Alle drei Bausteine laufen als Container; das erspart Konflikte mit dem Host-System.

Schritt 2: SearXNG starten. Legen Sie ein Verzeichnis mit einer docker-compose.yml an, die das Image searxng/searxng einbindet, und daneben eine settings.yml. Setzen Sie einen zufälligen secret_key und aktivieren Sie die gewünschten Backends 1. Start mit docker compose up -d; die Oberfläche erreichen Sie unter http://localhost:8080. Testen Sie eine Suche. Erscheinen Treffer, ist die Basis betriebsbereit.

Schritt 3: Ollama installieren und Modell laden. Der Installationsbefehl steht im Ollama-Abschnitt. Danach 3:

ollama run llama3.2

Das lädt das 3B-Modell und öffnet eine Chat-Eingabe. Für bessere Antwortqualität bei langsamerer Geschwindigkeit laden Sie stattdessen qwen2.5 (7B) 4.

Schritt 4: Vane starten und anbinden. Führen Sie den Docker-Befehl aus dem Vane-Abschnitt aus, öffnen Sie http://localhost:3000 und wählen Sie im Setup Ollama als Anbieter. Läuft SearXNG als eigener Container, nutzen Sie das Slim-Image und verweisen per SEARXNG_API_URL auf Ihre Instanz 5.

Schritt 5: Testen. Stellen Sie eine Frage, die aktuelle Webinformationen verlangt, etwa nach einem Ereignis der letzten Tage. Liefert Vane eine Antwort mit Quellenangaben, funktioniert die Kette Websuche plus Modell. Die Antwortqualität hängt direkt am Modell: Das 3B-Modell antwortet schneller, aber oberflächlicher; das 7B-Modell ist genauer und langsamer.

Was privat bleibt und was nicht

Die drei Bausteine schützen unterschiedlich viel. Das auseinanderzuhalten, verhindert ein falsches Sicherheitsgefühl.

Der Suchverlauf, also wer wann wonach sucht, bleibt bei einer eigenen SearXNG-Instanz auf dem eigenen Rechner, weil es kein Konto und keine Werbe-ID gibt, an die sich ein Verlauf heften ließe 1. Der Text der Anfrage verlässt den Rechner trotzdem: Eine Meta-Suchmaschine muss die Anfrage an die vorgeschalteten Suchdienste weitergeben, sonst bekäme sie keine Ergebnisse. SearXNG anonymisiert diese Weiterleitung, aber der angefragte Anbieter sieht die Suchbegriffe. Das ist eine Eigenschaft jeder Meta-Suche.

Die KI-Komponente lässt sich sauberer abschotten. Läuft das Sprachmodell über Ollama lokal, verarbeitet es die Frage auf dem Mini-PC, und nichts davon geht in eine Cloud 3. Vane mit lokalem Ollama hält damit auch die KI-Antworten im Haus. Wer stattdessen in Vane einen Cloud-Anbieter einträgt, schickt die Anfrage dorthin; dann ist nur noch die Suchmaschine privat, die KI-Antwort nicht. Beide Varianten sind legitim, aber es sind verschiedene Kompromisse, und Vane macht die Wahl im Setup sichtbar 5.

Typische Fehler und ihre Lösung

Vier Punkte treten in der Praxis regelmäßig auf.

Nur im Heimnetz erreichbar machen. Die offizielle SearXNG-Compose-Datei bindet den Dienst standardmäßig an alle Netzwerk-Schnittstellen (0.0.0.0:8080); die Instanz ist also im lokalen Netz erreichbar. Wer die Oberfläche aus dem Internet erreichbar machen will, braucht einen Reverse Proxy mit TLS und Absicherung, sonst kann jeder die Instanz als Suchmaschine missbrauchen. Üblich sind dafür Caddy oder Traefik, die beide automatisch TLS-Zertifikate einrichten. Für den persönlichen Gebrauch ist die Beschränkung auf das LAN oder ein VPN die risikoärmere Wahl; ein WireGuard-Tunnel ersetzt den Reverse Proxy und lässt die Dienste komplett im privaten Netz.

Ergebnisqualität von SearXNG prüfen. Liefern einzelne Suchen nichts, liegt es meist an blockierten Backends. In der settings.yml lassen sich Backends einzeln aktivieren und deaktivieren; ein Blick ins SearXNG-Log zeigt, welche Anfragen fehlschlagen. Eine Instanz auf privater IP hat hier oft bessere Karten als ein öffentlicher Server im Rechenzentrum.

Modell zu groß gewählt. Wer ein 70B-Modell auf einen Mini-PC lädt, bekommt entweder eine Fehlermeldung oder Sekunden pro Token. Die Größe muss zum RAM passen, nicht zum Wunsch nach besserer Qualität. Im Zweifel klein anfangen und bei Bedarf eine Stufe höher testen.

Ollama antwortet nicht. Wenn Vane keine KI-Antwort liefert, prüfen Sie zuerst, ob Ollama läuft und das Modell geladen hat. Der einfachste Test ist ein direkter Aufruf der API 3:

curl http://localhost:11434/api/chat -d '{"model":"llama3.2","messages":[{"role":"user","content":"Test"}],"stream":false}'

Kommt eine Antwort zurück, liegt das Problem bei der Vane-Anbindung; kommt nichts, ist entweder der Ollama-Dienst nicht gestartet oder das Modell nicht heruntergeladen. Ein zweiter Klassiker ist fehlender Speicher: Beginnt das System beim Laden eines zu großen Modells zu tauschen, antwortet es noch, aber so langsam, dass es nach Stillstand aussieht. Der Befehl free -h zeigt, ob der RAM erschöpft ist.

Ehrlich einzuordnen ist auch, was der Aufbau nicht ersetzt: Ein 7B-Modell auf einer Mini-PC-CPU erreicht nicht Antwortqualität und Geschwindigkeit eines großen Cloud-Modells. Der Gewinn liegt in der Kontrolle über Suchverlauf, Daten und Verfügbarkeit, nicht in der reinen Leistung. Wer beides will, betreibt die Suchmaschine selbst und bindet für die Antwortqualität einen Cloud-Anbieter an Vane an 5. Dann bleibt die Suche privat, während die KI-Antwort den Cloud-Dienst nutzt. Eine bewusste Entscheidung, keine Selbstverständlichkeit.

Grenzen und Abwägungen

Ein lokaler Stack reduziert die Abhängigkeit von Cloud-Konten, ersetzt aber keine Sicherheitsarbeit: Updates, Backups und ein auf das Heimnetz begrenzter Zugriff bleiben deine Aufgabe. SearXNG anonymisiert Anfragen gegenüber dem eigenen Browser, aber die gewählten Such-Backends sehen weiterhin Suchbegriffe. Lokale Modelle sparen Cloud-Übertragung, bleiben auf kleiner Hardware jedoch langsamer und weniger leistungsfähig als große Cloud-Modelle.

Häufige Fragen

Reicht ein Raspberry Pi 5? Für SearXNG und ein kleines lokales Modell ja; für eine flüssige KI-Suche mit einem 7B-Modell ist ein x86-Mini-PC mit mindestens 16 GB RAM die realistischere Wahl.

Muss ich alle drei Komponenten betreiben? Nein. SearXNG allein ist bereits eine private Meta-Suchmaschine. Ollama und Vane sind nur nötig, wenn du zusätzlich lokale KI-Antworten möchtest.

Ist eine selbst gehostete Suche vollständig privat? Nicht vollständig: Das eigene System speichert keinen zentralen Werbeverlauf, aber die aktivierten Such-Backends erhalten die Suchanfrage.

Passende Produktrecherchen

Wenn du die praktische Seite vertiefen möchtest, findest du hier passende Suchpfade zum Vergleichen. Keine Kaufpflicht, keine Rangliste, sondern thematisch passende Produktrecherchen:

Hinweis: Als Amazon-Partner verdient kalika.de an qualifizierten Verkäufen. Für dich ändert sich der Preis nicht.

ki tools praxis – Illustration 3

Weiterführende Artikel

Entscheidungshilfe: Wann ist das sinnvoll?

Eher sinnvoll, wenn du ki tools praxis nicht nur als Nachricht lesen willst, sondern eine praktische Einordnung brauchst: Was ändert sich, wen betrifft es und welche nächsten Schritte sind realistisch?

Eher abwarten, wenn die Quellenlage noch dünn ist, wichtige technische Details fehlen oder der Nutzen nur aus Hersteller- oder Projektversprechen besteht. Dann ist Beobachten besser als vorschnelles Umstellen.

Worauf du achten solltest: konkrete Verfügbarkeit, nachvollziehbare Kosten, offene Einschränkungen, Sicherheits- oder Datenschutzfolgen und belastbare Quellen statt bloßer Ankündigungen.

Quellen

[1] SearXNG Documentation — offizielle Dokumentation: Installation, Docker, Konfiguration, Lizenz und Selbstbeschreibung

[2] Whoogle Search (GitHub) — Einstellungsmitteilung „Whoogle has reached the end of the road", 24. Juli 2026

[3] Ollama (GitHub) — Installation, REST-API und Modellbefehle

[4] Ollama Model Library — Modellübersicht mit Parameterzahlen und Downloadgrößen

[5] Vane (GitHub) — KI-Antwortmaschine mit SearXNG und Ollama, Installation und Setup

[6] TensorRigs: How Much RAM for Local LLMs? — RAM-Richtwerte nach Modellgröße

Transparenzhinweis

Dieser Beitrag wurde mit Unterstützung künstlicher Intelligenz erstellt und automatisiert auf Quellen, Fakten und Qualitätskriterien geprüft.