Gemma Translator: mehrsprachiger Dolmetscher läuft lokal auf dem Raspberry Pi 5

Ein Sprachübersetzer, der ohne Internetverbindung funktioniert und nichts in die Cloud schickt: Bei dieser Beschreibung ist Skepsis angebracht, denn genau so klingen viele Ankündigungen im KI-Umfeld. Der Gemma Translator ist insofern ein Sonderfall, als er nicht nur angekündigt, sondern als vollständiges Open-Source-Projekt auf GitHub veröffentlicht wurde. Quellcode, Installationsskripte und die STL-Dateien für das Gehäuse liegen öffentlich einsehbar 1. Gebaut wurde das Projekt von drei Ingenieuren des Google Creative Lab mit Unterstützung von Google Antigravity 1.

Die entscheidende Frage ist nicht, ob das Projekt existiert. Sie lautet: Wie gut funktioniert ein lokaler Dolmetscher auf einem Raspberry Pi 5 tatsächlich, welche Leistung liefert die Hardware, und für wen lohnt sich der Nachbau? Dieser Artikel beantwortet das mit den gemessenen Zahlen statt mit Marketingversprechen. Konkret geht es darum, ob und wie du einen komplett offline arbeitenden Sprachübersetzer auf einem Raspberry Pi 5 mit 8 GB RAM selbst aufsetzt, welche Komponenten du dafür brauchst und wo die Grenzen liegen.

Ein Punkt vorweg, weil er in vielen Berichten untergeht: Es handelt sich nicht um ein offizielles Google-Produkt. Das Repository weist das ausdrücklich aus und schließt das Projekt sogar vom Bug-Bounty-Programm des Unternehmens aus 1. Wer einen fertigen, garantiert gewarteten Übersetzer erwartet, ist hier falsch. Wer ein funktionierendes Referenzprojekt sucht, um zu verstehen, was lokale KI-Übersetzung heute auf einem Einplatinenrechner leistet, bekommt dafür eine solide Grundlage.

Inhaltsverzeichnis

Was der Gemma Translator ist und was er nicht ist
Die Verarbeitungskette: vom Mikrofon zum Lautsprecher
Hardware: Was du wirklich brauchst
Installation und erster Start
Performance: Die Zahl, auf die es ankommt
Grenzen und offene Fragen
Wer von dem Aufbau profitiert
FAQ
Fazit

Kurzantwort

Der Gemma Translator übersetzt Sprache komplett offline auf einem Raspberry Pi 5. So funktioniert die Pipeline und wie du sie selbst aufsetzt. Kurz gesagt: gemma translator multilingual interpreter runs locally on raspberry pi ist vor allem dann relevant, wenn du schnell verstehen willst, was konkret dahinter steckt, welche Grenzen es gibt und welche Entscheidung daraus folgt. Die Details, Quellen und Einschränkungen stehen in den folgenden Abschnitten.

Was der Gemma Translator ist und was er nicht ist

Der Gemma Translator ist ein zweispuriger Dolmetscher für zwei Personen, die sich gegenüberstehen. Jede Person hat eine eigene Spur mit einem rotierenden Sprachwähler. Gesprochene Sprache wird aufgenommen, transkribiert, übersetzt und in der Sprache der anderen Person wieder ausgegeben. Die Bedienung läuft über Tastaturkürzel: In der Standardansicht (Querformat) wechselt die Leertaste die aktive Person, mit Z wird aufgenommen, mit den Pfeiltasten wechselt man die Sprache der aktiven Spur. Es gibt zusätzlich einen Hochformat-Modus, in dem beide Spuren eigene Tasten haben (Z und X) 1.

Technisch baut das Projekt auf drei Bausteinen auf. Für die Spracherkennung kommt Moonshine zum Einsatz, für die eigentliche Übersetzung das Sprachmodell Gemma 4 E2B über die Laufzeitumgebung LiteRT-LM, für die Sprachausgabe die Moonshine-TTS-Variante moonshine-voice 1. LiteRT-LM ist dabei eine Orchestrierungsschicht auf Googles LiteRT, einer Laufzeit für die Inferenz direkt auf dem Gerät 2.

Das verwendete Modell Gemma 4 E2B ist das kleinste der Gemma-4-Familie. Das „E“ in E2B steht für „effective“ Parameter: Das Modell hat 2,3 Milliarden effektive Parameter, mit den pro Ebene eingebetteten Embeddings sind es insgesamt etwa 5,1 Milliarden 5. Der Kontext umfasst 128.000 Token, unterstützt werden neben Text auch Bild und Audio 5. Für den Übersetzer ist die relevante Fähigkeit die Textverarbeitung; die Audio-Verarbeitung übernimmt der separate Moonshine-Baustein.

Wichtig für die Einordnung: Der Gemma Translator ist eine Referenzimplementierung, kein Produkt mit Support, Garantie oder Wartungszusage. Das Repository weist ausdrücklich darauf hin, dass es kein offiziell unterstütztes Google-Produkt ist, und nennt Google Antigravity als Unterstützung bei der Entstehung 1. Diese Unterscheidung spielt später bei der Frage eine Rolle, ob man das Gerät ernsthaft als Alltagsübersetzer einsetzen will.

gemma translator multilingual interpreter runs locally on raspberry pi – Illustration 2

Die Verarbeitungskette: vom Mikrofon zum Lautsprecher

Der Ablauf lässt sich in vier Schritte zerlegen, und alle laufen lokal auf dem Raspberry Pi ab. Nach der Einrichtung ist keine Internetverbindung mehr nötig 1.

Erstens die Aufnahme: Das Mikrofon nimmt die Sprache einer Person auf. Zweitens die Spracherkennung: Moonshine transkribiert das Gesprochene in Text. Drittens die Übersetzung: Das Modell Gemma 4 E2B übersetzt den transkribierten Text in die Zielsprache. Viertens die Ausgabe: moonshine-voice synthetisiert die Übersetzung als gesprochene Sprache, die über den Lautsprecher ausgegeben wird 1.

Der entscheidende Punkt an dieser Architektur ist, dass kein Schritt eine Anfrage an einen Server außerhalb des Geräts stellt. Während handelsübliche Übersetzungs-Apps die Audioaufnahme an einen Cloud-Dienst schicken, dort transkribieren und übersetzen lassen und das Ergebnis zurückbekommen, bleibt beim Gemma Translator die gesamte Kette auf der Hardware. Das ist der eigentliche Unterschied zu Google Translate oder DeepL, nicht die Übersetzungsqualität an sich.

Dieser Unterschied hat zwei Seiten. Für Datenschutz und Verfügbarkeit ist er ein Vorteil: Gespräche verlassen das Gerät nicht, und der Übersetzer funktioniert auch ohne Netz. Für die Qualität ist er eine Einschränkung, auf die der Abschnitt zu den Grenzen noch eingeht. Ein kleines, lokal laufendes Modell kann nicht dieselbe Übersetzungsleistung liefern wie ein großes, auf Servern laufendes System.

Hardware: Was du wirklich brauchst

Die Hardware-Anforderungen sind im Repository klar benannt. Zwingend ist ein Raspberry Pi 5 mit 8 GB RAM. Die 8-GB-Variante wird ausdrücklich vorausgesetzt; das 4-GB-Modell reicht für das Modell nicht aus 1. Dazu kommen vier weitere Komponenten: eine Audioquelle, also ein Mikrofon oder ein USB-Audio-Interface, eine Audioausgabe wie Lautsprecher oder Kopfhörer, ein Display und eine Eingabemöglichkeit 1.

Beim Display nennt das Projekt einen HDMI-Monitor oder einen Touchscreen im Kiosk-Format, etwa mit 480 × 320 Pixeln. Die Weboberfläche ist für kleine Handheld-Displays optimiert und verwendet eine Retro-Terminal-Optik 1. Beim Gehäuse stellt das Repository die STL-Dateien für den 3D-Druck bereit, sodass sich das Gerät als kompaktes, tragbares Gehäuse bauen lässt 1.

Ein Detail, das in der Berichterstattung häufig falsch eingeordnet wird, betrifft die Tasten. Das vorgestellte Gerät nutzt eine eigene Platine mit der Bezeichnung AX-4LABS-NEW, die einen Drehregler und vier mechanische Tasten trägt, von denen nur zwei belegt sind. Diese Platine wurde nicht als Open Source veröffentlicht, und es gibt kein identisches Fertigmodul im Handel 3. Das ist für den Nachbau aber kein Hindernis, weil die Bedienung vollständig über die Tastatur läuft und sich jede handelsübliche Tastatur oder jedes Keypad verwenden lässt 3.

Installation und erster Start

Die Installation ist im Repository in Skripten gekapselt und lässt sich auf wenige Schritte reduzieren. Voraussetzungen sind Python ab Version 3.10 sowie Node.js ab Version 18, empfohlen wird 20 LTS. Beides installiert das Deploy-Skript auf Raspberry Pi OS beziehungsweise Debian automatisch mit 1.

Der Ablauf im Einzelnen:

Das Repository klonen und die Skripte ausführbar machen: chmod +x setup.sh download_model.sh start.sh deploy-pi.sh 1.
Mit ./setup.sh wird eine virtuelle Python-Umgebung angelegt und die Abhängigkeiten installiert 1.
Mit ./download_model.sh wird das Modell gemma4-e2b von Hugging Face geladen und in LiteRT-LM importiert 1.

Beim dritten Schritt gibt es eine Besonderheit, die in den Skripten nicht sichtbar wird: Das Modell gemma4-e2b steht – wie auch die zugrunde liegende Variante gemma-4-E2B-it – unter der Apache-2.0-Lizenz und ist auf Hugging Face nicht zugangsbeschränkt. Ein Zugriffstoken ist für den Download nicht zwingend erforderlich. Die offizielle LiteRT-Anleitung zeigt dennoch, wie man optional die Umgebungsvariable HUGGING_FACE_HUB_TOKEN setzt 2; ein Token hilft, die anonymen Download-Limits von Hugging Face zu vermeiden, ist aber keine Zugangshürde für dieses Modell.

Danach startet ./start.sh alle drei Dienste gemeinsam: den LiteRT-LM-Server, den Python-API-Server und die Web-Oberfläche. Im Entwicklungsmodus liegt die Oberfläche unter http://localhost:5173, im Produktionsmodus (./start.sh --prod) unter http://localhost:3000, der LiteRT-LM-Server antwortet auf Port 9379 1.

Für den Dauerbetrieb als Gerät gibt es ./deploy-pi.sh. Das Skript installiert die Debian-Pakete, richtet die Python-Umgebung ein, baut die Produktionsdateien der Oberfläche, lädt das Modell und registriert einen systemd-Dienst. Zusätzlich konfiguriert es den LXDE-Autostart so, dass Chromium im Kiosk-Modus auf http://localhost:3000 zeigt 1. Damit startet der Übersetzer nach dem Einschalten automatisch, ohne dass ein Browser manuell geöffnet werden muss.

Ein einfacher Funktionstest nach der Installation: die Oberfläche im Browser öffnen und prüfen, ob der LiteRT-LM-Server auf Port 9379 antwortet. Scheitert der Start, liegt es meist an einer zu alten Node-Version, fehlenden Audio-Geräten oder Problemen beim Modell-Download.

Performance: Die Zahl, auf die es ankommt

Die wichtigste Frage bei einem lokalen Übersetzer ist die Geschwindigkeit, und hierfür gibt es belastbare Zahlen aus einer offiziellen Quelle. Der Raspberry-Pi-Blog hat die Leistung von Gemma 4 E2B unter LiteRT-LM auf einem Pi 5 mit 8 GB RAM gemessen: 99 Token pro Sekunde beim Prefill und 9 Token pro Sekunde beim Dekodieren, bei einer maximalen Speichernutzung von 1432 MB 2.

Zum Vergleich: Dasselbe Modell in einer Q4_0-Quantisierung unter llama.cpp erreichte im selben Benchmark 24 Token pro Sekunde beim Prefill und 4 Token pro Sekunde beim Dekodieren, bei einem Spitzenverbrauch von 4406 MB 2. Der Benchmark lief mit 1024 Prefill-Token und 256 Dekodier-Token auf vier CPU-Threads 2. LiteRT-LM ist auf dem Pi 5 also schneller und braucht gleichzeitig deutlich weniger Speicher als die llama.cpp-Variante. Das ist der Grund, warum das Projekt überhaupt auf dem 8-GB-Modell lauffähig ist.

Was bedeuten 9 Token pro Sekunde für die Praxis? Der Raspberry-Pi-Blog nennt für Gemma 4 E2B eine Tokenizer-Dichte von etwa 4,2 Zeichen pro Token und misst in der Reachy-Mini-Demo eine End-to-End-Ausgabegeschwindigkeit von rund 27 Zeichen pro Sekunde, also ungefähr 300 Wörter pro Minute 2. Das ist etwa doppelt so schnell wie normales Sprechen mit rund 150 Wörtern pro Minute 2. Eine Übersetzung kann damit in Echtzeit mitgesprochen werden.

Eine zweite, unabhängigere Messung stützt diese Größenordnung. Das Magazin Open Source For You nennt für den Gemma Translator rund 6 Token pro Sekunde bei weniger als 1,5 GB Speicherbedarf 4. Die Abweichung zu den 9 Token pro Sekunde aus dem offiziellen Benchmark ist klein und liegt im Rahmen unterschiedlicher Messaufbauten. Für die praktische Einordnung reicht beides: Der Übersetzer ist schnell genug für ein Gespräch, aber er übersetzt nicht sofort.

Grenzen und offene Fragen

So sauber die Zahlen auch wirken, an mehreren Stellen ist die Quellenlage dünn, und das sollte man nicht verschweigen.

Die Übersetzungsqualität ist nicht unabhängig bewertet. Die Demo zeigt eine Unterhaltung zwischen Spanisch und Mandarin, aber der Autor des CNX-Berichts schreibt ausdrücklich, dass er die Qualität der Übersetzung mangels Sprachkenntnissen nicht beurteilen kann. Sein Urteil bezieht sich allein auf die Latenz, die er als niedrig genug für den Einsatz beschreibt 3. Eine systematische Bewertung der Übersetzungsqualität über mehrere Sprachen hinweg existiert für dieses Projekt nicht.

Dazu kommt: Es gibt kein dokumentiertes, vollständiges Sprach-Set. Das zugrunde liegende Modell ist mehrsprachig, aber welche Sprachenpaare zuverlässig funktionieren, ist nicht veröffentlicht. Bei mehrsprachigen Modellen ist die Qualität zwischen den Sprachen erfahrungsgemäß ungleichmäßig; für seltenere Sprachen ist mit schwächeren Ergebnissen zu rechnen.

Weitere Einschränkungen sind technischer Natur. Die Touch-Bedienung ist in der aktuellen Version nicht aktiviert; Aufnahme und Sprachwahl laufen ausschließlich über die Tastatur 1. Wer ein reines Touch-Gerät erwartet, wird enttäuscht. Das 8-GB-Modell ist zwingend, auf günstigeren Pi-Modellen läuft das Projekt nicht 1. Und der Support-Aufwand ist komplett beim Nutzer: Es gibt keine Garantie, keinen Wartungsvertrag und kein Bug-Bounty-Programm 1.

Wer von dem Aufbau profitiert

Ob sich der Nachbau lohnt, hängt davon ab, was du erreichen willst. Eine einfache Faustregel: Der Gemma Translator ist stark als Bastel- und Lernprojekt und als fest installierte, netzunabhängige Übersetzungsstation. Als Ersatz für die Übersetzungs-App auf dem Smartphone ist er dagegen in den meisten Fällen die schlechtere Wahl.

Der Aufbau lohnt sich, wenn du eine dauerhaft laufende Übersetzungsstation ohne Netzverbindung brauchst, etwa an einem Empfang, auf Reisen ohne Roaming oder in einer Umgebung, in der Gesprächsdaten das Gerät nicht verlassen dürfen. Er lohnt sich auch, wenn du verstehen willst, was On-Device-Sprachmodelle heute auf einem Einplatinenrechner leisten, oder wenn ein Pi 5 mit 8 GB bereits vorhanden ist und nur noch Peripherie dazukommt.

Er lohnt sich nicht, wenn du nur gelegentlich etwas übersetzen willst. Die Offline-Pakete der großen Übersetzer-Apps auf dem Smartphone decken diesen Fall ohne Bastelaufwand und ohne zusätzliche Hardware ab. Er lohnt sich auch nicht, wenn es dir auf maximale Übersetzungsqualität, feine sprachliche Nuancen oder Fachterminologie ankommt: Dort sind Cloud-Dienste mit großen Modellen dem lokalen 2,3-Milliarden-Parameter-Modell überlegen.

Wer sich für den Aufbau entscheidet, sollte ihn als Experiment einplanen, nicht als Kaufentscheidung für ein fertiges Produkt. Das ist auch die Haltung, die das Projekt selbst vorgibt.

Entscheidungshilfe: Wann ist das sinnvoll?

Eher sinnvoll, wenn du gemma translator multilingual interpreter runs locally on raspberry pi nicht nur als Nachricht lesen willst, sondern eine praktische Einordnung brauchst: Was ändert sich, wen betrifft es und welche nächsten Schritte sind realistisch?

Eher abwarten, wenn die Quellenlage noch dünn ist, wichtige technische Details fehlen oder der Nutzen nur aus Hersteller- oder Projektversprechen besteht. Dann ist Beobachten besser als vorschnelles Umstellen.

Worauf du achten solltest: konkrete Verfügbarkeit, nachvollziehbare Kosten, offene Einschränkungen, Sicherheits- oder Datenschutzfolgen und belastbare Quellen statt bloßer Ankündigungen.

FAQ

Läuft der Gemma Translator wirklich komplett offline? Ja. Nach der Einrichtung verarbeitet das Gerät Aufnahme, Spracherkennung, Übersetzung und Sprachausgabe vollständig lokal auf dem Raspberry Pi. Eine Internetverbindung wird nur für die Einrichtung und den Modell-Download benötigt 1.

Welche Sprachen werden unterstützt? Das Projekt veröffentlicht keine vollständige Sprachliste. Das zugrunde liegende Modell Gemma 4 E2B ist mehrsprachig, und die Demo zeigt eine Unterhaltung zwischen Spanisch und Mandarin 3. Wie zuverlässig einzelne Sprachpaare funktionieren, ist nicht dokumentiert.

Muss es der Raspberry Pi 5 mit 8 GB RAM sein? Ja. Das Repository setzt ausdrücklich die 8-GB-Variante voraus. Mit dem 4-GB-Modell ist das Modell nicht lauffähig 1.

Wie schnell ist die Übersetzung in der Praxis? Im offiziellen Benchmark erreicht Gemma 4 E2B unter LiteRT-LM auf dem Pi 5 rund 9 Token pro Sekunde beim Dekodieren, was etwa 300 Wörtern pro Minute entspricht 2. Eine unabhängige Messung nennt rund 6 Token pro Sekunde 4. Für ein Gespräch reicht das aus.

Ist das ein offizielles Google-Produkt? Nein. Es ist ein Experiment von drei Ingenieuren des Google Creative Lab mit Unterstützung von Google Antigravity. Das Repository weist ausdrücklich darauf hin, dass es kein offiziell unterstütztes Produkt ist und nicht am Bug-Bounty-Programm teilnimmt 1.

Brauche ich die eigene Platine und einen 3D-Drucker? Nein. Die gezeigte Tastenplatine wurde nicht veröffentlicht, aber die Bedienung läuft vollständig über eine normale Tastatur 3. Ein 3D-Drucker ist nur nötig, wenn du das Gehäuse nachbauen willst; die STL-Dateien liegen auf GitHub 1.

Was kostet der Aufbau? Der größte Einzelposten ist der Raspberry Pi 5 mit 8 GB. Mikrofon, Lautsprecher und ein kleines Display sind günstige Zusatzkomponenten. Einen festen Gesamtpreis gibt es nicht, weil die Ausstattung frei wählbar ist.

Wie unterscheidet sich LiteRT-LM von llama.cpp? Beide führen Sprachmodelle lokal aus. Im Benchmark auf dem Pi 5 ist LiteRT-LM bei Gemma 4 E2B schneller (9 gegenüber 4 Token pro Sekunde beim Dekodieren) und braucht weniger Speicher (1432 gegenüber 4406 MB) 2.

Wie teste ich, ob die Installation funktioniert? Öffne die Web-Oberfläche unter localhost:5173 (Entwicklung) oder localhost:3000 (Produktion) und prüfe, dass der LiteRT-LM-Server auf Port 9379 antwortet 1. Scheitert der Start, prüfe Node-Version, Audio-Geräte und den Modell-Download.

Fazit

Der Gemma Translator zeigt, was lokale KI-Übersetzung auf einem Raspberry Pi 5 heute leisten kann: ein vollständig offline arbeitender Dolmetscher, dessen gesamte Verarbeitungskette aus offenen Bausteinen besteht. Die gemessenen Zahlen sind solide, die Installation ist sauber skriptiert, und die technische Dokumentation im Repository ist gut genug, um das Projekt nachzubauen.

Die nüchterne Einordnung fällt dennoch geteilt aus. Als Referenzprojekt zum Verständnis von On-Device-Inferenz ist der Gemma Translator überzeugend. Als Alltagsgerät ist er es deutlich weniger, denn zur Übersetzungsqualität über verschiedene Sprachen hinweg gibt es keine belastbaren Aussagen, und ein kleines lokales Modell kann mit großen Cloud-Übersetzern nicht mithalten.

Wer ein netzunabhängiges Gerät für Gespräche bauen will und einen Pi 5 mit 8 GB zur Hand hat, findet hier einen funktionierenden Ausgangspunkt. Alle anderen sollten zuerst klären, ob ein Offline-Paket auf dem Smartphone oder ein Cloud-Dienst den Bedarf nicht einfacher deckt.

Passende Produktrecherchen

Wenn du die praktische Seite vertiefen möchtest, findest du hier passende Suchpfade zum Vergleichen. Keine Kaufpflicht, keine Rangliste, sondern thematisch passende Produktrecherchen:

Hinweis: Als Amazon-Partner verdient kalika.de an qualifizierten Verkäufen. Für dich ändert sich der Preis nicht.

Quellen

[1] https://github.com/google-gemma/gemma-translator — Gemma Translator, GitHub-Repository (google-gemma)

[2] https://www.raspberrypi.com/news/mastering-edge-ai-on-raspberry-pi-with-litert-and-gemma/ — Mastering edge AI on Raspberry Pi with LiteRT and Gemma (Raspberry Pi Blog, 11.08.2026)

[3] https://www.cnx-software.com/2026/08/14/gemma-translator-multilingual-interpreter-runs-locally-on-raspberry-pi-5-with-the-litert-runtime/ — Gemma Translator multilingual interpreter runs locally on Raspberry Pi 5 with the LiteRT runtime (CNX Software, 14.08.2026)

[4] https://www.opensourceforu.com/2026/08/offline-translator-runs-ai-on-raspberry-pi/ — Offline Translator Runs AI on Raspberry Pi (Open Source For You, 10.08.2026)

[5] https://ai.google.dev/gemma/docs/core/model_card_4 — Gemma 4 model card (Google AI for Developers) gemma translator multilingual interpreter runs locally on raspberry pi – Illustration 3

Weiterführende Artikel

Transparenzhinweis

Dieser Beitrag wurde mit Unterstützung künstlicher Intelligenz erstellt und automatisiert auf Quellen, Fakten und Qualitätskriterien geprüft.