Audioaufnahmen lokal mit whisper.cpp transkribieren

Besprechungen, Diktate und Telefonnotizen enthalten oft vertrauliche Inhalte. Mit whisper.cpp läuft die Spracherkennung auf einem eigenen Rechner, und die Audiodatei muss dafür keinen externen Dienst erreichen.

Niklas Schult4 Min. Lesezeit

Illustration: Eine Spieldose mit Papierband und eine Glasglocke über einer Tonbandspule stehen für Sprache, die lokal zu Text wird.

Was Sie am Ende haben und was Sie brauchen

Am Ende dieser Anleitung wandelt ein einzelner Befehl auf der Kommandozeile eine Audioaufnahme in Text um. Die Software whisper.cpp ist eine C/C++-Umsetzung des Spracherkennungsmodells Whisper von OpenAI. Laut README des Projekts kommt sie ohne Abhängigkeiten aus und läuft auch allein auf dem Prozessor.

Vorab benötigen Sie git, CMake und einen C/C++-Compiler. Für die Umwandlung von Aufnahmen in das passende Format brauchen Sie außerdem ffmpeg. Das README nennt für die Modelle einen Speicherbedarf. Das Modell base belegt 142 MiB auf der Platte und etwa 388 MB Arbeitsspeicher, das Modell small 466 MiB und etwa 852 MB.

Die Wahl des Modells bestimmt, wie viel Speicher der Rechner mitbringen muss. Das kleinste Modell tiny belegt laut README 75 MiB auf der Platte und etwa 273 MB Arbeitsspeicher. Das Modell medium braucht 1,5 GiB auf der Platte und etwa 2,1 GB Arbeitsspeicher. Für einen ersten Test genügt base, später können Sie ein größeres Modell ausprobieren.

Repository holen, Modell laden, Programm bauen

Zuerst klonen Sie das Repository und wechseln in das Verzeichnis. Der Download des Quellcodes ist der einzige Schritt, der eine Verbindung nach außen braucht.

Shell
git clone https://github.com/ggml-org/whisper.cpp.git
cd whisper.cpp

Danach laden Sie ein Modell im ggml-Format. Das README nennt als Beispiel base.en, das auf Englisch ausgelegt ist. Für deutsche Aufnahmen gibt das README keine Sprachempfehlung. Es listet aber das mehrsprachige Modell base ohne Endung .en auf, und dieses Modell verwenden Sie hier.

Shell
sh ./models/download-ggml-model.sh base

Anschließend bauen Sie das Programm whisper-cli mit CMake. Die Option -j nutzt mehrere Prozessorkerne, und die Konfiguration Release erzeugt die optimierte Fassung.

Shell
cmake -B build
cmake --build build -j --config Release

Aufnahme umwandeln und transkribieren

Das Werkzeug whisper-cli verarbeitet laut README derzeit nur WAV-Dateien mit 16 Bit. Eine MP3-Datei aus einem Diktiergerät wandeln Sie deshalb zuerst mit ffmpeg um, mit 16000 Hz und einem Kanal.

Shell
ffmpeg -i besprechung.mp3 -ar 16000 -ac 1 -c:a pcm_s16le besprechung.wav

Nun starten Sie die Transkription. Der Schalter -m nennt die Modelldatei, der Schalter -f die Aufnahme. Den Schalter für die Sprache zeigt die Hilfe mit dem Aufruf ./build/bin/whisper-cli -h an, denn das README beschreibt ihn nicht im Einzelnen.

Shell
./build/bin/whisper-cli -m models/ggml-base.bin -f besprechung.wav

Das README beschreibt zusätzlich einige Ausgabeoptionen. Mit dem Schalter -ml 16 begrenzen Sie die Zeilenlänge auf höchstens 16 Zeichen, mit -ml 1 erhalten Sie Zeitmarken für einzelne Wörter. Beide Funktionen sind dort als experimentell gekennzeichnet. Der Schalter --print-colors färbt den Text nach der Sicherheit der Erkennung ein, was bei der Durchsicht unsicherer Stellen helfen kann.

Prüfen, ob die Transkription funktioniert

Zum Test dient die mitgelieferte Beispieldatei samples/jfk.wav. Das Modell base.en passt zu dieser englischen Aufnahme. Die Ausgabe zeigt Zeitmarken und darunter den erkannten Text, und der Kopf der Ausgabe nennt die verwendete Modelldatei und die Zahl der Threads.

Shell
sh ./models/download-ggml-model.sh base.en
./build/bin/whisper-cli -m models/ggml-base.en.bin -f samples/jfk.wav

Erscheinen die Zeilen mit Zeitmarken, arbeitet die Installation. Für Aufnahmen mit langen Pausen bietet das README die Sprachaktivitätserkennung an. Sie wird mit dem Schalter --vad eingeschaltet und braucht ein eigenes Modell, das das Skript ./models/download-vad-model.sh silero-v6.2.0 lädt. Die Erkennung reicht nur Sprachabschnitte an Whisper weiter und kann die Verarbeitung deutlich beschleunigen.

Typische Stolperstellen laut Dokumentation

Die häufigste Hürde ist das Dateiformat, denn whisper-cli akzeptiert nur WAV mit 16 Bit. Bei der Wahl des Modells gilt: Die Varianten mit Endung .en sind für Englisch gedacht. Größere Modelle liefern mehr, brauchen aber auch mehr Speicher, das Modell large etwa rund 3,9 GB.

Auf Apple Silicon, mit Grafikkarten von NVIDIA oder AMD oder mit OpenVINO lässt sich die Verarbeitung beschleunigen. Dafür bauen Sie das Programm mit zusätzlichen Optionen, bei NVIDIA etwa mit -DGGML_CUDA=1. Bei Core ML und OpenVINO dauert der erste Lauf länger, weil das Modell für das Gerät übersetzt wird. Das README weist zudem darauf hin, dass das Projekt nur der Inferenz dient und kein Training der Modelle vorsieht.

Einsatz im Unternehmen: Betrieb und Datenschutz

Das README beschreibt auch den Betrieb in Docker und einen HTTP-Server namens whisper-server. So können mehrere Arbeitsplätze einen zentralen Rechner im eigenen Netz nutzen. Die IT legt fest, wer auf diesen Dienst zugreifen darf, wie die Modelle gepflegt und wie die Software aktualisiert wird. Das Projekt steht unter der MIT-Lizenz.

Bei Aufnahmen mit personenbezogenen Daten oder Mandantengeheimnissen prüfen Unternehmen üblicherweise, wo Dateien und Transkripte liegen, wer Zugriff hat und wie lange sie gespeichert werden. Mehr zu den Grundlagen finden Sie auf unseren Seiten zu lokaler KI und zur DSGVO bei KI. Wer Transkripte später durchsuchbar machen will, findet Hinweise unter Wissensmanagement mit KI.

Zu souveraen.ai: Die Plattform beantwortet Fragen aus angebundenen Quellen und nennt die Fundstelle. Sie läuft wahlweise gehostet in Deutschland oder als Private Spark im eigenen Netz.

Quellen

Weitere Beiträge

Alle Beiträge

KI-API-Zugänge bei Resellern: Was die Dragos-Tests zeigen

Sicherheitsforscher von Dragos haben mit rund zwei Millionen Testanfragen gezeigt, dass Zwischenhändler und kompromittierte Anbieter Anfragen an KI-Modelle mitlesen. Wer KI per Schnittstelle nutzt, sollte daher klären, über wen die eigenen Daten tatsächlich laufen.

Datenschutz4 Min.

Text Generation Inference mit Docker selbst betreiben

Mit Text Generation Inference betreiben Sie ein offenes Sprachmodell als Container auf einem eigenen Server. Anfragen bleiben im Firmennetz, sodass keine Texte an einen Cloud-Anbieter gehen.

Anleitung4 Min.

Haftung bei Cloud-Ausfall: Wer trägt das Risiko?

Der Ausfall von Exchange Online und Outlook am 12. November 2026 dauerte etwa 36 Stunden und traf viele Betriebe. Wer dafür einstehen muss, betrifft jede Firma, die Cloud- und KI-Dienste nutzt.

Regulierung4 Min.

Testen Sie es mit Ihren eigenen Dokumenten.

3 Tage kostenlos, danach ab 24,90 € je Nutzer und Monat. Monatlich kündbar.

3 Tage kostenlos, danach ab 24,90 € je Nutzer und Monat.3 Tage kostenlos
3 Tage kostenlos testen