KI im Browser: Maschinelles Lernen auf dem Gerät

KI-Modelle direkt im Browser ausführen

Künstliche Intelligenz läuft zunehmend auf Ihrem Gerät statt in der Cloud. Die Ausführung von KI-Modellen im Browser hat mehrere Vorteile: Ihre Daten verlassen niemals Ihren Computer (ideal für den Datenschutz), die App funktioniert offline und es fallen keine Serverkosten für die Inferenz an. Moderne Browser sind leistungsstark genug, um beeindruckende KI-Modelle direkt auszuführen.

Die wichtigsten KI-Laufzeitumgebungen für den Browser

Mehrere Frameworks ermöglichen die Ausführung von Modellen des maschinellen Lernens im Browser. TensorFlow.js ist Googles Flaggschiff-Bibliothek und unterstützt mehrere Backends: WebGL für Grafikkarten, WebGPU für moderne GPUs und einfaches WebAssembly als CPU-Fallback. Es kann Modelle aus den Formaten Keras und TensorFlow SavedModel konvertieren.

ONNX Runtime Web ist eine plattformübergreifende Laufzeitumgebung, die Modelle von PyTorch, TensorFlow und Scikit-learn über das ONNX-Format unterstützt. Es verwendet ebenfalls die Backends WebGPU und WebAssembly. MediaPipe bietet vorgefertigte Lösungen für Gesichtserkennung, Handverfolgung, Posenschätzung und Objekterkennung, die in Echtzeit funktionieren.

Für die Verarbeitung natürlicher Sprache ermöglicht Transformers.js die direkte Ausführung von Hugging-Face-Modellen im Browser. Und für die ambitioniertesten Projekte kann WebLLM große Sprachmodelle lokal ausführen, was jedoch erheblichen Speicher erfordert.

Was Sie bauen können

Computersehen ist eine der praktischsten Anwendungen. Sie können Hintergründe in Echtzeit aus Bildern entfernen, Körperposen für Fitness-Apps verfolgen, Gesichter und Emotionen erkennen, Text aus Bildern lesen (OCR) oder Barcodes scannen – alles ohne Bilder an einen Server zu senden.

Für die Sprache können Sie Text klassifizieren, benannte Entitäten erkennen, zwischen Sprachen übersetzen, Artikel zusammenfassen und sogar Chatbots lokal ausführen. Die Audioverarbeitung umfasst Spracherkennung (wie Whisper), Schlüsselworterkennung und Text-zu-Sprache-Synthese.

Leistungsaspekte

Die Ausführung von KI im Browser wird immer schneller, aber es gibt Grenzen. WebGPU ist das leistungsfähigste Backend für moderne Hardware, insbesondere für Transformer-Modelle. WebGL ist weiter verbreitet, aber langsamer. Quantisierung – die Reduzierung der Genauigkeit von Modellgewichten von 32 Bit auf 8 Bit – kann Modelle viermal kleiner und schneller machen, bei minimalem Genauigkeitsverlust.

Praktische Modellgrößen liegen bei etwa 100-500 MB. Größere Modelle benötigen zu lange zum Herunterladen und verbrauchen zu viel Speicher. Für komplexe Aufgaben ist ein gängiges Muster, ein kleines Modell auf dem Gerät auszuführen und bei schwierigen Fällen auf ein serverseitiges Modell zurückzugreifen.

Datenschutz und Architektur

Der größte Vorteil von KI auf dem Gerät ist der Datenschutz. Daten verlassen niemals das Gerät des Benutzers, sodass Sie für die KI-Verarbeitung keine Einhaltung der DSGVO oder des CCPA benötigen. Es fallen keine Server-Inferenzkosten an. Und die App funktioniert offline. Der Nachteil ist, dass Modellgewichte für Benutzer sichtbar sind (sie können die heruntergeladenen Dateien überprüfen), die Gerätefähigkeiten stark variieren und die Akkulaufzeit beeinträchtigt werden kann.

Eine gängige Architektur verwendet einen hybriden Ansatz: Führen Sie für die meisten Fälle ein kleines, schnelles Modell auf dem Gerät aus und senden Sie nur die schwierigen Fälle an ein serverseitiges Modell. Dies schafft ein Gleichgewicht zwischen Datenschutz, Geschwindigkeit und Genauigkeit.