AI nel Browser: Machine Learning On-Device

AI nel Browser: Machine Learning On-Device

L'ML client-side esegue l'inference interamente nel browser, abilitando esperienze AI privacy-preserving, offline-capable, low-latency. Nessun dato lascia il dispositivo dell'utente.

Runtime Principali

TensorFlow.js: Flagship Google, backend WebGL/WebGPU/WASM, conversione modelli Keras, grande ecosistema. ONNX Runtime Web: Cross-platform, supporta modelli PyTorch/TensorFlow/Scikit-learn via ONNX, backend WebGPU/WASM. MediaPipe: Framework pipeline Google, soluzioni pre-built (face, hands, pose, object detection), altamente ottimizzato. Transformers.js (Hugging Face): Esegui modelli 🤗 Transformers nel browser, supporta BERT, GPT-2, Whisper, CLIP, ecc. WebLLM / llama.cpp.wasm: Esegui LLM (Llama, Mistral, Phi) interamente nel browser via WebGPU. Pyodide: Stack scientifico Python (NumPy, Pandas, Scikit-learn) nel browser via WASM.

Formati Modello e Conversione

Formato TF.js: Topologia JSON + pesi binari. ONNX: Standard aperto, interoperabile. Conversione: tfjs-converter (Keras/SavedModel → TF.js), onnx2tf, optimum.onnx (🤗 → ONNX). Quantizzazione: INT8/UINT8 (4x più piccolo, più veloce), FP16 (2x più piccolo). Pruning: Rimuovi pesi ridondanti. Knowledge distillation: Modello student più piccolo.

Backend di Accelerazione

WebGL: Universale, computazione texture-based, buono per CNN. WebGPU: Compute shader, shared memory, 10-100x più veloce per transformer, supporto emergente. WASM: Fallback CPU, SIMD, thread (SharedArrayBuffer), portabile. WebNN (Web Neural Network API): Accelerazione ML nativa, astrazione hardware, early stage.

Casi d'Uso

Computer Vision: Rimozione sfondo, segmentazione, pose estimation, face detection, object detection, OCR. NLP: Classificazione testo, NER, traduzione, summarization, chat (LLM locale). Audio: Riconoscimento vocale (Whisper), sintesi, keyword spotting. Generativo: Stable Diffusion (WebGPU), image-to-image, inpainting. Privacy: Rilevamento PII, content moderation, biometric auth senza server.

Ottimizzazione Performance

Quantizzazione modello (INT8/FP16). Operator fusion. Graph optimization. WebGPU preferito per transformer. Web Workers per inference off-main-thread. Compilazione streaming. Caricamento progressivo modello (carica pesi on-demand). Cache modelli compilati in IndexedDB/OPFS.

Privacy ed Etica

Dati non lasciano mai il dispositivo = GDPR/CCPA friendly. Niente costi inference server. Funziona offline. Ma: Pesi modello visibili (offuscamento possibile), device fingerprinting via capabilities, battery drain, thermal throttling, limiti dimensioni modello (~100-500MB pratico).

Pattern Architetturali

Ibrido: Modello piccolo on-device, modello grande su server (fallback). Cascading: Modello piccolo veloce filtra, modello complesso per casi difficili. Federated learning: Addestra su dispositivo, aggrega su server. Edge caching: CDN serve pesi modello.