Strumento di Benchmarking per LLM su Chrome
Ollama Benchmark è un'estensione di Chrome gratuita progettata per analizzare e confrontare le prestazioni di vari modelli di linguaggio di grandi dimensioni (LLM) come Mistral, LLaMA e Qwen. Questa applicazione consente di eseguire test di benchmark basati su prompt, permettendo di selezionare uno o più modelli da confrontare simultaneamente. I risultati possono essere esportati in vari formati come .txt, .csv e .json, facilitando così l'analisi approfondita delle prestazioni dei modelli.
Tra le sue caratteristiche principali, Ollama Benchmark offre la possibilità di analizzare il conteggio dei token, il tempo di risposta e la velocità in token al secondo. Inoltre, supporta sia le API locali che quelle remote di Ollama e dispone di un'interfaccia multilingue in inglese e turco. Tutti i dati vengono elaborati nel browser senza raccolta di informazioni personali, garantendo così la privacy dell'utente.
