MeshAI Tools

ai.whyme.agency

🧠 LLM Manager

Управление локальными LLM моделями: загрузка/выгрузка, мониторинг RAM, статус процессов.

llama.cpp · GGUF · Qwen3 · Phi-4

⚡ LLM Benchmark

Тестирование моделей: промпт → streaming ответ с метриками (tok/s, TTFT, thinking).

OpenAI-compatible API · streaming

🎤 STT Benchmark

Запись голоса с микрофона и распознавание через faster-whisper. Тайминг, RTF, история запросов.

faster-whisper · large-v3-turbo · int8