Descarrega e executa modelos de IA (LLM) diretamente no navegador, sem servidor. Escolhe uma tarefa nos separadores, seleciona o modelo e clica em Descarregar e carregar modelo; da primeira vez é descarregado do Hugging Face Hub e fica em cache (IndexedDB). No chat, o histórico da conversa é incluído em cada inferência: quanto mais contexto, mais tempo de processamento.
Cada separador é uma tarefa distinta: chat / geração, resumir, traduzir, análise de sentimento, perguntas e respostas, reconhecer entidades (NER) e classificar sem treino (zero-shot). Cada tarefa oferece os seus próprios modelos e exemplos com um clique.
Usa Transformers.js + ONNX Runtime Web para executar os modelos no navegador através de WebAssembly ou WebGPU. Nenhum texto que introduzas é enviado para qualquer servidor. A velocidade depende do teu hardware: os modelos pequenos (<100 MB) são rápidos mesmo em CPU; os grandes requerem uma GPU dedicada ou vários minutos.
Completa o genera texto a partir de un prompt. Similar a usar un LLM local (estilo Ollama).