Completa o genera texto a partir de un prompt. Similar a usar un LLM local (estilo Ollama).
Téléchargez et exécutez des modèles d'IA (LLM) directement dans le navigateur, sans serveur. Choisissez une tâche dans les onglets, sélectionnez le modèle et cliquez sur Télécharger et charger le modèle ; la première fois, il est téléchargé depuis le Hugging Face Hub et mis en cache (IndexedDB). Dans le chat, l'historique de la conversation est inclus à chaque inférence : plus il y a de contexte, plus le traitement est long.
Chaque onglet est une tâche différente : chat / génération, résumer, traduire, analyse de sentiment, questions-réponses, reconnaissance d'entités (NER) et classification sans entraînement (zero-shot). Chaque tâche propose ses propres modèles et exemples en un clic.
Il utilise Transformers.js + ONNX Runtime Web pour exécuter les modèles dans le navigateur via WebAssembly ou WebGPU. Aucun texte que vous saisissez n'est envoyé à un serveur. La vitesse dépend de votre matériel : les petits modèles (<100 Mo) sont rapides même sur CPU ; les grands nécessitent un GPU dédié ou plusieurs minutes.
Completa o genera texto a partir de un prompt. Similar a usar un LLM local (estilo Ollama).