Saltar al contenido

Conectar Ollama local

  1. Instala Ollama y consulta la documentación oficial.
  2. Elige un modelo con herramientas en la biblioteca. Descárgalo, por ejemplo con ollama pull llama3.1, si ese modelo sigue disponible. Esta sugerencia existe en el runtime; confirma la compatibilidad y los recursos en tu dispositivo.
  3. Mantén el servicio de Ollama activo. Usa ollama serve solo si todavía no existe un servidor corriendo.
  4. Confirma el nombre exacto instalado con ollama list.
  1. Selecciona Ollama (local) en Settings → Modelo LLM.
  2. Introduce el identificador instalado, incluida la tag cuando sea necesaria.
  3. Usa http://localhost:11434/v1/chat/completions para el servicio en el puerto predeterminado. Ajusta host/puerto solo si tu servidor usa otros valores. El runtime normaliza los endpoints de Ollama al recorrido compatible con OpenAI.
  4. Deja la clave vacía: Ollama es la única opción del menú que no exige clave.
  5. Guarda y prueba la conexión. Prueba primero texto; los modelos solo de texto no aceptan capturas.

Confirma servicio activo, puerto, nombre del modelo, memoria disponible, cortafuegos y permisos de origen. Un modelo que conversa bien puede no conseguir ejecutar herramientas con fiabilidad. Consulta el informe de capacidades en lugar de asumir que el servidor garantiza el soporte.

Local no significa cero comunicaciones auxiliares

Sección titulada “Local no significa cero comunicaciones auxiliares”

La inferencia en este endpoint se queda en el ordenador, pero la extensión puede hacer consultas auxiliares a catálogos públicos y tasas de cambio. No es una promesa de funcionamiento completamente offline. Consulta Privacidad.