Introducción a Ollama

Ollama es una plataforma de código abierto para modelos de lenguaje de gran tamaño (LLM) que permite a los usuarios ejecutar, gestionar e interactuar fácilmente con modelos de lenguaje de gran tamaño de forma local.

Ollama ofrece una forma sencilla de cargar y utilizar diversos modelos de lenguaje preentrenados, con soporte para múltiples tareas de procesamiento de lenguaje natural, como generación de texto, traducción, escritura de código, preguntas y respuestas, entre otras.

La característica de Ollama es que no solo ofrece modelos y herramientas listos para usar, sino que también proporciona una interfaz y una API convenientes, lo que permite implementar rápidamente tareas que van desde la generación de texto y los sistemas de diálogo hasta el análisis semántico.

A diferencia de otros frameworks de NLP, Ollama está diseñado para simplificar el flujo de trabajo de los usuarios, haciendo que el aprendizaje automático deje de ser un campo exclusivo de desarrolladores con profundos conocimientos técnicos.

Ollama admite múltiples opciones de aceleración por hardware, incluyendo inferencia solo con CPU y diversas arquitecturas de cómputo subyacentes (como Apple Silicon), lo que permite aprovechar mejor los diferentes tipos de recursos de hardware.

Ollama es un entorno de ejecución de modelos locales compuesto por cuatro partes.

ComponentesDescripciónUbicación
Herramienta de línea de comandosEl punto de entrada para todas las operaciones diarias como run, pull, list, etc.El comando ollama en el PATH del sistema
Servicio en segundo planoSe ejecuta de forma residente, se encarga de la carga de modelos y la inferencia, y ofrece una API REST al exterior.Puerto local 11434
Biblioteca de modelosLos canales de distribución oficiales de los modelos de código abierto de diversos proveedores, clasificados por etiquetas de capacidad.ollama.com/library
Almacenamiento localLos pesos y la configuración de los modelos descargadosLa carpeta .ollama en el directorio del usuario

La nueva versión también ofrece dos accesos más amigables: escribir directamente ollama para abrir un menú interactivo, y usar ollama launch para conectar los modelos locales con herramientas como Claude Code, VS Code, etc., con un solo clic.


Funciones y características principales

  • Soporte para múltiples modelos de lenguaje preentrenados
    Ollama ofrece múltiples modelos preentrenados listos para usar, incluyendo modelos de lenguaje de gran tamaño como GPT, BERT, etc. Los usuarios pueden cargar y utilizar fácilmente estos modelos para tareas como generación de texto, análisis de sentimientos, preguntas y respuestas.

  • Fácil integración y uso
    Ollama proporciona una herramienta de línea de comandos (CLI) y un SDK de Python que simplifican la integración con otros proyectos y servicios. Los desarrolladores no necesitan preocuparse por dependencias o configuraciones complejas y pueden integrar rápidamente Ollama en sus aplicaciones existentes.

  • Implementación local y uso sin conexión
    A diferencia de algunos servicios de NLP basados en la nube, Ollama permite a los desarrolladores ejecutar modelos en entornos de cómputo locales. Esto significa que se puede eliminar la dependencia de servidores externos, garantizar la privacidad de los datos y, para solicitudes de alta concurrencia, la implementación sin conexión puede ofrecer menor latencia y mayor control.

  • Soporte para ajuste fino y personalización de modelos
    Los usuarios no solo pueden utilizar los modelos preentrenados que ofrece Ollama, sino que también pueden realizar un ajuste fino de los modelos sobre esta base. Según sus necesidades específicas, los desarrolladores pueden reentrenar los modelos con sus propios datos recopilados para optimizar el rendimiento y la precisión de los modelos.

  • Optimización del rendimiento
    Ollama se centra en el rendimiento, ofrece un mecanismo de inferencia eficiente, admite procesamiento por lotes y gestiona eficazmente la memoria y los recursos computacionales. Esto le permite mantener una alta eficiencia al procesar grandes volúmenes de datos.

  • Soporte multiplataforma
    Ollama es compatible con varios sistemas operativos, incluyendo Windows, macOS y Linux. Así, tanto si los desarrolladores realizan depuraciones en entornos locales como si las empresas implementan en entornos de producción, obtienen una experiencia consistente.

  • Código abierto y soporte de la comunidad
    Ollama es un proyecto de código abierto, lo que significa que los desarrolladores pueden revisar el código fuente, realizar modificaciones y optimizaciones, y también contribuir al proyecto. Además, Ollama cuenta con una comunidad activa donde los desarrolladores pueden obtener ayuda e intercambiar experiencias con otras personas.


Casos de uso

  • Creación de contenido:
    Ayuda a escritores, periodistas y profesionales de marketing a generar rápidamente contenido de alta calidad, como artículos de blog, textos publicitarios, etc.

  • Asistencia en programación::
    Ayuda a los desarrolladores a generar código, depurar programas u optimizar la estructura del código.

  • Educación e investigación:
    Asiste a estudiantes e investigadores en el aprendizaje, la escritura y la investigación, por ejemplo, generando resúmenes de artículos o resolviendo preguntas.

  • Comunicación entre idiomas:
    Ofrece funciones de traducción de alta calidad que ayudan a los usuarios a superar las barreras del idioma.

  • Asistente personal:
    Actúa como un asistente inteligente que ayuda a los usuarios a completar tareas diarias, como redactar correos electrónicos, generar listas de tareas pendientes, etc.


¿Por qué ejecutar modelos grandes localmente?

Ejecutar localmente no es nostalgia, sino cuatro razones muy concretas.

PrivacidadLos datos no salen del dispositivo. Contenidos como borradores de contratos, historiales médicos o código privado que no pueden salir de la máquina requieren siempre una reflexión antes de usar una API en la nube; la inferencia local, en cambio, no tiene este problema de forma inherente.

CostoNo hay cobro por Token. Descargar el modelo solo cuesta espacio en disco y electricidad una vez; en uso intensivo, el costo marginal se aproxima a cero. Esto resulta especialmente favorable para escenarios que requieren procesamiento de texto por lotes.

Sin conexiónNo depende de la red. En entornos de intranet, salas de servidores o aviones, mientras el dispositivo esté presente, el modelo estará disponible; esto es una necesidad clave para implementaciones en sitio y zonas con conectividad deficiente.

ControlLa versión y el comportamiento son predecibles. Los modelos locales no se actualizan silenciosamente ni cambian su comportamiento; el formato de salida que se verificó hoy no cambiará mañana. Para los sistemas de producción, esto es más importante que "ser más potente".

Por supuesto, hay que ser honestos: el límite de capacidad de los modelos locales de código abierto sigue siendo actualmente inferior al de los modelos insignia en la nube. Elegir una solución local es "suficiente, controlable y económico", no "todopoderoso".


Diferencias con las API en la nube y casos de uso adecuados

Al comparar los dos enfoques, los criterios de selección salen a la luz.

DimensiónOllama localAPI en la nube (OpenAI, Claude, etc.)
Ubicación de los datosNo sale de la máquina localSe sube a los servidores del proveedor
Fuente de cómputoTu propia CPU / GPUCentro de datos del proveedor
Modelo de costosDescarga única, uso gratuitoFacturación continua por Token
Potencia del modeloLimitada por el hardware localPuede usar los modelos insignia más potentes
Disponible sin conexiónTotalmente disponibleNo disponible
Costo de puesta en marchaInstalar el software una vez, configurar el hardware una vezRegistrarse y listo, pero hay que gestionar las claves y la facturación

Los casos de uso adecuados también quedan claros: para datos sensibles a la privacidad, llamadas de alta frecuencia, entornos sin conexión, aprendizaje y validación de desarrollo, elige local; para capacidades de modelos de primer nivel, tráfico elástico repentino o si no tienes tu propia GPU, elige la API en la nube.

No son enemigos; los productos maduros suelen tener una arquitectura híbrida: las solicitudes diarias van a local, y unas pocas tareas de alta dificultad se reenvían a la nube.


Comparación con otras soluciones locales

Ejecutar modelos grandes localmente no es exclusivo de Ollama; cada solución común tiene sus propios usuarios.

SoluciónPosicionamientoDificultad de aprendizajePúblico adecuado
OllamaUn runtime que ejecuta modelos con un solo comando + servicio de API localbajoLa mayoría de los desarrolladores, equipos que quieren integrar rápidamente
llama.cppEl motor de inferencia de alto rendimiento en sí, con muchos parámetros y control de grano finoAltoUsuarios que quieren profundizar en los detalles de la inferencia y personalizar la implementación
LM StudioAplicación de escritorio con interfaz gráfica, que incluye exploración y descarga de modelos integradasbajoUsuarios que prefieren interfaz gráfica y no quieren tocar la línea de comandos
vLLMServicio de inferencia de nivel de producción y alto rendimiento orientado a servidores GPUAltoEquipos con servicios en línea de alta concurrencia y abundante capacidad de cómputo
GPT4AllAplicación de escritorio ligera, centrada en el diálogo con documentos localesbajoUsuarios comunes sin formación técnica

Su relación merece una mención: la capacidad de inferencia subyacente de Ollama proviene de llama.cpp; puede entenderse como una "envoltura fácil de usar + servicio + ecosistema de biblioteca de modelos" sobre llama.cpp.

Este tutorial elige Ollama como línea principal por su equilibrio: comandos extremadamente simples, cobertura completa en tres plataformas, y el ecosistema más completo de API y herramientas. La comparación se basa en documentación pública y el estado del proyecto en agosto de 2026; todas las soluciones están evolucionando rápidamente.


Modelos locales vs. Ollama Cloud

Lo que se comparó anteriormente eran "nubes de otros". Ollama también ofrece su propia solución en la nube, y así se completan las tres formas de utilizar modelos grandes.

云端 API、Ollama 本地、Ollama Cloud 三方案对比

La experiencia de uso de Ollama Cloud es casi idéntica a la local: añade el sufijo :cloud al nombre del modelo, inicia sesión y ejecútalo directamente. Los comandos, API e integraciones de herramientas locales siguen funcionando sin cambios, solo que la inferencia se reenvía de forma transparente a los servidores de Ollama.

Ejemplos

# Inicia sesión en tu cuenta de Ollama
ollama signin

# Ejecuta modelos en la nube como modelos locales, sin necesidad de descargar pesos
ollama run qwen3.5:cloud

Su valor está en dos escenarios: modelos ultragrandes que la potencia de cálculo local no puede ejecutar, y "probar si vale la pena un modelo más grande" antes de comprar un ordenador nuevo.

Los modelos en la nube tienen un mecanismo de retiro: oficialmente se retiran periódicamente los modelos en la nube antiguos y se anuncian alternativas; los flujos de trabajo automatizados que dependen de ellos deben estar atentos a los avisos. Los modelos locales, en cambio, permanecen siempre en tu disco, sin verse afectados. Este tema se desarrolla por completo en el capítulo de despliegue híbrido en la nube.


Requisitos de hardware y expectativas

Una última cosa: evalúa tu propia máquina. Ollama es sorprendentemente tolerante con los requisitos de hardware; incluso solo con CPU puede ejecutarse, solo que la velocidad difiere en órdenes de magnitud.

Con una tarjeta gráfica dedicada (NVIDIA, AMD) o un chip Apple Silicon, la inferencia utiliza aceleración por GPU, y la velocidad de generación suele ser de varias a decenas de veces superior a la de solo CPU.

El valor predeterminado de la ventana de contexto lo clasifica automáticamente Ollama según la VRAM:

Tamaño de VRAMLongitud de contexto predeterminada
Menos de 24 GiB4K
24 ~ 48GiB32K
48 GiB o más256K

Veamos ahora las expectativas de correspondencia entre la escala de parámetros y el dispositivo (con la familia qwen3.5 como ejemplohttps://ollama.com/library/qwen3.5):

Especificación del modeloTamaño de descargaConfiguración recomendadaExpectativa de experiencia
qwen3.5:latestAproximadamente 6,6 GB16 GB de RAM o 8 GB de VRAMEspecificación predeterminada, equilibrio entre calidad y velocidad
qwen3.5:0.8bAproximadamente 1,0 GBCon 8 GB de RAM es suficienteEntorno de verificación, conversación ligera
qwen3.5:4bAproximadamente 3,4 GB16 GB de RAMEl punto óptimo para el uso diario
qwen3.5:9b es equivalente a qwen3.5:latestAproximadamente 6,6 GB16 GB de RAM o 8 GB de VRAMEspecificación predeterminada, equilibrio entre calidad y velocidad
qwen3.5:27bAproximadamente 17 GB24 GB de VRAMTareas de alta exigencia, como textos largos y código

Una vez que el modelo esté en ejecución, usaollama psel comando para ver la columna PROCESSOR, y así confirmar si el modelo realmente se ejecuta por completo en la GPU. Esta acción de verificación se utilizará repetidamente en el capítulo de gestión de modelos.

Si tu configuración es realmente limitada, no te desanimes: la especificación 0.8b es suficiente para ejecutar la gran mayoría de las demostraciones de comandos de este tutorial; si realmente surge la necesidad de un modelo grande, siempre está :cloud, una vía que no requiere hardware.

Otras extensiones