Ollama

Ollama ha revolucionado el acceso a los modelos de lenguaje locales al hacerlos tan simples como un comando de terminal. Creada en 2023, esta herramienta de código abierto te permite descargar, ejecutar y gestionar LLMs directamente en tu hardware, ya sea un Mac con Apple Silicon, un PC con GPU NVIDIA o un servidor Linux.

El enfoque de Ollama es radicalmente simple: escribe ollama run llama3.3 y el modelo se descarga, se configura y se inicia automáticamente. Más de 40,000 integraciones de la comunidad se conectan a Ollama, desde interfaces web como Open WebUI hasta IDEs de desarrollo.

En 2025, Ollama lanzó planes en la nube (Pro a $20/mes, Max a $100/mes) que ofrecen acceso a modelos más potentes alojados en servidores dedicados, manteniendo la ejecución local gratuita e ilimitada. Tus datos siempre permanecen privados: no se registran ni se utilizan para entrenamiento los prompts o respuestas.

La herramienta soporta cuantificación GGUF, aceleración GPU (CUDA, ROCm, Metal), ejecución de múltiples modelos simultáneamente y expone una API REST local compatible con OpenAI. Es la opción preferida para desarrolladores que desean integrar IA local en sus proyectos, pipelines de automatización o flujos de trabajo RAG.