Hay un LLM integrado en tu Mac desde septiembre y casi nadie lo ha usado. Se arranca desde la terminal.
Se llama fm y viene de serie en macOS 27. Ofrece acceso directo al modelo en local de Apple Foundation Models, sin necesidad de cuenta, sin clave de API y sin coste por token.
Ponerlo en marcha no lleva más de un minuto:
sudo fm license — aceptas la licencia una sola vez
fm available — comprueba que el modelo está descargado
fm respond «tu pregunta» — lanza tu primera consulta
Hasta ahora este modelo solo era accesible desde Swift, dentro de una aplicación compilada en Xcode. Ahora puedes integrarlo en un script de bash, pasarle contenido mediante pipe o pedirle una salida en JSON con un esquema definido a través de fm schema.
Lo más útil para quienes desarrollan está en fm serve. Levanta en localhost un endpoint compatible con la API Chat Completions de OpenAI, de modo que cualquier código que ya funcione con OpenAI puede apuntar al modelo local cambiando únicamente una línea.
La principal limitación es la ventana de contexto. Dependiendo del modelo que incorpore tu equipo, dispones de 4.096 u 8.192 tokens, que se reparten entre las instrucciones, el prompt y la respuesta. Con fm count-tokens puedes saber cuánto consumes antes de enviar nada.
Por eso rinde mejor en tareas como resumir, clasificar, extraer datos o reescribir textos. Para código extenso o razonamiento complejo se queda justo. Para esos casos existe la opción –model pcc, que redirige la petición a Private Cloud Compute con 32.000 tokens de contexto, aunque en ese caso la información ya sale de tu máquina.
En definitiva, cualquier Mac con macOS 27 tiene ya un endpoint de inferencia local listo para usar, sin instalar Ollama ni descargar modelos adicionales.
Merece la pena abrir la terminal y echarle un vistazo.
fm: el CLI de Apple Foundation Models integrado en macOS 15 para inferencia local sin dependencias externas
Resumen técnico
El binario fm llega preinstalado en macOS 15 (Sequoia) y expone el modelo on-device de Apple Foundation Models directamente desde terminal. La activación requiere sudo fm license para aceptar términos, fm available para verificar el modelo descargado y fm respond para lanzar inferencia. Soporta entrada por pipe, generación de JSON estructurado mediante fm schema y contabilización de tokens con fm count-tokens. La ventana de contexto oscila entre 4.096 y 8.192 tokens según hardware. El subcomando fm serve levanta un endpoint local compatible con la API Chat Completions de OpenAI en localhost.
Análisis de implicaciones
El acceso anterior al modelo on-device exigía Swift y un proyecto compilado en Xcode, lo que excluía scripts, pipelines de automatización y herramientas políglota. fm serve elimina esa fricción: cualquier cliente que consuma la especificación Chat Completions puede redirigirse al modelo local cambiando únicamente la base URL. La limitación crítica sigue siendo el contexto compartido entre system prompt, input y output. Para contextos de 32K tokens existe –model pcc, pero implica salida de datos al entorno Private Cloud Compute, rompiendo el aislamiento local.
Aplicación práctica
Casos directamente operativos hoy: clasificar logs pasándolos por pipe con cat errores.log | fm respond «clasifica por severidad», extraer campos estructurados de texto plano usando fm schema con un esquema JSON definido, o integrar el modelo en scripts bash de CI para resumir changelogs automáticamente. Para sustituir llamadas a GPT-4o en entornos de desarrollo, basta con apuntar el cliente existente a http://localhost en el puerto que levante fm serve, sin modificar lógica de aplicación.
Contexto del sector
La inferencia local gana tracción como alternativa a APIs de pago en flujos de desarrollo internos. Herramientas como Ollama o LM Studio han normalizado este patrón, pero requieren descargar pesos externos y gestionar modelos manualmente. fm propone un enfoque diferente: modelo gestionado por el sistema operativo, sin configuración adicional, integrado en el toolchain de Apple Silicon. La compatibilidad con la especificación OpenAI Chat Completions es la decisión arquitectónica más relevante para adopción en entornos de desarrollo existentes.
