Notas del taller.
IA personal local-first, arquitectura y los movimientos del sector que no dejan de confirmar la apuesta. Escrito en Hong Kong.
IA personal local-first, arquitectura y los movimientos del sector que no dejan de confirmar la apuesta. Escrito en Hong Kong.
Start here
Six posts that lay out the whole argument – the product thesis and the privacy story – in the order they build on each other.
The bet in one sitting: a small local reasoner plus your own memory beats the trillion-parameter monolith.
What “local-first” actually means when you build it honestly: every component on the one Mac you already own.
Why your context, not the model, is the real moat – and why for a person it has to stay local.
A privacy claim you can actually verify: the architecture writes the label, not the marketing team.
A concrete, high-stakes case for on-device: why a local note-taker keeps privilege where a cloud one breaks it.
The strategy in a sentence: value in AI is migrating from the model to the memory of you.
All posts
Hace once días argumentamos que la parte difícil de un asistente personal es llegar a tu vida siquiera, no el modelo. Nvidia señala ahora un segundo cuello de botella que tampoco es el modelo: el software construido alrededor. Misma conclusión, mecanismo distinto, y abajo somos precisos sobre qué mitad es suya y cuál nuestra.
Un proveedor anónimo empezó a regalar inferencia de primer nivel en OpenRouter, con una ficha que dice que las instrucciones y las respuestas se conservan. Días después, Hugging Face buscaba comprador por unos 13.000 millones de dólares. Ninguna de las dos es un escándalo. Ambas tratan de quién es dueño de la capa en la que no estabas pensando, incluida una de las nuestras, que nombramos.
OpenAI dice que un asistente que conozca toda tu vida está a solo una generación de modelo. No es un problema de modelo. Son permisos, formatos de archivo y un instalador firmado, y por eso tiene que ejecutarse en tu propio ordenador.
Todo chatbot de IA importante trae interruptores de privacidad enterrados a tres menús de profundidad. ChatGPT, Gemini, Copilot y Claude exigen cada uno entre tres y cinco actos deliberados para llegar a una postura defendible. Este es el impuesto, servicio por servicio, y lo que te dice sobre el modelo de negocio.
Jake Saper, de Emergence Capital, acaba de publicar una tesis: el valor en la IA empresarial está migrando de la capa de modelos hacia los datos y los flujos de trabajo construidos encima. Está describiendo, para la empresa, el mismo cambio estructural sobre el que está construido Ostler para el individuo. La desagregación personal es la siguiente. Este es el aspecto que tiene cuando el valor de la IA deja de estar dentro del modelo y pasa a estar en la memoria de ti.
El 24 de julio, Satya Nadella, Jensen Huang y más de treinta líderes tecnológicos más firmaron una carta abierta en apoyo de los modelos de IA de pesos abiertos. Packy McCormick lo encuadró como comoditizar el complemento. Lo que eso deja fuera: los pesos abiertos son la condición necesaria para que la IA personal pueda siquiera ejecutarse en tu propia máquina. La carta de ayer es el acuerdo de cadena de suministro que Ostler necesitaba en silencio.
Cuando los mismos pocos modelos en la nube se entrenan con todo el mundo y todo el mundo se apoya en ellos para pensar, nuestro resultado regresa a la media – nos homogeneizamos. La “paradoja inversa de la información” de Satya Nadella, e incluso el manifiesto de soberanía de Palantir, defienden el argumento empresarial. Pero las empresas establecidas que lo defienden no pueden venderte estructuralmente la versión personal. Tu inteligencia particular – todo lo que has leído, dicho y escuchado – es la única ventaja que no se puede promediar, si la conservas en tu propia máquina.
Empleadores, plataformas publicitarias y corredores de datos mantienen todos una memoria duradera y legible por máquina de ti, y ninguno de ellos es para ti. Una memoria realmente útil tiene que sobreguardar, y esa misma propiedad la hace monstruosa en manos de otro y liberadora en las tuyas. La única variable que lo invierte es quién la posee. Mira Murati defiende ahora lo mismo desde dentro.
Un laboratorio con mucha financiación acaba de poner a los nombres más creíbles de la IA detrás de la idea de que los modelos deben aprender de tu contexto. Estamos de acuerdo. La única pregunta que queda es dónde vive esa memoria y quién la controla – y para una persona, la respuesta honesta tiene que ser local.
Dos artículos independientes, uno de un boletín sobre la economía de los creadores y otro de una publicación para desarrolladores, llegan al mismo diagnóstico. Nadie ha ganado la carrera de los agentes de IA personal. El cuello de botella no es el modelo ni es el hardware; es si el agente tiene acceso a los datos reales del usuario. Ese es el problema en torno al cual está construido Ostler.
“Local-first” se ha convertido en una mentira educada en la IA personal. La mayoría de los productos que se venden como local en realidad mantienen el trabajo pesado en la nube, con la caché en tu dispositivo. Ostler ejecuta cada componente en una sola máquina Mac, la que el cliente ya posee. Así es como se ve el local-first cuando lo construyes con honestidad.
Kenan Saleh, de a16z Speedrun, esboza la próxima ola de la IA: agentes que monitorizan el contexto de forma continua, predicen lo que importa y actúan antes de que se les pida. Nombra dos productos que lo hacen; ambos están en la nube. Aquí está cómo se ve el observar-para-actuar cuando los datos nunca salen de la máquina del cliente.
The New York Times informa de abogados corporativos convertidos en porteros en reuniones virtuales, expulsando a los tomadores de notas con IA en la nube. El riesgo para el secreto profesional es arquitectónico, no editorial. Aquí está lo que cambia cuando el tomador de notas funciona en la propia máquina del cliente, con transcripción en el dispositivo mediante WhisperKit y un registro de consentimiento a prueba de manipulaciones.
La etiqueta nutricional de privacidad de la App Store de Apple es la única superficie de divulgación de privacidad en la tecnología con aplicación estructural. La app de iOS de Ostler declara cero rastreo y ningún dato vinculado, porque no existe ningún servidor de Ostler al que vincular datos. La arquitectura escribe la etiqueta, no el abogado.
Una demanda colectiva presentada en California este mes alega que las conversaciones con chatbots se han enrutado a través de rastreadores publicitarios. El argumento cala porque los chatbots son ahora la tecnología más íntima que usa mucha gente. La privacidad por política no puede evitar este tipo de fuga. Solo la arquitectura puede.
Tres puntos de vista completamente distintos han convergido en la misma arquitectura para la IA personal en los últimos seis meses. El ministro de Asuntos Exteriores de Singapur usándola a diario en una Raspberry Pi. Andrej Karpathy describiéndola en el escenario. Un fundador entregándola a clientes. No tenían motivo para coincidir. Coincidieron de todos modos.
Apple está a punto de conceder la categoría. El hecho de que la empresa de tecnología de consumo más obsesionada con la privacidad del planeta no pueda construir una IA personal en local te dice exactamente lo grande que es el mercado, y por qué la apuesta local-first es la operación contraria que ahora se está exigiendo.
El 21 de abril de 2026, OpenAI publicó Privacy Filter como open weights bajo Apache 2.0. Funciona en local, detecta ocho categorías de PII y encaja directamente en el pipeline de ingesta, diagnóstico y pre-vuelo de Ostler. Aquí está el porqué, y qué señala el lanzamiento.
En el pódcast de Dwarkesh Patel el 17 de octubre de 2025, Andrej Karpathy argumentó que un razonador pequeño con memoria externa supera a un monolito de 1,8 billones de parámetros. Esa es la arquitectura que Ostler ejecuta desde finales de 2025. Aquí está lo que significa para la IA personal local-first.
Tras veinte años entregando mis datos a empresas tecnológicas, construí un grafo de conocimiento personal que funciona enteramente en una Mac Mini. Esta es la historia de cómo llegó hasta aquí, y por qué importa que nada salga de casa.