Cette semaine, l'un des groupes les plus crédibles de l'IA – soutenu par General Catalyst, Kleiner Perkins et Sequoia, avec Andrej Karpathy comme conseiller – a mis une somme à neuf chiffres derrière une seule idée : les modèles que nous utilisons tous les jours ne comprennent pas vraiment ce que nous faisons, et le moyen d'y remédier est de leur faire apprendre notre propre contexte plutôt que l'internet public.
Nous ne pourrions être plus d'accord. Comme l'a formulé l'un de leurs investisseurs, les modèles que nous utilisons tous les jours sont des "inconnus brillants" – ils oublient votre monde à l'instant où une conversation se termine, puis le réapprennent depuis zéro à la requête suivante. C'est exactement la faille contre laquelle Ostler a été construit. C'est, presque mot pour mot, le pari que nous avons fait.
Ceci n'est donc pas une réfutation. C'est un accueil. Quand une thèse que vous ruminez discrètement depuis deux ans reçoit le tampon de ceux qui définissent le domaine, la bonne réaction n'est pas de broncher. C'est de dire : tant mieux. Parlons maintenant de ce qui vient ensuite.
L'accord, puis la bifurcation
Voici le point sur lequel presque tout le monde s'accorde désormais : la frontière n'est plus un modèle plus gros entraîné sur davantage d'internet. Cette course-là plafonne. Le prochain axe, c'est votre contexte – les projets, les personnes, les décisions et l'histoire sur lesquels aucun modèle public n'a jamais été entraîné. La mémoire est la douve.
Une fois cela accepté, il reste exactement une question, et elle est tout l'enjeu : où vit cette mémoire, et qui la contrôle ?
Il y a deux réponses honnêtes.
La première – la réponse entreprise – consiste à prendre les données d'une organisation et à les entraîner dans un modèle. Cuire les documents et l'historique de conversations de la société dans les poids, puis réentraîner en continu pour que le modèle reste à jour. Pour un cabinet d'avocats ou une grande entreprise, c'est réellement puissant. Le cabinet veut un modèle qui a intériorisé le cabinet tout entier. Très bien.
La seconde – la réponse personnelle – diffère par nature, pas par degré. Une personne n'est pas une société. Votre contexte n'est pas un espace de travail partagé rempli de documents approuvés. Ce sont dix ans de messages, de photos, d'e-mails et de notes à moitié écrites – le dossier le plus intime qui existe sur votre vie. Et l'idée que, pour qu'un assistant vous comprenne, il faudrait téléverser tout cela vers un laboratoire et l'entraîner dans des poids que vous ne verrez jamais, sur des serveurs qui ne vous appartiennent pas, réglés sur une métrique qui n'est pas la vôtre – ce n'est pas un compagnon. C'est un enregistrement de vous, détenu par quelqu'un d'autre.
Il y a des preuves derrière cela, pas seulement un principe. Quand des chercheurs ont comparé les deux approches face à face – injecter de nouveaux faits dans un modèle par ajustement fin contre les récupérer dans le contexte – la récupération l'a emporté avec une large marge (Ovadia et al., "Fine-Tuning or Retrieval? Comparing Knowledge Injection in LLMs", 2023 : environ 0,87 contre 0,50 sur les tâches de connaissances nouvelles). Les modèles sont tout simplement mauvais pour apprendre de nouveaux faits par entraînement, et ils risquent d'oublier ce qu'ils savaient déjà. Pour les faits propres à une personne, la réponse en forme de récupération est aussi la mieux étayée. Des méthodes d'entraînement plus récentes visent à combler cet écart, et y parviendront peut-être ; mais une architecture qui garde votre mémoire lisible, corrigeable et sur votre propre machine ne dépend pas de l'issue de cette course.
Une mémoire que vous ne pouvez pas voir n'est pas la vôtre
Nous pensons que la réponse personnelle doit être locale. Non comme un slogan, mais comme une architecture.
Ostler n'entraîne pas votre vie dans un modèle logé dans notre cloud. Nous n'avons pas de cloud pour vos données. Ostler lit les réserves déjà présentes sur votre Mac – Messages, Mail, Contacts, Calendrier, vos notes – et construit un graphe de connaissances personnel qui reste sur votre machine. La mémoire est une chose que vous pouvez ouvrir, lire, corriger et supprimer. Quand l'assistant vous dit quelque chose sur votre propre vie, il lit dans un graphe qui vous appartient, il ne se remémore pas quelque chose de dissous dans des poids que personne ne peut inspecter.
Voilà la différence entre une mémoire et un dossier. Une mémoire que vous détenez est la vôtre. Une mémoire sur le serveur de quelqu'un d'autre, que vous ne pouvez ni voir ni retirer, est un dossier qu'il tient sur vous. Pour une entreprise, un dossier peut être acceptable. Pour une personne, il ne devrait pas l'être.
C'est aussi pourquoi le "local-first" devient un prérequis et n'est plus toute l'histoire. Quantité de produits vont désormais s'en réclamer. La promesse plus difficile, et plus honnête, est celle qui se tient en dessous : non seulement les données sont locales, mais c'est vous qui tenez les rênes – vous décidez de ce qui est conservé, de ce qui est mis en avant et de ce qui est oublié. Ostler est construit pour que vous le puissiez. Des niveaux de confidentialité sur chaque fait. Un mécanisme de corrections qui vous laisse supprimer, remplacer ou compléter ce que le système croit. Un wiki de votre propre vie que vous pouvez réellement parcourir et auditer. Le contrôle est la fonctionnalité, pas la friction.
Le même pari, ramené au terrain personnel
Rien de tout cela ne nous oppose aux laboratoires qui déversent aujourd'hui de l'argent dans le contexte. Cela nous place sur la même carte, à un endroit différent. Ils construisent la mémoire d'une organisation, dans le cloud, pour l'entreprise. Nous construisons la mémoire d'une personne, sur sa propre machine, pour elle.
Nous sommes heureux que la catégorie soit réelle. Nous le pensons depuis longtemps – le schéma d'une base de connaissances auto-compilée, "maintenue comme du code", est celui que Karpathy lui-même a décrit, et il se trouve aujourd'hui dans notre architecture. La validation est bienvenue.
Nous avons simplement répondu à la question qui vient après l'accord. La mémoire est la douve – oui. Et la mémoire la plus personnelle au monde devrait vivre à exactement un endroit : chez la personne à qui elle appartient. C'est ce que nous construisons. Cela tourne sur votre Mac. Les clés ne quittent jamais vos mains.
Si c'est l'avenir sur lequel vous voulez parier, vous pouvez lire ici ce qu'il en est de l'architecture. Questions, corrections, désaccords – hello@ostler.ai.