Diese Woche hat eine der glaubwürdigsten Gruppen in der KI – unterstützt von General Catalyst, Kleiner Perkins und Sequoia, mit Andrej Karpathy als Berater – eine neunstellige Summe hinter eine einzige Idee gestellt: Die Modelle, die wir täglich nutzen, verstehen nicht wirklich, was wir tun, und der Weg, das zu beheben, besteht darin, sie aus unserem eigenen Kontext lernen zu lassen statt aus dem öffentlichen Internet.
Wir könnten nicht mehr zustimmen. Wie einer ihrer Geldgeber es ausdrückte, sind die Modelle, die wir täglich nutzen, "brillante Fremde" – sie vergessen Ihre Welt in dem Moment, in dem ein Chat endet, und lernen sie bei der nächsten Anfrage von Grund auf neu. Genau gegen diese Lücke ist Ostler gebaut worden. Es ist, fast Wort für Wort, die Wette, die wir eingegangen sind.
Das hier ist also keine Widerlegung. Es ist eine Begrüßung. Wenn eine These, über die man zwei Jahre lang still nachgedacht hat, den Stempel derjenigen bekommt, die das Feld definieren, besteht die richtige Reaktion nicht darin, zusammenzuzucken. Sie besteht darin, zu sagen: gut. Und nun lassen Sie uns über den Teil sprechen, der als Nächstes kommt.
Die Einigkeit, und dann die Weggabelung
Hier sind sich inzwischen fast alle einig: Die Front ist nicht mehr ein größeres Modell, das auf mehr Internet trainiert wurde. Dieses Rennen läuft aus. Die nächste Achse ist Ihr Kontext – die Projekte, Menschen, Entscheidungen und die Geschichte, auf die nie ein öffentliches Modell trainiert wurde. Das Gedächtnis ist der Burggraben.
Wenn man das akzeptiert, bleibt genau eine Frage, und sie ist das ganze Spiel: Wo liegt dieses Gedächtnis, und wer kontrolliert es?
Es gibt zwei ehrliche Antworten.
Die eine – die Unternehmensantwort – besteht darin, die Daten einer Organisation zu nehmen und sie in ein Modell hineinzutrainieren. Die Dokumente und den Chatverlauf des Unternehmens in die Gewichte einbacken und laufend nachtrainieren, damit das Modell aktuell bleibt. Für eine Anwaltskanzlei oder ein großes Unternehmen ist das wirklich mächtig. Die Kanzlei will ein Modell, das die ganze Kanzlei verinnerlicht hat. In Ordnung.
Die andere – die persönliche Antwort – unterscheidet sich in der Art, nicht im Grad. Ein Mensch ist kein Unternehmen. Ihr Kontext ist kein gemeinsamer Arbeitsbereich mit freigegebenen Dokumenten. Es sind zehn Jahre Nachrichten, Fotos, E-Mails und halbfertige Notizen – die intimste Aufzeichnung, die es von Ihrem Leben gibt. Und die Vorstellung, ein Assistent verstehe Sie am besten, wenn man all das in ein Labor hochlädt und in Gewichte hineintrainiert, die Sie nie sehen werden, auf Servern, die Ihnen nicht gehören, abgestimmt auf eine Kennzahl, die nicht Ihre ist – das ist kein Begleiter. Das ist eine Aufzeichnung von Ihnen, gehalten von jemand anderem.
Dahinter steht Evidenz, nicht nur ein Prinzip. Als Forscher die beiden Ansätze direkt gegeneinander stellten – neue Fakten per Fine-Tuning in ein Modell hineintrainieren gegenüber sie per Retrieval in den Kontext holen –, gewann Retrieval mit deutlichem Abstand (Ovadia et al., "Fine-Tuning or Retrieval? Comparing Knowledge Injection in LLMs", 2023: rund 0,87 gegenüber 0,50 bei Aufgaben mit neuem Wissen). Modelle sind schlicht schlecht darin, neue Fakten dadurch zu lernen, dass man sie ihnen antrainiert, und sie laufen Gefahr, zu vergessen, was sie bereits wussten. Für die eigenen Fakten eines Menschen ist die Retrieval-förmige Antwort zugleich die besser belegte. Neuere Trainingsmethoden zielen darauf, diese Lücke zu schließen, und mögen es schaffen; aber eine Architektur, die Ihr Gedächtnis lesbar, korrigierbar und auf Ihrer eigenen Maschine hält, hängt nicht davon ab, dieses Rennen zu gewinnen.
Ein Gedächtnis, das Sie nicht sehen können, gehört Ihnen nicht
Wir denken, die persönliche Antwort muss lokal sein. Nicht als Slogan, sondern als Architektur.
Ostler trainiert Ihr Leben nicht in ein Modell in unserer Cloud hinein. Wir haben keine Cloud für Ihre Daten. Ostler liest die Speicher, die ohnehin auf Ihrem Mac liegen – Nachrichten, Mail, Kontakte, Kalender, Ihre Notizen –, und baut daraus einen persönlichen Wissensgraphen, der auf Ihrer Maschine liegt. Das Gedächtnis ist etwas, das Sie öffnen, lesen, korrigieren und löschen können. Wenn der Assistent Ihnen etwas über Ihr eigenes Leben sagt, liest er aus einem Graphen, der Ihnen gehört, und ruft nicht etwas ab, das in Gewichten aufgelöst wurde, die niemand einsehen kann.
Das ist der Unterschied zwischen einem Gedächtnis und einer Akte. Ein Gedächtnis, das Sie halten, gehört Ihnen. Ein Gedächtnis auf dem Server eines anderen, das Sie nicht sehen und nicht entfernen können, ist eine Akte, die dieser andere über Sie führt. Für ein Unternehmen mag eine Akte akzeptabel sein. Für einen Menschen sollte sie es nicht sein.
Das ist auch der Grund, warum "local-first" zur Grundvoraussetzung wird und nicht mehr die ganze Geschichte ist. Viele Produkte werden es nun für sich beanspruchen. Das schwierigere, ehrlichere Versprechen ist das darunter: nicht nur, dass die Daten lokal sind, sondern dass Sie die Nahtstelle in der Hand halten – Sie entscheiden, was behalten, was gezeigt und was vergessen wird. Ostler ist so gebaut, dass Sie das können. Datenschutzstufen für jeden einzelnen Fakt. Ein Korrekturmechanismus, mit dem Sie löschen, ersetzen oder ergänzen können, was das System glaubt. Ein Wiki Ihres eigenen Lebens, das Sie tatsächlich durchstöbern und prüfen können. Die Kontrolle ist das Feature, nicht die Reibung.
Dieselbe Wette, gezogen in die persönliche Ecke
Nichts davon bringt uns in Widerspruch zu den Laboren, die jetzt Geld in den Kontext stecken. Es setzt uns auf dieselbe Karte, an einen anderen Ort. Sie bauen das Gedächtnis einer Organisation, in der Cloud, für das Unternehmen. Wir bauen das Gedächtnis eines Menschen, auf seiner eigenen Maschine, für ihn.
Wir freuen uns, dass die Kategorie real ist. Wir denken das seit Langem – das Muster einer automatisch kompilierten Wissensbasis, "gepflegt wie Code", hat Karpathy selbst beschrieben, und es steckt heute in unserer Architektur. Die Bestätigung ist willkommen.
Wir haben nur die Frage beantwortet, die nach der Einigkeit kommt. Das Gedächtnis ist der Burggraben – ja. Und das persönlichste Gedächtnis der Welt sollte an genau einem Ort liegen: bei dem Menschen, dem es gehört. Das ist es, was wir bauen. Es läuft auf Ihrem Mac. Die Schlüssel verlassen nie Ihre Hände.
Wenn das die Zukunft ist, auf die Sie setzen wollen, können Sie hier über die Architektur lesen. Fragen, Korrekturen, Widerspruch – hello@ostler.ai.