MemoryCache: Lokaler KI-Assistent

Mit MemoryCache hat das Mozilla Innovation Team ein weiteres KI-Experiment vorgestellt. Dieses soll aus vom Benutzer bereitgestellten Daten wie besuchten Websites lernen.

Mit MemoryCache hat das Mozilla Innovation Team ein weiteres KI-Experiment vorgestellt. Dieses soll aus vom Benutzer bereitgestellten Daten wie besuchten Websites lernen.

Im Rahmen der Innovation Week im Dezember hat das Mozilla Innovation Team mehrere Projekte aus dem Bereich der Künstlichen Intelligenz vorgestellt, darunter mit Solo einen KI-basierten Website-Builder und mit llamafile eine revolutionäre Möglichkeit, einen LLM-Chatbot in einer einzigen Datei auszuliefern, welche auf verschiedenen Betriebssystemen einfach gestartet werden kann und im Gegensatz zu ChatGPT & Co. lokal auf dem Computer läuft. Ein weiteres Projekt ist MemoryCache.

Die Idee von MemoryCache ist es, einen lokalen KI-Assistenten bereitzustellen, welcher nicht etwa aus großen Modellen, sondern aus vom Anwender selbst bereitgestellten und kategorisierbaren Informationen lernt und dann beispielsweise bei der Recherche oder beim Brainstorming hilft, scheinbar nicht zusammenhängende Themen miteinander zu verbinden und so neue Einsichten und Erkenntnisse zu gewinnen. So können zum Beispiel besuchte Websites gespeichert werden, aber auch Dateien, die manuell hinzugefügt werden. Der große Datenschutz-Vorteil, wie auch schon bei llamafile: Alles findet lokal auf dem eigenen Computer statt, es werden keine Daten an irgendeinen Dritten weitergeleitet.

Das folgende Bild zeigt ein Mockup einer möglichen zukünftigen Oberfläche:

Mozilla MemoryCache Mockup

MemoryCache befindet sich noch in einem früheren experimentellen Status. Dementsprechend kompliziert ist die Ausführung zu diesem Zeitpunkt noch. Neben einem lokalen Setup einer älteren Version von PrivateGPT sowie einem konfigurierten Symlink auf dem System wird derzeit noch eine Firefox-Erweiterung sowie ein angepasster Firefox-Build benötigt. Zu einem späteren Zeitpunkt soll das idealerweise einfacher funktionieren.

Der Beitrag MemoryCache: Lokaler KI-Assistent erschien zuerst auf soeren-hentzschel.at.

Antworten 2

2. Januar 2024 um 23:10
Zitat

Die Idee von MemoryCache ist es, einen lokalen KI-Assistenten bereitzustellen, welcher nicht etwa aus großen Modellen, sondern aus vom Anwender selbst bereitgestellten und kategorisierbaren Informationen lernt und dann beispielsweise bei der Recherche oder beim Brainstorming hilft, scheinbar nicht zusammenhängende Themen miteinander zu verbinden und so neue Einsichten und Erkenntnisse zu gewinnen

Was kann ich mir genau darunter vorstellen? Eine lokale intelligente Suchmaschine, die mit ausgewählten Daten/Dateien mir Ergebnisse anzeigt? Ich mag falsch liegen, falls:

Everything als Dateisuche, Locate32 dito, andere auch. Wäre das ein Ersatz, oder eine Ergänzung? Was darf ich mir vorstellen?

3. Januar 2024 um 00:24

Die Beschreibungen, die das Projekt dazu gibt, sind zu diesem Zeitpunkt noch sehr allgemein. Das einzige, was es wirklich zu sehen gab, war ja auch nur ein Mockup einer noch nicht implementierten Oberfläche. Insofern kann ich nicht sagen, wie genau die Vorgehensweise geplant ist oder ob das überhaupt schon im Detail klar ist. Aber vorstellen könnte ich mir auch hier, da ja PrivateGPT zum Einsatz kommt, das Chatbot-Konzept, sprich dass man Fragen stellen kann und dann Antworten basierend auf den Inhalten erhält. Wobei auf der Projekt-Website steht, dass sie die Ambition hätten, über das Chat-Interface hinauszugehen. Da muss man mal abwarten. Dieses Experiment befindet sich noch in einem deutlich früheren Stadium als die anderen vorgestellten Projekte Solo und llamafile.

Es gibt auch ein Video auf Instagram, in dem drei KI-Projekte angeteasert werden, das erste davon ist MemoryCache. Aber das ist ähnlich allgemein beschrieben und geht nicht ins Detail:

Externer Inhalt www.instagram.com
Inhalte von externen Seiten werden ohne deine Zustimmung nicht automatisch geladen und angezeigt.
Durch die Aktivierung der externen Inhalte erklärst du dich damit einverstanden, dass personenbezogene Daten an Drittplattformen übermittelt werden. Mehr Informationen dazu haben wir in unserer Datenschutzerklärung zur Verfügung gestellt.

Diskutiere mit!