Und wo und wie kann man diese lokalen KI-Modelle herbekommen?
Entwicklung Firefox
-
pcinfarkt -
15. August 2009 um 20:46 -
Erledigt
-
-
Firefox lädt die automatisch herunter, sobald ein Feature benutzt wird, welches lokale KI einsetzt. Es gibt ansonsten auch noch eine experimentelle WebExtension-Schnittstelle für KI-Erweiterungen. Die in meinem Screenshot gezeigten Modelle kommen aber alle von Firefox-Funktionen.
-
lichen Dank. -
Wer browser.ml.modelHubProvider als Boolean-Schalter mit dem Wert true anlegt, erhält in about:addons einen neuen Reiter, der die lokalen KI-Modelle anzeigt (inklusive Daten zur letzten Aktualisierung und Nutzung sowie Möglichkeit zum Entfernen), die für verschiedene Firefox-Funktionen heruntergeladen worden sind.
Mit welcher Firefox-Version hast Du das denn durchgeführt? Im aktuellen Nightly klappt das jedenfalls nicht, bzw., nicht bei meinem aktuellen Nightly; der Eintrag bleibt hier ohne Wirkung.
-
In diesem Thema geht es immer um die Nightly-Version.
Und den Schalter gibt es schon seit ein paar Wochen. -
In diesem Thema geht es immer um die Nightly-Version.
Oh.
-
Wieso überrascht dich das?
-
Wieso überrascht dich das?
Erstaunt ich bin.
Habe ich doch in der aktuellen Version diesen Schalter ausprobiert, und es funktionierte.
Aber wieder gelöscht, da es mir nichts brachte. -
In diesem Thema geht es immer um die Nightly-Version.
Und den Schalter gibt es schon seit ein paar Wochen.Ja, ok; aber warum klappt das dann hier nicht, wenn es das schon ein paar Wochen gibt? Wie beschrieben, dieser Eintrag bleibt hier ohne Wirkung.
-
So sieht das bei mir im Nightly aus:
-
aber warum klappt das dann hier nicht, wenn es das schon ein paar Wochen gibt?
Sofern du noch keine Firefox-Funktion verwendet hast, die ein lokales KI-Modell erfordert, dementsprechend also auch noch keines heruntergeladen worden ist, wird der Reiter nicht angezeigt. Das lässt sich am leichtesten über ein neues Profil nachvollziehen. Dort gibt es zunächst auch noch nichts. Wenn man dann zum Beispiel weitere Tabs für eine Tab-Gruppe vorschlagen lässt, gibt es danach diesen Reiter.
-
aber warum klappt das dann hier nicht, wenn es das schon ein paar Wochen gibt?
Sofern du noch keine Firefox-Funktion verwendet hast, die ein lokales KI-Modell erfordert,
Teilt einem Firefox vor potentiell notwendiger Nutzung von KI-Modellen mit, bei welchen Firefox-Funktionen sowas erforderlich ist? So, daß man das wissentlich überhaupt mitbekommt?
So sieht das bei mir im Nightly aus:
Die Darstellung ist ja auch in einer anderen Sprache; vielleicht ist es da ja anders organisiert?
-
Die Darstellung ist ja auch in einer anderen Sprache; vielleicht ist es da ja anders organisiert?
Es ist nur die Oberfläche in Firefox übersetzt, auf die Funktionen wirkt sich das nicht aus. Ich muss dir allerdings sagen, dass ich da keinen Schimmer habe, wozu das KI-Model in meinem Firefox gut ist. Mein Bildschirmfoto sollte ja auch nur zeigen, dass mit der von Sören erwähnten Einstellung wirklich etwas angezeigt wird, da bei dir ja nichts angezeigt wird.
-
Kann es sein, dass dieses Feature an Studies oder andere Schalter gebunden ist? Wird hier auch nicht angezeigt.
-
Teilt einem Firefox vor potentiell notwendiger Nutzung von KI-Modellen mit, bei welchen Firefox-Funktionen sowas erforderlich ist? So, daß man das wissentlich überhaupt mitbekommt?
Das kommt auf das jeweilige Feature an. Für smarte Tab-Gruppen gibt es ein Opt-in:
Für Link-Vorschauen gibt es auch ein Opt-in:
Die Alt-Text-Generierung für Bilder in PDF-Dateien weist lediglich auf den KI-Einsatz hin:
Das Modell, welches für die verbesserte Erkennung von Formular-Feldern genutzt wird, arbeitet komplett transparent, da gibt es weder ein Opt-in noch einen Hinweis.
Generell ist es so, dass wenn du darauf hingewiesen wirst, nicht explizit davon die Rede ist, dass Modelle heruntergeladen ist, sondern vom Einsatz von KI oder auch nur von einer automatischen Erstellung gesprochen wird. Daraus folgt implizit, dass entsprechende Modelle heruntergeladen werden müssen, wenn keine Daten an einen externen Dienst übertragen werden sollen. Wenn der KI-Einsatz kommuniziert wird, siehst du aber immer auch dieses eine Icon, welches du in allen drei Screenshots siehst.
Ich muss dir allerdings sagen, dass ich da keinen Schimmer habe, wozu das KI-Model in meinem Firefox gut ist.
Das, was bei dir im Screenshot zu sehen ist, sorgt für eine verbesserte Erkennung von Formularfeldern auf Websites, was relevant für das Speichern und automatische Ausfüllen von Adressen und Bezahlmethoden ist.
Kann es sein, dass dieses Feature an Studies oder andere Schalter gebunden ist? Wird hier auch nicht angezeigt.
Wie gesagt siehst du den Reiter in about:config nur, wenn mindestens ein Modell lokal heruntergeladen worden ist. Das ist von keinen weiteren Einstellungen oder Studien abhängig. Einzelne Features, die auf lokale KI setzen, können natürlich abhängig davon sein oder sind auch noch standardmäßig deaktiviert. Aber Dinge wie die smarten Tab-Gruppen sind in der Nightly-Version bereits standardmäßig aktiviert. Man muss sie nur eben mindestens einmal nutzen, damit der Download stattfindet.
===
In meinem Screenshot sind ja schon ein paar Modelle mehr zu sehen. Die haben die folgenden Einsatzzwecke:
- all-MiniLM-L6-v2: Semantische Suche für die Chronik, sprich es kann nicht mehr nur nach dem exakten Wortlaut gesucht werden
- distilvit: Genrierung von Alternativ-Texten für Bilder in PDF-Dateien
- smart-tab-embedding: Ähnliche Tabs für Tab-Gruppen finden
- smart-tab-topic: Automatisch Titel für Tab-Gruppen generieren
- SmolLM2-360M-Instruct-GGUF: Zusammenfassung von Website-Inhalten für Link-Vorschau
- tinybert-uncased-autofill: Verbesserte Erkennung von Formularfeldern für automatisches Ausfüllen von Adressen und Bezahlmethoden
-
Das, was bei dir im Screenshot zu sehen ist, sorgt für eine verbesserte Erkennung von Formularfeldern auf Websites, was relevant für das Speichern und automatische Ausfüllen von Adressen und Bezahlmethoden ist.
Danke für die Erklärung.
-
Erstaunt ich bin.
Habe ich doch in der aktuellen Version diesen Schalter ausprobiert, und es funktionierte.Ich kann bestätigen, dass der Schalter bei mir in Version 138.0.4 in about:config bekannt war und nach Aktivierung der zusätzliche Eintrag zu sehen ist. Es wird aber, wenig überraschend, als einziger Eintrag ModelHub undefined angezeigt.
-
Es wird aber, wenig überraschend, als einziger Eintrag ModelHub undefined angezeigt.
Mir ist nicht klar, woher bei dir das „undefined“ kommt, da ich das nicht sehe, aber in Firefox 138.0.4 ist das noch relativ sinnbefreit, weil die Funktion dort noch überhaupt nicht implementiert ist und nur Fake-Content angezeigt wird:
-
Ähm, ich hab das gar nicht als Fehlermeldung aufgefasst. Ich habe aber auch gar nicht erwartet, da etwas Funtkionierendes zu finden. In der Vergangenheit war es doch aber immer mal wieder so, dass Funktionen testweise auch früher freigeschaltet werden konnten, nur deshalb habe ich überhaupt mal nachgesehen.
-
Klar, hätte sein können. Mein Beitrag dient auch nur der Information, dass das in Firefox 138.0.4 zwar „aktiviert“ werden kann, dort aber noch nichts bringt, weil es kein echter Inhalt ist.
