VLC statt Media Player nutzen?

Ja, grundsätzlich möglich ist es. Unter Extras -> Add-ons -> Plugins kannst du das MediaPlayer-Plugin deaktivieren. Normalerweise sollte dann für kompatible Typen das VLC-Plugin benutzt werden (wenn es denn überhaupt installiert ist - falls nicht, einfach nochmal das komplette VLC-Paket installieren).

Ich würde vom VLC-Plugin allerdings abraten. Erstens läuft es ziemlich unstabil und stürzt auf einigen Rechnern häufiger mal ab. Zweitens ist es kein natives Plugin, sondern reproduziert die meisten Formate mit eigenen Implementationen und das oft schlechter als die Originale. Drittens halte ich es für sehr unwahrscheinlich, dass es tatsächlich schneller sein soll das WMP-Plugin. Nach meinen Erfahrungen ist das VLC-Plugin meist das langsamste von allen.

Ich verwende ebenfalls den VLC-Player in Firefox, aber nicht das plugin, sondern den VLC-Player als externes Programm.

Das ist etwas ganz anderes. Gegen den VLC-Player will ich nichts gesagt haben, den steuere ich selbst per Media Player Connectivity aus dem Firefox an. Das VLC-Plugin ist allerdings noch nicht sehr ausgereift und ich rate grundsätzlich davon ab, es zu benutzen.

Ich würde auch raten, den Windows Media Player Plugin im Firefox zu deinstallieren. Dann kommt so wie es aussieht der Flash Player zum Einsatz, der stabiler läuft. Der Fuchs stürzt bei mir nur ein paar mal ab, das einzige Problem dabei.