Das ist einfach so, weil der Firefox HTML-Dateien und Webseiten sich selber zuordnet. Wenn der deinstalliert wird, haben die Dateien halt keine (funktionierende) Zuordnung und auch kein Icon mehr.
Wenn man den Firefox nur testen und nicht dauerhaft installieren will, empfielt es sich deshalb, das zip-Archiv und nicht den Installer runterzuladen, denn bei dem zip-Archiv werden keine Veränderungen der Dateizuordnungen vorgenommen.
Beheben kann man das problem wohl über die Ordneroptionen des Windows-Explorers bei Dateizuordnungen.