Die Installer-Version speichert den Firebird-Ordner wo du willst, erstellt Verknüpfungen im Startmenü und in der Schnellstartleiste(wenn du willst). Außerdem werden Registry-Keys angelegt, anhand derer Plug-ins wie Flash auch automatisch für Mozilla Firebird genutzt werden.
Die ausführbare Version dagegen hat den Vorteil, dass keine Registry-Keys eingerichtet werden und somit beim löschen des Ordners das System 'sauber' bleibt.