Also ich glaube jetzt hab ichs rausgefunden:
Die Standardeinstellung von Firefox ist: Adressleiste + Enter = gleicher Tab, Adressleiste + Alt + Enter = neuer Tab.
Mit TabMixPlus hatte ich es so geändert, sodass es genau andersrum war (also beim normalen eingaben ging neues tab auf und bei alt+Enter vorhandenes Tab).
Habs jetzt wieder auf Standardeinstellung...
Mit Keyconfig kann ich die Standard Einstellungen irgendwie nicht ändern, sondern nur die von den Toolbars.
Hab auch mal in paar Dateien gesucht aber ohne Erfolg.
Irgendwo muss Firefox ja den Shortcut für Alt+Enter gespeichert haben und will da einfach nur Shift+Enter draus machen.