Die Datei ist vermutlich in einer falschen (lies: anderen als Firefox erwartet) Zeichenkodierung abgespeichert. Wenn du einen anständigen Editor zum Öffnen und Bearbeiten der Datei verwendest, kannst du da beim Speichern angeben, in welcher Kodierung die Datei gespeichert werden soll. Bei Searchplugins im Sherlock-Format (Endung .src, bis Firefox 1.5) war die Standard-Kodierung, die Firefox erwartet hat MAC-ROMAN bzw. X-MAC-ROMAN. (Ansonsten kann man auch in der Datei die Kodierung angeben, aber die Alternativen sind noch exotischer und dürften eigentlich kein ö beinhalten.)
(Zeichenkodierungen sind ein anfangs recht schwer verständliches Thema... die Zeichenkodierung legt fest, für welche Zeichen (Buchstaben) ein Byte innerhalb einer Text-Datei steht.)