GPS/Kompass sind ursächlich vibrationsunanfällig.
Wenn der Mast so stark vibriert, dann kürze ihn doch einfach um 5 cm oder hast du E-Smog-Probleme?
Aber das eigentlich Problem sind die Vibrationen, die den Mast zu Schwingen bringen. Da mußt du ansetzen und die Ursache herausfinden und beseitigen. Denn diese Vibs wirken auch auf deine FC und da hilft auch kein EKF, wenn es so heftig ist.
Prüfe mal die Motoren und Props auf Unwuchten (IMU im Log mal mitlaufen lassen).
lg Hans