math: Improve fmodf