Fix ldbl-128ibm floorl for non-default rounding modes (bug 17899).
commit1833769e19236119d6e41041a53e0f8047156c24
authorJoseph Myers <joseph@codesourcery.com>
Thu, 18 Feb 2016 21:31:10 +0000 (18 21:31 +0000)
committerJoseph Myers <joseph@codesourcery.com>
Thu, 18 Feb 2016 21:31:10 +0000 (18 21:31 +0000)
tree10cad6fc4084e147e2387f47c9da52798c4f2ece
parent656ee792a998987c44f23636e864643887f0a916
Fix ldbl-128ibm floorl for non-default rounding modes (bug 17899).

The ldbl-128ibm implementation of floorl is only correct in
round-to-nearest mode (in other modes, there are incorrect results and
overflow exceptions in some cases going beyond the incorrect signs of
zero results noted in bug 17899).  It is also unnecessarily
complicated, rounding both high and low parts to the nearest integer
and then adjusting for the semantics of floor, when it seems more
natural to take the floor of the high part (__floor optimized inline
versions can be used), and that of the low part if the high part is an
integer.  This patch makes it use that simpler approach, with a
canonicalization that works in all rounding modes (given that the only
way the result can be noncanonical is if taking the floor of a
negative noninteger low part increased its exponent).

Tested for powerpc, where over a thousand failures are removed from
test-ldouble.out (floorl problems affect many powl tests).

[BZ #17899]
* sysdeps/ieee754/ldbl-128ibm/math_ldbl.h (ldbl_canonicalize_int):
New function.
* sysdeps/ieee754/ldbl-128ibm/s_floorl.c (__floorl): Use __floor
on high and low parts then use ldbl_canonicalize_int if needed.
ChangeLog
sysdeps/ieee754/ldbl-128ibm/math_ldbl.h
sysdeps/ieee754/ldbl-128ibm/s_floorl.c