Fix remquo spurious overflows (bug 17978).
commita820f9b3c0cb5e80cd892b0f9c1c48f48bd4413f
authorJoseph Myers <joseph@codesourcery.com>
Mon, 16 Feb 2015 22:38:28 +0000 (16 22:38 +0000)
committerJoseph Myers <joseph@codesourcery.com>
Mon, 16 Feb 2015 22:38:28 +0000 (16 22:38 +0000)
treee563669e7d00f3eeab3c3b8f34ddd77339c57def
parentbe802953a103bfd502d696f1418e2bef1b450be2
Fix remquo spurious overflows (bug 17978).

Various remquo implementations, when computing the last three bits of
the quotient, have spurious overflows when 4 times the second argument
to remquo overflows.  These overflows can in turn cause bad results in
rounding modes where that overflow results in a finite value.  This
patch adds tests to avoid the problem multiplications in cases where
they would overflow, similar to those that control an earlier
multiplication by 8.

Tested for x86_64, x86, mips64 and powerpc.

[BZ #17978]
* sysdeps/ieee754/dbl-64/s_remquo.c (__remquo): Do not form
products 4 * y and 2 * y where those would overflow.
* sysdeps/ieee754/dbl-64/wordsize-64/s_remquo.c (__remquo):
Likewise.
* sysdeps/ieee754/flt-32/s_remquof.c (__remquof): Likewise.
* sysdeps/ieee754/ldbl-128/s_remquol.c (__remquol): Likewise.
* sysdeps/ieee754/ldbl-128ibm/s_remquol.c (__remquol): Likewise.
* sysdeps/ieee754/ldbl-96/s_remquol.c (__remquol): Likewise.
* math/libm-test.inc (remquo_test_data): Add more tests.
ChangeLog
NEWS
math/libm-test.inc
sysdeps/ieee754/dbl-64/s_remquo.c
sysdeps/ieee754/dbl-64/wordsize-64/s_remquo.c
sysdeps/ieee754/flt-32/s_remquof.c
sysdeps/ieee754/ldbl-128/s_remquol.c
sysdeps/ieee754/ldbl-128ibm/s_remquol.c
sysdeps/ieee754/ldbl-96/s_remquol.c