Fix i386 fdim double rounding (bug 20255).
commit228a78c21b9ed27004a1ccb5bd48a3263d7cd67d
authorJoseph Myers <joseph@codesourcery.com>
Tue, 14 Jun 2016 16:41:50 +0000 (14 16:41 +0000)
committerJoseph Myers <joseph@codesourcery.com>
Tue, 14 Jun 2016 16:41:50 +0000 (14 16:41 +0000)
treeb15d7ef485701903f1fe3e79d7c044137ec2fbb4
parentf4015c8a861803c128112ca41fc62817398bd1c0
Fix i386 fdim double rounding (bug 20255).

fdim suffers from double rounding on i386 because subtracting two
double values can produce an inexact long double value exactly half
way between two double values.  This patch fixes this by creating an
i386-specific version of fdim - C, based on the generic version,
unlike the previous .S version - which sets the x87 precision control
to double precision for the subtraction and then restores it
afterwards.  As noted in the comment added, there are no issues of
double rounding for subnormals (a case that setting precision control
does not address) because subtraction cannot produce an inexact result
in the subnormal range.

Tested for x86_64 and x86.

[BZ #20255]
* sysdeps/i386/fpu/s_fdim.c: New file.  Based on math/s_fdim.c.
* math/libm-test.inc (fdim_test_data): Add another test.
ChangeLog
math/libm-test.inc
sysdeps/i386/fpu/s_fdim.c [new file with mode: 0644]