Fix soft-fp extended.h unpacking (GCC bug 77265).
commitc20809709ab330f927c87fefe439554d3b1f643a
authorJoseph Myers <joseph@codesourcery.com>
Tue, 16 Aug 2016 17:11:46 +0000 (16 17:11 +0000)
committerJoseph Myers <joseph@codesourcery.com>
Tue, 16 Aug 2016 17:11:46 +0000 (16 17:11 +0000)
treea4661b848a3deae873c115008866f9bc453cbe3b
parent8b7d13322a7034c1cecbd441185b4d0db96a2a47
Fix soft-fp extended.h unpacking (GCC bug 77265).

soft-fp unpacking for x86 "extended" fails to clear the implicit
mantissa high bit that is explicit in that format, resulting in
problems for operations that expect this bit to be clear in raw
unpacked values.  Specifically, the code for this format is used only
for conversions to and from TFmode (__float128) in libgcc, where this
issue results in GCC bug 77265, extension of long double infinity to
__float128 wrongly produces a NaN.

This patch fixes this by always masking out the implicit bit on
unpacking, so that the results of unpacking meet the expectations of
the rest of the soft-fp code for a normal IEEE format.

Tested for x86_64 in libgcc in conjunction with a GCC testcase for
this issue (this code isn't used in glibc, only in libgcc).

* soft-fp/extended.h [_FP_W_TYPE_SIZE < 64] (FP_UNPACK_RAW_E):
Mask implicit bit out of unpacked value.
[_FP_W_TYPE_SIZE < 64] (FP_UNPACK_RAW_EP): Likewise.
[_FP_W_TYPE_SIZE >= 64] (FP_UNPACK_RAW_E): Likewise.
[_FP_W_TYPE_SIZE >= 64] (FP_UNPACK_RAW_EP): Likewise.
ChangeLog
soft-fp/extended.h