setjmp: fix x86-64 longjmp argument adjustment
commit21431a0e43a65e9547c9a23497f074f861bcab8b
authorAlexander Monakov <amonakov@ispras.ru>
Tue, 11 Aug 2020 18:11:14 +0000 (11 21:11 +0300)
committerRich Felker <dalias@aerifal.cx>
Tue, 11 Aug 2020 18:42:54 +0000 (11 14:42 -0400)
tree633bce5d95ccd614b93e15ab5a227a3d9f852e9d
parentc2feda4e2ea61f4da73f2f38b2be5e327a7d1a91
setjmp: fix x86-64 longjmp argument adjustment

longjmp 'val' argument is an int, but the assembly is referencing 64-bit
registers as if the argument was a long, or the caller was responsible
for extending the argument. Though the psABI is not clear on this, the
interpretation in GCC is that high bits may be arbitrary and the callee
is responsible for sign/zero-extending the value as needed (likewise for
return values: callers must anticipate that high bits may be garbage).

Therefore testing %rax is a functional bug: setjmp would wrongly return
zero if longjmp was called with val==0, but high bits of %rsi happened
to be non-zero.

Rewrite the prologue to refer to 32-bit registers. In passing, change
'test' to use %rsi, as there's no advantage to using %rax and the new
form is cheaper on processors that do not perform move elimination.
src/setjmp/x32/longjmp.s
src/setjmp/x86_64/longjmp.s