linux-user: Properly Handle semun Structure In Cross-Endian Situations
commit5464baecf521d1ca8095604f5a7371443c94226a
authorTom Musta <tommusta@gmail.com>
Tue, 12 Aug 2014 18:53:34 +0000 (12 13:53 -0500)
committerRiku Voipio <riku.voipio@linaro.org>
Fri, 22 Aug 2014 12:06:34 +0000 (22 15:06 +0300)
treeacefd068047b91bc64e3b339d938075f6b7a3b67
parent5d2fa8ebb4dae0057ed9baab617971dcd5ea493f
linux-user: Properly Handle semun Structure In Cross-Endian Situations

The semun union used in the semctl system call contains both an int (val) and
pointers.  In cross-endian situations on 64 bit targets, the value passed to
semctl is an 8 byte (abi_long) value and thus does not have the 4-byte val
field in the correct location.  In order to rectify this, the other half
of the union must be accessed.  This is achieved in code by performing
a byte swap on the entire 8 byte union, followed by a 4-byte swap of the
first half.

Also, eliminate an extraneous (dead) line of code that sets target_su.val in
the IPC_SET/IPC_GET case.

Signed-off-by: Tom Musta <tommusta@gmail.com>
Signed-off-by: Riku Voipio <riku.voipio@linaro.org>
linux-user/syscall.c