add -p: avoid ambiguous signed/unsigned comparison
commit79d266223ab7c253c45ded9552694ca8a4b1f010
authorJohannes Schindelin <johannes.schindelin@gmx.de>
Tue, 18 Oct 2022 10:59:03 +0000 (18 10:59 +0000)
committerJunio C Hamano <gitster@pobox.com>
Wed, 19 Oct 2022 18:55:28 +0000 (19 11:55 -0700)
tree27d2757fcdf44d8394e4e0a2956349028abddea4
parent6a83b5f081086d3a3d1c3cb8b6a8aad660b705ab
add -p: avoid ambiguous signed/unsigned comparison

In the interactive `add` operation, users can choose to jump to specific
hunks, and Git will present the hunk list in that case. To avoid showing
too many lines at once, only a maximum of 21 hunks are shown, skipping
the "mode change" pseudo hunk.

The comparison performed to skip the "mode change" pseudo hunk (if any)
compares a signed integer `i` to the unsigned value `mode_change` (which
can be 0 or 1 because it is a 1-bit type).

According to section 6.3.1.8 of the C99 standard (see e.g.
https://www.open-std.org/jtc1/sc22/WG14/www/docs/n1256.pdf), what should
happen is an automatic conversion of the "lesser" type to the "greater"
type, but since the types differ in signedness, it is ill-defined what
is the correct "usual arithmetic conversion".

Which means that Visual C's behavior can (and does) differ from GCC's:
When compiling Git using the latter, `add -p`'s `goto` command shows no
hunks by default because it casts a negative start offset to a pretty
large unsigned value, breaking the "goto hunk" test case in
`t3701-add-interactive.sh`.

Let's avoid that by converting the unsigned bit explicitly to a signed
integer.

Note: This is a long-standing bug in the Visual C build of Git, but it
has never been caught because t3701 is skipped when `NO_PERL` is set,
which is the case in the `vs-test` jobs of Git's CI runs.

Signed-off-by: Johannes Schindelin <johannes.schindelin@gmx.de>
Signed-off-by: Junio C Hamano <gitster@pobox.com>
add-patch.c