cutils: Improve qemu_strtosz handling of fractionsstrtosz-v1
commite02316841f51a60810eb2bbcfd7115ab2e84d4ee
authorEric Blake <eblake@redhat.com>
Mon, 8 May 2023 19:45:00 +0000 (8 14:45 -0500)
committerEric Blake <eblake@redhat.com>
Mon, 8 May 2023 19:58:36 +0000 (8 14:58 -0500)
tree7ff337874d79dc9cf337c19bcf36d954af3380b8
parent5ec4526e25bd21056784429f47f594f9b2a638c4
cutils: Improve qemu_strtosz handling of fractions

We have several limitations and bugs worth fixing; they are
inter-related enough that it is not worth splitting this patch into
smaller pieces:

* ".5k" should work to specify 512, just as "0.5k" does
* "1.9999k" and "1." + "9"*50 + "k" should both produce the same
  result of 2048 after rounding
* "1." + "0"*350 + "1B" should not be treated the same as "1.0B";
  underflow in the fraction should not be lost
* "7.99e99" and "7.99e999" look similar, but our code was doing a
  read-out-of-bounds on the latter because it was not expecting ERANGE
  due to overflow. While we document that scientific notation is not
  supported, and the previous patch actually fixed
  qemu_strtod_finite() to no longer return ERANGE overflows, it is
  easier to pre-filter than to try and determine after the fact if
  strtod() consumed more than we wanted.  Note that this is a
  low-level semantic change (when endptr is not NULL, we can now
  successfully parse with a scale of 'E' and then report trailing
  junk, instead of failing outright with EINVAL); but an earlier
  commit already argued that this is not a high-level semantic change
  since the only caller passing in a non-NULL endptr also checks that
  the tail is whitespace-only.

Fixes: https://gitlab.com/qemu-project/qemu/-/issues/1629
Signed-off-by: Eric Blake <eblake@redhat.com>
tests/unit/test-cutils.c
util/cutils.c