gimple-ssa-warn-access: Cast huge params to sizetype before using them in maybe_check...
commita98a24ac65c1a0ee598e5b54d9e4c921a9744a08
authorJakub Jelinek <jakub@redhat.com>
Wed, 17 Jan 2024 12:57:07 +0000 (17 13:57 +0100)
committerJakub Jelinek <jakub@redhat.com>
Wed, 17 Jan 2024 12:57:07 +0000 (17 13:57 +0100)
tree9c184fd9d6f609b8992211ea99fa879aad568f20
parent2fb78d431ff3c05997ef31837d6eb319d84a4239
gimple-ssa-warn-access: Cast huge params to sizetype before using them in maybe_check_access_sizes [PR113410]

WHen a VLA is created with some very high precision size expression
(say __int128, or _BitInt(65535) etc.), we cast it to sizetype, because
we can't have arrays longer than what can be expressed in sizetype.

But the maybe_check_access_sizes code when trying to determine ranges
wasn't doing this but was using fixed buffers for the sizes.  While
__int128 could still be handled (fit into the buffers), obviously
arbitrary _BitInt parameter ranges can't, they can be in the range of
up to almost 20KB per number.  It doesn't make sense to print such
ranges though, no array can be larger than sizetype precision, and
ranger's range_of_expr can handle NOP_EXPRs/CONVERT_EXPRs wrapping a
PARM_DECL just fine, so the following patch just casts the excessively
large counters for the range determination purposes to sizetype.

2024-01-17  Jakub Jelinek  <jakub@redhat.com>

PR middle-end/113410
* gimple-ssa-warn-access.cc (pass_waccess::maybe_check_access_sizes):
If access_nelts is integral with larger precision than sizetype,
fold_convert it to sizetype.

* gcc.dg/bitint-72.c: New test.
gcc/gimple-ssa-warn-access.cc
gcc/testsuite/gcc.dg/bitint-72.c [new file with mode: 0644]