lib: Avoid declaring zero-length VLAs in various messaging functions
commitd24a1173c9a42ba1123b7efff7d89d55cd6ab211
authorDimitry Andric <dimitry@andric.com>
Fri, 1 Jan 2021 17:25:48 +0000 (1 18:25 +0100)
committerKarolin Seeger <kseeger@samba.org>
Tue, 5 Jan 2021 09:11:44 +0000 (5 09:11 +0000)
treedd0def2faecd2a161fff1d13ce14290674ab3aa9
parent86d4448396b9cb715e5dd9cb3d34eb0e5f0d5a76
lib: Avoid declaring zero-length VLAs in various messaging functions

In messaging_rec_create(), messaging_recv_cb() and
messaging_dispatch_rec(), variable length arrays of file descriptors are
declared using an incoming num_fds parameter.

However, there are several scenarios where num_fds can be zero, and
declaring a zero-length VLA is undefined behavior. This can lead to
segmentation faults and/or other crashes when compiling with recent
versions of clang at high optimization levels.

To avoid ever using zero as the length for these declarations, use
MAX(1, length) instead.

BUG: https://bugzilla.samba.org/show_bug.cgi?id=14605

Signed-off-by: Dimitry Andric <dimitry@andric.com>
Reviewed-by: Volker Lendecke <vl@samba.org>
Reviewed-by: Ralph Boehme <slow@samba.org>
Autobuild-User(master): Ralph Böhme <slow@samba.org>
Autobuild-Date(master): Mon Jan  4 10:50:07 UTC 2021 on sn-devel-184

(cherry picked from commit 3e96c95d41e4ccd0bf43b3ee78af644e2bc32e30)

Autobuild-User(v4-12-test): Karolin Seeger <kseeger@samba.org>
Autobuild-Date(v4-12-test): Tue Jan  5 09:11:44 UTC 2021 on sn-devel-184
source3/lib/messages.c