malloc: Set and reset all hooks for tracing (Bug 16573)
commite621246ec6393ea08ae50310f9d5e72500f8c9bc
authorCarlos O'Donell <carlos@redhat.com>
Mon, 8 Apr 2019 21:35:05 +0000 (8 17:35 -0400)
committerCarlos O'Donell <carlos@redhat.com>
Tue, 9 Apr 2019 14:56:51 +0000 (9 10:56 -0400)
treee187de740537af6d7784784efc71a0936d5bfe7b
parent648279f4af423c4783ec1dfa63cb7b46a7640217
malloc: Set and reset all hooks for tracing (Bug 16573)

If an error occurs during the tracing operation, particularly during a
call to lock_and_info() which calls _dl_addr, we may end up calling back
into the malloc-subsystem and relock the loader lock and deadlock. For
all intents and purposes the call to _dl_addr can call any of the malloc
family API functions and so we should disable all tracing before calling
such loader functions.  This is similar to the strategy that the new
malloc tracer takes when calling the real malloc, namely that all
tracing ceases at the boundary to the real function and any faults at
that point are the purvue of the library (though the new tracer does
this on a per-thread basis in an MT-safe fashion). Since the new tracer
and the hook deprecation are not yet complete we must fix these issues
where we can.

Tested on x86_64 with no regressions.

Co-authored-by: Kwok Cheung Yeung <kcy@codesourcery.com>
Reviewed-by: DJ Delorie <dj@redhat.com>
ChangeLog
malloc/mtrace.c