xz: Create separate is_tty() function.
commit584e3a258f32d579b1d07f99b4dc6e856c10ac7e
authorJia Tan <jiat0218@gmail.com>
Thu, 23 Nov 2023 14:04:35 +0000 (23 22:04 +0800)
committerJia Tan <jiat0218@gmail.com>
Thu, 23 Nov 2023 14:40:20 +0000 (23 22:40 +0800)
treea891ce6e03d4579de0fd0d00714abfd428bdd0c2
parent6b05f827f50e686537e9a23c49c5aa4c0aa6b23d
xz: Create separate is_tty() function.

The new is_tty() will report if a file descriptor is a terminal or not.
On POSIX systems, it is a wrapper around isatty(). However, the native
Windows implementation of isatty() will return true for all character
devices, not just terminals. So is_tty() has a special case for Windows
so it can use alternative Windows API functions to determine if a file
descriptor is a terminal.

This fixes a bug with MSVC and MinGW-w64 builds that refused to read from
or write to non-terminal character devices because xz thought it was a
terminal. For instance:

    xz foo -c > /dev/null

would fail because /dev/null was assumed to be a terminal.
src/xz/util.c
src/xz/util.h