bytesex.h: make sure WRITE*() doesn't screw up on wrong pointer type
[nasm.git] / configure.ac
blob3c344abd84128834eb14b4025ede763464b7e5a7
1 dnl Process this file with autoconf 2.69 or later to produce
2 dnl a configure script.
3 AC_PREREQ(2.69)
4 AC_INIT(config/config.h.in)
5 AC_CONFIG_HEADERS(config/config.h)
7 AC_PREFIX_PROGRAM(nasm)
9 dnl Save initial CFLAGS, to see if -g -O2 came from configure or not
10 pa_init_cflags="$CFLAGS"
12 dnl This prevents us from running Wine and thinking we are not
13 dnl cross-compiling when in fact we are; running Wine here is at
14 dnl the best very slow and doesn't buy us a single thing at all.
15 WINELOADER=/dev/null
16 export WINELOADER
18 dnl Checks for programs and enable necessary CC extensions
19 AC_USE_SYSTEM_EXTENSIONS
20 AC_SYS_LARGEFILE
21 AC_PROG_CC
22 AC_PROG_CC_STDC
23 AC_PROG_LN_S
24 AC_PROG_MAKE_SET
25 AC_PROG_INSTALL
27 dnl If the user did not specify a CFLAGS default, change default -O2
28 dnl to either -O3 (normal) or -O0 (for debugging)
29 PA_ARG_DISABLED([optimization],
30  [compile without optimization (-O0) to help debugging],
31  [pa_optimize=-O0], [pa_optimize=-O3])
33 dnl Compile and link with dwarf debug
34 PA_ARG_ENABLED([gdb],
35  [disable optimization and compile with extra debug information for GDB debugger],
36  [pa_optimize='-O0'
37   PA_ADD_CFLAGS([-ggdb3])
38  ])
40 AS_IF([test x"$pa_init_cflags" = x],
41       [CFLAGS=`echo "$CFLAGS" | sed -e "s/-O2/$pa_optimize/"`])
43 AS_IF([test x"$pa_optimize" = "x-O0"],
44       [PA_ADD_CFLAGS([-fno-omit-frame-pointer])])
46 dnl Check for library extension
47 PA_LIBEXT
49 dnl Checks for typedefs, structures, and compiler characteristics.
50 AC_C_CONST
51 AC_C_INLINE
52 AC_C_RESTRICT
53 AC_TYPE_SIZE_T
54 AC_C_BIGENDIAN(AC_DEFINE(WORDS_BIGENDIAN),AC_DEFINE(WORDS_LITTLEENDIAN),,)
55 AH_TEMPLATE(WORDS_BIGENDIAN,
56 [Define to 1 if your processor stores words with the most significant
57 byte first (like Motorola and SPARC, unlike Intel and VAX).])
58 AH_TEMPLATE(WORDS_LITTLEENDIAN,
59 [Define to 1 if your processor stores words with the least significant
60 byte first (like Intel and VAX, unlike Motorola and SPARC).])
62 dnl Force gcc and gcc-compatible compilers treat signed integers
63 dnl as 2's complement
64 PA_ADD_CFLAGS([-fwrapv])
66 dnl Some environments abuse __STRICT_ANSI__ to disable some
67 dnl function declarations
68 PA_ADD_CFLAGS([-U__STRICT_ANSI__])
70 dnl Don't put things in common if we can avoid it.  We don't want to
71 dnl assume all compilers support common, and this will help find those
72 dnl problems.  This also works around an OSX linker problem.
73 PA_ADD_CFLAGS([-fno-common])
75 dnl Look for programs...
76 AC_CHECK_PROGS(NROFF,    nroff,    false)
77 AC_CHECK_PROGS(ASCIIDOC, asciidoc, false)
78 AC_CHECK_PROGS(XMLTO,    xmlto,    false)
80 dnl Check for progs needed for manpage generation
81 AS_IF([test $ASCIIDOC = false],
82   [AC_MSG_WARN([No asciidoc package found])]
84 AS_IF([test $XMLTO = false],
85   [AC_MSG_WARN([No xmlto package found])]
88 dnl Check for host compiler tools
89 AC_CHECK_TOOL(AR, ar)
90 AC_CHECK_TOOL(RANLIB, ranlib, :)
91 AC_CHECK_TOOL(STRIP, strip)
93 dnl Checks for header files.
94 AC_HEADER_STDC
95 AC_CHECK_HEADERS(inttypes.h)
96 AC_CHECK_HEADERS(strings.h)
97 AC_HEADER_STDBOOL
98 AC_CHECK_HEADERS(stdnoreturn.h)
99 AC_CHECK_HEADERS(io.h)
100 AC_CHECK_HEADERS(fcntl.h)
101 AC_CHECK_HEADERS(unistd.h)
102 AC_CHECK_HEADERS(sys/mman.h)
103 AC_CHECK_HEADERS(sys/types.h)
104 AC_CHECK_HEADERS(sys/stat.h)
106 dnl Checks for library functions.
107 AC_CHECK_FUNCS(strcasecmp stricmp)
108 AC_CHECK_FUNCS(strncasecmp strnicmp)
109 AC_CHECK_FUNCS(strsep)
110 AC_CHECK_FUNCS(strnlen)
112 AC_CHECK_FUNCS(getuid)
113 AC_CHECK_FUNCS(getgid)
115 AC_CHECK_FUNCS(realpath)
116 AC_CHECK_FUNCS(canonicalize_file_name)
117 AC_CHECK_FUNCS(_fullpath)
118 AC_CHECK_FUNCS(pathconf)
120 AC_FUNC_FSEEKO
121 AC_CHECK_FUNCS([_fseeki64])
122 AC_CHECK_FUNCS([ftruncate _chsize _chsize_s])
123 AC_CHECK_FUNCS([fileno _fileno])
125 AC_CHECK_FUNCS(_filelengthi64)
126 AC_FUNC_MMAP
127 AC_CHECK_FUNCS(getpagesize)
128 AC_CHECK_FUNCS(sysconf)
130 AC_CHECK_FUNCS([access _access faccessat])
132 PA_HAVE_FUNC(__builtin_expect, (1,1))
134 dnl ilog2() building blocks
135 PA_ADD_HEADERS(intrin.h)
136 PA_HAVE_FUNC(__builtin_clz, (0U))
137 PA_HAVE_FUNC(__builtin_clzl, (0UL))
138 PA_HAVE_FUNC(__builtin_clzll, (0ULL))
139 PA_HAVE_FUNC(_BitScanReverse, (0))
140 PA_HAVE_FUNC(_BitScanReverse64, (0))
142 dnl Functions for which we have replacements available in lib/
143 AC_CHECK_FUNCS([vsnprintf _vsnprintf])
144 AC_CHECK_FUNCS([snprintf _snprintf])
145 AC_CHECK_FUNCS([strlcpy])
147 dnl These types are POSIX-specific, and Windows does it differently...
148 AC_CHECK_TYPES([struct _stati64])
149 AC_CHECK_TYPES([struct stat])
150 AC_CHECK_FUNCS([stat _stati64])
151 AC_CHECK_FUNCS([fstat _fstati64])
153 dnl Check for functions that might not be declared in the headers for
154 dnl various idiotic reasons (mostly because of library authors
155 dnl abusing the meaning of __STRICT_ANSI__)
156 AC_CHECK_DECLS(strcasecmp)
157 AC_CHECK_DECLS(stricmp)
158 AC_CHECK_DECLS(strncasecmp)
159 AC_CHECK_DECLS(strnicmp)
160 AC_CHECK_DECLS(strsep)
161 AC_CHECK_DECLS(strlcpy)
162 AC_CHECK_DECLS(strnlen)
164 dnl Check for missing types
165 AC_TYPE_UINTPTR_T
167 dnl Documentation: should we generate an uncompressed PDF?  It is
168 dnl about twice as big, but it can be externally compressed (e.g. with xz)
169 dnl and becomes significantly smaller than the original.
170 PA_ARG_DISABLED([pdf-compression],
171   [generate an uncompressed documentation PDF],
172   [PDFOPT='-nocompress'])
173 AC_SUBST([PDFOPT])
176 dnl Look for byte-swapping support...
178 PA_ADD_HEADERS(endian.h sys/endian.h machine/endian.h)
179 PA_HAVE_FUNC(cpu_to_le16, (0))
180 PA_HAVE_FUNC(cpu_to_le32, (0))
181 PA_HAVE_FUNC(cpu_to_le64, (0))
182 PA_HAVE_FUNC(__cpu_to_le16, (0))
183 PA_HAVE_FUNC(__cpu_to_le32, (0))
184 PA_HAVE_FUNC(__cpu_to_le64, (0))
185 PA_HAVE_FUNC(htole16, (0))
186 PA_HAVE_FUNC(htole32, (0))
187 PA_HAVE_FUNC(htole64, (0))
188 PA_HAVE_FUNC(__bswap_16, (0))
189 PA_HAVE_FUNC(__bswap_32, (0))
190 PA_HAVE_FUNC(__bswap_64, (0))
191 PA_HAVE_FUNC(__builtin_bswap16, (0))
192 PA_HAVE_FUNC(__builtin_bswap32, (0))
193 PA_HAVE_FUNC(__builtin_bswap64, (0))
194 PA_HAVE_FUNC(_byteswap_ushort, (0))
195 PA_HAVE_FUNC(_byteswap_ulong, (0))
196 PA_HAVE_FUNC(_byteswap_uint64, (0))
199 dnl Check for __builtin_constant_p()
201 PA_HAVE_FUNC(__builtin_constant_p, (0))
204 dnl Check for supported gcc attributes; some compilers (e.g. Sun CC)
205 dnl support these, but don't define __GNUC__ as they don't support
206 dnl some other features of gcc.
208 PA_ADD_CFLAGS([-Werror=attributes])
209 PA_FUNC_ATTRIBUTE(noreturn)
210 PA_FUNC_ATTRIBUTE(returns_nonnull)
211 PA_FUNC_ATTRIBUTE(malloc)
212 PA_FUNC_ATTRIBUTE(alloc_size, (1))
213 PA_FUNC_ATTRIBUTE(format, [(printf,1,2)], int, [const char *, ...], ["%d",1])
214 PA_FUNC_ATTRIBUTE(const)
215 PA_FUNC_ATTRIBUTE(pure)
216 PA_FUNC_ATTRIBUTE_ERROR
219 dnl support function sections (if available)
221 PA_ARG_ENABLED([sections],
222  [compile with function/data section support],
223  [PA_ADD_CLDFLAGS([-ffunction-sections])
224   PA_ADD_CLDFLAGS([-fdata-sections])
225   PA_ADD_CLDFLAGS([-Wl,--gc-sections])],
226  [])
229 dnl support LTO
231 PA_ARG_ENABLED([lto],
232  [compile with gcc-style link time optimization],
233  [PA_ADD_CLDFLAGS([-flto])
234   dnl Note: we use _PROG rather than _TOOL since we are prepending the full
235   dnl CC name which ought to already contain the host triplet if needed
236   ccbase=`echo "$CC" | awk '{ print $1; }'`
237   AC_CHECK_PROGS(CC_AR, [${ccbase}-ar], [$ac_cv_prog_AR])
238   AR="$CC_AR"
239   AC_CHECK_PROGS(CC_RANLIB, [${ccbase}-ranlib], [$ac_cv_prog_RANLIB])
240   RANLIB="$CC_RANLIB"], [])
243 dnl support sanitizers (if available)
245 PA_ARG_ENABLED([sanitizer],
246  [compile with sanitizers enabled],
247  [PA_ADD_CFLAGS([-fno-omit-frame-pointer])
248   PA_ADD_CLDFLAGS([-fsanitize=address])
249   PA_ADD_CLDFLAGS([-fsanitize=undefined])])
251 dnl If we have gcc, add appropriate code cleanliness options
252 PA_ADD_CFLAGS([-W])
253 PA_ADD_CFLAGS([-Wall])
254 PA_ADD_CFLAGS([-pedantic])
255 dnl LLVM doesn't error out on invalid -W options unless this option is
256 dnl specified first.  Enable this so this script can actually discover
257 dnl which -W options are possible for this compiler.
258 PA_ADD_CFLAGS([-Werror=unknown-warning-option])
259 dnl Suppress format warning on Windows targets due to their <inttypes.h>
260 PA_ADD_CFLAGS([-Wpedantic-ms-format],[-Wno-pedantic-ms-format])
261 PA_ADD_CFLAGS([-Wc90-c99-compat])
262 PA_ADD_CFLAGS([-Wlong-long],[-Wno-long-long])
263 dnl PA_ADD_CFLAGS([-Wwrite-strings])
264 PA_ARG_ENABLED([werror],
265  [compile with -Werror to error out on any warning],
266  [PA_ADD_CFLAGS([-Werror])],
267  [PA_ADD_CFLAGS([-Werror=implicit])
268   PA_ADD_CFLAGS([-Werror=missing-braces])
269   PA_ADD_CFLAGS([-Werror=return-type])
270   PA_ADD_CFLAGS([-Werror=trigraphs])
271   PA_ADD_CFLAGS([-Werror=pointer-arith])
272   PA_ADD_CFLAGS([-Werror=strict-prototypes])
273   PA_ADD_CFLAGS([-Werror=missing-prototypes])
274   PA_ADD_CFLAGS([-Werror=missing-declarations])
275   PA_ADD_CFLAGS([-Werror=comment])
276   PA_ADD_CFLAGS([-Werror=vla])]
280 dnl support ccache
282 PA_ARG_ENABLED([ccache], [compile with ccache], [CC="ccache $CC"], [])
284 AC_OUTPUT_COMMANDS([mkdir -p config nasmlib nsis output stdlib x86 asm disasm rdoff macros common])
285 AC_OUTPUT(Makefile doc/Makefile)