doc: add dependency on vars.texi
[heimdal.git] / cf / check-compile-et.m4
blobe580cbb49587a73671cb257722069f5f7d7293b1
1 dnl $Id$
2 dnl
3 dnl CHECK_COMPILE_ET
4 AC_DEFUN([CHECK_COMPILE_ET], [
6 AC_CHECK_PROG(COMPILE_ET, compile_et, [compile_et], [no])
8 krb_cv_compile_et="no"
9 krb_cv_com_err_need_r=""
10 krb_cv_compile_et_cross=no
11 if test "${COMPILE_ET}" != "no"; then
13 dnl We have compile_et.  Now let's see if it supports `prefix' and `index'.
14 AC_MSG_CHECKING(whether compile_et has the features we need)
15 cat > conftest_et.et <<'EOF'
16 error_table test conf
17 prefix CONFTEST
18 index 1
19 error_code CODE1, "CODE1"
20 index 128
21 error_code CODE2, "CODE2"
22 end
23 EOF
24 if ${COMPILE_ET} conftest_et.et >/dev/null 2>&1; then
25   dnl XXX Some systems have <et/com_err.h>.
26   save_CPPFLAGS="${CPPFLAGS}"
27   if test -d "/usr/include/et"; then
28     CPPFLAGS="-I/usr/include/et ${CPPFLAGS}"
29   fi
30   dnl Check that the `prefix' and `index' directives were honored.
31   AC_LANG(C)
32   AC_RUN_IFELSE([AC_LANG_SOURCE([
33 #include <com_err.h>
34 #include <string.h>
35 #include "conftest_et.h"
36 int main(int argc, char **argv){
37 #ifndef ERROR_TABLE_BASE_conf
38 #error compile_et does not handle error_table N M
39 #endif
40 return (CONFTEST_CODE2 - CONFTEST_CODE1) != 127;}
41   ])], [krb_cv_compile_et="yes"],[CPPFLAGS="${save_CPPFLAGS}"],
42   [krb_cv_compile_et="yes" krb_cv_compile_et_cross=yes] )
44 AC_MSG_RESULT(${krb_cv_compile_et})
45 if test "${krb_cv_compile_et}" = "yes" -a "${krb_cv_compile_et_cross}" = no; then
46   AC_MSG_CHECKING([for if com_err generates a initialize_conf_error_table_r])
47   AC_EGREP_CPP([initialize_conf_error_table_r.*struct et_list],
48      [#include "conftest_et.h"],
49      [krb_cv_com_err_need_r="ok"])
50   if test X"$krb_cv_com_err_need_r" = X ; then
51     AC_MSG_RESULT(no)
52     krb_cv_compile_et=no
53   else
54     AC_MSG_RESULT(yes)
55   fi
57 rm -fr conftest*
60 if test "${krb_cv_compile_et_cross}" = yes ; then
61   krb_cv_com_err="cross"
62 elif test "${krb_cv_compile_et}" = "yes"; then
63   dnl Since compile_et seems to work, let's check libcom_err
64   krb_cv_save_LIBS="${LIBS}"
65   LIBS="${LIBS} -lcom_err"
66   AC_MSG_CHECKING(for com_err)
67   AC_LINK_IFELSE([AC_LANG_PROGRAM([[#include <com_err.h>]],[[
68     const char *p;
69     p = error_message(0);
70     initialize_error_table_r(0,0,0,0);
71     com_right_r(0, 0, 0, 0);
72   ]])],[krb_cv_com_err="yes"],[krb_cv_com_err="no"; CPPFLAGS="${save_CPPFLAGS}"])
73   AC_MSG_RESULT(${krb_cv_com_err})
74   LIBS="${krb_cv_save_LIBS}"
75 else
76   dnl Since compile_et doesn't work, forget about libcom_err
77   krb_cv_com_err="no"
80 dnl Only use the system's com_err if we found compile_et, libcom_err, and
81 dnl com_err.h.
82 if test "${krb_cv_com_err}" = "yes"; then
83     DIR_com_err=""
84     LIB_com_err="-lcom_err"
85     LIB_com_err_a=""
86     LIB_com_err_so=""
87     AC_MSG_NOTICE(Using the already-installed com_err)
88     COMPILE_ET="${ac_cv_prog_COMPILE_ET}"
89     localcomerr=no
90 elif test "${krb_cv_com_err}" = "cross"; then
91     DIR_com_err="com_err"
92     LIB_com_err="\$(top_builddir)/lib/com_err/libcom_err.la"
93     LIB_com_err_a="\$(top_builddir)/lib/com_err/.libs/libcom_err.a"
94     LIB_com_err_so="\$(top_builddir)/lib/com_err/.libs/libcom_err.so"
95     AC_MSG_NOTICE(Using our own com_err with toolchain compile_et)
96     COMPILE_ET="${ac_cv_prog_COMPILE_ET}"
97     localcomerr=yes
98 else
99     COMPILE_ET="\$(top_builddir)/lib/com_err/compile_et"
100     DIR_com_err="com_err"
101     LIB_com_err="\$(top_builddir)/lib/com_err/libcom_err.la"
102     LIB_com_err_a="\$(top_builddir)/lib/com_err/.libs/libcom_err.a"
103     LIB_com_err_so="\$(top_builddir)/lib/com_err/.libs/libcom_err.so"
104     AC_MSG_NOTICE(Using our own com_err)
105     localcomerr=yes
107 AM_CONDITIONAL(COM_ERR, test "$localcomerr" = yes)dnl
108 AC_SUBST(COMPILE_ET)
109 AC_SUBST(DIR_com_err)
110 AC_SUBST(LIB_com_err)
111 AC_SUBST(LIB_com_err_a)
112 AC_SUBST(LIB_com_err_so)