netfilter: arpt_mangle: fix return values of checkentry