asn1: X.681/682/683 magic handling of open types
commitdb7763ca7b3958a7008500eff0d5dcdb2ba87ce4
authorNicolas Williams <nico@twosigma.com>
Tue, 9 Feb 2021 04:40:51 +0000 (8 22:40 -0600)
committerNicolas Williams <nico@twosigma.com>
Mon, 1 Mar 2021 00:13:08 +0000 (28 18:13 -0600)
tree2bae2e8bdbcd581780614f07da7e2db2850feb0a
parent89f97e82876153d948608c5c3bbb5b92f78cfc19
asn1: X.681/682/683 magic handling of open types

Status:

 - And it works!

 - We have an extensive test based on decoding a rich EK certficate.

   This test exercises all of:

    - decoding
    - encoding with and without decoded open types
    - copying of decoded values with decoded open types
    - freeing of decoded values with decoded open types

   Valgrind finds no memory errors.

 - Added a manual page for the compiler.

 - rfc2459.asn1 now has all three primary PKIX types that we care about
   defined as in RFC5912, with IOS constraints and parameterization:

    - `Extension`       (embeds open type in an `OCTET STRING`)
    - `OtherName`       (embeds open type in an        `ANY`-like type)
    - `SingleAttribute` (embeds open type in an        `ANY`-like type)
    - `AttributeSet`    (embeds open type in a  `SET OF ANY`-like type)

   All of these use OIDs as the open type type ID field, but integer
   open type type ID fields are also supported (and needed, for
   Kerberos).

   That will cover every typed hole pattern in all our ASN.1 modules.

   With this we'll be able to automatically and recursively decode
   through all subject DN attributes even when the subject DN is a
   directoryName SAN, and subjectDirectoryAttributes, and all
   extensions, and all SANs, and all authorization-data elements, and
   PA-data, and...

   We're not really using `SingleAttribute` and `AttributeSet` yet
   because various changes are needed in `lib/hx509` for that.

 - `asn1_compile` builds and recognizes the subset of X.681/682/683 that
   we need for, and now use in, rfc2459.asn1.  It builds the necessary
   AST, generates the correct C types, and generates templating for
   object sets and open types!

 - See READMEs for details.

 - Codegen backend not tested; I won't make it implement automatic open
   type handling, but it should at least not crash by substituting
   `heim_any` for open types not embedded in `OCTET STRING`.

 - We're _really_ starting to have problems with the ITU-T ASN.1
   grammar and our version of it...

   Type names have to start with upper-case, value names with
   lower-case, but it's not enough to disambiguate.

   The fact the we've allowed value and type names to violate their
   respective start-with case rules is causing us trouble now that we're
   adding grammar from X.681/682/683, and we're going to have to undo
   that.

   In preparation for that I'm capitalizing the `heim_any` and
   `heim_any_set` types, and doing some additional cleanup, which
   requires changes to other parts of Heimdal (all in this same commit
   for now).

   Problems we have because of this:

    - We cannot IMPORT values into modules because we have no idea if a
      symbol being imported refers to a value or a type because the only
      clue we would have is the symbol's name, so we assume IMPORTed
      symbols are for types.

      This means we can't import OIDs, for example, which is super
      annoying.

      One thing we might be able to do here is mark imported symbols as
      being of an undetermined-but-not-undefined type, then coerce the
      symbol's type the first time it's used in a context where its type
      is inferred as type, value, object, object set, or class.  (Though
      since we don't generate C symbols for objects or classes, we won't
      be able to import them, especially since we need to know them at
      compile time and cannot defer their handling to link- or
      run-time.)

    - The `NULL` type name, and the `NULL` value name now cause two
      reduce/reduce conflicts via the `FieldSetting` production.

    - Various shift/reduce conflicts involving `NULL` values in
      non-top-level contexts (in constraints, for example).

 - Currently I have a bug where to disambiguate the grammar I have a
   CLASS_IDENTIFIER token that is all caps, while TYPE_IDENTIFIER must
   start with a capital but not be all caps, but this breaks Kerberos
   since all its types are all capitalized -- oof!

   To fix this I made it so class names have to be all caps and
   start with an underscore (ick).

TBD:

 - Check all the XXX comments and address them
 - Apply this treatment to Kerberos!  Automatic handling of authz-data
   sounds useful :)
 - Apply this treatment to PKCS#10 (CSRs) and other ASN.1 modules too.
 - Replace various bits of code in `lib/hx509/` with uses of this
   feature.
 - Add JER.
 - Enhance `hxtool` and `asn1_print`.

Getting there!
64 files changed:
configure.ac
kdc/kerberos5.c
kdc/krb5tgs.c
kuser/kimpersonate.c
lib/asn1/Makefile.am
lib/asn1/NTMakefile
lib/asn1/README-X681.md
lib/asn1/README-template.md [new file with mode: 0644]
lib/asn1/README.md [new file with mode: 0644]
lib/asn1/README.template [deleted file]
lib/asn1/asn1-common.h
lib/asn1/asn1-template.h
lib/asn1/asn1_compile.1 [new file with mode: 0644]
lib/asn1/asn1parse.y
lib/asn1/check-gen.c
lib/asn1/cms.asn1
lib/asn1/crmf.asn1
lib/asn1/der.c
lib/asn1/extra.c
lib/asn1/gen.c
lib/asn1/gen_decode.c
lib/asn1/gen_glue.c
lib/asn1/gen_locl.h
lib/asn1/gen_template.c
lib/asn1/heim_asn1.h
lib/asn1/krb5.asn1
lib/asn1/lex.l
lib/asn1/libasn1-exports.def
lib/asn1/main.c
lib/asn1/oid_resolution.c
lib/asn1/pkcs12.asn1
lib/asn1/pkinit.asn1
lib/asn1/rfc2459.asn1
lib/asn1/rfc4043.asn1 [deleted file]
lib/asn1/rfc4108.asn1
lib/asn1/symbol.h
lib/asn1/tcg.asn1
lib/asn1/template.c
lib/asn1/test.asn1
lib/gssapi/mech/gssapi.asn1
lib/hdb/Makefile.am
lib/hdb/common.c
lib/hdb/hdb-keytab.c
lib/hdb/hdb-mitdb.c
lib/hdb/hdb.asn1
lib/hdb/hdb.c
lib/hdb/hdb.h
lib/hdb/keys.c
lib/hdb/libhdb-exports.def
lib/hdb/test_concurrency.c
lib/hdb/test_dbinfo.c
lib/hdb/test_hdbkeys.c
lib/hdb/version-script.map
lib/hx509/ca.c
lib/hx509/cert.c
lib/hx509/cms.c
lib/hx509/hx509.h
lib/hx509/hx_locl.h
lib/hx509/name.c
lib/hx509/print.c
lib/hx509/req.c
lib/krb5/krb5.h
lib/krb5/krb5_locl.h
lib/krb5/rd_req.c