trivial whitespace fix
[torspec/neena.git] / tor-spec.txt
blob79989469ddd7381d61beb54d526a514ff96f8223
2                          Tor Protocol Specification
4                               Roger Dingledine
5                                Nick Mathewson
7 Note: This document aims to specify Tor as implemented in 0.2.1.x.  Future
8 versions of Tor may implement improved protocols, and compatibility is not
9 guaranteed.  Compatibility notes are given for versions 0.1.1.15-rc and
10 later; earlier versions are not compatible with the Tor network as of this
11 writing.
13 This specification is not a design document; most design criteria
14 are not examined.  For more information on why Tor acts as it does,
15 see tor-design.pdf.
17 0. Preliminaries
19       The key words "MUST", "MUST NOT", "REQUIRED", "SHALL", "SHALL
20       NOT", "SHOULD", "SHOULD NOT", "RECOMMENDED",  "MAY", and
21       "OPTIONAL" in this document are to be interpreted as described in
22       RFC 2119.
24 0.1.  Notation and encoding
26    PK -- a public key.
27    SK -- a private key.
28    K  -- a key for a symmetric cipher.
30    a|b -- concatenation of 'a' and 'b'.
32    [A0 B1 C2] -- a three-byte sequence, containing the bytes with
33    hexadecimal values A0, B1, and C2, in that order.
35    All numeric values are encoded in network (big-endian) order.
37    H(m) -- a cryptographic hash of m.
39 0.2. Security parameters
41    Tor uses a stream cipher, a public-key cipher, the Diffie-Hellman
42    protocol, and a hash function.
44    KEY_LEN -- the length of the stream cipher's key, in bytes.
46    PK_ENC_LEN -- the length of a public-key encrypted message, in bytes.
47    PK_PAD_LEN -- the number of bytes added in padding for public-key
48      encryption, in bytes. (The largest number of bytes that can be encrypted
49      in a single public-key operation is therefore PK_ENC_LEN-PK_PAD_LEN.)
51    DH_LEN -- the number of bytes used to represent a member of the
52      Diffie-Hellman group.
53    DH_SEC_LEN -- the number of bytes used in a Diffie-Hellman private key (x).
55    HASH_LEN -- the length of the hash function's output, in bytes.
57    PAYLOAD_LEN -- The longest allowable cell payload, in bytes. (509)
59    CELL_LEN -- The length of a Tor cell, in bytes.
61 0.3. Ciphers
63    For a stream cipher, we use 128-bit AES in counter mode, with an IV of all
64    0 bytes.
66    For a public-key cipher, we use RSA with 1024-bit keys and a fixed
67    exponent of 65537.  We use OAEP-MGF1 padding, with SHA-1 as its digest
68    function.  We leave the optional "Label" parameter unset. (For OAEP
69    padding, see ftp://ftp.rsasecurity.com/pub/pkcs/pkcs-1/pkcs-1v2-1.pdf)
71    For Diffie-Hellman, we use a generator (g) of 2.  For the modulus (p), we
72    use the 1024-bit safe prime from rfc2409 section 6.2 whose hex
73    representation is:
75      "FFFFFFFFFFFFFFFFC90FDAA22168C234C4C6628B80DC1CD129024E08"
76      "8A67CC74020BBEA63B139B22514A08798E3404DDEF9519B3CD3A431B"
77      "302B0A6DF25F14374FE1356D6D51C245E485B576625E7EC6F44C42E9"
78      "A637ED6B0BFF5CB6F406B7EDEE386BFB5A899FA5AE9F24117C4B1FE6"
79      "49286651ECE65381FFFFFFFFFFFFFFFF"
81    As an optimization, implementations SHOULD choose DH private keys (x) of
82    320 bits.  Implementations that do this MUST never use any DH key more
83    than once.
84    [May other implementations reuse their DH keys?? -RD]
85    [Probably not. Conceivably, you could get away with changing DH keys once
86    per second, but there are too many oddball attacks for me to be
87    comfortable that this is safe. -NM]
89    For a hash function, we use SHA-1.
91    KEY_LEN=16.
92    DH_LEN=128; DH_SEC_LEN=40.
93    PK_ENC_LEN=128; PK_PAD_LEN=42.
94    HASH_LEN=20.
96    When we refer to "the hash of a public key", we mean the SHA-1 hash of the
97    DER encoding of an ASN.1 RSA public key (as specified in PKCS.1).
99    All "random" values should be generated with a cryptographically strong
100    random number generator, unless otherwise noted.
102    The "hybrid encryption" of a byte sequence M with a public key PK is
103    computed as follows:
104       1. If M is less than PK_ENC_LEN-PK_PAD_LEN, pad and encrypt M with PK.
105       2. Otherwise, generate a KEY_LEN byte random key K.
106          Let M1 = the first PK_ENC_LEN-PK_PAD_LEN-KEY_LEN bytes of M,
107          and let M2 = the rest of M.
108          Pad and encrypt K|M1 with PK.  Encrypt M2 with our stream cipher,
109          using the key K.  Concatenate these encrypted values.
110    [XXX Note that this "hybrid encryption" approach does not prevent
111    an attacker from adding or removing bytes to the end of M. It also
112    allows attackers to modify the bytes not covered by the OAEP --
113    see Goldberg's PET2006 paper for details. We will add a MAC to this
114    scheme one day. -RD]
116 0.4. Other parameter values
118    CELL_LEN=512
120 1. System overview
122    Tor is a distributed overlay network designed to anonymize
123    low-latency TCP-based applications such as web browsing, secure shell,
124    and instant messaging. Clients choose a path through the network and
125    build a ``circuit'', in which each node (or ``onion router'' or ``OR'')
126    in the path knows its predecessor and successor, but no other nodes in
127    the circuit.  Traffic flowing down the circuit is sent in fixed-size
128    ``cells'', which are unwrapped by a symmetric key at each node (like
129    the layers of an onion) and relayed downstream.
131 1.1. Keys and names
133    Every Tor relay has multiple public/private keypairs:
135     - A long-term signing-only "Identity key" used to sign documents and
136       certificates, and used to establish relay identity.
137     - A medium-term "Onion key" used to decrypt onion skins when accepting
138       circuit extend attempts.  (See 5.1.)  Old keys MUST be accepted for at
139       least one week after they are no longer advertised.  Because of this,
140       relays MUST retain old keys for a while after they're rotated.
141     - A short-term "Connection key" used to negotiate TLS connections.
142       Tor implementations MAY rotate this key as often as they like, and
143       SHOULD rotate this key at least once a day.
145    Tor relays are also identified by "nicknames"; these are specified in
146    dir-spec.txt.
148 2. Connections
150    Connections between two Tor relays, or between a client and a relay,
151    use TLS/SSLv3 for link authentication and encryption.  All
152    implementations MUST support the SSLv3 ciphersuite
153    "SSL_DHE_RSA_WITH_3DES_EDE_CBC_SHA", and SHOULD support the TLS
154    ciphersuite "TLS_DHE_RSA_WITH_AES_128_CBC_SHA" if it is available.
156    There are three acceptable ways to perform a TLS handshake when
157    connecting to a Tor relay: "certificates up-front", "renegotiation", and
158    "backwards-compatible renegotiation".  ("Backwards-compatible
159    renegotiation" is, as the name implies, compatible with both other
160    handshake types.)
162    Before Tor 0.2.0.21, only "certificates up-front" was supported.  In Tor
163    0.2.0.21 or later, "backwards-compatible renegotiation" is used.
165    In "certificates up-front", the connection initiator always sends a
166    two-certificate chain, consisting of an X.509 certificate using a
167    short-term connection public key and a second, self-signed X.509
168    certificate containing its identity key.  The other party sends a similar
169    certificate chain.  The initiator's ClientHello MUST NOT include any
170    ciphersuites other than:
171      TLS_DHE_RSA_WITH_AES_256_CBC_SHA
172      TLS_DHE_RSA_WITH_AES_128_CBC_SHA
173      SSL_DHE_RSA_WITH_3DES_EDE_CBC_SHA
174      SSL_DHE_DSS_WITH_3DES_EDE_CBC_SHA
176    In "renegotiation", the connection initiator sends no certificates, and
177    the responder sends a single connection certificate.  Once the TLS
178    handshake is complete, the initiator renegotiates the handshake, with each
179    party sending a two-certificate chain as in "certificates up-front".
180    The initiator's ClientHello MUST include at least one ciphersuite not in
181    the list above.  The responder SHOULD NOT select any ciphersuite besides
182    those in the list above.
183      [The above "should not" is because some of the ciphers that
184      clients list may be fake.]
186    In "backwards-compatible renegotiation", the connection initiator's
187    ClientHello MUST include at least one ciphersuite other than those listed
188    above. The connection responder examines the initiator's ciphersuite list
189    to see whether it includes any ciphers other than those included in the
190    list above.  If extra ciphers are included, the responder proceeds as in
191    "renegotiation": it sends a single certificate and does not request
192    client certificates.  Otherwise (in the case that no extra ciphersuites
193    are included in the ClientHello) the responder proceeds as in
194    "certificates up-front": it requests client certificates, and sends a
195    two-certificate chain.  In either case, once the responder has sent its
196    certificate or certificates, the initiator counts them.  If two
197    certificates have been sent, it proceeds as in "certificates up-front";
198    otherwise, it proceeds as in "renegotiation".
200    All new relay implementations of the Tor protocol MUST support
201    "backwards-compatible renegotiation"; clients SHOULD do this too.  If
202    this is not possible, new client implementations MUST support both
203    "renegotiation" and "certificates up-front" and use the router's
204    published link protocols list (see dir-spec.txt on the "protocols" entry)
205    to decide which to use.
207    In all of the above handshake variants, certificates sent in the clear
208    SHOULD NOT include any strings to identify the host as a Tor relay. In
209    the "renegotiation" and "backwards-compatible renegotiation" steps, the
210    initiator SHOULD choose a list of ciphersuites and TLS extensions
211    to mimic one used by a popular web browser.
213    Responders MUST NOT select any TLS ciphersuite that lacks ephemeral keys,
214    or whose symmetric keys are less then KEY_LEN bits, or whose digests are
215    less than HASH_LEN bits.  Responders SHOULD NOT select any SSLv3
216    ciphersuite other than those listed above.
218    Even though the connection protocol is identical, we will think of the
219    initiator as either an onion router (OR) if it is willing to relay
220    traffic for other Tor users, or an onion proxy (OP) if it only handles
221    local requests. Onion proxies SHOULD NOT provide long-term-trackable
222    identifiers in their handshakes.
224    In all handshake variants, once all certificates are exchanged, all
225    parties receiving certificates must confirm that the identity key is as
226    expected.  (When initiating a connection, the expected identity key is
227    the one given in the directory; when creating a connection because of an
228    EXTEND cell, the expected identity key is the one given in the cell.)  If
229    the key is not as expected, the party must close the connection.
231    When connecting to an OR, all parties SHOULD reject the connection if that
232    OR has a malformed or missing certificate.  When accepting an incoming
233    connection, an OR SHOULD NOT reject incoming connections from parties with
234    malformed or missing certificates.  (However, an OR should not believe
235    that an incoming connection is from another OR unless the certificates
236    are present and well-formed.)
238    [Before version 0.1.2.8-rc, ORs rejected incoming connections from ORs and
239    OPs alike if their certificates were missing or malformed.]
241    Once a TLS connection is established, the two sides send cells
242    (specified below) to one another.  Cells are sent serially.  All
243    cells are CELL_LEN bytes long.  Cells may be sent embedded in TLS
244    records of any size or divided across TLS records, but the framing
245    of TLS records MUST NOT leak information about the type or contents
246    of the cells.
248    TLS connections are not permanent. Either side MAY close a connection
249    if there are no circuits running over it and an amount of time
250    (KeepalivePeriod, defaults to 5 minutes) has passed since the last time
251    any traffic was transmitted over the TLS connection.  Clients SHOULD
252    also hold a TLS connection with no circuits open, if it is likely that a
253    circuit will be built soon using that connection.
255    (As an exception, directory servers may try to stay connected to all of
256    the ORs -- though this will be phased out for the Tor 0.1.2.x release.)
258    To avoid being trivially distinguished from relays, client-only Tor
259    instances are encouraged but not required to use a two-certificate chain
260    as well.  Clients SHOULD NOT keep using the same certificates when
261    their IP address changes.  Clients MAY send no certificates at all.
263 3. Cell Packet format
265    The basic unit of communication for onion routers and onion
266    proxies is a fixed-width "cell".
268    On a version 1 connection, each cell contains the following
269    fields:
271         CircID                                [2 bytes]
272         Command                               [1 byte]
273         Payload (padded with 0 bytes)         [PAYLOAD_LEN bytes]
275    On a version 2 connection, all cells are as in version 1 connections,
276    except for the initial VERSIONS cell, whose format is:
278         Circuit                               [2 octets; set to 0]
279         Command                               [1 octet; set to 7 for VERSIONS]
280         Length                                [2 octets; big-endian integer]
281         Payload                               [Length bytes]
283    The CircID field determines which circuit, if any, the cell is
284    associated with.
286    The 'Command' field holds one of the following values:
287          0 -- PADDING     (Padding)                 (See Sec 7.2)
288          1 -- CREATE      (Create a circuit)        (See Sec 5.1)
289          2 -- CREATED     (Acknowledge create)      (See Sec 5.1)
290          3 -- RELAY       (End-to-end data)         (See Sec 5.5 and 6)
291          4 -- DESTROY     (Stop using a circuit)    (See Sec 5.4)
292          5 -- CREATE_FAST (Create a circuit, no PK) (See Sec 5.1)
293          6 -- CREATED_FAST (Circuit created, no PK) (See Sec 5.1)
294          7 -- VERSIONS    (Negotiate proto version) (See Sec 4)
295          8 -- NETINFO     (Time and address info)   (See Sec 4)
296          9 -- RELAY_EARLY (End-to-end data; limited)(See Sec 5.6)
298    The interpretation of 'Payload' depends on the type of the cell.
299       PADDING: Payload is unused.
300       CREATE:  Payload contains the handshake challenge.
301       CREATED: Payload contains the handshake response.
302       RELAY:   Payload contains the relay header and relay body.
303       DESTROY: Payload contains a reason for closing the circuit.
304                (see 5.4)
305    Upon receiving any other value for the command field, an OR must
306    drop the cell.  Since more cell types may be added in the future, ORs
307    should generally not warn when encountering unrecognized commands.
309    The payload is padded with 0 bytes.
311    PADDING cells are currently used to implement connection keepalive.
312    If there is no other traffic, ORs and OPs send one another a PADDING
313    cell every few minutes.
315    CREATE, CREATED, and DESTROY cells are used to manage circuits;
316    see section 5 below.
318    RELAY cells are used to send commands and data along a circuit; see
319    section 6 below.
321    VERSIONS and NETINFO cells are used to set up connections.  See section 4
322    below.
324 4. Negotiating and initializing connections
326 4.1. Negotiating versions with VERSIONS cells
328    There are multiple instances of the Tor link connection protocol.  Any
329    connection negotiated using the "certificates up front" handshake (see
330    section 2 above) is "version 1".  In any connection where both parties
331    have behaved as in the "renegotiation" handshake, the link protocol
332    version is 2 or higher.
334    To determine the version, in any connection where the "renegotiation"
335    handshake was used (that is, where the responder sent only one certificate
336    at first and where the initiator did not send any certificates until
337    renegotiation), both parties MUST send a VERSIONS cell immediately after
338    the renegotiation is finished, before any other cells are sent.  Parties
339    MUST NOT send any other cells on a connection until they have received a
340    VERSIONS cell.
342    The payload in a VERSIONS cell is a series of big-endian two-byte
343    integers.  Both parties MUST select as the link protocol version the
344    highest number contained both in the VERSIONS cell they sent and in the
345    versions cell they received.  If they have no such version in common,
346    they cannot communicate and MUST close the connection.
348    Since the version 1 link protocol does not use the "renegotiation"
349    handshake, implementations MUST NOT list version 1 in their VERSIONS
350    cell.
352 4.2. NETINFO cells
354    If version 2 or higher is negotiated, each party sends the other a
355    NETINFO cell.  The cell's payload is:
357          Timestamp              [4 bytes]
358          Other OR's address     [variable]
359          Number of addresses    [1 byte]
360          This OR's addresses    [variable]
362    The address format is a type/length/value sequence as given in section
363    6.4 below.  The timestamp is a big-endian unsigned integer number of
364    seconds since the Unix epoch.
366    Implementations MAY use the timestamp value to help decide if their
367    clocks are skewed.  Initiators MAY use "other OR's address" to help
368    learn which address their connections are originating from, if they do
369    not know it.  [As of 0.2.3.1-alpha, nodes use neither of these values.]
371    Initiators SHOULD use "this OR's address" to make sure
372    that they have connected to another OR at its canonical address.
373    (See 5.3.1 below.)
375 5. Circuit management
377 5.1. CREATE and CREATED cells
379    Users set up circuits incrementally, one hop at a time. To create a
380    new circuit, OPs send a CREATE cell to the first node, with the
381    first half of the DH handshake; that node responds with a CREATED
382    cell with the second half of the DH handshake plus the first 20 bytes
383    of derivative key data (see section 5.2). To extend a circuit past
384    the first hop, the OP sends an EXTEND relay cell (see section 5)
385    which instructs the last node in the circuit to send a CREATE cell
386    to extend the circuit.
388    The payload for a CREATE cell is an 'onion skin', which consists
389    of the first step of the DH handshake data (also known as g^x).
390    This value is hybrid-encrypted (see 0.3) to Bob's onion key, giving
391    an onion-skin of:
392        PK-encrypted:
393          Padding                       [PK_PAD_LEN bytes]
394          Symmetric key                 [KEY_LEN bytes]
395          First part of g^x             [PK_ENC_LEN-PK_PAD_LEN-KEY_LEN bytes]
396        Symmetrically encrypted:
397          Second part of g^x            [DH_LEN-(PK_ENC_LEN-PK_PAD_LEN-KEY_LEN)
398                                            bytes]
400    The relay payload for an EXTEND relay cell consists of:
401          Address                       [4 bytes]
402          Port                          [2 bytes]
403          Onion skin                    [DH_LEN+KEY_LEN+PK_PAD_LEN bytes]
404          Identity fingerprint          [HASH_LEN bytes]
406    The port and address field denote the IPv4 address and port of the next
407    onion router in the circuit; the public key hash is the hash of the PKCS#1
408    ASN1 encoding of the next onion router's identity (signing) key.  (See 0.3
409    above.)  Including this hash allows the extending OR verify that it is
410    indeed connected to the correct target OR, and prevents certain
411    man-in-the-middle attacks.
413    The payload for a CREATED cell, or the relay payload for an
414    EXTENDED cell, contains:
415          DH data (g^y)                 [DH_LEN bytes]
416          Derivative key data (KH)      [HASH_LEN bytes]   <see 5.2 below>
418    The CircID for a CREATE cell is an arbitrarily chosen 2-byte integer,
419    selected by the node (OP or OR) that sends the CREATE cell.  To prevent
420    CircID collisions, when one node sends a CREATE cell to another, it chooses
421    from only one half of the possible values based on the ORs' public
422    identity keys: if the sending node has a lower key, it chooses a CircID with
423    an MSB of 0; otherwise, it chooses a CircID with an MSB of 1.
425    (An OP with no public key MAY choose any CircID it wishes, since an OP
426    never needs to process a CREATE cell.)
428    Public keys are compared numerically by modulus.
430    As usual with DH, x and y MUST be generated randomly.
432 5.1.1. CREATE_FAST/CREATED_FAST cells
434    When initializing the first hop of a circuit, the OP has already
435    established the OR's identity and negotiated a secret key using TLS.
436    Because of this, it is not always necessary for the OP to perform the
437    public key operations to create a circuit.  In this case, the
438    OP MAY send a CREATE_FAST cell instead of a CREATE cell for the first
439    hop only.  The OR responds with a CREATED_FAST cell, and the circuit is
440    created.
442    A CREATE_FAST cell contains:
444        Key material (X)    [HASH_LEN bytes]
446    A CREATED_FAST cell contains:
448        Key material (Y)    [HASH_LEN bytes]
449        Derivative key data [HASH_LEN bytes] (See 5.2 below)
451    The values of X and Y must be generated randomly.
453    If an OR sees a circuit created with CREATE_FAST, the OR is sure to be the
454    first hop of a circuit.  ORs SHOULD reject attempts to create streams with
455    RELAY_BEGIN exiting the circuit at the first hop: letting Tor be used as a
456    single hop proxy makes exit nodes a more attractive target for compromise.
458 5.2. Setting circuit keys
460    Once the handshake between the OP and an OR is completed, both can
461    now calculate g^xy with ordinary DH.  Before computing g^xy, both parties
462    MUST verify that the received g^x or g^y value is not degenerate;
463    that is, it must be strictly greater than 1 and strictly less than p-1
464    where p is the DH modulus.  Implementations MUST NOT complete a handshake
465    with degenerate keys.  Implementations MUST NOT discard other "weak"
466    g^x values.
468    (Discarding degenerate keys is critical for security; if bad keys
469    are not discarded, an attacker can substitute the OR's CREATED
470    cell's g^y with 0 or 1, thus creating a known g^xy and impersonating
471    the OR. Discarding other keys may allow attacks to learn bits of
472    the private key.)
474    If CREATE or EXTEND is used to extend a circuit, both parties
475    base their key material on K0=g^xy, represented as a big-endian unsigned
476    integer.
478    If CREATE_FAST is used, both parties base their key material on
479    K0=X|Y.
481    From the base key material K0, they compute KEY_LEN*2+HASH_LEN*3 bytes of
482    derivative key data as
483        K = H(K0 | [00]) | H(K0 | [01]) | H(K0 | [02]) | ...
485    The first HASH_LEN bytes of K form KH; the next HASH_LEN form the forward
486    digest Df; the next HASH_LEN 41-60 form the backward digest Db; the next
487    KEY_LEN 61-76 form Kf, and the final KEY_LEN form Kb.  Excess bytes from K
488    are discarded.
490    KH is used in the handshake response to demonstrate knowledge of the
491    computed shared key. Df is used to seed the integrity-checking hash
492    for the stream of data going from the OP to the OR, and Db seeds the
493    integrity-checking hash for the data stream from the OR to the OP. Kf
494    is used to encrypt the stream of data going from the OP to the OR, and
495    Kb is used to encrypt the stream of data going from the OR to the OP.
497 5.3. Creating circuits
499    When creating a circuit through the network, the circuit creator
500    (OP) performs the following steps:
502       1. Choose an onion router as an exit node (R_N), such that the onion
503          router's exit policy includes at least one pending stream that
504          needs a circuit (if there are any).
506       2. Choose a chain of (N-1) onion routers
507          (R_1...R_N-1) to constitute the path, such that no router
508          appears in the path twice.
510       3. If not already connected to the first router in the chain,
511          open a new connection to that router.
513       4. Choose a circID not already in use on the connection with the
514          first router in the chain; send a CREATE cell along the
515          connection, to be received by the first onion router.
517       5. Wait until a CREATED cell is received; finish the handshake
518          and extract the forward key Kf_1 and the backward key Kb_1.
520       6. For each subsequent onion router R (R_2 through R_N), extend
521          the circuit to R.
523    To extend the circuit by a single onion router R_M, the OP performs
524    these steps:
526       1. Create an onion skin, encrypted to R_M's public onion key.
528       2. Send the onion skin in a relay EXTEND cell along
529          the circuit (see section 5).
531       3. When a relay EXTENDED cell is received, verify KH, and
532          calculate the shared keys.  The circuit is now extended.
534    When an onion router receives an EXTEND relay cell, it sends a CREATE
535    cell to the next onion router, with the enclosed onion skin as its
536    payload.  As special cases, if the extend cell includes a digest of
537    all zeroes, or asks to extend back to the relay that sent the extend
538    cell, the circuit will fail and be torn down. The initiating onion
539    router chooses some circID not yet used on the connection between the
540    two onion routers.  (But see section 5.1. above, concerning choosing
541    circIDs based on lexicographic order of nicknames.)
543    When an onion router receives a CREATE cell, if it already has a
544    circuit on the given connection with the given circID, it drops the
545    cell.  Otherwise, after receiving the CREATE cell, it completes the
546    DH handshake, and replies with a CREATED cell.  Upon receiving a
547    CREATED cell, an onion router packs it payload into an EXTENDED relay
548    cell (see section 5), and sends that cell up the circuit.  Upon
549    receiving the EXTENDED relay cell, the OP can retrieve g^y.
551    (As an optimization, OR implementations may delay processing onions
552    until a break in traffic allows time to do so without harming
553    network latency too greatly.)
555 5.3.1. Canonical connections
557    It is possible for an attacker to launch a man-in-the-middle attack
558    against a connection by telling OR Alice to extend to OR Bob at some
559    address X controlled by the attacker.  The attacker cannot read the
560    encrypted traffic, but the attacker is now in a position to count all
561    bytes sent between Alice and Bob (assuming Alice was not already
562    connected to Bob.)
564    To prevent this, when an OR we gets an extend request, it SHOULD use an
565    existing OR connection if the ID matches, and ANY of the following
566    conditions hold:
567        - The IP matches the requested IP.
568        - The OR knows that the IP of the connection it's using is canonical
569          because it was listed in the NETINFO cell.
570        - The OR knows that the IP of the connection it's using is canonical
571          because it was listed in the server descriptor.
573    [This is not implemented in Tor 0.2.0.23-rc.]
575 5.4. Tearing down circuits
577    Circuits are torn down when an unrecoverable error occurs along
578    the circuit, or when all streams on a circuit are closed and the
579    circuit's intended lifetime is over.  Circuits may be torn down
580    either completely or hop-by-hop.
582    To tear down a circuit completely, an OR or OP sends a DESTROY
583    cell to the adjacent nodes on that circuit, using the appropriate
584    direction's circID.
586    Upon receiving an outgoing DESTROY cell, an OR frees resources
587    associated with the corresponding circuit. If it's not the end of
588    the circuit, it sends a DESTROY cell for that circuit to the next OR
589    in the circuit. If the node is the end of the circuit, then it tears
590    down any associated edge connections (see section 6.1).
592    After a DESTROY cell has been processed, an OR ignores all data or
593    destroy cells for the corresponding circuit.
595    To tear down part of a circuit, the OP may send a RELAY_TRUNCATE cell
596    signaling a given OR (Stream ID zero).  That OR sends a DESTROY
597    cell to the next node in the circuit, and replies to the OP with a
598    RELAY_TRUNCATED cell.
600    [Note: If an OR receives a TRUNCATE cell and it has any RELAY cells
601    still queued on the circuit for the next node it will drop them
602    without sending them.  This is not considered conformant behavior,
603    but it probably won't get fixed until a later version of Tor.  Thus,
604    clients SHOULD NOT send a TRUNCATE cell to a node running any current
605    version of Tor if a) they have sent relay cells through that node,
606    and b) they aren't sure whether those cells have been sent on yes.]
608    When an unrecoverable error occurs along one connection in a
609    circuit, the nodes on either side of the connection should, if they
610    are able, act as follows:  the node closer to the OP should send a
611    RELAY_TRUNCATED cell towards the OP; the node farther from the OP
612    should send a DESTROY cell down the circuit.
614    The payload of a RELAY_TRUNCATED or DESTROY cell contains a single octet,
615    describing why the circuit is being closed or truncated.  When sending a
616    TRUNCATED or DESTROY cell because of another TRUNCATED or DESTROY cell,
617    the error code should be propagated.  The origin of a circuit always sets
618    this error code to 0, to avoid leaking its version.
620    The error codes are:
621      0 -- NONE            (No reason given.)
622      1 -- PROTOCOL        (Tor protocol violation.)
623      2 -- INTERNAL        (Internal error.)
624      3 -- REQUESTED       (A client sent a TRUNCATE command.)
625      4 -- HIBERNATING     (Not currently operating; trying to save bandwidth.)
626      5 -- RESOURCELIMIT   (Out of memory, sockets, or circuit IDs.)
627      6 -- CONNECTFAILED   (Unable to reach relay.)
628      7 -- OR_IDENTITY     (Connected to relay, but its OR identity was not
629                            as expected.)
630      8 -- OR_CONN_CLOSED  (The OR connection that was carrying this circuit
631                            died.)
632      9 -- FINISHED        (The circuit has expired for being dirty or old.)
633     10 -- TIMEOUT         (Circuit construction took too long)
634     11 -- DESTROYED       (The circuit was destroyed w/o client TRUNCATE)
635     12 -- NOSUCHSERVICE   (Request for unknown hidden service)
637 5.5. Routing relay cells
639    When an OR receives a RELAY or RELAY_EARLY cell, it checks the cell's
640    circID and determines whether it has a corresponding circuit along that
641    connection.  If not, the OR drops the cell.
643    Otherwise, if the OR is not at the OP edge of the circuit (that is,
644    either an 'exit node' or a non-edge node), it de/encrypts the payload
645    with the stream cipher, as follows:
646         'Forward' relay cell (same direction as CREATE):
647             Use Kf as key; decrypt.
648         'Back' relay cell (opposite direction from CREATE):
649             Use Kb as key; encrypt.
650    Note that in counter mode, decrypt and encrypt are the same operation.
652    The OR then decides whether it recognizes the relay cell, by
653    inspecting the payload as described in section 6.1 below.  If the OR
654    recognizes the cell, it processes the contents of the relay cell.
655    Otherwise, it passes the decrypted relay cell along the circuit if
656    the circuit continues.  If the OR at the end of the circuit
657    encounters an unrecognized relay cell, an error has occurred: the OR
658    sends a DESTROY cell to tear down the circuit.
660    When a relay cell arrives at an OP, the OP decrypts the payload
661    with the stream cipher as follows:
662          OP receives data cell:
663             For I=N...1,
664                 Decrypt with Kb_I.  If the payload is recognized (see
665                 section 6..1), then stop and process the payload.
667    For more information, see section 6 below.
669 5.6. Handling relay_early cells
671    A RELAY_EARLY cell is designed to limit the length any circuit can reach.
672    When an OR receives a RELAY_EARLY cell, and the next node in the circuit
673    is speaking v2 of the link protocol or later, the OR relays the cell as a
674    RELAY_EARLY cell.  Otherwise, it relays it as a RELAY cell.
676    If a node ever receives more than 8 RELAY_EARLY cells on a given
677    outbound circuit, it SHOULD close the circuit. (For historical reasons,
678    we don't limit the number of inbound RELAY_EARLY cells; they should
679    be harmless anyway because clients won't accept extend requests. See
680    bug 1038.)
682    When speaking v2 of the link protocol or later, clients MUST only send
683    EXTEND cells inside RELAY_EARLY cells.  Clients SHOULD send the first ~8
684    RELAY cells that are not targeted at the first hop of any circuit as
685    RELAY_EARLY cells too, in order to partially conceal the circuit length.
687    [In a future version of Tor, relays will reject any EXTEND cell not
688    received in a RELAY_EARLY cell.  See proposal 110.]
690 6. Application connections and stream management
692 6.1. Relay cells
694    Within a circuit, the OP and the exit node use the contents of
695    RELAY packets to tunnel end-to-end commands and TCP connections
696    ("Streams") across circuits.  End-to-end commands can be initiated
697    by either edge; streams are initiated by the OP.
699    The payload of each unencrypted RELAY cell consists of:
700          Relay command           [1 byte]
701          'Recognized'            [2 bytes]
702          StreamID                [2 bytes]
703          Digest                  [4 bytes]
704          Length                  [2 bytes]
705          Data                    [CELL_LEN-14 bytes]
707    The relay commands are:
708          1 -- RELAY_BEGIN     [forward]
709          2 -- RELAY_DATA      [forward or backward]
710          3 -- RELAY_END       [forward or backward]
711          4 -- RELAY_CONNECTED [backward]
712          5 -- RELAY_SENDME    [forward or backward] [sometimes control]
713          6 -- RELAY_EXTEND    [forward]             [control]
714          7 -- RELAY_EXTENDED  [backward]            [control]
715          8 -- RELAY_TRUNCATE  [forward]             [control]
716          9 -- RELAY_TRUNCATED [backward]            [control]
717         10 -- RELAY_DROP      [forward or backward] [control]
718         11 -- RELAY_RESOLVE   [forward]
719         12 -- RELAY_RESOLVED  [backward]
720         13 -- RELAY_BEGIN_DIR [forward]
722         32..40 -- Used for hidden services; see rend-spec.txt.
724    Commands labelled as "forward" must only be sent by the originator
725    of the circuit. Commands labelled as "backward" must only be sent by
726    other nodes in the circuit back to the originator. Commands marked
727    as either can be sent either by the originator or other nodes.
729    The 'recognized' field in any unencrypted relay payload is always set
730    to zero; the 'digest' field is computed as the first four bytes of
731    the running digest of all the bytes that have been destined for
732    this hop of the circuit or originated from this hop of the circuit,
733    seeded from Df or Db respectively (obtained in section 5.2 above),
734    and including this RELAY cell's entire payload (taken with the digest
735    field set to zero).
737    When the 'recognized' field of a RELAY cell is zero, and the digest
738    is correct, the cell is considered "recognized" for the purposes of
739    decryption (see section 5.5 above).
741    (The digest does not include any bytes from relay cells that do
742    not start or end at this hop of the circuit. That is, it does not
743    include forwarded data. Therefore if 'recognized' is zero but the
744    digest does not match, the running digest at that node should
745    not be updated, and the cell should be forwarded on.)
747    All RELAY cells pertaining to the same tunneled stream have the
748    same stream ID.  StreamIDs are chosen arbitrarily by the OP.  RELAY
749    cells that affect the entire circuit rather than a particular
750    stream use a StreamID of zero -- they are marked in the table above
751    as "[control]" style cells. (Sendme cells are marked as "sometimes
752    control" because they can take include a StreamID or not depending
753    on their purpose -- see Section 7.)
755    The 'Length' field of a relay cell contains the number of bytes in
756    the relay payload which contain real payload data. The remainder of
757    the payload is padded with NUL bytes.
759    If the RELAY cell is recognized but the relay command is not
760    understood, the cell must be dropped and ignored. Its contents
761    still count with respect to the digests, though.
763 6.2. Opening streams and transferring data
765    To open a new anonymized TCP connection, the OP chooses an open
766    circuit to an exit that may be able to connect to the destination
767    address, selects an arbitrary StreamID not yet used on that circuit,
768    and constructs a RELAY_BEGIN cell with a payload encoding the address
769    and port of the destination host.  The payload format is:
771          ADDRESS | ':' | PORT | [00]
773    where  ADDRESS can be a DNS hostname, or an IPv4 address in
774    dotted-quad format, or an IPv6 address surrounded by square brackets;
775    and where PORT is a decimal integer between 1 and 65535, inclusive.
777    [What is the [00] for? -NM]
778    [It's so the payload is easy to parse out with string funcs -RD]
780    Upon receiving this cell, the exit node resolves the address as
781    necessary, and opens a new TCP connection to the target port.  If the
782    address cannot be resolved, or a connection can't be established, the
783    exit node replies with a RELAY_END cell.  (See 6.4 below.)
784    Otherwise, the exit node replies with a RELAY_CONNECTED cell, whose
785    payload is in one of the following formats:
786        The IPv4 address to which the connection was made [4 octets]
787        A number of seconds (TTL) for which the address may be cached [4 octets]
788     or
789        Four zero-valued octets [4 octets]
790        An address type (6)     [1 octet]
791        The IPv6 address to which the connection was made [16 octets]
792        A number of seconds (TTL) for which the address may be cached [4 octets]
793    [XXXX No version of Tor currently generates the IPv6 format.]
795    [Tor exit nodes before 0.1.2.0 set the TTL field to a fixed value.  Later
796    versions set the TTL to the last value seen from a DNS server, and expire
797    their own cached entries after a fixed interval.  This prevents certain
798    attacks.]
800    Once a connection has been established, the OP and exit node
801    package stream data in RELAY_DATA cells, and upon receiving such
802    cells, echo their contents to the corresponding TCP stream.
804    If the exit node does not support optimistic data (i.e. its
805    version number is before 0.2.3.1-alpha), then the OP MUST wait
806    for a RELAY_CONNECTED cell before sending any data.  If the exit
807    node supports optimistic data (i.e. its version number is
808    0.2.3.1-alpha or later), then the OP MAY send RELAY_DATA cells
809    immediately after sending the RELAY_BEGIN cell (and before
810    receiving either a RELAY_CONNECTED or RELAY_END cell).
812    RELAY_DATA cells sent to unrecognized streams are dropped.  If
813    the exit node supports optimistic data, then RELAY_DATA cells it
814    receives on streams which have seen RELAY_BEGIN but have not yet
815    been replied to with a RELAY_CONNECTED or RELAY_END are queued.
816    If the stream creation succeeds with a RELAY_CONNECTED, the queue
817    is processed immediately afterwards; if the stream creation fails
818    with a RELAY_END, the contents of the queue are deleted.
820    Relay RELAY_DROP cells are long-range dummies; upon receiving such
821    a cell, the OR or OP must drop it.
823 6.2.1. Opening a directory stream
825    If a Tor relay is a directory server, it should respond to a
826    RELAY_BEGIN_DIR cell as if it had received a BEGIN cell requesting a
827    connection to its directory port.  RELAY_BEGIN_DIR cells ignore exit
828    policy, since the stream is local to the Tor process.
830    If the Tor relay is not running a directory service, it should respond
831    with a REASON_NOTDIRECTORY RELAY_END cell.
833    Clients MUST generate an all-zero payload for RELAY_BEGIN_DIR cells,
834    and relays MUST ignore the payload.
836    [RELAY_BEGIN_DIR was not supported before Tor 0.1.2.2-alpha; clients
837    SHOULD NOT send it to routers running earlier versions of Tor.]
839 6.3. Closing streams
841    When an anonymized TCP connection is closed, or an edge node
842    encounters error on any stream, it sends a 'RELAY_END' cell along the
843    circuit (if possible) and closes the TCP connection immediately.  If
844    an edge node receives a 'RELAY_END' cell for any stream, it closes
845    the TCP connection completely, and sends nothing more along the
846    circuit for that stream.
848    The payload of a RELAY_END cell begins with a single 'reason' byte to
849    describe why the stream is closing, plus optional data (depending on
850    the reason.)  The values are:
852        1 -- REASON_MISC           (catch-all for unlisted reasons)
853        2 -- REASON_RESOLVEFAILED  (couldn't look up hostname)
854        3 -- REASON_CONNECTREFUSED (remote host refused connection) [*]
855        4 -- REASON_EXITPOLICY     (OR refuses to connect to host or port)
856        5 -- REASON_DESTROY        (Circuit is being destroyed)
857        6 -- REASON_DONE           (Anonymized TCP connection was closed)
858        7 -- REASON_TIMEOUT        (Connection timed out, or OR timed out
859                                    while connecting)
860        8 -- REASON_NOROUTE        (Routing error while attempting to
861                                    contact destination)
862        9 -- REASON_HIBERNATING    (OR is temporarily hibernating)
863       10 -- REASON_INTERNAL       (Internal error at the OR)
864       11 -- REASON_RESOURCELIMIT  (OR has no resources to fulfill request)
865       12 -- REASON_CONNRESET      (Connection was unexpectedly reset)
866       13 -- REASON_TORPROTOCOL    (Sent when closing connection because of
867                                    Tor protocol violations.)
868       14 -- REASON_NOTDIRECTORY   (Client sent RELAY_BEGIN_DIR to a
869                                    non-directory relay.)
871    (With REASON_EXITPOLICY, the 4-byte IPv4 address or 16-byte IPv6 address
872    forms the optional data, along with a 4-byte TTL; no other reason
873    currently has extra data.)
875    OPs and ORs MUST accept reasons not on the above list, since future
876    versions of Tor may provide more fine-grained reasons.
878    Tors SHOULD NOT send any reason except REASON_MISC for a stream that they
879    have originated.
881    [*] Older versions of Tor also send this reason when connections are
882        reset.
884    --- [The rest of this section describes unimplemented functionality.]
886    Because TCP connections can be half-open, we follow an equivalent
887    to TCP's FIN/FIN-ACK/ACK protocol to close streams.
889    An exit connection can have a TCP stream in one of three states:
890    'OPEN', 'DONE_PACKAGING', and 'DONE_DELIVERING'.  For the purposes
891    of modeling transitions, we treat 'CLOSED' as a fourth state,
892    although connections in this state are not, in fact, tracked by the
893    onion router.
895    A stream begins in the 'OPEN' state.  Upon receiving a 'FIN' from
896    the corresponding TCP connection, the edge node sends a 'RELAY_FIN'
897    cell along the circuit and changes its state to 'DONE_PACKAGING'.
898    Upon receiving a 'RELAY_FIN' cell, an edge node sends a 'FIN' to
899    the corresponding TCP connection (e.g., by calling
900    shutdown(SHUT_WR)) and changing its state to 'DONE_DELIVERING'.
902    When a stream in already in 'DONE_DELIVERING' receives a 'FIN', it
903    also sends a 'RELAY_FIN' along the circuit, and changes its state
904    to 'CLOSED'.  When a stream already in 'DONE_PACKAGING' receives a
905    'RELAY_FIN' cell, it sends a 'FIN' and changes its state to
906    'CLOSED'.
908    If an edge node encounters an error on any stream, it sends a
909    'RELAY_END' cell (if possible) and closes the stream immediately.
911 6.4. Remote hostname lookup
913    To find the address associated with a hostname, the OP sends a
914    RELAY_RESOLVE cell containing the hostname to be resolved with a NUL
915    terminating byte. (For a reverse lookup, the OP sends a RELAY_RESOLVE
916    cell containing an in-addr.arpa address.) The OR replies with a
917    RELAY_RESOLVED cell containing a status byte, and any number of
918    answers. Each answer is of the form:
919        Type   (1 octet)
920        Length (1 octet)
921        Value  (variable-width)
922        TTL    (4 octets)
923    "Length" is the length of the Value field.
924    "Type" is one of:
925       0x00 -- Hostname
926       0x04 -- IPv4 address
927       0x06 -- IPv6 address
928       0xF0 -- Error, transient
929       0xF1 -- Error, nontransient
931     If any answer has a type of 'Error', then no other answer may be given.
933     The RELAY_RESOLVE cell must use a nonzero, distinct streamID; the
934     corresponding RELAY_RESOLVED cell must use the same streamID.  No stream
935     is actually created by the OR when resolving the name.
937 7. Flow control
939 7.1. Link throttling
941    Each client or relay should do appropriate bandwidth throttling to
942    keep its user happy.
944    Communicants rely on TCP's default flow control to push back when they
945    stop reading.
947    The mainline Tor implementation uses token buckets (one for reads,
948    one for writes) for the rate limiting.
950    Since 0.2.0.x, Tor has let the user specify an additional pair of
951    token buckets for "relayed" traffic, so people can deploy a Tor relay
952    with strict rate limiting, but also use the same Tor as a client. To
953    avoid partitioning concerns we combine both classes of traffic over a
954    given OR connection, and keep track of the last time we read or wrote
955    a high-priority (non-relayed) cell. If it's been less than N seconds
956    (currently N=30), we give the whole connection high priority, else we
957    give the whole connection low priority. We also give low priority
958    to reads and writes for connections that are serving directory
959    information. See proposal 111 for details.
961 7.2. Link padding
963    Link padding can be created by sending PADDING cells along the
964    connection; relay cells of type "DROP" can be used for long-range
965    padding.
967    Currently nodes are not required to do any sort of link padding or
968    dummy traffic. Because strong attacks exist even with link padding,
969    and because link padding greatly increases the bandwidth requirements
970    for running a node, we plan to leave out link padding until this
971    tradeoff is better understood.
973 7.3. Circuit-level flow control
975    To control a circuit's bandwidth usage, each OR keeps track of two
976    'windows', consisting of how many RELAY_DATA cells it is allowed to
977    originate (package for transmission), and how many RELAY_DATA cells
978    it is willing to consume (receive for local streams).  These limits
979    do not apply to cells that the OR receives from one host and relays
980    to another.
982    Each 'window' value is initially set based on the consensus parameter
983    'circwindow' in the directory (see dir-spec.txt), or to 1000 data cells
984    if no 'circwindow' value is given,
985    in each direction (cells that are not data cells do not affect
986    the window).  When an OR is willing to deliver more cells, it sends a
987    RELAY_SENDME cell towards the OP, with Stream ID zero.  When an OR
988    receives a RELAY_SENDME cell with stream ID zero, it increments its
989    packaging window.
991    Each of these cells increments the corresponding window by 100.
993    The OP behaves identically, except that it must track a packaging
994    window and a delivery window for every OR in the circuit.
996    An OR or OP sends cells to increment its delivery window when the
997    corresponding window value falls under some threshold (900).
999    If a packaging window reaches 0, the OR or OP stops reading from
1000    TCP connections for all streams on the corresponding circuit, and
1001    sends no more RELAY_DATA cells until receiving a RELAY_SENDME cell.
1002 [this stuff is badly worded; copy in the tor-design section -RD]
1004 7.4. Stream-level flow control
1006    Edge nodes use RELAY_SENDME cells to implement end-to-end flow
1007    control for individual connections across circuits. Similarly to
1008    circuit-level flow control, edge nodes begin with a window of cells
1009    (500) per stream, and increment the window by a fixed value (50)
1010    upon receiving a RELAY_SENDME cell. Edge nodes initiate RELAY_SENDME
1011    cells when both a) the window is <= 450, and b) there are less than
1012    ten cell payloads remaining to be flushed at that edge.
1014 A.1. Differences between spec and implementation
1016 - The current specification requires all ORs to have IPv4 addresses, but
1017   allows relays to exit and resolve to IPv6 addresses, and to declare IPv6
1018   addresses in their exit policies.  The current codebase has no IPv6
1019   support at all.