(mac_cg_color_space_rgb) [USE_CG_DRAWING]:
[emacs.git] / lispref / nonascii.texi
blob0922db4fac42337afe2e5efd8934481ffb50efd4
1 @c -*-texinfo-*-
2 @c This is part of the GNU Emacs Lisp Reference Manual.
3 @c Copyright (C) 1998, 1999, 2001, 2002, 2003, 2004,
4 @c   2005, 2006, 2007, 2008  Free Software Foundation, Inc.
5 @c See the file elisp.texi for copying conditions.
6 @setfilename ../info/characters
7 @node Non-ASCII Characters, Searching and Matching, Text, Top
8 @chapter Non-@acronym{ASCII} Characters
9 @cindex multibyte characters
10 @cindex characters, multi-byte
11 @cindex non-@acronym{ASCII} characters
13   This chapter covers the special issues relating to non-@acronym{ASCII}
14 characters and how they are stored in strings and buffers.
16 @menu
17 * Text Representations::    Unibyte and multibyte representations
18 * Converting Representations::  Converting unibyte to multibyte and vice versa.
19 * Selecting a Representation::  Treating a byte sequence as unibyte or multi.
20 * Character Codes::         How unibyte and multibyte relate to
21                                 codes of individual characters.
22 * Character Sets::          The space of possible character codes
23                                 is divided into various character sets.
24 * Chars and Bytes::         More information about multibyte encodings.
25 * Splitting Characters::    Converting a character to its byte sequence.
26 * Scanning Charsets::       Which character sets are used in a buffer?
27 * Translation of Characters::   Translation tables are used for conversion.
28 * Coding Systems::          Coding systems are conversions for saving files.
29 * Input Methods::           Input methods allow users to enter various
30                                 non-ASCII characters without special keyboards.
31 * Locales::                 Interacting with the POSIX locale.
32 @end menu
34 @node Text Representations
35 @section Text Representations
36 @cindex text representations
38   Emacs has two @dfn{text representations}---two ways to represent text
39 in a string or buffer.  These are called @dfn{unibyte} and
40 @dfn{multibyte}.  Each string, and each buffer, uses one of these two
41 representations.  For most purposes, you can ignore the issue of
42 representations, because Emacs converts text between them as
43 appropriate.  Occasionally in Lisp programming you will need to pay
44 attention to the difference.
46 @cindex unibyte text
47   In unibyte representation, each character occupies one byte and
48 therefore the possible character codes range from 0 to 255.  Codes 0
49 through 127 are @acronym{ASCII} characters; the codes from 128 through 255
50 are used for one non-@acronym{ASCII} character set (you can choose which
51 character set by setting the variable @code{nonascii-insert-offset}).
53 @cindex leading code
54 @cindex multibyte text
55 @cindex trailing codes
56   In multibyte representation, a character may occupy more than one
57 byte, and as a result, the full range of Emacs character codes can be
58 stored.  The first byte of a multibyte character is always in the range
59 128 through 159 (octal 0200 through 0237).  These values are called
60 @dfn{leading codes}.  The second and subsequent bytes of a multibyte
61 character are always in the range 160 through 255 (octal 0240 through
62 0377); these values are @dfn{trailing codes}.
64   Some sequences of bytes are not valid in multibyte text: for example,
65 a single isolated byte in the range 128 through 159 is not allowed.  But
66 character codes 128 through 159 can appear in multibyte text,
67 represented as two-byte sequences.  All the character codes 128 through
68 255 are possible (though slightly abnormal) in multibyte text; they
69 appear in multibyte buffers and strings when you do explicit encoding
70 and decoding (@pxref{Explicit Encoding}).
72   In a buffer, the buffer-local value of the variable
73 @code{enable-multibyte-characters} specifies the representation used.
74 The representation for a string is determined and recorded in the string
75 when the string is constructed.
77 @defvar enable-multibyte-characters
78 This variable specifies the current buffer's text representation.
79 If it is non-@code{nil}, the buffer contains multibyte text; otherwise,
80 it contains unibyte text.
82 You cannot set this variable directly; instead, use the function
83 @code{set-buffer-multibyte} to change a buffer's representation.
84 @end defvar
86 @defvar default-enable-multibyte-characters
87 This variable's value is entirely equivalent to @code{(default-value
88 'enable-multibyte-characters)}, and setting this variable changes that
89 default value.  Setting the local binding of
90 @code{enable-multibyte-characters} in a specific buffer is not allowed,
91 but changing the default value is supported, and it is a reasonable
92 thing to do, because it has no effect on existing buffers.
94 The @samp{--unibyte} command line option does its job by setting the
95 default value to @code{nil} early in startup.
96 @end defvar
98 @defun position-bytes position
99 Return the byte-position corresponding to buffer position
100 @var{position} in the current buffer.  This is 1 at the start of the
101 buffer, and counts upward in bytes.  If @var{position} is out of
102 range, the value is @code{nil}.
103 @end defun
105 @defun byte-to-position byte-position
106 Return the buffer position corresponding to byte-position
107 @var{byte-position} in the current buffer.  If @var{byte-position} is
108 out of range, the value is @code{nil}.
109 @end defun
111 @defun multibyte-string-p string
112 Return @code{t} if @var{string} is a multibyte string.
113 @end defun
115 @defun string-bytes string
116 @cindex string, number of bytes
117 This function returns the number of bytes in @var{string}.
118 If @var{string} is a multibyte string, this can be greater than
119 @code{(length @var{string})}.
120 @end defun
122 @node Converting Representations
123 @section Converting Text Representations
125   Emacs can convert unibyte text to multibyte; it can also convert
126 multibyte text to unibyte, though this conversion loses information.  In
127 general these conversions happen when inserting text into a buffer, or
128 when putting text from several strings together in one string.  You can
129 also explicitly convert a string's contents to either representation.
131   Emacs chooses the representation for a string based on the text that
132 it is constructed from.  The general rule is to convert unibyte text to
133 multibyte text when combining it with other multibyte text, because the
134 multibyte representation is more general and can hold whatever
135 characters the unibyte text has.
137   When inserting text into a buffer, Emacs converts the text to the
138 buffer's representation, as specified by
139 @code{enable-multibyte-characters} in that buffer.  In particular, when
140 you insert multibyte text into a unibyte buffer, Emacs converts the text
141 to unibyte, even though this conversion cannot in general preserve all
142 the characters that might be in the multibyte text.  The other natural
143 alternative, to convert the buffer contents to multibyte, is not
144 acceptable because the buffer's representation is a choice made by the
145 user that cannot be overridden automatically.
147   Converting unibyte text to multibyte text leaves @acronym{ASCII} characters
148 unchanged, and likewise character codes 128 through 159.  It converts
149 the non-@acronym{ASCII} codes 160 through 255 by adding the value
150 @code{nonascii-insert-offset} to each character code.  By setting this
151 variable, you specify which character set the unibyte characters
152 correspond to (@pxref{Character Sets}).  For example, if
153 @code{nonascii-insert-offset} is 2048, which is @code{(- (make-char
154 'latin-iso8859-1) 128)}, then the unibyte non-@acronym{ASCII} characters
155 correspond to Latin 1.  If it is 2688, which is @code{(- (make-char
156 'greek-iso8859-7) 128)}, then they correspond to Greek letters.
158   Converting multibyte text to unibyte is simpler: it discards all but
159 the low 8 bits of each character code.  If @code{nonascii-insert-offset}
160 has a reasonable value, corresponding to the beginning of some character
161 set, this conversion is the inverse of the other: converting unibyte
162 text to multibyte and back to unibyte reproduces the original unibyte
163 text.
165 @defvar nonascii-insert-offset
166 This variable specifies the amount to add to a non-@acronym{ASCII} character
167 when converting unibyte text to multibyte.  It also applies when
168 @code{self-insert-command} inserts a character in the unibyte
169 non-@acronym{ASCII} range, 128 through 255.  However, the functions
170 @code{insert} and @code{insert-char} do not perform this conversion.
172 The right value to use to select character set @var{cs} is @code{(-
173 (make-char @var{cs}) 128)}.  If the value of
174 @code{nonascii-insert-offset} is zero, then conversion actually uses the
175 value for the Latin 1 character set, rather than zero.
176 @end defvar
178 @defvar nonascii-translation-table
179 This variable provides a more general alternative to
180 @code{nonascii-insert-offset}.  You can use it to specify independently
181 how to translate each code in the range of 128 through 255 into a
182 multibyte character.  The value should be a char-table, or @code{nil}.
183 If this is non-@code{nil}, it overrides @code{nonascii-insert-offset}.
184 @end defvar
186 The next three functions either return the argument @var{string}, or a
187 newly created string with no text properties.
189 @defun string-make-unibyte string
190 This function converts the text of @var{string} to unibyte
191 representation, if it isn't already, and returns the result.  If
192 @var{string} is a unibyte string, it is returned unchanged.  Multibyte
193 character codes are converted to unibyte according to
194 @code{nonascii-translation-table} or, if that is @code{nil}, using
195 @code{nonascii-insert-offset}.  If the lookup in the translation table
196 fails, this function takes just the low 8 bits of each character.
197 @end defun
199 @defun string-make-multibyte string
200 This function converts the text of @var{string} to multibyte
201 representation, if it isn't already, and returns the result.  If
202 @var{string} is a multibyte string or consists entirely of
203 @acronym{ASCII} characters, it is returned unchanged.  In particular,
204 if @var{string} is unibyte and entirely @acronym{ASCII}, the returned
205 string is unibyte.  (When the characters are all @acronym{ASCII},
206 Emacs primitives will treat the string the same way whether it is
207 unibyte or multibyte.)  If @var{string} is unibyte and contains
208 non-@acronym{ASCII} characters, the function
209 @code{unibyte-char-to-multibyte} is used to convert each unibyte
210 character to a multibyte character.
211 @end defun
213 @defun string-to-multibyte string
214 This function returns a multibyte string containing the same sequence
215 of character codes as @var{string}.  Unlike
216 @code{string-make-multibyte}, this function unconditionally returns a
217 multibyte string.  If @var{string} is a multibyte string, it is
218 returned unchanged.
219 @end defun
221 @defun multibyte-char-to-unibyte char
222 This convert the multibyte character @var{char} to a unibyte
223 character, based on @code{nonascii-translation-table} and
224 @code{nonascii-insert-offset}.
225 @end defun
227 @defun unibyte-char-to-multibyte char
228 This convert the unibyte character @var{char} to a multibyte
229 character, based on @code{nonascii-translation-table} and
230 @code{nonascii-insert-offset}.
231 @end defun
233 @node Selecting a Representation
234 @section Selecting a Representation
236   Sometimes it is useful to examine an existing buffer or string as
237 multibyte when it was unibyte, or vice versa.
239 @defun set-buffer-multibyte multibyte
240 Set the representation type of the current buffer.  If @var{multibyte}
241 is non-@code{nil}, the buffer becomes multibyte.  If @var{multibyte}
242 is @code{nil}, the buffer becomes unibyte.
244 This function leaves the buffer contents unchanged when viewed as a
245 sequence of bytes.  As a consequence, it can change the contents viewed
246 as characters; a sequence of two bytes which is treated as one character
247 in multibyte representation will count as two characters in unibyte
248 representation.  Character codes 128 through 159 are an exception.  They
249 are represented by one byte in a unibyte buffer, but when the buffer is
250 set to multibyte, they are converted to two-byte sequences, and vice
251 versa.
253 This function sets @code{enable-multibyte-characters} to record which
254 representation is in use.  It also adjusts various data in the buffer
255 (including overlays, text properties and markers) so that they cover the
256 same text as they did before.
258 You cannot use @code{set-buffer-multibyte} on an indirect buffer,
259 because indirect buffers always inherit the representation of the
260 base buffer.
261 @end defun
263 @defun string-as-unibyte string
264 This function returns a string with the same bytes as @var{string} but
265 treating each byte as a character.  This means that the value may have
266 more characters than @var{string} has.
268 If @var{string} is already a unibyte string, then the value is
269 @var{string} itself.  Otherwise it is a newly created string, with no
270 text properties.  If @var{string} is multibyte, any characters it
271 contains of charset @code{eight-bit-control} or @code{eight-bit-graphic}
272 are converted to the corresponding single byte.
273 @end defun
275 @defun string-as-multibyte string
276 This function returns a string with the same bytes as @var{string} but
277 treating each multibyte sequence as one character.  This means that the
278 value may have fewer characters than @var{string} has.
280 If @var{string} is already a multibyte string, then the value is
281 @var{string} itself.  Otherwise it is a newly created string, with no
282 text properties.  If @var{string} is unibyte and contains any individual
283 8-bit bytes (i.e.@: not part of a multibyte form), they are converted to
284 the corresponding multibyte character of charset @code{eight-bit-control}
285 or @code{eight-bit-graphic}.
286 @end defun
288 @node Character Codes
289 @section Character Codes
290 @cindex character codes
292   The unibyte and multibyte text representations use different character
293 codes.  The valid character codes for unibyte representation range from
294 0 to 255---the values that can fit in one byte.  The valid character
295 codes for multibyte representation range from 0 to 524287, but not all
296 values in that range are valid.  The values 128 through 255 are not
297 entirely proper in multibyte text, but they can occur if you do explicit
298 encoding and decoding (@pxref{Explicit Encoding}).  Some other character
299 codes cannot occur at all in multibyte text.  Only the @acronym{ASCII} codes
300 0 through 127 are completely legitimate in both representations.
302 @defun char-valid-p charcode &optional genericp
303 This returns @code{t} if @var{charcode} is valid (either for unibyte
304 text or for multibyte text).
306 @example
307 (char-valid-p 65)
308      @result{} t
309 (char-valid-p 256)
310      @result{} nil
311 (char-valid-p 2248)
312      @result{} t
313 @end example
315 If the optional argument @var{genericp} is non-@code{nil}, this
316 function also returns @code{t} if @var{charcode} is a generic
317 character (@pxref{Splitting Characters}).
318 @end defun
320 @node Character Sets
321 @section Character Sets
322 @cindex character sets
324   Emacs classifies characters into various @dfn{character sets}, each of
325 which has a name which is a symbol.  Each character belongs to one and
326 only one character set.
328   In general, there is one character set for each distinct script.  For
329 example, @code{latin-iso8859-1} is one character set,
330 @code{greek-iso8859-7} is another, and @code{ascii} is another.  An
331 Emacs character set can hold at most 9025 characters; therefore, in some
332 cases, characters that would logically be grouped together are split
333 into several character sets.  For example, one set of Chinese
334 characters, generally known as Big 5, is divided into two Emacs
335 character sets, @code{chinese-big5-1} and @code{chinese-big5-2}.
337   @acronym{ASCII} characters are in character set @code{ascii}.  The
338 non-@acronym{ASCII} characters 128 through 159 are in character set
339 @code{eight-bit-control}, and codes 160 through 255 are in character set
340 @code{eight-bit-graphic}.
342 @defun charsetp object
343 Returns @code{t} if @var{object} is a symbol that names a character set,
344 @code{nil} otherwise.
345 @end defun
347 @defvar charset-list
348 The value is a list of all defined character set names.
349 @end defvar
351 @defun charset-list
352 This function returns the value of @code{charset-list}.  It is only
353 provided for backward compatibility.
354 @end defun
356 @defun char-charset character
357 This function returns the name of the character set that @var{character}
358 belongs to, or the symbol @code{unknown} if @var{character} is not a
359 valid character.
360 @end defun
362 @defun charset-plist charset
363 This function returns the charset property list of the character set
364 @var{charset}.  Although @var{charset} is a symbol, this is not the same
365 as the property list of that symbol.  Charset properties are used for
366 special purposes within Emacs.
367 @end defun
369 @deffn Command list-charset-chars charset
370 This command displays a list of characters in the character set
371 @var{charset}.
372 @end deffn
374 @node Chars and Bytes
375 @section Characters and Bytes
376 @cindex bytes and characters
378 @cindex introduction sequence (of character)
379 @cindex dimension (of character set)
380   In multibyte representation, each character occupies one or more
381 bytes.  Each character set has an @dfn{introduction sequence}, which is
382 normally one or two bytes long.  (Exception: the @code{ascii} character
383 set and the @code{eight-bit-graphic} character set have a zero-length
384 introduction sequence.)  The introduction sequence is the beginning of
385 the byte sequence for any character in the character set.  The rest of
386 the character's bytes distinguish it from the other characters in the
387 same character set.  Depending on the character set, there are either
388 one or two distinguishing bytes; the number of such bytes is called the
389 @dfn{dimension} of the character set.
391 @defun charset-dimension charset
392 This function returns the dimension of @var{charset}; at present, the
393 dimension is always 1 or 2.
394 @end defun
396 @defun charset-bytes charset
397 This function returns the number of bytes used to represent a character
398 in character set @var{charset}.
399 @end defun
401   This is the simplest way to determine the byte length of a character
402 set's introduction sequence:
404 @example
405 (- (charset-bytes @var{charset})
406    (charset-dimension @var{charset}))
407 @end example
409 @node Splitting Characters
410 @section Splitting Characters
411 @cindex character as bytes
413   The functions in this section convert between characters and the byte
414 values used to represent them.  For most purposes, there is no need to
415 be concerned with the sequence of bytes used to represent a character,
416 because Emacs translates automatically when necessary.
418 @defun split-char character
419 Return a list containing the name of the character set of
420 @var{character}, followed by one or two byte values (integers) which
421 identify @var{character} within that character set.  The number of byte
422 values is the character set's dimension.
424 If @var{character} is invalid as a character code, @code{split-char}
425 returns a list consisting of the symbol @code{unknown} and @var{character}.
427 @example
428 (split-char 2248)
429      @result{} (latin-iso8859-1 72)
430 (split-char 65)
431      @result{} (ascii 65)
432 (split-char 128)
433      @result{} (eight-bit-control 128)
434 @end example
435 @end defun
437 @cindex generate characters in charsets
438 @defun make-char charset &optional code1 code2
439 This function returns the character in character set @var{charset} whose
440 position codes are @var{code1} and @var{code2}.  This is roughly the
441 inverse of @code{split-char}.  Normally, you should specify either one
442 or both of @var{code1} and @var{code2} according to the dimension of
443 @var{charset}.  For example,
445 @example
446 (make-char 'latin-iso8859-1 72)
447      @result{} 2248
448 @end example
450 Actually, the eighth bit of both @var{code1} and @var{code2} is zeroed
451 before they are used to index @var{charset}.  Thus you may use, for
452 instance, an ISO 8859 character code rather than subtracting 128, as
453 is necessary to index the corresponding Emacs charset.
454 @end defun
456 @cindex generic characters
457   If you call @code{make-char} with no @var{byte-values}, the result is
458 a @dfn{generic character} which stands for @var{charset}.  A generic
459 character is an integer, but it is @emph{not} valid for insertion in the
460 buffer as a character.  It can be used in @code{char-table-range} to
461 refer to the whole character set (@pxref{Char-Tables}).
462 @code{char-valid-p} returns @code{nil} for generic characters.
463 For example:
465 @example
466 (make-char 'latin-iso8859-1)
467      @result{} 2176
468 (char-valid-p 2176)
469      @result{} nil
470 (char-valid-p 2176 t)
471      @result{} t
472 (split-char 2176)
473      @result{} (latin-iso8859-1 0)
474 @end example
476 The character sets @code{ascii}, @code{eight-bit-control}, and
477 @code{eight-bit-graphic} don't have corresponding generic characters.  If
478 @var{charset} is one of them and you don't supply @var{code1},
479 @code{make-char} returns the character code corresponding to the
480 smallest code in @var{charset}.
482 @node Scanning Charsets
483 @section Scanning for Character Sets
485   Sometimes it is useful to find out which character sets appear in a
486 part of a buffer or a string.  One use for this is in determining which
487 coding systems (@pxref{Coding Systems}) are capable of representing all
488 of the text in question.
490 @defun charset-after &optional pos
491 This function return the charset of a character in the current buffer
492 at position @var{pos}.  If @var{pos} is omitted or @code{nil}, it
493 defaults to the current value of point.  If @var{pos} is out of range,
494 the value is @code{nil}.
495 @end defun
497 @defun find-charset-region beg end &optional translation
498 This function returns a list of the character sets that appear in the
499 current buffer between positions @var{beg} and @var{end}.
501 The optional argument @var{translation} specifies a translation table to
502 be used in scanning the text (@pxref{Translation of Characters}).  If it
503 is non-@code{nil}, then each character in the region is translated
504 through this table, and the value returned describes the translated
505 characters instead of the characters actually in the buffer.
506 @end defun
508 @defun find-charset-string string &optional translation
509 This function returns a list of the character sets that appear in the
510 string @var{string}.  It is just like @code{find-charset-region}, except
511 that it applies to the contents of @var{string} instead of part of the
512 current buffer.
513 @end defun
515 @node Translation of Characters
516 @section Translation of Characters
517 @cindex character translation tables
518 @cindex translation tables
520   A @dfn{translation table} is a char-table that specifies a mapping
521 of characters into characters.  These tables are used in encoding and
522 decoding, and for other purposes.  Some coding systems specify their
523 own particular translation tables; there are also default translation
524 tables which apply to all other coding systems.
526   For instance, the coding-system @code{utf-8} has a translation table
527 that maps characters of various charsets (e.g.,
528 @code{latin-iso8859-@var{x}}) into Unicode character sets.  This way,
529 it can encode Latin-2 characters into UTF-8.  Meanwhile,
530 @code{unify-8859-on-decoding-mode} operates by specifying
531 @code{standard-translation-table-for-decode} to translate
532 Latin-@var{x} characters into corresponding Unicode characters.
534 @defun make-translation-table &rest translations
535 This function returns a translation table based on the argument
536 @var{translations}.  Each element of @var{translations} should be a
537 list of elements of the form @code{(@var{from} . @var{to})}; this says
538 to translate the character @var{from} into @var{to}.
540 The arguments and the forms in each argument are processed in order,
541 and if a previous form already translates @var{to} to some other
542 character, say @var{to-alt}, @var{from} is also translated to
543 @var{to-alt}.
545 You can also map one whole character set into another character set with
546 the same dimension.  To do this, you specify a generic character (which
547 designates a character set) for @var{from} (@pxref{Splitting Characters}).
548 In this case, if @var{to} is also a generic character, its character
549 set should have the same dimension as @var{from}'s.  Then the
550 translation table translates each character of @var{from}'s character
551 set into the corresponding character of @var{to}'s character set.  If
552 @var{from} is a generic character and @var{to} is an ordinary
553 character, then the translation table translates every character of
554 @var{from}'s character set into @var{to}.
555 @end defun
557   In decoding, the translation table's translations are applied to the
558 characters that result from ordinary decoding.  If a coding system has
559 property @code{translation-table-for-decode}, that specifies the
560 translation table to use.  (This is a property of the coding system,
561 as returned by @code{coding-system-get}, not a property of the symbol
562 that is the coding system's name. @xref{Coding System Basics,, Basic
563 Concepts of Coding Systems}.)  Otherwise, if
564 @code{standard-translation-table-for-decode} is non-@code{nil},
565 decoding uses that table.
567   In encoding, the translation table's translations are applied to the
568 characters in the buffer, and the result of translation is actually
569 encoded.  If a coding system has property
570 @code{translation-table-for-encode}, that specifies the translation
571 table to use.  Otherwise the variable
572 @code{standard-translation-table-for-encode} specifies the translation
573 table.
575 @defvar standard-translation-table-for-decode
576 This is the default translation table for decoding, for
577 coding systems that don't specify any other translation table.
578 @end defvar
580 @defvar standard-translation-table-for-encode
581 This is the default translation table for encoding, for
582 coding systems that don't specify any other translation table.
583 @end defvar
585 @defvar translation-table-for-input
586 Self-inserting characters are translated through this translation
587 table before they are inserted.  Search commands also translate their
588 input through this table, so they can compare more reliably with
589 what's in the buffer.
591 @code{set-buffer-file-coding-system} sets this variable so that your
592 keyboard input gets translated into the character sets that the buffer
593 is likely to contain.  This variable automatically becomes
594 buffer-local when set.
595 @end defvar
597 @node Coding Systems
598 @section Coding Systems
600 @cindex coding system
601   When Emacs reads or writes a file, and when Emacs sends text to a
602 subprocess or receives text from a subprocess, it normally performs
603 character code conversion and end-of-line conversion as specified
604 by a particular @dfn{coding system}.
606   How to define a coding system is an arcane matter, and is not
607 documented here.
609 @menu
610 * Coding System Basics::        Basic concepts.
611 * Encoding and I/O::            How file I/O functions handle coding systems.
612 * Lisp and Coding Systems::     Functions to operate on coding system names.
613 * User-Chosen Coding Systems::  Asking the user to choose a coding system.
614 * Default Coding Systems::      Controlling the default choices.
615 * Specifying Coding Systems::   Requesting a particular coding system
616                                     for a single file operation.
617 * Explicit Encoding::           Encoding or decoding text without doing I/O.
618 * Terminal I/O Encoding::       Use of encoding for terminal I/O.
619 * MS-DOS File Types::           How DOS "text" and "binary" files
620                                     relate to coding systems.
621 @end menu
623 @node Coding System Basics
624 @subsection Basic Concepts of Coding Systems
626 @cindex character code conversion
627   @dfn{Character code conversion} involves conversion between the encoding
628 used inside Emacs and some other encoding.  Emacs supports many
629 different encodings, in that it can convert to and from them.  For
630 example, it can convert text to or from encodings such as Latin 1, Latin
631 2, Latin 3, Latin 4, Latin 5, and several variants of ISO 2022.  In some
632 cases, Emacs supports several alternative encodings for the same
633 characters; for example, there are three coding systems for the Cyrillic
634 (Russian) alphabet: ISO, Alternativnyj, and KOI8.
636   Most coding systems specify a particular character code for
637 conversion, but some of them leave the choice unspecified---to be chosen
638 heuristically for each file, based on the data.
640   In general, a coding system doesn't guarantee roundtrip identity:
641 decoding a byte sequence using coding system, then encoding the
642 resulting text in the same coding system, can produce a different byte
643 sequence.  However, the following coding systems do guarantee that the
644 byte sequence will be the same as what you originally decoded:
646 @quotation
647 chinese-big5 chinese-iso-8bit cyrillic-iso-8bit emacs-mule
648 greek-iso-8bit hebrew-iso-8bit iso-latin-1 iso-latin-2 iso-latin-3
649 iso-latin-4 iso-latin-5 iso-latin-8 iso-latin-9 iso-safe
650 japanese-iso-8bit japanese-shift-jis korean-iso-8bit raw-text
651 @end quotation
653   Encoding buffer text and then decoding the result can also fail to
654 reproduce the original text.  For instance, if you encode Latin-2
655 characters with @code{utf-8} and decode the result using the same
656 coding system, you'll get Unicode characters (of charset
657 @code{mule-unicode-0100-24ff}).  If you encode Unicode characters with
658 @code{iso-latin-2} and decode the result with the same coding system,
659 you'll get Latin-2 characters.
661 @cindex EOL conversion
662 @cindex end-of-line conversion
663 @cindex line end conversion
664   @dfn{End of line conversion} handles three different conventions used
665 on various systems for representing end of line in files.  The Unix
666 convention is to use the linefeed character (also called newline).  The
667 DOS convention is to use a carriage-return and a linefeed at the end of
668 a line.  The Mac convention is to use just carriage-return.
670 @cindex base coding system
671 @cindex variant coding system
672   @dfn{Base coding systems} such as @code{latin-1} leave the end-of-line
673 conversion unspecified, to be chosen based on the data.  @dfn{Variant
674 coding systems} such as @code{latin-1-unix}, @code{latin-1-dos} and
675 @code{latin-1-mac} specify the end-of-line conversion explicitly as
676 well.  Most base coding systems have three corresponding variants whose
677 names are formed by adding @samp{-unix}, @samp{-dos} and @samp{-mac}.
679   The coding system @code{raw-text} is special in that it prevents
680 character code conversion, and causes the buffer visited with that
681 coding system to be a unibyte buffer.  It does not specify the
682 end-of-line conversion, allowing that to be determined as usual by the
683 data, and has the usual three variants which specify the end-of-line
684 conversion.  @code{no-conversion} is equivalent to @code{raw-text-unix}:
685 it specifies no conversion of either character codes or end-of-line.
687   The coding system @code{emacs-mule} specifies that the data is
688 represented in the internal Emacs encoding.  This is like
689 @code{raw-text} in that no code conversion happens, but different in
690 that the result is multibyte data.
692 @defun coding-system-get coding-system property
693 This function returns the specified property of the coding system
694 @var{coding-system}.  Most coding system properties exist for internal
695 purposes, but one that you might find useful is @code{mime-charset}.
696 That property's value is the name used in MIME for the character coding
697 which this coding system can read and write.  Examples:
699 @example
700 (coding-system-get 'iso-latin-1 'mime-charset)
701      @result{} iso-8859-1
702 (coding-system-get 'iso-2022-cn 'mime-charset)
703      @result{} iso-2022-cn
704 (coding-system-get 'cyrillic-koi8 'mime-charset)
705      @result{} koi8-r
706 @end example
708 The value of the @code{mime-charset} property is also defined
709 as an alias for the coding system.
710 @end defun
712 @node Encoding and I/O
713 @subsection Encoding and I/O
715   The principal purpose of coding systems is for use in reading and
716 writing files.  The function @code{insert-file-contents} uses
717 a coding system for decoding the file data, and @code{write-region}
718 uses one to encode the buffer contents.
720   You can specify the coding system to use either explicitly
721 (@pxref{Specifying Coding Systems}), or implicitly using a default
722 mechanism (@pxref{Default Coding Systems}).  But these methods may not
723 completely specify what to do.  For example, they may choose a coding
724 system such as @code{undefined} which leaves the character code
725 conversion to be determined from the data.  In these cases, the I/O
726 operation finishes the job of choosing a coding system.  Very often
727 you will want to find out afterwards which coding system was chosen.
729 @defvar buffer-file-coding-system
730 This buffer-local variable records the coding system that was used to visit
731 the current buffer.  It is used for saving the buffer, and for writing part
732 of the buffer with @code{write-region}.  If the text to be written
733 cannot be safely encoded using the coding system specified by this
734 variable, these operations select an alternative encoding by calling
735 the function @code{select-safe-coding-system} (@pxref{User-Chosen
736 Coding Systems}).  If selecting a different encoding requires to ask
737 the user to specify a coding system, @code{buffer-file-coding-system}
738 is updated to the newly selected coding system.
740 @code{buffer-file-coding-system} does @emph{not} affect sending text
741 to a subprocess.
742 @end defvar
744 @defvar save-buffer-coding-system
745 This variable specifies the coding system for saving the buffer (by
746 overriding @code{buffer-file-coding-system}).  Note that it is not used
747 for @code{write-region}.
749 When a command to save the buffer starts out to use
750 @code{buffer-file-coding-system} (or @code{save-buffer-coding-system}),
751 and that coding system cannot handle
752 the actual text in the buffer, the command asks the user to choose
753 another coding system (by calling @code{select-safe-coding-system}).
754 After that happens, the command also updates
755 @code{buffer-file-coding-system} to represent the coding system that
756 the user specified.
757 @end defvar
759 @defvar last-coding-system-used
760 I/O operations for files and subprocesses set this variable to the
761 coding system name that was used.  The explicit encoding and decoding
762 functions (@pxref{Explicit Encoding}) set it too.
764 @strong{Warning:} Since receiving subprocess output sets this variable,
765 it can change whenever Emacs waits; therefore, you should copy the
766 value shortly after the function call that stores the value you are
767 interested in.
768 @end defvar
770   The variable @code{selection-coding-system} specifies how to encode
771 selections for the window system.  @xref{Window System Selections}.
773 @defvar file-name-coding-system
774 The variable @code{file-name-coding-system} specifies the coding
775 system to use for encoding file names.  Emacs encodes file names using
776 that coding system for all file operations.  If
777 @code{file-name-coding-system} is @code{nil}, Emacs uses a default
778 coding system determined by the selected language environment.  In the
779 default language environment, any non-@acronym{ASCII} characters in
780 file names are not encoded specially; they appear in the file system
781 using the internal Emacs representation.
782 @end defvar
784   @strong{Warning:} if you change @code{file-name-coding-system} (or
785 the language environment) in the middle of an Emacs session, problems
786 can result if you have already visited files whose names were encoded
787 using the earlier coding system and are handled differently under the
788 new coding system.  If you try to save one of these buffers under the
789 visited file name, saving may use the wrong file name, or it may get
790 an error.  If such a problem happens, use @kbd{C-x C-w} to specify a
791 new file name for that buffer.
793 @node Lisp and Coding Systems
794 @subsection Coding Systems in Lisp
796   Here are the Lisp facilities for working with coding systems:
798 @defun coding-system-list &optional base-only
799 This function returns a list of all coding system names (symbols).  If
800 @var{base-only} is non-@code{nil}, the value includes only the
801 base coding systems.  Otherwise, it includes alias and variant coding
802 systems as well.
803 @end defun
805 @defun coding-system-p object
806 This function returns @code{t} if @var{object} is a coding system
807 name or @code{nil}.
808 @end defun
810 @defun check-coding-system coding-system
811 This function checks the validity of @var{coding-system}.
812 If that is valid, it returns @var{coding-system}.
813 Otherwise it signals an error with condition @code{coding-system-error}.
814 @end defun
816 @defun coding-system-eol-type coding-system
817 This function returns the type of end-of-line (a.k.a.@: @dfn{eol})
818 conversion used by @var{coding-system}.  If @var{coding-system}
819 specifies a certain eol conversion, the return value is an integer 0,
820 1, or 2, standing for @code{unix}, @code{dos}, and @code{mac},
821 respectively.  If @var{coding-system} doesn't specify eol conversion
822 explicitly, the return value is a vector of coding systems, each one
823 with one of the possible eol conversion types, like this:
825 @lisp
826 (coding-system-eol-type 'latin-1)
827      @result{} [latin-1-unix latin-1-dos latin-1-mac]
828 @end lisp
830 @noindent
831 If this function returns a vector, Emacs will decide, as part of the
832 text encoding or decoding process, what eol conversion to use.  For
833 decoding, the end-of-line format of the text is auto-detected, and the
834 eol conversion is set to match it (e.g., DOS-style CRLF format will
835 imply @code{dos} eol conversion).  For encoding, the eol conversion is
836 taken from the appropriate default coding system (e.g.,
837 @code{default-buffer-file-coding-system} for
838 @code{buffer-file-coding-system}), or from the default eol conversion
839 appropriate for the underlying platform.
840 @end defun
842 @defun coding-system-change-eol-conversion coding-system eol-type
843 This function returns a coding system which is like @var{coding-system}
844 except for its eol conversion, which is specified by @code{eol-type}.
845 @var{eol-type} should be @code{unix}, @code{dos}, @code{mac}, or
846 @code{nil}.  If it is @code{nil}, the returned coding system determines
847 the end-of-line conversion from the data.
849 @var{eol-type} may also be 0, 1 or 2, standing for @code{unix},
850 @code{dos} and @code{mac}, respectively.
851 @end defun
853 @defun coding-system-change-text-conversion eol-coding text-coding
854 This function returns a coding system which uses the end-of-line
855 conversion of @var{eol-coding}, and the text conversion of
856 @var{text-coding}.  If @var{text-coding} is @code{nil}, it returns
857 @code{undecided}, or one of its variants according to @var{eol-coding}.
858 @end defun
860 @defun find-coding-systems-region from to
861 This function returns a list of coding systems that could be used to
862 encode a text between @var{from} and @var{to}.  All coding systems in
863 the list can safely encode any multibyte characters in that portion of
864 the text.
866 If the text contains no multibyte characters, the function returns the
867 list @code{(undecided)}.
868 @end defun
870 @defun find-coding-systems-string string
871 This function returns a list of coding systems that could be used to
872 encode the text of @var{string}.  All coding systems in the list can
873 safely encode any multibyte characters in @var{string}.  If the text
874 contains no multibyte characters, this returns the list
875 @code{(undecided)}.
876 @end defun
878 @defun find-coding-systems-for-charsets charsets
879 This function returns a list of coding systems that could be used to
880 encode all the character sets in the list @var{charsets}.
881 @end defun
883 @defun detect-coding-region start end &optional highest
884 This function chooses a plausible coding system for decoding the text
885 from @var{start} to @var{end}.  This text should be a byte sequence
886 (@pxref{Explicit Encoding}).
888 Normally this function returns a list of coding systems that could
889 handle decoding the text that was scanned.  They are listed in order of
890 decreasing priority.  But if @var{highest} is non-@code{nil}, then the
891 return value is just one coding system, the one that is highest in
892 priority.
894 If the region contains only @acronym{ASCII} characters except for such
895 ISO-2022 control characters ISO-2022 as @code{ESC}, the value is
896 @code{undecided} or @code{(undecided)}, or a variant specifying
897 end-of-line conversion, if that can be deduced from the text.
898 @end defun
900 @defun detect-coding-string string &optional highest
901 This function is like @code{detect-coding-region} except that it
902 operates on the contents of @var{string} instead of bytes in the buffer.
903 @end defun
905   @xref{Coding systems for a subprocess,, Process Information}, in
906 particular the description of the functions
907 @code{process-coding-system} and @code{set-process-coding-system}, for
908 how to examine or set the coding systems used for I/O to a subprocess.
910 @node User-Chosen Coding Systems
911 @subsection User-Chosen Coding Systems
913 @cindex select safe coding system
914 @defun select-safe-coding-system from to &optional default-coding-system accept-default-p file
915 This function selects a coding system for encoding specified text,
916 asking the user to choose if necessary.  Normally the specified text
917 is the text in the current buffer between @var{from} and @var{to}.  If
918 @var{from} is a string, the string specifies the text to encode, and
919 @var{to} is ignored.
921 If @var{default-coding-system} is non-@code{nil}, that is the first
922 coding system to try; if that can handle the text,
923 @code{select-safe-coding-system} returns that coding system.  It can
924 also be a list of coding systems; then the function tries each of them
925 one by one.  After trying all of them, it next tries the current
926 buffer's value of @code{buffer-file-coding-system} (if it is not
927 @code{undecided}), then the value of
928 @code{default-buffer-file-coding-system} and finally the user's most
929 preferred coding system, which the user can set using the command
930 @code{prefer-coding-system} (@pxref{Recognize Coding,, Recognizing
931 Coding Systems, emacs, The GNU Emacs Manual}).
933 If one of those coding systems can safely encode all the specified
934 text, @code{select-safe-coding-system} chooses it and returns it.
935 Otherwise, it asks the user to choose from a list of coding systems
936 which can encode all the text, and returns the user's choice.
938 @var{default-coding-system} can also be a list whose first element is
939 t and whose other elements are coding systems.  Then, if no coding
940 system in the list can handle the text, @code{select-safe-coding-system}
941 queries the user immediately, without trying any of the three
942 alternatives described above.
944 The optional argument @var{accept-default-p}, if non-@code{nil},
945 should be a function to determine whether a coding system selected
946 without user interaction is acceptable. @code{select-safe-coding-system}
947 calls this function with one argument, the base coding system of the
948 selected coding system.  If @var{accept-default-p} returns @code{nil},
949 @code{select-safe-coding-system} rejects the silently selected coding
950 system, and asks the user to select a coding system from a list of
951 possible candidates.
953 @vindex select-safe-coding-system-accept-default-p
954 If the variable @code{select-safe-coding-system-accept-default-p} is
955 non-@code{nil}, its value overrides the value of
956 @var{accept-default-p}.
958 As a final step, before returning the chosen coding system,
959 @code{select-safe-coding-system} checks whether that coding system is
960 consistent with what would be selected if the contents of the region
961 were read from a file.  (If not, this could lead to data corruption in
962 a file subsequently re-visited and edited.)  Normally,
963 @code{select-safe-coding-system} uses @code{buffer-file-name} as the
964 file for this purpose, but if @var{file} is non-@code{nil}, it uses
965 that file instead (this can be relevant for @code{write-region} and
966 similar functions).  If it detects an apparent inconsistency,
967 @code{select-safe-coding-system} queries the user before selecting the
968 coding system.
969 @end defun
971   Here are two functions you can use to let the user specify a coding
972 system, with completion.  @xref{Completion}.
974 @defun read-coding-system prompt &optional default
975 This function reads a coding system using the minibuffer, prompting with
976 string @var{prompt}, and returns the coding system name as a symbol.  If
977 the user enters null input, @var{default} specifies which coding system
978 to return.  It should be a symbol or a string.
979 @end defun
981 @defun read-non-nil-coding-system prompt
982 This function reads a coding system using the minibuffer, prompting with
983 string @var{prompt}, and returns the coding system name as a symbol.  If
984 the user tries to enter null input, it asks the user to try again.
985 @xref{Coding Systems}.
986 @end defun
988 @node Default Coding Systems
989 @subsection Default Coding Systems
991   This section describes variables that specify the default coding
992 system for certain files or when running certain subprograms, and the
993 function that I/O operations use to access them.
995   The idea of these variables is that you set them once and for all to the
996 defaults you want, and then do not change them again.  To specify a
997 particular coding system for a particular operation in a Lisp program,
998 don't change these variables; instead, override them using
999 @code{coding-system-for-read} and @code{coding-system-for-write}
1000 (@pxref{Specifying Coding Systems}).
1002 @defvar auto-coding-regexp-alist
1003 This variable is an alist of text patterns and corresponding coding
1004 systems. Each element has the form @code{(@var{regexp}
1005 . @var{coding-system})}; a file whose first few kilobytes match
1006 @var{regexp} is decoded with @var{coding-system} when its contents are
1007 read into a buffer.  The settings in this alist take priority over
1008 @code{coding:} tags in the files and the contents of
1009 @code{file-coding-system-alist} (see below).  The default value is set
1010 so that Emacs automatically recognizes mail files in Babyl format and
1011 reads them with no code conversions.
1012 @end defvar
1014 @defvar file-coding-system-alist
1015 This variable is an alist that specifies the coding systems to use for
1016 reading and writing particular files.  Each element has the form
1017 @code{(@var{pattern} . @var{coding})}, where @var{pattern} is a regular
1018 expression that matches certain file names.  The element applies to file
1019 names that match @var{pattern}.
1021 The @sc{cdr} of the element, @var{coding}, should be either a coding
1022 system, a cons cell containing two coding systems, or a function name (a
1023 symbol with a function definition).  If @var{coding} is a coding system,
1024 that coding system is used for both reading the file and writing it.  If
1025 @var{coding} is a cons cell containing two coding systems, its @sc{car}
1026 specifies the coding system for decoding, and its @sc{cdr} specifies the
1027 coding system for encoding.
1029 If @var{coding} is a function name, the function should take one
1030 argument, a list of all arguments passed to
1031 @code{find-operation-coding-system}.  It must return a coding system
1032 or a cons cell containing two coding systems.  This value has the same
1033 meaning as described above.
1034 @end defvar
1036 @defvar process-coding-system-alist
1037 This variable is an alist specifying which coding systems to use for a
1038 subprocess, depending on which program is running in the subprocess.  It
1039 works like @code{file-coding-system-alist}, except that @var{pattern} is
1040 matched against the program name used to start the subprocess.  The coding
1041 system or systems specified in this alist are used to initialize the
1042 coding systems used for I/O to the subprocess, but you can specify
1043 other coding systems later using @code{set-process-coding-system}.
1044 @end defvar
1046   @strong{Warning:} Coding systems such as @code{undecided}, which
1047 determine the coding system from the data, do not work entirely reliably
1048 with asynchronous subprocess output.  This is because Emacs handles
1049 asynchronous subprocess output in batches, as it arrives.  If the coding
1050 system leaves the character code conversion unspecified, or leaves the
1051 end-of-line conversion unspecified, Emacs must try to detect the proper
1052 conversion from one batch at a time, and this does not always work.
1054   Therefore, with an asynchronous subprocess, if at all possible, use a
1055 coding system which determines both the character code conversion and
1056 the end of line conversion---that is, one like @code{latin-1-unix},
1057 rather than @code{undecided} or @code{latin-1}.
1059 @defvar network-coding-system-alist
1060 This variable is an alist that specifies the coding system to use for
1061 network streams.  It works much like @code{file-coding-system-alist},
1062 with the difference that the @var{pattern} in an element may be either a
1063 port number or a regular expression.  If it is a regular expression, it
1064 is matched against the network service name used to open the network
1065 stream.
1066 @end defvar
1068 @defvar default-process-coding-system
1069 This variable specifies the coding systems to use for subprocess (and
1070 network stream) input and output, when nothing else specifies what to
1073 The value should be a cons cell of the form @code{(@var{input-coding}
1074 . @var{output-coding})}.  Here @var{input-coding} applies to input from
1075 the subprocess, and @var{output-coding} applies to output to it.
1076 @end defvar
1078 @defvar auto-coding-functions
1079 This variable holds a list of functions that try to determine a
1080 coding system for a file based on its undecoded contents.
1082 Each function in this list should be written to look at text in the
1083 current buffer, but should not modify it in any way.  The buffer will
1084 contain undecoded text of parts of the file.  Each function should
1085 take one argument, @var{size}, which tells it how many characters to
1086 look at, starting from point.  If the function succeeds in determining
1087 a coding system for the file, it should return that coding system.
1088 Otherwise, it should return @code{nil}.
1090 If a file has a @samp{coding:} tag, that takes precedence, so these
1091 functions won't be called.
1092 @end defvar
1094 @defun find-operation-coding-system operation &rest arguments
1095 This function returns the coding system to use (by default) for
1096 performing @var{operation} with @var{arguments}.  The value has this
1097 form:
1099 @example
1100 (@var{decoding-system} . @var{encoding-system})
1101 @end example
1103 The first element, @var{decoding-system}, is the coding system to use
1104 for decoding (in case @var{operation} does decoding), and
1105 @var{encoding-system} is the coding system for encoding (in case
1106 @var{operation} does encoding).
1108 The argument @var{operation} is a symbol, one of @code{write-region},
1109 @code{start-process}, @code{call-process}, @code{call-process-region},
1110 @code{insert-file-contents}, or @code{open-network-stream}.  These are
1111 the names of the Emacs I/O primitives that can do character code and
1112 eol conversion.
1114 The remaining arguments should be the same arguments that might be given
1115 to the corresponding I/O primitive.  Depending on the primitive, one
1116 of those arguments is selected as the @dfn{target}.  For example, if
1117 @var{operation} does file I/O, whichever argument specifies the file
1118 name is the target.  For subprocess primitives, the process name is the
1119 target.  For @code{open-network-stream}, the target is the service name
1120 or port number.
1122 Depending on @var{operation}, this function looks up the target in
1123 @code{file-coding-system-alist}, @code{process-coding-system-alist},
1124 or @code{network-coding-system-alist}.  If the target is found in the
1125 alist, @code{find-operation-coding-system} returns its association in
1126 the alist; otherwise it returns @code{nil}.
1128 If @var{operation} is @code{insert-file-contents}, the argument
1129 corresponding to the target may be a cons cell of the form
1130 @code{(@var{filename} . @var{buffer})}).  In that case, @var{filename}
1131 is a file name to look up in @code{file-coding-system-alist}, and
1132 @var{buffer} is a buffer that contains the file's contents (not yet
1133 decoded).  If @code{file-coding-system-alist} specifies a function to
1134 call for this file, and that function needs to examine the file's
1135 contents (as it usually does), it should examine the contents of
1136 @var{buffer} instead of reading the file.
1137 @end defun
1139 @node Specifying Coding Systems
1140 @subsection Specifying a Coding System for One Operation
1142   You can specify the coding system for a specific operation by binding
1143 the variables @code{coding-system-for-read} and/or
1144 @code{coding-system-for-write}.
1146 @defvar coding-system-for-read
1147 If this variable is non-@code{nil}, it specifies the coding system to
1148 use for reading a file, or for input from a synchronous subprocess.
1150 It also applies to any asynchronous subprocess or network stream, but in
1151 a different way: the value of @code{coding-system-for-read} when you
1152 start the subprocess or open the network stream specifies the input
1153 decoding method for that subprocess or network stream.  It remains in
1154 use for that subprocess or network stream unless and until overridden.
1156 The right way to use this variable is to bind it with @code{let} for a
1157 specific I/O operation.  Its global value is normally @code{nil}, and
1158 you should not globally set it to any other value.  Here is an example
1159 of the right way to use the variable:
1161 @example
1162 ;; @r{Read the file with no character code conversion.}
1163 ;; @r{Assume @acronym{crlf} represents end-of-line.}
1164 (let ((coding-system-for-read 'emacs-mule-dos))
1165   (insert-file-contents filename))
1166 @end example
1168 When its value is non-@code{nil}, this variable takes precedence over
1169 all other methods of specifying a coding system to use for input,
1170 including @code{file-coding-system-alist},
1171 @code{process-coding-system-alist} and
1172 @code{network-coding-system-alist}.
1173 @end defvar
1175 @defvar coding-system-for-write
1176 This works much like @code{coding-system-for-read}, except that it
1177 applies to output rather than input.  It affects writing to files,
1178 as well as sending output to subprocesses and net connections.
1180 When a single operation does both input and output, as do
1181 @code{call-process-region} and @code{start-process}, both
1182 @code{coding-system-for-read} and @code{coding-system-for-write}
1183 affect it.
1184 @end defvar
1186 @defvar inhibit-eol-conversion
1187 When this variable is non-@code{nil}, no end-of-line conversion is done,
1188 no matter which coding system is specified.  This applies to all the
1189 Emacs I/O and subprocess primitives, and to the explicit encoding and
1190 decoding functions (@pxref{Explicit Encoding}).
1191 @end defvar
1193 @node Explicit Encoding
1194 @subsection Explicit Encoding and Decoding
1195 @cindex encoding in coding systems
1196 @cindex decoding in coding systems
1198   All the operations that transfer text in and out of Emacs have the
1199 ability to use a coding system to encode or decode the text.
1200 You can also explicitly encode and decode text using the functions
1201 in this section.
1203   The result of encoding, and the input to decoding, are not ordinary
1204 text.  They logically consist of a series of byte values; that is, a
1205 series of characters whose codes are in the range 0 through 255.  In a
1206 multibyte buffer or string, character codes 128 through 159 are
1207 represented by multibyte sequences, but this is invisible to Lisp
1208 programs.
1210   The usual way to read a file into a buffer as a sequence of bytes, so
1211 you can decode the contents explicitly, is with
1212 @code{insert-file-contents-literally} (@pxref{Reading from Files});
1213 alternatively, specify a non-@code{nil} @var{rawfile} argument when
1214 visiting a file with @code{find-file-noselect}.  These methods result in
1215 a unibyte buffer.
1217   The usual way to use the byte sequence that results from explicitly
1218 encoding text is to copy it to a file or process---for example, to write
1219 it with @code{write-region} (@pxref{Writing to Files}), and suppress
1220 encoding by binding @code{coding-system-for-write} to
1221 @code{no-conversion}.
1223   Here are the functions to perform explicit encoding or decoding.  The
1224 encoding functions produce sequences of bytes; the decoding functions
1225 are meant to operate on sequences of bytes.  All of these functions
1226 discard text properties.
1228 @deffn Command encode-coding-region start end coding-system
1229 This command encodes the text from @var{start} to @var{end} according
1230 to coding system @var{coding-system}.  The encoded text replaces the
1231 original text in the buffer.  The result of encoding is logically a
1232 sequence of bytes, but the buffer remains multibyte if it was multibyte
1233 before.
1235 This command returns the length of the encoded text.
1236 @end deffn
1238 @defun encode-coding-string string coding-system &optional nocopy
1239 This function encodes the text in @var{string} according to coding
1240 system @var{coding-system}.  It returns a new string containing the
1241 encoded text, except when @var{nocopy} is non-@code{nil}, in which
1242 case the function may return @var{string} itself if the encoding
1243 operation is trivial.  The result of encoding is a unibyte string.
1244 @end defun
1246 @deffn Command decode-coding-region start end coding-system
1247 This command decodes the text from @var{start} to @var{end} according
1248 to coding system @var{coding-system}.  The decoded text replaces the
1249 original text in the buffer.  To make explicit decoding useful, the text
1250 before decoding ought to be a sequence of byte values, but both
1251 multibyte and unibyte buffers are acceptable.
1253 This command returns the length of the decoded text.
1254 @end deffn
1256 @defun decode-coding-string string coding-system &optional nocopy
1257 This function decodes the text in @var{string} according to coding
1258 system @var{coding-system}.  It returns a new string containing the
1259 decoded text, except when @var{nocopy} is non-@code{nil}, in which
1260 case the function may return @var{string} itself if the decoding
1261 operation is trivial.  To make explicit decoding useful, the contents
1262 of @var{string} ought to be a sequence of byte values, but a multibyte
1263 string is acceptable.
1264 @end defun
1266 @defun decode-coding-inserted-region from to filename &optional visit beg end replace
1267 This function decodes the text from @var{from} to @var{to} as if
1268 it were being read from file @var{filename} using @code{insert-file-contents}
1269 using the rest of the arguments provided.
1271 The normal way to use this function is after reading text from a file
1272 without decoding, if you decide you would rather have decoded it.
1273 Instead of deleting the text and reading it again, this time with
1274 decoding, you can call this function.
1275 @end defun
1277 @node Terminal I/O Encoding
1278 @subsection Terminal I/O Encoding
1280   Emacs can decode keyboard input using a coding system, and encode
1281 terminal output.  This is useful for terminals that transmit or display
1282 text using a particular encoding such as Latin-1.  Emacs does not set
1283 @code{last-coding-system-used} for encoding or decoding for the
1284 terminal.
1286 @defun keyboard-coding-system
1287 This function returns the coding system that is in use for decoding
1288 keyboard input---or @code{nil} if no coding system is to be used.
1289 @end defun
1291 @deffn Command set-keyboard-coding-system coding-system
1292 This command specifies @var{coding-system} as the coding system to
1293 use for decoding keyboard input.  If @var{coding-system} is @code{nil},
1294 that means do not decode keyboard input.
1295 @end deffn
1297 @defun terminal-coding-system
1298 This function returns the coding system that is in use for encoding
1299 terminal output---or @code{nil} for no encoding.
1300 @end defun
1302 @deffn Command set-terminal-coding-system coding-system
1303 This command specifies @var{coding-system} as the coding system to use
1304 for encoding terminal output.  If @var{coding-system} is @code{nil},
1305 that means do not encode terminal output.
1306 @end deffn
1308 @node MS-DOS File Types
1309 @subsection MS-DOS File Types
1310 @cindex DOS file types
1311 @cindex MS-DOS file types
1312 @cindex Windows file types
1313 @cindex file types on MS-DOS and Windows
1314 @cindex text files and binary files
1315 @cindex binary files and text files
1317   On MS-DOS and Microsoft Windows, Emacs guesses the appropriate
1318 end-of-line conversion for a file by looking at the file's name.  This
1319 feature classifies files as @dfn{text files} and @dfn{binary files}.  By
1320 ``binary file'' we mean a file of literal byte values that are not
1321 necessarily meant to be characters; Emacs does no end-of-line conversion
1322 and no character code conversion for them.  On the other hand, the bytes
1323 in a text file are intended to represent characters; when you create a
1324 new file whose name implies that it is a text file, Emacs uses DOS
1325 end-of-line conversion.
1327 @defvar buffer-file-type
1328 This variable, automatically buffer-local in each buffer, records the
1329 file type of the buffer's visited file.  When a buffer does not specify
1330 a coding system with @code{buffer-file-coding-system}, this variable is
1331 used to determine which coding system to use when writing the contents
1332 of the buffer.  It should be @code{nil} for text, @code{t} for binary.
1333 If it is @code{t}, the coding system is @code{no-conversion}.
1334 Otherwise, @code{undecided-dos} is used.
1336 Normally this variable is set by visiting a file; it is set to
1337 @code{nil} if the file was visited without any actual conversion.
1338 @end defvar
1340 @defopt file-name-buffer-file-type-alist
1341 This variable holds an alist for recognizing text and binary files.
1342 Each element has the form (@var{regexp} . @var{type}), where
1343 @var{regexp} is matched against the file name, and @var{type} may be
1344 @code{nil} for text, @code{t} for binary, or a function to call to
1345 compute which.  If it is a function, then it is called with a single
1346 argument (the file name) and should return @code{t} or @code{nil}.
1348 When running on MS-DOS or MS-Windows, Emacs checks this alist to decide
1349 which coding system to use when reading a file.  For a text file,
1350 @code{undecided-dos} is used.  For a binary file, @code{no-conversion}
1351 is used.
1353 If no element in this alist matches a given file name, then
1354 @code{default-buffer-file-type} says how to treat the file.
1355 @end defopt
1357 @defopt default-buffer-file-type
1358 This variable says how to handle files for which
1359 @code{file-name-buffer-file-type-alist} says nothing about the type.
1361 If this variable is non-@code{nil}, then these files are treated as
1362 binary: the coding system @code{no-conversion} is used.  Otherwise,
1363 nothing special is done for them---the coding system is deduced solely
1364 from the file contents, in the usual Emacs fashion.
1365 @end defopt
1367 @node Input Methods
1368 @section Input Methods
1369 @cindex input methods
1371   @dfn{Input methods} provide convenient ways of entering non-@acronym{ASCII}
1372 characters from the keyboard.  Unlike coding systems, which translate
1373 non-@acronym{ASCII} characters to and from encodings meant to be read by
1374 programs, input methods provide human-friendly commands.  (@xref{Input
1375 Methods,,, emacs, The GNU Emacs Manual}, for information on how users
1376 use input methods to enter text.)  How to define input methods is not
1377 yet documented in this manual, but here we describe how to use them.
1379   Each input method has a name, which is currently a string;
1380 in the future, symbols may also be usable as input method names.
1382 @defvar current-input-method
1383 This variable holds the name of the input method now active in the
1384 current buffer.  (It automatically becomes local in each buffer when set
1385 in any fashion.)  It is @code{nil} if no input method is active in the
1386 buffer now.
1387 @end defvar
1389 @defopt default-input-method
1390 This variable holds the default input method for commands that choose an
1391 input method.  Unlike @code{current-input-method}, this variable is
1392 normally global.
1393 @end defopt
1395 @deffn Command set-input-method input-method
1396 This command activates input method @var{input-method} for the current
1397 buffer.  It also sets @code{default-input-method} to @var{input-method}.
1398 If @var{input-method} is @code{nil}, this command deactivates any input
1399 method for the current buffer.
1400 @end deffn
1402 @defun read-input-method-name prompt &optional default inhibit-null
1403 This function reads an input method name with the minibuffer, prompting
1404 with @var{prompt}.  If @var{default} is non-@code{nil}, that is returned
1405 by default, if the user enters empty input.  However, if
1406 @var{inhibit-null} is non-@code{nil}, empty input signals an error.
1408 The returned value is a string.
1409 @end defun
1411 @defvar input-method-alist
1412 This variable defines all the supported input methods.
1413 Each element defines one input method, and should have the form:
1415 @example
1416 (@var{input-method} @var{language-env} @var{activate-func}
1417  @var{title} @var{description} @var{args}...)
1418 @end example
1420 Here @var{input-method} is the input method name, a string;
1421 @var{language-env} is another string, the name of the language
1422 environment this input method is recommended for.  (That serves only for
1423 documentation purposes.)
1425 @var{activate-func} is a function to call to activate this method.  The
1426 @var{args}, if any, are passed as arguments to @var{activate-func}.  All
1427 told, the arguments to @var{activate-func} are @var{input-method} and
1428 the @var{args}.
1430 @var{title} is a string to display in the mode line while this method is
1431 active.  @var{description} is a string describing this method and what
1432 it is good for.
1433 @end defvar
1435   The fundamental interface to input methods is through the
1436 variable @code{input-method-function}.  @xref{Reading One Event},
1437 and @ref{Invoking the Input Method}.
1439 @node Locales
1440 @section Locales
1441 @cindex locale
1443   POSIX defines a concept of ``locales'' which control which language
1444 to use in language-related features.  These Emacs variables control
1445 how Emacs interacts with these features.
1447 @defvar locale-coding-system
1448 @cindex keyboard input decoding on X
1449 This variable specifies the coding system to use for decoding system
1450 error messages and---on X Window system only---keyboard input, for
1451 encoding the format argument to @code{format-time-string}, and for
1452 decoding the return value of @code{format-time-string}.
1453 @end defvar
1455 @defvar system-messages-locale
1456 This variable specifies the locale to use for generating system error
1457 messages.  Changing the locale can cause messages to come out in a
1458 different language or in a different orthography.  If the variable is
1459 @code{nil}, the locale is specified by environment variables in the
1460 usual POSIX fashion.
1461 @end defvar
1463 @defvar system-time-locale
1464 This variable specifies the locale to use for formatting time values.
1465 Changing the locale can cause messages to appear according to the
1466 conventions of a different language.  If the variable is @code{nil}, the
1467 locale is specified by environment variables in the usual POSIX fashion.
1468 @end defvar
1470 @defun locale-info item
1471 This function returns locale data @var{item} for the current POSIX
1472 locale, if available.  @var{item} should be one of these symbols:
1474 @table @code
1475 @item codeset
1476 Return the character set as a string (locale item @code{CODESET}).
1478 @item days
1479 Return a 7-element vector of day names (locale items
1480 @code{DAY_1} through @code{DAY_7});
1482 @item months
1483 Return a 12-element vector of month names (locale items @code{MON_1}
1484 through @code{MON_12}).
1486 @item paper
1487 Return a list @code{(@var{width} @var{height})} for the default paper
1488 size measured in millimeters (locale items @code{PAPER_WIDTH} and
1489 @code{PAPER_HEIGHT}).
1490 @end table
1492 If the system can't provide the requested information, or if
1493 @var{item} is not one of those symbols, the value is @code{nil}.  All
1494 strings in the return value are decoded using
1495 @code{locale-coding-system}.  @xref{Locales,,, libc, The GNU Libc Manual},
1496 for more information about locales and locale items.
1497 @end defun
1499 @ignore
1500    arch-tag: be705bf8-941b-4c35-84fc-ad7d20ddb7cb
1501 @end ignore