(do_check_ram_size): Don't hardcode the lisp address space size.
[emacs.git] / lispref / nonascii.texi
blob419a23efae7f122884fd8e452f831d39486181ce
1 @c -*-texinfo-*-
2 @c This is part of the GNU Emacs Lisp Reference Manual.
3 @c Copyright (C) 1998, 1999 Free Software Foundation, Inc.
4 @c See the file elisp.texi for copying conditions.
5 @setfilename ../info/characters
6 @node Non-ASCII Characters, Searching and Matching, Text, Top
7 @chapter Non-@acronym{ASCII} Characters
8 @cindex multibyte characters
9 @cindex non-@acronym{ASCII} characters
11   This chapter covers the special issues relating to non-@acronym{ASCII}
12 characters and how they are stored in strings and buffers.
14 @menu
15 * Text Representations::    Unibyte and multibyte representations
16 * Converting Representations::  Converting unibyte to multibyte and vice versa.
17 * Selecting a Representation::  Treating a byte sequence as unibyte or multi.
18 * Character Codes::         How unibyte and multibyte relate to
19                                 codes of individual characters.
20 * Character Sets::          The space of possible characters codes
21                                 is divided into various character sets.
22 * Chars and Bytes::         More information about multibyte encodings.
23 * Splitting Characters::    Converting a character to its byte sequence.
24 * Scanning Charsets::       Which character sets are used in a buffer?
25 * Translation of Characters::   Translation tables are used for conversion.
26 * Coding Systems::          Coding systems are conversions for saving files.
27 * Input Methods::           Input methods allow users to enter various
28                                 non-ASCII characters without special keyboards.
29 * Locales::                 Interacting with the POSIX locale.
30 @end menu
32 @node Text Representations
33 @section Text Representations
34 @cindex text representations
36   Emacs has two @dfn{text representations}---two ways to represent text
37 in a string or buffer.  These are called @dfn{unibyte} and
38 @dfn{multibyte}.  Each string, and each buffer, uses one of these two
39 representations.  For most purposes, you can ignore the issue of
40 representations, because Emacs converts text between them as
41 appropriate.  Occasionally in Lisp programming you will need to pay
42 attention to the difference.
44 @cindex unibyte text
45   In unibyte representation, each character occupies one byte and
46 therefore the possible character codes range from 0 to 255.  Codes 0
47 through 127 are @acronym{ASCII} characters; the codes from 128 through 255
48 are used for one non-@acronym{ASCII} character set (you can choose which
49 character set by setting the variable @code{nonascii-insert-offset}).
51 @cindex leading code
52 @cindex multibyte text
53 @cindex trailing codes
54   In multibyte representation, a character may occupy more than one
55 byte, and as a result, the full range of Emacs character codes can be
56 stored.  The first byte of a multibyte character is always in the range
57 128 through 159 (octal 0200 through 0237).  These values are called
58 @dfn{leading codes}.  The second and subsequent bytes of a multibyte
59 character are always in the range 160 through 255 (octal 0240 through
60 0377); these values are @dfn{trailing codes}.
62   Some sequences of bytes are not valid in multibyte text: for example,
63 a single isolated byte in the range 128 through 159 is not allowed.  But
64 character codes 128 through 159 can appear in multibyte text,
65 represented as two-byte sequences.  All the character codes 128 through
66 255 are possible (though slightly abnormal) in multibyte text; they
67 appear in multibyte buffers and strings when you do explicit encoding
68 and decoding (@pxref{Explicit Encoding}).
70   In a buffer, the buffer-local value of the variable
71 @code{enable-multibyte-characters} specifies the representation used.
72 The representation for a string is determined and recorded in the string
73 when the string is constructed.
75 @defvar enable-multibyte-characters
76 This variable specifies the current buffer's text representation.
77 If it is non-@code{nil}, the buffer contains multibyte text; otherwise,
78 it contains unibyte text.
80 You cannot set this variable directly; instead, use the function
81 @code{set-buffer-multibyte} to change a buffer's representation.
82 @end defvar
84 @defvar default-enable-multibyte-characters
85 This variable's value is entirely equivalent to @code{(default-value
86 'enable-multibyte-characters)}, and setting this variable changes that
87 default value.  Setting the local binding of
88 @code{enable-multibyte-characters} in a specific buffer is not allowed,
89 but changing the default value is supported, and it is a reasonable
90 thing to do, because it has no effect on existing buffers.
92 The @samp{--unibyte} command line option does its job by setting the
93 default value to @code{nil} early in startup.
94 @end defvar
96 @defun position-bytes position
97 @tindex position-bytes
98 Return the byte-position corresponding to buffer position @var{position}
99 in the current buffer.  If @var{position} is out of range, the value
100 is @code{nil}.
101 @end defun
103 @defun byte-to-position byte-position
104 @tindex byte-to-position
105 Return the buffer position corresponding to byte-position
106 @var{byte-position} in the current buffer.  If @var{byte-position} is
107 out of range, the value is @code{nil}.
108 @end defun
110 @defun multibyte-string-p string
111 Return @code{t} if @var{string} is a multibyte string.
112 @end defun
114 @node Converting Representations
115 @section Converting Text Representations
117   Emacs can convert unibyte text to multibyte; it can also convert
118 multibyte text to unibyte, though this conversion loses information.  In
119 general these conversions happen when inserting text into a buffer, or
120 when putting text from several strings together in one string.  You can
121 also explicitly convert a string's contents to either representation.
123   Emacs chooses the representation for a string based on the text that
124 it is constructed from.  The general rule is to convert unibyte text to
125 multibyte text when combining it with other multibyte text, because the
126 multibyte representation is more general and can hold whatever
127 characters the unibyte text has.
129   When inserting text into a buffer, Emacs converts the text to the
130 buffer's representation, as specified by
131 @code{enable-multibyte-characters} in that buffer.  In particular, when
132 you insert multibyte text into a unibyte buffer, Emacs converts the text
133 to unibyte, even though this conversion cannot in general preserve all
134 the characters that might be in the multibyte text.  The other natural
135 alternative, to convert the buffer contents to multibyte, is not
136 acceptable because the buffer's representation is a choice made by the
137 user that cannot be overridden automatically.
139   Converting unibyte text to multibyte text leaves @acronym{ASCII} characters
140 unchanged, and likewise character codes 128 through 159.  It converts
141 the non-@acronym{ASCII} codes 160 through 255 by adding the value
142 @code{nonascii-insert-offset} to each character code.  By setting this
143 variable, you specify which character set the unibyte characters
144 correspond to (@pxref{Character Sets}).  For example, if
145 @code{nonascii-insert-offset} is 2048, which is @code{(- (make-char
146 'latin-iso8859-1) 128)}, then the unibyte non-@acronym{ASCII} characters
147 correspond to Latin 1.  If it is 2688, which is @code{(- (make-char
148 'greek-iso8859-7) 128)}, then they correspond to Greek letters.
150   Converting multibyte text to unibyte is simpler: it discards all but
151 the low 8 bits of each character code.  If @code{nonascii-insert-offset}
152 has a reasonable value, corresponding to the beginning of some character
153 set, this conversion is the inverse of the other: converting unibyte
154 text to multibyte and back to unibyte reproduces the original unibyte
155 text.
157 @defvar nonascii-insert-offset
158 This variable specifies the amount to add to a non-@acronym{ASCII} character
159 when converting unibyte text to multibyte.  It also applies when
160 @code{self-insert-command} inserts a character in the unibyte
161 non-@acronym{ASCII} range, 128 through 255.  However, the functions
162 @code{insert} and @code{insert-char} do not perform this conversion.
164 The right value to use to select character set @var{cs} is @code{(-
165 (make-char @var{cs}) 128)}.  If the value of
166 @code{nonascii-insert-offset} is zero, then conversion actually uses the
167 value for the Latin 1 character set, rather than zero.
168 @end defvar
170 @defvar nonascii-translation-table
171 This variable provides a more general alternative to
172 @code{nonascii-insert-offset}.  You can use it to specify independently
173 how to translate each code in the range of 128 through 255 into a
174 multibyte character.  The value should be a char-table, or @code{nil}.
175 If this is non-@code{nil}, it overrides @code{nonascii-insert-offset}.
176 @end defvar
178 The next three functions either return the argument @var{string}, or a
179 newly created string with no text properties.
181 @defun string-make-unibyte string
182 This function converts the text of @var{string} to unibyte
183 representation, if it isn't already, and returns the result.  If
184 @var{string} is a unibyte string, it is returned unchanged.  Multibyte
185 character codes are converted to unibyte according to
186 @code{nonascii-translation-table} or, if that is @code{nil}, using
187 @code{nonascii-insert-offset}.  If the lookup in the translation table
188 fails, this function takes just the low 8 bits of each character.
189 @end defun
191 @defun string-make-multibyte string
192 This function converts the text of @var{string} to multibyte
193 representation, if it isn't already, and returns the result.  If
194 @var{string} is a multibyte string or consists entirely of
195 @acronym{ASCII} characters, it is returned unchanged.  In particular,
196 if @var{string} is unibyte and entirely @acronym{ASCII}, the returned
197 string is unibyte.  (When the characters are all @acronym{ASCII},
198 Emacs primitives will treat the string the same way whether it is
199 unibyte or multibyte.)  If @var{string} is unibyte and contains
200 non-@acronym{ASCII} characters, the function
201 @code{unibyte-char-to-multibyte} is used to convert each unibyte
202 character to a multibyte character.
203 @end defun
205 @defun string-to-multibyte string
206 This function returns a multibyte string containing the same sequence
207 of character codes as @var{string}.  Unlike
208 @code{string-make-multibyte}, this function unconditionally returns a
209 multibyte string.  If @var{string} is a multibyte string, it is
210 returned unchanged.
211 @end defun
213 @defun multibyte-char-to-unibyte char
214 This convert the multibyte character @var{char} to a unibyte
215 character, based on @code{nonascii-translation-table} and
216 @code{nonascii-insert-offset}.
217 @end defun
219 @defun unibyte-char-to-multibyte char
220 This convert the unibyte character @var{char} to a multibyte
221 character, based on @code{nonascii-translation-table} and
222 @code{nonascii-insert-offset}.
223 @end defun
225 @node Selecting a Representation
226 @section Selecting a Representation
228   Sometimes it is useful to examine an existing buffer or string as
229 multibyte when it was unibyte, or vice versa.
231 @defun set-buffer-multibyte multibyte
232 Set the representation type of the current buffer.  If @var{multibyte}
233 is non-@code{nil}, the buffer becomes multibyte.  If @var{multibyte}
234 is @code{nil}, the buffer becomes unibyte.
236 This function leaves the buffer contents unchanged when viewed as a
237 sequence of bytes.  As a consequence, it can change the contents viewed
238 as characters; a sequence of two bytes which is treated as one character
239 in multibyte representation will count as two characters in unibyte
240 representation.  Character codes 128 through 159 are an exception.  They
241 are represented by one byte in a unibyte buffer, but when the buffer is
242 set to multibyte, they are converted to two-byte sequences, and vice
243 versa.
245 This function sets @code{enable-multibyte-characters} to record which
246 representation is in use.  It also adjusts various data in the buffer
247 (including overlays, text properties and markers) so that they cover the
248 same text as they did before.
250 You cannot use @code{set-buffer-multibyte} on an indirect buffer,
251 because indirect buffers always inherit the representation of the
252 base buffer.
253 @end defun
255 @defun string-as-unibyte string
256 This function returns a string with the same bytes as @var{string} but
257 treating each byte as a character.  This means that the value may have
258 more characters than @var{string} has.
260 If @var{string} is already a unibyte string, then the value is
261 @var{string} itself.  Otherwise it is a newly created string, with no
262 text properties.  If @var{string} is multibyte, any characters it
263 contains of charset @code{eight-bit-control} or @code{eight-bit-graphic}
264 are converted to the corresponding single byte.
265 @end defun
267 @defun string-as-multibyte string
268 This function returns a string with the same bytes as @var{string} but
269 treating each multibyte sequence as one character.  This means that the
270 value may have fewer characters than @var{string} has.
272 If @var{string} is already a multibyte string, then the value is
273 @var{string} itself.  Otherwise it is a newly created string, with no
274 text properties.  If @var{string} is unibyte and contains any individual
275 8-bit bytes (i.e.@: not part of a multibyte form), they are converted to
276 the corresponding multibyte character of charset @code{eight-bit-control}
277 or @code{eight-bit-graphic}.
278 @end defun
280 @node Character Codes
281 @section Character Codes
282 @cindex character codes
284   The unibyte and multibyte text representations use different character
285 codes.  The valid character codes for unibyte representation range from
286 0 to 255---the values that can fit in one byte.  The valid character
287 codes for multibyte representation range from 0 to 524287, but not all
288 values in that range are valid.  The values 128 through 255 are not
289 entirely proper in multibyte text, but they can occur if you do explicit
290 encoding and decoding (@pxref{Explicit Encoding}).  Some other character
291 codes cannot occur at all in multibyte text.  Only the @acronym{ASCII} codes
292 0 through 127 are completely legitimate in both representations.
294 @defun char-valid-p charcode &optional genericp
295 This returns @code{t} if @var{charcode} is valid for either one of the two
296 text representations.
298 @example
299 (char-valid-p 65)
300      @result{} t
301 (char-valid-p 256)
302      @result{} nil
303 (char-valid-p 2248)
304      @result{} t
305 @end example
307 If the optional argument @var{genericp} is non-@code{nil}, this
308 function also returns @code{t} if @var{charcode} is a generic
309 character (@pxref{Splitting Characters}).
310 @end defun
312 @node Character Sets
313 @section Character Sets
314 @cindex character sets
316   Emacs classifies characters into various @dfn{character sets}, each of
317 which has a name which is a symbol.  Each character belongs to one and
318 only one character set.
320   In general, there is one character set for each distinct script.  For
321 example, @code{latin-iso8859-1} is one character set,
322 @code{greek-iso8859-7} is another, and @code{ascii} is another.  An
323 Emacs character set can hold at most 9025 characters; therefore, in some
324 cases, characters that would logically be grouped together are split
325 into several character sets.  For example, one set of Chinese
326 characters, generally known as Big 5, is divided into two Emacs
327 character sets, @code{chinese-big5-1} and @code{chinese-big5-2}.
329   @acronym{ASCII} characters are in character set @code{ascii}.  The
330 non-@acronym{ASCII} characters 128 through 159 are in character set
331 @code{eight-bit-control}, and codes 160 through 255 are in character set
332 @code{eight-bit-graphic}.
334 @defun charsetp object
335 Returns @code{t} if @var{object} is a symbol that names a character set,
336 @code{nil} otherwise.
337 @end defun
339 @defvar charset-list
340 The value is a list of all defined character set names.
341 @end defvar
343 @defun charset-list
344 This function returns the value of @code{charset-list}.  It is only
345 provided for backward compatibility.
346 @end defun
348 @defun char-charset character
349 This function returns the name of the character set that @var{character}
350 belongs to, or the symbol @code{unknown} if @var{character} is not a
351 valid character.
352 @end defun
354 @defun charset-plist charset
355 @tindex charset-plist
356 This function returns the charset property list of the character set
357 @var{charset}.  Although @var{charset} is a symbol, this is not the same
358 as the property list of that symbol.  Charset properties are used for
359 special purposes within Emacs.
360 @end defun
362 @node Chars and Bytes
363 @section Characters and Bytes
364 @cindex bytes and characters
366 @cindex introduction sequence
367 @cindex dimension (of character set)
368   In multibyte representation, each character occupies one or more
369 bytes.  Each character set has an @dfn{introduction sequence}, which is
370 normally one or two bytes long.  (Exception: the @code{ascii} character
371 set and the @code{eight-bit-graphic} character set have a zero-length
372 introduction sequence.)  The introduction sequence is the beginning of
373 the byte sequence for any character in the character set.  The rest of
374 the character's bytes distinguish it from the other characters in the
375 same character set.  Depending on the character set, there are either
376 one or two distinguishing bytes; the number of such bytes is called the
377 @dfn{dimension} of the character set.
379 @defun charset-dimension charset
380 This function returns the dimension of @var{charset}; at present, the
381 dimension is always 1 or 2.
382 @end defun
384 @defun charset-bytes charset
385 @tindex charset-bytes
386 This function returns the number of bytes used to represent a character
387 in character set @var{charset}.
388 @end defun
390   This is the simplest way to determine the byte length of a character
391 set's introduction sequence:
393 @example
394 (- (charset-bytes @var{charset})
395    (charset-dimension @var{charset}))
396 @end example
398 @node Splitting Characters
399 @section Splitting Characters
401   The functions in this section convert between characters and the byte
402 values used to represent them.  For most purposes, there is no need to
403 be concerned with the sequence of bytes used to represent a character,
404 because Emacs translates automatically when necessary.
406 @defun split-char character
407 Return a list containing the name of the character set of
408 @var{character}, followed by one or two byte values (integers) which
409 identify @var{character} within that character set.  The number of byte
410 values is the character set's dimension.
412 If @var{character} is invalid as a character code, @code{split-char}
413 returns a list consisting of the symbol @code{unknown} and @var{character}.
415 @example
416 (split-char 2248)
417      @result{} (latin-iso8859-1 72)
418 (split-char 65)
419      @result{} (ascii 65)
420 (split-char 128)
421      @result{} (eight-bit-control 128)
422 @end example
423 @end defun
425 @defun make-char charset &optional code1 code2
426 This function returns the character in character set @var{charset} whose
427 position codes are @var{code1} and @var{code2}.  This is roughly the
428 inverse of @code{split-char}.  Normally, you should specify either one
429 or both of @var{code1} and @var{code2} according to the dimension of
430 @var{charset}.  For example,
432 @example
433 (make-char 'latin-iso8859-1 72)
434      @result{} 2248
435 @end example
437 Actually, the eighth bit of both @var{code1} and @var{code2} is zeroed
438 before they are used to index @var{charset}.  Thus you may use, for
439 instance, an ISO 8859 character code rather than subtracting 128, as
440 is necessary to index the corresponding Emacs charset.
441 @end defun
443 @cindex generic characters
444   If you call @code{make-char} with no @var{byte-values}, the result is
445 a @dfn{generic character} which stands for @var{charset}.  A generic
446 character is an integer, but it is @emph{not} valid for insertion in the
447 buffer as a character.  It can be used in @code{char-table-range} to
448 refer to the whole character set (@pxref{Char-Tables}).
449 @code{char-valid-p} returns @code{nil} for generic characters.
450 For example:
452 @example
453 (make-char 'latin-iso8859-1)
454      @result{} 2176
455 (char-valid-p 2176)
456      @result{} nil
457 (char-valid-p 2176 t)
458      @result{} t
459 (split-char 2176)
460      @result{} (latin-iso8859-1 0)
461 @end example
463 The character sets @code{ascii}, @code{eight-bit-control}, and
464 @code{eight-bit-graphic} don't have corresponding generic characters.  If
465 @var{charset} is one of them and you don't supply @var{code1},
466 @code{make-char} returns the character code corresponding to the
467 smallest code in @var{charset}.
469 @node Scanning Charsets
470 @section Scanning for Character Sets
472   Sometimes it is useful to find out which character sets appear in a
473 part of a buffer or a string.  One use for this is in determining which
474 coding systems (@pxref{Coding Systems}) are capable of representing all
475 of the text in question.
477 @defun find-charset-region beg end &optional translation
478 This function returns a list of the character sets that appear in the
479 current buffer between positions @var{beg} and @var{end}.
481 The optional argument @var{translation} specifies a translation table to
482 be used in scanning the text (@pxref{Translation of Characters}).  If it
483 is non-@code{nil}, then each character in the region is translated
484 through this table, and the value returned describes the translated
485 characters instead of the characters actually in the buffer.
486 @end defun
488 @defun find-charset-string string &optional translation
489 This function returns a list of the character sets that appear in the
490 string @var{string}.  It is just like @code{find-charset-region}, except
491 that it applies to the contents of @var{string} instead of part of the
492 current buffer.
493 @end defun
495 @node Translation of Characters
496 @section Translation of Characters
497 @cindex character translation tables
498 @cindex translation tables
500   A @dfn{translation table} is a char-table that specifies a mapping
501 of characters into characters.  These tables are used in encoding and
502 decoding, and for other purposes.  Some coding systems specify their
503 own particular translation tables; there are also default translation
504 tables which apply to all other coding systems.
506 @defun make-translation-table &rest translations
507 This function returns a translation table based on the argument
508 @var{translations}.  Each element of @var{translations} should be a
509 list of elements of the form @code{(@var{from} . @var{to})}; this says
510 to translate the character @var{from} into @var{to}.
512 The arguments and the forms in each argument are processed in order,
513 and if a previous form already translates @var{to} to some other
514 character, say @var{to-alt}, @var{from} is also translated to
515 @var{to-alt}.
517 You can also map one whole character set into another character set with
518 the same dimension.  To do this, you specify a generic character (which
519 designates a character set) for @var{from} (@pxref{Splitting Characters}).
520 In this case, if @var{to} is also a generic character, its character
521 set should have the same dimension as @var{from}'s.  Then the
522 translation table translates each character of @var{from}'s character
523 set into the corresponding character of @var{to}'s character set.  If
524 @var{from} is a generic character and @var{to} is an ordinary
525 character, then the translation table translates every character of
526 @var{from}'s character set into @var{to}.
527 @end defun
529   In decoding, the translation table's translations are applied to the
530 characters that result from ordinary decoding.  If a coding system has
531 property @code{translation-table-for-decode}, that specifies the
532 translation table to use.  (This is a property of the coding system,
533 as returned by @code{coding-system-get}, not a property of the symbol
534 that is the coding system's name. @xref{Coding System Basics,, Basic
535 Concepts of Coding Systems}.)  Otherwise, if
536 @code{standard-translation-table-for-decode} is non-@code{nil},
537 decoding uses that table.
539   In encoding, the translation table's translations are applied to the
540 characters in the buffer, and the result of translation is actually
541 encoded.  If a coding system has property
542 @code{translation-table-for-encode}, that specifies the translation
543 table to use.  Otherwise the variable
544 @code{standard-translation-table-for-encode} specifies the translation
545 table.
547 @defvar standard-translation-table-for-decode
548 This is the default translation table for decoding, for
549 coding systems that don't specify any other translation table.
550 @end defvar
552 @defvar standard-translation-table-for-encode
553 This is the default translation table for encoding, for
554 coding systems that don't specify any other translation table.
555 @end defvar
557 @defvar translation-table-for-input
558 Self-inserting characters are translated through this translation
559 table before they are inserted.  This variable automatically becomes
560 buffer-local when set.
561 @end defvar
563 @node Coding Systems
564 @section Coding Systems
566 @cindex coding system
567   When Emacs reads or writes a file, and when Emacs sends text to a
568 subprocess or receives text from a subprocess, it normally performs
569 character code conversion and end-of-line conversion as specified
570 by a particular @dfn{coding system}.
572   How to define a coding system is an arcane matter, and is not
573 documented here.
575 @menu
576 * Coding System Basics::        Basic concepts.
577 * Encoding and I/O::            How file I/O functions handle coding systems.
578 * Lisp and Coding Systems::     Functions to operate on coding system names.
579 * User-Chosen Coding Systems::  Asking the user to choose a coding system.
580 * Default Coding Systems::      Controlling the default choices.
581 * Specifying Coding Systems::   Requesting a particular coding system
582                                     for a single file operation.
583 * Explicit Encoding::           Encoding or decoding text without doing I/O.
584 * Terminal I/O Encoding::       Use of encoding for terminal I/O.
585 * MS-DOS File Types::           How DOS "text" and "binary" files
586                                     relate to coding systems.
587 @end menu
589 @node Coding System Basics
590 @subsection Basic Concepts of Coding Systems
592 @cindex character code conversion
593   @dfn{Character code conversion} involves conversion between the encoding
594 used inside Emacs and some other encoding.  Emacs supports many
595 different encodings, in that it can convert to and from them.  For
596 example, it can convert text to or from encodings such as Latin 1, Latin
597 2, Latin 3, Latin 4, Latin 5, and several variants of ISO 2022.  In some
598 cases, Emacs supports several alternative encodings for the same
599 characters; for example, there are three coding systems for the Cyrillic
600 (Russian) alphabet: ISO, Alternativnyj, and KOI8.
602   Most coding systems specify a particular character code for
603 conversion, but some of them leave the choice unspecified---to be chosen
604 heuristically for each file, based on the data.
606 @cindex end of line conversion
607   @dfn{End of line conversion} handles three different conventions used
608 on various systems for representing end of line in files.  The Unix
609 convention is to use the linefeed character (also called newline).  The
610 DOS convention is to use a carriage-return and a linefeed at the end of
611 a line.  The Mac convention is to use just carriage-return.
613 @cindex base coding system
614 @cindex variant coding system
615   @dfn{Base coding systems} such as @code{latin-1} leave the end-of-line
616 conversion unspecified, to be chosen based on the data.  @dfn{Variant
617 coding systems} such as @code{latin-1-unix}, @code{latin-1-dos} and
618 @code{latin-1-mac} specify the end-of-line conversion explicitly as
619 well.  Most base coding systems have three corresponding variants whose
620 names are formed by adding @samp{-unix}, @samp{-dos} and @samp{-mac}.
622   The coding system @code{raw-text} is special in that it prevents
623 character code conversion, and causes the buffer visited with that
624 coding system to be a unibyte buffer.  It does not specify the
625 end-of-line conversion, allowing that to be determined as usual by the
626 data, and has the usual three variants which specify the end-of-line
627 conversion.  @code{no-conversion} is equivalent to @code{raw-text-unix}:
628 it specifies no conversion of either character codes or end-of-line.
630   The coding system @code{emacs-mule} specifies that the data is
631 represented in the internal Emacs encoding.  This is like
632 @code{raw-text} in that no code conversion happens, but different in
633 that the result is multibyte data.
635 @defun coding-system-get coding-system property
636 This function returns the specified property of the coding system
637 @var{coding-system}.  Most coding system properties exist for internal
638 purposes, but one that you might find useful is @code{mime-charset}.
639 That property's value is the name used in MIME for the character coding
640 which this coding system can read and write.  Examples:
642 @example
643 (coding-system-get 'iso-latin-1 'mime-charset)
644      @result{} iso-8859-1
645 (coding-system-get 'iso-2022-cn 'mime-charset)
646      @result{} iso-2022-cn
647 (coding-system-get 'cyrillic-koi8 'mime-charset)
648      @result{} koi8-r
649 @end example
651 The value of the @code{mime-charset} property is also defined
652 as an alias for the coding system.
653 @end defun
655 @node Encoding and I/O
656 @subsection Encoding and I/O
658   The principal purpose of coding systems is for use in reading and
659 writing files.  The function @code{insert-file-contents} uses
660 a coding system for decoding the file data, and @code{write-region}
661 uses one to encode the buffer contents.
663   You can specify the coding system to use either explicitly
664 (@pxref{Specifying Coding Systems}), or implicitly using the defaulting
665 mechanism (@pxref{Default Coding Systems}).  But these methods may not
666 completely specify what to do.  For example, they may choose a coding
667 system such as @code{undefined} which leaves the character code
668 conversion to be determined from the data.  In these cases, the I/O
669 operation finishes the job of choosing a coding system.  Very often
670 you will want to find out afterwards which coding system was chosen.
672 @defvar buffer-file-coding-system
673 This variable records the coding system that was used for visiting the
674 current buffer.  It is used for saving the buffer, and for writing part
675 of the buffer with @code{write-region}.  If the text to be written
676 cannot be safely encoded using the coding system specified by this
677 variable, these operations select an alternative encoding by calling
678 the function @code{select-safe-coding-system} (@pxref{User-Chosen
679 Coding Systems}).  If selecting a different encoding requires to ask
680 the user to specify a coding system, @code{buffer-file-coding-system}
681 is updated to the newly selected coding system.
683 @code{buffer-file-coding-system} does @emph{not} affect sending text
684 to a subprocess.
685 @end defvar
687 @defvar save-buffer-coding-system
688 This variable specifies the coding system for saving the buffer (by
689 overriding @code{buffer-file-coding-system}).  Note that it is not used
690 for @code{write-region}.
692 When a command to save the buffer starts out to use
693 @code{buffer-file-coding-system} (or @code{save-buffer-coding-system}),
694 and that coding system cannot handle
695 the actual text in the buffer, the command asks the user to choose
696 another coding system (by calling @code{select-safe-coding-system}).
697 After that happens, the command also updates
698 @code{buffer-file-coding-system} to represent the coding system that
699 the user specified.
700 @end defvar
702 @defvar last-coding-system-used
703 I/O operations for files and subprocesses set this variable to the
704 coding system name that was used.  The explicit encoding and decoding
705 functions (@pxref{Explicit Encoding}) set it too.
707 @strong{Warning:} Since receiving subprocess output sets this variable,
708 it can change whenever Emacs waits; therefore, you should copy the
709 value shortly after the function call that stores the value you are
710 interested in.
711 @end defvar
713   The variable @code{selection-coding-system} specifies how to encode
714 selections for the window system.  @xref{Window System Selections}.
716 @defvar file-name-coding-system
717 The variable @code{file-name-coding-system} specifies the coding
718 system to use for encoding file names.  Emacs encodes file names using
719 that coding system for all file operations.  If
720 @code{file-name-coding-system} is @code{nil}, Emacs uses a default
721 coding system determined by the selected language environment.  In the
722 default language environment, any non-@acronym{ASCII} characters in
723 file names are not encoded specially; they appear in the file system
724 using the internal Emacs representation.
725 @end defvar
727   @strong{Warning:} if you change @code{file-name-coding-system} (or
728 the language environment) in the middle of an Emacs session, problems
729 can result if you have already visited files whose names were encoded
730 using the earlier coding system and are handled differently under the
731 new coding system.  If you try to save one of these buffers under the
732 visited file name, saving may use the wrong file name, or it may get
733 an error.  If such a problem happens, use @kbd{C-x C-w} to specify a
734 new file name for that buffer.
736 @node Lisp and Coding Systems
737 @subsection Coding Systems in Lisp
739   Here are the Lisp facilities for working with coding systems:
741 @defun coding-system-list &optional base-only
742 This function returns a list of all coding system names (symbols).  If
743 @var{base-only} is non-@code{nil}, the value includes only the
744 base coding systems.  Otherwise, it includes alias and variant coding
745 systems as well.
746 @end defun
748 @defun coding-system-p object
749 This function returns @code{t} if @var{object} is a coding system
750 name or @code{nil}.
751 @end defun
753 @defun check-coding-system coding-system
754 This function checks the validity of @var{coding-system}.
755 If that is valid, it returns @var{coding-system}.
756 Otherwise it signals an error with condition @code{coding-system-error}.
757 @end defun
759 @defun coding-system-change-eol-conversion coding-system eol-type
760 This function returns a coding system which is like @var{coding-system}
761 except for its eol conversion, which is specified by @code{eol-type}.
762 @var{eol-type} should be @code{unix}, @code{dos}, @code{mac}, or
763 @code{nil}.  If it is @code{nil}, the returned coding system determines
764 the end-of-line conversion from the data.
766 @var{eol-type} may also be 0, 1 or 2, standing for @code{unix},
767 @code{dos} and @code{mac}, respectively.
768 @end defun
770 @defun coding-system-change-text-conversion eol-coding text-coding
771 This function returns a coding system which uses the end-of-line
772 conversion of @var{eol-coding}, and the text conversion of
773 @var{text-coding}.  If @var{text-coding} is @code{nil}, it returns
774 @code{undecided}, or one of its variants according to @var{eol-coding}.
775 @end defun
777 @defun find-coding-systems-region from to
778 This function returns a list of coding systems that could be used to
779 encode a text between @var{from} and @var{to}.  All coding systems in
780 the list can safely encode any multibyte characters in that portion of
781 the text.
783 If the text contains no multibyte characters, the function returns the
784 list @code{(undecided)}.
785 @end defun
787 @defun find-coding-systems-string string
788 This function returns a list of coding systems that could be used to
789 encode the text of @var{string}.  All coding systems in the list can
790 safely encode any multibyte characters in @var{string}.  If the text
791 contains no multibyte characters, this returns the list
792 @code{(undecided)}.
793 @end defun
795 @defun find-coding-systems-for-charsets charsets
796 This function returns a list of coding systems that could be used to
797 encode all the character sets in the list @var{charsets}.
798 @end defun
800 @defun detect-coding-region start end &optional highest
801 This function chooses a plausible coding system for decoding the text
802 from @var{start} to @var{end}.  This text should be a byte sequence
803 (@pxref{Explicit Encoding}).
805 Normally this function returns a list of coding systems that could
806 handle decoding the text that was scanned.  They are listed in order of
807 decreasing priority.  But if @var{highest} is non-@code{nil}, then the
808 return value is just one coding system, the one that is highest in
809 priority.
811 If the region contains only @acronym{ASCII} characters, the value
812 is @code{undecided} or @code{(undecided)}, or a variant specifying
813 end-of-line conversion, if that can be deduced from the text.
814 @end defun
816 @defun detect-coding-string string &optional highest
817 This function is like @code{detect-coding-region} except that it
818 operates on the contents of @var{string} instead of bytes in the buffer.
819 @end defun
821   @xref{Coding systems for a subprocess,, Process Information}, in
822 particular the description of the functions
823 @code{process-coding-system} and @code{set-process-coding-system}, for
824 how to examine or set the coding systems used for I/O to a subprocess.
826 @node User-Chosen Coding Systems
827 @subsection User-Chosen Coding Systems
829 @cindex select safe coding system
830 @defun select-safe-coding-system from to &optional default-coding-system accept-default-p file
831 This function selects a coding system for encoding specified text,
832 asking the user to choose if necessary.  Normally the specified text
833 is the text in the current buffer between @var{from} and @var{to}.  If
834 @var{from} is a string, the string specifies the text to encode, and
835 @var{to} is ignored.
837 If @var{default-coding-system} is non-@code{nil}, that is the first
838 coding system to try; if that can handle the text,
839 @code{select-safe-coding-system} returns that coding system.  It can
840 also be a list of coding systems; then the function tries each of them
841 one by one.  After trying all of them, it next tries the current
842 buffer's value of @code{buffer-file-coding-system} (if it is not
843 @code{undecided}), then the value of
844 @code{default-buffer-file-coding-system} and finally the user's most
845 preferred coding system, which the user can set using the command
846 @code{prefer-coding-system} (@pxref{Recognize Coding,, Recognizing
847 Coding Systems, emacs, The GNU Emacs Manual}).
849 If one of those coding systems can safely encode all the specified
850 text, @code{select-safe-coding-system} chooses it and returns it.
851 Otherwise, it asks the user to choose from a list of coding systems
852 which can encode all the text, and returns the user's choice.
854 @var{default-coding-system} can also be a list whose first element is
855 t and whose other elements are coding systems.  Then, if no coding
856 system in the list can handle the text, @code{select-safe-coding-system}
857 queries the user immediately, without trying any of the three
858 alternatives described above.
860 The optional argument @var{accept-default-p}, if non-@code{nil},
861 should be a function to determine whether a coding system selected
862 without user interaction is acceptable. @code{select-safe-coding-system}
863 calls this function with one argument, the base coding system of the
864 selected coding system.  If @var{accept-default-p} returns @code{nil},
865 @code{select-safe-coding-system} rejects the silently selected coding
866 system, and asks the user to select a coding system from a list of
867 possible candidates.
869 @vindex select-safe-coding-system-accept-default-p
870 If the variable @code{select-safe-coding-system-accept-default-p} is
871 non-@code{nil}, its value overrides the value of
872 @var{accept-default-p}.
874 As a final step, before returning the chosen coding system,
875 @code{select-safe-coding-system} checks whether that coding system is
876 consistent with what would be selected if the contents of the region
877 were read from a file.  (If not, this could lead to data corruption in
878 a file subsequently re-visited and edited.)  Normally,
879 @code{select-safe-coding-system} uses @code{buffer-file-name} as the
880 file for this purpose, but if @var{file} is non-@code{nil}, it uses
881 that file instead (this can be relevant for @code{write-region} and
882 similar functions).  If it detects an apparent inconsistency,
883 @code{select-safe-coding-system} queries the user before selecting the
884 coding system.
885 @end defun
887   Here are two functions you can use to let the user specify a coding
888 system, with completion.  @xref{Completion}.
890 @defun read-coding-system prompt &optional default
891 This function reads a coding system using the minibuffer, prompting with
892 string @var{prompt}, and returns the coding system name as a symbol.  If
893 the user enters null input, @var{default} specifies which coding system
894 to return.  It should be a symbol or a string.
895 @end defun
897 @defun read-non-nil-coding-system prompt
898 This function reads a coding system using the minibuffer, prompting with
899 string @var{prompt}, and returns the coding system name as a symbol.  If
900 the user tries to enter null input, it asks the user to try again.
901 @xref{Coding Systems}.
902 @end defun
904 @node Default Coding Systems
905 @subsection Default Coding Systems
907   This section describes variables that specify the default coding
908 system for certain files or when running certain subprograms, and the
909 function that I/O operations use to access them.
911   The idea of these variables is that you set them once and for all to the
912 defaults you want, and then do not change them again.  To specify a
913 particular coding system for a particular operation in a Lisp program,
914 don't change these variables; instead, override them using
915 @code{coding-system-for-read} and @code{coding-system-for-write}
916 (@pxref{Specifying Coding Systems}).
918 @defvar auto-coding-regexp-alist
919 This variable is an alist of text patterns and corresponding coding
920 systems. Each element has the form @code{(@var{regexp}
921 . @var{coding-system})}; a file whose first few kilobytes match
922 @var{regexp} is decoded with @var{coding-system} when its contents are
923 read into a buffer.  The settings in this alist take priority over
924 @code{coding:} tags in the files and the contents of
925 @code{file-coding-system-alist} (see below).  The default value is set
926 so that Emacs automatically recognizes mail files in Babyl format and
927 reads them with no code conversions.
928 @end defvar
930 @defvar file-coding-system-alist
931 This variable is an alist that specifies the coding systems to use for
932 reading and writing particular files.  Each element has the form
933 @code{(@var{pattern} . @var{coding})}, where @var{pattern} is a regular
934 expression that matches certain file names.  The element applies to file
935 names that match @var{pattern}.
937 The @sc{cdr} of the element, @var{coding}, should be either a coding
938 system, a cons cell containing two coding systems, or a function name (a
939 symbol with a function definition).  If @var{coding} is a coding system,
940 that coding system is used for both reading the file and writing it.  If
941 @var{coding} is a cons cell containing two coding systems, its @sc{car}
942 specifies the coding system for decoding, and its @sc{cdr} specifies the
943 coding system for encoding.
945 If @var{coding} is a function name, the function should take one
946 argument, a list of all arguments passed to
947 @code{find-operation-coding-system}.  It must return a coding system
948 or a cons cell containing two coding systems.  This value has the same
949 meaning as described above.
950 @end defvar
952 @defvar process-coding-system-alist
953 This variable is an alist specifying which coding systems to use for a
954 subprocess, depending on which program is running in the subprocess.  It
955 works like @code{file-coding-system-alist}, except that @var{pattern} is
956 matched against the program name used to start the subprocess.  The coding
957 system or systems specified in this alist are used to initialize the
958 coding systems used for I/O to the subprocess, but you can specify
959 other coding systems later using @code{set-process-coding-system}.
960 @end defvar
962   @strong{Warning:} Coding systems such as @code{undecided}, which
963 determine the coding system from the data, do not work entirely reliably
964 with asynchronous subprocess output.  This is because Emacs handles
965 asynchronous subprocess output in batches, as it arrives.  If the coding
966 system leaves the character code conversion unspecified, or leaves the
967 end-of-line conversion unspecified, Emacs must try to detect the proper
968 conversion from one batch at a time, and this does not always work.
970   Therefore, with an asynchronous subprocess, if at all possible, use a
971 coding system which determines both the character code conversion and
972 the end of line conversion---that is, one like @code{latin-1-unix},
973 rather than @code{undecided} or @code{latin-1}.
975 @defvar network-coding-system-alist
976 This variable is an alist that specifies the coding system to use for
977 network streams.  It works much like @code{file-coding-system-alist},
978 with the difference that the @var{pattern} in an element may be either a
979 port number or a regular expression.  If it is a regular expression, it
980 is matched against the network service name used to open the network
981 stream.
982 @end defvar
984 @defvar default-process-coding-system
985 This variable specifies the coding systems to use for subprocess (and
986 network stream) input and output, when nothing else specifies what to
989 The value should be a cons cell of the form @code{(@var{input-coding}
990 . @var{output-coding})}.  Here @var{input-coding} applies to input from
991 the subprocess, and @var{output-coding} applies to output to it.
992 @end defvar
994 @defvar auto-coding-functions
995 This variable holds a list of functions that try to determine a
996 coding system for a file based on its undecoded contents.
998 Each function in this list should be written to look at text in the
999 current buffer, but should not modify it in any way.  The buffer will
1000 contain undecoded text of parts of the file.  Each function should
1001 take one argument, @var{size}, which tells it how many characters to
1002 look at, starting from point.  If the function succeeds in determining
1003 a coding system for the file, it should return that coding system.
1004 Otherwise, it should return @code{nil}.
1006 If a file has a @samp{coding:} tag, that takes precedence, so these
1007 functions won't be called.
1008 @end defvar
1010 @defun find-operation-coding-system operation &rest arguments
1011 This function returns the coding system to use (by default) for
1012 performing @var{operation} with @var{arguments}.  The value has this
1013 form:
1015 @example
1016 (@var{decoding-system} . @var{encoding-system})
1017 @end example
1019 The first element, @var{decoding-system}, is the coding system to use
1020 for decoding (in case @var{operation} does decoding), and
1021 @var{encoding-system} is the coding system for encoding (in case
1022 @var{operation} does encoding).
1024 The argument @var{operation} should be a symbol, one of
1025 @code{insert-file-contents}, @code{write-region}, @code{call-process},
1026 @code{call-process-region}, @code{start-process}, or
1027 @code{open-network-stream}.  These are the names of the Emacs I/O primitives
1028 that can do coding system conversion.
1030 The remaining arguments should be the same arguments that might be given
1031 to that I/O primitive.  Depending on the primitive, one of those
1032 arguments is selected as the @dfn{target}.  For example, if
1033 @var{operation} does file I/O, whichever argument specifies the file
1034 name is the target.  For subprocess primitives, the process name is the
1035 target.  For @code{open-network-stream}, the target is the service name
1036 or port number.
1038 This function looks up the target in @code{file-coding-system-alist},
1039 @code{process-coding-system-alist}, or
1040 @code{network-coding-system-alist}, depending on @var{operation}.
1041 @end defun
1043 @node Specifying Coding Systems
1044 @subsection Specifying a Coding System for One Operation
1046   You can specify the coding system for a specific operation by binding
1047 the variables @code{coding-system-for-read} and/or
1048 @code{coding-system-for-write}.
1050 @defvar coding-system-for-read
1051 If this variable is non-@code{nil}, it specifies the coding system to
1052 use for reading a file, or for input from a synchronous subprocess.
1054 It also applies to any asynchronous subprocess or network stream, but in
1055 a different way: the value of @code{coding-system-for-read} when you
1056 start the subprocess or open the network stream specifies the input
1057 decoding method for that subprocess or network stream.  It remains in
1058 use for that subprocess or network stream unless and until overridden.
1060 The right way to use this variable is to bind it with @code{let} for a
1061 specific I/O operation.  Its global value is normally @code{nil}, and
1062 you should not globally set it to any other value.  Here is an example
1063 of the right way to use the variable:
1065 @example
1066 ;; @r{Read the file with no character code conversion.}
1067 ;; @r{Assume @acronym{crlf} represents end-of-line.}
1068 (let ((coding-system-for-write 'emacs-mule-dos))
1069   (insert-file-contents filename))
1070 @end example
1072 When its value is non-@code{nil}, @code{coding-system-for-read} takes
1073 precedence over all other methods of specifying a coding system to use for
1074 input, including @code{file-coding-system-alist},
1075 @code{process-coding-system-alist} and
1076 @code{network-coding-system-alist}.
1077 @end defvar
1079 @defvar coding-system-for-write
1080 This works much like @code{coding-system-for-read}, except that it
1081 applies to output rather than input.  It affects writing to files,
1082 as well as sending output to subprocesses and net connections.
1084 When a single operation does both input and output, as do
1085 @code{call-process-region} and @code{start-process}, both
1086 @code{coding-system-for-read} and @code{coding-system-for-write}
1087 affect it.
1088 @end defvar
1090 @defvar inhibit-eol-conversion
1091 When this variable is non-@code{nil}, no end-of-line conversion is done,
1092 no matter which coding system is specified.  This applies to all the
1093 Emacs I/O and subprocess primitives, and to the explicit encoding and
1094 decoding functions (@pxref{Explicit Encoding}).
1095 @end defvar
1097 @node Explicit Encoding
1098 @subsection Explicit Encoding and Decoding
1099 @cindex encoding text
1100 @cindex decoding text
1102   All the operations that transfer text in and out of Emacs have the
1103 ability to use a coding system to encode or decode the text.
1104 You can also explicitly encode and decode text using the functions
1105 in this section.
1107   The result of encoding, and the input to decoding, are not ordinary
1108 text.  They logically consist of a series of byte values; that is, a
1109 series of characters whose codes are in the range 0 through 255.  In a
1110 multibyte buffer or string, character codes 128 through 159 are
1111 represented by multibyte sequences, but this is invisible to Lisp
1112 programs.
1114   The usual way to read a file into a buffer as a sequence of bytes, so
1115 you can decode the contents explicitly, is with
1116 @code{insert-file-contents-literally} (@pxref{Reading from Files});
1117 alternatively, specify a non-@code{nil} @var{rawfile} argument when
1118 visiting a file with @code{find-file-noselect}.  These methods result in
1119 a unibyte buffer.
1121   The usual way to use the byte sequence that results from explicitly
1122 encoding text is to copy it to a file or process---for example, to write
1123 it with @code{write-region} (@pxref{Writing to Files}), and suppress
1124 encoding by binding @code{coding-system-for-write} to
1125 @code{no-conversion}.
1127   Here are the functions to perform explicit encoding or decoding.  The
1128 decoding functions produce sequences of bytes; the encoding functions
1129 are meant to operate on sequences of bytes.  All of these functions
1130 discard text properties.
1132 @deffn Command encode-coding-region start end coding-system
1133 This command encodes the text from @var{start} to @var{end} according
1134 to coding system @var{coding-system}.  The encoded text replaces the
1135 original text in the buffer.  The result of encoding is logically a
1136 sequence of bytes, but the buffer remains multibyte if it was multibyte
1137 before.
1139 This command returns the length of the encoded text.
1140 @end deffn
1142 @defun encode-coding-string string coding-system &optional nocopy
1143 This function encodes the text in @var{string} according to coding
1144 system @var{coding-system}.  It returns a new string containing the
1145 encoded text, except when @var{nocopy} is non-@code{nil}, in which
1146 case the function may return @var{string} itself if the encoding
1147 operation is trivial.  The result of encoding is a unibyte string.
1148 @end defun
1150 @deffn Command decode-coding-region start end coding-system
1151 This command decodes the text from @var{start} to @var{end} according
1152 to coding system @var{coding-system}.  The decoded text replaces the
1153 original text in the buffer.  To make explicit decoding useful, the text
1154 before decoding ought to be a sequence of byte values, but both
1155 multibyte and unibyte buffers are acceptable.
1157 This command returns the length of the decoded text.
1158 @end deffn
1160 @defun decode-coding-string string coding-system &optional nocopy
1161 This function decodes the text in @var{string} according to coding
1162 system @var{coding-system}.  It returns a new string containing the
1163 decoded text, except when @var{nocopy} is non-@code{nil}, in which
1164 case the function may return @var{string} itself if the decoding
1165 operation is trivial.  To make explicit decoding useful, the contents
1166 of @var{string} ought to be a sequence of byte values, but a multibyte
1167 string is acceptable.
1168 @end defun
1170 @defun decode-coding-inserted-region from to filename &optional visit beg end replace
1171 This function decodes the text from @var{from} to @var{to} as if
1172 it were being read from file @var{filename} using @code{insert-file-contents}
1173 using the rest of the arguments provided.
1175 The normal way to use this function is after reading text from a file
1176 without decoding, if you decide you would rather have decoded it.
1177 Instead of deleting the text and reading it again, this time with
1178 decoding, you can call this function.
1179 @end defun
1181 @node Terminal I/O Encoding
1182 @subsection Terminal I/O Encoding
1184   Emacs can decode keyboard input using a coding system, and encode
1185 terminal output.  This is useful for terminals that transmit or display
1186 text using a particular encoding such as Latin-1.  Emacs does not set
1187 @code{last-coding-system-used} for encoding or decoding for the
1188 terminal.
1190 @defun keyboard-coding-system
1191 This function returns the coding system that is in use for decoding
1192 keyboard input---or @code{nil} if no coding system is to be used.
1193 @end defun
1195 @deffn Command set-keyboard-coding-system coding-system
1196 This command specifies @var{coding-system} as the coding system to
1197 use for decoding keyboard input.  If @var{coding-system} is @code{nil},
1198 that means do not decode keyboard input.
1199 @end deffn
1201 @defun terminal-coding-system
1202 This function returns the coding system that is in use for encoding
1203 terminal output---or @code{nil} for no encoding.
1204 @end defun
1206 @deffn Command set-terminal-coding-system coding-system
1207 This command specifies @var{coding-system} as the coding system to use
1208 for encoding terminal output.  If @var{coding-system} is @code{nil},
1209 that means do not encode terminal output.
1210 @end deffn
1212 @node MS-DOS File Types
1213 @subsection MS-DOS File Types
1214 @cindex DOS file types
1215 @cindex MS-DOS file types
1216 @cindex Windows file types
1217 @cindex file types on MS-DOS and Windows
1218 @cindex text files and binary files
1219 @cindex binary files and text files
1221   On MS-DOS and Microsoft Windows, Emacs guesses the appropriate
1222 end-of-line conversion for a file by looking at the file's name.  This
1223 feature classifies files as @dfn{text files} and @dfn{binary files}.  By
1224 ``binary file'' we mean a file of literal byte values that are not
1225 necessarily meant to be characters; Emacs does no end-of-line conversion
1226 and no character code conversion for them.  On the other hand, the bytes
1227 in a text file are intended to represent characters; when you create a
1228 new file whose name implies that it is a text file, Emacs uses DOS
1229 end-of-line conversion.
1231 @defvar buffer-file-type
1232 This variable, automatically buffer-local in each buffer, records the
1233 file type of the buffer's visited file.  When a buffer does not specify
1234 a coding system with @code{buffer-file-coding-system}, this variable is
1235 used to determine which coding system to use when writing the contents
1236 of the buffer.  It should be @code{nil} for text, @code{t} for binary.
1237 If it is @code{t}, the coding system is @code{no-conversion}.
1238 Otherwise, @code{undecided-dos} is used.
1240 Normally this variable is set by visiting a file; it is set to
1241 @code{nil} if the file was visited without any actual conversion.
1242 @end defvar
1244 @defopt file-name-buffer-file-type-alist
1245 This variable holds an alist for recognizing text and binary files.
1246 Each element has the form (@var{regexp} . @var{type}), where
1247 @var{regexp} is matched against the file name, and @var{type} may be
1248 @code{nil} for text, @code{t} for binary, or a function to call to
1249 compute which.  If it is a function, then it is called with a single
1250 argument (the file name) and should return @code{t} or @code{nil}.
1252 When running on MS-DOS or MS-Windows, Emacs checks this alist to decide
1253 which coding system to use when reading a file.  For a text file,
1254 @code{undecided-dos} is used.  For a binary file, @code{no-conversion}
1255 is used.
1257 If no element in this alist matches a given file name, then
1258 @code{default-buffer-file-type} says how to treat the file.
1259 @end defopt
1261 @defopt default-buffer-file-type
1262 This variable says how to handle files for which
1263 @code{file-name-buffer-file-type-alist} says nothing about the type.
1265 If this variable is non-@code{nil}, then these files are treated as
1266 binary: the coding system @code{no-conversion} is used.  Otherwise,
1267 nothing special is done for them---the coding system is deduced solely
1268 from the file contents, in the usual Emacs fashion.
1269 @end defopt
1271 @node Input Methods
1272 @section Input Methods
1273 @cindex input methods
1275   @dfn{Input methods} provide convenient ways of entering non-@acronym{ASCII}
1276 characters from the keyboard.  Unlike coding systems, which translate
1277 non-@acronym{ASCII} characters to and from encodings meant to be read by
1278 programs, input methods provide human-friendly commands.  (@xref{Input
1279 Methods,,, emacs, The GNU Emacs Manual}, for information on how users
1280 use input methods to enter text.)  How to define input methods is not
1281 yet documented in this manual, but here we describe how to use them.
1283   Each input method has a name, which is currently a string;
1284 in the future, symbols may also be usable as input method names.
1286 @defvar current-input-method
1287 This variable holds the name of the input method now active in the
1288 current buffer.  (It automatically becomes local in each buffer when set
1289 in any fashion.)  It is @code{nil} if no input method is active in the
1290 buffer now.
1291 @end defvar
1293 @defopt default-input-method
1294 This variable holds the default input method for commands that choose an
1295 input method.  Unlike @code{current-input-method}, this variable is
1296 normally global.
1297 @end defopt
1299 @deffn Command set-input-method input-method
1300 This command activates input method @var{input-method} for the current
1301 buffer.  It also sets @code{default-input-method} to @var{input-method}.
1302 If @var{input-method} is @code{nil}, this command deactivates any input
1303 method for the current buffer.
1304 @end deffn
1306 @defun read-input-method-name prompt &optional default inhibit-null
1307 This function reads an input method name with the minibuffer, prompting
1308 with @var{prompt}.  If @var{default} is non-@code{nil}, that is returned
1309 by default, if the user enters empty input.  However, if
1310 @var{inhibit-null} is non-@code{nil}, empty input signals an error.
1312 The returned value is a string.
1313 @end defun
1315 @defvar input-method-alist
1316 This variable defines all the supported input methods.
1317 Each element defines one input method, and should have the form:
1319 @example
1320 (@var{input-method} @var{language-env} @var{activate-func}
1321  @var{title} @var{description} @var{args}...)
1322 @end example
1324 Here @var{input-method} is the input method name, a string;
1325 @var{language-env} is another string, the name of the language
1326 environment this input method is recommended for.  (That serves only for
1327 documentation purposes.)
1329 @var{activate-func} is a function to call to activate this method.  The
1330 @var{args}, if any, are passed as arguments to @var{activate-func}.  All
1331 told, the arguments to @var{activate-func} are @var{input-method} and
1332 the @var{args}.
1334 @var{title} is a string to display in the mode line while this method is
1335 active.  @var{description} is a string describing this method and what
1336 it is good for.
1337 @end defvar
1339   The fundamental interface to input methods is through the
1340 variable @code{input-method-function}.  @xref{Reading One Event},
1341 and @ref{Invoking the Input Method}.
1343 @node Locales
1344 @section Locales
1345 @cindex locale
1347   POSIX defines a concept of ``locales'' which control which language
1348 to use in language-related features.  These Emacs variables control
1349 how Emacs interacts with these features.
1351 @defvar locale-coding-system
1352 @tindex locale-coding-system
1353 @cindex keyboard input decoding on X
1354 This variable specifies the coding system to use for decoding system
1355 error messages and---on X Window system only---keyboard input, for
1356 encoding the format argument to @code{format-time-string}, and for
1357 decoding the return value of @code{format-time-string}.
1358 @end defvar
1360 @defvar system-messages-locale
1361 @tindex system-messages-locale
1362 This variable specifies the locale to use for generating system error
1363 messages.  Changing the locale can cause messages to come out in a
1364 different language or in a different orthography.  If the variable is
1365 @code{nil}, the locale is specified by environment variables in the
1366 usual POSIX fashion.
1367 @end defvar
1369 @defvar system-time-locale
1370 @tindex system-time-locale
1371 This variable specifies the locale to use for formatting time values.
1372 Changing the locale can cause messages to appear according to the
1373 conventions of a different language.  If the variable is @code{nil}, the
1374 locale is specified by environment variables in the usual POSIX fashion.
1375 @end defvar
1377 @defun locale-info item
1378 This function returns locale data @var{item} for the current POSIX
1379 locale, if available.  @var{item} should be one of these symbols:
1381 @table @code
1382 @item codeset
1383 Return the character set as a string (locale item @code{CODESET}).
1385 @item days
1386 Return a 7-element vector of day names (locale items
1387 @code{DAY_1} through @code{DAY_7});
1389 @item months
1390 Return a 12-element vector of month names (locale items @code{MON_1}
1391 through @code{MON_12}).
1393 @item paper
1394 Return a list @code{(@var{width} @var{height})} for the default paper
1395 size measured in millimeters (locale items @code{PAPER_WIDTH} and
1396 @code{PAPER_HEIGHT}).
1397 @end table
1399 If the system can't provide the requested information, or if
1400 @var{item} is not one of those symbols, the value is @code{nil}.  All
1401 strings in the return value are decoded using
1402 @code{locale-coding-system}.  @xref{Locales,,, libc, The GNU Libc Manual},
1403 for more information about locales and locale items.
1404 @end defun
1406 @ignore
1407    arch-tag: be705bf8-941b-4c35-84fc-ad7d20ddb7cb
1408 @end ignore