(send_process): Keep decoded string in a local
[emacs.git] / doc / emacs / mule.texi
blob98713c7922795e2bf276191ebc689104bea7debe
1 @c This is part of the Emacs manual.
2 @c Copyright (C) 1997, 1999, 2000, 2001, 2002, 2003, 2004,
3 @c   2005, 2006, 2007, 2008, 2009 Free Software Foundation, Inc.
4 @c See file emacs.texi for copying conditions.
5 @node International, Major Modes, Frames, Top
6 @chapter International Character Set Support
7 @c This node is referenced in the tutorial.  When renaming or deleting
8 @c it, the tutorial needs to be adjusted.  (TUTORIAL.de)
9 @cindex MULE
10 @cindex international scripts
11 @cindex multibyte characters
12 @cindex encoding of characters
14 @cindex Celtic
15 @cindex Chinese
16 @cindex Cyrillic
17 @cindex Czech
18 @cindex Devanagari
19 @cindex Hindi
20 @cindex Marathi
21 @cindex Ethiopic
22 @cindex German
23 @cindex Greek
24 @cindex Hebrew
25 @cindex IPA
26 @cindex Japanese
27 @cindex Korean
28 @cindex Lao
29 @cindex Latin
30 @cindex Polish
31 @cindex Romanian
32 @cindex Slovak
33 @cindex Slovenian
34 @cindex Thai
35 @cindex Tibetan
36 @cindex Turkish
37 @cindex Vietnamese
38 @cindex Dutch
39 @cindex Spanish
40   Emacs supports a wide variety of international character sets,
41 including European and Vietnamese variants of the Latin alphabet, as
42 well as Cyrillic, Devanagari (for Hindi and Marathi), Ethiopic, Greek,
43 Han (for Chinese and Japanese), Hangul (for Korean), Hebrew, IPA,
44 Kannada, Lao, Malayalam, Tamil, Thai, Tibetan, and Vietnamese scripts.
45 Emacs also supports various encodings of these characters used by
46 other internationalized software, such as word processors and mailers.
48   Emacs allows editing text with international characters by supporting
49 all the related activities:
51 @itemize @bullet
52 @item
53 You can visit files with non-@acronym{ASCII} characters, save non-@acronym{ASCII} text, and
54 pass non-@acronym{ASCII} text between Emacs and programs it invokes (such as
55 compilers, spell-checkers, and mailers).  Setting your language
56 environment (@pxref{Language Environments}) takes care of setting up the
57 coding systems and other options for a specific language or culture.
58 Alternatively, you can specify how Emacs should encode or decode text
59 for each command; see @ref{Text Coding}.
61 @item
62 You can display non-@acronym{ASCII} characters encoded by the various
63 scripts.  This works by using appropriate fonts on graphics displays
64 (@pxref{Defining Fontsets}), and by sending special codes to text-only
65 displays (@pxref{Terminal Coding}).  If some characters are displayed
66 incorrectly, refer to @ref{Undisplayable Characters}, which describes
67 possible problems and explains how to solve them.
69 @item
70 You can insert non-@acronym{ASCII} characters or search for them.  To do that,
71 you can specify an input method (@pxref{Select Input Method}) suitable
72 for your language, or use the default input method set up when you set
73 your language environment.  If
74 your keyboard can produce non-@acronym{ASCII} characters, you can select an
75 appropriate keyboard coding system (@pxref{Terminal Coding}), and Emacs
76 will accept those characters.  Latin-1 characters can also be input by
77 using the @kbd{C-x 8} prefix, see @ref{Unibyte Mode}.
79 On X Window systems, your locale should be set to an appropriate value
80 to make sure Emacs interprets keyboard input correctly; see
81 @ref{Language Environments, locales}.
82 @end itemize
84   The rest of this chapter describes these issues in detail.
86 @menu
87 * International Chars::     Basic concepts of multibyte characters.
88 * Enabling Multibyte::      Controlling whether to use multibyte characters.
89 * Language Environments::   Setting things up for the language you use.
90 * Input Methods::           Entering text characters not on your keyboard.
91 * Select Input Method::     Specifying your choice of input methods.
92 * Coding Systems::          Character set conversion when you read and
93                               write files, and so on.
94 * Recognize Coding::        How Emacs figures out which conversion to use.
95 * Specify Coding::          Specifying a file's coding system explicitly.
96 * Output Coding::           Choosing coding systems for output.
97 * Text Coding::             Choosing conversion to use for file text.
98 * Communication Coding::    Coding systems for interprocess communication.
99 * File Name Coding::        Coding systems for file @emph{names}.
100 * Terminal Coding::         Specifying coding systems for converting
101                               terminal input and output.
102 * Fontsets::                Fontsets are collections of fonts
103                               that cover the whole spectrum of characters.
104 * Defining Fontsets::       Defining a new fontset.
105 * Modifying Fontsets::      Modifying an existing fontset.
106 * Undisplayable Characters:: When characters don't display.
107 * Unibyte Mode::            You can pick one European character set
108                               to use without multibyte characters.
109 * Charsets::                How Emacs groups its internal character codes.
110 @end menu
112 @node International Chars
113 @section Introduction to International Character Sets
115   The users of international character sets and scripts have
116 established many more-or-less standard coding systems for storing
117 files.  These coding systems are typically @dfn{multibyte}, meaning
118 that sequences of two or more bytes are used to represent individual
119 non-@acronym{ASCII} characters.
121 @cindex Unicode
122   Internally, Emacs uses its own multibyte character encoding, which
123 is a superset of the @dfn{Unicode} standard.  This internal encoding
124 allows characters from almost every known script to be intermixed in a
125 single buffer or string.  Emacs translates between the multibyte
126 character encoding and various other coding systems when reading and
127 writing files, and when exchanging data with subprocesses.
129 @kindex C-h h
130 @findex view-hello-file
131 @cindex undisplayable characters
132 @cindex @samp{?} in display
133   The command @kbd{C-h h} (@code{view-hello-file}) displays the file
134 @file{etc/HELLO}, which shows how to say ``hello'' in many languages.
135 This illustrates various scripts.  If some characters can't be
136 displayed on your terminal, they appear as @samp{?} or as hollow boxes
137 (@pxref{Undisplayable Characters}).
139   Keyboards, even in the countries where these character sets are
140 used, generally don't have keys for all the characters in them.  You
141 can insert characters that your keyboard does not support, using
142 @kbd{C-q} (@code{quoted-insert}) or @kbd{C-x 8 @key{RET}}
143 (@code{ucs-insert}).  @xref{Inserting Text}.  Emacs also supports
144 various @dfn{input methods}, typically one for each script or
145 language, which make it easier to type characters in the script.
146 @xref{Input Methods}.
148 @kindex C-x RET
149   The prefix key @kbd{C-x @key{RET}} is used for commands that pertain
150 to multibyte characters, coding systems, and input methods.
152 @kindex C-x =
153 @findex what-cursor-position
154   The command @kbd{C-x =} (@code{what-cursor-position}) shows
155 information about the character at point.  In addition to the
156 character position, which was described in @ref{Position Info}, this
157 command displays how the character is encoded.  For instance, it
158 displays the following line in the echo area for the character
159 @samp{c}:
161 @smallexample
162 Char: c (99, #o143, #x63) point=28062 of 36168 (78%) column=53
163 @end smallexample
165   The four values after @samp{Char:} describe the character that
166 follows point, first by showing it and then by giving its character
167 code in decimal, octal and hex.  For a non-@acronym{ASCII} multibyte
168 character, these are followed by @samp{file} and the character's
169 representation, in hex, in the buffer's coding system, if that coding
170 system encodes the character safely and with a single byte
171 (@pxref{Coding Systems}).  If the character's encoding is longer than
172 one byte, Emacs shows @samp{file ...}.
174   As a special case, if the character lies in the range 128 (0200
175 octal) through 159 (0237 octal), it stands for a ``raw'' byte that
176 does not correspond to any specific displayable character.  Such a
177 ``character'' lies within the @code{eight-bit-control} character set,
178 and is displayed as an escaped octal character code.  In this case,
179 @kbd{C-x =} shows @samp{part of display ...} instead of @samp{file}.
181 @cindex character set of character at point
182 @cindex font of character at point
183 @cindex text properties at point
184 @cindex face at point
185   With a prefix argument (@kbd{C-u C-x =}), this command displays a
186 detailed description of the character in a window:
188 @itemize @bullet
189 @item
190 The character set name, and the codes that identify the character
191 within that character set; @acronym{ASCII} characters are identified
192 as belonging to the @code{ascii} character set.
194 @item
195 The character's syntax and categories.
197 @item
198 The character's encodings, both internally in the buffer, and externally
199 if you were to save the file.
201 @item
202 What keys to type to input the character in the current input method
203 (if it supports the character).
205 @item
206 If you are running Emacs on a graphical display, the font name and
207 glyph code for the character.  If you are running Emacs on a text-only
208 terminal, the code(s) sent to the terminal.
210 @item
211 The character's text properties (@pxref{Text Properties,,,
212 elisp, the Emacs Lisp Reference Manual}), including any non-default
213 faces used to display the character, and any overlays containing it
214 (@pxref{Overlays,,, elisp, the same manual}).
215 @end itemize
217   Here's an example showing the Latin-1 character A with grave accent,
218 in a buffer whose coding system is @code{utf-8-unix}:
220 @smallexample
221         character: @`A (192, #o300, #xc0)
222 preferred charset: unicode (Unicode (ISO10646))
223        code point: 0xC0
224            syntax: w    which means: word
225          category: j:Japanese l:Latin v:Vietnamese
226       buffer code: #xC3 #x80
227         file code: not encodable by coding system undecided-unix
228           display: by this font (glyph code)
229     xft:-unknown-DejaVu Sans Mono-normal-normal-normal-*-13-*-*-*-m-0-iso10646-1 (#x82)
231 Character code properties: customize what to show
232   name: LATIN CAPITAL LETTER A WITH GRAVE
233   general-category: Lu (Letter, Uppercase)
234   decomposition: (65 768) ('A' '̀')
235   old-name: LATIN CAPITAL LETTER A GRAVE
237 There are text properties here:
238   auto-composed        t
239 @end smallexample
241 @node Enabling Multibyte
242 @section Enabling Multibyte Characters
244   By default, Emacs starts in multibyte mode: it stores the contents
245 of buffers and strings using an internal encoding that represents
246 non-@acronym{ASCII} characters using multi-byte sequences.  Multibyte
247 mode allows you to use all the supported languages and scripts without
248 limitations.
250 @cindex turn multibyte support on or off
251   Under very special circumstances, you may want to disable multibyte
252 character support, either for Emacs as a whole, or for a single
253 buffer.  When multibyte characters are disabled in a buffer, we call
254 that @dfn{unibyte mode}.  In unibyte mode, each character in the
255 buffer has a character code ranging from 0 through 255 (0377 octal); 0
256 through 127 (0177 octal) represent @acronym{ASCII} characters, and 128
257 (0200 octal) through 255 (0377 octal) represent non-@acronym{ASCII}
258 characters.
260   To edit a particular file in unibyte representation, visit it using
261 @code{find-file-literally}.  @xref{Visiting}.  You can convert a
262 multibyte buffer to unibyte by saving it to a file, killing the
263 buffer, and visiting the file again with @code{find-file-literally}.
264 Alternatively, you can use @kbd{C-x @key{RET} c}
265 (@code{universal-coding-system-argument}) and specify @samp{raw-text}
266 as the coding system with which to visit or save a file.  @xref{Text
267 Coding}.  Unlike @code{find-file-literally}, finding a file as
268 @samp{raw-text} doesn't disable format conversion, uncompression, or
269 auto mode selection.
271 @vindex enable-multibyte-characters
272 @vindex default-enable-multibyte-characters
273 @cindex environment variables, and non-@acronym{ASCII} characters
274   To turn off multibyte character support by default, start Emacs with
275 the @samp{--unibyte} option (@pxref{Initial Options}), or set the
276 environment variable @env{EMACS_UNIBYTE}.  You can also customize
277 @code{enable-multibyte-characters} or, equivalently, directly set the
278 variable @code{default-enable-multibyte-characters} to @code{nil} in
279 your init file to have basically the same effect as @samp{--unibyte}.
280 With @samp{--unibyte}, multibyte strings are not created during
281 initialization from the values of environment variables,
282 @file{/etc/passwd} entries etc., even if those contain
283 non-@acronym{ASCII} characters.
285 @cindex Lisp files, and multibyte operation
286 @cindex multibyte operation, and Lisp files
287 @cindex unibyte operation, and Lisp files
288 @cindex init file, and non-@acronym{ASCII} characters
289   Emacs normally loads Lisp files as multibyte, regardless of whether
290 you used @samp{--unibyte}.  This includes the Emacs initialization
291 file, @file{.emacs}, and the initialization files of Emacs packages
292 such as Gnus.  However, you can specify unibyte loading for a
293 particular Lisp file, by putting @w{@samp{-*-unibyte: t;-*-}} in a
294 comment on the first line (@pxref{File Variables}).  Then that file is
295 always loaded as unibyte text.  The motivation for these conventions
296 is that it is more reliable to always load any particular Lisp file in
297 the same way.  However, you can load a Lisp file as unibyte, on any
298 one occasion, by typing @kbd{C-x @key{RET} c raw-text @key{RET}}
299 immediately before loading it.
301   The mode line indicates whether multibyte character support is
302 enabled in the current buffer.  If it is, there are two or more
303 characters (most often two dashes) near the beginning of the mode
304 line, before the indication of the visited file's end-of-line
305 convention (colon, backslash, etc.).  When multibyte characters
306 are not enabled, nothing precedes the colon except a single dash.
307 @xref{Mode Line}, for more details about this.
309 @findex toggle-enable-multibyte-characters
310   To convert a unibyte session to a multibyte session, set
311 @code{default-enable-multibyte-characters} to @code{t}.  Buffers which
312 were created in the unibyte session before you turn on multibyte
313 support will stay unibyte.  You can turn on multibyte support in a
314 specific buffer by invoking the command
315 @code{toggle-enable-multibyte-characters} in that buffer.
317 @node Language Environments
318 @section Language Environments
319 @cindex language environments
321   All supported character sets are supported in Emacs buffers whenever
322 multibyte characters are enabled; there is no need to select a
323 particular language in order to display its characters in an Emacs
324 buffer.  However, it is important to select a @dfn{language
325 environment} in order to set various defaults.  Roughly speaking, the
326 language environment represents a choice of preferred script rather
327 than a choice of language.
329   The language environment controls which coding systems to recognize
330 when reading text (@pxref{Recognize Coding}).  This applies to files,
331 incoming mail, and any other text you read into Emacs.  It may also
332 specify the default coding system to use when you create a file.  Each
333 language environment also specifies a default input method.
335 @findex set-language-environment
336 @vindex current-language-environment
337   To select a language environment, customize the variable
338 @code{current-language-environment} or use the command @kbd{M-x
339 set-language-environment}.  It makes no difference which buffer is
340 current when you use this command, because the effects apply globally
341 to the Emacs session.  The supported language environments include:
343 @cindex Euro sign
344 @cindex UTF-8
345 @quotation
346 ASCII, Belarusian, Bengali, Brazilian Portuguese, Bulgarian,
347 Chinese-BIG5, Chinese-CNS, Chinese-EUC-TW, Chinese-GB, Chinese-GBK,
348 Chinese-GB18030, Croatian, Cyrillic-ALT, Cyrillic-ISO, Cyrillic-KOI8,
349 Czech, Devanagari, Dutch, English, Esperanto, Ethiopic, French,
350 Georgian, German, Greek, Gujarati, Hebrew, IPA, Italian, Japanese,
351 Kannada, Khmer, Korean, Lao, Latin-1, Latin-2, Latin-3, Latin-4,
352 Latin-5, Latin-6, Latin-7, Latin-8 (Celtic), Latin-9 (updated Latin-1
353 with the Euro sign), Latvian, Lithuanian, Malayalam, Oriya, Polish,
354 Punjabi, Romanian, Russian, Sinhala, Slovak, Slovenian, Spanish,
355 Swedish, TaiViet, Tajik, Tamil, Telugu, Thai, Tibetan, Turkish, UTF-8
356 (for a setup which prefers Unicode characters and files encoded in
357 UTF-8), Ukrainian, Vietnamese, Welsh, and Windows-1255 (for a setup
358 which prefers Cyrillic characters and files encoded in Windows-1255).
359 @end quotation
361 @cindex fonts for various scripts
362 @cindex Intlfonts package, installation
363   To display the script(s) used by your language environment on a
364 graphical display, you need to have a suitable font.  If some of the
365 characters appear as empty boxes, you should install the GNU Intlfonts
366 package, which includes fonts for most supported scripts.@footnote{If
367 you run Emacs on X, you need to inform the X server about the location
368 of the newly installed fonts with the following commands:
370 @example
371  xset fp+ /usr/local/share/emacs/fonts
372  xset fp rehash
373 @end example
375 @xref{Fontsets}, for more details about setting up your fonts.
377 @findex set-locale-environment
378 @vindex locale-language-names
379 @vindex locale-charset-language-names
380 @cindex locales
381   Some operating systems let you specify the character-set locale you
382 are using by setting the locale environment variables @env{LC_ALL},
383 @env{LC_CTYPE}, or @env{LANG}.@footnote{If more than one of these is
384 set, the first one that is nonempty specifies your locale for this
385 purpose.}  During startup, Emacs looks up your character-set locale's
386 name in the system locale alias table, matches its canonical name
387 against entries in the value of the variables
388 @code{locale-charset-language-names} and @code{locale-language-names},
389 and selects the corresponding language environment if a match is found.
390 (The former variable overrides the latter.)  It also adjusts the display
391 table and terminal coding system, the locale coding system, the
392 preferred coding system as needed for the locale, and---last but not
393 least---the way Emacs decodes non-@acronym{ASCII} characters sent by your keyboard.
395   If you modify the @env{LC_ALL}, @env{LC_CTYPE}, or @env{LANG}
396 environment variables while running Emacs, you may want to invoke the
397 @code{set-locale-environment} function afterwards to readjust the
398 language environment from the new locale.
400 @vindex locale-preferred-coding-systems
401   The @code{set-locale-environment} function normally uses the preferred
402 coding system established by the language environment to decode system
403 messages.  But if your locale matches an entry in the variable
404 @code{locale-preferred-coding-systems}, Emacs uses the corresponding
405 coding system instead.  For example, if the locale @samp{ja_JP.PCK}
406 matches @code{japanese-shift-jis} in
407 @code{locale-preferred-coding-systems}, Emacs uses that encoding even
408 though it might normally use @code{japanese-iso-8bit}.
410   You can override the language environment chosen at startup with
411 explicit use of the command @code{set-language-environment}, or with
412 customization of @code{current-language-environment} in your init
413 file.
415 @kindex C-h L
416 @findex describe-language-environment
417   To display information about the effects of a certain language
418 environment @var{lang-env}, use the command @kbd{C-h L @var{lang-env}
419 @key{RET}} (@code{describe-language-environment}).  This tells you
420 which languages this language environment is useful for, and lists the
421 character sets, coding systems, and input methods that go with it.  It
422 also shows some sample text to illustrate scripts used in this
423 language environment.  If you give an empty input for @var{lang-env},
424 this command describes the chosen language environment.
425 @anchor{Describe Language Environment}
427 @vindex set-language-environment-hook
428   You can customize any language environment with the normal hook
429 @code{set-language-environment-hook}.  The command
430 @code{set-language-environment} runs that hook after setting up the new
431 language environment.  The hook functions can test for a specific
432 language environment by checking the variable
433 @code{current-language-environment}.  This hook is where you should
434 put non-default settings for specific language environment, such as
435 coding systems for keyboard input and terminal output, the default
436 input method, etc.
438 @vindex exit-language-environment-hook
439   Before it starts to set up the new language environment,
440 @code{set-language-environment} first runs the hook
441 @code{exit-language-environment-hook}.  This hook is useful for undoing
442 customizations that were made with @code{set-language-environment-hook}.
443 For instance, if you set up a special key binding in a specific language
444 environment using @code{set-language-environment-hook}, you should set
445 up @code{exit-language-environment-hook} to restore the normal binding
446 for that key.
448 @node Input Methods
449 @section Input Methods
451 @cindex input methods
452   An @dfn{input method} is a kind of character conversion designed
453 specifically for interactive input.  In Emacs, typically each language
454 has its own input method; sometimes several languages which use the same
455 characters can share one input method.  A few languages support several
456 input methods.
458   The simplest kind of input method works by mapping @acronym{ASCII} letters
459 into another alphabet; this allows you to use one other alphabet
460 instead of @acronym{ASCII}.  The Greek and Russian input methods
461 work this way.
463   A more powerful technique is composition: converting sequences of
464 characters into one letter.  Many European input methods use composition
465 to produce a single non-@acronym{ASCII} letter from a sequence that consists of a
466 letter followed by accent characters (or vice versa).  For example, some
467 methods convert the sequence @kbd{a'} into a single accented letter.
468 These input methods have no special commands of their own; all they do
469 is compose sequences of printing characters.
471   The input methods for syllabic scripts typically use mapping followed
472 by composition.  The input methods for Thai and Korean work this way.
473 First, letters are mapped into symbols for particular sounds or tone
474 marks; then, sequences of these which make up a whole syllable are
475 mapped into one syllable sign.
477   Chinese and Japanese require more complex methods.  In Chinese input
478 methods, first you enter the phonetic spelling of a Chinese word (in
479 input method @code{chinese-py}, among others), or a sequence of
480 portions of the character (input methods @code{chinese-4corner} and
481 @code{chinese-sw}, and others).  One input sequence typically
482 corresponds to many possible Chinese characters.  You select the one
483 you mean using keys such as @kbd{C-f}, @kbd{C-b}, @kbd{C-n},
484 @kbd{C-p}, and digits, which have special meanings in this situation.
486   The possible characters are conceptually arranged in several rows,
487 with each row holding up to 10 alternatives.  Normally, Emacs displays
488 just one row at a time, in the echo area; @code{(@var{i}/@var{j})}
489 appears at the beginning, to indicate that this is the @var{i}th row
490 out of a total of @var{j} rows.  Type @kbd{C-n} or @kbd{C-p} to
491 display the next row or the previous row.
493     Type @kbd{C-f} and @kbd{C-b} to move forward and backward among
494 the alternatives in the current row.  As you do this, Emacs highlights
495 the current alternative with a special color; type @code{C-@key{SPC}}
496 to select the current alternative and use it as input.  The
497 alternatives in the row are also numbered; the number appears before
498 the alternative.  Typing a digit @var{n} selects the @var{n}th
499 alternative of the current row and uses it as input.
501   @key{TAB} in these Chinese input methods displays a buffer showing
502 all the possible characters at once; then clicking @kbd{Mouse-2} on
503 one of them selects that alternative.  The keys @kbd{C-f}, @kbd{C-b},
504 @kbd{C-n}, @kbd{C-p}, and digits continue to work as usual, but they
505 do the highlighting in the buffer showing the possible characters,
506 rather than in the echo area.
508   In Japanese input methods, first you input a whole word using
509 phonetic spelling; then, after the word is in the buffer, Emacs
510 converts it into one or more characters using a large dictionary.  One
511 phonetic spelling corresponds to a number of different Japanese words;
512 to select one of them, use @kbd{C-n} and @kbd{C-p} to cycle through
513 the alternatives.
515   Sometimes it is useful to cut off input method processing so that the
516 characters you have just entered will not combine with subsequent
517 characters.  For example, in input method @code{latin-1-postfix}, the
518 sequence @kbd{e '} combines to form an @samp{e} with an accent.  What if
519 you want to enter them as separate characters?
521   One way is to type the accent twice; this is a special feature for
522 entering the separate letter and accent.  For example, @kbd{e ' '} gives
523 you the two characters @samp{e'}.  Another way is to type another letter
524 after the @kbd{e}---something that won't combine with that---and
525 immediately delete it.  For example, you could type @kbd{e e @key{DEL}
526 '} to get separate @samp{e} and @samp{'}.
528   Another method, more general but not quite as easy to type, is to use
529 @kbd{C-\ C-\} between two characters to stop them from combining.  This
530 is the command @kbd{C-\} (@code{toggle-input-method}) used twice.
531 @ifnottex
532 @xref{Select Input Method}.
533 @end ifnottex
535 @cindex incremental search, input method interference
536   @kbd{C-\ C-\} is especially useful inside an incremental search,
537 because it stops waiting for more characters to combine, and starts
538 searching for what you have already entered.
540   To find out how to input the character after point using the current
541 input method, type @kbd{C-u C-x =}.  @xref{Position Info}.
543 @vindex input-method-verbose-flag
544 @vindex input-method-highlight-flag
545   The variables @code{input-method-highlight-flag} and
546 @code{input-method-verbose-flag} control how input methods explain
547 what is happening.  If @code{input-method-highlight-flag} is
548 non-@code{nil}, the partial sequence is highlighted in the buffer (for
549 most input methods---some disable this feature).  If
550 @code{input-method-verbose-flag} is non-@code{nil}, the list of
551 possible characters to type next is displayed in the echo area (but
552 not when you are in the minibuffer).
554 @node Select Input Method
555 @section Selecting an Input Method
557 @table @kbd
558 @item C-\
559 Enable or disable use of the selected input method.
561 @item C-x @key{RET} C-\ @var{method} @key{RET}
562 Select a new input method for the current buffer.
564 @item C-h I @var{method} @key{RET}
565 @itemx C-h C-\ @var{method} @key{RET}
566 @findex describe-input-method
567 @kindex C-h I
568 @kindex C-h C-\
569 Describe the input method @var{method} (@code{describe-input-method}).
570 By default, it describes the current input method (if any).  This
571 description should give you the full details of how to use any
572 particular input method.
574 @item M-x list-input-methods
575 Display a list of all the supported input methods.
576 @end table
578 @findex set-input-method
579 @vindex current-input-method
580 @kindex C-x RET C-\
581   To choose an input method for the current buffer, use @kbd{C-x
582 @key{RET} C-\} (@code{set-input-method}).  This command reads the
583 input method name from the minibuffer; the name normally starts with the
584 language environment that it is meant to be used with.  The variable
585 @code{current-input-method} records which input method is selected.
587 @findex toggle-input-method
588 @kindex C-\
589   Input methods use various sequences of @acronym{ASCII} characters to
590 stand for non-@acronym{ASCII} characters.  Sometimes it is useful to
591 turn off the input method temporarily.  To do this, type @kbd{C-\}
592 (@code{toggle-input-method}).  To reenable the input method, type
593 @kbd{C-\} again.
595   If you type @kbd{C-\} and you have not yet selected an input method,
596 it prompts for you to specify one.  This has the same effect as using
597 @kbd{C-x @key{RET} C-\} to specify an input method.
599   When invoked with a numeric argument, as in @kbd{C-u C-\},
600 @code{toggle-input-method} always prompts you for an input method,
601 suggesting the most recently selected one as the default.
603 @vindex default-input-method
604   Selecting a language environment specifies a default input method for
605 use in various buffers.  When you have a default input method, you can
606 select it in the current buffer by typing @kbd{C-\}.  The variable
607 @code{default-input-method} specifies the default input method
608 (@code{nil} means there is none).
610   In some language environments, which support several different input
611 methods, you might want to use an input method different from the
612 default chosen by @code{set-language-environment}.  You can instruct
613 Emacs to select a different default input method for a certain
614 language environment, if you wish, by using
615 @code{set-language-environment-hook} (@pxref{Language Environments,
616 set-language-environment-hook}).  For example:
618 @lisp
619 (defun my-chinese-setup ()
620   "Set up my private Chinese environment."
621   (if (equal current-language-environment "Chinese-GB")
622       (setq default-input-method "chinese-tonepy")))
623 (add-hook 'set-language-environment-hook 'my-chinese-setup)
624 @end lisp
626 @noindent
627 This sets the default input method to be @code{chinese-tonepy}
628 whenever you choose a Chinese-GB language environment.
630 You can instruct Emacs to activate a certain input method
631 automatically.  For example:
633 @lisp
634 (add-hook 'text-mode-hook
635   (lambda () (set-input-method "german-prefix")))
636 @end lisp
638 @noindent
639 This activates the input method ``german-prefix'' automatically in the
640 Text mode.
642 @findex quail-set-keyboard-layout
643   Some input methods for alphabetic scripts work by (in effect)
644 remapping the keyboard to emulate various keyboard layouts commonly used
645 for those scripts.  How to do this remapping properly depends on your
646 actual keyboard layout.  To specify which layout your keyboard has, use
647 the command @kbd{M-x quail-set-keyboard-layout}.
649 @findex quail-show-key
650   You can use the command @kbd{M-x quail-show-key} to show what key (or
651 key sequence) to type in order to input the character following point,
652 using the selected keyboard layout.  The command @kbd{C-u C-x =} also
653 shows that information in addition to the other information about the
654 character.
656 @findex list-input-methods
657   To see a list of all the supported input methods, type @kbd{M-x
658 list-input-methods}.  The list gives information about each input
659 method, including the string that stands for it in the mode line.
661 @node Coding Systems
662 @section Coding Systems
663 @cindex coding systems
665   Users of various languages have established many more-or-less standard
666 coding systems for representing them.  Emacs does not use these coding
667 systems internally; instead, it converts from various coding systems to
668 its own system when reading data, and converts the internal coding
669 system to other coding systems when writing data.  Conversion is
670 possible in reading or writing files, in sending or receiving from the
671 terminal, and in exchanging data with subprocesses.
673   Emacs assigns a name to each coding system.  Most coding systems are
674 used for one language, and the name of the coding system starts with
675 the language name.  Some coding systems are used for several
676 languages; their names usually start with @samp{iso}.  There are also
677 special coding systems, such as @code{no-conversion}, @code{raw-text},
678 and @code{emacs-internal}.
680 @cindex international files from DOS/Windows systems
681   A special class of coding systems, collectively known as
682 @dfn{codepages}, is designed to support text encoded by MS-Windows and
683 MS-DOS software.  The names of these coding systems are
684 @code{cp@var{nnnn}}, where @var{nnnn} is a 3- or 4-digit number of the
685 codepage.  You can use these encodings just like any other coding
686 system; for example, to visit a file encoded in codepage 850, type
687 @kbd{C-x @key{RET} c cp850 @key{RET} C-x C-f @var{filename}
688 @key{RET}}.
690   In addition to converting various representations of non-@acronym{ASCII}
691 characters, a coding system can perform end-of-line conversion.  Emacs
692 handles three different conventions for how to separate lines in a file:
693 newline, carriage-return linefeed, and just carriage-return.
695 @table @kbd
696 @item C-h C @var{coding} @key{RET}
697 Describe coding system @var{coding}.
699 @item C-h C @key{RET}
700 Describe the coding systems currently in use.
702 @item M-x list-coding-systems
703 Display a list of all the supported coding systems.
704 @end table
706 @kindex C-h C
707 @findex describe-coding-system
708   The command @kbd{C-h C} (@code{describe-coding-system}) displays
709 information about particular coding systems, including the end-of-line
710 conversion specified by those coding systems.  You can specify a coding
711 system name as the argument; alternatively, with an empty argument, it
712 describes the coding systems currently selected for various purposes,
713 both in the current buffer and as the defaults, and the priority list
714 for recognizing coding systems (@pxref{Recognize Coding}).
716 @findex list-coding-systems
717   To display a list of all the supported coding systems, type @kbd{M-x
718 list-coding-systems}.  The list gives information about each coding
719 system, including the letter that stands for it in the mode line
720 (@pxref{Mode Line}).
722 @cindex end-of-line conversion
723 @cindex line endings
724 @cindex MS-DOS end-of-line conversion
725 @cindex Macintosh end-of-line conversion
726   Each of the coding systems that appear in this list---except for
727 @code{no-conversion}, which means no conversion of any kind---specifies
728 how and whether to convert printing characters, but leaves the choice of
729 end-of-line conversion to be decided based on the contents of each file.
730 For example, if the file appears to use the sequence carriage-return
731 linefeed to separate lines, DOS end-of-line conversion will be used.
733   Each of the listed coding systems has three variants which specify
734 exactly what to do for end-of-line conversion:
736 @table @code
737 @item @dots{}-unix
738 Don't do any end-of-line conversion; assume the file uses
739 newline to separate lines.  (This is the convention normally used
740 on Unix and GNU systems.)
742 @item @dots{}-dos
743 Assume the file uses carriage-return linefeed to separate lines, and do
744 the appropriate conversion.  (This is the convention normally used on
745 Microsoft systems.@footnote{It is also specified for MIME @samp{text/*}
746 bodies and in other network transport contexts.  It is different
747 from the SGML reference syntax record-start/record-end format which
748 Emacs doesn't support directly.})
750 @item @dots{}-mac
751 Assume the file uses carriage-return to separate lines, and do the
752 appropriate conversion.  (This is the convention normally used on the
753 Macintosh system.)
754 @end table
756   These variant coding systems are omitted from the
757 @code{list-coding-systems} display for brevity, since they are entirely
758 predictable.  For example, the coding system @code{iso-latin-1} has
759 variants @code{iso-latin-1-unix}, @code{iso-latin-1-dos} and
760 @code{iso-latin-1-mac}.
762 @cindex @code{undecided}, coding system
763   The coding systems @code{unix}, @code{dos}, and @code{mac} are
764 aliases for @code{undecided-unix}, @code{undecided-dos}, and
765 @code{undecided-mac}, respectively.  These coding systems specify only
766 the end-of-line conversion, and leave the character code conversion to
767 be deduced from the text itself.
769   The coding system @code{raw-text} is good for a file which is mainly
770 @acronym{ASCII} text, but may contain byte values above 127 which are
771 not meant to encode non-@acronym{ASCII} characters.  With
772 @code{raw-text}, Emacs copies those byte values unchanged, and sets
773 @code{enable-multibyte-characters} to @code{nil} in the current buffer
774 so that they will be interpreted properly.  @code{raw-text} handles
775 end-of-line conversion in the usual way, based on the data
776 encountered, and has the usual three variants to specify the kind of
777 end-of-line conversion to use.
779   In contrast, the coding system @code{no-conversion} specifies no
780 character code conversion at all---none for non-@acronym{ASCII} byte values and
781 none for end of line.  This is useful for reading or writing binary
782 files, tar files, and other files that must be examined verbatim.  It,
783 too, sets @code{enable-multibyte-characters} to @code{nil}.
785   The easiest way to edit a file with no conversion of any kind is with
786 the @kbd{M-x find-file-literally} command.  This uses
787 @code{no-conversion}, and also suppresses other Emacs features that
788 might convert the file contents before you see them.  @xref{Visiting}.
790   The coding system @code{emacs-internal} (or @code{utf-8-emacs},
791 which is equivalent) means that the file contains non-@acronym{ASCII}
792 characters stored with the internal Emacs encoding.  This coding
793 system handles end-of-line conversion based on the data encountered,
794 and has the usual three variants to specify the kind of end-of-line
795 conversion.
797 @node Recognize Coding
798 @section Recognizing Coding Systems
800   Whenever Emacs reads a given piece of text, it tries to recognize
801 which coding system to use.  This applies to files being read, output
802 from subprocesses, text from X selections, etc.  Emacs can select the
803 right coding system automatically most of the time---once you have
804 specified your preferences.
806   Some coding systems can be recognized or distinguished by which byte
807 sequences appear in the data.  However, there are coding systems that
808 cannot be distinguished, not even potentially.  For example, there is no
809 way to distinguish between Latin-1 and Latin-2; they use the same byte
810 values with different meanings.
812   Emacs handles this situation by means of a priority list of coding
813 systems.  Whenever Emacs reads a file, if you do not specify the coding
814 system to use, Emacs checks the data against each coding system,
815 starting with the first in priority and working down the list, until it
816 finds a coding system that fits the data.  Then it converts the file
817 contents assuming that they are represented in this coding system.
819   The priority list of coding systems depends on the selected language
820 environment (@pxref{Language Environments}).  For example, if you use
821 French, you probably want Emacs to prefer Latin-1 to Latin-2; if you use
822 Czech, you probably want Latin-2 to be preferred.  This is one of the
823 reasons to specify a language environment.
825 @findex prefer-coding-system
826   However, you can alter the coding system priority list in detail
827 with the command @kbd{M-x prefer-coding-system}.  This command reads
828 the name of a coding system from the minibuffer, and adds it to the
829 front of the priority list, so that it is preferred to all others.  If
830 you use this command several times, each use adds one element to the
831 front of the priority list.
833   If you use a coding system that specifies the end-of-line conversion
834 type, such as @code{iso-8859-1-dos}, what this means is that Emacs
835 should attempt to recognize @code{iso-8859-1} with priority, and should
836 use DOS end-of-line conversion when it does recognize @code{iso-8859-1}.
838 @vindex file-coding-system-alist
839   Sometimes a file name indicates which coding system to use for the
840 file.  The variable @code{file-coding-system-alist} specifies this
841 correspondence.  There is a special function
842 @code{modify-coding-system-alist} for adding elements to this list.  For
843 example, to read and write all @samp{.txt} files using the coding system
844 @code{chinese-iso-8bit}, you can execute this Lisp expression:
846 @smallexample
847 (modify-coding-system-alist 'file "\\.txt\\'" 'chinese-iso-8bit)
848 @end smallexample
850 @noindent
851 The first argument should be @code{file}, the second argument should be
852 a regular expression that determines which files this applies to, and
853 the third argument says which coding system to use for these files.
855 @vindex inhibit-eol-conversion
856 @cindex DOS-style end-of-line display
857   Emacs recognizes which kind of end-of-line conversion to use based on
858 the contents of the file: if it sees only carriage-returns, or only
859 carriage-return linefeed sequences, then it chooses the end-of-line
860 conversion accordingly.  You can inhibit the automatic use of
861 end-of-line conversion by setting the variable @code{inhibit-eol-conversion}
862 to non-@code{nil}.  If you do that, DOS-style files will be displayed
863 with the @samp{^M} characters visible in the buffer; some people
864 prefer this to the more subtle @samp{(DOS)} end-of-line type
865 indication near the left edge of the mode line (@pxref{Mode Line,
866 eol-mnemonic}).
868 @vindex inhibit-iso-escape-detection
869 @cindex escape sequences in files
870   By default, the automatic detection of coding system is sensitive to
871 escape sequences.  If Emacs sees a sequence of characters that begin
872 with an escape character, and the sequence is valid as an ISO-2022
873 code, that tells Emacs to use one of the ISO-2022 encodings to decode
874 the file.
876   However, there may be cases that you want to read escape sequences
877 in a file as is.  In such a case, you can set the variable
878 @code{inhibit-iso-escape-detection} to non-@code{nil}.  Then the code
879 detection ignores any escape sequences, and never uses an ISO-2022
880 encoding.  The result is that all escape sequences become visible in
881 the buffer.
883   The default value of @code{inhibit-iso-escape-detection} is
884 @code{nil}.  We recommend that you not change it permanently, only for
885 one specific operation.  That's because many Emacs Lisp source files
886 in the Emacs distribution contain non-@acronym{ASCII} characters encoded in the
887 coding system @code{iso-2022-7bit}, and they won't be
888 decoded correctly when you visit those files if you suppress the
889 escape sequence detection.
891 @vindex auto-coding-alist
892 @vindex auto-coding-regexp-alist
893 @vindex auto-coding-functions
894   The variables @code{auto-coding-alist},
895 @code{auto-coding-regexp-alist} and @code{auto-coding-functions} are
896 the strongest way to specify the coding system for certain patterns of
897 file names, or for files containing certain patterns; these variables
898 even override @samp{-*-coding:-*-} tags in the file itself.  Emacs
899 uses @code{auto-coding-alist} for tar and archive files, to prevent it
900 from being confused by a @samp{-*-coding:-*-} tag in a member of the
901 archive and thinking it applies to the archive file as a whole.
902 Likewise, Emacs uses @code{auto-coding-regexp-alist} to ensure that
903 RMAIL files, whose names in general don't match any particular
904 pattern, are decoded correctly.  One of the builtin
905 @code{auto-coding-functions} detects the encoding for XML files.
907 @vindex rmail-decode-mime-charset
908 @vindex rmail-file-coding-system
909   When you get new mail in Rmail, each message is translated
910 automatically from the coding system it is written in, as if it were a
911 separate file.  This uses the priority list of coding systems that you
912 have specified.  If a MIME message specifies a character set, Rmail
913 obeys that specification, unless @code{rmail-decode-mime-charset} is
914 @code{nil}.  For reading and saving Rmail files themselves, Emacs uses
915 the coding system specified by the variable
916 @code{rmail-file-coding-system}.  The default value is @code{nil},
917 which means that Rmail files are not translated (they are read and
918 written in the Emacs internal character code).
920 @node Specify Coding
921 @section Specifying a File's Coding System
923   If Emacs recognizes the encoding of a file incorrectly, you can
924 reread the file using the correct coding system by typing @kbd{C-x
925 @key{RET} r @var{coding-system} @key{RET}}.  To see what coding system
926 Emacs actually used to decode the file, look at the coding system
927 mnemonic letter near the left edge of the mode line (@pxref{Mode
928 Line}), or type @kbd{C-h C @key{RET}}.
930 @vindex coding
931   You can specify the coding system for a particular file in the file
932 itself, using the @w{@samp{-*-@dots{}-*-}} construct at the beginning,
933 or a local variables list at the end (@pxref{File Variables}).  You do
934 this by defining a value for the ``variable'' named @code{coding}.
935 Emacs does not really have a variable @code{coding}; instead of
936 setting a variable, this uses the specified coding system for the
937 file.  For example, @samp{-*-mode: C; coding: latin-1;-*-} specifies
938 use of the Latin-1 coding system, as well as C mode.  When you specify
939 the coding explicitly in the file, that overrides
940 @code{file-coding-system-alist}.
942 @node Output Coding
943 @section Choosing Coding Systems for Output
945 @vindex buffer-file-coding-system
946   Once Emacs has chosen a coding system for a buffer, it stores that
947 coding system in @code{buffer-file-coding-system}.  That makes it the
948 default for operations that write from this buffer into a file, such
949 as @code{save-buffer} and @code{write-region}.  You can specify a
950 different coding system for further file output from the buffer using
951 @code{set-buffer-file-coding-system} (@pxref{Text Coding}).
953   You can insert any character Emacs supports into any Emacs buffer,
954 but most coding systems can only handle a subset of these characters.
955 Therefore, it's possible that the characters you insert cannot be
956 encoded with the coding system that will be used to save the buffer.
957 For example, you could visit a text file in Polish, encoded in
958 @code{iso-8859-2}, and add some Russian words to it.  When you save
959 that buffer, Emacs cannot use the current value of
960 @code{buffer-file-coding-system}, because the characters you added
961 cannot be encoded by that coding system.
963   When that happens, Emacs tries the most-preferred coding system (set
964 by @kbd{M-x prefer-coding-system} or @kbd{M-x
965 set-language-environment}).  If that coding system can safely encode
966 all of the characters in the buffer, Emacs uses it, and stores its
967 value in @code{buffer-file-coding-system}.  Otherwise, Emacs displays
968 a list of coding systems suitable for encoding the buffer's contents,
969 and asks you to choose one of those coding systems.
971   If you insert the unsuitable characters in a mail message, Emacs
972 behaves a bit differently.  It additionally checks whether the
973 most-preferred coding system is recommended for use in MIME messages;
974 if not, Emacs tells you that the most-preferred coding system is not
975 recommended and prompts you for another coding system.  This is so you
976 won't inadvertently send a message encoded in a way that your
977 recipient's mail software will have difficulty decoding.  (You can
978 still use an unsuitable coding system if you type its name in response
979 to the question.)
981 @vindex sendmail-coding-system
982   When you send a message with Mail mode (@pxref{Sending Mail}), Emacs has
983 four different ways to determine the coding system to use for encoding
984 the message text.  It tries the buffer's own value of
985 @code{buffer-file-coding-system}, if that is non-@code{nil}.  Otherwise,
986 it uses the value of @code{sendmail-coding-system}, if that is
987 non-@code{nil}.  The third way is to use the default coding system for
988 new files, which is controlled by your choice of language environment,
989 if that is non-@code{nil}.  If all of these three values are @code{nil},
990 Emacs encodes outgoing mail using the Latin-1 coding system.
992 @node Text Coding
993 @section Specifying a Coding System for File Text
995   In cases where Emacs does not automatically choose the right coding
996 system for a file's contents, you can use these commands to specify
997 one:
999 @table @kbd
1000 @item C-x @key{RET} f @var{coding} @key{RET}
1001 Use coding system @var{coding} for saving or revisiting the visited
1002 file in the current buffer.
1004 @item C-x @key{RET} c @var{coding} @key{RET}
1005 Specify coding system @var{coding} for the immediately following
1006 command.
1008 @item C-x @key{RET} r @var{coding} @key{RET}
1009 Revisit the current file using the coding system @var{coding}.
1011 @item M-x recode-region @key{RET} @var{right} @key{RET} @var{wrong} @key{RET}
1012 Convert a region that was decoded using coding system @var{wrong},
1013 decoding it using coding system @var{right} instead.
1014 @end table
1016 @kindex C-x RET f
1017 @findex set-buffer-file-coding-system
1018   The command @kbd{C-x @key{RET} f}
1019 (@code{set-buffer-file-coding-system}) sets the file coding system for
1020 the current buffer---in other words, it says which coding system to
1021 use when saving or reverting the visited file.  You specify which
1022 coding system using the minibuffer.  If you specify a coding system
1023 that cannot handle all of the characters in the buffer, Emacs warns
1024 you about the troublesome characters when you actually save the
1025 buffer.
1027 @cindex specify end-of-line conversion
1028   You can also use this command to specify the end-of-line conversion
1029 (@pxref{Coding Systems, end-of-line conversion}) for encoding the
1030 current buffer.  For example, @kbd{C-x @key{RET} f dos @key{RET}} will
1031 cause Emacs to save the current buffer's text with DOS-style CRLF line
1032 endings.
1034 @kindex C-x RET c
1035 @findex universal-coding-system-argument
1036   Another way to specify the coding system for a file is when you visit
1037 the file.  First use the command @kbd{C-x @key{RET} c}
1038 (@code{universal-coding-system-argument}); this command uses the
1039 minibuffer to read a coding system name.  After you exit the minibuffer,
1040 the specified coding system is used for @emph{the immediately following
1041 command}.
1043   So if the immediately following command is @kbd{C-x C-f}, for example,
1044 it reads the file using that coding system (and records the coding
1045 system for when you later save the file).  Or if the immediately following
1046 command is @kbd{C-x C-w}, it writes the file using that coding system.
1047 When you specify the coding system for saving in this way, instead
1048 of with @kbd{C-x @key{RET} f}, there is no warning if the buffer
1049 contains characters that the coding system cannot handle.
1051   Other file commands affected by a specified coding system include
1052 @kbd{C-x i} and @kbd{C-x C-v}, as well as the other-window variants
1053 of @kbd{C-x C-f}.  @kbd{C-x @key{RET} c} also affects commands that
1054 start subprocesses, including @kbd{M-x shell} (@pxref{Shell}).  If the
1055 immediately following command does not use the coding system, then
1056 @kbd{C-x @key{RET} c} ultimately has no effect.
1058   An easy way to visit a file with no conversion is with the @kbd{M-x
1059 find-file-literally} command.  @xref{Visiting}.
1061 @vindex default-buffer-file-coding-system
1062   The variable @code{default-buffer-file-coding-system} specifies the
1063 choice of coding system to use when you create a new file.  It applies
1064 when you find a new file, and when you create a buffer and then save it
1065 in a file.  Selecting a language environment typically sets this
1066 variable to a good choice of default coding system for that language
1067 environment.
1069 @kindex C-x RET r
1070 @findex revert-buffer-with-coding-system
1071   If you visit a file with a wrong coding system, you can correct this
1072 with @kbd{C-x @key{RET} r} (@code{revert-buffer-with-coding-system}).
1073 This visits the current file again, using a coding system you specify.
1075 @findex recode-region
1076   If a piece of text has already been inserted into a buffer using the
1077 wrong coding system, you can redo the decoding of it using @kbd{M-x
1078 recode-region}.  This prompts you for the proper coding system, then
1079 for the wrong coding system that was actually used, and does the
1080 conversion.  It first encodes the region using the wrong coding system,
1081 then decodes it again using the proper coding system.
1083 @node Communication Coding
1084 @section Coding Systems for Interprocess Communication
1086   This section explains how to specify coding systems for use
1087 in communication with other processes.
1089 @table @kbd
1090 @item C-x @key{RET} x @var{coding} @key{RET}
1091 Use coding system @var{coding} for transferring selections to and from
1092 other window-based applications.
1094 @item C-x @key{RET} X @var{coding} @key{RET}
1095 Use coding system @var{coding} for transferring @emph{one}
1096 selection---the next one---to or from another window-based application.
1098 @item C-x @key{RET} p @var{input-coding} @key{RET} @var{output-coding} @key{RET}
1099 Use coding systems @var{input-coding} and @var{output-coding} for
1100 subprocess input and output in the current buffer.
1102 @item C-x @key{RET} c @var{coding} @key{RET}
1103 Specify coding system @var{coding} for the immediately following
1104 command.
1105 @end table
1107 @kindex C-x RET x
1108 @kindex C-x RET X
1109 @findex set-selection-coding-system
1110 @findex set-next-selection-coding-system
1111   The command @kbd{C-x @key{RET} x} (@code{set-selection-coding-system})
1112 specifies the coding system for sending selected text to other windowing
1113 applications, and for receiving the text of selections made in other
1114 applications.  This command applies to all subsequent selections, until
1115 you override it by using the command again.  The command @kbd{C-x
1116 @key{RET} X} (@code{set-next-selection-coding-system}) specifies the
1117 coding system for the next selection made in Emacs or read by Emacs.
1119 @vindex x-select-request-type
1120   The variable @code{x-select-request-type} specifies the data type to
1121 request from the X Window System for receiving text selections from
1122 other applications.  If the value is @code{nil} (the default), Emacs
1123 tries @code{COMPOUND_TEXT} and @code{UTF8_STRING}, in this order, and
1124 uses various heuristics to choose the more appropriate of the two
1125 results; if none of these succeed, Emacs falls back on @code{STRING}.
1126 If the value of @code{x-select-request-type} is one of the symbols
1127 @code{COMPOUND_TEXT}, @code{UTF8_STRING}, @code{STRING}, or
1128 @code{TEXT}, Emacs uses only that request type.  If the value is a
1129 list of some of these symbols, Emacs tries only the request types in
1130 the list, in order, until one of them succeeds, or until the list is
1131 exhausted.
1133 @kindex C-x RET p
1134 @findex set-buffer-process-coding-system
1135   The command @kbd{C-x @key{RET} p} (@code{set-buffer-process-coding-system})
1136 specifies the coding system for input and output to a subprocess.  This
1137 command applies to the current buffer; normally, each subprocess has its
1138 own buffer, and thus you can use this command to specify translation to
1139 and from a particular subprocess by giving the command in the
1140 corresponding buffer.
1142   You can also use @kbd{C-x @key{RET} c} just before the command that
1143 runs or starts a subprocess, to specify the coding system to use for
1144 communication with that subprocess.
1146   The default for translation of process input and output depends on the
1147 current language environment.
1149 @vindex locale-coding-system
1150 @cindex decoding non-@acronym{ASCII} keyboard input on X
1151   The variable @code{locale-coding-system} specifies a coding system
1152 to use when encoding and decoding system strings such as system error
1153 messages and @code{format-time-string} formats and time stamps.  That
1154 coding system is also used for decoding non-@acronym{ASCII} keyboard input on X
1155 Window systems.  You should choose a coding system that is compatible
1156 with the underlying system's text representation, which is normally
1157 specified by one of the environment variables @env{LC_ALL},
1158 @env{LC_CTYPE}, and @env{LANG}.  (The first one, in the order
1159 specified above, whose value is nonempty is the one that determines
1160 the text representation.)
1162 @vindex x-select-request-type
1163   The variable @code{x-select-request-type} specifies a selection data
1164 type of selection to request from the X server.  The default value is
1165 @code{nil}, which means Emacs tries @code{COMPOUND_TEXT} and
1166 @code{UTF8_STRING}, and uses whichever result seems more appropriate.
1167 You can explicitly specify the data type by setting the variable to
1168 one of the symbols @code{COMPOUND_TEXT}, @code{UTF8_STRING},
1169 @code{STRING} and @code{TEXT}.
1171 @node File Name Coding
1172 @section Coding Systems for File Names
1174 @table @kbd
1175 @item C-x @key{RET} F @var{coding} @key{RET}
1176 Use coding system @var{coding} for encoding and decoding file
1177 @emph{names}.
1178 @end table
1180 @vindex file-name-coding-system
1181 @cindex file names with non-@acronym{ASCII} characters
1182   The variable @code{file-name-coding-system} specifies a coding
1183 system to use for encoding file names.  It has no effect on reading
1184 and writing the @emph{contents} of files.
1186 @findex set-file-name-coding-system
1187 @kindex C-x @key{RET} F
1188   If you set the variable to a coding system name (as a Lisp symbol or
1189 a string), Emacs encodes file names using that coding system for all
1190 file operations.  This makes it possible to use non-@acronym{ASCII}
1191 characters in file names---or, at least, those non-@acronym{ASCII}
1192 characters which the specified coding system can encode.  Use @kbd{C-x
1193 @key{RET} F} (@code{set-file-name-coding-system}) to specify this
1194 interactively.
1196   If @code{file-name-coding-system} is @code{nil}, Emacs uses a
1197 default coding system determined by the selected language environment.
1198 In the default language environment, non-@acronym{ASCII} characters in
1199 file names are not encoded specially; they appear in the file system
1200 using the internal Emacs representation.
1202   @strong{Warning:} if you change @code{file-name-coding-system} (or the
1203 language environment) in the middle of an Emacs session, problems can
1204 result if you have already visited files whose names were encoded using
1205 the earlier coding system and cannot be encoded (or are encoded
1206 differently) under the new coding system.  If you try to save one of
1207 these buffers under the visited file name, saving may use the wrong file
1208 name, or it may get an error.  If such a problem happens, use @kbd{C-x
1209 C-w} to specify a new file name for that buffer.
1211 @findex recode-file-name
1212   If a mistake occurs when encoding a file name, use the command
1213 @kbd{M-x recode-file-name} to change the file name's coding
1214 system.  This prompts for an existing file name, its old coding
1215 system, and the coding system to which you wish to convert.
1217 @node Terminal Coding
1218 @section Coding Systems for Terminal I/O
1220 @table @kbd
1221 @item C-x @key{RET} k @var{coding} @key{RET}
1222 Use coding system @var{coding} for keyboard input.
1224 @item C-x @key{RET} t @var{coding} @key{RET}
1225 Use coding system @var{coding} for terminal output.
1226 @end table
1228 @kindex C-x RET t
1229 @findex set-terminal-coding-system
1230   The command @kbd{C-x @key{RET} t} (@code{set-terminal-coding-system})
1231 specifies the coding system for terminal output.  If you specify a
1232 character code for terminal output, all characters output to the
1233 terminal are translated into that coding system.
1235   This feature is useful for certain character-only terminals built to
1236 support specific languages or character sets---for example, European
1237 terminals that support one of the ISO Latin character sets.  You need to
1238 specify the terminal coding system when using multibyte text, so that
1239 Emacs knows which characters the terminal can actually handle.
1241   By default, output to the terminal is not translated at all, unless
1242 Emacs can deduce the proper coding system from your terminal type or
1243 your locale specification (@pxref{Language Environments}).
1245 @kindex C-x RET k
1246 @findex set-keyboard-coding-system
1247 @vindex keyboard-coding-system
1248   The command @kbd{C-x @key{RET} k} (@code{set-keyboard-coding-system})
1249 or the variable @code{keyboard-coding-system} specifies the coding
1250 system for keyboard input.  Character-code translation of keyboard
1251 input is useful for terminals with keys that send non-@acronym{ASCII}
1252 graphic characters---for example, some terminals designed for ISO
1253 Latin-1 or subsets of it.
1255   By default, keyboard input is translated based on your system locale
1256 setting.  If your terminal does not really support the encoding
1257 implied by your locale (for example, if you find it inserts a
1258 non-@acronym{ASCII} character if you type @kbd{M-i}), you will need to set
1259 @code{keyboard-coding-system} to @code{nil} to turn off encoding.
1260 You can do this by putting
1262 @lisp
1263 (set-keyboard-coding-system nil)
1264 @end lisp
1266 @noindent
1267 in your init file.
1269   There is a similarity between using a coding system translation for
1270 keyboard input, and using an input method: both define sequences of
1271 keyboard input that translate into single characters.  However, input
1272 methods are designed to be convenient for interactive use by humans, and
1273 the sequences that are translated are typically sequences of @acronym{ASCII}
1274 printing characters.  Coding systems typically translate sequences of
1275 non-graphic characters.
1277 @node Fontsets
1278 @section Fontsets
1279 @cindex fontsets
1281   A font typically defines shapes for a single alphabet or script.
1282 Therefore, displaying the entire range of scripts that Emacs supports
1283 requires a collection of many fonts.  In Emacs, such a collection is
1284 called a @dfn{fontset}.  A fontset is defined by a list of font specs,
1285 each assigned to handle a range of character codes, and may fall back
1286 on another fontset for characters which are not covered by the fonts
1287 it specifies.
1289   Each fontset has a name, like a font.  However, while fonts are
1290 stored in the system and the available font names are defined by the
1291 system, fontsets are defined within Emacs itself.  Once you have
1292 defined a fontset, you can use it within Emacs by specifying its name,
1293 anywhere that you could use a single font.  Of course, Emacs fontsets
1294 can use only the fonts that the system supports; if certain characters
1295 appear on the screen as hollow boxes, this means that the fontset in
1296 use for them has no font for those characters.@footnote{The Emacs
1297 installation instructions have information on additional font
1298 support.}
1300   Emacs creates three fontsets automatically: the @dfn{standard
1301 fontset}, the @dfn{startup fontset} and the @dfn{default fontset}.
1302 The default fontset is most likely to have fonts for a wide variety of
1303 non-@acronym{ASCII} characters and is the default fallback for the
1304 other two fontsets, and if you set a default font rather than fontset.
1305 However it does not specify font family names, so results can be
1306 somewhat random if you use it directly.  You can specify use of a
1307 specific fontset with the @samp{-fn} option.  For example,
1309 @example
1310 emacs -fn fontset-standard
1311 @end example
1313 @noindent
1314 You can also specify a fontset with the @samp{Font} resource (@pxref{X
1315 Resources}).
1317   If no fontset is specified for use, then Emacs uses an
1318 @acronym{ASCII} font, with @samp{fontset-default} as a fallback for
1319 characters the font does not cover.  The standard fontset is only used if
1320 explicitly requested, despite its name.
1322   A fontset does not necessarily specify a font for every character
1323 code.  If a fontset specifies no font for a certain character, or if it
1324 specifies a font that does not exist on your system, then it cannot
1325 display that character properly.  It will display that character as an
1326 empty box instead.
1328 @node Defining Fontsets
1329 @section Defining fontsets
1331 @vindex standard-fontset-spec
1332 @vindex w32-standard-fontset-spec
1333 @vindex ns-standard-fontset-spec
1334 @cindex standard fontset
1335   When running on X, Emacs creates a standard fontset automatically according to the value
1336 of @code{standard-fontset-spec}.  This fontset's name is
1338 @example
1339 -*-fixed-medium-r-normal-*-16-*-*-*-*-*-fontset-standard
1340 @end example
1342 @noindent
1343 or just @samp{fontset-standard} for short.
1345   On GNUstep and Mac, fontset-standard is created using the value of
1346 @code{ns-standard-fontset-spec}, and on Windows it is
1347 created using the value of @code{w32-standard-fontset-spec}.
1349   Bold, italic, and bold-italic variants of the standard fontset are
1350 created automatically.  Their names have @samp{bold} instead of
1351 @samp{medium}, or @samp{i} instead of @samp{r}, or both.
1353 @cindex startup fontset
1354   Emacs generates a fontset automatically, based on any default
1355 @acronym{ASCII} font that you specify with the @samp{Font} resource or
1356 the @samp{-fn} argument, or the default font that Emacs found when it
1357 started.  This is the @dfn{startup fontset} and its name is
1358 @code{fontset-startup}.  It does this by replacing the
1359 @var{charset_registry} field with @samp{fontset}, and replacing
1360 @var{charset_encoding} field with @samp{startup}, then using the
1361 resulting string to specify a fontset.
1363   For instance, if you start Emacs this way,
1365 @example
1366 emacs -fn "*courier-medium-r-normal--14-140-*-iso8859-1"
1367 @end example
1369 @noindent
1370 Emacs generates the following fontset and uses it for the initial X
1371 window frame:
1373 @example
1374 -*-courier-medium-r-normal-*-14-140-*-*-*-*-fontset-startup
1375 @end example
1377   The startup fontset will use the font that you specify or a variant
1378 with a different registry and encoding for all the characters which
1379 are supported by that font, and fallback on @samp{fontset-default} for
1380 other characters.
1382   With the X resource @samp{Emacs.Font}, you can specify a fontset name
1383 just like an actual font name.  But be careful not to specify a fontset
1384 name in a wildcard resource like @samp{Emacs*Font}---that wildcard
1385 specification matches various other resources, such as for menus, and
1386 menus cannot handle fontsets.
1388   You can specify additional fontsets using X resources named
1389 @samp{Fontset-@var{n}}, where @var{n} is an integer starting from 0.
1390 The resource value should have this form:
1392 @smallexample
1393 @var{fontpattern}, @r{[}@var{charset}:@var{font}@r{]@dots{}}
1394 @end smallexample
1396 @noindent
1397 @var{fontpattern} should have the form of a standard X font name, except
1398 for the last two fields.  They should have the form
1399 @samp{fontset-@var{alias}}.
1401   The fontset has two names, one long and one short.  The long name is
1402 @var{fontpattern}.  The short name is @samp{fontset-@var{alias}}.  You
1403 can refer to the fontset by either name.
1405   The construct @samp{@var{charset}:@var{font}} specifies which font to
1406 use (in this fontset) for one particular character set.  Here,
1407 @var{charset} is the name of a character set, and @var{font} is the
1408 font to use for that character set.  You can use this construct any
1409 number of times in defining one fontset.
1411   For the other character sets, Emacs chooses a font based on
1412 @var{fontpattern}.  It replaces @samp{fontset-@var{alias}} with values
1413 that describe the character set.  For the @acronym{ASCII} character font,
1414 @samp{fontset-@var{alias}} is replaced with @samp{ISO8859-1}.
1416   In addition, when several consecutive fields are wildcards, Emacs
1417 collapses them into a single wildcard.  This is to prevent use of
1418 auto-scaled fonts.  Fonts made by scaling larger fonts are not usable
1419 for editing, and scaling a smaller font is not useful because it is
1420 better to use the smaller font in its own size, which is what Emacs
1421 does.
1423   Thus if @var{fontpattern} is this,
1425 @example
1426 -*-fixed-medium-r-normal-*-24-*-*-*-*-*-fontset-24
1427 @end example
1429 @noindent
1430 the font specification for @acronym{ASCII} characters would be this:
1432 @example
1433 -*-fixed-medium-r-normal-*-24-*-ISO8859-1
1434 @end example
1436 @noindent
1437 and the font specification for Chinese GB2312 characters would be this:
1439 @example
1440 -*-fixed-medium-r-normal-*-24-*-gb2312*-*
1441 @end example
1443   You may not have any Chinese font matching the above font
1444 specification.  Most X distributions include only Chinese fonts that
1445 have @samp{song ti} or @samp{fangsong ti} in @var{family} field.  In
1446 such a case, @samp{Fontset-@var{n}} can be specified as below:
1448 @smallexample
1449 Emacs.Fontset-0: -*-fixed-medium-r-normal-*-24-*-*-*-*-*-fontset-24,\
1450         chinese-gb2312:-*-*-medium-r-normal-*-24-*-gb2312*-*
1451 @end smallexample
1453 @noindent
1454 Then, the font specifications for all but Chinese GB2312 characters have
1455 @samp{fixed} in the @var{family} field, and the font specification for
1456 Chinese GB2312 characters has a wild card @samp{*} in the @var{family}
1457 field.
1459 @findex create-fontset-from-fontset-spec
1460   The function that processes the fontset resource value to create the
1461 fontset is called @code{create-fontset-from-fontset-spec}.  You can also
1462 call this function explicitly to create a fontset.
1464   @xref{Font X}, for more information about font naming in X.
1466 @node Modifying Fontsets
1467 @section Modifying Fontsets
1468 @cindex fontsets, modifying
1469 @findex set-fontset-font
1471   Fontsets do not always have to be created from scratch.  If only
1472 minor changes are required it may be easier to modify an existing
1473 fontset.  Modifying @samp{fontset-default} will also affect other
1474 fontsets that use it as a fallback, so can be an effective way of
1475 fixing problems with the fonts that Emacs chooses for a particular
1476 script.
1478 Fontsets can be modified using the function @code{set-fontset-font},
1479 specifying a character, a charset, a script, or a range of characters
1480 to modify the font for, and a font-spec for the font to be used. Some
1481 examples are:
1483 @example
1484 ;; Use Liberation Mono for latin-3 charset.
1485 (set-fontset-font "fontset-default" 'iso-8859-3 "Liberation Mono")
1487 ;; Prefer a big5 font for han characters
1488 (set-fontset-font "fontset-default" 'han (font-spec :registry "big5")
1489                   nil 'prepend)
1491 ;; Use DejaVu Sans Mono as a fallback in fontset-startup before
1492 ;; resorting to fontset-default.
1493 (set-fontset-font "fontset-startup" nil "DejaVu Sans Mono" nil 'append)
1495 ;; Use MyPrivateFont for the Unicode private use area.
1496 (set-fontset-font "fontset-default"  '(#xe000 . #xf8ff) "MyPrivateFont")
1498 @end example
1501 @node Undisplayable Characters
1502 @section Undisplayable Characters
1504   There may be a some non-@acronym{ASCII} characters that your terminal cannot
1505 display.  Most text-only terminals support just a single character
1506 set (use the variable @code{default-terminal-coding-system}
1507 (@pxref{Terminal Coding}) to tell Emacs which one); characters which
1508 can't be encoded in that coding system are displayed as @samp{?} by
1509 default.
1511   Graphical displays can display a broader range of characters, but
1512 you may not have fonts installed for all of them; characters that have
1513 no font appear as a hollow box.
1515   If you use Latin-1 characters but your terminal can't display
1516 Latin-1, you can arrange to display mnemonic @acronym{ASCII} sequences
1517 instead, e.g.@: @samp{"o} for o-umlaut.  Load the library
1518 @file{iso-ascii} to do this.
1520 @vindex latin1-display
1521   If your terminal can display Latin-1, you can display characters
1522 from other European character sets using a mixture of equivalent
1523 Latin-1 characters and @acronym{ASCII} mnemonics.  Customize the variable
1524 @code{latin1-display} to enable this.  The mnemonic @acronym{ASCII}
1525 sequences mostly correspond to those of the prefix input methods.
1527 @node Unibyte Mode
1528 @section Unibyte Editing Mode
1530 @cindex European character sets
1531 @cindex accented characters
1532 @cindex ISO Latin character sets
1533 @cindex Unibyte operation
1534   The ISO 8859 Latin-@var{n} character sets define character codes in
1535 the range 0240 to 0377 octal (160 to 255 decimal) to handle the
1536 accented letters and punctuation needed by various European languages
1537 (and some non-European ones).  If you disable multibyte characters,
1538 Emacs can still handle @emph{one} of these character codes at a time.
1539 To specify @emph{which} of these codes to use, invoke @kbd{M-x
1540 set-language-environment} and specify a suitable language environment
1541 such as @samp{Latin-@var{n}}.
1543   For more information about unibyte operation, see @ref{Enabling
1544 Multibyte}.  Note particularly that you probably want to ensure that
1545 your initialization files are read as unibyte if they contain
1546 non-@acronym{ASCII} characters.
1548 @vindex unibyte-display-via-language-environment
1549   Emacs can also display those characters, provided the terminal or font
1550 in use supports them.  This works automatically.  Alternatively, on a
1551 graphical display, Emacs can also display single-byte characters
1552 through fontsets, in effect by displaying the equivalent multibyte
1553 characters according to the current language environment.  To request
1554 this, set the variable @code{unibyte-display-via-language-environment}
1555 to a non-@code{nil} value.
1557 @cindex @code{iso-ascii} library
1558   If your terminal does not support display of the Latin-1 character
1559 set, Emacs can display these characters as @acronym{ASCII} sequences which at
1560 least give you a clear idea of what the characters are.  To do this,
1561 load the library @code{iso-ascii}.  Similar libraries for other
1562 Latin-@var{n} character sets could be implemented, but we don't have
1563 them yet.
1565 @findex standard-display-8bit
1566 @cindex 8-bit display
1567   Normally non-ISO-8859 characters (decimal codes between 128 and 159
1568 inclusive) are displayed as octal escapes.  You can change this for
1569 non-standard ``extended'' versions of ISO-8859 character sets by using the
1570 function @code{standard-display-8bit} in the @code{disp-table} library.
1572   There are two ways to input single-byte non-@acronym{ASCII}
1573 characters:
1575 @itemize @bullet
1576 @cindex 8-bit input
1577 @item
1578 You can use an input method for the selected language environment.
1579 @xref{Input Methods}.  When you use an input method in a unibyte buffer,
1580 the non-@acronym{ASCII} character you specify with it is converted to unibyte.
1582 @item
1583 If your keyboard can generate character codes 128 (decimal) and up,
1584 representing non-@acronym{ASCII} characters, you can type those character codes
1585 directly.
1587 On a graphical display, you should not need to do anything special to use
1588 these keys; they should simply work.  On a text-only terminal, you
1589 should use the command @code{M-x set-keyboard-coding-system} or the
1590 variable @code{keyboard-coding-system} to specify which coding system
1591 your keyboard uses (@pxref{Terminal Coding}).  Enabling this feature
1592 will probably require you to use @kbd{ESC} to type Meta characters;
1593 however, on a console terminal or in @code{xterm}, you can arrange for
1594 Meta to be converted to @kbd{ESC} and still be able type 8-bit
1595 characters present directly on the keyboard or using @kbd{Compose} or
1596 @kbd{AltGr} keys.  @xref{User Input}.
1598 @kindex C-x 8
1599 @cindex @code{iso-transl} library
1600 @cindex compose character
1601 @cindex dead character
1602 @item
1603 For Latin-1 only, you can use the key @kbd{C-x 8} as a ``compose
1604 character'' prefix for entry of non-@acronym{ASCII} Latin-1 printing
1605 characters.  @kbd{C-x 8} is good for insertion (in the minibuffer as
1606 well as other buffers), for searching, and in any other context where
1607 a key sequence is allowed.
1609 @kbd{C-x 8} works by loading the @code{iso-transl} library.  Once that
1610 library is loaded, the @key{ALT} modifier key, if the keyboard has
1611 one, serves the same purpose as @kbd{C-x 8}: use @key{ALT} together
1612 with an accent character to modify the following letter.  In addition,
1613 if the keyboard has keys for the Latin-1 ``dead accent characters,''
1614 they too are defined to compose with the following character, once
1615 @code{iso-transl} is loaded.
1617 Use @kbd{C-x 8 C-h} to list all the available @kbd{C-x 8} translations.
1618 @end itemize
1620 @node Charsets
1621 @section Charsets
1622 @cindex charsets
1624   Emacs defines most of popular character sets (e.g. ascii,
1625 iso-8859-1, cp1250, big5, unicode) as @dfn{charsets} and a few of its
1626 own charsets (e.g. emacs, unicode-bmp, eight-bit).  All supported
1627 characters belong to one or more charsets.  Usually you don't have to
1628 take care of ``charset'', but knowing about it may help understanding
1629 the behavior of Emacs in some cases.
1631   One example is a font selection.  In each language environment,
1632 charsets have different priorities.  Emacs, at first, tries to use a
1633 font that matches with charsets of higher priority.  For instance, in
1634 Japanese language environment, the charset @code{japanese-jisx0208}
1635 has the highest priority (@pxref{Describe Language Environment}).  So,
1636 Emacs tries to use a font whose @code{registry} property is
1637 ``JISX0208.1983-0'' for characters belonging to that charset.
1639   Another example is a use of @code{charset} text property.  When
1640 Emacs reads a file encoded in a coding systems that uses escape
1641 sequences to switch charsets (e.g. iso-2022-int-1), the buffer text
1642 keep the information of the original charset by @code{charset} text
1643 property.  By using this information, Emacs can write the file with
1644 the same byte sequence as the original.
1646 @findex list-charset-chars
1647 @cindex characters in a certain charset
1648 @findex describe-character-set
1649   There are two commands for obtaining information about Emacs
1650 charsets.  The command @kbd{M-x list-charset-chars} prompts for a
1651 charset name, and displays all the characters in that character set.
1652 The command @kbd{M-x describe-character-set} prompts for a charset
1653 name and displays information about that charset, including its
1654 internal representation within Emacs.
1656 @findex list-character-sets
1657   To display a list of all the supported charsets, type @kbd{M-x
1658 list-character-sets}.  The list gives the names of charsets and
1659 additional information to identity each charset (see ISO/IEC's this
1660 page <http://www.itscj.ipsj.or.jp/ISO-IR/> for the detail).  In the
1661 list, charsets are categorized into two; the normal charsets are
1662 listed first, and the supplementary charsets are listed last.  A
1663 charset in the latter category is used for defining another charset
1664 (as a parent or a subset), or was used only in Emacs of the older
1665 versions.
1667   To find out which charset a character in the buffer belongs to,
1668 put point before it and type @kbd{C-u C-x =}.
1670 @ignore
1671    arch-tag: 310ba60d-31ef-4ce7-91f1-f282dd57b6b3
1672 @end ignore