Auto-commit of generated files.
[emacs.git] / doc / emacs / mule.texi
blobde3e05777cd14a9ed71972302681b56e6af6a29a
1 @c This is part of the Emacs manual.
2 @c Copyright (C) 1997, 1999-2013 Free Software Foundation, Inc.
3 @c See file emacs.texi for copying conditions.
4 @node International
5 @chapter International Character Set Support
6 @c This node is referenced in the tutorial.  When renaming or deleting
7 @c it, the tutorial needs to be adjusted.  (TUTORIAL.de)
8 @cindex MULE
9 @cindex international scripts
10 @cindex multibyte characters
11 @cindex encoding of characters
13 @cindex Celtic
14 @cindex Chinese
15 @cindex Cyrillic
16 @cindex Czech
17 @cindex Devanagari
18 @cindex Hindi
19 @cindex Marathi
20 @cindex Ethiopic
21 @cindex German
22 @cindex Greek
23 @cindex Hebrew
24 @cindex IPA
25 @cindex Japanese
26 @cindex Korean
27 @cindex Lao
28 @cindex Latin
29 @cindex Polish
30 @cindex Romanian
31 @cindex Slovak
32 @cindex Slovenian
33 @cindex Thai
34 @cindex Tibetan
35 @cindex Turkish
36 @cindex Vietnamese
37 @cindex Dutch
38 @cindex Spanish
39   Emacs supports a wide variety of international character sets,
40 including European and Vietnamese variants of the Latin alphabet, as
41 well as Cyrillic, Devanagari (for Hindi and Marathi), Ethiopic, Greek,
42 Han (for Chinese and Japanese), Hangul (for Korean), Hebrew, IPA,
43 Kannada, Lao, Malayalam, Tamil, Thai, Tibetan, and Vietnamese scripts.
44 Emacs also supports various encodings of these characters that are used by
45 other internationalized software, such as word processors and mailers.
47   Emacs allows editing text with international characters by supporting
48 all the related activities:
50 @itemize @bullet
51 @item
52 You can visit files with non-@acronym{ASCII} characters, save non-@acronym{ASCII} text, and
53 pass non-@acronym{ASCII} text between Emacs and programs it invokes (such as
54 compilers, spell-checkers, and mailers).  Setting your language
55 environment (@pxref{Language Environments}) takes care of setting up the
56 coding systems and other options for a specific language or culture.
57 Alternatively, you can specify how Emacs should encode or decode text
58 for each command; see @ref{Text Coding}.
60 @item
61 You can display non-@acronym{ASCII} characters encoded by the various
62 scripts.  This works by using appropriate fonts on graphics displays
63 (@pxref{Defining Fontsets}), and by sending special codes to text
64 displays (@pxref{Terminal Coding}).  If some characters are displayed
65 incorrectly, refer to @ref{Undisplayable Characters}, which describes
66 possible problems and explains how to solve them.
68 @item
69 Characters from scripts whose natural ordering of text is from right
70 to left are reordered for display (@pxref{Bidirectional Editing}).
71 These scripts include Arabic, Hebrew, Syriac, Thaana, and a few
72 others.
74 @item
75 You can insert non-@acronym{ASCII} characters or search for them.  To do that,
76 you can specify an input method (@pxref{Select Input Method}) suitable
77 for your language, or use the default input method set up when you chose
78 your language environment.  If
79 your keyboard can produce non-@acronym{ASCII} characters, you can select an
80 appropriate keyboard coding system (@pxref{Terminal Coding}), and Emacs
81 will accept those characters.  Latin-1 characters can also be input by
82 using the @kbd{C-x 8} prefix, see @ref{Unibyte Mode}.
84 With the X Window System, your locale should be set to an appropriate
85 value to make sure Emacs interprets keyboard input correctly; see
86 @ref{Language Environments, locales}.
87 @end itemize
89   The rest of this chapter describes these issues in detail.
91 @menu
92 * International Chars::     Basic concepts of multibyte characters.
93 * Disabling Multibyte::     Controlling whether to use multibyte characters.
94 * Language Environments::   Setting things up for the language you use.
95 * Input Methods::           Entering text characters not on your keyboard.
96 * Select Input Method::     Specifying your choice of input methods.
97 * Coding Systems::          Character set conversion when you read and
98                               write files, and so on.
99 * Recognize Coding::        How Emacs figures out which conversion to use.
100 * Specify Coding::          Specifying a file's coding system explicitly.
101 * Output Coding::           Choosing coding systems for output.
102 * Text Coding::             Choosing conversion to use for file text.
103 * Communication Coding::    Coding systems for interprocess communication.
104 * File Name Coding::        Coding systems for file @emph{names}.
105 * Terminal Coding::         Specifying coding systems for converting
106                               terminal input and output.
107 * Fontsets::                Fontsets are collections of fonts
108                               that cover the whole spectrum of characters.
109 * Defining Fontsets::       Defining a new fontset.
110 * Modifying Fontsets::      Modifying an existing fontset.
111 * Undisplayable Characters:: When characters don't display.
112 * Unibyte Mode::            You can pick one European character set
113                               to use without multibyte characters.
114 * Charsets::                How Emacs groups its internal character codes.
115 * Bidirectional Editing::   Support for right-to-left scripts.
116 @end menu
118 @node International Chars
119 @section Introduction to International Character Sets
121   The users of international character sets and scripts have
122 established many more-or-less standard coding systems for storing
123 files.  These coding systems are typically @dfn{multibyte}, meaning
124 that sequences of two or more bytes are used to represent individual
125 non-@acronym{ASCII} characters.
127 @cindex Unicode
128   Internally, Emacs uses its own multibyte character encoding, which
129 is a superset of the @dfn{Unicode} standard.  This internal encoding
130 allows characters from almost every known script to be intermixed in a
131 single buffer or string.  Emacs translates between the multibyte
132 character encoding and various other coding systems when reading and
133 writing files, and when exchanging data with subprocesses.
135 @kindex C-h h
136 @findex view-hello-file
137 @cindex undisplayable characters
138 @cindex @samp{?} in display
139   The command @kbd{C-h h} (@code{view-hello-file}) displays the file
140 @file{etc/HELLO}, which illustrates various scripts by showing
141 how to say ``hello'' in many languages.  If some characters can't be
142 displayed on your terminal, they appear as @samp{?} or as hollow boxes
143 (@pxref{Undisplayable Characters}).
145   Keyboards, even in the countries where these character sets are
146 used, generally don't have keys for all the characters in them.  You
147 can insert characters that your keyboard does not support, using
148 @kbd{C-q} (@code{quoted-insert}) or @kbd{C-x 8 @key{RET}}
149 (@code{insert-char}).  @xref{Inserting Text}.  Emacs also supports
150 various @dfn{input methods}, typically one for each script or
151 language, which make it easier to type characters in the script.
152 @xref{Input Methods}.
154 @kindex C-x RET
155   The prefix key @kbd{C-x @key{RET}} is used for commands that pertain
156 to multibyte characters, coding systems, and input methods.
158 @kindex C-x =
159 @findex what-cursor-position
160   The command @kbd{C-x =} (@code{what-cursor-position}) shows
161 information about the character at point.  In addition to the
162 character position, which was described in @ref{Position Info}, this
163 command displays how the character is encoded.  For instance, it
164 displays the following line in the echo area for the character
165 @samp{c}:
167 @smallexample
168 Char: c (99, #o143, #x63) point=28062 of 36168 (78%) column=53
169 @end smallexample
171   The four values after @samp{Char:} describe the character that
172 follows point, first by showing it and then by giving its character
173 code in decimal, octal and hex.  For a non-@acronym{ASCII} multibyte
174 character, these are followed by @samp{file} and the character's
175 representation, in hex, in the buffer's coding system, if that coding
176 system encodes the character safely and with a single byte
177 (@pxref{Coding Systems}).  If the character's encoding is longer than
178 one byte, Emacs shows @samp{file ...}.
180   As a special case, if the character lies in the range 128 (0200
181 octal) through 159 (0237 octal), it stands for a ``raw'' byte that
182 does not correspond to any specific displayable character.  Such a
183 ``character'' lies within the @code{eight-bit-control} character set,
184 and is displayed as an escaped octal character code.  In this case,
185 @kbd{C-x =} shows @samp{part of display ...} instead of @samp{file}.
187 @cindex character set of character at point
188 @cindex font of character at point
189 @cindex text properties at point
190 @cindex face at point
191   With a prefix argument (@kbd{C-u C-x =}), this command displays a
192 detailed description of the character in a window:
194 @itemize @bullet
195 @item
196 The character set name, and the codes that identify the character
197 within that character set; @acronym{ASCII} characters are identified
198 as belonging to the @code{ascii} character set.
200 @item
201 The character's syntax and categories.
203 @item
204 The character's encodings, both internally in the buffer, and externally
205 if you were to save the file.
207 @item
208 What keys to type to input the character in the current input method
209 (if it supports the character).
211 @item
212 If you are running Emacs on a graphical display, the font name and
213 glyph code for the character.  If you are running Emacs on a text
214 terminal, the code(s) sent to the terminal.
216 @item
217 The character's text properties (@pxref{Text Properties,,,
218 elisp, the Emacs Lisp Reference Manual}), including any non-default
219 faces used to display the character, and any overlays containing it
220 (@pxref{Overlays,,, elisp, the same manual}).
221 @end itemize
223   Here's an example showing the Latin-1 character A with grave accent,
224 in a buffer whose coding system is @code{utf-8-unix}:
226 @smallexample
227              position: 1 of 1 (0%), column: 0
228             character: @`A (displayed as @`A) (codepoint 192, #o300, #xc0)
229     preferred charset: unicode (Unicode (ISO10646))
230 code point in charset: 0xC0
231                syntax: w       which means: word
232              category: .:Base, L:Left-to-right (strong),
233                        j:Japanese, l:Latin, v:Viet
234           buffer code: #xC3 #x80
235             file code: not encodable by coding system undecided-unix
236               display: by this font (glyph code)
237     xft:-unknown-DejaVu Sans Mono-normal-normal-
238         normal-*-13-*-*-*-m-0-iso10646-1 (#x82)
240 Character code properties: customize what to show
241   name: LATIN CAPITAL LETTER A WITH GRAVE
242   old-name: LATIN CAPITAL LETTER A GRAVE
243   general-category: Lu (Letter, Uppercase)
244   decomposition: (65 768) ('A' '`')
245 @end smallexample
247 @c FIXME?  Does this section even belong in the user manual?
248 @c Seems more appropriate to the lispref?
249 @node Disabling Multibyte
250 @section Disabling Multibyte Characters
252   By default, Emacs starts in multibyte mode: it stores the contents
253 of buffers and strings using an internal encoding that represents
254 non-@acronym{ASCII} characters using multi-byte sequences.  Multibyte
255 mode allows you to use all the supported languages and scripts without
256 limitations.
258 @cindex turn multibyte support on or off
259   Under very special circumstances, you may want to disable multibyte
260 character support, for a specific buffer.
261 When multibyte characters are disabled in a buffer, we call
262 that @dfn{unibyte mode}.  In unibyte mode, each character in the
263 buffer has a character code ranging from 0 through 255 (0377 octal); 0
264 through 127 (0177 octal) represent @acronym{ASCII} characters, and 128
265 (0200 octal) through 255 (0377 octal) represent non-@acronym{ASCII}
266 characters.
268   To edit a particular file in unibyte representation, visit it using
269 @code{find-file-literally}.  @xref{Visiting}.  You can convert a
270 multibyte buffer to unibyte by saving it to a file, killing the
271 buffer, and visiting the file again with @code{find-file-literally}.
272 Alternatively, you can use @kbd{C-x @key{RET} c}
273 (@code{universal-coding-system-argument}) and specify @samp{raw-text}
274 as the coding system with which to visit or save a file.  @xref{Text
275 Coding}.  Unlike @code{find-file-literally}, finding a file as
276 @samp{raw-text} doesn't disable format conversion, uncompression, or
277 auto mode selection.
279 @c Not a single file in Emacs uses this feature.  Is it really worth
280 @c mentioning in the _user_ manual?  Also, this duplicates somewhat
281 @c "Loading Non-ASCII" from the lispref.
282 @cindex Lisp files, and multibyte operation
283 @cindex multibyte operation, and Lisp files
284 @cindex unibyte operation, and Lisp files
285 @cindex init file, and non-@acronym{ASCII} characters
286   Emacs normally loads Lisp files as multibyte.
287 This includes the Emacs initialization
288 file, @file{.emacs}, and the initialization files of packages
289 such as Gnus.  However, you can specify unibyte loading for a
290 particular Lisp file, by adding an entry @samp{coding: raw-text} in a file
291 local variables section.  @xref{Specify Coding}.
292 Then that file is always loaded as unibyte text.
293 @ignore
294 @c I don't see the point of this statement:
295 The motivation for these conventions is that it is more reliable to
296 always load any particular Lisp file in the same way.
297 @end ignore
298 You can also load a Lisp file as unibyte, on any one occasion, by
299 typing @kbd{C-x @key{RET} c raw-text @key{RET}} immediately before
300 loading it.
302 @c See http://debbugs.gnu.org/11226 for lack of unibyte tooltip.
303 @vindex enable-multibyte-characters
304 The buffer-local variable @code{enable-multibyte-characters} is
305 non-@code{nil} in multibyte buffers, and @code{nil} in unibyte ones.
306 The mode line also indicates whether a buffer is multibyte or not.
307 @xref{Mode Line}.  With a graphical display, in a multibyte buffer,
308 the portion of the mode line that indicates the character set has a
309 tooltip that (amongst other things) says that the buffer is multibyte.
310 In a unibyte buffer, the character set indicator is absent.  Thus, in
311 a unibyte buffer (when using a graphical display) there is normally
312 nothing before the indication of the visited file's end-of-line
313 convention (colon, backslash, etc.), unless you are using an input
314 method.
316 @findex toggle-enable-multibyte-characters
317 You can turn off multibyte support in a specific buffer by invoking the
318 command @code{toggle-enable-multibyte-characters} in that buffer.
320 @node Language Environments
321 @section Language Environments
322 @cindex language environments
324   All supported character sets are supported in Emacs buffers whenever
325 multibyte characters are enabled; there is no need to select a
326 particular language in order to display its characters.
327 However, it is important to select a @dfn{language
328 environment} in order to set various defaults.  Roughly speaking, the
329 language environment represents a choice of preferred script rather
330 than a choice of language.
332   The language environment controls which coding systems to recognize
333 when reading text (@pxref{Recognize Coding}).  This applies to files,
334 incoming mail, and any other text you read into Emacs.  It may also
335 specify the default coding system to use when you create a file.  Each
336 language environment also specifies a default input method.
338 @findex set-language-environment
339 @vindex current-language-environment
340   To select a language environment, customize
341 @code{current-language-environment} or use the command @kbd{M-x
342 set-language-environment}.  It makes no difference which buffer is
343 current when you use this command, because the effects apply globally
344 to the Emacs session.  The supported language environments
345 (see the variable @code{language-info-alist}) include:
347 @cindex Euro sign
348 @cindex UTF-8
349 @quotation
350 ASCII, Belarusian, Bengali, Brazilian Portuguese, Bulgarian, Cham,
351 Chinese-BIG5, Chinese-CNS, Chinese-EUC-TW, Chinese-GB, Chinese-GBK,
352 Chinese-GB18030, Croatian, Cyrillic-ALT, Cyrillic-ISO, Cyrillic-KOI8,
353 Czech, Devanagari, Dutch, English, Esperanto, Ethiopic, French,
354 Georgian, German, Greek, Gujarati, Hebrew, IPA, Italian, Japanese,
355 Kannada, Khmer, Korean, Lao, Latin-1, Latin-2, Latin-3, Latin-4,
356 Latin-5, Latin-6, Latin-7, Latin-8 (Celtic), Latin-9 (updated Latin-1
357 with the Euro sign), Latvian, Lithuanian, Malayalam, Oriya, Polish,
358 Punjabi, Romanian, Russian, Sinhala, Slovak, Slovenian, Spanish,
359 Swedish, TaiViet, Tajik, Tamil, Telugu, Thai, Tibetan, Turkish, UTF-8
360 (for a setup which prefers Unicode characters and files encoded in
361 UTF-8), Ukrainian, Vietnamese, Welsh, and Windows-1255 (for a setup
362 which prefers Cyrillic characters and files encoded in Windows-1255).
363 @end quotation
365   To display the script(s) used by your language environment on a
366 graphical display, you need to have suitable fonts.
367 @xref{Fontsets}, for more details about setting up your fonts.
369 @findex set-locale-environment
370 @vindex locale-language-names
371 @vindex locale-charset-language-names
372 @cindex locales
373   Some operating systems let you specify the character-set locale you
374 are using by setting the locale environment variables @env{LC_ALL},
375 @env{LC_CTYPE}, or @env{LANG}.  (If more than one of these is
376 set, the first one that is nonempty specifies your locale for this
377 purpose.)  During startup, Emacs looks up your character-set locale's
378 name in the system locale alias table, matches its canonical name
379 against entries in the value of the variables
380 @code{locale-charset-language-names} and @code{locale-language-names}
381 (the former overrides the latter),
382 and selects the corresponding language environment if a match is found.
383 It also adjusts the display
384 table and terminal coding system, the locale coding system, the
385 preferred coding system as needed for the locale, and---last but not
386 least---the way Emacs decodes non-@acronym{ASCII} characters sent by your keyboard.
388 @c This seems unlikely, doesn't it?
389   If you modify the @env{LC_ALL}, @env{LC_CTYPE}, or @env{LANG}
390 environment variables while running Emacs (by using @kbd{M-x setenv}),
391 you may want to invoke the @code{set-locale-environment}
392 function afterwards to readjust the language environment from the new
393 locale.
395 @vindex locale-preferred-coding-systems
396   The @code{set-locale-environment} function normally uses the preferred
397 coding system established by the language environment to decode system
398 messages.  But if your locale matches an entry in the variable
399 @code{locale-preferred-coding-systems}, Emacs uses the corresponding
400 coding system instead.  For example, if the locale @samp{ja_JP.PCK}
401 matches @code{japanese-shift-jis} in
402 @code{locale-preferred-coding-systems}, Emacs uses that encoding even
403 though it might normally use @code{japanese-iso-8bit}.
405   You can override the language environment chosen at startup with
406 explicit use of the command @code{set-language-environment}, or with
407 customization of @code{current-language-environment} in your init
408 file.
410 @kindex C-h L
411 @findex describe-language-environment
412   To display information about the effects of a certain language
413 environment @var{lang-env}, use the command @kbd{C-h L @var{lang-env}
414 @key{RET}} (@code{describe-language-environment}).  This tells you
415 which languages this language environment is useful for, and lists the
416 character sets, coding systems, and input methods that go with it.  It
417 also shows some sample text to illustrate scripts used in this
418 language environment.  If you give an empty input for @var{lang-env},
419 this command describes the chosen language environment.
420 @anchor{Describe Language Environment}
422 @vindex set-language-environment-hook
423   You can customize any language environment with the normal hook
424 @code{set-language-environment-hook}.  The command
425 @code{set-language-environment} runs that hook after setting up the new
426 language environment.  The hook functions can test for a specific
427 language environment by checking the variable
428 @code{current-language-environment}.  This hook is where you should
429 put non-default settings for specific language environments, such as
430 coding systems for keyboard input and terminal output, the default
431 input method, etc.
433 @vindex exit-language-environment-hook
434   Before it starts to set up the new language environment,
435 @code{set-language-environment} first runs the hook
436 @code{exit-language-environment-hook}.  This hook is useful for undoing
437 customizations that were made with @code{set-language-environment-hook}.
438 For instance, if you set up a special key binding in a specific language
439 environment using @code{set-language-environment-hook}, you should set
440 up @code{exit-language-environment-hook} to restore the normal binding
441 for that key.
443 @node Input Methods
444 @section Input Methods
446 @cindex input methods
447   An @dfn{input method} is a kind of character conversion designed
448 specifically for interactive input.  In Emacs, typically each language
449 has its own input method; sometimes several languages that use the same
450 characters can share one input method.  A few languages support several
451 input methods.
453   The simplest kind of input method works by mapping @acronym{ASCII} letters
454 into another alphabet; this allows you to use one other alphabet
455 instead of @acronym{ASCII}.  The Greek and Russian input methods
456 work this way.
458   A more powerful technique is composition: converting sequences of
459 characters into one letter.  Many European input methods use composition
460 to produce a single non-@acronym{ASCII} letter from a sequence that consists of a
461 letter followed by accent characters (or vice versa).  For example, some
462 methods convert the sequence @kbd{o ^} into a single accented letter.
463 These input methods have no special commands of their own; all they do
464 is compose sequences of printing characters.
466   The input methods for syllabic scripts typically use mapping followed
467 by composition.  The input methods for Thai and Korean work this way.
468 First, letters are mapped into symbols for particular sounds or tone
469 marks; then, sequences of these that make up a whole syllable are
470 mapped into one syllable sign.
472   Chinese and Japanese require more complex methods.  In Chinese input
473 methods, first you enter the phonetic spelling of a Chinese word (in
474 input method @code{chinese-py}, among others), or a sequence of
475 portions of the character (input methods @code{chinese-4corner} and
476 @code{chinese-sw}, and others).  One input sequence typically
477 corresponds to many possible Chinese characters.  You select the one
478 you mean using keys such as @kbd{C-f}, @kbd{C-b}, @kbd{C-n},
479 @kbd{C-p} (or the arrow keys), and digits, which have special meanings
480 in this situation.
482   The possible characters are conceptually arranged in several rows,
483 with each row holding up to 10 alternatives.  Normally, Emacs displays
484 just one row at a time, in the echo area; @code{(@var{i}/@var{j})}
485 appears at the beginning, to indicate that this is the @var{i}th row
486 out of a total of @var{j} rows.  Type @kbd{C-n} or @kbd{C-p} to
487 display the next row or the previous row.
489     Type @kbd{C-f} and @kbd{C-b} to move forward and backward among
490 the alternatives in the current row.  As you do this, Emacs highlights
491 the current alternative with a special color; type @code{C-@key{SPC}}
492 to select the current alternative and use it as input.  The
493 alternatives in the row are also numbered; the number appears before
494 the alternative.  Typing a number selects the associated alternative
495 of the current row and uses it as input.
497   @key{TAB} in these Chinese input methods displays a buffer showing
498 all the possible characters at once; then clicking @kbd{Mouse-2} on
499 one of them selects that alternative.  The keys @kbd{C-f}, @kbd{C-b},
500 @kbd{C-n}, @kbd{C-p}, and digits continue to work as usual, but they
501 do the highlighting in the buffer showing the possible characters,
502 rather than in the echo area.
504   In Japanese input methods, first you input a whole word using
505 phonetic spelling; then, after the word is in the buffer, Emacs
506 converts it into one or more characters using a large dictionary.  One
507 phonetic spelling corresponds to a number of different Japanese words;
508 to select one of them, use @kbd{C-n} and @kbd{C-p} to cycle through
509 the alternatives.
511   Sometimes it is useful to cut off input method processing so that the
512 characters you have just entered will not combine with subsequent
513 characters.  For example, in input method @code{latin-1-postfix}, the
514 sequence @kbd{o ^} combines to form an @samp{o} with an accent.  What if
515 you want to enter them as separate characters?
517   One way is to type the accent twice; this is a special feature for
518 entering the separate letter and accent.  For example, @kbd{o ^ ^} gives
519 you the two characters @samp{o^}.  Another way is to type another letter
520 after the @kbd{o}---something that won't combine with that---and
521 immediately delete it.  For example, you could type @kbd{o o @key{DEL}
522 ^} to get separate @samp{o} and @samp{^}.
524   Another method, more general but not quite as easy to type, is to use
525 @kbd{C-\ C-\} between two characters to stop them from combining.  This
526 is the command @kbd{C-\} (@code{toggle-input-method}) used twice.
527 @ifnottex
528 @xref{Select Input Method}.
529 @end ifnottex
531 @cindex incremental search, input method interference
532   @kbd{C-\ C-\} is especially useful inside an incremental search,
533 because it stops waiting for more characters to combine, and starts
534 searching for what you have already entered.
536   To find out how to input the character after point using the current
537 input method, type @kbd{C-u C-x =}.  @xref{Position Info}.
539 @vindex input-method-verbose-flag
540 @vindex input-method-highlight-flag
541   The variables @code{input-method-highlight-flag} and
542 @code{input-method-verbose-flag} control how input methods explain
543 what is happening.  If @code{input-method-highlight-flag} is
544 non-@code{nil}, the partial sequence is highlighted in the buffer (for
545 most input methods---some disable this feature).  If
546 @code{input-method-verbose-flag} is non-@code{nil}, the list of
547 possible characters to type next is displayed in the echo area (but
548 not when you are in the minibuffer).
550   Another facility for typing characters not on your keyboard is by
551 using @kbd{C-x 8 @key{RET}} (@code{insert-char}) to insert a single
552 character based on its Unicode name or code-point; see @ref{Inserting
553 Text}.
555 @node Select Input Method
556 @section Selecting an Input Method
558 @table @kbd
559 @item C-\
560 Enable or disable use of the selected input method (@code{toggle-input-method}).
562 @item C-x @key{RET} C-\ @var{method} @key{RET}
563 Select a new input method for the current buffer (@code{set-input-method}).
565 @item C-h I @var{method} @key{RET}
566 @itemx C-h C-\ @var{method} @key{RET}
567 @findex describe-input-method
568 @kindex C-h I
569 @kindex C-h C-\
570 Describe the input method @var{method} (@code{describe-input-method}).
571 By default, it describes the current input method (if any).  This
572 description should give you the full details of how to use any
573 particular input method.
575 @item M-x list-input-methods
576 Display a list of all the supported input methods.
577 @end table
579 @findex set-input-method
580 @vindex current-input-method
581 @kindex C-x RET C-\
582   To choose an input method for the current buffer, use @kbd{C-x
583 @key{RET} C-\} (@code{set-input-method}).  This command reads the
584 input method name from the minibuffer; the name normally starts with the
585 language environment that it is meant to be used with.  The variable
586 @code{current-input-method} records which input method is selected.
588 @findex toggle-input-method
589 @kindex C-\
590   Input methods use various sequences of @acronym{ASCII} characters to
591 stand for non-@acronym{ASCII} characters.  Sometimes it is useful to
592 turn off the input method temporarily.  To do this, type @kbd{C-\}
593 (@code{toggle-input-method}).  To reenable the input method, type
594 @kbd{C-\} again.
596   If you type @kbd{C-\} and you have not yet selected an input method,
597 it prompts you to specify one.  This has the same effect as using
598 @kbd{C-x @key{RET} C-\} to specify an input method.
600   When invoked with a numeric argument, as in @kbd{C-u C-\},
601 @code{toggle-input-method} always prompts you for an input method,
602 suggesting the most recently selected one as the default.
604 @vindex default-input-method
605   Selecting a language environment specifies a default input method for
606 use in various buffers.  When you have a default input method, you can
607 select it in the current buffer by typing @kbd{C-\}.  The variable
608 @code{default-input-method} specifies the default input method
609 (@code{nil} means there is none).
611   In some language environments, which support several different input
612 methods, you might want to use an input method different from the
613 default chosen by @code{set-language-environment}.  You can instruct
614 Emacs to select a different default input method for a certain
615 language environment, if you wish, by using
616 @code{set-language-environment-hook} (@pxref{Language Environments,
617 set-language-environment-hook}).  For example:
619 @lisp
620 (defun my-chinese-setup ()
621   "Set up my private Chinese environment."
622   (if (equal current-language-environment "Chinese-GB")
623       (setq default-input-method "chinese-tonepy")))
624 (add-hook 'set-language-environment-hook 'my-chinese-setup)
625 @end lisp
627 @noindent
628 This sets the default input method to be @code{chinese-tonepy}
629 whenever you choose a Chinese-GB language environment.
631 You can instruct Emacs to activate a certain input method
632 automatically.  For example:
634 @lisp
635 (add-hook 'text-mode-hook
636   (lambda () (set-input-method "german-prefix")))
637 @end lisp
639 @noindent
640 This automatically activates the input method ``german-prefix'' in
641 Text mode.
643 @findex quail-set-keyboard-layout
644   Some input methods for alphabetic scripts work by (in effect)
645 remapping the keyboard to emulate various keyboard layouts commonly used
646 for those scripts.  How to do this remapping properly depends on your
647 actual keyboard layout.  To specify which layout your keyboard has, use
648 the command @kbd{M-x quail-set-keyboard-layout}.
650 @findex quail-show-key
651   You can use the command @kbd{M-x quail-show-key} to show what key (or
652 key sequence) to type in order to input the character following point,
653 using the selected keyboard layout.  The command @kbd{C-u C-x =} also
654 shows that information, in addition to other information about the
655 character.
657 @findex list-input-methods
658   @kbd{M-x list-input-methods} displays a list of all the supported
659 input methods.  The list gives information about each input method,
660 including the string that stands for it in the mode line.
662 @node Coding Systems
663 @section Coding Systems
664 @cindex coding systems
666   Users of various languages have established many more-or-less standard
667 coding systems for representing them.  Emacs does not use these coding
668 systems internally; instead, it converts from various coding systems to
669 its own system when reading data, and converts the internal coding
670 system to other coding systems when writing data.  Conversion is
671 possible in reading or writing files, in sending or receiving from the
672 terminal, and in exchanging data with subprocesses.
674   Emacs assigns a name to each coding system.  Most coding systems are
675 used for one language, and the name of the coding system starts with
676 the language name.  Some coding systems are used for several
677 languages; their names usually start with @samp{iso}.  There are also
678 special coding systems, such as @code{no-conversion}, @code{raw-text},
679 and @code{emacs-internal}.
681 @cindex international files from DOS/Windows systems
682   A special class of coding systems, collectively known as
683 @dfn{codepages}, is designed to support text encoded by MS-Windows and
684 MS-DOS software.  The names of these coding systems are
685 @code{cp@var{nnnn}}, where @var{nnnn} is a 3- or 4-digit number of the
686 codepage.  You can use these encodings just like any other coding
687 system; for example, to visit a file encoded in codepage 850, type
688 @kbd{C-x @key{RET} c cp850 @key{RET} C-x C-f @var{filename}
689 @key{RET}}.
691   In addition to converting various representations of non-@acronym{ASCII}
692 characters, a coding system can perform end-of-line conversion.  Emacs
693 handles three different conventions for how to separate lines in a file:
694 newline (``unix''), carriage-return linefeed (``dos''), and just
695 carriage-return (``mac'').
697 @table @kbd
698 @item C-h C @var{coding} @key{RET}
699 Describe coding system @var{coding} (@code{describe-coding-system}).
701 @item C-h C @key{RET}
702 Describe the coding systems currently in use.
704 @item M-x list-coding-systems
705 Display a list of all the supported coding systems.
706 @end table
708 @kindex C-h C
709 @findex describe-coding-system
710   The command @kbd{C-h C} (@code{describe-coding-system}) displays
711 information about particular coding systems, including the end-of-line
712 conversion specified by those coding systems.  You can specify a coding
713 system name as the argument; alternatively, with an empty argument, it
714 describes the coding systems currently selected for various purposes,
715 both in the current buffer and as the defaults, and the priority list
716 for recognizing coding systems (@pxref{Recognize Coding}).
718 @findex list-coding-systems
719   To display a list of all the supported coding systems, type @kbd{M-x
720 list-coding-systems}.  The list gives information about each coding
721 system, including the letter that stands for it in the mode line
722 (@pxref{Mode Line}).
724 @cindex end-of-line conversion
725 @cindex line endings
726 @cindex MS-DOS end-of-line conversion
727 @cindex Macintosh end-of-line conversion
728   Each of the coding systems that appear in this list---except for
729 @code{no-conversion}, which means no conversion of any kind---specifies
730 how and whether to convert printing characters, but leaves the choice of
731 end-of-line conversion to be decided based on the contents of each file.
732 For example, if the file appears to use the sequence carriage-return
733 linefeed to separate lines, DOS end-of-line conversion will be used.
735   Each of the listed coding systems has three variants, which specify
736 exactly what to do for end-of-line conversion:
738 @table @code
739 @item @dots{}-unix
740 Don't do any end-of-line conversion; assume the file uses
741 newline to separate lines.  (This is the convention normally used
742 on Unix and GNU systems, and Mac OS X.)
744 @item @dots{}-dos
745 Assume the file uses carriage-return linefeed to separate lines, and do
746 the appropriate conversion.  (This is the convention normally used on
747 Microsoft systems.@footnote{It is also specified for MIME @samp{text/*}
748 bodies and in other network transport contexts.  It is different
749 from the SGML reference syntax record-start/record-end format, which
750 Emacs doesn't support directly.})
752 @item @dots{}-mac
753 Assume the file uses carriage-return to separate lines, and do the
754 appropriate conversion.  (This was the convention used on the
755 Macintosh system prior to OS X.)
756 @end table
758   These variant coding systems are omitted from the
759 @code{list-coding-systems} display for brevity, since they are entirely
760 predictable.  For example, the coding system @code{iso-latin-1} has
761 variants @code{iso-latin-1-unix}, @code{iso-latin-1-dos} and
762 @code{iso-latin-1-mac}.
764 @cindex @code{undecided}, coding system
765   The coding systems @code{unix}, @code{dos}, and @code{mac} are
766 aliases for @code{undecided-unix}, @code{undecided-dos}, and
767 @code{undecided-mac}, respectively.  These coding systems specify only
768 the end-of-line conversion, and leave the character code conversion to
769 be deduced from the text itself.
771 @cindex @code{raw-text}, coding system
772   The coding system @code{raw-text} is good for a file which is mainly
773 @acronym{ASCII} text, but may contain byte values above 127 that are
774 not meant to encode non-@acronym{ASCII} characters.  With
775 @code{raw-text}, Emacs copies those byte values unchanged, and sets
776 @code{enable-multibyte-characters} to @code{nil} in the current buffer
777 so that they will be interpreted properly.  @code{raw-text} handles
778 end-of-line conversion in the usual way, based on the data
779 encountered, and has the usual three variants to specify the kind of
780 end-of-line conversion to use.
782 @cindex @code{no-conversion}, coding system
783   In contrast, the coding system @code{no-conversion} specifies no
784 character code conversion at all---none for non-@acronym{ASCII} byte values and
785 none for end of line.  This is useful for reading or writing binary
786 files, tar files, and other files that must be examined verbatim.  It,
787 too, sets @code{enable-multibyte-characters} to @code{nil}.
789   The easiest way to edit a file with no conversion of any kind is with
790 the @kbd{M-x find-file-literally} command.  This uses
791 @code{no-conversion}, and also suppresses other Emacs features that
792 might convert the file contents before you see them.  @xref{Visiting}.
794 @cindex @code{emacs-internal}, coding system
795   The coding system @code{emacs-internal} (or @code{utf-8-emacs},
796 which is equivalent) means that the file contains non-@acronym{ASCII}
797 characters stored with the internal Emacs encoding.  This coding
798 system handles end-of-line conversion based on the data encountered,
799 and has the usual three variants to specify the kind of end-of-line
800 conversion.
802 @node Recognize Coding
803 @section Recognizing Coding Systems
805   Whenever Emacs reads a given piece of text, it tries to recognize
806 which coding system to use.  This applies to files being read, output
807 from subprocesses, text from X selections, etc.  Emacs can select the
808 right coding system automatically most of the time---once you have
809 specified your preferences.
811   Some coding systems can be recognized or distinguished by which byte
812 sequences appear in the data.  However, there are coding systems that
813 cannot be distinguished, not even potentially.  For example, there is no
814 way to distinguish between Latin-1 and Latin-2; they use the same byte
815 values with different meanings.
817   Emacs handles this situation by means of a priority list of coding
818 systems.  Whenever Emacs reads a file, if you do not specify the coding
819 system to use, Emacs checks the data against each coding system,
820 starting with the first in priority and working down the list, until it
821 finds a coding system that fits the data.  Then it converts the file
822 contents assuming that they are represented in this coding system.
824   The priority list of coding systems depends on the selected language
825 environment (@pxref{Language Environments}).  For example, if you use
826 French, you probably want Emacs to prefer Latin-1 to Latin-2; if you use
827 Czech, you probably want Latin-2 to be preferred.  This is one of the
828 reasons to specify a language environment.
830 @findex prefer-coding-system
831   However, you can alter the coding system priority list in detail
832 with the command @kbd{M-x prefer-coding-system}.  This command reads
833 the name of a coding system from the minibuffer, and adds it to the
834 front of the priority list, so that it is preferred to all others.  If
835 you use this command several times, each use adds one element to the
836 front of the priority list.
838   If you use a coding system that specifies the end-of-line conversion
839 type, such as @code{iso-8859-1-dos}, what this means is that Emacs
840 should attempt to recognize @code{iso-8859-1} with priority, and should
841 use DOS end-of-line conversion when it does recognize @code{iso-8859-1}.
843 @vindex file-coding-system-alist
844   Sometimes a file name indicates which coding system to use for the
845 file.  The variable @code{file-coding-system-alist} specifies this
846 correspondence.  There is a special function
847 @code{modify-coding-system-alist} for adding elements to this list.  For
848 example, to read and write all @samp{.txt} files using the coding system
849 @code{chinese-iso-8bit}, you can execute this Lisp expression:
851 @smallexample
852 (modify-coding-system-alist 'file "\\.txt\\'" 'chinese-iso-8bit)
853 @end smallexample
855 @noindent
856 The first argument should be @code{file}, the second argument should be
857 a regular expression that determines which files this applies to, and
858 the third argument says which coding system to use for these files.
860 @vindex inhibit-eol-conversion
861 @cindex DOS-style end-of-line display
862   Emacs recognizes which kind of end-of-line conversion to use based on
863 the contents of the file: if it sees only carriage-returns, or only
864 carriage-return linefeed sequences, then it chooses the end-of-line
865 conversion accordingly.  You can inhibit the automatic use of
866 end-of-line conversion by setting the variable @code{inhibit-eol-conversion}
867 to non-@code{nil}.  If you do that, DOS-style files will be displayed
868 with the @samp{^M} characters visible in the buffer; some people
869 prefer this to the more subtle @samp{(DOS)} end-of-line type
870 indication near the left edge of the mode line (@pxref{Mode Line,
871 eol-mnemonic}).
873 @vindex inhibit-iso-escape-detection
874 @cindex escape sequences in files
875   By default, the automatic detection of coding system is sensitive to
876 escape sequences.  If Emacs sees a sequence of characters that begin
877 with an escape character, and the sequence is valid as an ISO-2022
878 code, that tells Emacs to use one of the ISO-2022 encodings to decode
879 the file.
881   However, there may be cases that you want to read escape sequences
882 in a file as is.  In such a case, you can set the variable
883 @code{inhibit-iso-escape-detection} to non-@code{nil}.  Then the code
884 detection ignores any escape sequences, and never uses an ISO-2022
885 encoding.  The result is that all escape sequences become visible in
886 the buffer.
888   The default value of @code{inhibit-iso-escape-detection} is
889 @code{nil}.  We recommend that you not change it permanently, only for
890 one specific operation.  That's because some Emacs Lisp source files
891 in the Emacs distribution contain non-@acronym{ASCII} characters encoded in the
892 coding system @code{iso-2022-7bit}, and they won't be
893 decoded correctly when you visit those files if you suppress the
894 escape sequence detection.
895 @c I count a grand total of 3 such files, so is the above really true?
897 @vindex auto-coding-alist
898 @vindex auto-coding-regexp-alist
899   The variables @code{auto-coding-alist} and
900 @code{auto-coding-regexp-alist} are
901 the strongest way to specify the coding system for certain patterns of
902 file names, or for files containing certain patterns, respectively.
903 These variables even override @samp{-*-coding:-*-} tags in the file
904 itself (@pxref{Specify Coding}).  For example, Emacs
905 uses @code{auto-coding-alist} for tar and archive files, to prevent it
906 from being confused by a @samp{-*-coding:-*-} tag in a member of the
907 archive and thinking it applies to the archive file as a whole.
908 @ignore
909 @c This describes old-style BABYL files, which are no longer relevant.
910 Likewise, Emacs uses @code{auto-coding-regexp-alist} to ensure that
911 RMAIL files, whose names in general don't match any particular
912 pattern, are decoded correctly.
913 @end ignore
915 @vindex auto-coding-functions
916   Another way to specify a coding system is with the variable
917 @code{auto-coding-functions}.  For example, one of the builtin
918 @code{auto-coding-functions} detects the encoding for XML files.
919 Unlike the previous two, this variable does not override any
920 @samp{-*-coding:-*-} tag.
922 @c FIXME?  This seems somewhat out of place.  Move to the Rmail section?
923 @vindex rmail-file-coding-system
924   When you get new mail in Rmail, each message is translated
925 automatically from the coding system it is written in, as if it were a
926 separate file.  This uses the priority list of coding systems that you
927 have specified.  If a MIME message specifies a character set, Rmail
928 obeys that specification.  For reading and saving Rmail files
929 themselves, Emacs uses the coding system specified by the variable
930 @code{rmail-file-coding-system}.  The default value is @code{nil},
931 which means that Rmail files are not translated (they are read and
932 written in the Emacs internal character code).
934 @node Specify Coding
935 @section Specifying a File's Coding System
937   If Emacs recognizes the encoding of a file incorrectly, you can
938 reread the file using the correct coding system with @kbd{C-x
939 @key{RET} r} (@code{revert-buffer-with-coding-system}).  This command
940 prompts for the coding system to use.  To see what coding system Emacs
941 actually used to decode the file, look at the coding system mnemonic
942 letter near the left edge of the mode line (@pxref{Mode Line}), or
943 type @kbd{C-h C} (@code{describe-coding-system}).
945 @vindex coding
946   You can specify the coding system for a particular file in the file
947 itself, using the @w{@samp{-*-@dots{}-*-}} construct at the beginning,
948 or a local variables list at the end (@pxref{File Variables}).  You do
949 this by defining a value for the ``variable'' named @code{coding}.
950 Emacs does not really have a variable @code{coding}; instead of
951 setting a variable, this uses the specified coding system for the
952 file.  For example, @samp{-*-mode: C; coding: latin-1;-*-} specifies
953 use of the Latin-1 coding system, as well as C mode.  When you specify
954 the coding explicitly in the file, that overrides
955 @code{file-coding-system-alist}.
957 @node Output Coding
958 @section Choosing Coding Systems for Output
960 @vindex buffer-file-coding-system
961   Once Emacs has chosen a coding system for a buffer, it stores that
962 coding system in @code{buffer-file-coding-system}.  That makes it the
963 default for operations that write from this buffer into a file, such
964 as @code{save-buffer} and @code{write-region}.  You can specify a
965 different coding system for further file output from the buffer using
966 @code{set-buffer-file-coding-system} (@pxref{Text Coding}).
968   You can insert any character Emacs supports into any Emacs buffer,
969 but most coding systems can only handle a subset of these characters.
970 Therefore, it's possible that the characters you insert cannot be
971 encoded with the coding system that will be used to save the buffer.
972 For example, you could visit a text file in Polish, encoded in
973 @code{iso-8859-2}, and add some Russian words to it.  When you save
974 that buffer, Emacs cannot use the current value of
975 @code{buffer-file-coding-system}, because the characters you added
976 cannot be encoded by that coding system.
978   When that happens, Emacs tries the most-preferred coding system (set
979 by @kbd{M-x prefer-coding-system} or @kbd{M-x
980 set-language-environment}).  If that coding system can safely encode
981 all of the characters in the buffer, Emacs uses it, and stores its
982 value in @code{buffer-file-coding-system}.  Otherwise, Emacs displays
983 a list of coding systems suitable for encoding the buffer's contents,
984 and asks you to choose one of those coding systems.
986   If you insert the unsuitable characters in a mail message, Emacs
987 behaves a bit differently.  It additionally checks whether the
988 @c What determines this?
989 most-preferred coding system is recommended for use in MIME messages;
990 if not, it informs you of this fact and prompts you for another coding
991 system.  This is so you won't inadvertently send a message encoded in
992 a way that your recipient's mail software will have difficulty
993 decoding.  (You can still use an unsuitable coding system if you enter
994 its name at the prompt.)
996 @c It seems that select-message-coding-system does this.
997 @c Both sendmail.el and smptmail.el call it; i.e., smtpmail.el still
998 @c obeys sendmail-coding-system.
999 @vindex sendmail-coding-system
1000   When you send a mail message (@pxref{Sending Mail}),
1001 Emacs has four different ways to determine the coding system to use
1002 for encoding the message text.  It tries the buffer's own value of
1003 @code{buffer-file-coding-system}, if that is non-@code{nil}.
1004 Otherwise, it uses the value of @code{sendmail-coding-system}, if that
1005 is non-@code{nil}.  The third way is to use the default coding system
1006 for new files, which is controlled by your choice of language
1007 @c i.e., default-sendmail-coding-system
1008 environment, if that is non-@code{nil}.  If all of these three values
1009 are @code{nil}, Emacs encodes outgoing mail using the Latin-1 coding
1010 system.
1011 @c FIXME?  Where does the Latin-1 default come in?
1013 @node Text Coding
1014 @section Specifying a Coding System for File Text
1016   In cases where Emacs does not automatically choose the right coding
1017 system for a file's contents, you can use these commands to specify
1018 one:
1020 @table @kbd
1021 @item C-x @key{RET} f @var{coding} @key{RET}
1022 Use coding system @var{coding} to save or revisit the file in
1023 the current buffer (@code{set-buffer-file-coding-system}).
1025 @item C-x @key{RET} c @var{coding} @key{RET}
1026 Specify coding system @var{coding} for the immediately following
1027 command (@code{universal-coding-system-argument}).
1029 @item C-x @key{RET} r @var{coding} @key{RET}
1030 Revisit the current file using the coding system @var{coding}
1031 (@code{revert-buffer-with-coding-system}).
1033 @item M-x recode-region @key{RET} @var{right} @key{RET} @var{wrong} @key{RET}
1034 Convert a region that was decoded using coding system @var{wrong},
1035 decoding it using coding system @var{right} instead.
1036 @end table
1038 @kindex C-x RET f
1039 @findex set-buffer-file-coding-system
1040   The command @kbd{C-x @key{RET} f}
1041 (@code{set-buffer-file-coding-system}) sets the file coding system for
1042 the current buffer (i.e., the coding system to use when saving or
1043 reverting the file).  You specify which coding system using the
1044 minibuffer.  You can also invoke this command by clicking with
1045 @kbd{Mouse-3} on the coding system indicator in the mode line
1046 (@pxref{Mode Line}).
1048   If you specify a coding system that cannot handle all the characters
1049 in the buffer, Emacs will warn you about the troublesome characters,
1050 and ask you to choose another coding system, when you try to save the
1051 buffer (@pxref{Output Coding}).
1053 @cindex specify end-of-line conversion
1054   You can also use this command to specify the end-of-line conversion
1055 (@pxref{Coding Systems, end-of-line conversion}) for encoding the
1056 current buffer.  For example, @kbd{C-x @key{RET} f dos @key{RET}} will
1057 cause Emacs to save the current buffer's text with DOS-style
1058 carriage-return linefeed line endings.
1060 @kindex C-x RET c
1061 @findex universal-coding-system-argument
1062   Another way to specify the coding system for a file is when you visit
1063 the file.  First use the command @kbd{C-x @key{RET} c}
1064 (@code{universal-coding-system-argument}); this command uses the
1065 minibuffer to read a coding system name.  After you exit the minibuffer,
1066 the specified coding system is used for @emph{the immediately following
1067 command}.
1069   So if the immediately following command is @kbd{C-x C-f}, for example,
1070 it reads the file using that coding system (and records the coding
1071 system for when you later save the file).  Or if the immediately following
1072 command is @kbd{C-x C-w}, it writes the file using that coding system.
1073 When you specify the coding system for saving in this way, instead
1074 of with @kbd{C-x @key{RET} f}, there is no warning if the buffer
1075 contains characters that the coding system cannot handle.
1077   Other file commands affected by a specified coding system include
1078 @kbd{C-x i} and @kbd{C-x C-v}, as well as the other-window variants
1079 of @kbd{C-x C-f}.  @kbd{C-x @key{RET} c} also affects commands that
1080 start subprocesses, including @kbd{M-x shell} (@pxref{Shell}).  If the
1081 immediately following command does not use the coding system, then
1082 @kbd{C-x @key{RET} c} ultimately has no effect.
1084   An easy way to visit a file with no conversion is with the @kbd{M-x
1085 find-file-literally} command.  @xref{Visiting}.
1087   The default value of the variable @code{buffer-file-coding-system}
1088 specifies the choice of coding system to use when you create a new file.
1089 It applies when you find a new file, and when you create a buffer and
1090 then save it in a file.  Selecting a language environment typically sets
1091 this variable to a good choice of default coding system for that language
1092 environment.
1094 @kindex C-x RET r
1095 @findex revert-buffer-with-coding-system
1096   If you visit a file with a wrong coding system, you can correct this
1097 with @kbd{C-x @key{RET} r} (@code{revert-buffer-with-coding-system}).
1098 This visits the current file again, using a coding system you specify.
1100 @findex recode-region
1101   If a piece of text has already been inserted into a buffer using the
1102 wrong coding system, you can redo the decoding of it using @kbd{M-x
1103 recode-region}.  This prompts you for the proper coding system, then
1104 for the wrong coding system that was actually used, and does the
1105 conversion.  It first encodes the region using the wrong coding system,
1106 then decodes it again using the proper coding system.
1108 @node Communication Coding
1109 @section Coding Systems for Interprocess Communication
1111   This section explains how to specify coding systems for use
1112 in communication with other processes.
1114 @table @kbd
1115 @item C-x @key{RET} x @var{coding} @key{RET}
1116 Use coding system @var{coding} for transferring selections to and from
1117 other graphical applications (@code{set-selection-coding-system}).
1119 @item C-x @key{RET} X @var{coding} @key{RET}
1120 Use coding system @var{coding} for transferring @emph{one}
1121 selection---the next one---to or from another graphical application
1122 (@code{set-next-selection-coding-system}).
1124 @item C-x @key{RET} p @var{input-coding} @key{RET} @var{output-coding} @key{RET}
1125 Use coding systems @var{input-coding} and @var{output-coding} for
1126 subprocess input and output in the current buffer
1127 (@code{set-buffer-process-coding-system}).
1128 @end table
1130 @kindex C-x RET x
1131 @kindex C-x RET X
1132 @findex set-selection-coding-system
1133 @findex set-next-selection-coding-system
1134   The command @kbd{C-x @key{RET} x} (@code{set-selection-coding-system})
1135 specifies the coding system for sending selected text to other windowing
1136 applications, and for receiving the text of selections made in other
1137 applications.  This command applies to all subsequent selections, until
1138 you override it by using the command again.  The command @kbd{C-x
1139 @key{RET} X} (@code{set-next-selection-coding-system}) specifies the
1140 coding system for the next selection made in Emacs or read by Emacs.
1142 @vindex x-select-request-type
1143   The variable @code{x-select-request-type} specifies the data type to
1144 request from the X Window System for receiving text selections from
1145 other applications.  If the value is @code{nil} (the default), Emacs
1146 tries @code{UTF8_STRING} and @code{COMPOUND_TEXT}, in this order, and
1147 uses various heuristics to choose the more appropriate of the two
1148 results; if none of these succeed, Emacs falls back on @code{STRING}.
1149 If the value of @code{x-select-request-type} is one of the symbols
1150 @code{COMPOUND_TEXT}, @code{UTF8_STRING}, @code{STRING}, or
1151 @code{TEXT}, Emacs uses only that request type.  If the value is a
1152 list of some of these symbols, Emacs tries only the request types in
1153 the list, in order, until one of them succeeds, or until the list is
1154 exhausted.
1156 @kindex C-x RET p
1157 @findex set-buffer-process-coding-system
1158   The command @kbd{C-x @key{RET} p} (@code{set-buffer-process-coding-system})
1159 specifies the coding system for input and output to a subprocess.  This
1160 command applies to the current buffer; normally, each subprocess has its
1161 own buffer, and thus you can use this command to specify translation to
1162 and from a particular subprocess by giving the command in the
1163 corresponding buffer.
1165   You can also use @kbd{C-x @key{RET} c}
1166 (@code{universal-coding-system-argument}) just before the command that
1167 runs or starts a subprocess, to specify the coding system for
1168 communicating with that subprocess.  @xref{Text Coding}.
1170   The default for translation of process input and output depends on the
1171 current language environment.
1173 @vindex locale-coding-system
1174 @cindex decoding non-@acronym{ASCII} keyboard input on X
1175   The variable @code{locale-coding-system} specifies a coding system
1176 to use when encoding and decoding system strings such as system error
1177 messages and @code{format-time-string} formats and time stamps.  That
1178 coding system is also used for decoding non-@acronym{ASCII} keyboard
1179 input on the X Window System.  You should choose a coding system that is compatible
1180 with the underlying system's text representation, which is normally
1181 specified by one of the environment variables @env{LC_ALL},
1182 @env{LC_CTYPE}, and @env{LANG}.  (The first one, in the order
1183 specified above, whose value is nonempty is the one that determines
1184 the text representation.)
1186 @node File Name Coding
1187 @section Coding Systems for File Names
1189 @table @kbd
1190 @item C-x @key{RET} F @var{coding} @key{RET}
1191 Use coding system @var{coding} for encoding and decoding file
1192 names (@code{set-file-name-coding-system}).
1193 @end table
1195 @findex set-file-name-coding-system
1196 @kindex C-x @key{RET} F
1197 @cindex file names with non-@acronym{ASCII} characters
1198   The command @kbd{C-x @key{RET} F} (@code{set-file-name-coding-system})
1199 specifies a coding system to use for encoding file @emph{names}.  It
1200 has no effect on reading and writing the @emph{contents} of files.
1202 @vindex file-name-coding-system
1203   In fact, all this command does is set the value of the variable
1204 @code{file-name-coding-system}.  If you set the variable to a coding
1205 system name (as a Lisp symbol or a string), Emacs encodes file names
1206 using that coding system for all file operations.  This makes it
1207 possible to use non-@acronym{ASCII} characters in file names---or, at
1208 least, those non-@acronym{ASCII} characters that the specified coding
1209 system can encode.
1211   If @code{file-name-coding-system} is @code{nil}, Emacs uses a
1212 default coding system determined by the selected language environment,
1213 and stored in the @code{default-file-name-coding-system} variable.
1214 @c FIXME?  Is this correct?  What is the "default language environment"?
1215 In the default language environment, non-@acronym{ASCII} characters in
1216 file names are not encoded specially; they appear in the file system
1217 using the internal Emacs representation.
1219   @strong{Warning:} if you change @code{file-name-coding-system} (or the
1220 language environment) in the middle of an Emacs session, problems can
1221 result if you have already visited files whose names were encoded using
1222 the earlier coding system and cannot be encoded (or are encoded
1223 differently) under the new coding system.  If you try to save one of
1224 these buffers under the visited file name, saving may use the wrong file
1225 name, or it may encounter an error.  If such a problem happens, use @kbd{C-x
1226 C-w} to specify a new file name for that buffer.
1228 @findex recode-file-name
1229   If a mistake occurs when encoding a file name, use the command
1230 @kbd{M-x recode-file-name} to change the file name's coding
1231 system.  This prompts for an existing file name, its old coding
1232 system, and the coding system to which you wish to convert.
1234 @node Terminal Coding
1235 @section Coding Systems for Terminal I/O
1237 @table @kbd
1238 @item C-x @key{RET} t @var{coding} @key{RET}
1239 Use coding system @var{coding} for terminal output
1240 (@code{set-terminal-coding-system}).
1242 @item C-x @key{RET} k @var{coding} @key{RET}
1243 Use coding system @var{coding} for keyboard input
1244 (@code{set-keyboard-coding-system}).
1245 @end table
1247 @kindex C-x RET t
1248 @findex set-terminal-coding-system
1249   The command @kbd{C-x @key{RET} t} (@code{set-terminal-coding-system})
1250 specifies the coding system for terminal output.  If you specify a
1251 character code for terminal output, all characters output to the
1252 terminal are translated into that coding system.
1254   This feature is useful for certain character-only terminals built to
1255 support specific languages or character sets---for example, European
1256 terminals that support one of the ISO Latin character sets.  You need to
1257 specify the terminal coding system when using multibyte text, so that
1258 Emacs knows which characters the terminal can actually handle.
1260   By default, output to the terminal is not translated at all, unless
1261 Emacs can deduce the proper coding system from your terminal type or
1262 your locale specification (@pxref{Language Environments}).
1264 @kindex C-x RET k
1265 @findex set-keyboard-coding-system
1266 @vindex keyboard-coding-system
1267   The command @kbd{C-x @key{RET} k} (@code{set-keyboard-coding-system}),
1268 or the variable @code{keyboard-coding-system}, specifies the coding
1269 system for keyboard input.  Character-code translation of keyboard
1270 input is useful for terminals with keys that send non-@acronym{ASCII}
1271 graphic characters---for example, some terminals designed for ISO
1272 Latin-1 or subsets of it.
1274   By default, keyboard input is translated based on your system locale
1275 setting.  If your terminal does not really support the encoding
1276 implied by your locale (for example, if you find it inserts a
1277 non-@acronym{ASCII} character if you type @kbd{M-i}), you will need to set
1278 @code{keyboard-coding-system} to @code{nil} to turn off encoding.
1279 You can do this by putting
1281 @lisp
1282 (set-keyboard-coding-system nil)
1283 @end lisp
1285 @noindent
1286 in your init file.
1288   There is a similarity between using a coding system translation for
1289 keyboard input, and using an input method: both define sequences of
1290 keyboard input that translate into single characters.  However, input
1291 methods are designed to be convenient for interactive use by humans, and
1292 the sequences that are translated are typically sequences of @acronym{ASCII}
1293 printing characters.  Coding systems typically translate sequences of
1294 non-graphic characters.
1296 @node Fontsets
1297 @section Fontsets
1298 @cindex fontsets
1300   A font typically defines shapes for a single alphabet or script.
1301 Therefore, displaying the entire range of scripts that Emacs supports
1302 requires a collection of many fonts.  In Emacs, such a collection is
1303 called a @dfn{fontset}.  A fontset is defined by a list of font specifications,
1304 each assigned to handle a range of character codes, and may fall back
1305 on another fontset for characters that are not covered by the fonts
1306 it specifies.
1308 @cindex fonts for various scripts
1309 @cindex Intlfonts package, installation
1310   Each fontset has a name, like a font.  However, while fonts are
1311 stored in the system and the available font names are defined by the
1312 system, fontsets are defined within Emacs itself.  Once you have
1313 defined a fontset, you can use it within Emacs by specifying its name,
1314 anywhere that you could use a single font.  Of course, Emacs fontsets
1315 can use only the fonts that the system supports.  If some characters
1316 appear on the screen as empty boxes or hex codes, this means that the
1317 fontset in use for them has no font for those characters.  In this
1318 case, or if the characters are shown, but not as well as you would
1319 like, you may need to install extra fonts.  Your operating system may
1320 have optional fonts that you can install; or you can install the GNU
1321 Intlfonts package, which includes fonts for most supported
1322 scripts.@footnote{If you run Emacs on X, you may need to inform the X
1323 server about the location of the newly installed fonts with commands
1324 such as:
1325 @c FIXME?  I feel like this may be out of date.
1326 @c E.g., the intlfonts tarfile is ~ 10 years old.
1328 @example
1329  xset fp+ /usr/local/share/emacs/fonts
1330  xset fp rehash
1331 @end example
1334   Emacs creates three fontsets automatically: the @dfn{standard
1335 fontset}, the @dfn{startup fontset} and the @dfn{default fontset}.
1336 @c FIXME?  The doc of *standard*-fontset-spec says:
1337 @c "You have the biggest chance to display international characters
1338 @c with correct glyphs by using the *standard* fontset." (my emphasis)
1339 @c See http://lists.gnu.org/archive/html/emacs-devel/2012-04/msg00430.html
1340 The default fontset is most likely to have fonts for a wide variety of
1341 non-@acronym{ASCII} characters, and is the default fallback for the
1342 other two fontsets, and if you set a default font rather than fontset.
1343 However, it does not specify font family names, so results can be
1344 somewhat random if you use it directly.  You can specify use of a
1345 particular fontset by starting Emacs with the @samp{-fn} option.
1346 For example,
1348 @example
1349 emacs -fn fontset-standard
1350 @end example
1352 @noindent
1353 You can also specify a fontset with the @samp{Font} resource (@pxref{X
1354 Resources}).
1356   If no fontset is specified for use, then Emacs uses an
1357 @acronym{ASCII} font, with @samp{fontset-default} as a fallback for
1358 characters the font does not cover.  The standard fontset is only used if
1359 explicitly requested, despite its name.
1361   A fontset does not necessarily specify a font for every character
1362 code.  If a fontset specifies no font for a certain character, or if
1363 it specifies a font that does not exist on your system, then it cannot
1364 display that character properly.  It will display that character as a
1365 hex code or thin space or an empty box instead.  (@xref{Text Display, ,
1366 glyphless characters}, for details.)
1368 @node Defining Fontsets
1369 @section Defining fontsets
1371 @vindex standard-fontset-spec
1372 @vindex w32-standard-fontset-spec
1373 @vindex ns-standard-fontset-spec
1374 @cindex standard fontset
1375   When running on X, Emacs creates a standard fontset automatically according to the value
1376 of @code{standard-fontset-spec}.  This fontset's name is
1378 @example
1379 -*-fixed-medium-r-normal-*-16-*-*-*-*-*-fontset-standard
1380 @end example
1382 @noindent
1383 or just @samp{fontset-standard} for short.
1385   On GNUstep and Mac OS X, the standard fontset is created using the value of
1386 @code{ns-standard-fontset-spec}, and on MS Windows it is
1387 created using the value of @code{w32-standard-fontset-spec}.
1389 @c FIXME?  How does one access these, or do anything with them?
1390 @c Does it matter?
1391   Bold, italic, and bold-italic variants of the standard fontset are
1392 created automatically.  Their names have @samp{bold} instead of
1393 @samp{medium}, or @samp{i} instead of @samp{r}, or both.
1395 @cindex startup fontset
1396   Emacs generates a fontset automatically, based on any default
1397 @acronym{ASCII} font that you specify with the @samp{Font} resource or
1398 the @samp{-fn} argument, or the default font that Emacs found when it
1399 started.  This is the @dfn{startup fontset} and its name is
1400 @code{fontset-startup}.  It does this by replacing the
1401 @var{charset_registry} field with @samp{fontset}, and replacing
1402 @var{charset_encoding} field with @samp{startup}, then using the
1403 resulting string to specify a fontset.
1405   For instance, if you start Emacs with a font of this form,
1407 @c FIXME?  I think this is a little misleading, because you cannot (?)
1408 @c actually specify a font with wildcards, it has to be a complete spec.
1409 @c Also, an X font specification of this form hasn't (?) been
1410 @c mentioned before now, and is somewhat obsolete these days.
1411 @c People are more likely to use a form like
1412 @c emacs -fn "DejaVu Sans Mono-12"
1413 @c How does any of this apply in that case?
1414 @example
1415 emacs -fn "*courier-medium-r-normal--14-140-*-iso8859-1"
1416 @end example
1418 @noindent
1419 Emacs generates the following fontset and uses it for the initial X
1420 window frame:
1422 @example
1423 -*-courier-medium-r-normal-*-14-140-*-*-*-*-fontset-startup
1424 @end example
1426   The startup fontset will use the font that you specify, or a variant
1427 with a different registry and encoding, for all the characters that
1428 are supported by that font, and fallback on @samp{fontset-default} for
1429 other characters.
1431   With the X resource @samp{Emacs.Font}, you can specify a fontset name
1432 just like an actual font name.  But be careful not to specify a fontset
1433 name in a wildcard resource like @samp{Emacs*Font}---that wildcard
1434 specification matches various other resources, such as for menus, and
1435 @c FIXME is this still true?
1436 menus cannot handle fontsets.  @xref{X Resources}.
1438   You can specify additional fontsets using X resources named
1439 @samp{Fontset-@var{n}}, where @var{n} is an integer starting from 0.
1440 The resource value should have this form:
1442 @smallexample
1443 @var{fontpattern}, @r{[}@var{charset}:@var{font}@r{]@dots{}}
1444 @end smallexample
1446 @noindent
1447 @var{fontpattern} should have the form of a standard X font name (see
1448 the previous fontset-startup example), except
1449 for the last two fields.  They should have the form
1450 @samp{fontset-@var{alias}}.
1452   The fontset has two names, one long and one short.  The long name is
1453 @var{fontpattern}.  The short name is @samp{fontset-@var{alias}}.  You
1454 can refer to the fontset by either name.
1456   The construct @samp{@var{charset}:@var{font}} specifies which font to
1457 use (in this fontset) for one particular character set.  Here,
1458 @var{charset} is the name of a character set, and @var{font} is the
1459 font to use for that character set.  You can use this construct any
1460 number of times in defining one fontset.
1462   For the other character sets, Emacs chooses a font based on
1463 @var{fontpattern}.  It replaces @samp{fontset-@var{alias}} with values
1464 that describe the character set.  For the @acronym{ASCII} character font,
1465 @samp{fontset-@var{alias}} is replaced with @samp{ISO8859-1}.
1467   In addition, when several consecutive fields are wildcards, Emacs
1468 collapses them into a single wildcard.  This is to prevent use of
1469 auto-scaled fonts.  Fonts made by scaling larger fonts are not usable
1470 for editing, and scaling a smaller font is not also useful, because it is
1471 better to use the smaller font in its own size, which is what Emacs
1472 does.
1474   Thus if @var{fontpattern} is this,
1476 @example
1477 -*-fixed-medium-r-normal-*-24-*-*-*-*-*-fontset-24
1478 @end example
1480 @noindent
1481 the font specification for @acronym{ASCII} characters would be this:
1483 @example
1484 -*-fixed-medium-r-normal-*-24-*-ISO8859-1
1485 @end example
1487 @noindent
1488 and the font specification for Chinese GB2312 characters would be this:
1490 @example
1491 -*-fixed-medium-r-normal-*-24-*-gb2312*-*
1492 @end example
1494   You may not have any Chinese font matching the above font
1495 specification.  Most X distributions include only Chinese fonts that
1496 have @samp{song ti} or @samp{fangsong ti} in the @var{family} field.  In
1497 such a case, @samp{Fontset-@var{n}} can be specified as:
1499 @smallexample
1500 Emacs.Fontset-0: -*-fixed-medium-r-normal-*-24-*-*-*-*-*-fontset-24,\
1501         chinese-gb2312:-*-*-medium-r-normal-*-24-*-gb2312*-*
1502 @end smallexample
1504 @noindent
1505 Then, the font specifications for all but Chinese GB2312 characters have
1506 @samp{fixed} in the @var{family} field, and the font specification for
1507 Chinese GB2312 characters has a wild card @samp{*} in the @var{family}
1508 field.
1510 @findex create-fontset-from-fontset-spec
1511   The function that processes the fontset resource value to create the
1512 fontset is called @code{create-fontset-from-fontset-spec}.  You can also
1513 call this function explicitly to create a fontset.
1515   @xref{Fonts}, for more information about font naming.
1517 @node Modifying Fontsets
1518 @section Modifying Fontsets
1519 @cindex fontsets, modifying
1520 @findex set-fontset-font
1522   Fontsets do not always have to be created from scratch.  If only
1523 minor changes are required it may be easier to modify an existing
1524 fontset.  Modifying @samp{fontset-default} will also affect other
1525 fontsets that use it as a fallback, so can be an effective way of
1526 fixing problems with the fonts that Emacs chooses for a particular
1527 script.
1529 Fontsets can be modified using the function @code{set-fontset-font},
1530 specifying a character, a charset, a script, or a range of characters
1531 to modify the font for, and a font specification for the font to be
1532 used.  Some examples are:
1534 @example
1535 ;; Use Liberation Mono for latin-3 charset.
1536 (set-fontset-font "fontset-default" 'iso-8859-3
1537                   "Liberation Mono")
1539 ;; Prefer a big5 font for han characters
1540 (set-fontset-font "fontset-default"
1541                   'han (font-spec :registry "big5")
1542                   nil 'prepend)
1544 ;; Use DejaVu Sans Mono as a fallback in fontset-startup
1545 ;; before resorting to fontset-default.
1546 (set-fontset-font "fontset-startup" nil "DejaVu Sans Mono"
1547                   nil 'append)
1549 ;; Use MyPrivateFont for the Unicode private use area.
1550 (set-fontset-font "fontset-default"  '(#xe000 . #xf8ff)
1551                   "MyPrivateFont")
1553 @end example
1556 @node Undisplayable Characters
1557 @section Undisplayable Characters
1559   There may be some non-@acronym{ASCII} characters that your
1560 terminal cannot display.  Most text terminals support just a single
1561 character set (use the variable @code{default-terminal-coding-system}
1562 to tell Emacs which one, @ref{Terminal Coding}); characters that
1563 can't be encoded in that coding system are displayed as @samp{?} by
1564 default.
1566   Graphical displays can display a broader range of characters, but
1567 you may not have fonts installed for all of them; characters that have
1568 no font appear as a hollow box.
1570   If you use Latin-1 characters but your terminal can't display
1571 Latin-1, you can arrange to display mnemonic @acronym{ASCII} sequences
1572 instead, e.g., @samp{"o} for o-umlaut.  Load the library
1573 @file{iso-ascii} to do this.
1575 @vindex latin1-display
1576   If your terminal can display Latin-1, you can display characters
1577 from other European character sets using a mixture of equivalent
1578 Latin-1 characters and @acronym{ASCII} mnemonics.  Customize the variable
1579 @code{latin1-display} to enable this.  The mnemonic @acronym{ASCII}
1580 sequences mostly correspond to those of the prefix input methods.
1582 @node Unibyte Mode
1583 @section Unibyte Editing Mode
1585 @cindex European character sets
1586 @cindex accented characters
1587 @cindex ISO Latin character sets
1588 @cindex Unibyte operation
1589   The ISO 8859 Latin-@var{n} character sets define character codes in
1590 the range 0240 to 0377 octal (160 to 255 decimal) to handle the
1591 accented letters and punctuation needed by various European languages
1592 (and some non-European ones).  Note that Emacs considers bytes with
1593 codes in this range as raw bytes, not as characters, even in a unibyte
1594 buffer, i.e., if you disable multibyte characters.  However, Emacs
1595 can still handle these character codes as if they belonged to
1596 @emph{one} of the single-byte character sets at a time.  To specify
1597 @emph{which} of these codes to use, invoke @kbd{M-x
1598 set-language-environment} and specify a suitable language environment
1599 such as @samp{Latin-@var{n}}.
1601   For more information about unibyte operation, see
1602 @ref{Disabling Multibyte}.
1604 @vindex unibyte-display-via-language-environment
1605   Emacs can also display bytes in the range 160 to 255 as readable
1606 characters, provided the terminal or font in use supports them.  This
1607 works automatically.  On a graphical display, Emacs can also display
1608 single-byte characters through fontsets, in effect by displaying the
1609 equivalent multibyte characters according to the current language
1610 environment.  To request this, set the variable
1611 @code{unibyte-display-via-language-environment} to a non-@code{nil}
1612 value.  Note that setting this only affects how these bytes are
1613 displayed, but does not change the fundamental fact that Emacs treats
1614 them as raw bytes, not as characters.
1616 @cindex @code{iso-ascii} library
1617   If your terminal does not support display of the Latin-1 character
1618 set, Emacs can display these characters as @acronym{ASCII} sequences which at
1619 least give you a clear idea of what the characters are.  To do this,
1620 load the library @code{iso-ascii}.  Similar libraries for other
1621 Latin-@var{n} character sets could be implemented, but have not been
1622 so far.
1624 @findex standard-display-8bit
1625 @cindex 8-bit display
1626   Normally non-ISO-8859 characters (decimal codes between 128 and 159
1627 inclusive) are displayed as octal escapes.  You can change this for
1628 non-standard ``extended'' versions of ISO-8859 character sets by using the
1629 function @code{standard-display-8bit} in the @code{disp-table} library.
1631   There are two ways to input single-byte non-@acronym{ASCII}
1632 characters:
1634 @itemize @bullet
1635 @cindex 8-bit input
1636 @item
1637 You can use an input method for the selected language environment.
1638 @xref{Input Methods}.  When you use an input method in a unibyte buffer,
1639 the non-@acronym{ASCII} character you specify with it is converted to unibyte.
1641 @item
1642 If your keyboard can generate character codes 128 (decimal) and up,
1643 representing non-@acronym{ASCII} characters, you can type those character codes
1644 directly.
1646 On a graphical display, you should not need to do anything special to
1647 use these keys; they should simply work.  On a text terminal, you
1648 should use the command @code{M-x set-keyboard-coding-system} or customize the
1649 variable @code{keyboard-coding-system} to specify which coding system
1650 your keyboard uses (@pxref{Terminal Coding}).  Enabling this feature
1651 will probably require you to use @kbd{ESC} to type Meta characters;
1652 however, on a console terminal or in @code{xterm}, you can arrange for
1653 Meta to be converted to @kbd{ESC} and still be able type 8-bit
1654 characters present directly on the keyboard or using @kbd{Compose} or
1655 @kbd{AltGr} keys.  @xref{User Input}.
1657 @kindex C-x 8
1658 @cindex @code{iso-transl} library
1659 @cindex compose character
1660 @cindex dead character
1661 @item
1662 For Latin-1 only, you can use the key @kbd{C-x 8} as a ``compose
1663 character'' prefix for entry of non-@acronym{ASCII} Latin-1 printing
1664 characters.  @kbd{C-x 8} is good for insertion (in the minibuffer as
1665 well as other buffers), for searching, and in any other context where
1666 a key sequence is allowed.
1668 @kbd{C-x 8} works by loading the @code{iso-transl} library.  Once that
1669 library is loaded, the @key{ALT} modifier key, if the keyboard has
1670 one, serves the same purpose as @kbd{C-x 8}: use @key{ALT} together
1671 with an accent character to modify the following letter.  In addition,
1672 if the keyboard has keys for the Latin-1 ``dead accent characters'',
1673 they too are defined to compose with the following character, once
1674 @code{iso-transl} is loaded.
1676 Use @kbd{C-x 8 C-h} to list all the available @kbd{C-x 8} translations.
1677 @end itemize
1679 @node Charsets
1680 @section Charsets
1681 @cindex charsets
1683   In Emacs, @dfn{charset} is short for ``character set''.  Emacs
1684 supports most popular charsets (such as @code{ascii},
1685 @code{iso-8859-1}, @code{cp1250}, @code{big5}, and @code{unicode}), in
1686 addition to some charsets of its own (such as @code{emacs},
1687 @code{unicode-bmp}, and @code{eight-bit}).  All supported characters
1688 belong to one or more charsets.
1690   Emacs normally ``does the right thing'' with respect to charsets, so
1691 that you don't have to worry about them.  However, it is sometimes
1692 helpful to know some of the underlying details about charsets.
1694   One example is font selection (@pxref{Fonts}).  Each language
1695 environment (@pxref{Language Environments}) defines a ``priority
1696 list'' for the various charsets.  When searching for a font, Emacs
1697 initially attempts to find one that can display the highest-priority
1698 charsets.  For instance, in the Japanese language environment, the
1699 charset @code{japanese-jisx0208} has the highest priority, so Emacs
1700 tries to use a font whose @code{registry} property is
1701 @samp{JISX0208.1983-0}.
1703 @findex list-charset-chars
1704 @cindex characters in a certain charset
1705 @findex describe-character-set
1706   There are two commands that can be used to obtain information about
1707 charsets.  The command @kbd{M-x list-charset-chars} prompts for a
1708 charset name, and displays all the characters in that character set.
1709 The command @kbd{M-x describe-character-set} prompts for a charset
1710 name, and displays information about that charset, including its
1711 internal representation within Emacs.
1713 @findex list-character-sets
1714   @kbd{M-x list-character-sets} displays a list of all supported
1715 charsets.  The list gives the names of charsets and additional
1716 information to identity each charset; see the
1717 @url{http://www.itscj.ipsj.or.jp/ISO-IR/, International Register of
1718 Coded Character Sets} for more details.  In this list,
1719 charsets are divided into two categories: @dfn{normal charsets} are
1720 listed first, followed by @dfn{supplementary charsets}.  A
1721 supplementary charset is one that is used to define another charset
1722 (as a parent or a subset), or to provide backward-compatibility for
1723 older Emacs versions.
1725   To find out which charset a character in the buffer belongs to, put
1726 point before it and type @kbd{C-u C-x =} (@pxref{International
1727 Chars}).
1729 @node Bidirectional Editing
1730 @section Bidirectional Editing
1731 @cindex bidirectional editing
1732 @cindex right-to-left text
1734   Emacs supports editing text written in scripts, such as Arabic and
1735 Hebrew, whose natural ordering of horizontal text for display is from
1736 right to left.  However, digits and Latin text embedded in these
1737 scripts are still displayed left to right.  It is also not uncommon to
1738 have small portions of text in Arabic or Hebrew embedded in an otherwise
1739 Latin document; e.g., as comments and strings in a program source
1740 file.  For these reasons, text that uses these scripts is actually
1741 @dfn{bidirectional}: a mixture of runs of left-to-right and
1742 right-to-left characters.
1744   This section describes the facilities and options provided by Emacs
1745 for editing bidirectional text.
1747 @cindex logical order
1748 @cindex visual order
1749   Emacs stores right-to-left and bidirectional text in the so-called
1750 @dfn{logical} (or @dfn{reading}) order: the buffer or string position
1751 of the first character you read precedes that of the next character.
1752 Reordering of bidirectional text into the @dfn{visual} order happens
1753 at display time.  As result, character positions no longer increase
1754 monotonically with their positions on display.  Emacs implements the
1755 Unicode Bidirectional Algorithm described in the Unicode Standard
1756 Annex #9, for reordering of bidirectional text for display.
1758 @vindex bidi-display-reordering
1759   The buffer-local variable @code{bidi-display-reordering} controls
1760 whether text in the buffer is reordered for display.  If its value is
1761 non-@code{nil}, Emacs reorders characters that have right-to-left
1762 directionality when they are displayed.  The default value is
1763 @code{t}.
1765 @cindex base direction of paragraphs
1766 @cindex paragraph, base direction
1767   Each paragraph of bidirectional text can have its own @dfn{base
1768 direction}, either right-to-left or left-to-right.  (Paragraph
1769 @c paragraph-separate etc have no influence on this?
1770 boundaries are empty lines, i.e., lines consisting entirely of
1771 whitespace characters.)  Text in left-to-right paragraphs begins on
1772 the screen at the left margin of the window and is truncated or
1773 continued when it reaches the right margin.  By contrast, text in
1774 right-to-left paragraphs is displayed starting at the right margin and
1775 is continued or truncated at the left margin.
1777 @vindex bidi-paragraph-direction
1778   Emacs determines the base direction of each paragraph dynamically,
1779 based on the text at the beginning of the paragraph.  However,
1780 sometimes a buffer may need to force a certain base direction for its
1781 paragraphs.  The variable @code{bidi-paragraph-direction}, if
1782 non-@code{nil}, disables the dynamic determination of the base
1783 direction, and instead forces all paragraphs in the buffer to have the
1784 direction specified by its buffer-local value.  The value can be either
1785 @code{right-to-left} or @code{left-to-right}.  Any other value is
1786 interpreted as @code{nil}.
1788 @cindex LRM
1789 @cindex RLM
1790   Alternatively, you can control the base direction of a paragraph by
1791 inserting special formatting characters in front of the paragraph.
1792 The special character @code{RIGHT-TO-LEFT MARK}, or @sc{rlm}, forces
1793 the right-to-left direction on the following paragraph, while
1794 @code{LEFT-TO-RIGHT MARK}, or @sc{lrm} forces the left-to-right
1795 direction.  (You can use @kbd{C-x 8 RET} to insert these characters.)
1796 In a GUI session, the @sc{lrm} and @sc{rlm} characters display as very
1797 thin blank characters; on text terminals they display as blanks.
1799   Because characters are reordered for display, Emacs commands that
1800 operate in the logical order or on stretches of buffer positions may
1801 produce unusual effects.  For example, @kbd{C-f} and @kbd{C-b}
1802 commands move point in the logical order, so the cursor will sometimes
1803 jump when point traverses reordered bidirectional text.  Similarly, a
1804 highlighted region covering a contiguous range of character positions
1805 may look discontinuous if the region spans reordered text.  This is
1806 normal and similar to the behavior of other programs that support
1807 bidirectional text.