xfns.c (set_machine_and_pid_properties): Fix parantesis
[emacs.git] / doc / lispref / processes.texi
blob85628bdfac6af85130dfbe5d16387f512ce5fc94
1 @c -*-texinfo-*-
2 @c This is part of the GNU Emacs Lisp Reference Manual.
3 @c Copyright (C) 1990, 1991, 1992, 1993, 1994, 1995, 1998, 1999, 2001,
4 @c   2002, 2003, 2004, 2005, 2006, 2007, 2008, 2009, 2010  Free Software Foundation, Inc.
5 @c See the file elisp.texi for copying conditions.
6 @setfilename ../../info/processes
7 @node Processes, Display, Abbrevs, Top
8 @chapter Processes
9 @cindex child process
10 @cindex parent process
11 @cindex subprocess
12 @cindex process
14   In the terminology of operating systems, a @dfn{process} is a space in
15 which a program can execute.  Emacs runs in a process.  Emacs Lisp
16 programs can invoke other programs in processes of their own.  These are
17 called @dfn{subprocesses} or @dfn{child processes} of the Emacs process,
18 which is their @dfn{parent process}.
20   A subprocess of Emacs may be @dfn{synchronous} or @dfn{asynchronous},
21 depending on how it is created.  When you create a synchronous
22 subprocess, the Lisp program waits for the subprocess to terminate
23 before continuing execution.  When you create an asynchronous
24 subprocess, it can run in parallel with the Lisp program.  This kind of
25 subprocess is represented within Emacs by a Lisp object which is also
26 called a ``process.''  Lisp programs can use this object to communicate
27 with the subprocess or to control it.  For example, you can send
28 signals, obtain status information, receive output from the process, or
29 send input to it.
31 @defun processp object
32 This function returns @code{t} if @var{object} represents an Emacs
33 subprocess, @code{nil} otherwise.
34 @end defun
36   In addition to subprocesses of the current Emacs session, you can
37 also access other processes running on your machine.  @xref{System
38 Processes}.
40 @menu
41 * Subprocess Creation::      Functions that start subprocesses.
42 * Shell Arguments::          Quoting an argument to pass it to a shell.
43 * Synchronous Processes::    Details of using synchronous subprocesses.
44 * Asynchronous Processes::   Starting up an asynchronous subprocess.
45 * Deleting Processes::       Eliminating an asynchronous subprocess.
46 * Process Information::      Accessing run-status and other attributes.
47 * Input to Processes::       Sending input to an asynchronous subprocess.
48 * Signals to Processes::     Stopping, continuing or interrupting
49                                an asynchronous subprocess.
50 * Output from Processes::    Collecting output from an asynchronous subprocess.
51 * Sentinels::                Sentinels run when process run-status changes.
52 * Query Before Exit::        Whether to query if exiting will kill a process.
53 * System Processes::         Accessing other processes running on your system.
54 * Transaction Queues::       Transaction-based communication with subprocesses.
55 * Network::                  Opening network connections.
56 * Network Servers::          Network servers let Emacs accept net connections.
57 * Datagrams::                UDP network connections.
58 * Low-Level Network::        Lower-level but more general function
59                                to create connections and servers.
60 * Misc Network::             Additional relevant functions for network connections.
61 * Serial Ports::             Communicating with serial ports.
62 * Byte Packing::             Using bindat to pack and unpack binary data.
63 @end menu
65 @node Subprocess Creation
66 @section Functions that Create Subprocesses
68   There are three primitives that create a new subprocess in which to run
69 a program.  One of them, @code{start-process}, creates an asynchronous
70 process and returns a process object (@pxref{Asynchronous Processes}).
71 The other two, @code{call-process} and @code{call-process-region},
72 create a synchronous process and do not return a process object
73 (@pxref{Synchronous Processes}).
75   Synchronous and asynchronous processes are explained in the following
76 sections.  Since the three functions are all called in a similar
77 fashion, their common arguments are described here.
79 @cindex execute program
80 @cindex @code{PATH} environment variable
81 @cindex @code{HOME} environment variable
82   In all cases, the function's @var{program} argument specifies the
83 program to be run.  An error is signaled if the file is not found or
84 cannot be executed.  If the file name is relative, the variable
85 @code{exec-path} contains a list of directories to search.  Emacs
86 initializes @code{exec-path} when it starts up, based on the value of
87 the environment variable @code{PATH}.  The standard file name
88 constructs, @samp{~}, @samp{.}, and @samp{..}, are interpreted as
89 usual in @code{exec-path}, but environment variable substitutions
90 (@samp{$HOME}, etc.) are not recognized; use
91 @code{substitute-in-file-name} to perform them (@pxref{File Name
92 Expansion}).  @code{nil} in this list refers to
93 @code{default-directory}.
95   Executing a program can also try adding suffixes to the specified
96 name:
98 @defvar exec-suffixes
99 This variable is a list of suffixes (strings) to try adding to the
100 specified program file name.  The list should include @code{""} if you
101 want the name to be tried exactly as specified.  The default value is
102 system-dependent.
103 @end defvar
105   @strong{Please note:} The argument @var{program} contains only the
106 name of the program; it may not contain any command-line arguments.  You
107 must use @var{args} to provide those.
109   Each of the subprocess-creating functions has a @var{buffer-or-name}
110 argument which specifies where the standard output from the program will
111 go.  It should be a buffer or a buffer name; if it is a buffer name,
112 that will create the buffer if it does not already exist.  It can also
113 be @code{nil}, which says to discard the output unless a filter function
114 handles it.  (@xref{Filter Functions}, and @ref{Read and Print}.)
115 Normally, you should avoid having multiple processes send output to the
116 same buffer because their output would be intermixed randomly.
118 @cindex program arguments
119   All three of the subprocess-creating functions have a @code{&rest}
120 argument, @var{args}.  The @var{args} must all be strings, and they are
121 supplied to @var{program} as separate command line arguments.  Wildcard
122 characters and other shell constructs have no special meanings in these
123 strings, since the strings are passed directly to the specified program.
125   The subprocess gets its current directory from the value of
126 @code{default-directory} (@pxref{File Name Expansion}).
128 @cindex environment variables, subprocesses
129   The subprocess inherits its environment from Emacs, but you can
130 specify overrides for it with @code{process-environment}.  @xref{System
131 Environment}.
133 @defvar exec-directory
134 @pindex movemail
135 The value of this variable is a string, the name of a directory that
136 contains programs that come with GNU Emacs, programs intended for Emacs
137 to invoke.  The program @code{movemail} is an example of such a program;
138 Rmail uses it to fetch new mail from an inbox.
139 @end defvar
141 @defopt exec-path
142 The value of this variable is a list of directories to search for
143 programs to run in subprocesses.  Each element is either the name of a
144 directory (i.e., a string), or @code{nil}, which stands for the default
145 directory (which is the value of @code{default-directory}).
146 @cindex program directories
148 The value of @code{exec-path} is used by @code{call-process} and
149 @code{start-process} when the @var{program} argument is not an absolute
150 file name.
151 @end defopt
153 @node Shell Arguments
154 @section Shell Arguments
155 @cindex arguments for shell commands
156 @cindex shell command arguments
158   Lisp programs sometimes need to run a shell and give it a command
159 that contains file names that were specified by the user.  These
160 programs ought to be able to support any valid file name.  But the shell
161 gives special treatment to certain characters, and if these characters
162 occur in the file name, they will confuse the shell.  To handle these
163 characters, use the function @code{shell-quote-argument}:
165 @defun shell-quote-argument argument
166 This function returns a string which represents, in shell syntax,
167 an argument whose actual contents are @var{argument}.  It should
168 work reliably to concatenate the return value into a shell command
169 and then pass it to a shell for execution.
171 Precisely what this function does depends on your operating system.  The
172 function is designed to work with the syntax of your system's standard
173 shell; if you use an unusual shell, you will need to redefine this
174 function.
176 @example
177 ;; @r{This example shows the behavior on GNU and Unix systems.}
178 (shell-quote-argument "foo > bar")
179      @result{} "foo\\ \\>\\ bar"
181 ;; @r{This example shows the behavior on MS-DOS and MS-Windows.}
182 (shell-quote-argument "foo > bar")
183      @result{} "\"foo > bar\""
184 @end example
186 Here's an example of using @code{shell-quote-argument} to construct
187 a shell command:
189 @example
190 (concat "diff -c "
191         (shell-quote-argument oldfile)
192         " "
193         (shell-quote-argument newfile))
194 @end example
195 @end defun
197 @cindex quoting and unquoting shell command line
198   The following two functions are useful for creating shell commands
199 from individual argument strings, and taking shell command lines apart
200 into individual arguments.
202 @defun split-string-and-unquote string &optional separators
203 This function splits @var{string} into substrings at matches for the
204 regular expression @var{separators}, like @code{split-string} does
205 (@pxref{Creating Strings}); in addition, it removes quoting from the
206 substrings.  It then makes a list of the substrings and returns it.
208 If @var{separators} is omitted or @code{nil}, it defaults to
209 @code{"\\s-+"}, which is a regular expression that matches one or more
210 characters with whitespace syntax (@pxref{Syntax Class Table}).
212 This function performs two types of quoting: enclosing a whole string
213 in double quotes @code{"@dots{}"}, and quoting individual characters
214 with a backslash escape @samp{\}.  The latter is also used in Lisp
215 strings, so this function can handle those as well.
216 @end defun
218 @defun combine-and-quote-strings list-of-strings &optional separator
219 This function concatenates @var{list-of-strings} into a single string,
220 quoting each string as necessary.  It also sticks the @var{separator}
221 string between each pair of strings; if @var{separator} is omitted or
222 @code{nil}, it defaults to @code{" "}.  The return value is the
223 resulting string.
225 The strings in @var{list-of-strings} that need quoting are those that
226 include @var{separator} as their substring.  Quoting a string encloses
227 it in double quotes @code{"@dots{}"}.  In the simplest case, if you
228 are consing a shell command from the individual command-line
229 arguments, every argument that includes embedded blanks will be
230 quoted.
231 @end defun
233 @node Synchronous Processes
234 @section Creating a Synchronous Process
235 @cindex synchronous subprocess
237   After a @dfn{synchronous process} is created, Emacs waits for the
238 process to terminate before continuing.  Starting Dired on GNU or
239 Unix@footnote{On other systems, Emacs uses a Lisp emulation of
240 @code{ls}; see @ref{Contents of Directories}.} is an example of this: it
241 runs @code{ls} in a synchronous process, then modifies the output
242 slightly.  Because the process is synchronous, the entire directory
243 listing arrives in the buffer before Emacs tries to do anything with it.
245   While Emacs waits for the synchronous subprocess to terminate, the
246 user can quit by typing @kbd{C-g}.  The first @kbd{C-g} tries to kill
247 the subprocess with a @code{SIGINT} signal; but it waits until the
248 subprocess actually terminates before quitting.  If during that time the
249 user types another @kbd{C-g}, that kills the subprocess instantly with
250 @code{SIGKILL} and quits immediately (except on MS-DOS, where killing
251 other processes doesn't work).  @xref{Quitting}.
253   The synchronous subprocess functions return an indication of how the
254 process terminated.
256   The output from a synchronous subprocess is generally decoded using a
257 coding system, much like text read from a file.  The input sent to a
258 subprocess by @code{call-process-region} is encoded using a coding
259 system, much like text written into a file.  @xref{Coding Systems}.
261 @defun call-process program &optional infile destination display &rest args
262 This function calls @var{program} in a separate process and waits for
263 it to finish.
265 The standard input for the process comes from file @var{infile} if
266 @var{infile} is not @code{nil}, and from the null device otherwise.
267 The argument @var{destination} says where to put the process output.
268 Here are the possibilities:
270 @table @asis
271 @item a buffer
272 Insert the output in that buffer, before point.  This includes both the
273 standard output stream and the standard error stream of the process.
275 @item a string
276 Insert the output in a buffer with that name, before point.
278 @item @code{t}
279 Insert the output in the current buffer, before point.
281 @item @code{nil}
282 Discard the output.
284 @item 0
285 Discard the output, and return @code{nil} immediately without waiting
286 for the subprocess to finish.
288 In this case, the process is not truly synchronous, since it can run in
289 parallel with Emacs; but you can think of it as synchronous in that
290 Emacs is essentially finished with the subprocess as soon as this
291 function returns.
293 MS-DOS doesn't support asynchronous subprocesses, so this option doesn't
294 work there.
296 @item @code{(@var{real-destination} @var{error-destination})}
297 Keep the standard output stream separate from the standard error stream;
298 deal with the ordinary output as specified by @var{real-destination},
299 and dispose of the error output according to @var{error-destination}.
300 If @var{error-destination} is @code{nil}, that means to discard the
301 error output, @code{t} means mix it with the ordinary output, and a
302 string specifies a file name to redirect error output into.
304 You can't directly specify a buffer to put the error output in; that is
305 too difficult to implement.  But you can achieve this result by sending
306 the error output to a temporary file and then inserting the file into a
307 buffer.
308 @end table
310 If @var{display} is non-@code{nil}, then @code{call-process} redisplays
311 the buffer as output is inserted.  (However, if the coding system chosen
312 for decoding output is @code{undecided}, meaning deduce the encoding
313 from the actual data, then redisplay sometimes cannot continue once
314 non-@acronym{ASCII} characters are encountered.  There are fundamental
315 reasons why it is hard to fix this; see @ref{Output from Processes}.)
317 Otherwise the function @code{call-process} does no redisplay, and the
318 results become visible on the screen only when Emacs redisplays that
319 buffer in the normal course of events.
321 The remaining arguments, @var{args}, are strings that specify command
322 line arguments for the program.
324 The value returned by @code{call-process} (unless you told it not to
325 wait) indicates the reason for process termination.  A number gives the
326 exit status of the subprocess; 0 means success, and any other value
327 means failure.  If the process terminated with a signal,
328 @code{call-process} returns a string describing the signal.
330 In the examples below, the buffer @samp{foo} is current.
332 @smallexample
333 @group
334 (call-process "pwd" nil t)
335      @result{} 0
337 ---------- Buffer: foo ----------
338 /usr/user/lewis/manual
339 ---------- Buffer: foo ----------
340 @end group
342 @group
343 (call-process "grep" nil "bar" nil "lewis" "/etc/passwd")
344      @result{} 0
346 ---------- Buffer: bar ----------
347 lewis:5LTsHm66CSWKg:398:21:Bil Lewis:/user/lewis:/bin/csh
349 ---------- Buffer: bar ----------
350 @end group
351 @end smallexample
353 Here is a good example of the use of @code{call-process}, which used to
354 be found in the definition of @code{insert-directory}:
356 @smallexample
357 @group
358 (call-process insert-directory-program nil t nil @var{switches}
359               (if full-directory-p
360                   (concat (file-name-as-directory file) ".")
361                 file))
362 @end group
363 @end smallexample
364 @end defun
366 @defun process-file program &optional infile buffer display &rest args
367 This function processes files synchronously in a separate process.  It
368 is similar to @code{call-process} but may invoke a file handler based
369 on the value of the variable @code{default-directory}.  The current
370 working directory of the subprocess is @code{default-directory}.
372 The arguments are handled in almost the same way as for
373 @code{call-process}, with the following differences:
375 Some file handlers may not support all combinations and forms of the
376 arguments @var{infile}, @var{buffer}, and @var{display}.  For example,
377 some file handlers might behave as if @var{display} were @code{nil},
378 regardless of the value actually passed.  As another example, some
379 file handlers might not support separating standard output and error
380 output by way of the @var{buffer} argument.
382 If a file handler is invoked, it determines the program to run based
383 on the first argument @var{program}.  For instance, consider that a
384 handler for remote files is invoked.  Then the path that is used for
385 searching the program might be different than @code{exec-path}.
387 The second argument @var{infile} may invoke a file handler.  The file
388 handler could be different from the handler chosen for the
389 @code{process-file} function itself.  (For example,
390 @code{default-directory} could be on a remote host, whereas
391 @var{infile} is on another remote host.  Or @code{default-directory}
392 could be non-special, whereas @var{infile} is on a remote host.)
394 If @var{buffer} is a list of the form @code{(@var{real-destination}
395 @var{error-destination})}, and @var{error-destination} names a file,
396 then the same remarks as for @var{infile} apply.
398 The remaining arguments (@var{args}) will be passed to the process
399 verbatim.  Emacs is not involved in processing file names that are
400 present in @var{args}.  To avoid confusion, it may be best to avoid
401 absolute file names in @var{args}, but rather to specify all file
402 names as relative to @code{default-directory}.  The function
403 @code{file-relative-name} is useful for constructing such relative
404 file names.
405 @end defun
407 @defvar process-file-side-effects
408 This variable indicates, whether a call of @code{process-file} changes
409 remote files.
411 Per default, this variable is always set to @code{t}, meaning that a
412 call of @code{process-file} could potentially change any file on a
413 remote host.  When set to @code{nil}, a file handler could optimize
414 its behaviour with respect to remote file attributes caching.
416 This variable should never be changed by @code{setq}.  Instead of, it
417 shall be set only by let-binding.
418 @end defvar
420 @defun call-process-region start end program &optional delete destination display &rest args
421 This function sends the text from @var{start} to @var{end} as
422 standard input to a process running @var{program}.  It deletes the text
423 sent if @var{delete} is non-@code{nil}; this is useful when
424 @var{destination} is @code{t}, to insert the output in the current
425 buffer in place of the input.
427 The arguments @var{destination} and @var{display} control what to do
428 with the output from the subprocess, and whether to update the display
429 as it comes in.  For details, see the description of
430 @code{call-process}, above.  If @var{destination} is the integer 0,
431 @code{call-process-region} discards the output and returns @code{nil}
432 immediately, without waiting for the subprocess to finish (this only
433 works if asynchronous subprocesses are supported).
435 The remaining arguments, @var{args}, are strings that specify command
436 line arguments for the program.
438 The return value of @code{call-process-region} is just like that of
439 @code{call-process}: @code{nil} if you told it to return without
440 waiting; otherwise, a number or string which indicates how the
441 subprocess terminated.
443 In the following example, we use @code{call-process-region} to run the
444 @code{cat} utility, with standard input being the first five characters
445 in buffer @samp{foo} (the word @samp{input}).  @code{cat} copies its
446 standard input into its standard output.  Since the argument
447 @var{destination} is @code{t}, this output is inserted in the current
448 buffer.
450 @smallexample
451 @group
452 ---------- Buffer: foo ----------
453 input@point{}
454 ---------- Buffer: foo ----------
455 @end group
457 @group
458 (call-process-region 1 6 "cat" nil t)
459      @result{} 0
461 ---------- Buffer: foo ----------
462 inputinput@point{}
463 ---------- Buffer: foo ----------
464 @end group
465 @end smallexample
467   The @code{shell-command-on-region} command uses
468 @code{call-process-region} like this:
470 @smallexample
471 @group
472 (call-process-region
473  start end
474  shell-file-name      ; @r{Name of program.}
475  nil                  ; @r{Do not delete region.}
476  buffer               ; @r{Send output to @code{buffer}.}
477  nil                  ; @r{No redisplay during output.}
478  "-c" command)        ; @r{Arguments for the shell.}
479 @end group
480 @end smallexample
481 @end defun
483 @defun call-process-shell-command command &optional infile destination display &rest args
484 This function executes the shell command @var{command} synchronously
485 in a separate process.  The final arguments @var{args} are additional
486 arguments to add at the end of @var{command}.  The other arguments
487 are handled as in @code{call-process}.
488 @end defun
490 @defun process-file-shell-command command &optional infile destination display &rest args
491 This function is like @code{call-process-shell-command}, but uses
492 @code{process-file} internally.  Depending on @code{default-directory},
493 @var{command} can be executed also on remote hosts.
494 @end defun
496 @defun shell-command-to-string command
497 This function executes @var{command} (a string) as a shell command,
498 then returns the command's output as a string.
499 @end defun
501 @defun process-lines program &rest args
502 This function runs @var{program} in a separate process, waits for it
503 to finish, and returns its output as a list of strings.  Each string
504 in the list holds a single line of text output by the program; the
505 end-of-line characters are stripped from each line.  The arguments
506 beyond @var{program}, @var{args}, are strings that specify
507 command-line arguments with which to run the program.
509 If @var{program} exits with a non-zero exit status, this function
510 signals an error.
512 This function works by calling @code{call-process}, so program output
513 is decoded in the same way as for @code{call-process}.
514 @end defun
516 @node Asynchronous Processes
517 @section Creating an Asynchronous Process
518 @cindex asynchronous subprocess
520   After an @dfn{asynchronous process} is created, Emacs and the subprocess
521 both continue running immediately.  The process thereafter runs
522 in parallel with Emacs, and the two can communicate with each other
523 using the functions described in the following sections.  However,
524 communication is only partially asynchronous: Emacs sends data to the
525 process only when certain functions are called, and Emacs accepts data
526 from the process only when Emacs is waiting for input or for a time
527 delay.
529   Here we describe how to create an asynchronous process.
531 @defun start-process name buffer-or-name program &rest args
532 This function creates a new asynchronous subprocess and starts the
533 program @var{program} running in it.  It returns a process object that
534 stands for the new subprocess in Lisp.  The argument @var{name}
535 specifies the name for the process object; if a process with this name
536 already exists, then @var{name} is modified (by appending @samp{<1>},
537 etc.) to be unique.  The buffer @var{buffer-or-name} is the buffer to
538 associate with the process.
540 The remaining arguments, @var{args}, are strings that specify command
541 line arguments for the program.
543 In the example below, the first process is started and runs (rather,
544 sleeps) for 100 seconds.  Meanwhile, the second process is started, and
545 given the name @samp{my-process<1>} for the sake of uniqueness.  It
546 inserts the directory listing at the end of the buffer @samp{foo},
547 before the first process finishes.  Then it finishes, and a message to
548 that effect is inserted in the buffer.  Much later, the first process
549 finishes, and another message is inserted in the buffer for it.
551 @smallexample
552 @group
553 (start-process "my-process" "foo" "sleep" "100")
554      @result{} #<process my-process>
555 @end group
557 @group
558 (start-process "my-process" "foo" "ls" "-l" "/user/lewis/bin")
559      @result{} #<process my-process<1>>
561 ---------- Buffer: foo ----------
562 total 2
563 lrwxrwxrwx  1 lewis     14 Jul 22 10:12 gnuemacs --> /emacs
564 -rwxrwxrwx  1 lewis     19 Jul 30 21:02 lemon
566 Process my-process<1> finished
568 Process my-process finished
569 ---------- Buffer: foo ----------
570 @end group
571 @end smallexample
572 @end defun
574 @defun start-file-process name buffer-or-name program &rest args
575 Like @code{start-process}, this function starts a new asynchronous
576 subprocess running @var{program} in it, and returns its process
577 object---when @code{default-directory} is not a magic file name.
579 If @code{default-directory} is magic, the function invokes its file
580 handler instead.  This handler ought to run @var{program}, perhaps on
581 the local host, perhaps on a remote host that corresponds to
582 @code{default-directory}.  In the latter case, the local part of
583 @code{default-directory} becomes the working directory of the process.
585 This function does not try to invoke file name handlers for
586 @var{program} or for the @var{program-args}.
588 Depending on the implementation of the file handler, it might not be
589 possible to apply @code{process-filter} or @code{process-sentinel} to
590 the resulting process object (@pxref{Filter Functions}, @pxref{Sentinels}).
592 Some file handlers may not support @code{start-file-process} (for
593 example @code{ange-ftp-hook-function}).  In such cases, the function
594 does nothing and returns @code{nil}.
595 @end defun
597 @defun start-process-shell-command name buffer-or-name command
598 This function is like @code{start-process} except that it uses a shell
599 to execute the specified command.  The argument @var{command} is a shell
600 command name.  The variable @code{shell-file-name} specifies which shell to
601 use.
603 The point of running a program through the shell, rather than directly
604 with @code{start-process}, is so that you can employ shell features such
605 as wildcards in the arguments.  It follows that if you include an
606 arbitrary user-specified arguments in the command, you should quote it
607 with @code{shell-quote-argument} first, so that any special shell
608 characters do @emph{not} have their special shell meanings.  @xref{Shell
609 Arguments}.
610 @end defun
612 @defun start-file-process-shell-command name buffer-or-name command
613 This function is like @code{start-process-shell-command}, but uses
614 @code{start-file-process} internally.  By this, @var{command} can be
615 executed also on remote hosts, depending on @code{default-directory}.
616 @end defun
618 @defvar process-connection-type
619 @cindex pipes
620 @cindex @acronym{PTY}s
621 This variable controls the type of device used to communicate with
622 asynchronous subprocesses.  If it is non-@code{nil}, then @acronym{PTY}s are
623 used, when available.  Otherwise, pipes are used.
625 @acronym{PTY}s are usually preferable for processes visible to the user, as
626 in Shell mode, because they allow job control (@kbd{C-c}, @kbd{C-z},
627 etc.) to work between the process and its children, whereas pipes do
628 not.  For subprocesses used for internal purposes by programs, it is
629 often better to use a pipe, because they are more efficient.  In
630 addition, the total number of @acronym{PTY}s is limited on many systems and
631 it is good not to waste them.
633 The value of @code{process-connection-type} takes effect when
634 @code{start-process} is called.  So you can specify how to communicate
635 with one subprocess by binding the variable around the call to
636 @code{start-process}.
638 @smallexample
639 @group
640 (let ((process-connection-type nil))  ; @r{Use a pipe.}
641   (start-process @dots{}))
642 @end group
643 @end smallexample
645 To determine whether a given subprocess actually got a pipe or a
646 @acronym{PTY}, use the function @code{process-tty-name} (@pxref{Process
647 Information}).
648 @end defvar
650 @node Deleting Processes
651 @section Deleting Processes
652 @cindex deleting processes
654   @dfn{Deleting a process} disconnects Emacs immediately from the
655 subprocess.  Processes are deleted automatically after they terminate,
656 but not necessarily right away.  You can delete a process explicitly
657 at any time.  If you delete a terminated process explicitly before it
658 is deleted automatically, no harm results.  Deleting a running
659 process sends a signal to terminate it (and its child processes if
660 any), and calls the process sentinel if it has one.  @xref{Sentinels}.
662   When a process is deleted, the process object itself continues to
663 exist as long as other Lisp objects point to it.  All the Lisp
664 primitives that work on process objects accept deleted processes, but
665 those that do I/O or send signals will report an error.  The process
666 mark continues to point to the same place as before, usually into a
667 buffer where output from the process was being inserted.
669 @defopt delete-exited-processes
670 This variable controls automatic deletion of processes that have
671 terminated (due to calling @code{exit} or to a signal).  If it is
672 @code{nil}, then they continue to exist until the user runs
673 @code{list-processes}.  Otherwise, they are deleted immediately after
674 they exit.
675 @end defopt
677 @defun delete-process process
678 This function deletes a process, killing it with a @code{SIGKILL}
679 signal.  The argument may be a process, the name of a process, a
680 buffer, or the name of a buffer.  (A buffer or buffer-name stands for
681 the process that @code{get-buffer-process} returns.)  Calling
682 @code{delete-process} on a running process terminates it, updates the
683 process status, and runs the sentinel (if any) immediately.  If the
684 process has already terminated, calling @code{delete-process} has no
685 effect on its status, or on the running of its sentinel (which will
686 happen sooner or later).
688 @smallexample
689 @group
690 (delete-process "*shell*")
691      @result{} nil
692 @end group
693 @end smallexample
694 @end defun
696 @node Process Information
697 @section Process Information
699   Several functions return information about processes.
700 @code{list-processes} is provided for interactive use.
702 @deffn Command list-processes &optional query-only
703 This command displays a listing of all living processes.  In addition,
704 it finally deletes any process whose status was @samp{Exited} or
705 @samp{Signaled}.  It returns @code{nil}.
707 If @var{query-only} is non-@code{nil} then it lists only processes
708 whose query flag is non-@code{nil}.  @xref{Query Before Exit}.
709 @end deffn
711 @defun process-list
712 This function returns a list of all processes that have not been deleted.
714 @smallexample
715 @group
716 (process-list)
717      @result{} (#<process display-time> #<process shell>)
718 @end group
719 @end smallexample
720 @end defun
722 @defun get-process name
723 This function returns the process named @var{name}, or @code{nil} if
724 there is none.  An error is signaled if @var{name} is not a string.
726 @smallexample
727 @group
728 (get-process "shell")
729      @result{} #<process shell>
730 @end group
731 @end smallexample
732 @end defun
734 @defun process-command process
735 This function returns the command that was executed to start
736 @var{process}.  This is a list of strings, the first string being the
737 program executed and the rest of the strings being the arguments that
738 were given to the program.
740 @smallexample
741 @group
742 (process-command (get-process "shell"))
743      @result{} ("/bin/csh" "-i")
744 @end group
745 @end smallexample
746 @end defun
748 @defun process-contact process &optional key
750 This function returns information about how a network or serial
751 process was set up.  For a network process, when @var{key} is
752 @code{nil}, it returns @code{(@var{hostname} @var{service})} which
753 specifies what you connected to.  For a serial process, when @var{key}
754 is @code{nil}, it returns @code{(@var{port} @var{speed})}.  For an
755 ordinary child process, this function always returns @code{t}.
757 If @var{key} is @code{t}, the value is the complete status information
758 for the connection, server, or serial port; that is, the list of
759 keywords and values specified in @code{make-network-process} or
760 @code{make-serial-process}, except that some of the values represent
761 the current status instead of what you specified.
763 For a network process:
765 @table @code
766 @item :buffer
767 The associated value is the process buffer.
768 @item :filter
769 The associated value is the process filter function.
770 @item :sentinel
771 The associated value is the process sentinel function.
772 @item :remote
773 In a connection, the address in internal format of the remote peer.
774 @item :local
775 The local address, in internal format.
776 @item :service
777 In a server, if you specified @code{t} for @var{service},
778 this value is the actual port number.
779 @end table
781 @code{:local} and @code{:remote} are included even if they were not
782 specified explicitly in @code{make-network-process}.
784 For a serial process, see @code{make-serial-process} and
785 @code{serial-process-configure} for a list of keys.
787 If @var{key} is a keyword, the function returns the value corresponding
788 to that keyword.
789 @end defun
791 @defun process-id process
792 This function returns the @acronym{PID} of @var{process}.  This is an
793 integer that distinguishes the process @var{process} from all other
794 processes running on the same computer at the current time.  The
795 @acronym{PID} of a process is chosen by the operating system kernel when the
796 process is started and remains constant as long as the process exists.
797 @end defun
799 @defun process-name process
800 This function returns the name of @var{process}.
801 @end defun
803 @defun process-status process-name
804 This function returns the status of @var{process-name} as a symbol.
805 The argument @var{process-name} must be a process, a buffer, or a
806 process name (a string).
808 The possible values for an actual subprocess are:
810 @table @code
811 @item run
812 for a process that is running.
813 @item stop
814 for a process that is stopped but continuable.
815 @item exit
816 for a process that has exited.
817 @item signal
818 for a process that has received a fatal signal.
819 @item open
820 for a network connection that is open.
821 @item closed
822 for a network connection that is closed.  Once a connection
823 is closed, you cannot reopen it, though you might be able to open
824 a new connection to the same place.
825 @item connect
826 for a non-blocking connection that is waiting to complete.
827 @item failed
828 for a non-blocking connection that has failed to complete.
829 @item listen
830 for a network server that is listening.
831 @item nil
832 if @var{process-name} is not the name of an existing process.
833 @end table
835 @smallexample
836 @group
837 (process-status (get-buffer "*shell*"))
838      @result{} run
839 @end group
840 @group
842      @result{} #<process xx<1>>
843 (process-status x)
844      @result{} exit
845 @end group
846 @end smallexample
848 For a network connection, @code{process-status} returns one of the symbols
849 @code{open} or @code{closed}.  The latter means that the other side
850 closed the connection, or Emacs did @code{delete-process}.
851 @end defun
853 @defun process-type process
854 This function returns the symbol @code{network} for a network
855 connection or server, @code{serial} for a serial port connection, or
856 @code{real} for a real subprocess.
857 @end defun
859 @defun process-exit-status process
860 This function returns the exit status of @var{process} or the signal
861 number that killed it.  (Use the result of @code{process-status} to
862 determine which of those it is.)  If @var{process} has not yet
863 terminated, the value is 0.
864 @end defun
866 @defun process-tty-name process
867 This function returns the terminal name that @var{process} is using for
868 its communication with Emacs---or @code{nil} if it is using pipes
869 instead of a terminal (see @code{process-connection-type} in
870 @ref{Asynchronous Processes}).
871 @end defun
873 @defun process-coding-system process
874 @anchor{Coding systems for a subprocess}
875 This function returns a cons cell describing the coding systems in use
876 for decoding output from @var{process} and for encoding input to
877 @var{process} (@pxref{Coding Systems}).  The value has this form:
879 @example
880 (@var{coding-system-for-decoding} . @var{coding-system-for-encoding})
881 @end example
882 @end defun
884 @defun set-process-coding-system process &optional decoding-system encoding-system
885 This function specifies the coding systems to use for subsequent output
886 from and input to @var{process}.  It will use @var{decoding-system} to
887 decode subprocess output, and @var{encoding-system} to encode subprocess
888 input.
889 @end defun
891   Every process also has a property list that you can use to store
892 miscellaneous values associated with the process.
894 @defun process-get process propname
895 This function returns the value of the @var{propname} property
896 of @var{process}.
897 @end defun
899 @defun process-put process propname value
900 This function sets the value of the @var{propname} property
901 of @var{process} to @var{value}.
902 @end defun
904 @defun process-plist process
905 This function returns the process plist of @var{process}.
906 @end defun
908 @defun set-process-plist process plist
909 This function sets the process plist of @var{process} to @var{plist}.
910 @end defun
912 @node Input to Processes
913 @section Sending Input to Processes
914 @cindex process input
916   Asynchronous subprocesses receive input when it is sent to them by
917 Emacs, which is done with the functions in this section.  You must
918 specify the process to send input to, and the input data to send.  The
919 data appears on the ``standard input'' of the subprocess.
921   Some operating systems have limited space for buffered input in a
922 @acronym{PTY}.  On these systems, Emacs sends an @acronym{EOF}
923 periodically amidst the other characters, to force them through.  For
924 most programs, these @acronym{EOF}s do no harm.
926   Subprocess input is normally encoded using a coding system before the
927 subprocess receives it, much like text written into a file.  You can use
928 @code{set-process-coding-system} to specify which coding system to use
929 (@pxref{Process Information}).  Otherwise, the coding system comes from
930 @code{coding-system-for-write}, if that is non-@code{nil}; or else from
931 the defaulting mechanism (@pxref{Default Coding Systems}).
933   Sometimes the system is unable to accept input for that process,
934 because the input buffer is full.  When this happens, the send functions
935 wait a short while, accepting output from subprocesses, and then try
936 again.  This gives the subprocess a chance to read more of its pending
937 input and make space in the buffer.  It also allows filters, sentinels
938 and timers to run---so take account of that in writing your code.
940   In these functions, the @var{process} argument can be a process or
941 the name of a process, or a buffer or buffer name (which stands
942 for a process via @code{get-buffer-process}).  @code{nil} means
943 the current buffer's process.
945 @defun process-send-string process string
946 This function sends @var{process} the contents of @var{string} as
947 standard input.  If it is @code{nil}, the current buffer's process is used.
949   The function returns @code{nil}.
951 @smallexample
952 @group
953 (process-send-string "shell<1>" "ls\n")
954      @result{} nil
955 @end group
958 @group
959 ---------- Buffer: *shell* ----------
961 introduction.texi               syntax-tables.texi~
962 introduction.texi~              text.texi
963 introduction.txt                text.texi~
965 ---------- Buffer: *shell* ----------
966 @end group
967 @end smallexample
968 @end defun
970 @defun process-send-region process start end
971 This function sends the text in the region defined by @var{start} and
972 @var{end} as standard input to @var{process}.
974 An error is signaled unless both @var{start} and @var{end} are
975 integers or markers that indicate positions in the current buffer.  (It
976 is unimportant which number is larger.)
977 @end defun
979 @defun process-send-eof &optional process
980 This function makes @var{process} see an end-of-file in its
981 input.  The @acronym{EOF} comes after any text already sent to it.
983 The function returns @var{process}.
985 @smallexample
986 @group
987 (process-send-eof "shell")
988      @result{} "shell"
989 @end group
990 @end smallexample
991 @end defun
993 @defun process-running-child-p &optional process
994 This function will tell you whether a @var{process} has given control of
995 its terminal to its own child process.  The value is @code{t} if this is
996 true, or if Emacs cannot tell; it is @code{nil} if Emacs can be certain
997 that this is not so.
998 @end defun
1000 @node Signals to Processes
1001 @section Sending Signals to Processes
1002 @cindex process signals
1003 @cindex sending signals
1004 @cindex signals
1006   @dfn{Sending a signal} to a subprocess is a way of interrupting its
1007 activities.  There are several different signals, each with its own
1008 meaning.  The set of signals and their names is defined by the operating
1009 system.  For example, the signal @code{SIGINT} means that the user has
1010 typed @kbd{C-c}, or that some analogous thing has happened.
1012   Each signal has a standard effect on the subprocess.  Most signals
1013 kill the subprocess, but some stop or resume execution instead.  Most
1014 signals can optionally be handled by programs; if the program handles
1015 the signal, then we can say nothing in general about its effects.
1017   You can send signals explicitly by calling the functions in this
1018 section.  Emacs also sends signals automatically at certain times:
1019 killing a buffer sends a @code{SIGHUP} signal to all its associated
1020 processes; killing Emacs sends a @code{SIGHUP} signal to all remaining
1021 processes.  (@code{SIGHUP} is a signal that usually indicates that the
1022 user hung up the phone.)
1024   Each of the signal-sending functions takes two optional arguments:
1025 @var{process} and @var{current-group}.
1027   The argument @var{process} must be either a process, a process
1028 name, a buffer, a buffer name, or @code{nil}.  A buffer or buffer name
1029 stands for a process through @code{get-buffer-process}.  @code{nil}
1030 stands for the process associated with the current buffer.  An error
1031 is signaled if @var{process} does not identify a process.
1033   The argument @var{current-group} is a flag that makes a difference
1034 when you are running a job-control shell as an Emacs subprocess.  If it
1035 is non-@code{nil}, then the signal is sent to the current process-group
1036 of the terminal that Emacs uses to communicate with the subprocess.  If
1037 the process is a job-control shell, this means the shell's current
1038 subjob.  If it is @code{nil}, the signal is sent to the process group of
1039 the immediate subprocess of Emacs.  If the subprocess is a job-control
1040 shell, this is the shell itself.
1042   The flag @var{current-group} has no effect when a pipe is used to
1043 communicate with the subprocess, because the operating system does not
1044 support the distinction in the case of pipes.  For the same reason,
1045 job-control shells won't work when a pipe is used.  See
1046 @code{process-connection-type} in @ref{Asynchronous Processes}.
1048 @defun interrupt-process &optional process current-group
1049 This function interrupts the process @var{process} by sending the
1050 signal @code{SIGINT}.  Outside of Emacs, typing the ``interrupt
1051 character'' (normally @kbd{C-c} on some systems, and @code{DEL} on
1052 others) sends this signal.  When the argument @var{current-group} is
1053 non-@code{nil}, you can think of this function as ``typing @kbd{C-c}''
1054 on the terminal by which Emacs talks to the subprocess.
1055 @end defun
1057 @defun kill-process &optional process current-group
1058 This function kills the process @var{process} by sending the
1059 signal @code{SIGKILL}.  This signal kills the subprocess immediately,
1060 and cannot be handled by the subprocess.
1061 @end defun
1063 @defun quit-process &optional process current-group
1064 This function sends the signal @code{SIGQUIT} to the process
1065 @var{process}.  This signal is the one sent by the ``quit
1066 character'' (usually @kbd{C-b} or @kbd{C-\}) when you are not inside
1067 Emacs.
1068 @end defun
1070 @defun stop-process &optional process current-group
1071 This function stops the process @var{process} by sending the
1072 signal @code{SIGTSTP}.  Use @code{continue-process} to resume its
1073 execution.
1075 Outside of Emacs, on systems with job control, the ``stop character''
1076 (usually @kbd{C-z}) normally sends this signal.  When
1077 @var{current-group} is non-@code{nil}, you can think of this function as
1078 ``typing @kbd{C-z}'' on the terminal Emacs uses to communicate with the
1079 subprocess.
1080 @end defun
1082 @defun continue-process &optional process current-group
1083 This function resumes execution of the process @var{process} by sending
1084 it the signal @code{SIGCONT}.  This presumes that @var{process} was
1085 stopped previously.
1086 @end defun
1088 @defun signal-process process signal
1089 This function sends a signal to process @var{process}.  The argument
1090 @var{signal} specifies which signal to send; it should be an integer.
1092 The @var{process} argument can be a system process @acronym{ID}; that
1093 allows you to send signals to processes that are not children of
1094 Emacs.  @xref{System Processes}.
1095 @end defun
1097 @node Output from Processes
1098 @section Receiving Output from Processes
1099 @cindex process output
1100 @cindex output from processes
1102   There are two ways to receive the output that a subprocess writes to
1103 its standard output stream.  The output can be inserted in a buffer,
1104 which is called the associated buffer of the process, or a function
1105 called the @dfn{filter function} can be called to act on the output.  If
1106 the process has no buffer and no filter function, its output is
1107 discarded.
1109   When a subprocess terminates, Emacs reads any pending output,
1110 then stops reading output from that subprocess.  Therefore, if the
1111 subprocess has children that are still live and still producing
1112 output, Emacs won't receive that output.
1114   Output from a subprocess can arrive only while Emacs is waiting: when
1115 reading terminal input, in @code{sit-for} and @code{sleep-for}
1116 (@pxref{Waiting}), and in @code{accept-process-output} (@pxref{Accepting
1117 Output}).  This minimizes the problem of timing errors that usually
1118 plague parallel programming.  For example, you can safely create a
1119 process and only then specify its buffer or filter function; no output
1120 can arrive before you finish, if the code in between does not call any
1121 primitive that waits.
1123 @defvar process-adaptive-read-buffering
1124 On some systems, when Emacs reads the output from a subprocess, the
1125 output data is read in very small blocks, potentially resulting in
1126 very poor performance.  This behavior can be remedied to some extent
1127 by setting the variable @var{process-adaptive-read-buffering} to a
1128 non-@code{nil} value (the default), as it will automatically delay reading
1129 from such processes, thus allowing them to produce more output before
1130 Emacs tries to read it.
1131 @end defvar
1133   It is impossible to separate the standard output and standard error
1134 streams of the subprocess, because Emacs normally spawns the subprocess
1135 inside a pseudo-TTY, and a pseudo-TTY has only one output channel.  If
1136 you want to keep the output to those streams separate, you should
1137 redirect one of them to a file---for example, by using an appropriate
1138 shell command.
1140 @menu
1141 * Process Buffers::         If no filter, output is put in a buffer.
1142 * Filter Functions::        Filter functions accept output from the process.
1143 * Decoding Output::         Filters can get unibyte or multibyte strings.
1144 * Accepting Output::        How to wait until process output arrives.
1145 @end menu
1147 @node Process Buffers
1148 @subsection Process Buffers
1150   A process can (and usually does) have an @dfn{associated buffer},
1151 which is an ordinary Emacs buffer that is used for two purposes: storing
1152 the output from the process, and deciding when to kill the process.  You
1153 can also use the buffer to identify a process to operate on, since in
1154 normal practice only one process is associated with any given buffer.
1155 Many applications of processes also use the buffer for editing input to
1156 be sent to the process, but this is not built into Emacs Lisp.
1158   Unless the process has a filter function (@pxref{Filter Functions}),
1159 its output is inserted in the associated buffer.  The position to insert
1160 the output is determined by the @code{process-mark}, which is then
1161 updated to point to the end of the text just inserted.  Usually, but not
1162 always, the @code{process-mark} is at the end of the buffer.
1164 @findex process-kill-buffer-query-function
1165   Killing the associated buffer of a process also kills the process.
1166 Emacs asks for confirmation first, if the process's
1167 @code{process-query-on-exit-flag} is non-@code{nil} (@pxref{Query
1168 Before Exit}).  This confirmation is done by the function
1169 @code{process-kill-buffer-query-function}, which is run from
1170 @code{kill-buffer-query-functions} (@pxref{Killing Buffers}).
1172 @defun process-buffer process
1173 This function returns the associated buffer of the process
1174 @var{process}.
1176 @smallexample
1177 @group
1178 (process-buffer (get-process "shell"))
1179      @result{} #<buffer *shell*>
1180 @end group
1181 @end smallexample
1182 @end defun
1184 @defun process-mark process
1185 This function returns the process marker for @var{process}, which is the
1186 marker that says where to insert output from the process.
1188 If @var{process} does not have a buffer, @code{process-mark} returns a
1189 marker that points nowhere.
1191 Insertion of process output in a buffer uses this marker to decide where
1192 to insert, and updates it to point after the inserted text.  That is why
1193 successive batches of output are inserted consecutively.
1195 Filter functions normally should use this marker in the same fashion
1196 as is done by direct insertion of output in the buffer.  A good
1197 example of a filter function that uses @code{process-mark} is found at
1198 the end of the following section.
1200 When the user is expected to enter input in the process buffer for
1201 transmission to the process, the process marker separates the new input
1202 from previous output.
1203 @end defun
1205 @defun set-process-buffer process buffer
1206 This function sets the buffer associated with @var{process} to
1207 @var{buffer}.  If @var{buffer} is @code{nil}, the process becomes
1208 associated with no buffer.
1209 @end defun
1211 @defun get-buffer-process buffer-or-name
1212 This function returns a nondeleted process associated with the buffer
1213 specified by @var{buffer-or-name}.  If there are several processes
1214 associated with it, this function chooses one (currently, the one most
1215 recently created, but don't count on that).  Deletion of a process
1216 (see @code{delete-process}) makes it ineligible for this function to
1217 return.
1219 It is usually a bad idea to have more than one process associated with
1220 the same buffer.
1222 @smallexample
1223 @group
1224 (get-buffer-process "*shell*")
1225      @result{} #<process shell>
1226 @end group
1227 @end smallexample
1229 Killing the process's buffer deletes the process, which kills the
1230 subprocess with a @code{SIGHUP} signal (@pxref{Signals to Processes}).
1231 @end defun
1233 @node Filter Functions
1234 @subsection Process Filter Functions
1235 @cindex filter function
1236 @cindex process filter
1238   A process @dfn{filter function} is a function that receives the
1239 standard output from the associated process.  If a process has a filter,
1240 then @emph{all} output from that process is passed to the filter.  The
1241 process buffer is used directly for output from the process only when
1242 there is no filter.
1244   The filter function can only be called when Emacs is waiting for
1245 something, because process output arrives only at such times.  Emacs
1246 waits when reading terminal input, in @code{sit-for} and
1247 @code{sleep-for} (@pxref{Waiting}), and in @code{accept-process-output}
1248 (@pxref{Accepting Output}).
1250   A filter function must accept two arguments: the associated process
1251 and a string, which is output just received from it.  The function is
1252 then free to do whatever it chooses with the output.
1254   Quitting is normally inhibited within a filter function---otherwise,
1255 the effect of typing @kbd{C-g} at command level or to quit a user
1256 command would be unpredictable.  If you want to permit quitting inside
1257 a filter function, bind @code{inhibit-quit} to @code{nil}.  In most
1258 cases, the right way to do this is with the macro
1259 @code{with-local-quit}.  @xref{Quitting}.
1261   If an error happens during execution of a filter function, it is
1262 caught automatically, so that it doesn't stop the execution of whatever
1263 program was running when the filter function was started.  However, if
1264 @code{debug-on-error} is non-@code{nil}, the error-catching is turned
1265 off.  This makes it possible to use the Lisp debugger to debug the
1266 filter function.  @xref{Debugger}.
1268   Many filter functions sometimes or always insert the text in the
1269 process's buffer, mimicking the actions of Emacs when there is no
1270 filter.  Such filter functions need to use @code{set-buffer} in order to
1271 be sure to insert in that buffer.  To avoid setting the current buffer
1272 semipermanently, these filter functions must save and restore the
1273 current buffer.  They should also update the process marker, and in some
1274 cases update the value of point.  Here is how to do these things:
1276 @smallexample
1277 @group
1278 (defun ordinary-insertion-filter (proc string)
1279   (with-current-buffer (process-buffer proc)
1280     (let ((moving (= (point) (process-mark proc))))
1281 @end group
1282 @group
1283       (save-excursion
1284         ;; @r{Insert the text, advancing the process marker.}
1285         (goto-char (process-mark proc))
1286         (insert string)
1287         (set-marker (process-mark proc) (point)))
1288       (if moving (goto-char (process-mark proc))))))
1289 @end group
1290 @end smallexample
1292 @noindent
1293 The reason to use @code{with-current-buffer}, rather than using
1294 @code{save-excursion} to save and restore the current buffer, is so as
1295 to preserve the change in point made by the second call to
1296 @code{goto-char}.
1298   To make the filter force the process buffer to be visible whenever new
1299 text arrives, insert the following line just before the
1300 @code{with-current-buffer} construct:
1302 @smallexample
1303 (display-buffer (process-buffer proc))
1304 @end smallexample
1306   To force point to the end of the new output, no matter where it was
1307 previously, eliminate the variable @code{moving} and call
1308 @code{goto-char} unconditionally.
1310   In earlier Emacs versions, every filter function that did regular
1311 expression searching or matching had to explicitly save and restore the
1312 match data.  Now Emacs does this automatically for filter functions;
1313 they never need to do it explicitly.  @xref{Match Data}.
1315   A filter function that writes the output into the buffer of the
1316 process should check whether the buffer is still alive.  If it tries to
1317 insert into a dead buffer, it will get an error.  The expression
1318 @code{(buffer-name (process-buffer @var{process}))} returns @code{nil}
1319 if the buffer is dead.
1321   The output to the function may come in chunks of any size.  A program
1322 that produces the same output twice in a row may send it as one batch of
1323 200 characters one time, and five batches of 40 characters the next.  If
1324 the filter looks for certain text strings in the subprocess output, make
1325 sure to handle the case where one of these strings is split across two
1326 or more batches of output; one way to do this is to insert the
1327 received text into a temporary buffer, which can then be searched.
1329 @defun set-process-filter process filter
1330 This function gives @var{process} the filter function @var{filter}.  If
1331 @var{filter} is @code{nil}, it gives the process no filter.
1332 @end defun
1334 @defun process-filter process
1335 This function returns the filter function of @var{process}, or @code{nil}
1336 if it has none.
1337 @end defun
1339   Here is an example of use of a filter function:
1341 @smallexample
1342 @group
1343 (defun keep-output (process output)
1344    (setq kept (cons output kept)))
1345      @result{} keep-output
1346 @end group
1347 @group
1348 (setq kept nil)
1349      @result{} nil
1350 @end group
1351 @group
1352 (set-process-filter (get-process "shell") 'keep-output)
1353      @result{} keep-output
1354 @end group
1355 @group
1356 (process-send-string "shell" "ls ~/other\n")
1357      @result{} nil
1358 kept
1359      @result{} ("lewis@@slug[8] % "
1360 @end group
1361 @group
1362 "FINAL-W87-SHORT.MSS    backup.otl              kolstad.mss~
1363 address.txt             backup.psf              kolstad.psf
1364 backup.bib~             david.mss               resume-Dec-86.mss~
1365 backup.err              david.psf               resume-Dec.psf
1366 backup.mss              dland                   syllabus.mss
1368 "#backups.mss#          backup.mss~             kolstad.mss
1370 @end group
1371 @end smallexample
1373 @ignore   @c The code in this example doesn't show the right way to do things.
1374 Here is another, more realistic example, which demonstrates how to use
1375 the process mark to do insertion in the same fashion as is done when
1376 there is no filter function:
1378 @smallexample
1379 @group
1380 ;; @r{Insert input in the buffer specified by @code{my-shell-buffer}}
1381 ;;   @r{and make sure that buffer is shown in some window.}
1382 (defun my-process-filter (proc str)
1383   (let ((cur (selected-window))
1384         (pop-up-windows t))
1385     (pop-to-buffer my-shell-buffer)
1386 @end group
1387 @group
1388     (goto-char (point-max))
1389     (insert str)
1390     (set-marker (process-mark proc) (point-max))
1391     (select-window cur)))
1392 @end group
1393 @end smallexample
1394 @end ignore
1396 @node Decoding Output
1397 @subsection Decoding Process Output
1398 @cindex decode process output
1400   When Emacs writes process output directly into a multibyte buffer,
1401 it decodes the output according to the process output coding system.
1402 If the coding system is @code{raw-text} or @code{no-conversion}, Emacs
1403 converts the unibyte output to multibyte using
1404 @code{string-to-multibyte}, and inserts the resulting multibyte text.
1406   You can use @code{set-process-coding-system} to specify which coding
1407 system to use (@pxref{Process Information}).  Otherwise, the coding
1408 system comes from @code{coding-system-for-read}, if that is
1409 non-@code{nil}; or else from the defaulting mechanism (@pxref{Default
1410 Coding Systems}).  If the text output by a process contains null
1411 bytes, Emacs by default uses @code{no-conversion} for it; see
1412 @ref{Lisp and Coding Systems, inhibit-null-byte-detection}, for how to
1413 control this behavior.
1415   @strong{Warning:} Coding systems such as @code{undecided} which
1416 determine the coding system from the data do not work entirely
1417 reliably with asynchronous subprocess output.  This is because Emacs
1418 has to process asynchronous subprocess output in batches, as it
1419 arrives.  Emacs must try to detect the proper coding system from one
1420 batch at a time, and this does not always work.  Therefore, if at all
1421 possible, specify a coding system that determines both the character
1422 code conversion and the end of line conversion---that is, one like
1423 @code{latin-1-unix}, rather than @code{undecided} or @code{latin-1}.
1425 @c Let's keep the index entries that were there for
1426 @c set-process-filter-multibyte and process-filter-multibyte-p,
1427 @cindex filter multibyte flag, of process
1428 @cindex process filter multibyte flag
1429   When Emacs calls a process filter function, it provides the process
1430 output as a multibyte string or as a unibyte string according to the
1431 process's filter coding system.  Emacs
1432 decodes the output according to the process output coding system,
1433 which usually produces a multibyte string, except for coding systems
1434 such as @code{binary} and @code{raw-text}
1436 @node Accepting Output
1437 @subsection Accepting Output from Processes
1438 @cindex accept input from processes
1440   Output from asynchronous subprocesses normally arrives only while
1441 Emacs is waiting for some sort of external event, such as elapsed time
1442 or terminal input.  Occasionally it is useful in a Lisp program to
1443 explicitly permit output to arrive at a specific point, or even to wait
1444 until output arrives from a process.
1446 @defun accept-process-output &optional process seconds millisec just-this-one
1447 This function allows Emacs to read pending output from processes.  The
1448 output is inserted in the associated buffers or given to their filter
1449 functions.  If @var{process} is non-@code{nil} then this function does
1450 not return until some output has been received from @var{process}.
1452 @c Emacs 19 feature
1453 The arguments @var{seconds} and @var{millisec} let you specify timeout
1454 periods.  The former specifies a period measured in seconds and the
1455 latter specifies one measured in milliseconds.  The two time periods
1456 thus specified are added together, and @code{accept-process-output}
1457 returns after that much time, whether or not there has been any
1458 subprocess output.
1460 The argument @var{millisec} is semi-obsolete nowadays because
1461 @var{seconds} can be a floating point number to specify waiting a
1462 fractional number of seconds.  If @var{seconds} is 0, the function
1463 accepts whatever output is pending but does not wait.
1465 @c Emacs 22.1 feature
1466 If @var{process} is a process, and the argument @var{just-this-one} is
1467 non-@code{nil}, only output from that process is handled, suspending output
1468 from other processes until some output has been received from that
1469 process or the timeout expires.  If @var{just-this-one} is an integer,
1470 also inhibit running timers.  This feature is generally not
1471 recommended, but may be necessary for specific applications, such as
1472 speech synthesis.
1474 The function @code{accept-process-output} returns non-@code{nil} if it
1475 did get some output, or @code{nil} if the timeout expired before output
1476 arrived.
1477 @end defun
1479 @node Sentinels
1480 @section Sentinels: Detecting Process Status Changes
1481 @cindex process sentinel
1482 @cindex sentinel (of process)
1484   A @dfn{process sentinel} is a function that is called whenever the
1485 associated process changes status for any reason, including signals
1486 (whether sent by Emacs or caused by the process's own actions) that
1487 terminate, stop, or continue the process.  The process sentinel is
1488 also called if the process exits.  The sentinel receives two
1489 arguments: the process for which the event occurred, and a string
1490 describing the type of event.
1492   The string describing the event looks like one of the following:
1494 @itemize @bullet
1495 @item
1496 @code{"finished\n"}.
1498 @item
1499 @code{"exited abnormally with code @var{exitcode}\n"}.
1501 @item
1502 @code{"@var{name-of-signal}\n"}.
1504 @item
1505 @code{"@var{name-of-signal} (core dumped)\n"}.
1506 @end itemize
1508   A sentinel runs only while Emacs is waiting (e.g., for terminal
1509 input, or for time to elapse, or for process output).  This avoids the
1510 timing errors that could result from running them at random places in
1511 the middle of other Lisp programs.  A program can wait, so that
1512 sentinels will run, by calling @code{sit-for} or @code{sleep-for}
1513 (@pxref{Waiting}), or @code{accept-process-output} (@pxref{Accepting
1514 Output}).  Emacs also allows sentinels to run when the command loop is
1515 reading input.  @code{delete-process} calls the sentinel when it
1516 terminates a running process.
1518   Emacs does not keep a queue of multiple reasons to call the sentinel
1519 of one process; it records just the current status and the fact that
1520 there has been a change.  Therefore two changes in status, coming in
1521 quick succession, can call the sentinel just once.  However, process
1522 termination will always run the sentinel exactly once.  This is
1523 because the process status can't change again after termination.
1525   Emacs explicitly checks for output from the process before running
1526 the process sentinel.  Once the sentinel runs due to process
1527 termination, no further output can arrive from the process.
1529   A sentinel that writes the output into the buffer of the process
1530 should check whether the buffer is still alive.  If it tries to insert
1531 into a dead buffer, it will get an error.  If the buffer is dead,
1532 @code{(buffer-name (process-buffer @var{process}))} returns @code{nil}.
1534   Quitting is normally inhibited within a sentinel---otherwise, the
1535 effect of typing @kbd{C-g} at command level or to quit a user command
1536 would be unpredictable.  If you want to permit quitting inside a
1537 sentinel, bind @code{inhibit-quit} to @code{nil}.  In most cases, the
1538 right way to do this is with the macro @code{with-local-quit}.
1539 @xref{Quitting}.
1541   If an error happens during execution of a sentinel, it is caught
1542 automatically, so that it doesn't stop the execution of whatever
1543 programs was running when the sentinel was started.  However, if
1544 @code{debug-on-error} is non-@code{nil}, the error-catching is turned
1545 off.  This makes it possible to use the Lisp debugger to debug the
1546 sentinel.  @xref{Debugger}.
1548   While a sentinel is running, the process sentinel is temporarily
1549 set to @code{nil} so that the sentinel won't run recursively.
1550 For this reason it is not possible for a sentinel to specify
1551 a new sentinel.
1553   In earlier Emacs versions, every sentinel that did regular expression
1554 searching or matching had to explicitly save and restore the match data.
1555 Now Emacs does this automatically for sentinels; they never need to do
1556 it explicitly.  @xref{Match Data}.
1558 @defun set-process-sentinel process sentinel
1559 This function associates @var{sentinel} with @var{process}.  If
1560 @var{sentinel} is @code{nil}, then the process will have no sentinel.
1561 The default behavior when there is no sentinel is to insert a message in
1562 the process's buffer when the process status changes.
1564 Changes in process sentinel take effect immediately---if the sentinel
1565 is slated to be run but has not been called yet, and you specify a new
1566 sentinel, the eventual call to the sentinel will use the new one.
1568 @smallexample
1569 @group
1570 (defun msg-me (process event)
1571    (princ
1572      (format "Process: %s had the event `%s'" process event)))
1573 (set-process-sentinel (get-process "shell") 'msg-me)
1574      @result{} msg-me
1575 @end group
1576 @group
1577 (kill-process (get-process "shell"))
1578      @print{} Process: #<process shell> had the event `killed'
1579      @result{} #<process shell>
1580 @end group
1581 @end smallexample
1582 @end defun
1584 @defun process-sentinel process
1585 This function returns the sentinel of @var{process}, or @code{nil} if it
1586 has none.
1587 @end defun
1589 @defun waiting-for-user-input-p
1590 While a sentinel or filter function is running, this function returns
1591 non-@code{nil} if Emacs was waiting for keyboard input from the user at
1592 the time the sentinel or filter function was called, @code{nil} if it
1593 was not.
1594 @end defun
1596 @node Query Before Exit
1597 @section Querying Before Exit
1599   When Emacs exits, it terminates all its subprocesses by sending them
1600 the @code{SIGHUP} signal.  Because subprocesses may be doing
1601 valuable work, Emacs normally asks the user to confirm that it is ok
1602 to terminate them.  Each process has a query flag which, if
1603 non-@code{nil}, says that Emacs should ask for confirmation before
1604 exiting and thus killing that process.  The default for the query flag
1605 is @code{t}, meaning @emph{do} query.
1607 @defun process-query-on-exit-flag process
1608 This returns the query flag of @var{process}.
1609 @end defun
1611 @defun set-process-query-on-exit-flag process flag
1612 This function sets the query flag of @var{process} to @var{flag}.  It
1613 returns @var{flag}.
1615 @smallexample
1616 @group
1617 ;; @r{Don't query about the shell process}
1618 (set-process-query-on-exit-flag (get-process "shell") nil)
1619      @result{} t
1620 @end group
1621 @end smallexample
1622 @end defun
1624 @defun process-kill-without-query process &optional do-query
1625 This function clears the query flag of @var{process}, so that
1626 Emacs will not query the user on account of that process.
1628 Actually, the function does more than that: it returns the old value of
1629 the process's query flag, and sets the query flag to @var{do-query}.
1630 Please don't use this function to do those things any more---please
1631 use the newer, cleaner functions @code{process-query-on-exit-flag} and
1632 @code{set-process-query-on-exit-flag} in all but the simplest cases.
1633 The only way you should use @code{process-kill-without-query} nowadays
1634 is like this:
1636 @smallexample
1637 @group
1638 ;; @r{Don't query about the shell process}
1639 (process-kill-without-query (get-process "shell"))
1640 @end group
1641 @end smallexample
1642 @end defun
1644 @node System Processes
1645 @section Accessing Other Processes
1646 @cindex system processes
1648   In addition to accessing and manipulating processes that are
1649 subprocesses of the current Emacs session, Emacs Lisp programs can
1650 also access other processes running on the same machine.  We call
1651 these @dfn{system processes}, to distinguish between them and Emacs
1652 subprocesses.
1654   Emacs provides several primitives for accessing system processes.
1655 Not all platforms support these primitives; on those which don't,
1656 these primitives return @code{nil}.
1658 @defun list-system-processes
1659 This function returns a list of all the processes running on the
1660 system.  Each process is identified by its @acronym{PID}, a numerical
1661 process ID that is assigned by the OS and distinguishes the process
1662 from all the other processes running on the same machine at the same
1663 time.
1664 @end defun
1666 @defun process-attributes pid
1667 This function returns an alist of attributes for the process specified
1668 by its process ID @var{pid}.  Each association in the alist is of the
1669 form @code{(@var{key} . @var{value})}, where @var{key} designates the
1670 attribute and @var{value} is the value of that attribute.  The various
1671 attribute @var{key}'s that this function can return are listed below.
1672 Not all platforms support all of these attributes; if an attribute is
1673 not supported, its association will not appear in the returned alist.
1674 Values that are numbers can be either integer or floating-point,
1675 depending on the magnitude of the value.
1677 @table @code
1678 @item euid
1679 The effective user ID of the user who invoked the process.  The
1680 corresponding @var{value} is a number.  If the process was invoked by
1681 the same user who runs the current Emacs session, the value is
1682 identical to what @code{user-uid} returns (@pxref{User
1683 Identification}).
1685 @item user
1686 User name corresponding to the process's effective user ID, a string.
1688 @item egid
1689 The group ID of the effective user ID, a number.
1691 @item group
1692 Group name corresponding to the effective user's group ID, a string.
1694 @item comm
1695 The name of the command that runs in the process.  This is a string
1696 that usually specifies the name of the executable file of the process,
1697 without the leading directories.  However, some special system
1698 processes can report strings that do not correspond to an executable
1699 file of a program.
1701 @item state
1702 The state code of the process.  This is a short string that encodes
1703 the scheduling state of the process.  Here's a list of the most
1704 frequently seen codes:
1706 @table @code
1707 @item "D"
1708 uninterruptible sleep (usually I/O)
1709 @item "R"
1710 running
1711 @item "S"
1712 interruptible sleep (waiting for some event)
1713 @item "T"
1714 stopped, e.g., by a job control signal
1715 @item "Z"
1716 ``zombie'': a process that terminated, but was not reaped by its parent
1717 @end table
1719 @noindent
1720 For the full list of the possible states, see the manual page of the
1721 @command{ps} command.
1723 @item ppid
1724 The process ID of the parent process, a number.
1726 @item pgrp
1727 The process group ID of the process, a number.
1729 @item sess
1730 The session ID of the process.  This is a number that is the process
1731 ID of the process's @dfn{session leader}.
1733 @item ttname
1734 A string that is the name of the process's controlling terminal.  On
1735 Unix and GNU systems, this is normally the file name of the
1736 corresponding terminal device, such as @file{/dev/pts65}.
1738 @item tpgid
1739 The numerical process group ID of the foreground process group that
1740 uses the process's terminal.
1742 @item minflt
1743 The number of minor page faults caused by the process since its
1744 beginning.  (Minor page faults are those that don't involve reading
1745 from disk.)
1747 @item majflt
1748 The number of major page faults caused by the process since its
1749 beginning.  (Major page faults require a disk to be read, and are thus
1750 more expensive than minor page faults.)
1752 @item cminflt
1753 @itemx cmajflt
1754 Like @code{minflt} and @code{majflt}, but include the number of page
1755 faults for all the child processes of the given process.
1757 @item utime
1758 Time spent by the process in the user context, for running the
1759 application's code.  The corresponding @var{value} is in the
1760 @w{@code{(@var{high} @var{low} @var{microsec})}} format, the same
1761 format used by functions @code{current-time} (@pxref{Time of Day,
1762 current-time}) and @code{file-attributes} (@pxref{File Attributes}).
1764 @item stime
1765 Time spent by the process in the system (kernel) context, for
1766 processing system calls.  The corresponding @var{value} is in the same
1767 format as for @code{utime}.
1769 @item time
1770 The sum of @code{utime} and @code{stime}.  The corresponding
1771 @var{value} is in the same format as for @code{utime}.
1773 @item cutime
1774 @itemx cstime
1775 @itemx ctime
1776 Like @code{utime}, @code{stime}, and @code{time}, but include the
1777 times of all the child processes of the given process.
1779 @item pri
1780 The numerical priority of the process.
1782 @item nice
1783 The @dfn{nice value} of the process, a number.  (Processes with smaller
1784 nice values get scheduled more favorably.)
1786 @item thcount
1787 The number of threads in the process.
1789 @item start
1790 The time the process was started, in the @w{@code{(@var{high}
1791 @var{low} @var{microsec})}} format used by @code{current-time} and
1792 @code{file-attributes}.
1794 @item etime
1795 The time elapsed since the process started, in the @w{@code{(@var{high}
1796 @var{low} @var{microsec})}} format.
1798 @item vsize
1799 The virtual memory size of the process, measured in kilobytes.
1801 @item rss
1802 The size of the process's @dfn{resident set}, the number of kilobytes
1803 occupied by the process in the machine's physical memory.
1805 @item pcpu
1806 The percentage of the CPU time used by the process since it started.
1807 The corresponding @var{value} is a floating-point number between 0 and
1808 100.
1810 @item pmem
1811 The percentage of the total physical memory installed on the machine
1812 used by the process's resident set.  The value is a floating-point
1813 number between 0 and 100.
1815 @item args
1816 The command-line with which the process was invoked.  This is a string
1817 in which individual command-line arguments are separated by blanks;
1818 whitespace characters that are embedded in the arguments are quoted as
1819 appropriate for the system's shell: escaped by backslash characters on
1820 GNU and Unix, and enclosed in double quote characters on Windows.
1821 Thus, this command-line string can be directly used in primitives such
1822 as @code{shell-command}.
1823 @end table
1825 @end defun
1828 @node Transaction Queues
1829 @section Transaction Queues
1830 @cindex transaction queue
1832 You can use a @dfn{transaction queue} to communicate with a subprocess
1833 using transactions.  First use @code{tq-create} to create a transaction
1834 queue communicating with a specified process.  Then you can call
1835 @code{tq-enqueue} to send a transaction.
1837 @defun tq-create process
1838 This function creates and returns a transaction queue communicating with
1839 @var{process}.  The argument @var{process} should be a subprocess
1840 capable of sending and receiving streams of bytes.  It may be a child
1841 process, or it may be a TCP connection to a server, possibly on another
1842 machine.
1843 @end defun
1845 @defun tq-enqueue queue question regexp closure fn &optional delay-question
1846 This function sends a transaction to queue @var{queue}.  Specifying the
1847 queue has the effect of specifying the subprocess to talk to.
1849 The argument @var{question} is the outgoing message that starts the
1850 transaction.  The argument @var{fn} is the function to call when the
1851 corresponding answer comes back; it is called with two arguments:
1852 @var{closure}, and the answer received.
1854 The argument @var{regexp} is a regular expression that should match
1855 text at the end of the entire answer, but nothing before; that's how
1856 @code{tq-enqueue} determines where the answer ends.
1858 If the argument @var{delay-question} is non-@code{nil}, delay sending
1859 this question until the process has finished replying to any previous
1860 questions.  This produces more reliable results with some processes.
1862 The return value of @code{tq-enqueue} itself is not meaningful.
1863 @end defun
1865 @defun tq-close queue
1866 Shut down transaction queue @var{queue}, waiting for all pending transactions
1867 to complete, and then terminate the connection or child process.
1868 @end defun
1870 Transaction queues are implemented by means of a filter function.
1871 @xref{Filter Functions}.
1873 @node Network
1874 @section Network Connections
1875 @cindex network connection
1876 @cindex TCP
1877 @cindex UDP
1879   Emacs Lisp programs can open stream (TCP) and datagram (UDP) network
1880 connections to other processes on the same machine or other machines.
1881 A network connection is handled by Lisp much like a subprocess, and is
1882 represented by a process object.  However, the process you are
1883 communicating with is not a child of the Emacs process, so it has no
1884 process @acronym{ID}, and you can't kill it or send it signals.  All you
1885 can do is send and receive data.  @code{delete-process} closes the
1886 connection, but does not kill the program at the other end; that
1887 program must decide what to do about closure of the connection.
1889   Lisp programs can listen for connections by creating network
1890 servers.  A network server is also represented by a kind of process
1891 object, but unlike a network connection, the network server never
1892 transfers data itself.  When it receives a connection request, it
1893 creates a new network connection to represent the connection just
1894 made.  (The network connection inherits certain information, including
1895 the process plist, from the server.)  The network server then goes
1896 back to listening for more connection requests.
1898   Network connections and servers are created by calling
1899 @code{make-network-process} with an argument list consisting of
1900 keyword/argument pairs, for example @code{:server t} to create a
1901 server process, or @code{:type 'datagram} to create a datagram
1902 connection.  @xref{Low-Level Network}, for details.  You can also use
1903 the @code{open-network-stream} function described below.
1905   To distinguish the different types of processes, the
1906 @code{process-type} function returns the symbol @code{network} for a
1907 network connection or server, @code{serial} for a serial port
1908 connection, or @code{real} for a real subprocess.
1910   The @code{process-status} function returns @code{open},
1911 @code{closed}, @code{connect}, and @code{failed} for network
1912 connections.  For a network server, the status is always
1913 @code{listen}.  None of those values is possible for a real
1914 subprocess.  @xref{Process Information}.
1916   You can stop and resume operation of a network process by calling
1917 @code{stop-process} and @code{continue-process}.  For a server
1918 process, being stopped means not accepting new connections.  (Up to 5
1919 connection requests will be queued for when you resume the server; you
1920 can increase this limit, unless it is imposed by the operating
1921 system.)  For a network stream connection, being stopped means not
1922 processing input (any arriving input waits until you resume the
1923 connection).  For a datagram connection, some number of packets may be
1924 queued but input may be lost.  You can use the function
1925 @code{process-command} to determine whether a network connection or
1926 server is stopped; a non-@code{nil} value means yes.
1928 @defun open-network-stream name buffer-or-name host service
1929 This function opens a TCP connection, and returns a process object
1930 that represents the connection.
1932 The @var{name} argument specifies the name for the process object.  It
1933 is modified as necessary to make it unique.
1935 The @var{buffer-or-name} argument is the buffer to associate with the
1936 connection.  Output from the connection is inserted in the buffer,
1937 unless you specify a filter function to handle the output.  If
1938 @var{buffer-or-name} is @code{nil}, it means that the connection is not
1939 associated with any buffer.
1941 The arguments @var{host} and @var{service} specify where to connect to;
1942 @var{host} is the host name (a string), and @var{service} is the name of
1943 a defined network service (a string) or a port number (an integer).
1944 @end defun
1946 @node Network Servers
1947 @section Network Servers
1948 @cindex network servers
1950   You create a server by calling @code{make-network-process} with
1951 @code{:server t}.  The server will listen for connection requests from
1952 clients.  When it accepts a client connection request, that creates a
1953 new network connection, itself a process object, with the following
1954 parameters:
1956 @itemize @bullet
1957 @item
1958 The connection's process name is constructed by concatenating the
1959 server process' @var{name} with a client identification string.  The
1960 client identification string for an IPv4 connection looks like
1961 @samp{<@var{a}.@var{b}.@var{c}.@var{d}:@var{p}>}.  Otherwise, it is a
1962 unique number in brackets, as in @samp{<@var{nnn}>}.  The number
1963 is unique for each connection in the Emacs session.
1965 @item
1966 If the server's filter is non-@code{nil}, the connection process does
1967 not get a separate process buffer; otherwise, Emacs creates a new
1968 buffer for the purpose.  The buffer name is the server's buffer name
1969 or process name, concatenated with the client identification string.
1971 The server's process buffer value is never used directly by Emacs, but
1972 it is passed to the log function, which can log connections by
1973 inserting text there.
1975 @item
1976 The communication type and the process filter and sentinel are
1977 inherited from those of the server.  The server never directly
1978 uses its filter and sentinel; their sole purpose is to initialize
1979 connections made to the server.
1981 @item
1982 The connection's process contact info is set according to the client's
1983 addressing information (typically an IP address and a port number).
1984 This information is associated with the @code{process-contact}
1985 keywords @code{:host}, @code{:service}, @code{:remote}.
1987 @item
1988 The connection's local address is set up according to the port
1989 number used for the connection.
1991 @item
1992 The client process' plist is initialized from the server's plist.
1993 @end itemize
1995 @node Datagrams
1996 @section Datagrams
1997 @cindex datagrams
1999   A datagram connection communicates with individual packets rather
2000 than streams of data.  Each call to @code{process-send} sends one
2001 datagram packet (@pxref{Input to Processes}), and each datagram
2002 received results in one call to the filter function.
2004   The datagram connection doesn't have to talk with the same remote
2005 peer all the time.  It has a @dfn{remote peer address} which specifies
2006 where to send datagrams to.  Each time an incoming datagram is passed
2007 to the filter function, the peer address is set to the address that
2008 datagram came from; that way, if the filter function sends a datagram,
2009 it will go back to that place.  You can specify the remote peer
2010 address when you create the datagram connection using the
2011 @code{:remote} keyword.  You can change it later on by calling
2012 @code{set-process-datagram-address}.
2014 @defun process-datagram-address process
2015 If @var{process} is a datagram connection or server, this function
2016 returns its remote peer address.
2017 @end defun
2019 @defun set-process-datagram-address process address
2020 If @var{process} is a datagram connection or server, this function
2021 sets its remote peer address to @var{address}.
2022 @end defun
2024 @node Low-Level Network
2025 @section Low-Level Network Access
2027   You can also create network connections by operating at a lower
2028 level than that of @code{open-network-stream}, using
2029 @code{make-network-process}.
2031 @menu
2032 * Proc: Network Processes.   Using @code{make-network-process}.
2033 * Options: Network Options.  Further control over network connections.
2034 * Features: Network Feature Testing.
2035                              Determining which network features work on
2036                                the machine you are using.
2037 @end menu
2039 @node Network Processes
2040 @subsection @code{make-network-process}
2042    The basic function for creating network connections and network
2043 servers is @code{make-network-process}.  It can do either of those
2044 jobs, depending on the arguments you give it.
2046 @defun make-network-process &rest args
2047 This function creates a network connection or server and returns the
2048 process object that represents it.  The arguments @var{args} are a
2049 list of keyword/argument pairs.  Omitting a keyword is always
2050 equivalent to specifying it with value @code{nil}, except for
2051 @code{:coding}, @code{:filter-multibyte}, and @code{:reuseaddr}.  Here
2052 are the meaningful keywords:
2054 @table @asis
2055 @item :name @var{name}
2056 Use the string @var{name} as the process name.  It is modified if
2057 necessary to make it unique.
2059 @item :type @var{type}
2060 Specify the communication type.  A value of @code{nil} specifies a
2061 stream connection (the default); @code{datagram} specifies a datagram
2062 connection; @code{seqpacket} specifies a ``sequenced packet stream''
2063 connection.  Both connections and servers can be of these types.
2065 @item :server @var{server-flag}
2066 If @var{server-flag} is non-@code{nil}, create a server.  Otherwise,
2067 create a connection.  For a stream type server, @var{server-flag} may
2068 be an integer which then specifies the length of the queue of pending
2069 connections to the server.  The default queue length is 5.
2071 @item :host @var{host}
2072 Specify the host to connect to.  @var{host} should be a host name or
2073 Internet address, as a string, or the symbol @code{local} to specify
2074 the local host.  If you specify @var{host} for a server, it must
2075 specify a valid address for the local host, and only clients
2076 connecting to that address will be accepted.
2078 @item :service @var{service}
2079 @var{service} specifies a port number to connect to, or, for a server,
2080 the port number to listen on.  It should be a service name that
2081 translates to a port number, or an integer specifying the port number
2082 directly.  For a server, it can also be @code{t}, which means to let
2083 the system select an unused port number.
2085 @item :family @var{family}
2086 @var{family} specifies the address (and protocol) family for
2087 communication.  @code{nil} means determine the proper address family
2088 automatically for the given @var{host} and @var{service}.
2089 @code{local} specifies a Unix socket, in which case @var{host} is
2090 ignored.  @code{ipv4} and @code{ipv6} specify to use IPv4 and IPv6
2091 respectively.
2093 @item :local @var{local-address}
2094 For a server process, @var{local-address} is the address to listen on.
2095 It overrides @var{family}, @var{host} and @var{service}, and you
2096 may as well not specify them.
2098 @item :remote @var{remote-address}
2099 For a connection, @var{remote-address} is the address to connect to.
2100 It overrides @var{family}, @var{host} and @var{service}, and you
2101 may as well not specify them.
2103 For a datagram server, @var{remote-address} specifies the initial
2104 setting of the remote datagram address.
2106 The format of @var{local-address} or @var{remote-address} depends on
2107 the address family:
2109 @itemize -
2110 @item
2111 An IPv4 address is represented as a five-element vector of four 8-bit
2112 integers and one 16-bit integer
2113 @code{[@var{a} @var{b} @var{c} @var{d} @var{p}]} corresponding to
2114 numeric IPv4 address @var{a}.@var{b}.@var{c}.@var{d} and port number
2115 @var{p}.
2117 @item
2118 An IPv6 address is represented as a nine-element vector of 16-bit
2119 integers @code{[@var{a} @var{b} @var{c} @var{d} @var{e} @var{f}
2120 @var{g} @var{h} @var{p}]} corresponding to numeric IPv6 address
2121 @var{a}:@var{b}:@var{c}:@var{d}:@var{e}:@var{f}:@var{g}:@var{h} and
2122 port number @var{p}.
2124 @item
2125 A local address is represented as a string which specifies the address
2126 in the local address space.
2128 @item
2129 An ``unsupported family'' address is represented by a cons
2130 @code{(@var{f} . @var{av})}, where @var{f} is the family number and
2131 @var{av} is a vector specifying the socket address using one element
2132 per address data byte.  Do not rely on this format in portable code,
2133 as it may depend on implementation defined constants, data sizes, and
2134 data structure alignment.
2135 @end itemize
2137 @item :nowait @var{bool}
2138 If @var{bool} is non-@code{nil} for a stream connection, return
2139 without waiting for the connection to complete.  When the connection
2140 succeeds or fails, Emacs will call the sentinel function, with a
2141 second argument matching @code{"open"} (if successful) or
2142 @code{"failed"}.  The default is to block, so that
2143 @code{make-network-process} does not return until the connection
2144 has succeeded or failed.
2146 @item :stop @var{stopped}
2147 Start the network connection or server in the `stopped' state if
2148 @var{stopped} is non-@code{nil}.
2150 @item :buffer @var{buffer}
2151 Use @var{buffer} as the process buffer.
2153 @item :coding @var{coding}
2154 Use @var{coding} as the coding system for this process.  To specify
2155 different coding systems for decoding data from the connection and for
2156 encoding data sent to it, specify @code{(@var{decoding} .
2157 @var{encoding})} for @var{coding}.
2159 If you don't specify this keyword at all, the default
2160 is to determine the coding systems from the data.
2162 @item :noquery @var{query-flag}
2163 Initialize the process query flag to @var{query-flag}.
2164 @xref{Query Before Exit}.
2166 @item :filter @var{filter}
2167 Initialize the process filter to @var{filter}.
2169 @item :sentinel @var{sentinel}
2170 Initialize the process sentinel to @var{sentinel}.
2172 @item :log @var{log}
2173 Initialize the log function of a server process to @var{log}.  The log
2174 function is called each time the server accepts a network connection
2175 from a client.  The arguments passed to the log function are
2176 @var{server}, @var{connection}, and @var{message}, where @var{server}
2177 is the server process, @var{connection} is the new process for the
2178 connection, and @var{message} is a string describing what has
2179 happened.
2181 @item :plist @var{plist}
2182 Initialize the process plist to @var{plist}.
2183 @end table
2185 The original argument list, modified with the actual connection
2186 information, is available via the @code{process-contact} function.
2187 @end defun
2189 @node Network Options
2190 @subsection Network Options
2192   The following network options can be specified when you create a
2193 network process.  Except for @code{:reuseaddr}, you can also set or
2194 modify these options later, using @code{set-network-process-option}.
2196   For a server process, the options specified with
2197 @code{make-network-process} are not inherited by the client
2198 connections, so you will need to set the necessary options for each
2199 child connection as it is created.
2201 @table @asis
2202 @item :bindtodevice @var{device-name}
2203 If @var{device-name} is a non-empty string identifying a network
2204 interface name (see @code{network-interface-list}), only handle
2205 packets received on that interface.  If @var{device-name} is @code{nil}
2206 (the default), handle packets received on any interface.
2208 Using this option may require special privileges on some systems.
2210 @item :broadcast @var{broadcast-flag}
2211 If @var{broadcast-flag} is non-@code{nil} for a datagram process, the
2212 process will receive datagram packet sent to a broadcast address, and
2213 be able to send packets to a broadcast address.  Ignored for a stream
2214 connection.
2216 @item :dontroute @var{dontroute-flag}
2217 If @var{dontroute-flag} is non-@code{nil}, the process can only send
2218 to hosts on the same network as the local host.
2220 @item :keepalive @var{keepalive-flag}
2221 If @var{keepalive-flag} is non-@code{nil} for a stream connection,
2222 enable exchange of low-level keep-alive messages.
2224 @item :linger @var{linger-arg}
2225 If @var{linger-arg} is non-@code{nil}, wait for successful
2226 transmission of all queued packets on the connection before it is
2227 deleted (see @code{delete-process}).  If @var{linger-arg} is an
2228 integer, it specifies the maximum time in seconds to wait for queued
2229 packets to be sent before closing the connection.  Default is
2230 @code{nil} which means to discard unsent queued packets when the
2231 process is deleted.
2233 @item :oobinline @var{oobinline-flag}
2234 If @var{oobinline-flag} is non-@code{nil} for a stream connection,
2235 receive out-of-band data in the normal data stream.  Otherwise, ignore
2236 out-of-band data.
2238 @item :priority @var{priority}
2239 Set the priority for packets sent on this connection to the integer
2240 @var{priority}.  The interpretation of this number is protocol
2241 specific, such as setting the TOS (type of service) field on IP
2242 packets sent on this connection.  It may also have system dependent
2243 effects, such as selecting a specific output queue on the network
2244 interface.
2246 @item :reuseaddr @var{reuseaddr-flag}
2247 If @var{reuseaddr-flag} is non-@code{nil} (the default) for a stream
2248 server process, allow this server to reuse a specific port number (see
2249 @code{:service}) unless another process on this host is already
2250 listening on that port.  If @var{reuseaddr-flag} is @code{nil}, there
2251 may be a period of time after the last use of that port (by any
2252 process on the host), where it is not possible to make a new server on
2253 that port.
2254 @end table
2256 @defun set-network-process-option process option value &optional no-error
2257 This function sets or modifies a network option for network process
2258 @var{process}.  See @code{make-network-process} for details of options
2259 @var{option} and their corresponding values @var{value}.  If
2260 @var{no-error} is non-@code{nil}, this function returns @code{nil}
2261 instead of signaling an error if @var{option} is not a supported
2262 option.  If the function successfully completes, it returns @code{t}.
2264 The current setting of an option is available via the
2265 @code{process-contact} function.
2266 @end defun
2268 @node Network Feature Testing
2269 @subsection Testing Availability of Network Features
2271   To test for the availability of a given network feature, use
2272 @code{featurep} like this:
2274 @example
2275 (featurep 'make-network-process '(@var{keyword} @var{value}))
2276 @end example
2278 @noindent
2279 The result of the first form is @code{t} if it works to specify
2280 @var{keyword} with value @var{value} in @code{make-network-process}.
2281 The result of the second form is @code{t} if @var{keyword} is
2282 supported by @code{make-network-process}.  Here are some of the
2283 @var{keyword}---@var{value} pairs you can test in
2284 this way.
2286 @table @code
2287 @item (:nowait t)
2288 Non-@code{nil} if non-blocking connect is supported.
2289 @item (:type datagram)
2290 Non-@code{nil} if datagrams are supported.
2291 @item (:family local)
2292 Non-@code{nil} if local (a.k.a.@: ``UNIX domain'') sockets are supported.
2293 @item (:family ipv6)
2294 Non-@code{nil} if IPv6 is supported.
2295 @item (:service t)
2296 Non-@code{nil} if the system can select the port for a server.
2297 @end table
2299   To test for the availability of a given network option, use
2300 @code{featurep} like this:
2302 @example
2303 (featurep 'make-network-process '@var{keyword})
2304 @end example
2306 @noindent
2307 Here are some of the options you can test in this way.
2309 @table @code
2310 @item :bindtodevice
2311 @itemx :broadcast
2312 @itemx :dontroute
2313 @itemx :keepalive
2314 @itemx :linger
2315 @itemx :oobinline
2316 @itemx :priority
2317 @itemx :reuseaddr
2318 That particular network option is supported by
2319 @code{make-network-process} and @code{set-network-process-option}.
2320 @end table
2322 @node Misc Network
2323 @section Misc Network Facilities
2325   These additional functions are useful for creating and operating
2326 on network connections.  Note that they are supported only on some
2327 systems.
2329 @defun network-interface-list
2330 This function returns a list describing the network interfaces
2331 of the machine you are using.  The value is an alist whose
2332 elements have the form @code{(@var{name} . @var{address})}.
2333 @var{address} has the same form as the @var{local-address}
2334 and @var{remote-address} arguments to @code{make-network-process}.
2335 @end defun
2337 @defun network-interface-info ifname
2338 This function returns information about the network interface named
2339 @var{ifname}.  The value is a list of the form
2340 @code{(@var{addr} @var{bcast} @var{netmask} @var{hwaddr} @var{flags})}.
2342 @table @var
2343 @item addr
2344 The Internet protocol address.
2345 @item bcast
2346 The broadcast address.
2347 @item netmask
2348 The network mask.
2349 @item hwaddr
2350 The layer 2 address (Ethernet MAC address, for instance).
2351 @item flags
2352 The current flags of the interface.
2353 @end table
2354 @end defun
2356 @defun format-network-address address &optional omit-port
2357 This function converts the Lisp representation of a network address to
2358 a string.
2360 A five-element vector @code{[@var{a} @var{b} @var{c} @var{d} @var{p}]}
2361 represents an IPv4 address @var{a}.@var{b}.@var{c}.@var{d} and port
2362 number @var{p}.  @code{format-network-address} converts that to the
2363 string @code{"@var{a}.@var{b}.@var{c}.@var{d}:@var{p}"}.
2365 A nine-element vector @code{[@var{a} @var{b} @var{c} @var{d} @var{e}
2366 @var{f} @var{g} @var{h} @var{p}]} represents an IPv6 address along
2367 with a port number.  @code{format-network-address} converts that to
2368 the string
2369 @code{"[@var{a}:@var{b}:@var{c}:@var{d}:@var{e}:@var{f}:@var{g}:@var{h}]:@var{p}"}.
2371 If the vector does not include the port number, @var{p}, or if
2372 @var{omit-port} is non-@code{nil}, the result does not include the
2373 @code{:@var{p}} suffix.
2374 @end defun
2376 @node Serial Ports
2377 @section Communicating with Serial Ports
2378 @cindex @file{/dev/tty}
2379 @cindex @file{COM1}
2380 @cindex serial connections
2382   Emacs can communicate with serial ports.  For interactive use,
2383 @kbd{M-x serial-term} opens a terminal window.  In a Lisp program,
2384 @code{make-serial-process} creates a process object.
2386   The serial port can be configured at run-time, without having to
2387 close and re-open it.  The function @code{serial-process-configure}
2388 lets you change the speed, bytesize, and other parameters.  In a
2389 terminal window created by @code{serial-term}, you can click on the
2390 mode line for configuration.
2392   A serial connection is represented by a process object which can be
2393 used similar to a subprocess or network process.  You can send and
2394 receive data and configure the serial port.  A serial process object
2395 has no process ID, you can't send signals to it, and the status codes
2396 are different from other types of processes.
2397 @code{delete-process} on the process object or @code{kill-buffer} on
2398 the process buffer close the connection, but this does not affect the
2399 device connected to the serial port.
2401   The function @code{process-type} returns the symbol @code{serial}
2402 for a process object representing a serial port connection.
2404   Serial ports are available on GNU/Linux, Unix, and Windows systems.
2406 @deffn Command serial-term port speed
2407 Start a terminal-emulator for a serial port in a new buffer.
2408 @var{port} is the name of the serial port to which to connect.  For
2409 example, this could be @file{/dev/ttyS0} on Unix.  On Windows, this
2410 could be @file{COM1}, or @file{\\.\COM10} (double the backslashes in
2411 Lisp strings).
2413 @var{speed} is the speed of the serial port in bits per second.  9600
2414 is a common value.  The buffer is in Term mode; see @ref{Term Mode,,,
2415 emacs, The GNU Emacs Manual}, for the commands to use in that buffer.
2416 You can change the speed and the configuration in the mode line menu.
2417 @end deffn
2419 @defun make-serial-process &rest args
2420 This function creates a process and a buffer.  Arguments are specified
2421 as keyword/argument pairs.  Here's the list of the meaningful keywords:
2423 @table @code
2424 @item :port @var{port}@r{ (mandatory)}
2425 This is the name of the serial port.  On Unix and GNU systems, this is
2426 a file name such as @file{/dev/ttyS0}.  On Windows, this could be
2427 @file{COM1}, or @file{\\.\COM10} for ports higher than @file{COM9}
2428 (double the backslashes in Lisp strings).
2430 @item :speed @var{speed}@r{ (mandatory)}
2431 The speed of the serial port in bits per second.  This function calls
2432 @code{serial-process-configure} to handle the speed.
2434 @item :name @var{name}
2435 The name of the process.  If @var{name} is not given, @var{port} will
2436 serve as the process name as well.
2438 @item :buffer @var{buffer}
2439 The buffer to associate with the process.  The value could be either a
2440 buffer or a string that names a buffer.  Process output goes at the
2441 end of that buffer, unless you specify an output stream or filter
2442 function to handle the output.  If @var{buffer} is not given, the
2443 process buffer's name is taken from the value of the @code{:name}
2444 keyword.
2446 @item :coding @var{coding}
2447 If @var{coding} is a symbol, it specifies the coding system used for
2448 both reading and writing for this process.  If @var{coding} is a cons
2449 @code{(decoding . encoding)}, @var{decoding} is used for reading, and
2450 @var{encoding} is used for writing.  If not specified, the default is
2451 to determine the coding systems from data itself.
2453 @item :noquery @var{query-flag}
2454 Initialize the process query flag to @var{query-flag}.  @xref{Query
2455 Before Exit}.  The flags defaults to @code{nil} if unspecified.
2457 @item :stop @var{bool}
2458 Start process in the @code{stopped} state if @var{bool} is
2459 non-@code{nil}.  In the stopped state, a serial process does not
2460 accept incoming data, but you can send outgoing data.  The stopped
2461 state is cleared by @code{continue-process} and set by
2462 @code{stop-process}.
2464 @item :filter @var{filter}
2465 Install @var{filter} as the process filter.
2467 @item :sentinel @var{sentinel}
2468 Install @var{sentinel} as the process sentinel.
2470 @item :plist @var{plist}
2471 Install @var{plist} as the initial plist of the process.
2473 @item :speed
2474 @itemx :bytesize
2475 @itemx :parity
2476 @itemx :stopbits
2477 @itemx :flowcontrol
2478 These arguments are handled by @code{serial-process-configure}, which
2479 is called by @code{make-serial-process}.
2480 @end table
2482 The original argument list, possibly modified by later configuration,
2483 is available via the function @code{process-contact}.
2485 Examples:
2487 @example
2488 (make-serial-process :port "/dev/ttyS0" :speed 9600)
2490 (make-serial-process :port "COM1" :speed 115200 :stopbits 2)
2492 (make-serial-process :port "\\\\.\\COM13" :speed 1200
2493                      :bytesize 7 :parity 'odd)
2495 (make-serial-process :port "/dev/tty.BlueConsole-SPP-1"
2496                      :speed nil)
2497 @end example
2498 @end defun
2500 @defun serial-process-configure &rest args
2501 @cindex baud, in serial connections
2502 @cindex bytesize, in serial connections
2503 @cindex parity, in serial connections
2504 @cindex stopbits, in serial connections
2505 @cindex flowcontrol, in serial connections
2507 This functions configures a serial port connection.  Arguments are
2508 specified as keyword/argument pairs.  Attributes that are not given
2509 are re-initialized from the process's current configuration (available
2510 via the function @code{process-contact}) or set to reasonable default
2511 values.  The following arguments are defined:
2513 @table @code
2514 @item :process @var{process}
2515 @itemx :name @var{name}
2516 @itemx :buffer @var{buffer}
2517 @itemx :port @var{port}
2518 Any of these arguments can be given to identify the process that is to
2519 be configured.  If none of these arguments is given, the current
2520 buffer's process is used.
2522 @item :speed @var{speed}
2523 The speed of the serial port in bits per second, a.k.a.@: @dfn{baud
2524 rate}.  The value can be any number, but most serial ports work only
2525 at a few defined values between 1200 and 115200, with 9600 being the
2526 most common value.  If @var{speed} is @code{nil}, the function ignores
2527 all other arguments and does not configure the port.  This may be
2528 useful for special serial ports such as Bluetooth-to-serial converters
2529 which can only be configured through AT commands sent through the
2530 connection.  The value of @code{nil} for @var{speed} is valid only for
2531 connections that were already opened by a previous call to
2532 @code{make-serial-process} or @code{serial-term}.
2534 @item :bytesize @var{bytesize}
2535 The number of bits per byte, which can be 7 or 8.  If @var{bytesize}
2536 is not given or @code{nil}, it defaults to 8.
2538 @item :parity @var{parity}
2539 The value can be @code{nil} (don't use parity), the symbol
2540 @code{odd} (use odd parity), or the symbol @code{even} (use even
2541 parity).  If @var{parity} is not given, it defaults to no parity.
2543 @item :stopbits @var{stopbits}
2544 The number of stopbits used to terminate a transmission
2545 of each byte.  @var{stopbits} can be 1 or 2.  If @var{stopbits} is not
2546 given or @code{nil}, it defaults to 1.
2548 @item :flowcontrol @var{flowcontrol}
2549 The type of flow control to use for this connection, which is either
2550 @code{nil} (don't use flow control), the symbol @code{hw} (use RTS/CTS
2551 hardware flow control), or the symbol @code{sw} (use XON/XOFF software
2552 flow control).  If @var{flowcontrol} is not given, it defaults to no
2553 flow control.
2554 @end table
2556 @code{serial-process-configure} is called by @code{make-serial-process} for the
2557 initial configuration of the serial port.
2559 Examples:
2561 @example
2562 (serial-process-configure :process "/dev/ttyS0" :speed 1200)
2564 (serial-process-configure :buffer "COM1" :stopbits 1
2565                           :parity 'odd :flowcontrol 'hw)
2567 (serial-process-configure :port "\\\\.\\COM13" :bytesize 7)
2568 @end example
2569 @end defun
2571 @node Byte Packing
2572 @section Packing and Unpacking Byte Arrays
2573 @cindex byte packing and unpacking
2575   This section describes how to pack and unpack arrays of bytes,
2576 usually for binary network protocols.  These functions convert byte arrays
2577 to alists, and vice versa.  The byte array can be represented as a
2578 unibyte string or as a vector of integers, while the alist associates
2579 symbols either with fixed-size objects or with recursive sub-alists.
2581 @cindex serializing
2582 @cindex deserializing
2583 @cindex packing
2584 @cindex unpacking
2585   Conversion from byte arrays to nested alists is also known as
2586 @dfn{deserializing} or @dfn{unpacking}, while going in the opposite
2587 direction is also known as @dfn{serializing} or @dfn{packing}.
2589 @menu
2590 * Bindat Spec::         Describing data layout.
2591 * Bindat Functions::    Doing the unpacking and packing.
2592 * Bindat Examples::     Samples of what bindat.el can do for you!
2593 @end menu
2595 @node Bindat Spec
2596 @subsection Describing Data Layout
2598   To control unpacking and packing, you write a @dfn{data layout
2599 specification}, a special nested list describing named and typed
2600 @dfn{fields}.  This specification controls length of each field to be
2601 processed, and how to pack or unpack it.  We normally keep bindat specs
2602 in variables whose names end in @samp{-bindat-spec}; that kind of name
2603 is automatically recognized as ``risky.''
2605 @cindex endianness
2606 @cindex big endian
2607 @cindex little endian
2608 @cindex network byte ordering
2609   A field's @dfn{type} describes the size (in bytes) of the object
2610 that the field represents and, in the case of multibyte fields, how
2611 the bytes are ordered within the field.  The two possible orderings
2612 are ``big endian'' (also known as ``network byte ordering'') and
2613 ``little endian.''  For instance, the number @code{#x23cd} (decimal
2614 9165) in big endian would be the two bytes @code{#x23} @code{#xcd};
2615 and in little endian, @code{#xcd} @code{#x23}.  Here are the possible
2616 type values:
2618 @table @code
2619 @item u8
2620 @itemx byte
2621 Unsigned byte, with length 1.
2623 @item u16
2624 @itemx word
2625 @itemx short
2626 Unsigned integer in network byte order, with length 2.
2628 @item u24
2629 Unsigned integer in network byte order, with length 3.
2631 @item u32
2632 @itemx dword
2633 @itemx long
2634 Unsigned integer in network byte order, with length 4.
2635 Note: These values may be limited by Emacs' integer implementation limits.
2637 @item u16r
2638 @itemx u24r
2639 @itemx u32r
2640 Unsigned integer in little endian order, with length 2, 3 and 4, respectively.
2642 @item str @var{len}
2643 String of length @var{len}.
2645 @item strz @var{len}
2646 Zero-terminated string, in a fixed-size field with length @var{len}.
2648 @item vec @var{len} [@var{type}]
2649 Vector of @var{len} elements of type @var{type}, or bytes if not
2650 @var{type} is specified.
2651 The @var{type} is any of the simple types above, or another vector
2652 specified as a list @code{(vec @var{len} [@var{type}])}.
2654 @item ip
2655 Four-byte vector representing an Internet address.  For example:
2656 @code{[127 0 0 1]} for localhost.
2658 @item bits @var{len}
2659 List of set bits in @var{len} bytes.  The bytes are taken in big
2660 endian order and the bits are numbered starting with @code{8 *
2661 @var{len} @minus{} 1} and ending with zero.  For example: @code{bits
2662 2} unpacks @code{#x28} @code{#x1c} to @code{(2 3 4 11 13)} and
2663 @code{#x1c} @code{#x28} to @code{(3 5 10 11 12)}.
2665 @item (eval @var{form})
2666 @var{form} is a Lisp expression evaluated at the moment the field is
2667 unpacked or packed.  The result of the evaluation should be one of the
2668 above-listed type specifications.
2669 @end table
2671 For a fixed-size field, the length @var{len} is given as an integer
2672 specifying the number of bytes in the field.
2674 When the length of a field is not fixed, it typically depends on the
2675 value of a preceding field.  In this case, the length @var{len} can be
2676 given either as a list @code{(@var{name} ...)} identifying a
2677 @dfn{field name} in the format specified for @code{bindat-get-field}
2678 below, or by an expression @code{(eval @var{form})} where @var{form}
2679 should evaluate to an integer, specifying the field length.
2681 A field specification generally has the form @code{([@var{name}]
2682 @var{handler})}.  The square braces indicate that @var{name} is
2683 optional.  (Don't use names that are symbols meaningful as type
2684 specifications (above) or handler specifications (below), since that
2685 would be ambiguous.)  @var{name} can be a symbol or the expression
2686 @code{(eval @var{form})}, in which case @var{form} should evaluate to
2687 a symbol.
2689 @var{handler} describes how to unpack or pack the field and can be one
2690 of the following:
2692 @table @code
2693 @item @var{type}
2694 Unpack/pack this field according to the type specification @var{type}.
2696 @item eval @var{form}
2697 Evaluate @var{form}, a Lisp expression, for side-effect only.  If the
2698 field name is specified, the value is bound to that field name.
2700 @item fill @var{len}
2701 Skip @var{len} bytes.  In packing, this leaves them unchanged,
2702 which normally means they remain zero.  In unpacking, this means
2703 they are ignored.
2705 @item align @var{len}
2706 Skip to the next multiple of @var{len} bytes.
2708 @item struct @var{spec-name}
2709 Process @var{spec-name} as a sub-specification.  This describes a
2710 structure nested within another structure.
2712 @item union @var{form} (@var{tag} @var{spec})@dots{}
2713 @c ??? I don't see how one would actually  use this.
2714 @c ??? what kind of expression would be useful for @var{form}?
2715 Evaluate @var{form}, a Lisp expression, find the first @var{tag}
2716 that matches it, and process its associated data layout specification
2717 @var{spec}.  Matching can occur in one of three ways:
2719 @itemize
2720 @item
2721 If a @var{tag} has the form @code{(eval @var{expr})}, evaluate
2722 @var{expr} with the variable @code{tag} dynamically bound to the value
2723 of @var{form}.  A non-@code{nil} result indicates a match.
2725 @item
2726 @var{tag} matches if it is @code{equal} to the value of @var{form}.
2728 @item
2729 @var{tag} matches unconditionally if it is @code{t}.
2730 @end itemize
2732 @item repeat @var{count} @var{field-specs}@dots{}
2733 Process the @var{field-specs} recursively, in order, then repeat
2734 starting from the first one, processing all the specs @var{count}
2735 times overall.  The @var{count} is given using the same formats as a
2736 field length---if an @code{eval} form is used, it is evaluated just once.
2737 For correct operation, each spec in @var{field-specs} must include a name.
2738 @end table
2740 For the @code{(eval @var{form})} forms used in a bindat specification,
2741 the @var{form} can access and update these dynamically bound variables
2742 during evaluation:
2744 @table @code
2745 @item last
2746 Value of the last field processed.
2748 @item bindat-raw
2749 The data as a byte array.
2751 @item bindat-idx
2752 Current index (within @code{bindat-raw}) for unpacking or packing.
2754 @item struct
2755 The alist containing the structured data that have been unpacked so
2756 far, or the entire structure being packed.  You can use
2757 @code{bindat-get-field} to access specific fields of this structure.
2759 @item count
2760 @itemx index
2761 Inside a @code{repeat} block, these contain the maximum number of
2762 repetitions (as specified by the @var{count} parameter), and the
2763 current repetition number (counting from 0).  Setting @code{count} to
2764 zero will terminate the inner-most repeat block after the current
2765 repetition has completed.
2766 @end table
2768 @node Bindat Functions
2769 @subsection Functions to Unpack and Pack Bytes
2771   In the following documentation, @var{spec} refers to a data layout
2772 specification, @code{bindat-raw} to a byte array, and @var{struct} to an
2773 alist representing unpacked field data.
2775 @defun bindat-unpack spec bindat-raw &optional bindat-idx
2776 This function unpacks data from the unibyte string or byte
2777 array @code{bindat-raw}
2778 according to @var{spec}.  Normally this starts unpacking at the
2779 beginning of the byte array, but if @var{bindat-idx} is non-@code{nil}, it
2780 specifies a zero-based starting position to use instead.
2782 The value is an alist or nested alist in which each element describes
2783 one unpacked field.
2784 @end defun
2786 @defun bindat-get-field struct &rest name
2787 This function selects a field's data from the nested alist
2788 @var{struct}.  Usually @var{struct} was returned by
2789 @code{bindat-unpack}.  If @var{name} corresponds to just one argument,
2790 that means to extract a top-level field value.  Multiple @var{name}
2791 arguments specify repeated lookup of sub-structures.  An integer name
2792 acts as an array index.
2794 For example, if @var{name} is @code{(a b 2 c)}, that means to find
2795 field @code{c} in the third element of subfield @code{b} of field
2796 @code{a}.  (This corresponds to @code{struct.a.b[2].c} in C.)
2797 @end defun
2799   Although packing and unpacking operations change the organization of
2800 data (in memory), they preserve the data's @dfn{total length}, which is
2801 the sum of all the fields' lengths, in bytes.  This value is not
2802 generally inherent in either the specification or alist alone; instead,
2803 both pieces of information contribute to its calculation.  Likewise, the
2804 length of a string or array being unpacked may be longer than the data's
2805 total length as described by the specification.
2807 @defun bindat-length spec struct
2808 This function returns the total length of the data in @var{struct},
2809 according to @var{spec}.
2810 @end defun
2812 @defun bindat-pack spec struct &optional bindat-raw bindat-idx
2813 This function returns a byte array packed according to @var{spec} from
2814 the data in the alist @var{struct}.  Normally it creates and fills a
2815 new byte array starting at the beginning.  However, if @var{bindat-raw}
2816 is non-@code{nil}, it specifies a pre-allocated unibyte string or vector to
2817 pack into.  If @var{bindat-idx} is non-@code{nil}, it specifies the starting
2818 offset for packing into @code{bindat-raw}.
2820 When pre-allocating, you should make sure @code{(length @var{bindat-raw})}
2821 meets or exceeds the total length to avoid an out-of-range error.
2822 @end defun
2824 @defun bindat-ip-to-string ip
2825 Convert the Internet address vector @var{ip} to a string in the usual
2826 dotted notation.
2828 @example
2829 (bindat-ip-to-string [127 0 0 1])
2830      @result{} "127.0.0.1"
2831 @end example
2832 @end defun
2834 @node Bindat Examples
2835 @subsection Examples of Byte Unpacking and Packing
2837   Here is a complete example of byte unpacking and packing:
2839 @lisp
2840 (defvar fcookie-index-spec
2841   '((:version  u32)
2842     (:count    u32)
2843     (:longest  u32)
2844     (:shortest u32)
2845     (:flags    u32)
2846     (:delim    u8)
2847     (:ignored  fill 3)
2848     (:offset   repeat (:count)
2849                (:foo u32)))
2850   "Description of a fortune cookie index file's contents.")
2852 (defun fcookie (cookies &optional index)
2853   "Display a random fortune cookie from file COOKIES.
2854 Optional second arg INDEX specifies the associated index
2855 filename, which is by default constructed by appending
2856 \".dat\" to COOKIES.  Display cookie text in possibly
2857 new buffer \"*Fortune Cookie: BASENAME*\" where BASENAME
2858 is COOKIES without the directory part."
2859   (interactive "fCookies file: ")
2860   (let* ((info (with-temp-buffer
2861                  (insert-file-contents-literally
2862                   (or index (concat cookies ".dat")))
2863                  (bindat-unpack fcookie-index-spec
2864                                 (buffer-string))))
2865          (sel (random (bindat-get-field info :count)))
2866          (beg (cdar (bindat-get-field info :offset sel)))
2867          (end (or (cdar (bindat-get-field info
2868                                           :offset (1+ sel)))
2869                   (nth 7 (file-attributes cookies)))))
2870     (switch-to-buffer
2871      (get-buffer-create
2872       (format "*Fortune Cookie: %s*"
2873               (file-name-nondirectory cookies))))
2874     (erase-buffer)
2875     (insert-file-contents-literally
2876      cookies nil beg (- end 3))))
2878 (defun fcookie-create-index (cookies &optional index delim)
2879   "Scan file COOKIES, and write out its index file.
2880 Optional second arg INDEX specifies the index filename,
2881 which is by default constructed by appending \".dat\" to
2882 COOKIES.  Optional third arg DELIM specifies the unibyte
2883 character which, when found on a line of its own in
2884 COOKIES, indicates the border between entries."
2885   (interactive "fCookies file: ")
2886   (setq delim (or delim ?%))
2887   (let ((delim-line (format "\n%c\n" delim))
2888         (count 0)
2889         (max 0)
2890         min p q len offsets)
2891     (unless (= 3 (string-bytes delim-line))
2892       (error "Delimiter cannot be represented in one byte"))
2893     (with-temp-buffer
2894       (insert-file-contents-literally cookies)
2895       (while (and (setq p (point))
2896                   (search-forward delim-line (point-max) t)
2897                   (setq len (- (point) 3 p)))
2898         (setq count (1+ count)
2899               max (max max len)
2900               min (min (or min max) len)
2901               offsets (cons (1- p) offsets))))
2902     (with-temp-buffer
2903       (set-buffer-multibyte nil)
2904       (insert
2905        (bindat-pack
2906         fcookie-index-spec
2907         `((:version . 2)
2908           (:count . ,count)
2909           (:longest . ,max)
2910           (:shortest . ,min)
2911           (:flags . 0)
2912           (:delim . ,delim)
2913           (:offset . ,(mapcar (lambda (o)
2914                                 (list (cons :foo o)))
2915                               (nreverse offsets))))))
2916       (let ((coding-system-for-write 'raw-text-unix))
2917         (write-file (or index (concat cookies ".dat")))))))
2918 @end lisp
2920 Following is an example of defining and unpacking a complex structure.
2921 Consider the following C structures:
2923 @example
2924 struct header @{
2925     unsigned long    dest_ip;
2926     unsigned long    src_ip;
2927     unsigned short   dest_port;
2928     unsigned short   src_port;
2931 struct data @{
2932     unsigned char    type;
2933     unsigned char    opcode;
2934     unsigned short   length;  /* In network byte order */
2935     unsigned char    id[8];   /* null-terminated string  */
2936     unsigned char    data[/* (length + 3) & ~3 */];
2939 struct packet @{
2940     struct header    header;
2941     unsigned long    counters[2];  /* In little endian order */
2942     unsigned char    items;
2943     unsigned char    filler[3];
2944     struct data      item[/* items */];
2947 @end example
2949 The corresponding data layout specification:
2951 @lisp
2952 (setq header-spec
2953       '((dest-ip   ip)
2954         (src-ip    ip)
2955         (dest-port u16)
2956         (src-port  u16)))
2958 (setq data-spec
2959       '((type      u8)
2960         (opcode    u8)
2961         (length    u16)  ;; network byte order
2962         (id        strz 8)
2963         (data      vec (length))
2964         (align     4)))
2966 (setq packet-spec
2967       '((header    struct header-spec)
2968         (counters  vec 2 u32r)   ;; little endian order
2969         (items     u8)
2970         (fill      3)
2971         (item      repeat (items)
2972                    (struct data-spec))))
2973 @end lisp
2975 A binary data representation:
2977 @lisp
2978 (setq binary-data
2979       [ 192 168 1 100 192 168 1 101 01 28 21 32
2980         160 134 1 0 5 1 0 0 2 0 0 0
2981         2 3 0 5 ?A ?B ?C ?D ?E ?F 0 0 1 2 3 4 5 0 0 0
2982         1 4 0 7 ?B ?C ?D ?E ?F ?G 0 0 6 7 8 9 10 11 12 0 ])
2983 @end lisp
2985 The corresponding decoded structure:
2987 @lisp
2988 (setq decoded (bindat-unpack packet-spec binary-data))
2989      @result{}
2990 ((header
2991   (dest-ip   . [192 168 1 100])
2992   (src-ip    . [192 168 1 101])
2993   (dest-port . 284)
2994   (src-port  . 5408))
2995  (counters . [100000 261])
2996  (items . 2)
2997  (item ((data . [1 2 3 4 5])
2998         (id . "ABCDEF")
2999         (length . 5)
3000         (opcode . 3)
3001         (type . 2))
3002        ((data . [6 7 8 9 10 11 12])
3003         (id . "BCDEFG")
3004         (length . 7)
3005         (opcode . 4)
3006         (type . 1))))
3007 @end lisp
3009 Fetching data from this structure:
3011 @lisp
3012 (bindat-get-field decoded 'item 1 'id)
3013      @result{} "BCDEFG"
3014 @end lisp
3016 @ignore
3017    arch-tag: ba9da253-e65f-4e7f-b727-08fba0a1df7a
3018 @end ignore