* os.texi (Time of Day): Clarify that the microsecond part is
[emacs.git] / doc / lispref / processes.texi
blobeffada450c186a6a9c9586f6694183db8c9480d6
1 @c -*-texinfo-*-
2 @c This is part of the GNU Emacs Lisp Reference Manual.
3 @c Copyright (C) 1990, 1991, 1992, 1993, 1994, 1995, 1998, 1999, 2001,
4 @c   2002, 2003, 2004, 2005, 2006, 2007, 2008, 2009  Free Software Foundation, Inc.
5 @c See the file elisp.texi for copying conditions.
6 @setfilename ../../info/processes
7 @node Processes, Display, Abbrevs, Top
8 @chapter Processes
9 @cindex child process
10 @cindex parent process
11 @cindex subprocess
12 @cindex process
14   In the terminology of operating systems, a @dfn{process} is a space in
15 which a program can execute.  Emacs runs in a process.  Emacs Lisp
16 programs can invoke other programs in processes of their own.  These are
17 called @dfn{subprocesses} or @dfn{child processes} of the Emacs process,
18 which is their @dfn{parent process}.
20   A subprocess of Emacs may be @dfn{synchronous} or @dfn{asynchronous},
21 depending on how it is created.  When you create a synchronous
22 subprocess, the Lisp program waits for the subprocess to terminate
23 before continuing execution.  When you create an asynchronous
24 subprocess, it can run in parallel with the Lisp program.  This kind of
25 subprocess is represented within Emacs by a Lisp object which is also
26 called a ``process.''  Lisp programs can use this object to communicate
27 with the subprocess or to control it.  For example, you can send
28 signals, obtain status information, receive output from the process, or
29 send input to it.
31 @defun processp object
32 This function returns @code{t} if @var{object} represents an Emacs
33 subprocess, @code{nil} otherwise.
34 @end defun
36   In addition to subprocesses of the current Emacs session, you can
37 also access other processes running on your machine.  @xref{System
38 Processes}.
40 @menu
41 * Subprocess Creation::      Functions that start subprocesses.
42 * Shell Arguments::          Quoting an argument to pass it to a shell.
43 * Synchronous Processes::    Details of using synchronous subprocesses.
44 * Asynchronous Processes::   Starting up an asynchronous subprocess.
45 * Deleting Processes::       Eliminating an asynchronous subprocess.
46 * Process Information::      Accessing run-status and other attributes.
47 * Input to Processes::       Sending input to an asynchronous subprocess.
48 * Signals to Processes::     Stopping, continuing or interrupting
49                                an asynchronous subprocess.
50 * Output from Processes::    Collecting output from an asynchronous subprocess.
51 * Sentinels::                Sentinels run when process run-status changes.
52 * Query Before Exit::        Whether to query if exiting will kill a process.
53 * System Processes::         Accessing other processes running on your system.
54 * Transaction Queues::       Transaction-based communication with subprocesses.
55 * Network::                  Opening network connections.
56 * Network Servers::          Network servers let Emacs accept net connections.
57 * Datagrams::                UDP network connections.
58 * Low-Level Network::        Lower-level but more general function
59                                to create connections and servers.
60 * Misc Network::             Additional relevant functions for network connections.
61 * Serial Ports::             Communicating with serial ports.
62 * Byte Packing::             Using bindat to pack and unpack binary data.
63 @end menu
65 @node Subprocess Creation
66 @section Functions that Create Subprocesses
68   There are three primitives that create a new subprocess in which to run
69 a program.  One of them, @code{start-process}, creates an asynchronous
70 process and returns a process object (@pxref{Asynchronous Processes}).
71 The other two, @code{call-process} and @code{call-process-region},
72 create a synchronous process and do not return a process object
73 (@pxref{Synchronous Processes}).
75   Synchronous and asynchronous processes are explained in the following
76 sections.  Since the three functions are all called in a similar
77 fashion, their common arguments are described here.
79 @cindex execute program
80 @cindex @code{PATH} environment variable
81 @cindex @code{HOME} environment variable
82   In all cases, the function's @var{program} argument specifies the
83 program to be run.  An error is signaled if the file is not found or
84 cannot be executed.  If the file name is relative, the variable
85 @code{exec-path} contains a list of directories to search.  Emacs
86 initializes @code{exec-path} when it starts up, based on the value of
87 the environment variable @code{PATH}.  The standard file name
88 constructs, @samp{~}, @samp{.}, and @samp{..}, are interpreted as
89 usual in @code{exec-path}, but environment variable substitutions
90 (@samp{$HOME}, etc.) are not recognized; use
91 @code{substitute-in-file-name} to perform them (@pxref{File Name
92 Expansion}).  @code{nil} in this list refers to
93 @code{default-directory}.
95   Executing a program can also try adding suffixes to the specified
96 name:
98 @defvar exec-suffixes
99 This variable is a list of suffixes (strings) to try adding to the
100 specified program file name.  The list should include @code{""} if you
101 want the name to be tried exactly as specified.  The default value is
102 system-dependent.
103 @end defvar
105   @strong{Please note:} The argument @var{program} contains only the
106 name of the program; it may not contain any command-line arguments.  You
107 must use @var{args} to provide those.
109   Each of the subprocess-creating functions has a @var{buffer-or-name}
110 argument which specifies where the standard output from the program will
111 go.  It should be a buffer or a buffer name; if it is a buffer name,
112 that will create the buffer if it does not already exist.  It can also
113 be @code{nil}, which says to discard the output unless a filter function
114 handles it.  (@xref{Filter Functions}, and @ref{Read and Print}.)
115 Normally, you should avoid having multiple processes send output to the
116 same buffer because their output would be intermixed randomly.
118 @cindex program arguments
119   All three of the subprocess-creating functions have a @code{&rest}
120 argument, @var{args}.  The @var{args} must all be strings, and they are
121 supplied to @var{program} as separate command line arguments.  Wildcard
122 characters and other shell constructs have no special meanings in these
123 strings, since the strings are passed directly to the specified program.
125   The subprocess gets its current directory from the value of
126 @code{default-directory} (@pxref{File Name Expansion}).
128 @cindex environment variables, subprocesses
129   The subprocess inherits its environment from Emacs, but you can
130 specify overrides for it with @code{process-environment}.  @xref{System
131 Environment}.
133 @defvar exec-directory
134 @pindex movemail
135 The value of this variable is a string, the name of a directory that
136 contains programs that come with GNU Emacs, programs intended for Emacs
137 to invoke.  The program @code{movemail} is an example of such a program;
138 Rmail uses it to fetch new mail from an inbox.
139 @end defvar
141 @defopt exec-path
142 The value of this variable is a list of directories to search for
143 programs to run in subprocesses.  Each element is either the name of a
144 directory (i.e., a string), or @code{nil}, which stands for the default
145 directory (which is the value of @code{default-directory}).
146 @cindex program directories
148 The value of @code{exec-path} is used by @code{call-process} and
149 @code{start-process} when the @var{program} argument is not an absolute
150 file name.
151 @end defopt
153 @node Shell Arguments
154 @section Shell Arguments
155 @cindex arguments for shell commands
156 @cindex shell command arguments
158   Lisp programs sometimes need to run a shell and give it a command
159 that contains file names that were specified by the user.  These
160 programs ought to be able to support any valid file name.  But the shell
161 gives special treatment to certain characters, and if these characters
162 occur in the file name, they will confuse the shell.  To handle these
163 characters, use the function @code{shell-quote-argument}:
165 @defun shell-quote-argument argument
166 This function returns a string which represents, in shell syntax,
167 an argument whose actual contents are @var{argument}.  It should
168 work reliably to concatenate the return value into a shell command
169 and then pass it to a shell for execution.
171 Precisely what this function does depends on your operating system.  The
172 function is designed to work with the syntax of your system's standard
173 shell; if you use an unusual shell, you will need to redefine this
174 function.
176 @example
177 ;; @r{This example shows the behavior on GNU and Unix systems.}
178 (shell-quote-argument "foo > bar")
179      @result{} "foo\\ \\>\\ bar"
181 ;; @r{This example shows the behavior on MS-DOS and MS-Windows.}
182 (shell-quote-argument "foo > bar")
183      @result{} "\"foo > bar\""
184 @end example
186 Here's an example of using @code{shell-quote-argument} to construct
187 a shell command:
189 @example
190 (concat "diff -c "
191         (shell-quote-argument oldfile)
192         " "
193         (shell-quote-argument newfile))
194 @end example
195 @end defun
197 @cindex quoting and unquoting shell command line
198   The following two functions are useful for creating shell commands
199 from individual argument strings, and taking shell command lines apart
200 into individual arguments.
202 @defun split-string-and-unquote string &optional separators
203 This function splits @var{string} into substrings at matches for the
204 regular expression @var{separators}, like @code{split-string} does
205 (@pxref{Creating Strings}); in addition, it removes quoting from the
206 substrings.  It then makes a list of the substrings and returns it.
208 If @var{separators} is omitted or @code{nil}, it defaults to
209 @code{"\\s-+"}, which is a regular expression that matches one or more
210 characters with whitespace syntax (@pxref{Syntax Class Table}).
212 This function performs two types of quoting: enclosing a whole string
213 in double quotes @code{"@dots{}"}, and quoting individual characters
214 with a backslash escape @samp{\}.  The latter is also used in Lisp
215 strings, so this function can handle those as well.
216 @end defun
218 @defun combine-and-quote-strings list-of-strings &optional separator
219 This function concatenates @var{list-of-strings} into a single string,
220 quoting each string as necessary.  It also sticks the @var{separator}
221 string between each pair of strings; if @var{separator} is omitted or
222 @code{nil}, it defaults to @code{" "}.  The return value is the
223 resulting string.
225 The strings in @var{list-of-strings} that need quoting are those that
226 include @var{separator} as their substring.  Quoting a string encloses
227 it in double quotes @code{"@dots{}"}.  In the simplest case, if you
228 are consing a shell command from the individual command-line
229 arguments, every argument that includes embedded blanks will be
230 quoted.
231 @end defun
233 @node Synchronous Processes
234 @section Creating a Synchronous Process
235 @cindex synchronous subprocess
237   After a @dfn{synchronous process} is created, Emacs waits for the
238 process to terminate before continuing.  Starting Dired on GNU or
239 Unix@footnote{On other systems, Emacs uses a Lisp emulation of
240 @code{ls}; see @ref{Contents of Directories}.} is an example of this: it
241 runs @code{ls} in a synchronous process, then modifies the output
242 slightly.  Because the process is synchronous, the entire directory
243 listing arrives in the buffer before Emacs tries to do anything with it.
245   While Emacs waits for the synchronous subprocess to terminate, the
246 user can quit by typing @kbd{C-g}.  The first @kbd{C-g} tries to kill
247 the subprocess with a @code{SIGINT} signal; but it waits until the
248 subprocess actually terminates before quitting.  If during that time the
249 user types another @kbd{C-g}, that kills the subprocess instantly with
250 @code{SIGKILL} and quits immediately (except on MS-DOS, where killing
251 other processes doesn't work).  @xref{Quitting}.
253   The synchronous subprocess functions return an indication of how the
254 process terminated.
256   The output from a synchronous subprocess is generally decoded using a
257 coding system, much like text read from a file.  The input sent to a
258 subprocess by @code{call-process-region} is encoded using a coding
259 system, much like text written into a file.  @xref{Coding Systems}.
261 @defun call-process program &optional infile destination display &rest args
262 This function calls @var{program} in a separate process and waits for
263 it to finish.
265 The standard input for the process comes from file @var{infile} if
266 @var{infile} is not @code{nil}, and from the null device otherwise.
267 The argument @var{destination} says where to put the process output.
268 Here are the possibilities:
270 @table @asis
271 @item a buffer
272 Insert the output in that buffer, before point.  This includes both the
273 standard output stream and the standard error stream of the process.
275 @item a string
276 Insert the output in a buffer with that name, before point.
278 @item @code{t}
279 Insert the output in the current buffer, before point.
281 @item @code{nil}
282 Discard the output.
284 @item 0
285 Discard the output, and return @code{nil} immediately without waiting
286 for the subprocess to finish.
288 In this case, the process is not truly synchronous, since it can run in
289 parallel with Emacs; but you can think of it as synchronous in that
290 Emacs is essentially finished with the subprocess as soon as this
291 function returns.
293 MS-DOS doesn't support asynchronous subprocesses, so this option doesn't
294 work there.
296 @item @code{(@var{real-destination} @var{error-destination})}
297 Keep the standard output stream separate from the standard error stream;
298 deal with the ordinary output as specified by @var{real-destination},
299 and dispose of the error output according to @var{error-destination}.
300 If @var{error-destination} is @code{nil}, that means to discard the
301 error output, @code{t} means mix it with the ordinary output, and a
302 string specifies a file name to redirect error output into.
304 You can't directly specify a buffer to put the error output in; that is
305 too difficult to implement.  But you can achieve this result by sending
306 the error output to a temporary file and then inserting the file into a
307 buffer.
308 @end table
310 If @var{display} is non-@code{nil}, then @code{call-process} redisplays
311 the buffer as output is inserted.  (However, if the coding system chosen
312 for decoding output is @code{undecided}, meaning deduce the encoding
313 from the actual data, then redisplay sometimes cannot continue once
314 non-@acronym{ASCII} characters are encountered.  There are fundamental
315 reasons why it is hard to fix this; see @ref{Output from Processes}.)
317 Otherwise the function @code{call-process} does no redisplay, and the
318 results become visible on the screen only when Emacs redisplays that
319 buffer in the normal course of events.
321 The remaining arguments, @var{args}, are strings that specify command
322 line arguments for the program.
324 The value returned by @code{call-process} (unless you told it not to
325 wait) indicates the reason for process termination.  A number gives the
326 exit status of the subprocess; 0 means success, and any other value
327 means failure.  If the process terminated with a signal,
328 @code{call-process} returns a string describing the signal.
330 In the examples below, the buffer @samp{foo} is current.
332 @smallexample
333 @group
334 (call-process "pwd" nil t)
335      @result{} 0
337 ---------- Buffer: foo ----------
338 /usr/user/lewis/manual
339 ---------- Buffer: foo ----------
340 @end group
342 @group
343 (call-process "grep" nil "bar" nil "lewis" "/etc/passwd")
344      @result{} 0
346 ---------- Buffer: bar ----------
347 lewis:5LTsHm66CSWKg:398:21:Bil Lewis:/user/lewis:/bin/csh
349 ---------- Buffer: bar ----------
350 @end group
351 @end smallexample
353 Here is a good example of the use of @code{call-process}, which used to
354 be found in the definition of @code{insert-directory}:
356 @smallexample
357 @group
358 (call-process insert-directory-program nil t nil @var{switches}
359               (if full-directory-p
360                   (concat (file-name-as-directory file) ".")
361                 file))
362 @end group
363 @end smallexample
364 @end defun
366 @defun process-file program &optional infile buffer display &rest args
367 This function processes files synchronously in a separate process.  It
368 is similar to @code{call-process} but may invoke a file handler based
369 on the value of the variable @code{default-directory}.  The current
370 working directory of the subprocess is @code{default-directory}.
372 The arguments are handled in almost the same way as for
373 @code{call-process}, with the following differences:
375 Some file handlers may not support all combinations and forms of the
376 arguments @var{infile}, @var{buffer}, and @var{display}.  For example,
377 some file handlers might behave as if @var{display} were @code{nil},
378 regardless of the value actually passed.  As another example, some
379 file handlers might not support separating standard output and error
380 output by way of the @var{buffer} argument.
382 If a file handler is invoked, it determines the program to run based
383 on the first argument @var{program}.  For instance, consider that a
384 handler for remote files is invoked.  Then the path that is used for
385 searching the program might be different than @code{exec-path}.
387 The second argument @var{infile} may invoke a file handler.  The file
388 handler could be different from the handler chosen for the
389 @code{process-file} function itself.  (For example,
390 @code{default-directory} could be on a remote host, whereas
391 @var{infile} is on another remote host.  Or @code{default-directory}
392 could be non-special, whereas @var{infile} is on a remote host.)
394 If @var{buffer} is a list of the form @code{(@var{real-destination}
395 @var{error-destination})}, and @var{error-destination} names a file,
396 then the same remarks as for @var{infile} apply.
398 The remaining arguments (@var{args}) will be passed to the process
399 verbatim.  Emacs is not involved in processing file names that are
400 present in @var{args}.  To avoid confusion, it may be best to avoid
401 absolute file names in @var{args}, but rather to specify all file
402 names as relative to @code{default-directory}.  The function
403 @code{file-relative-name} is useful for constructing such relative
404 file names.
405 @end defun
407 @defvar process-file-side-effects
408 This variable indicates, whether a call of @code{process-file} changes
409 remote files.
411 Per default, this variable is always set to @code{t}, meaning that a
412 call of @code{process-file} could potentially change any file on a
413 remote host.  When set to @code{nil}, a file handler could optimize
414 its behaviour with respect to remote file attributes caching.
416 This variable should never be changed by @code{setq}.  Instead of, it
417 shall be set only by let-binding.
418 @end defvar
420 @defun call-process-region start end program &optional delete destination display &rest args
421 This function sends the text from @var{start} to @var{end} as
422 standard input to a process running @var{program}.  It deletes the text
423 sent if @var{delete} is non-@code{nil}; this is useful when
424 @var{destination} is @code{t}, to insert the output in the current
425 buffer in place of the input.
427 The arguments @var{destination} and @var{display} control what to do
428 with the output from the subprocess, and whether to update the display
429 as it comes in.  For details, see the description of
430 @code{call-process}, above.  If @var{destination} is the integer 0,
431 @code{call-process-region} discards the output and returns @code{nil}
432 immediately, without waiting for the subprocess to finish (this only
433 works if asynchronous subprocesses are supported).
435 The remaining arguments, @var{args}, are strings that specify command
436 line arguments for the program.
438 The return value of @code{call-process-region} is just like that of
439 @code{call-process}: @code{nil} if you told it to return without
440 waiting; otherwise, a number or string which indicates how the
441 subprocess terminated.
443 In the following example, we use @code{call-process-region} to run the
444 @code{cat} utility, with standard input being the first five characters
445 in buffer @samp{foo} (the word @samp{input}).  @code{cat} copies its
446 standard input into its standard output.  Since the argument
447 @var{destination} is @code{t}, this output is inserted in the current
448 buffer.
450 @smallexample
451 @group
452 ---------- Buffer: foo ----------
453 input@point{}
454 ---------- Buffer: foo ----------
455 @end group
457 @group
458 (call-process-region 1 6 "cat" nil t)
459      @result{} 0
461 ---------- Buffer: foo ----------
462 inputinput@point{}
463 ---------- Buffer: foo ----------
464 @end group
465 @end smallexample
467   The @code{shell-command-on-region} command uses
468 @code{call-process-region} like this:
470 @smallexample
471 @group
472 (call-process-region
473  start end
474  shell-file-name      ; @r{Name of program.}
475  nil                  ; @r{Do not delete region.}
476  buffer               ; @r{Send output to @code{buffer}.}
477  nil                  ; @r{No redisplay during output.}
478  "-c" command)        ; @r{Arguments for the shell.}
479 @end group
480 @end smallexample
481 @end defun
483 @defun call-process-shell-command command &optional infile destination display &rest args
484 This function executes the shell command @var{command} synchronously
485 in a separate process.  The final arguments @var{args} are additional
486 arguments to add at the end of @var{command}.  The other arguments
487 are handled as in @code{call-process}.
488 @end defun
490 @defun process-file-shell-command command &optional infile destination display &rest args
491 This function is like @code{call-process-shell-command}, but uses
492 @code{process-file} internally.  Depending on @code{default-directory},
493 @var{command} can be executed also on remote hosts.
494 @end defun
496 @defun shell-command-to-string command
497 This function executes @var{command} (a string) as a shell command,
498 then returns the command's output as a string.
499 @end defun
501 @defun process-lines program &rest args
502 This function runs @var{program} in a separate process, waits for it
503 to finish, and returns its output as a list of strings.  Each string
504 in the list holds a single line of text output by the program; the
505 end-of-line characters are stripped from each line.  The arguments
506 beyond @var{program}, @var{args}, are strings that specify
507 command-line arguments with which to run the program.
509 If @var{program} exits with a non-zero exit status, this function
510 signals an error.
512 This function works by calling @code{call-process}, so program output
513 is decoded in the same way as for @code{call-process}.
514 @end defun
516 @node Asynchronous Processes
517 @section Creating an Asynchronous Process
518 @cindex asynchronous subprocess
520   After an @dfn{asynchronous process} is created, Emacs and the subprocess
521 both continue running immediately.  The process thereafter runs
522 in parallel with Emacs, and the two can communicate with each other
523 using the functions described in the following sections.  However,
524 communication is only partially asynchronous: Emacs sends data to the
525 process only when certain functions are called, and Emacs accepts data
526 from the process only when Emacs is waiting for input or for a time
527 delay.
529   Here we describe how to create an asynchronous process.
531 @defun start-process name buffer-or-name program &rest args
532 This function creates a new asynchronous subprocess and starts the
533 program @var{program} running in it.  It returns a process object that
534 stands for the new subprocess in Lisp.  The argument @var{name}
535 specifies the name for the process object; if a process with this name
536 already exists, then @var{name} is modified (by appending @samp{<1>},
537 etc.) to be unique.  The buffer @var{buffer-or-name} is the buffer to
538 associate with the process.
540 The remaining arguments, @var{args}, are strings that specify command
541 line arguments for the program.
543 In the example below, the first process is started and runs (rather,
544 sleeps) for 100 seconds.  Meanwhile, the second process is started, and
545 given the name @samp{my-process<1>} for the sake of uniqueness.  It
546 inserts the directory listing at the end of the buffer @samp{foo},
547 before the first process finishes.  Then it finishes, and a message to
548 that effect is inserted in the buffer.  Much later, the first process
549 finishes, and another message is inserted in the buffer for it.
551 @smallexample
552 @group
553 (start-process "my-process" "foo" "sleep" "100")
554      @result{} #<process my-process>
555 @end group
557 @group
558 (start-process "my-process" "foo" "ls" "-l" "/user/lewis/bin")
559      @result{} #<process my-process<1>>
561 ---------- Buffer: foo ----------
562 total 2
563 lrwxrwxrwx  1 lewis     14 Jul 22 10:12 gnuemacs --> /emacs
564 -rwxrwxrwx  1 lewis     19 Jul 30 21:02 lemon
566 Process my-process<1> finished
568 Process my-process finished
569 ---------- Buffer: foo ----------
570 @end group
571 @end smallexample
572 @end defun
574 @defun start-file-process name buffer-or-name program &rest args
575 Like @code{start-process}, this function starts a new asynchronous
576 subprocess running @var{program} in it, and returns its process
577 object---when @code{default-directory} is not a magic file name.
579 If @code{default-directory} is magic, the function invokes its file
580 handler instead.  This handler ought to run @var{program}, perhaps on
581 the local host, perhaps on a remote host that corresponds to
582 @code{default-directory}.  In the latter case, the local part of
583 @code{default-directory} becomes the working directory of the process.
585 This function does not try to invoke file name handlers for
586 @var{program} or for the @var{program-args}.
588 Depending on the implementation of the file handler, it might not be
589 possible to apply @code{process-filter} or @code{process-sentinel} to
590 the resulting process object (@pxref{Filter Functions}, @pxref{Sentinels}).
592 Some file handlers may not support @code{start-file-process} (for
593 example @code{ange-ftp-hook-function}).  In such cases, the function
594 does nothing and returns @code{nil}.
595 @end defun
597 @defun start-process-shell-command name buffer-or-name command
598 This function is like @code{start-process} except that it uses a shell
599 to execute the specified command.  The argument @var{command} is a shell
600 command name.  The variable @code{shell-file-name} specifies which shell to
601 use.
603 The point of running a program through the shell, rather than directly
604 with @code{start-process}, is so that you can employ shell features such
605 as wildcards in the arguments.  It follows that if you include an
606 arbitrary user-specified arguments in the command, you should quote it
607 with @code{shell-quote-argument} first, so that any special shell
608 characters do @emph{not} have their special shell meanings.  @xref{Shell
609 Arguments}.
610 @end defun
612 @defun start-file-process-shell-command name buffer-or-name command
613 This function is like @code{start-process-shell-command}, but uses
614 @code{start-file-process} internally.  By this, @var{command} can be
615 executed also on remote hosts, depending on @code{default-directory}.
616 @end defun
618 @defvar process-connection-type
619 @cindex pipes
620 @cindex @acronym{PTY}s
621 This variable controls the type of device used to communicate with
622 asynchronous subprocesses.  If it is non-@code{nil}, then @acronym{PTY}s are
623 used, when available.  Otherwise, pipes are used.
625 @acronym{PTY}s are usually preferable for processes visible to the user, as
626 in Shell mode, because they allow job control (@kbd{C-c}, @kbd{C-z},
627 etc.) to work between the process and its children, whereas pipes do
628 not.  For subprocesses used for internal purposes by programs, it is
629 often better to use a pipe, because they are more efficient.  In
630 addition, the total number of @acronym{PTY}s is limited on many systems and
631 it is good not to waste them.
633 The value of @code{process-connection-type} takes effect when
634 @code{start-process} is called.  So you can specify how to communicate
635 with one subprocess by binding the variable around the call to
636 @code{start-process}.
638 @smallexample
639 @group
640 (let ((process-connection-type nil))  ; @r{Use a pipe.}
641   (start-process @dots{}))
642 @end group
643 @end smallexample
645 To determine whether a given subprocess actually got a pipe or a
646 @acronym{PTY}, use the function @code{process-tty-name} (@pxref{Process
647 Information}).
648 @end defvar
650 @node Deleting Processes
651 @section Deleting Processes
652 @cindex deleting processes
654   @dfn{Deleting a process} disconnects Emacs immediately from the
655 subprocess.  Processes are deleted automatically after they terminate,
656 but not necessarily right away.  You can delete a process explicitly
657 at any time.  If you delete a terminated process explicitly before it
658 is deleted automatically, no harm results.  Deleting a running
659 process sends a signal to terminate it (and its child processes if
660 any), and calls the process sentinel if it has one.  @xref{Sentinels}.
662   When a process is deleted, the process object itself continues to
663 exist as long as other Lisp objects point to it.  All the Lisp
664 primitives that work on process objects accept deleted processes, but
665 those that do I/O or send signals will report an error.  The process
666 mark continues to point to the same place as before, usually into a
667 buffer where output from the process was being inserted.
669 @defopt delete-exited-processes
670 This variable controls automatic deletion of processes that have
671 terminated (due to calling @code{exit} or to a signal).  If it is
672 @code{nil}, then they continue to exist until the user runs
673 @code{list-processes}.  Otherwise, they are deleted immediately after
674 they exit.
675 @end defopt
677 @defun delete-process process
678 This function deletes a process, killing it with a @code{SIGKILL}
679 signal.  The argument may be a process, the name of a process, a
680 buffer, or the name of a buffer.  (A buffer or buffer-name stands for
681 the process that @code{get-buffer-process} returns.)  Calling
682 @code{delete-process} on a running process terminates it, updates the
683 process status, and runs the sentinel (if any) immediately.  If the
684 process has already terminated, calling @code{delete-process} has no
685 effect on its status, or on the running of its sentinel (which will
686 happen sooner or later).
688 @smallexample
689 @group
690 (delete-process "*shell*")
691      @result{} nil
692 @end group
693 @end smallexample
694 @end defun
696 @node Process Information
697 @section Process Information
699   Several functions return information about processes.
700 @code{list-processes} is provided for interactive use.
702 @deffn Command list-processes &optional query-only
703 This command displays a listing of all living processes.  In addition,
704 it finally deletes any process whose status was @samp{Exited} or
705 @samp{Signaled}.  It returns @code{nil}.
707 If @var{query-only} is non-@code{nil} then it lists only processes
708 whose query flag is non-@code{nil}.  @xref{Query Before Exit}.
709 @end deffn
711 @defun process-list
712 This function returns a list of all processes that have not been deleted.
714 @smallexample
715 @group
716 (process-list)
717      @result{} (#<process display-time> #<process shell>)
718 @end group
719 @end smallexample
720 @end defun
722 @defun get-process name
723 This function returns the process named @var{name}, or @code{nil} if
724 there is none.  An error is signaled if @var{name} is not a string.
726 @smallexample
727 @group
728 (get-process "shell")
729      @result{} #<process shell>
730 @end group
731 @end smallexample
732 @end defun
734 @defun process-command process
735 This function returns the command that was executed to start
736 @var{process}.  This is a list of strings, the first string being the
737 program executed and the rest of the strings being the arguments that
738 were given to the program.
740 @smallexample
741 @group
742 (process-command (get-process "shell"))
743      @result{} ("/bin/csh" "-i")
744 @end group
745 @end smallexample
746 @end defun
748 @defun process-contact process &optional key
750 This function returns information about how a network or serial
751 process was set up.  For a network process, when @var{key} is
752 @code{nil}, it returns @code{(@var{hostname} @var{service})} which
753 specifies what you connected to.  For a serial process, when @var{key}
754 is @code{nil}, it returns @code{(@var{port} @var{speed})}.  For an
755 ordinary child process, this function always returns @code{t}.
757 If @var{key} is @code{t}, the value is the complete status information
758 for the connection, server, or serial port; that is, the list of
759 keywords and values specified in @code{make-network-process} or
760 @code{make-serial-process}, except that some of the values represent
761 the current status instead of what you specified.
763 For a network process:
765 @table @code
766 @item :buffer
767 The associated value is the process buffer.
768 @item :filter
769 The associated value is the process filter function.
770 @item :sentinel
771 The associated value is the process sentinel function.
772 @item :remote
773 In a connection, the address in internal format of the remote peer.
774 @item :local
775 The local address, in internal format.
776 @item :service
777 In a server, if you specified @code{t} for @var{service},
778 this value is the actual port number.
779 @end table
781 @code{:local} and @code{:remote} are included even if they were not
782 specified explicitly in @code{make-network-process}.
784 For a serial process, see @code{make-serial-process} and
785 @code{serial-process-configure} for a list of keys.
787 If @var{key} is a keyword, the function returns the value corresponding
788 to that keyword.
789 @end defun
791 @defun process-id process
792 This function returns the @acronym{PID} of @var{process}.  This is an
793 integer that distinguishes the process @var{process} from all other
794 processes running on the same computer at the current time.  The
795 @acronym{PID} of a process is chosen by the operating system kernel when the
796 process is started and remains constant as long as the process exists.
797 @end defun
799 @defun process-name process
800 This function returns the name of @var{process}.
801 @end defun
803 @defun process-status process-name
804 This function returns the status of @var{process-name} as a symbol.
805 The argument @var{process-name} must be a process, a buffer, or a
806 process name (a string).
808 The possible values for an actual subprocess are:
810 @table @code
811 @item run
812 for a process that is running.
813 @item stop
814 for a process that is stopped but continuable.
815 @item exit
816 for a process that has exited.
817 @item signal
818 for a process that has received a fatal signal.
819 @item open
820 for a network connection that is open.
821 @item closed
822 for a network connection that is closed.  Once a connection
823 is closed, you cannot reopen it, though you might be able to open
824 a new connection to the same place.
825 @item connect
826 for a non-blocking connection that is waiting to complete.
827 @item failed
828 for a non-blocking connection that has failed to complete.
829 @item listen
830 for a network server that is listening.
831 @item nil
832 if @var{process-name} is not the name of an existing process.
833 @end table
835 @smallexample
836 @group
837 (process-status (get-buffer "*shell*"))
838      @result{} run
839 @end group
840 @group
842      @result{} #<process xx<1>>
843 (process-status x)
844      @result{} exit
845 @end group
846 @end smallexample
848 For a network connection, @code{process-status} returns one of the symbols
849 @code{open} or @code{closed}.  The latter means that the other side
850 closed the connection, or Emacs did @code{delete-process}.
851 @end defun
853 @defun process-type process
854 This function returns the symbol @code{network} for a network
855 connection or server, @code{serial} for a serial port connection, or
856 @code{real} for a real subprocess.
857 @end defun
859 @defun process-exit-status process
860 This function returns the exit status of @var{process} or the signal
861 number that killed it.  (Use the result of @code{process-status} to
862 determine which of those it is.)  If @var{process} has not yet
863 terminated, the value is 0.
864 @end defun
866 @defun process-tty-name process
867 This function returns the terminal name that @var{process} is using for
868 its communication with Emacs---or @code{nil} if it is using pipes
869 instead of a terminal (see @code{process-connection-type} in
870 @ref{Asynchronous Processes}).
871 @end defun
873 @defun process-coding-system process
874 @anchor{Coding systems for a subprocess}
875 This function returns a cons cell describing the coding systems in use
876 for decoding output from @var{process} and for encoding input to
877 @var{process} (@pxref{Coding Systems}).  The value has this form:
879 @example
880 (@var{coding-system-for-decoding} . @var{coding-system-for-encoding})
881 @end example
882 @end defun
884 @defun set-process-coding-system process &optional decoding-system encoding-system
885 This function specifies the coding systems to use for subsequent output
886 from and input to @var{process}.  It will use @var{decoding-system} to
887 decode subprocess output, and @var{encoding-system} to encode subprocess
888 input.
889 @end defun
891   Every process also has a property list that you can use to store
892 miscellaneous values associated with the process.
894 @defun process-get process propname
895 This function returns the value of the @var{propname} property
896 of @var{process}.
897 @end defun
899 @defun process-put process propname value
900 This function sets the value of the @var{propname} property
901 of @var{process} to @var{value}.
902 @end defun
904 @defun process-plist process
905 This function returns the process plist of @var{process}.
906 @end defun
908 @defun set-process-plist process plist
909 This function sets the process plist of @var{process} to @var{plist}.
910 @end defun
912 @node Input to Processes
913 @section Sending Input to Processes
914 @cindex process input
916   Asynchronous subprocesses receive input when it is sent to them by
917 Emacs, which is done with the functions in this section.  You must
918 specify the process to send input to, and the input data to send.  The
919 data appears on the ``standard input'' of the subprocess.
921   Some operating systems have limited space for buffered input in a
922 @acronym{PTY}.  On these systems, Emacs sends an @acronym{EOF}
923 periodically amidst the other characters, to force them through.  For
924 most programs, these @acronym{EOF}s do no harm.
926   Subprocess input is normally encoded using a coding system before the
927 subprocess receives it, much like text written into a file.  You can use
928 @code{set-process-coding-system} to specify which coding system to use
929 (@pxref{Process Information}).  Otherwise, the coding system comes from
930 @code{coding-system-for-write}, if that is non-@code{nil}; or else from
931 the defaulting mechanism (@pxref{Default Coding Systems}).
933   Sometimes the system is unable to accept input for that process,
934 because the input buffer is full.  When this happens, the send functions
935 wait a short while, accepting output from subprocesses, and then try
936 again.  This gives the subprocess a chance to read more of its pending
937 input and make space in the buffer.  It also allows filters, sentinels
938 and timers to run---so take account of that in writing your code.
940   In these functions, the @var{process} argument can be a process or
941 the name of a process, or a buffer or buffer name (which stands
942 for a process via @code{get-buffer-process}).  @code{nil} means
943 the current buffer's process.
945 @defun process-send-string process string
946 This function sends @var{process} the contents of @var{string} as
947 standard input.  If it is @code{nil}, the current buffer's process is used.
949   The function returns @code{nil}.
951 @smallexample
952 @group
953 (process-send-string "shell<1>" "ls\n")
954      @result{} nil
955 @end group
958 @group
959 ---------- Buffer: *shell* ----------
961 introduction.texi               syntax-tables.texi~
962 introduction.texi~              text.texi
963 introduction.txt                text.texi~
965 ---------- Buffer: *shell* ----------
966 @end group
967 @end smallexample
968 @end defun
970 @defun process-send-region process start end
971 This function sends the text in the region defined by @var{start} and
972 @var{end} as standard input to @var{process}.
974 An error is signaled unless both @var{start} and @var{end} are
975 integers or markers that indicate positions in the current buffer.  (It
976 is unimportant which number is larger.)
977 @end defun
979 @defun process-send-eof &optional process
980 This function makes @var{process} see an end-of-file in its
981 input.  The @acronym{EOF} comes after any text already sent to it.
983 The function returns @var{process}.
985 @smallexample
986 @group
987 (process-send-eof "shell")
988      @result{} "shell"
989 @end group
990 @end smallexample
991 @end defun
993 @defun process-running-child-p &optional process
994 This function will tell you whether a @var{process} has given control of
995 its terminal to its own child process.  The value is @code{t} if this is
996 true, or if Emacs cannot tell; it is @code{nil} if Emacs can be certain
997 that this is not so.
998 @end defun
1000 @node Signals to Processes
1001 @section Sending Signals to Processes
1002 @cindex process signals
1003 @cindex sending signals
1004 @cindex signals
1006   @dfn{Sending a signal} to a subprocess is a way of interrupting its
1007 activities.  There are several different signals, each with its own
1008 meaning.  The set of signals and their names is defined by the operating
1009 system.  For example, the signal @code{SIGINT} means that the user has
1010 typed @kbd{C-c}, or that some analogous thing has happened.
1012   Each signal has a standard effect on the subprocess.  Most signals
1013 kill the subprocess, but some stop or resume execution instead.  Most
1014 signals can optionally be handled by programs; if the program handles
1015 the signal, then we can say nothing in general about its effects.
1017   You can send signals explicitly by calling the functions in this
1018 section.  Emacs also sends signals automatically at certain times:
1019 killing a buffer sends a @code{SIGHUP} signal to all its associated
1020 processes; killing Emacs sends a @code{SIGHUP} signal to all remaining
1021 processes.  (@code{SIGHUP} is a signal that usually indicates that the
1022 user hung up the phone.)
1024   Each of the signal-sending functions takes two optional arguments:
1025 @var{process} and @var{current-group}.
1027   The argument @var{process} must be either a process, a process
1028 name, a buffer, a buffer name, or @code{nil}.  A buffer or buffer name
1029 stands for a process through @code{get-buffer-process}.  @code{nil}
1030 stands for the process associated with the current buffer.  An error
1031 is signaled if @var{process} does not identify a process.
1033   The argument @var{current-group} is a flag that makes a difference
1034 when you are running a job-control shell as an Emacs subprocess.  If it
1035 is non-@code{nil}, then the signal is sent to the current process-group
1036 of the terminal that Emacs uses to communicate with the subprocess.  If
1037 the process is a job-control shell, this means the shell's current
1038 subjob.  If it is @code{nil}, the signal is sent to the process group of
1039 the immediate subprocess of Emacs.  If the subprocess is a job-control
1040 shell, this is the shell itself.
1042   The flag @var{current-group} has no effect when a pipe is used to
1043 communicate with the subprocess, because the operating system does not
1044 support the distinction in the case of pipes.  For the same reason,
1045 job-control shells won't work when a pipe is used.  See
1046 @code{process-connection-type} in @ref{Asynchronous Processes}.
1048 @defun interrupt-process &optional process current-group
1049 This function interrupts the process @var{process} by sending the
1050 signal @code{SIGINT}.  Outside of Emacs, typing the ``interrupt
1051 character'' (normally @kbd{C-c} on some systems, and @code{DEL} on
1052 others) sends this signal.  When the argument @var{current-group} is
1053 non-@code{nil}, you can think of this function as ``typing @kbd{C-c}''
1054 on the terminal by which Emacs talks to the subprocess.
1055 @end defun
1057 @defun kill-process &optional process current-group
1058 This function kills the process @var{process} by sending the
1059 signal @code{SIGKILL}.  This signal kills the subprocess immediately,
1060 and cannot be handled by the subprocess.
1061 @end defun
1063 @defun quit-process &optional process current-group
1064 This function sends the signal @code{SIGQUIT} to the process
1065 @var{process}.  This signal is the one sent by the ``quit
1066 character'' (usually @kbd{C-b} or @kbd{C-\}) when you are not inside
1067 Emacs.
1068 @end defun
1070 @defun stop-process &optional process current-group
1071 This function stops the process @var{process} by sending the
1072 signal @code{SIGTSTP}.  Use @code{continue-process} to resume its
1073 execution.
1075 Outside of Emacs, on systems with job control, the ``stop character''
1076 (usually @kbd{C-z}) normally sends this signal.  When
1077 @var{current-group} is non-@code{nil}, you can think of this function as
1078 ``typing @kbd{C-z}'' on the terminal Emacs uses to communicate with the
1079 subprocess.
1080 @end defun
1082 @defun continue-process &optional process current-group
1083 This function resumes execution of the process @var{process} by sending
1084 it the signal @code{SIGCONT}.  This presumes that @var{process} was
1085 stopped previously.
1086 @end defun
1088 @defun signal-process process signal
1089 This function sends a signal to process @var{process}.  The argument
1090 @var{signal} specifies which signal to send; it should be an integer.
1092 The @var{process} argument can be a system process @acronym{ID}; that
1093 allows you to send signals to processes that are not children of
1094 Emacs.  @xref{System Processes}.
1095 @end defun
1097 @node Output from Processes
1098 @section Receiving Output from Processes
1099 @cindex process output
1100 @cindex output from processes
1102   There are two ways to receive the output that a subprocess writes to
1103 its standard output stream.  The output can be inserted in a buffer,
1104 which is called the associated buffer of the process, or a function
1105 called the @dfn{filter function} can be called to act on the output.  If
1106 the process has no buffer and no filter function, its output is
1107 discarded.
1109   When a subprocess terminates, Emacs reads any pending output,
1110 then stops reading output from that subprocess.  Therefore, if the
1111 subprocess has children that are still live and still producing
1112 output, Emacs won't receive that output.
1114   Output from a subprocess can arrive only while Emacs is waiting: when
1115 reading terminal input, in @code{sit-for} and @code{sleep-for}
1116 (@pxref{Waiting}), and in @code{accept-process-output} (@pxref{Accepting
1117 Output}).  This minimizes the problem of timing errors that usually
1118 plague parallel programming.  For example, you can safely create a
1119 process and only then specify its buffer or filter function; no output
1120 can arrive before you finish, if the code in between does not call any
1121 primitive that waits.
1123 @defvar process-adaptive-read-buffering
1124 On some systems, when Emacs reads the output from a subprocess, the
1125 output data is read in very small blocks, potentially resulting in
1126 very poor performance.  This behavior can be remedied to some extent
1127 by setting the variable @var{process-adaptive-read-buffering} to a
1128 non-@code{nil} value (the default), as it will automatically delay reading
1129 from such processes, thus allowing them to produce more output before
1130 Emacs tries to read it.
1131 @end defvar
1133   It is impossible to separate the standard output and standard error
1134 streams of the subprocess, because Emacs normally spawns the subprocess
1135 inside a pseudo-TTY, and a pseudo-TTY has only one output channel.  If
1136 you want to keep the output to those streams separate, you should
1137 redirect one of them to a file---for example, by using an appropriate
1138 shell command.
1140 @menu
1141 * Process Buffers::         If no filter, output is put in a buffer.
1142 * Filter Functions::        Filter functions accept output from the process.
1143 * Decoding Output::         Filters can get unibyte or multibyte strings.
1144 * Accepting Output::        How to wait until process output arrives.
1145 @end menu
1147 @node Process Buffers
1148 @subsection Process Buffers
1150   A process can (and usually does) have an @dfn{associated buffer},
1151 which is an ordinary Emacs buffer that is used for two purposes: storing
1152 the output from the process, and deciding when to kill the process.  You
1153 can also use the buffer to identify a process to operate on, since in
1154 normal practice only one process is associated with any given buffer.
1155 Many applications of processes also use the buffer for editing input to
1156 be sent to the process, but this is not built into Emacs Lisp.
1158   Unless the process has a filter function (@pxref{Filter Functions}),
1159 its output is inserted in the associated buffer.  The position to insert
1160 the output is determined by the @code{process-mark}, which is then
1161 updated to point to the end of the text just inserted.  Usually, but not
1162 always, the @code{process-mark} is at the end of the buffer.
1164 @defun process-buffer process
1165 This function returns the associated buffer of the process
1166 @var{process}.
1168 @smallexample
1169 @group
1170 (process-buffer (get-process "shell"))
1171      @result{} #<buffer *shell*>
1172 @end group
1173 @end smallexample
1174 @end defun
1176 @defun process-mark process
1177 This function returns the process marker for @var{process}, which is the
1178 marker that says where to insert output from the process.
1180 If @var{process} does not have a buffer, @code{process-mark} returns a
1181 marker that points nowhere.
1183 Insertion of process output in a buffer uses this marker to decide where
1184 to insert, and updates it to point after the inserted text.  That is why
1185 successive batches of output are inserted consecutively.
1187 Filter functions normally should use this marker in the same fashion
1188 as is done by direct insertion of output in the buffer.  A good
1189 example of a filter function that uses @code{process-mark} is found at
1190 the end of the following section.
1192 When the user is expected to enter input in the process buffer for
1193 transmission to the process, the process marker separates the new input
1194 from previous output.
1195 @end defun
1197 @defun set-process-buffer process buffer
1198 This function sets the buffer associated with @var{process} to
1199 @var{buffer}.  If @var{buffer} is @code{nil}, the process becomes
1200 associated with no buffer.
1201 @end defun
1203 @defun get-buffer-process buffer-or-name
1204 This function returns a nondeleted process associated with the buffer
1205 specified by @var{buffer-or-name}.  If there are several processes
1206 associated with it, this function chooses one (currently, the one most
1207 recently created, but don't count on that).  Deletion of a process
1208 (see @code{delete-process}) makes it ineligible for this function to
1209 return.
1211 It is usually a bad idea to have more than one process associated with
1212 the same buffer.
1214 @smallexample
1215 @group
1216 (get-buffer-process "*shell*")
1217      @result{} #<process shell>
1218 @end group
1219 @end smallexample
1221 Killing the process's buffer deletes the process, which kills the
1222 subprocess with a @code{SIGHUP} signal (@pxref{Signals to Processes}).
1223 @end defun
1225 @node Filter Functions
1226 @subsection Process Filter Functions
1227 @cindex filter function
1228 @cindex process filter
1230   A process @dfn{filter function} is a function that receives the
1231 standard output from the associated process.  If a process has a filter,
1232 then @emph{all} output from that process is passed to the filter.  The
1233 process buffer is used directly for output from the process only when
1234 there is no filter.
1236   The filter function can only be called when Emacs is waiting for
1237 something, because process output arrives only at such times.  Emacs
1238 waits when reading terminal input, in @code{sit-for} and
1239 @code{sleep-for} (@pxref{Waiting}), and in @code{accept-process-output}
1240 (@pxref{Accepting Output}).
1242   A filter function must accept two arguments: the associated process
1243 and a string, which is output just received from it.  The function is
1244 then free to do whatever it chooses with the output.
1246   Quitting is normally inhibited within a filter function---otherwise,
1247 the effect of typing @kbd{C-g} at command level or to quit a user
1248 command would be unpredictable.  If you want to permit quitting inside
1249 a filter function, bind @code{inhibit-quit} to @code{nil}.  In most
1250 cases, the right way to do this is with the macro
1251 @code{with-local-quit}.  @xref{Quitting}.
1253   If an error happens during execution of a filter function, it is
1254 caught automatically, so that it doesn't stop the execution of whatever
1255 program was running when the filter function was started.  However, if
1256 @code{debug-on-error} is non-@code{nil}, the error-catching is turned
1257 off.  This makes it possible to use the Lisp debugger to debug the
1258 filter function.  @xref{Debugger}.
1260   Many filter functions sometimes or always insert the text in the
1261 process's buffer, mimicking the actions of Emacs when there is no
1262 filter.  Such filter functions need to use @code{set-buffer} in order to
1263 be sure to insert in that buffer.  To avoid setting the current buffer
1264 semipermanently, these filter functions must save and restore the
1265 current buffer.  They should also update the process marker, and in some
1266 cases update the value of point.  Here is how to do these things:
1268 @smallexample
1269 @group
1270 (defun ordinary-insertion-filter (proc string)
1271   (with-current-buffer (process-buffer proc)
1272     (let ((moving (= (point) (process-mark proc))))
1273 @end group
1274 @group
1275       (save-excursion
1276         ;; @r{Insert the text, advancing the process marker.}
1277         (goto-char (process-mark proc))
1278         (insert string)
1279         (set-marker (process-mark proc) (point)))
1280       (if moving (goto-char (process-mark proc))))))
1281 @end group
1282 @end smallexample
1284 @noindent
1285 The reason to use @code{with-current-buffer}, rather than using
1286 @code{save-excursion} to save and restore the current buffer, is so as
1287 to preserve the change in point made by the second call to
1288 @code{goto-char}.
1290   To make the filter force the process buffer to be visible whenever new
1291 text arrives, insert the following line just before the
1292 @code{with-current-buffer} construct:
1294 @smallexample
1295 (display-buffer (process-buffer proc))
1296 @end smallexample
1298   To force point to the end of the new output, no matter where it was
1299 previously, eliminate the variable @code{moving} and call
1300 @code{goto-char} unconditionally.
1302   In earlier Emacs versions, every filter function that did regular
1303 expression searching or matching had to explicitly save and restore the
1304 match data.  Now Emacs does this automatically for filter functions;
1305 they never need to do it explicitly.  @xref{Match Data}.
1307   A filter function that writes the output into the buffer of the
1308 process should check whether the buffer is still alive.  If it tries to
1309 insert into a dead buffer, it will get an error.  The expression
1310 @code{(buffer-name (process-buffer @var{process}))} returns @code{nil}
1311 if the buffer is dead.
1313   The output to the function may come in chunks of any size.  A program
1314 that produces the same output twice in a row may send it as one batch of
1315 200 characters one time, and five batches of 40 characters the next.  If
1316 the filter looks for certain text strings in the subprocess output, make
1317 sure to handle the case where one of these strings is split across two
1318 or more batches of output; one way to do this is to insert the
1319 received text into a temporary buffer, which can then be searched.
1321 @defun set-process-filter process filter
1322 This function gives @var{process} the filter function @var{filter}.  If
1323 @var{filter} is @code{nil}, it gives the process no filter.
1324 @end defun
1326 @defun process-filter process
1327 This function returns the filter function of @var{process}, or @code{nil}
1328 if it has none.
1329 @end defun
1331   Here is an example of use of a filter function:
1333 @smallexample
1334 @group
1335 (defun keep-output (process output)
1336    (setq kept (cons output kept)))
1337      @result{} keep-output
1338 @end group
1339 @group
1340 (setq kept nil)
1341      @result{} nil
1342 @end group
1343 @group
1344 (set-process-filter (get-process "shell") 'keep-output)
1345      @result{} keep-output
1346 @end group
1347 @group
1348 (process-send-string "shell" "ls ~/other\n")
1349      @result{} nil
1350 kept
1351      @result{} ("lewis@@slug[8] % "
1352 @end group
1353 @group
1354 "FINAL-W87-SHORT.MSS    backup.otl              kolstad.mss~
1355 address.txt             backup.psf              kolstad.psf
1356 backup.bib~             david.mss               resume-Dec-86.mss~
1357 backup.err              david.psf               resume-Dec.psf
1358 backup.mss              dland                   syllabus.mss
1360 "#backups.mss#          backup.mss~             kolstad.mss
1362 @end group
1363 @end smallexample
1365 @ignore   @c The code in this example doesn't show the right way to do things.
1366 Here is another, more realistic example, which demonstrates how to use
1367 the process mark to do insertion in the same fashion as is done when
1368 there is no filter function:
1370 @smallexample
1371 @group
1372 ;; @r{Insert input in the buffer specified by @code{my-shell-buffer}}
1373 ;;   @r{and make sure that buffer is shown in some window.}
1374 (defun my-process-filter (proc str)
1375   (let ((cur (selected-window))
1376         (pop-up-windows t))
1377     (pop-to-buffer my-shell-buffer)
1378 @end group
1379 @group
1380     (goto-char (point-max))
1381     (insert str)
1382     (set-marker (process-mark proc) (point-max))
1383     (select-window cur)))
1384 @end group
1385 @end smallexample
1386 @end ignore
1388 @node Decoding Output
1389 @subsection Decoding Process Output
1390 @cindex decode process output
1392   When Emacs writes process output directly into a multibyte buffer,
1393 it decodes the output according to the process output coding system.
1394 If the coding system is @code{raw-text} or @code{no-conversion}, Emacs
1395 converts the unibyte output to multibyte using
1396 @code{string-to-multibyte}, and inserts the resulting multibyte text.
1398   You can use @code{set-process-coding-system} to specify which coding
1399 system to use (@pxref{Process Information}).  Otherwise, the coding
1400 system comes from @code{coding-system-for-read}, if that is
1401 non-@code{nil}; or else from the defaulting mechanism (@pxref{Default
1402 Coding Systems}).  If the text output by a process contains null
1403 bytes, Emacs by default uses @code{no-conversion} for it; see
1404 @ref{Lisp and Coding Systems, inhibit-null-byte-detection}, for how to
1405 control this behavior.
1407   @strong{Warning:} Coding systems such as @code{undecided} which
1408 determine the coding system from the data do not work entirely
1409 reliably with asynchronous subprocess output.  This is because Emacs
1410 has to process asynchronous subprocess output in batches, as it
1411 arrives.  Emacs must try to detect the proper coding system from one
1412 batch at a time, and this does not always work.  Therefore, if at all
1413 possible, specify a coding system that determines both the character
1414 code conversion and the end of line conversion---that is, one like
1415 @code{latin-1-unix}, rather than @code{undecided} or @code{latin-1}.
1417 @c Let's keep the index entries that were there for
1418 @c set-process-filter-multibyte and process-filter-multibyte-p,
1419 @cindex filter multibyte flag, of process
1420 @cindex process filter multibyte flag
1421   When Emacs calls a process filter function, it provides the process
1422 output as a multibyte string or as a unibyte string according to the
1423 process's filter coding system.  Emacs
1424 decodes the output according to the process output coding system,
1425 which usually produces a multibyte string, except for coding systems
1426 such as @code{binary} and @code{raw-text}
1428 @node Accepting Output
1429 @subsection Accepting Output from Processes
1430 @cindex accept input from processes
1432   Output from asynchronous subprocesses normally arrives only while
1433 Emacs is waiting for some sort of external event, such as elapsed time
1434 or terminal input.  Occasionally it is useful in a Lisp program to
1435 explicitly permit output to arrive at a specific point, or even to wait
1436 until output arrives from a process.
1438 @defun accept-process-output &optional process seconds millisec just-this-one
1439 This function allows Emacs to read pending output from processes.  The
1440 output is inserted in the associated buffers or given to their filter
1441 functions.  If @var{process} is non-@code{nil} then this function does
1442 not return until some output has been received from @var{process}.
1444 @c Emacs 19 feature
1445 The arguments @var{seconds} and @var{millisec} let you specify timeout
1446 periods.  The former specifies a period measured in seconds and the
1447 latter specifies one measured in milliseconds.  The two time periods
1448 thus specified are added together, and @code{accept-process-output}
1449 returns after that much time, whether or not there has been any
1450 subprocess output.
1452 The argument @var{millisec} is semi-obsolete nowadays because
1453 @var{seconds} can be a floating point number to specify waiting a
1454 fractional number of seconds.  If @var{seconds} is 0, the function
1455 accepts whatever output is pending but does not wait.
1457 @c Emacs 22.1 feature
1458 If @var{process} is a process, and the argument @var{just-this-one} is
1459 non-@code{nil}, only output from that process is handled, suspending output
1460 from other processes until some output has been received from that
1461 process or the timeout expires.  If @var{just-this-one} is an integer,
1462 also inhibit running timers.  This feature is generally not
1463 recommended, but may be necessary for specific applications, such as
1464 speech synthesis.
1466 The function @code{accept-process-output} returns non-@code{nil} if it
1467 did get some output, or @code{nil} if the timeout expired before output
1468 arrived.
1469 @end defun
1471 @node Sentinels
1472 @section Sentinels: Detecting Process Status Changes
1473 @cindex process sentinel
1474 @cindex sentinel (of process)
1476   A @dfn{process sentinel} is a function that is called whenever the
1477 associated process changes status for any reason, including signals
1478 (whether sent by Emacs or caused by the process's own actions) that
1479 terminate, stop, or continue the process.  The process sentinel is
1480 also called if the process exits.  The sentinel receives two
1481 arguments: the process for which the event occurred, and a string
1482 describing the type of event.
1484   The string describing the event looks like one of the following:
1486 @itemize @bullet
1487 @item
1488 @code{"finished\n"}.
1490 @item
1491 @code{"exited abnormally with code @var{exitcode}\n"}.
1493 @item
1494 @code{"@var{name-of-signal}\n"}.
1496 @item
1497 @code{"@var{name-of-signal} (core dumped)\n"}.
1498 @end itemize
1500   A sentinel runs only while Emacs is waiting (e.g., for terminal
1501 input, or for time to elapse, or for process output).  This avoids the
1502 timing errors that could result from running them at random places in
1503 the middle of other Lisp programs.  A program can wait, so that
1504 sentinels will run, by calling @code{sit-for} or @code{sleep-for}
1505 (@pxref{Waiting}), or @code{accept-process-output} (@pxref{Accepting
1506 Output}).  Emacs also allows sentinels to run when the command loop is
1507 reading input.  @code{delete-process} calls the sentinel when it
1508 terminates a running process.
1510   Emacs does not keep a queue of multiple reasons to call the sentinel
1511 of one process; it records just the current status and the fact that
1512 there has been a change.  Therefore two changes in status, coming in
1513 quick succession, can call the sentinel just once.  However, process
1514 termination will always run the sentinel exactly once.  This is
1515 because the process status can't change again after termination.
1517   Emacs explicitly checks for output from the process before running
1518 the process sentinel.  Once the sentinel runs due to process
1519 termination, no further output can arrive from the process.
1521   A sentinel that writes the output into the buffer of the process
1522 should check whether the buffer is still alive.  If it tries to insert
1523 into a dead buffer, it will get an error.  If the buffer is dead,
1524 @code{(buffer-name (process-buffer @var{process}))} returns @code{nil}.
1526   Quitting is normally inhibited within a sentinel---otherwise, the
1527 effect of typing @kbd{C-g} at command level or to quit a user command
1528 would be unpredictable.  If you want to permit quitting inside a
1529 sentinel, bind @code{inhibit-quit} to @code{nil}.  In most cases, the
1530 right way to do this is with the macro @code{with-local-quit}.
1531 @xref{Quitting}.
1533   If an error happens during execution of a sentinel, it is caught
1534 automatically, so that it doesn't stop the execution of whatever
1535 programs was running when the sentinel was started.  However, if
1536 @code{debug-on-error} is non-@code{nil}, the error-catching is turned
1537 off.  This makes it possible to use the Lisp debugger to debug the
1538 sentinel.  @xref{Debugger}.
1540   While a sentinel is running, the process sentinel is temporarily
1541 set to @code{nil} so that the sentinel won't run recursively.
1542 For this reason it is not possible for a sentinel to specify
1543 a new sentinel.
1545   In earlier Emacs versions, every sentinel that did regular expression
1546 searching or matching had to explicitly save and restore the match data.
1547 Now Emacs does this automatically for sentinels; they never need to do
1548 it explicitly.  @xref{Match Data}.
1550 @defun set-process-sentinel process sentinel
1551 This function associates @var{sentinel} with @var{process}.  If
1552 @var{sentinel} is @code{nil}, then the process will have no sentinel.
1553 The default behavior when there is no sentinel is to insert a message in
1554 the process's buffer when the process status changes.
1556 Changes in process sentinel take effect immediately---if the sentinel
1557 is slated to be run but has not been called yet, and you specify a new
1558 sentinel, the eventual call to the sentinel will use the new one.
1560 @smallexample
1561 @group
1562 (defun msg-me (process event)
1563    (princ
1564      (format "Process: %s had the event `%s'" process event)))
1565 (set-process-sentinel (get-process "shell") 'msg-me)
1566      @result{} msg-me
1567 @end group
1568 @group
1569 (kill-process (get-process "shell"))
1570      @print{} Process: #<process shell> had the event `killed'
1571      @result{} #<process shell>
1572 @end group
1573 @end smallexample
1574 @end defun
1576 @defun process-sentinel process
1577 This function returns the sentinel of @var{process}, or @code{nil} if it
1578 has none.
1579 @end defun
1581 @defun waiting-for-user-input-p
1582 While a sentinel or filter function is running, this function returns
1583 non-@code{nil} if Emacs was waiting for keyboard input from the user at
1584 the time the sentinel or filter function was called, @code{nil} if it
1585 was not.
1586 @end defun
1588 @node Query Before Exit
1589 @section Querying Before Exit
1591   When Emacs exits, it terminates all its subprocesses by sending them
1592 the @code{SIGHUP} signal.  Because subprocesses may be doing
1593 valuable work, Emacs normally asks the user to confirm that it is ok
1594 to terminate them.  Each process has a query flag which, if
1595 non-@code{nil}, says that Emacs should ask for confirmation before
1596 exiting and thus killing that process.  The default for the query flag
1597 is @code{t}, meaning @emph{do} query.
1599 @defun process-query-on-exit-flag process
1600 This returns the query flag of @var{process}.
1601 @end defun
1603 @defun set-process-query-on-exit-flag process flag
1604 This function sets the query flag of @var{process} to @var{flag}.  It
1605 returns @var{flag}.
1607 @smallexample
1608 @group
1609 ;; @r{Don't query about the shell process}
1610 (set-process-query-on-exit-flag (get-process "shell") nil)
1611      @result{} t
1612 @end group
1613 @end smallexample
1614 @end defun
1616 @defun process-kill-without-query process &optional do-query
1617 This function clears the query flag of @var{process}, so that
1618 Emacs will not query the user on account of that process.
1620 Actually, the function does more than that: it returns the old value of
1621 the process's query flag, and sets the query flag to @var{do-query}.
1622 Please don't use this function to do those things any more---please
1623 use the newer, cleaner functions @code{process-query-on-exit-flag} and
1624 @code{set-process-query-on-exit-flag} in all but the simplest cases.
1625 The only way you should use @code{process-kill-without-query} nowadays
1626 is like this:
1628 @smallexample
1629 @group
1630 ;; @r{Don't query about the shell process}
1631 (process-kill-without-query (get-process "shell"))
1632 @end group
1633 @end smallexample
1634 @end defun
1636 @node System Processes
1637 @section Accessing Other Processes
1638 @cindex system processes
1640   In addition to accessing and manipulating processes that are
1641 subprocesses of the current Emacs session, Emacs Lisp programs can
1642 also access other processes running on the same machine.  We call
1643 these @dfn{system processes}, to distinguish between them and Emacs
1644 subprocesses.
1646   Emacs provides several primitives for accessing system processes.
1647 Not all platforms support these primitives; on those which don't,
1648 these primitives return @code{nil}.
1650 @defun list-system-processes
1651 This function returns a list of all the processes running on the
1652 system.  Each process is identified by its @acronym{PID}, a numerical
1653 process ID that is assigned by the OS and distinguishes the process
1654 from all the other processes running on the same machine at the same
1655 time.
1656 @end defun
1658 @defun process-attributes pid
1659 This function returns an alist of attributes for the process specified
1660 by its process ID @var{pid}.  Each association in the alist is of the
1661 form @code{(@var{key} . @var{value})}, where @var{key} designates the
1662 attribute and @var{value} is the value of that attribute.  The various
1663 attribute @var{key}'s that this function can return are listed below.
1664 Not all platforms support all of these attributes; if an attribute is
1665 not supported, its association will not appear in the returned alist.
1666 Values that are numbers can be either integer or floating-point,
1667 depending on the magnitude of the value.
1669 @table @code
1670 @item euid
1671 The effective user ID of the user who invoked the process.  The
1672 corresponding @var{value} is a number.  If the process was invoked by
1673 the same user who runs the current Emacs session, the value is
1674 identical to what @code{user-uid} returns (@pxref{User
1675 Identification}).
1677 @item user
1678 User name corresponding to the process's effective user ID, a string.
1680 @item egid
1681 The group ID of the effective user ID, a number.
1683 @item group
1684 Group name corresponding to the effective user's group ID, a string.
1686 @item comm
1687 The name of the command that runs in the process.  This is a string
1688 that usually specifies the name of the executable file of the process,
1689 without the leading directories.  However, some special system
1690 processes can report strings that do not correspond to an executable
1691 file of a program.
1693 @item state
1694 The state code of the process.  This is a short string that encodes
1695 the scheduling state of the process.  Here's a list of the most
1696 frequently seen codes:
1698 @table @code
1699 @item "D"
1700 uninterruptible sleep (usually I/O)
1701 @item "R"
1702 running
1703 @item "S"
1704 interruptible sleep (waiting for some event)
1705 @item "T"
1706 stopped, e.g., by a job control signal
1707 @item "Z"
1708 ``zombie'': a process that terminated, but was not reaped by its parent
1709 @end table
1711 @noindent
1712 For the full list of the possible states, see the manual page of the
1713 @command{ps} command.
1715 @item ppid
1716 The process ID of the parent process, a number.
1718 @item pgrp
1719 The process group ID of the process, a number.
1721 @item sess
1722 The session ID of the process.  This is a number that is the process
1723 ID of the process's @dfn{session leader}.
1725 @item ttname
1726 A string that is the name of the process's controlling terminal.  On
1727 Unix and GNU systems, this is normally the file name of the
1728 corresponding terminal device, such as @file{/dev/pts65}.
1730 @item tpgid
1731 The numerical process group ID of the foreground process group that
1732 uses the process's terminal.
1734 @item minflt
1735 The number of minor page faults caused by the process since its
1736 beginning.  (Minor page faults are those that don't involve reading
1737 from disk.)
1739 @item majflt
1740 The number of major page faults caused by the process since its
1741 beginning.  (Major page faults require a disk to be read, and are thus
1742 more expensive than minor page faults.)
1744 @item cminflt
1745 @itemx cmajflt
1746 Like @code{minflt} and @code{majflt}, but include the number of page
1747 faults for all the child processes of the given process.
1749 @item utime
1750 Time spent by the process in the user context, for running the
1751 application's code.  The corresponding @var{value} is in the
1752 @w{@code{(@var{high} @var{low} @var{microsec})}} format, the same
1753 format used by functions @code{current-time} (@pxref{Time of Day,
1754 current-time}) and @code{file-attributes} (@pxref{File Attributes}).
1756 @item stime
1757 Time spent by the process in the system (kernel) context, for
1758 processing system calls.  The corresponding @var{value} is in the same
1759 format as for @code{utime}.
1761 @item time
1762 The sum of @code{utime} and @code{stime}.  The corresponding
1763 @var{value} is in the same format as for @code{utime}.
1765 @item cutime
1766 @itemx cstime
1767 @itemx ctime
1768 Like @code{utime}, @code{stime}, and @code{time}, but include the
1769 times of all the child processes of the given process.
1771 @item pri
1772 The numerical priority of the process.
1774 @item nice
1775 The @dfn{nice value} of the process, a number.  (Processes with smaller
1776 nice values get scheduled more favorably.)
1778 @item thcount
1779 The number of threads in the process.
1781 @item start
1782 The time the process was started, in the @w{@code{(@var{high}
1783 @var{low} @var{microsec})}} format used by @code{current-time} and
1784 @code{file-attributes}.
1786 @item etime
1787 The time elapsed since the process started, in the @w{@code{(@var{high}
1788 @var{low} @var{microsec})}} format.
1790 @item vsize
1791 The virtual memory size of the process, measured in kilobytes.
1793 @item rss
1794 The size of the process's @dfn{resident set}, the number of kilobytes
1795 occupied by the process in the machine's physical memory.
1797 @item pcpu
1798 The percentage of the CPU time used by the process since it started.
1799 The corresponding @var{value} is a floating-point number between 0 and
1800 100.
1802 @item pmem
1803 The percentage of the total physical memory installed on the machine
1804 used by the process's resident set.  The value is a floating-point
1805 number between 0 and 100.
1807 @item args
1808 The command-line with which the process was invoked.  This is a string
1809 in which individual command-line arguments are separated by blanks;
1810 whitespace characters that are embedded in the arguments are quoted as
1811 appropriate for the system's shell: escaped by backslash characters on
1812 GNU and Unix, and enclosed in double quote characters on Windows.
1813 Thus, this command-line string can be directly used in primitives such
1814 as @code{shell-command}.
1815 @end table
1817 @end defun
1820 @node Transaction Queues
1821 @section Transaction Queues
1822 @cindex transaction queue
1824 You can use a @dfn{transaction queue} to communicate with a subprocess
1825 using transactions.  First use @code{tq-create} to create a transaction
1826 queue communicating with a specified process.  Then you can call
1827 @code{tq-enqueue} to send a transaction.
1829 @defun tq-create process
1830 This function creates and returns a transaction queue communicating with
1831 @var{process}.  The argument @var{process} should be a subprocess
1832 capable of sending and receiving streams of bytes.  It may be a child
1833 process, or it may be a TCP connection to a server, possibly on another
1834 machine.
1835 @end defun
1837 @defun tq-enqueue queue question regexp closure fn &optional delay-question
1838 This function sends a transaction to queue @var{queue}.  Specifying the
1839 queue has the effect of specifying the subprocess to talk to.
1841 The argument @var{question} is the outgoing message that starts the
1842 transaction.  The argument @var{fn} is the function to call when the
1843 corresponding answer comes back; it is called with two arguments:
1844 @var{closure}, and the answer received.
1846 The argument @var{regexp} is a regular expression that should match
1847 text at the end of the entire answer, but nothing before; that's how
1848 @code{tq-enqueue} determines where the answer ends.
1850 If the argument @var{delay-question} is non-@code{nil}, delay sending
1851 this question until the process has finished replying to any previous
1852 questions.  This produces more reliable results with some processes.
1854 The return value of @code{tq-enqueue} itself is not meaningful.
1855 @end defun
1857 @defun tq-close queue
1858 Shut down transaction queue @var{queue}, waiting for all pending transactions
1859 to complete, and then terminate the connection or child process.
1860 @end defun
1862 Transaction queues are implemented by means of a filter function.
1863 @xref{Filter Functions}.
1865 @node Network
1866 @section Network Connections
1867 @cindex network connection
1868 @cindex TCP
1869 @cindex UDP
1871   Emacs Lisp programs can open stream (TCP) and datagram (UDP) network
1872 connections to other processes on the same machine or other machines.
1873 A network connection is handled by Lisp much like a subprocess, and is
1874 represented by a process object.  However, the process you are
1875 communicating with is not a child of the Emacs process, so it has no
1876 process @acronym{ID}, and you can't kill it or send it signals.  All you
1877 can do is send and receive data.  @code{delete-process} closes the
1878 connection, but does not kill the program at the other end; that
1879 program must decide what to do about closure of the connection.
1881   Lisp programs can listen for connections by creating network
1882 servers.  A network server is also represented by a kind of process
1883 object, but unlike a network connection, the network server never
1884 transfers data itself.  When it receives a connection request, it
1885 creates a new network connection to represent the connection just
1886 made.  (The network connection inherits certain information, including
1887 the process plist, from the server.)  The network server then goes
1888 back to listening for more connection requests.
1890   Network connections and servers are created by calling
1891 @code{make-network-process} with an argument list consisting of
1892 keyword/argument pairs, for example @code{:server t} to create a
1893 server process, or @code{:type 'datagram} to create a datagram
1894 connection.  @xref{Low-Level Network}, for details.  You can also use
1895 the @code{open-network-stream} function described below.
1897   To distinguish the different types of processes, the
1898 @code{process-type} function returns the symbol @code{network} for a
1899 network connection or server, @code{serial} for a serial port
1900 connection, or @code{real} for a real subprocess.
1902   The @code{process-status} function returns @code{open},
1903 @code{closed}, @code{connect}, and @code{failed} for network
1904 connections.  For a network server, the status is always
1905 @code{listen}.  None of those values is possible for a real
1906 subprocess.  @xref{Process Information}.
1908   You can stop and resume operation of a network process by calling
1909 @code{stop-process} and @code{continue-process}.  For a server
1910 process, being stopped means not accepting new connections.  (Up to 5
1911 connection requests will be queued for when you resume the server; you
1912 can increase this limit, unless it is imposed by the operating
1913 system.)  For a network stream connection, being stopped means not
1914 processing input (any arriving input waits until you resume the
1915 connection).  For a datagram connection, some number of packets may be
1916 queued but input may be lost.  You can use the function
1917 @code{process-command} to determine whether a network connection or
1918 server is stopped; a non-@code{nil} value means yes.
1920 @defun open-network-stream name buffer-or-name host service
1921 This function opens a TCP connection, and returns a process object
1922 that represents the connection.
1924 The @var{name} argument specifies the name for the process object.  It
1925 is modified as necessary to make it unique.
1927 The @var{buffer-or-name} argument is the buffer to associate with the
1928 connection.  Output from the connection is inserted in the buffer,
1929 unless you specify a filter function to handle the output.  If
1930 @var{buffer-or-name} is @code{nil}, it means that the connection is not
1931 associated with any buffer.
1933 The arguments @var{host} and @var{service} specify where to connect to;
1934 @var{host} is the host name (a string), and @var{service} is the name of
1935 a defined network service (a string) or a port number (an integer).
1936 @end defun
1938 @node Network Servers
1939 @section Network Servers
1940 @cindex network servers
1942   You create a server by calling @code{make-network-process} with
1943 @code{:server t}.  The server will listen for connection requests from
1944 clients.  When it accepts a client connection request, that creates a
1945 new network connection, itself a process object, with the following
1946 parameters:
1948 @itemize @bullet
1949 @item
1950 The connection's process name is constructed by concatenating the
1951 server process' @var{name} with a client identification string.  The
1952 client identification string for an IPv4 connection looks like
1953 @samp{<@var{a}.@var{b}.@var{c}.@var{d}:@var{p}>}.  Otherwise, it is a
1954 unique number in brackets, as in @samp{<@var{nnn}>}.  The number
1955 is unique for each connection in the Emacs session.
1957 @item
1958 If the server's filter is non-@code{nil}, the connection process does
1959 not get a separate process buffer; otherwise, Emacs creates a new
1960 buffer for the purpose.  The buffer name is the server's buffer name
1961 or process name, concatenated with the client identification string.
1963 The server's process buffer value is never used directly by Emacs, but
1964 it is passed to the log function, which can log connections by
1965 inserting text there.
1967 @item
1968 The communication type and the process filter and sentinel are
1969 inherited from those of the server.  The server never directly
1970 uses its filter and sentinel; their sole purpose is to initialize
1971 connections made to the server.
1973 @item
1974 The connection's process contact info is set according to the client's
1975 addressing information (typically an IP address and a port number).
1976 This information is associated with the @code{process-contact}
1977 keywords @code{:host}, @code{:service}, @code{:remote}.
1979 @item
1980 The connection's local address is set up according to the port
1981 number used for the connection.
1983 @item
1984 The client process' plist is initialized from the server's plist.
1985 @end itemize
1987 @node Datagrams
1988 @section Datagrams
1989 @cindex datagrams
1991   A datagram connection communicates with individual packets rather
1992 than streams of data.  Each call to @code{process-send} sends one
1993 datagram packet (@pxref{Input to Processes}), and each datagram
1994 received results in one call to the filter function.
1996   The datagram connection doesn't have to talk with the same remote
1997 peer all the time.  It has a @dfn{remote peer address} which specifies
1998 where to send datagrams to.  Each time an incoming datagram is passed
1999 to the filter function, the peer address is set to the address that
2000 datagram came from; that way, if the filter function sends a datagram,
2001 it will go back to that place.  You can specify the remote peer
2002 address when you create the datagram connection using the
2003 @code{:remote} keyword.  You can change it later on by calling
2004 @code{set-process-datagram-address}.
2006 @defun process-datagram-address process
2007 If @var{process} is a datagram connection or server, this function
2008 returns its remote peer address.
2009 @end defun
2011 @defun set-process-datagram-address process address
2012 If @var{process} is a datagram connection or server, this function
2013 sets its remote peer address to @var{address}.
2014 @end defun
2016 @node Low-Level Network
2017 @section Low-Level Network Access
2019   You can also create network connections by operating at a lower
2020 level than that of @code{open-network-stream}, using
2021 @code{make-network-process}.
2023 @menu
2024 * Proc: Network Processes.   Using @code{make-network-process}.
2025 * Options: Network Options.  Further control over network connections.
2026 * Features: Network Feature Testing.
2027                              Determining which network features work on
2028                                the machine you are using.
2029 @end menu
2031 @node Network Processes
2032 @subsection @code{make-network-process}
2034    The basic function for creating network connections and network
2035 servers is @code{make-network-process}.  It can do either of those
2036 jobs, depending on the arguments you give it.
2038 @defun make-network-process &rest args
2039 This function creates a network connection or server and returns the
2040 process object that represents it.  The arguments @var{args} are a
2041 list of keyword/argument pairs.  Omitting a keyword is always
2042 equivalent to specifying it with value @code{nil}, except for
2043 @code{:coding}, @code{:filter-multibyte}, and @code{:reuseaddr}.  Here
2044 are the meaningful keywords:
2046 @table @asis
2047 @item :name @var{name}
2048 Use the string @var{name} as the process name.  It is modified if
2049 necessary to make it unique.
2051 @item :type @var{type}
2052 Specify the communication type.  A value of @code{nil} specifies a
2053 stream connection (the default); @code{datagram} specifies a datagram
2054 connection.  Both connections and servers can be of either type.
2056 @item :server @var{server-flag}
2057 If @var{server-flag} is non-@code{nil}, create a server.  Otherwise,
2058 create a connection.  For a stream type server, @var{server-flag} may
2059 be an integer which then specifies the length of the queue of pending
2060 connections to the server.  The default queue length is 5.
2062 @item :host @var{host}
2063 Specify the host to connect to.  @var{host} should be a host name or
2064 Internet address, as a string, or the symbol @code{local} to specify
2065 the local host.  If you specify @var{host} for a server, it must
2066 specify a valid address for the local host, and only clients
2067 connecting to that address will be accepted.
2069 @item :service @var{service}
2070 @var{service} specifies a port number to connect to, or, for a server,
2071 the port number to listen on.  It should be a service name that
2072 translates to a port number, or an integer specifying the port number
2073 directly.  For a server, it can also be @code{t}, which means to let
2074 the system select an unused port number.
2076 @item :family @var{family}
2077 @var{family} specifies the address (and protocol) family for
2078 communication.  @code{nil} means determine the proper address family
2079 automatically for the given @var{host} and @var{service}.
2080 @code{local} specifies a Unix socket, in which case @var{host} is
2081 ignored.  @code{ipv4} and @code{ipv6} specify to use IPv4 and IPv6
2082 respectively.
2084 @item :local @var{local-address}
2085 For a server process, @var{local-address} is the address to listen on.
2086 It overrides @var{family}, @var{host} and @var{service}, and you
2087 may as well not specify them.
2089 @item :remote @var{remote-address}
2090 For a connection, @var{remote-address} is the address to connect to.
2091 It overrides @var{family}, @var{host} and @var{service}, and you
2092 may as well not specify them.
2094 For a datagram server, @var{remote-address} specifies the initial
2095 setting of the remote datagram address.
2097 The format of @var{local-address} or @var{remote-address} depends on
2098 the address family:
2100 @itemize -
2101 @item
2102 An IPv4 address is represented as a five-element vector of four 8-bit
2103 integers and one 16-bit integer
2104 @code{[@var{a} @var{b} @var{c} @var{d} @var{p}]} corresponding to
2105 numeric IPv4 address @var{a}.@var{b}.@var{c}.@var{d} and port number
2106 @var{p}.
2108 @item
2109 An IPv6 address is represented as a nine-element vector of 16-bit
2110 integers @code{[@var{a} @var{b} @var{c} @var{d} @var{e} @var{f}
2111 @var{g} @var{h} @var{p}]} corresponding to numeric IPv6 address
2112 @var{a}:@var{b}:@var{c}:@var{d}:@var{e}:@var{f}:@var{g}:@var{h} and
2113 port number @var{p}.
2115 @item
2116 A local address is represented as a string which specifies the address
2117 in the local address space.
2119 @item
2120 An ``unsupported family'' address is represented by a cons
2121 @code{(@var{f} . @var{av})}, where @var{f} is the family number and
2122 @var{av} is a vector specifying the socket address using one element
2123 per address data byte.  Do not rely on this format in portable code,
2124 as it may depend on implementation defined constants, data sizes, and
2125 data structure alignment.
2126 @end itemize
2128 @item :nowait @var{bool}
2129 If @var{bool} is non-@code{nil} for a stream connection, return
2130 without waiting for the connection to complete.  When the connection
2131 succeeds or fails, Emacs will call the sentinel function, with a
2132 second argument matching @code{"open"} (if successful) or
2133 @code{"failed"}.  The default is to block, so that
2134 @code{make-network-process} does not return until the connection
2135 has succeeded or failed.
2137 @item :stop @var{stopped}
2138 Start the network connection or server in the `stopped' state if
2139 @var{stopped} is non-@code{nil}.
2141 @item :buffer @var{buffer}
2142 Use @var{buffer} as the process buffer.
2144 @item :coding @var{coding}
2145 Use @var{coding} as the coding system for this process.  To specify
2146 different coding systems for decoding data from the connection and for
2147 encoding data sent to it, specify @code{(@var{decoding} .
2148 @var{encoding})} for @var{coding}.
2150 If you don't specify this keyword at all, the default
2151 is to determine the coding systems from the data.
2153 @item :noquery @var{query-flag}
2154 Initialize the process query flag to @var{query-flag}.
2155 @xref{Query Before Exit}.
2157 @item :filter @var{filter}
2158 Initialize the process filter to @var{filter}.
2160 @item :sentinel @var{sentinel}
2161 Initialize the process sentinel to @var{sentinel}.
2163 @item :log @var{log}
2164 Initialize the log function of a server process to @var{log}.  The log
2165 function is called each time the server accepts a network connection
2166 from a client.  The arguments passed to the log function are
2167 @var{server}, @var{connection}, and @var{message}, where @var{server}
2168 is the server process, @var{connection} is the new process for the
2169 connection, and @var{message} is a string describing what has
2170 happened.
2172 @item :plist @var{plist}
2173 Initialize the process plist to @var{plist}.
2174 @end table
2176 The original argument list, modified with the actual connection
2177 information, is available via the @code{process-contact} function.
2178 @end defun
2180 @node Network Options
2181 @subsection Network Options
2183   The following network options can be specified when you create a
2184 network process.  Except for @code{:reuseaddr}, you can also set or
2185 modify these options later, using @code{set-network-process-option}.
2187   For a server process, the options specified with
2188 @code{make-network-process} are not inherited by the client
2189 connections, so you will need to set the necessary options for each
2190 child connection as it is created.
2192 @table @asis
2193 @item :bindtodevice @var{device-name}
2194 If @var{device-name} is a non-empty string identifying a network
2195 interface name (see @code{network-interface-list}), only handle
2196 packets received on that interface.  If @var{device-name} is @code{nil}
2197 (the default), handle packets received on any interface.
2199 Using this option may require special privileges on some systems.
2201 @item :broadcast @var{broadcast-flag}
2202 If @var{broadcast-flag} is non-@code{nil} for a datagram process, the
2203 process will receive datagram packet sent to a broadcast address, and
2204 be able to send packets to a broadcast address.  Ignored for a stream
2205 connection.
2207 @item :dontroute @var{dontroute-flag}
2208 If @var{dontroute-flag} is non-@code{nil}, the process can only send
2209 to hosts on the same network as the local host.
2211 @item :keepalive @var{keepalive-flag}
2212 If @var{keepalive-flag} is non-@code{nil} for a stream connection,
2213 enable exchange of low-level keep-alive messages.
2215 @item :linger @var{linger-arg}
2216 If @var{linger-arg} is non-@code{nil}, wait for successful
2217 transmission of all queued packets on the connection before it is
2218 deleted (see @code{delete-process}).  If @var{linger-arg} is an
2219 integer, it specifies the maximum time in seconds to wait for queued
2220 packets to be sent before closing the connection.  Default is
2221 @code{nil} which means to discard unsent queued packets when the
2222 process is deleted.
2224 @item :oobinline @var{oobinline-flag}
2225 If @var{oobinline-flag} is non-@code{nil} for a stream connection,
2226 receive out-of-band data in the normal data stream.  Otherwise, ignore
2227 out-of-band data.
2229 @item :priority @var{priority}
2230 Set the priority for packets sent on this connection to the integer
2231 @var{priority}.  The interpretation of this number is protocol
2232 specific, such as setting the TOS (type of service) field on IP
2233 packets sent on this connection.  It may also have system dependent
2234 effects, such as selecting a specific output queue on the network
2235 interface.
2237 @item :reuseaddr @var{reuseaddr-flag}
2238 If @var{reuseaddr-flag} is non-@code{nil} (the default) for a stream
2239 server process, allow this server to reuse a specific port number (see
2240 @code{:service}) unless another process on this host is already
2241 listening on that port.  If @var{reuseaddr-flag} is @code{nil}, there
2242 may be a period of time after the last use of that port (by any
2243 process on the host), where it is not possible to make a new server on
2244 that port.
2245 @end table
2247 @defun set-network-process-option process option value &optional no-error
2248 This function sets or modifies a network option for network process
2249 @var{process}.  See @code{make-network-process} for details of options
2250 @var{option} and their corresponding values @var{value}.  If
2251 @var{no-error} is non-@code{nil}, this function returns @code{nil}
2252 instead of signaling an error if @var{option} is not a supported
2253 option.  If the function successfully completes, it returns @code{t}.
2255 The current setting of an option is available via the
2256 @code{process-contact} function.
2257 @end defun
2259 @node Network Feature Testing
2260 @subsection Testing Availability of Network Features
2262   To test for the availability of a given network feature, use
2263 @code{featurep} like this:
2265 @example
2266 (featurep 'make-network-process '(@var{keyword} @var{value}))
2267 @end example
2269 @noindent
2270 The result of the first form is @code{t} if it works to specify
2271 @var{keyword} with value @var{value} in @code{make-network-process}.
2272 The result of the second form is @code{t} if @var{keyword} is
2273 supported by @code{make-network-process}.  Here are some of the
2274 @var{keyword}---@var{value} pairs you can test in
2275 this way.
2277 @table @code
2278 @item (:nowait t)
2279 Non-@code{nil} if non-blocking connect is supported.
2280 @item (:type datagram)
2281 Non-@code{nil} if datagrams are supported.
2282 @item (:family local)
2283 Non-@code{nil} if local (a.k.a.@: ``UNIX domain'') sockets are supported.
2284 @item (:family ipv6)
2285 Non-@code{nil} if IPv6 is supported.
2286 @item (:service t)
2287 Non-@code{nil} if the system can select the port for a server.
2288 @end table
2290   To test for the availability of a given network option, use
2291 @code{featurep} like this:
2293 @example
2294 (featurep 'make-network-process '@var{keyword})
2295 @end example
2297 @noindent
2298 Here are some of the options you can test in this way.
2300 @table @code
2301 @item :bindtodevice
2302 @itemx :broadcast
2303 @itemx :dontroute
2304 @itemx :keepalive
2305 @itemx :linger
2306 @itemx :oobinline
2307 @itemx :priority
2308 @itemx :reuseaddr
2309 That particular network option is supported by
2310 @code{make-network-process} and @code{set-network-process-option}.
2311 @end table
2313 @node Misc Network
2314 @section Misc Network Facilities
2316   These additional functions are useful for creating and operating
2317 on network connections.  Note that they are supported only on some
2318 systems.
2320 @defun network-interface-list
2321 This function returns a list describing the network interfaces
2322 of the machine you are using.  The value is an alist whose
2323 elements have the form @code{(@var{name} . @var{address})}.
2324 @var{address} has the same form as the @var{local-address}
2325 and @var{remote-address} arguments to @code{make-network-process}.
2326 @end defun
2328 @defun network-interface-info ifname
2329 This function returns information about the network interface named
2330 @var{ifname}.  The value is a list of the form
2331 @code{(@var{addr} @var{bcast} @var{netmask} @var{hwaddr} @var{flags})}.
2333 @table @var
2334 @item addr
2335 The Internet protocol address.
2336 @item bcast
2337 The broadcast address.
2338 @item netmask
2339 The network mask.
2340 @item hwaddr
2341 The layer 2 address (Ethernet MAC address, for instance).
2342 @item flags
2343 The current flags of the interface.
2344 @end table
2345 @end defun
2347 @defun format-network-address address &optional omit-port
2348 This function converts the Lisp representation of a network address to
2349 a string.
2351 A five-element vector @code{[@var{a} @var{b} @var{c} @var{d} @var{p}]}
2352 represents an IPv4 address @var{a}.@var{b}.@var{c}.@var{d} and port
2353 number @var{p}.  @code{format-network-address} converts that to the
2354 string @code{"@var{a}.@var{b}.@var{c}.@var{d}:@var{p}"}.
2356 A nine-element vector @code{[@var{a} @var{b} @var{c} @var{d} @var{e}
2357 @var{f} @var{g} @var{h} @var{p}]} represents an IPv6 address along
2358 with a port number.  @code{format-network-address} converts that to
2359 the string
2360 @code{"[@var{a}:@var{b}:@var{c}:@var{d}:@var{e}:@var{f}:@var{g}:@var{h}]:@var{p}"}.
2362 If the vector does not include the port number, @var{p}, or if
2363 @var{omit-port} is non-@code{nil}, the result does not include the
2364 @code{:@var{p}} suffix.
2365 @end defun
2367 @node Serial Ports
2368 @section Communicating with Serial Ports
2369 @cindex @file{/dev/tty}
2370 @cindex @file{COM1}
2371 @cindex serial connections
2373   Emacs can communicate with serial ports.  For interactive use,
2374 @kbd{M-x serial-term} opens a terminal window.  In a Lisp program,
2375 @code{make-serial-process} creates a process object.
2377   The serial port can be configured at run-time, without having to
2378 close and re-open it.  The function @code{serial-process-configure}
2379 lets you change the speed, bytesize, and other parameters.  In a
2380 terminal window created by @code{serial-term}, you can click on the
2381 mode line for configuration.
2383   A serial connection is represented by a process object which can be
2384 used similar to a subprocess or network process.  You can send and
2385 receive data and configure the serial port.  A serial process object
2386 has no process ID, you can't send signals to it, and the status codes
2387 are different from other types of processes.
2388 @code{delete-process} on the process object or @code{kill-buffer} on
2389 the process buffer close the connection, but this does not affect the
2390 device connected to the serial port.
2392   The function @code{process-type} returns the symbol @code{serial}
2393 for a process object representing a serial port connection.
2395   Serial ports are available on GNU/Linux, Unix, and Windows systems.
2397 @deffn Command serial-term port speed
2398 Start a terminal-emulator for a serial port in a new buffer.
2399 @var{port} is the name of the serial port to which to connect.  For
2400 example, this could be @file{/dev/ttyS0} on Unix.  On Windows, this
2401 could be @file{COM1}, or @file{\\.\COM10} (double the backslashes in
2402 Lisp strings).
2404 @var{speed} is the speed of the serial port in bits per second.  9600
2405 is a common value.  The buffer is in Term mode; see @ref{Term Mode,,,
2406 emacs, The GNU Emacs Manual}, for the commands to use in that buffer.
2407 You can change the speed and the configuration in the mode line menu.
2408 @end deffn
2410 @defun make-serial-process &rest args
2411 This function creates a process and a buffer.  Arguments are specified
2412 as keyword/argument pairs.  Here's the list of the meaningful keywords:
2414 @table @code
2415 @item :port @var{port}@r{ (mandatory)}
2416 This is the name of the serial port.  On Unix and GNU systems, this is
2417 a file name such as @file{/dev/ttyS0}.  On Windows, this could be
2418 @file{COM1}, or @file{\\.\COM10} for ports higher than @file{COM9}
2419 (double the backslashes in Lisp strings).
2421 @item :speed @var{speed}@r{ (mandatory)}
2422 The speed of the serial port in bits per second.  This function calls
2423 @code{serial-process-configure} to handle the speed.
2425 @item :name @var{name}
2426 The name of the process.  If @var{name} is not given, @var{port} will
2427 serve as the process name as well.
2429 @item :buffer @var{buffer}
2430 The buffer to associate with the process.  The value could be either a
2431 buffer or a string that names a buffer.  Process output goes at the
2432 end of that buffer, unless you specify an output stream or filter
2433 function to handle the output.  If @var{buffer} is not given, the
2434 process buffer's name is taken from the value of the @code{:name}
2435 keyword.
2437 @item :coding @var{coding}
2438 If @var{coding} is a symbol, it specifies the coding system used for
2439 both reading and writing for this process.  If @var{coding} is a cons
2440 @code{(decoding . encoding)}, @var{decoding} is used for reading, and
2441 @var{encoding} is used for writing.  If not specified, the default is
2442 to determine the coding systems from data itself.
2444 @item :noquery @var{query-flag}
2445 Initialize the process query flag to @var{query-flag}.  @xref{Query
2446 Before Exit}.  The flags defaults to @code{nil} if unspecified.
2448 @item :stop @var{bool}
2449 Start process in the @code{stopped} state if @var{bool} is
2450 non-@code{nil}.  In the stopped state, a serial process does not
2451 accept incoming data, but you can send outgoing data.  The stopped
2452 state is cleared by @code{continue-process} and set by
2453 @code{stop-process}.
2455 @item :filter @var{filter}
2456 Install @var{filter} as the process filter.
2458 @item :sentinel @var{sentinel}
2459 Install @var{sentinel} as the process sentinel.
2461 @item :plist @var{plist}
2462 Install @var{plist} as the initial plist of the process.
2464 @item :speed
2465 @itemx :bytesize
2466 @itemx :parity
2467 @itemx :stopbits
2468 @itemx :flowcontrol
2469 These arguments are handled by @code{serial-process-configure}, which
2470 is called by @code{make-serial-process}.
2471 @end table
2473 The original argument list, possibly modified by later configuration,
2474 is available via the function @code{process-contact}.
2476 Examples:
2478 @example
2479 (make-serial-process :port "/dev/ttyS0" :speed 9600)
2481 (make-serial-process :port "COM1" :speed 115200 :stopbits 2)
2483 (make-serial-process :port "\\\\.\\COM13" :speed 1200
2484                      :bytesize 7 :parity 'odd)
2486 (make-serial-process :port "/dev/tty.BlueConsole-SPP-1"
2487                      :speed nil)
2488 @end example
2489 @end defun
2491 @defun serial-process-configure &rest args
2492 @cindex baud, in serial connections
2493 @cindex bytesize, in serial connections
2494 @cindex parity, in serial connections
2495 @cindex stopbits, in serial connections
2496 @cindex flowcontrol, in serial connections
2498 This functions configures a serial port connection.  Arguments are
2499 specified as keyword/argument pairs.  Attributes that are not given
2500 are re-initialized from the process's current configuration (available
2501 via the function @code{process-contact}) or set to reasonable default
2502 values.  The following arguments are defined:
2504 @table @code
2505 @item :process @var{process}
2506 @itemx :name @var{name}
2507 @itemx :buffer @var{buffer}
2508 @itemx :port @var{port}
2509 Any of these arguments can be given to identify the process that is to
2510 be configured.  If none of these arguments is given, the current
2511 buffer's process is used.
2513 @item :speed @var{speed}
2514 The speed of the serial port in bits per second, a.k.a.@: @dfn{baud
2515 rate}.  The value can be any number, but most serial ports work only
2516 at a few defined values between 1200 and 115200, with 9600 being the
2517 most common value.  If @var{speed} is @code{nil}, the function ignores
2518 all other arguments and does not configure the port.  This may be
2519 useful for special serial ports such as Bluetooth-to-serial converters
2520 which can only be configured through AT commands sent through the
2521 connection.  The value of @code{nil} for @var{speed} is valid only for
2522 connections that were already opened by a previous call to
2523 @code{make-serial-process} or @code{serial-term}.
2525 @item :bytesize @var{bytesize}
2526 The number of bits per byte, which can be 7 or 8.  If @var{bytesize}
2527 is not given or @code{nil}, it defaults to 8.
2529 @item :parity @var{parity}
2530 The value can be @code{nil} (don't use parity), the symbol
2531 @code{odd} (use odd parity), or the symbol @code{even} (use even
2532 parity).  If @var{parity} is not given, it defaults to no parity.
2534 @item :stopbits @var{stopbits}
2535 The number of stopbits used to terminate a transmission
2536 of each byte.  @var{stopbits} can be 1 or 2.  If @var{stopbits} is not
2537 given or @code{nil}, it defaults to 1.
2539 @item :flowcontrol @var{flowcontrol}
2540 The type of flow control to use for this connection, which is either
2541 @code{nil} (don't use flow control), the symbol @code{hw} (use RTS/CTS
2542 hardware flow control), or the symbol @code{sw} (use XON/XOFF software
2543 flow control).  If @var{flowcontrol} is not given, it defaults to no
2544 flow control.
2545 @end table
2547 @code{serial-process-configure} is called by @code{make-serial-process} for the
2548 initial configuration of the serial port.
2550 Examples:
2552 @example
2553 (serial-process-configure :process "/dev/ttyS0" :speed 1200)
2555 (serial-process-configure :buffer "COM1" :stopbits 1
2556                           :parity 'odd :flowcontrol 'hw)
2558 (serial-process-configure :port "\\\\.\\COM13" :bytesize 7)
2559 @end example
2560 @end defun
2562 @node Byte Packing
2563 @section Packing and Unpacking Byte Arrays
2564 @cindex byte packing and unpacking
2566   This section describes how to pack and unpack arrays of bytes,
2567 usually for binary network protocols.  These functions convert byte arrays
2568 to alists, and vice versa.  The byte array can be represented as a
2569 unibyte string or as a vector of integers, while the alist associates
2570 symbols either with fixed-size objects or with recursive sub-alists.
2572 @cindex serializing
2573 @cindex deserializing
2574 @cindex packing
2575 @cindex unpacking
2576   Conversion from byte arrays to nested alists is also known as
2577 @dfn{deserializing} or @dfn{unpacking}, while going in the opposite
2578 direction is also known as @dfn{serializing} or @dfn{packing}.
2580 @menu
2581 * Bindat Spec::         Describing data layout.
2582 * Bindat Functions::    Doing the unpacking and packing.
2583 * Bindat Examples::     Samples of what bindat.el can do for you!
2584 @end menu
2586 @node Bindat Spec
2587 @subsection Describing Data Layout
2589   To control unpacking and packing, you write a @dfn{data layout
2590 specification}, a special nested list describing named and typed
2591 @dfn{fields}.  This specification controls length of each field to be
2592 processed, and how to pack or unpack it.  We normally keep bindat specs
2593 in variables whose names end in @samp{-bindat-spec}; that kind of name
2594 is automatically recognized as ``risky.''
2596 @cindex endianness
2597 @cindex big endian
2598 @cindex little endian
2599 @cindex network byte ordering
2600   A field's @dfn{type} describes the size (in bytes) of the object
2601 that the field represents and, in the case of multibyte fields, how
2602 the bytes are ordered within the field.  The two possible orderings
2603 are ``big endian'' (also known as ``network byte ordering'') and
2604 ``little endian.''  For instance, the number @code{#x23cd} (decimal
2605 9165) in big endian would be the two bytes @code{#x23} @code{#xcd};
2606 and in little endian, @code{#xcd} @code{#x23}.  Here are the possible
2607 type values:
2609 @table @code
2610 @item u8
2611 @itemx byte
2612 Unsigned byte, with length 1.
2614 @item u16
2615 @itemx word
2616 @itemx short
2617 Unsigned integer in network byte order, with length 2.
2619 @item u24
2620 Unsigned integer in network byte order, with length 3.
2622 @item u32
2623 @itemx dword
2624 @itemx long
2625 Unsigned integer in network byte order, with length 4.
2626 Note: These values may be limited by Emacs' integer implementation limits.
2628 @item u16r
2629 @itemx u24r
2630 @itemx u32r
2631 Unsigned integer in little endian order, with length 2, 3 and 4, respectively.
2633 @item str @var{len}
2634 String of length @var{len}.
2636 @item strz @var{len}
2637 Zero-terminated string, in a fixed-size field with length @var{len}.
2639 @item vec @var{len} [@var{type}]
2640 Vector of @var{len} elements of type @var{type}, or bytes if not
2641 @var{type} is specified.
2642 The @var{type} is any of the simple types above, or another vector
2643 specified as a list @code{(vec @var{len} [@var{type}])}.
2645 @item ip
2646 Four-byte vector representing an Internet address.  For example:
2647 @code{[127 0 0 1]} for localhost.
2649 @item bits @var{len}
2650 List of set bits in @var{len} bytes.  The bytes are taken in big
2651 endian order and the bits are numbered starting with @code{8 *
2652 @var{len} @minus{} 1} and ending with zero.  For example: @code{bits
2653 2} unpacks @code{#x28} @code{#x1c} to @code{(2 3 4 11 13)} and
2654 @code{#x1c} @code{#x28} to @code{(3 5 10 11 12)}.
2656 @item (eval @var{form})
2657 @var{form} is a Lisp expression evaluated at the moment the field is
2658 unpacked or packed.  The result of the evaluation should be one of the
2659 above-listed type specifications.
2660 @end table
2662 For a fixed-size field, the length @var{len} is given as an integer
2663 specifying the number of bytes in the field.
2665 When the length of a field is not fixed, it typically depends on the
2666 value of a preceding field.  In this case, the length @var{len} can be
2667 given either as a list @code{(@var{name} ...)} identifying a
2668 @dfn{field name} in the format specified for @code{bindat-get-field}
2669 below, or by an expression @code{(eval @var{form})} where @var{form}
2670 should evaluate to an integer, specifying the field length.
2672 A field specification generally has the form @code{([@var{name}]
2673 @var{handler})}.  The square braces indicate that @var{name} is
2674 optional.  (Don't use names that are symbols meaningful as type
2675 specifications (above) or handler specifications (below), since that
2676 would be ambiguous.)  @var{name} can be a symbol or the expression
2677 @code{(eval @var{form})}, in which case @var{form} should evaluate to
2678 a symbol.
2680 @var{handler} describes how to unpack or pack the field and can be one
2681 of the following:
2683 @table @code
2684 @item @var{type}
2685 Unpack/pack this field according to the type specification @var{type}.
2687 @item eval @var{form}
2688 Evaluate @var{form}, a Lisp expression, for side-effect only.  If the
2689 field name is specified, the value is bound to that field name.
2691 @item fill @var{len}
2692 Skip @var{len} bytes.  In packing, this leaves them unchanged,
2693 which normally means they remain zero.  In unpacking, this means
2694 they are ignored.
2696 @item align @var{len}
2697 Skip to the next multiple of @var{len} bytes.
2699 @item struct @var{spec-name}
2700 Process @var{spec-name} as a sub-specification.  This describes a
2701 structure nested within another structure.
2703 @item union @var{form} (@var{tag} @var{spec})@dots{}
2704 @c ??? I don't see how one would actually  use this.
2705 @c ??? what kind of expression would be useful for @var{form}?
2706 Evaluate @var{form}, a Lisp expression, find the first @var{tag}
2707 that matches it, and process its associated data layout specification
2708 @var{spec}.  Matching can occur in one of three ways:
2710 @itemize
2711 @item
2712 If a @var{tag} has the form @code{(eval @var{expr})}, evaluate
2713 @var{expr} with the variable @code{tag} dynamically bound to the value
2714 of @var{form}.  A non-@code{nil} result indicates a match.
2716 @item
2717 @var{tag} matches if it is @code{equal} to the value of @var{form}.
2719 @item
2720 @var{tag} matches unconditionally if it is @code{t}.
2721 @end itemize
2723 @item repeat @var{count} @var{field-specs}@dots{}
2724 Process the @var{field-specs} recursively, in order, then repeat
2725 starting from the first one, processing all the specs @var{count}
2726 times overall.  The @var{count} is given using the same formats as a
2727 field length---if an @code{eval} form is used, it is evaluated just once.
2728 For correct operation, each spec in @var{field-specs} must include a name.
2729 @end table
2731 For the @code{(eval @var{form})} forms used in a bindat specification,
2732 the @var{form} can access and update these dynamically bound variables
2733 during evaluation:
2735 @table @code
2736 @item last
2737 Value of the last field processed.
2739 @item bindat-raw
2740 The data as a byte array.
2742 @item bindat-idx
2743 Current index (within @code{bindat-raw}) for unpacking or packing.
2745 @item struct
2746 The alist containing the structured data that have been unpacked so
2747 far, or the entire structure being packed.  You can use
2748 @code{bindat-get-field} to access specific fields of this structure.
2750 @item count
2751 @itemx index
2752 Inside a @code{repeat} block, these contain the maximum number of
2753 repetitions (as specified by the @var{count} parameter), and the
2754 current repetition number (counting from 0).  Setting @code{count} to
2755 zero will terminate the inner-most repeat block after the current
2756 repetition has completed.
2757 @end table
2759 @node Bindat Functions
2760 @subsection Functions to Unpack and Pack Bytes
2762   In the following documentation, @var{spec} refers to a data layout
2763 specification, @code{bindat-raw} to a byte array, and @var{struct} to an
2764 alist representing unpacked field data.
2766 @defun bindat-unpack spec bindat-raw &optional bindat-idx
2767 This function unpacks data from the unibyte string or byte
2768 array @code{bindat-raw}
2769 according to @var{spec}.  Normally this starts unpacking at the
2770 beginning of the byte array, but if @var{bindat-idx} is non-@code{nil}, it
2771 specifies a zero-based starting position to use instead.
2773 The value is an alist or nested alist in which each element describes
2774 one unpacked field.
2775 @end defun
2777 @defun bindat-get-field struct &rest name
2778 This function selects a field's data from the nested alist
2779 @var{struct}.  Usually @var{struct} was returned by
2780 @code{bindat-unpack}.  If @var{name} corresponds to just one argument,
2781 that means to extract a top-level field value.  Multiple @var{name}
2782 arguments specify repeated lookup of sub-structures.  An integer name
2783 acts as an array index.
2785 For example, if @var{name} is @code{(a b 2 c)}, that means to find
2786 field @code{c} in the third element of subfield @code{b} of field
2787 @code{a}.  (This corresponds to @code{struct.a.b[2].c} in C.)
2788 @end defun
2790   Although packing and unpacking operations change the organization of
2791 data (in memory), they preserve the data's @dfn{total length}, which is
2792 the sum of all the fields' lengths, in bytes.  This value is not
2793 generally inherent in either the specification or alist alone; instead,
2794 both pieces of information contribute to its calculation.  Likewise, the
2795 length of a string or array being unpacked may be longer than the data's
2796 total length as described by the specification.
2798 @defun bindat-length spec struct
2799 This function returns the total length of the data in @var{struct},
2800 according to @var{spec}.
2801 @end defun
2803 @defun bindat-pack spec struct &optional bindat-raw bindat-idx
2804 This function returns a byte array packed according to @var{spec} from
2805 the data in the alist @var{struct}.  Normally it creates and fills a
2806 new byte array starting at the beginning.  However, if @var{bindat-raw}
2807 is non-@code{nil}, it specifies a pre-allocated unibyte string or vector to
2808 pack into.  If @var{bindat-idx} is non-@code{nil}, it specifies the starting
2809 offset for packing into @code{bindat-raw}.
2811 When pre-allocating, you should make sure @code{(length @var{bindat-raw})}
2812 meets or exceeds the total length to avoid an out-of-range error.
2813 @end defun
2815 @defun bindat-ip-to-string ip
2816 Convert the Internet address vector @var{ip} to a string in the usual
2817 dotted notation.
2819 @example
2820 (bindat-ip-to-string [127 0 0 1])
2821      @result{} "127.0.0.1"
2822 @end example
2823 @end defun
2825 @node Bindat Examples
2826 @subsection Examples of Byte Unpacking and Packing
2828   Here is a complete example of byte unpacking and packing:
2830 @lisp
2831 (defvar fcookie-index-spec
2832   '((:version  u32)
2833     (:count    u32)
2834     (:longest  u32)
2835     (:shortest u32)
2836     (:flags    u32)
2837     (:delim    u8)
2838     (:ignored  fill 3)
2839     (:offset   repeat (:count)
2840                (:foo u32)))
2841   "Description of a fortune cookie index file's contents.")
2843 (defun fcookie (cookies &optional index)
2844   "Display a random fortune cookie from file COOKIES.
2845 Optional second arg INDEX specifies the associated index
2846 filename, which is by default constructed by appending
2847 \".dat\" to COOKIES.  Display cookie text in possibly
2848 new buffer \"*Fortune Cookie: BASENAME*\" where BASENAME
2849 is COOKIES without the directory part."
2850   (interactive "fCookies file: ")
2851   (let* ((info (with-temp-buffer
2852                  (insert-file-contents-literally
2853                   (or index (concat cookies ".dat")))
2854                  (bindat-unpack fcookie-index-spec
2855                                 (buffer-string))))
2856          (sel (random (bindat-get-field info :count)))
2857          (beg (cdar (bindat-get-field info :offset sel)))
2858          (end (or (cdar (bindat-get-field info
2859                                           :offset (1+ sel)))
2860                   (nth 7 (file-attributes cookies)))))
2861     (switch-to-buffer
2862      (get-buffer-create
2863       (format "*Fortune Cookie: %s*"
2864               (file-name-nondirectory cookies))))
2865     (erase-buffer)
2866     (insert-file-contents-literally
2867      cookies nil beg (- end 3))))
2869 (defun fcookie-create-index (cookies &optional index delim)
2870   "Scan file COOKIES, and write out its index file.
2871 Optional second arg INDEX specifies the index filename,
2872 which is by default constructed by appending \".dat\" to
2873 COOKIES.  Optional third arg DELIM specifies the unibyte
2874 character which, when found on a line of its own in
2875 COOKIES, indicates the border between entries."
2876   (interactive "fCookies file: ")
2877   (setq delim (or delim ?%))
2878   (let ((delim-line (format "\n%c\n" delim))
2879         (count 0)
2880         (max 0)
2881         min p q len offsets)
2882     (unless (= 3 (string-bytes delim-line))
2883       (error "Delimiter cannot be represented in one byte"))
2884     (with-temp-buffer
2885       (insert-file-contents-literally cookies)
2886       (while (and (setq p (point))
2887                   (search-forward delim-line (point-max) t)
2888                   (setq len (- (point) 3 p)))
2889         (setq count (1+ count)
2890               max (max max len)
2891               min (min (or min max) len)
2892               offsets (cons (1- p) offsets))))
2893     (with-temp-buffer
2894       (set-buffer-multibyte nil)
2895       (insert
2896        (bindat-pack
2897         fcookie-index-spec
2898         `((:version . 2)
2899           (:count . ,count)
2900           (:longest . ,max)
2901           (:shortest . ,min)
2902           (:flags . 0)
2903           (:delim . ,delim)
2904           (:offset . ,(mapcar (lambda (o)
2905                                 (list (cons :foo o)))
2906                               (nreverse offsets))))))
2907       (let ((coding-system-for-write 'raw-text-unix))
2908         (write-file (or index (concat cookies ".dat")))))))
2909 @end lisp
2911 Following is an example of defining and unpacking a complex structure.
2912 Consider the following C structures:
2914 @example
2915 struct header @{
2916     unsigned long    dest_ip;
2917     unsigned long    src_ip;
2918     unsigned short   dest_port;
2919     unsigned short   src_port;
2922 struct data @{
2923     unsigned char    type;
2924     unsigned char    opcode;
2925     unsigned short   length;  /* In network byte order */
2926     unsigned char    id[8];   /* null-terminated string  */
2927     unsigned char    data[/* (length + 3) & ~3 */];
2930 struct packet @{
2931     struct header    header;
2932     unsigned long    counters[2];  /* In little endian order */
2933     unsigned char    items;
2934     unsigned char    filler[3];
2935     struct data      item[/* items */];
2938 @end example
2940 The corresponding data layout specification:
2942 @lisp
2943 (setq header-spec
2944       '((dest-ip   ip)
2945         (src-ip    ip)
2946         (dest-port u16)
2947         (src-port  u16)))
2949 (setq data-spec
2950       '((type      u8)
2951         (opcode    u8)
2952         (length    u16)  ;; network byte order
2953         (id        strz 8)
2954         (data      vec (length))
2955         (align     4)))
2957 (setq packet-spec
2958       '((header    struct header-spec)
2959         (counters  vec 2 u32r)   ;; little endian order
2960         (items     u8)
2961         (fill      3)
2962         (item      repeat (items)
2963                    (struct data-spec))))
2964 @end lisp
2966 A binary data representation:
2968 @lisp
2969 (setq binary-data
2970       [ 192 168 1 100 192 168 1 101 01 28 21 32
2971         160 134 1 0 5 1 0 0 2 0 0 0
2972         2 3 0 5 ?A ?B ?C ?D ?E ?F 0 0 1 2 3 4 5 0 0 0
2973         1 4 0 7 ?B ?C ?D ?E ?F ?G 0 0 6 7 8 9 10 11 12 0 ])
2974 @end lisp
2976 The corresponding decoded structure:
2978 @lisp
2979 (setq decoded (bindat-unpack packet-spec binary-data))
2980      @result{}
2981 ((header
2982   (dest-ip   . [192 168 1 100])
2983   (src-ip    . [192 168 1 101])
2984   (dest-port . 284)
2985   (src-port  . 5408))
2986  (counters . [100000 261])
2987  (items . 2)
2988  (item ((data . [1 2 3 4 5])
2989         (id . "ABCDEF")
2990         (length . 5)
2991         (opcode . 3)
2992         (type . 2))
2993        ((data . [6 7 8 9 10 11 12])
2994         (id . "BCDEFG")
2995         (length . 7)
2996         (opcode . 4)
2997         (type . 1))))
2998 @end lisp
3000 Fetching data from this structure:
3002 @lisp
3003 (bindat-get-field decoded 'item 1 'id)
3004      @result{} "BCDEFG"
3005 @end lisp
3007 @ignore
3008    arch-tag: ba9da253-e65f-4e7f-b727-08fba0a1df7a
3009 @end ignore