doc: Mention the Russian translation.
[guix.git] / guix / store.scm
blob5c6e4e0ca6f47ed399994b31c931f1ab0f6f02c2
1 ;;; GNU Guix --- Functional package management for GNU
2 ;;; Copyright © 2012, 2013, 2014, 2015, 2016, 2017, 2018, 2019 Ludovic Courtès <ludo@gnu.org>
3 ;;; Copyright © 2018 Jan Nieuwenhuizen <janneke@gnu.org>
4 ;;;
5 ;;; This file is part of GNU Guix.
6 ;;;
7 ;;; GNU Guix is free software; you can redistribute it and/or modify it
8 ;;; under the terms of the GNU General Public License as published by
9 ;;; the Free Software Foundation; either version 3 of the License, or (at
10 ;;; your option) any later version.
11 ;;;
12 ;;; GNU Guix is distributed in the hope that it will be useful, but
13 ;;; WITHOUT ANY WARRANTY; without even the implied warranty of
14 ;;; MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
15 ;;; GNU General Public License for more details.
16 ;;;
17 ;;; You should have received a copy of the GNU General Public License
18 ;;; along with GNU Guix.  If not, see <http://www.gnu.org/licenses/>.
20 (define-module (guix store)
21   #:use-module (guix utils)
22   #:use-module (guix config)
23   #:use-module (guix deprecation)
24   #:use-module (guix memoization)
25   #:use-module (guix serialization)
26   #:use-module (guix monads)
27   #:use-module (guix records)
28   #:use-module (guix base16)
29   #:use-module (guix base32)
30   #:use-module (gcrypt hash)
31   #:use-module (guix profiling)
32   #:autoload   (guix build syscalls) (terminal-columns)
33   #:use-module (rnrs bytevectors)
34   #:use-module (ice-9 binary-ports)
35   #:use-module ((ice-9 control) #:select (let/ec))
36   #:use-module (srfi srfi-1)
37   #:use-module (srfi srfi-9)
38   #:use-module (srfi srfi-9 gnu)
39   #:use-module (srfi srfi-11)
40   #:use-module (srfi srfi-26)
41   #:use-module (srfi srfi-34)
42   #:use-module (srfi srfi-35)
43   #:use-module (srfi srfi-39)
44   #:use-module (ice-9 match)
45   #:use-module (ice-9 regex)
46   #:use-module (ice-9 vlist)
47   #:use-module (ice-9 popen)
48   #:use-module (ice-9 threads)
49   #:use-module (ice-9 format)
50   #:use-module (web uri)
51   #:export (%daemon-socket-uri
52             %gc-roots-directory
53             %default-substitute-urls
55             store-connection?
56             store-connection-version
57             store-connection-major-version
58             store-connection-minor-version
59             store-connection-socket
61             ;; Deprecated forms for 'store-connection'.
62             nix-server?
63             nix-server-version
64             nix-server-major-version
65             nix-server-minor-version
66             nix-server-socket
68             current-store-protocol-version        ;for internal use
69             mcached
71             &store-error store-error?
72             &store-connection-error store-connection-error?
73             store-connection-error-file
74             store-connection-error-code
75             &store-protocol-error store-protocol-error?
76             store-protocol-error-message
77             store-protocol-error-status
79             ;; Deprecated forms for '&store-error' et al.
80             &nix-error nix-error?
81             &nix-connection-error nix-connection-error?
82             nix-connection-error-file
83             nix-connection-error-code
84             &nix-protocol-error nix-protocol-error?
85             nix-protocol-error-message
86             nix-protocol-error-status
88             hash-algo
89             build-mode
91             open-connection
92             port->connection
93             close-connection
94             with-store
95             set-build-options
96             set-build-options*
97             valid-path?
98             query-path-hash
99             hash-part->path
100             query-path-info
101             add-data-to-store
102             add-text-to-store
103             add-to-store
104             add-file-tree-to-store
105             binary-file
106             build-things
107             build
108             query-failed-paths
109             clear-failed-paths
110             add-temp-root
111             add-indirect-root
112             add-permanent-root
113             remove-permanent-root
115             substitutable?
116             substitutable-path
117             substitutable-deriver
118             substitutable-references
119             substitutable-download-size
120             substitutable-nar-size
121             has-substitutes?
122             substitutable-paths
123             substitutable-path-info
125             path-info?
126             path-info-deriver
127             path-info-hash
128             path-info-references
129             path-info-registration-time
130             path-info-nar-size
132             built-in-builders
133             references
134             references/substitutes
135             references*
136             query-path-info*
137             requisites
138             referrers
139             optimize-store
140             verify-store
141             topologically-sorted
142             valid-derivers
143             query-derivation-outputs
144             live-paths
145             dead-paths
146             collect-garbage
147             delete-paths
148             import-paths
149             export-paths
151             current-build-output-port
153             %store-monad
154             store-bind
155             store-return
156             store-lift
157             store-lower
158             run-with-store
159             %guile-for-build
160             current-system
161             set-current-system
162             text-file
163             interned-file
164             interned-file-tree
166             %store-prefix
167             store-path
168             output-path
169             fixed-output-path
170             store-path?
171             direct-store-path?
172             derivation-path?
173             store-path-package-name
174             store-path-hash-part
175             direct-store-path
176             derivation-log-file
177             log-file))
179 (define %protocol-version #x163)
181 (define %worker-magic-1 #x6e697863)               ; "nixc"
182 (define %worker-magic-2 #x6478696f)               ; "dxio"
184 (define (protocol-major magic)
185   (logand magic #xff00))
186 (define (protocol-minor magic)
187   (logand magic #x00ff))
188 (define (protocol-version major minor)
189   (logior major minor))
191 (define-syntax define-enumerate-type
192   (syntax-rules ()
193     ((_ name->int (name id) ...)
194      (define-syntax name->int
195        (syntax-rules (name ...)
196          ((_ name) id) ...)))))
198 (define-enumerate-type operation-id
199   ;; operation numbers from worker-protocol.hh
200   (quit 0)
201   (valid-path? 1)
202   (has-substitutes? 3)
203   (query-path-hash 4)
204   (query-references 5)
205   (query-referrers 6)
206   (add-to-store 7)
207   (add-text-to-store 8)
208   (build-things 9)
209   (ensure-path 10)
210   (add-temp-root 11)
211   (add-indirect-root 12)
212   (sync-with-gc 13)
213   (find-roots 14)
214   (export-path 16)
215   (query-deriver 18)
216   (set-options 19)
217   (collect-garbage 20)
218   ;;(query-substitutable-path-info 21)  ; obsolete as of #x10c
219   (query-derivation-outputs 22)
220   (query-all-valid-paths 23)
221   (query-failed-paths 24)
222   (clear-failed-paths 25)
223   (query-path-info 26)
224   (import-paths 27)
225   (query-derivation-output-names 28)
226   (query-path-from-hash-part 29)
227   (query-substitutable-path-infos 30)
228   (query-valid-paths 31)
229   (query-substitutable-paths 32)
230   (query-valid-derivers 33)
231   (optimize-store 34)
232   (verify-store 35)
233   (built-in-builders 80))
235 (define-enumerate-type hash-algo
236   ;; hash.hh
237   (md5 1)
238   (sha1 2)
239   (sha256 3))
241 (define-enumerate-type build-mode
242   ;; store-api.hh
243   (normal 0)
244   (repair 1)
245   (check 2))
247 (define-enumerate-type gc-action
248   ;; store-api.hh
249   (return-live 0)
250   (return-dead 1)
251   (delete-dead 2)
252   (delete-specific 3))
254 (define %default-socket-path
255   (string-append %state-directory "/daemon-socket/socket"))
257 (define %daemon-socket-uri
258   ;; URI or file name of the socket the daemon listens too.
259   (make-parameter (or (getenv "GUIX_DAEMON_SOCKET")
260                       %default-socket-path)))
264 ;; Information about a substitutable store path.
265 (define-record-type <substitutable>
266   (substitutable path deriver refs dl-size nar-size)
267   substitutable?
268   (path      substitutable-path)
269   (deriver   substitutable-deriver)
270   (refs      substitutable-references)
271   (dl-size   substitutable-download-size)
272   (nar-size  substitutable-nar-size))
274 (define (read-substitutable-path-list p)
275   (let loop ((len    (read-int p))
276              (result '()))
277     (if (zero? len)
278         (reverse result)
279         (let ((path     (read-store-path p))
280               (deriver  (read-store-path p))
281               (refs     (read-store-path-list p))
282               (dl-size  (read-long-long p))
283               (nar-size (read-long-long p)))
284           (loop (- len 1)
285                 (cons (substitutable path deriver refs dl-size nar-size)
286                       result))))))
288 ;; Information about a store path.
289 (define-record-type <path-info>
290   (path-info deriver hash references registration-time nar-size)
291   path-info?
292   (deriver path-info-deriver)                     ;string | #f
293   (hash path-info-hash)
294   (references path-info-references)
295   (registration-time path-info-registration-time)
296   (nar-size path-info-nar-size))
298 (define (read-path-info p)
299   (let ((deriver  (match (read-store-path p)
300                     ("" #f)
301                     (x  x)))
302         (hash     (base16-string->bytevector (read-string p)))
303         (refs     (read-store-path-list p))
304         (registration-time (read-int p))
305         (nar-size (read-long-long p)))
306     (path-info deriver hash refs registration-time nar-size)))
308 (define-syntax write-arg
309   (syntax-rules (integer boolean bytevector
310                  string string-list string-pairs
311                  store-path store-path-list base16)
312     ((_ integer arg p)
313      (write-int arg p))
314     ((_ boolean arg p)
315      (write-int (if arg 1 0) p))
316     ((_ bytevector arg p)
317      (write-bytevector arg p))
318     ((_ string arg p)
319      (write-string arg p))
320     ((_ string-list arg p)
321      (write-string-list arg p))
322     ((_ string-pairs arg p)
323      (write-string-pairs arg p))
324     ((_ store-path arg p)
325      (write-store-path arg p))
326     ((_ store-path-list arg p)
327      (write-store-path-list arg p))
328     ((_ base16 arg p)
329      (write-string (bytevector->base16-string arg) p))))
331 (define-syntax read-arg
332   (syntax-rules (integer boolean string store-path store-path-list string-list
333                  substitutable-path-list path-info base16)
334     ((_ integer p)
335      (read-int p))
336     ((_ boolean p)
337      (not (zero? (read-int p))))
338     ((_ string p)
339      (read-string p))
340     ((_ store-path p)
341      (read-store-path p))
342     ((_ store-path-list p)
343      (read-store-path-list p))
344     ((_ string-list p)
345      (read-string-list p))
346     ((_ substitutable-path-list p)
347      (read-substitutable-path-list p))
348     ((_ path-info p)
349      (read-path-info p))
350     ((_ base16 p)
351      (base16-string->bytevector (read-string p)))))
354 ;; remote-store.cc
356 (define-record-type* <store-connection> store-connection %make-store-connection
357   store-connection?
358   (socket store-connection-socket)
359   (major  store-connection-major-version)
360   (minor  store-connection-minor-version)
362   (buffer store-connection-output-port)                 ;output port
363   (flush  store-connection-flush-output)                ;thunk
365   ;; Caches.  We keep them per-connection, because store paths build
366   ;; during the session are temporary GC roots kept for the duration of
367   ;; the session.
368   (ats-cache    store-connection-add-to-store-cache)
369   (atts-cache   store-connection-add-text-to-store-cache)
370   (object-cache store-connection-object-cache
371                 (default vlist-null))             ;vhash
372   (built-in-builders store-connection-built-in-builders
373                      (default (delay '()))))      ;promise
375 (set-record-type-printer! <store-connection>
376                           (lambda (obj port)
377                             (format port "#<store-connection ~a.~a ~a>"
378                                     (store-connection-major-version obj)
379                                     (store-connection-minor-version obj)
380                                     (number->string (object-address obj)
381                                                     16))))
383 (define-deprecated/alias nix-server? store-connection?)
384 (define-deprecated/alias nix-server-major-version
385   store-connection-major-version)
386 (define-deprecated/alias nix-server-minor-version
387   store-connection-minor-version)
388 (define-deprecated/alias nix-server-socket store-connection-socket)
391 (define-condition-type &store-error &error
392   store-error?)
394 (define-condition-type &store-connection-error &store-error
395   store-connection-error?
396   (file   store-connection-error-file)
397   (errno  store-connection-error-code))
399 (define-condition-type &store-protocol-error &store-error
400   store-protocol-error?
401   (message store-protocol-error-message)
402   (status  store-protocol-error-status))
404 (define-deprecated/alias &nix-error &store-error)
405 (define-deprecated/alias nix-error? store-error?)
406 (define-deprecated/alias &nix-connection-error &store-connection-error)
407 (define-deprecated/alias nix-connection-error? store-connection-error?)
408 (define-deprecated/alias nix-connection-error-file
409   store-connection-error-file)
410 (define-deprecated/alias nix-connection-error-code
411   store-connection-error-code)
412 (define-deprecated/alias &nix-protocol-error &store-protocol-error)
413 (define-deprecated/alias nix-protocol-error? store-protocol-error?)
414 (define-deprecated/alias nix-protocol-error-message
415   store-protocol-error-message)
416 (define-deprecated/alias nix-protocol-error-status
417   store-protocol-error-status)
420 (define-syntax-rule (system-error-to-connection-error file exp ...)
421   "Catch 'system-error' exceptions and translate them to
422 '&store-connection-error'."
423   (catch 'system-error
424     (lambda ()
425       exp ...)
426     (lambda args
427       (let ((errno (system-error-errno args)))
428         (raise (condition (&store-connection-error
429                            (file file)
430                            (errno errno))))))))
432 (define (open-unix-domain-socket file)
433   "Connect to the Unix-domain socket at FILE and return it.  Raise a
434 '&store-connection-error' upon error."
435   (let ((s (with-fluids ((%default-port-encoding #f))
436              ;; This trick allows use of the `scm_c_read' optimization.
437              (socket PF_UNIX SOCK_STREAM 0)))
438         (a (make-socket-address PF_UNIX file)))
440     (system-error-to-connection-error file
441       (connect s a)
442       s)))
444 (define %default-guix-port
445   ;; Default port when connecting to a daemon over TCP/IP.
446   44146)
448 (define (open-inet-socket host port)
449   "Connect to the Unix-domain socket at HOST:PORT and return it.  Raise a
450 '&store-connection-error' upon error."
451   (let ((sock (with-fluids ((%default-port-encoding #f))
452                 ;; This trick allows use of the `scm_c_read' optimization.
453                 (socket PF_UNIX SOCK_STREAM 0))))
454     (define addresses
455       (getaddrinfo host
456                    (if (number? port) (number->string port) port)
457                    (if (number? port)
458                        (logior AI_ADDRCONFIG AI_NUMERICSERV)
459                        AI_ADDRCONFIG)
460                    0                              ;any address family
461                    SOCK_STREAM))                  ;TCP only
463     (let loop ((addresses addresses))
464       (match addresses
465         ((ai rest ...)
466          (let ((s (socket (addrinfo:fam ai)
467                           ;; TCP/IP only
468                           SOCK_STREAM IPPROTO_IP)))
470            (catch 'system-error
471              (lambda ()
472                (connect s (addrinfo:addr ai))
474                ;; Setting this option makes a dramatic difference because it
475                ;; avoids the "ACK delay" on our RPC messages.
476                (setsockopt s IPPROTO_TCP TCP_NODELAY 1)
477                s)
478              (lambda args
479                ;; Connection failed, so try one of the other addresses.
480                (close s)
481                (if (null? rest)
482                    (raise (condition (&store-connection-error
483                                       (file host)
484                                       (errno (system-error-errno args)))))
485                    (loop rest))))))))))
487 (define (connect-to-daemon uri)
488   "Connect to the daemon at URI, a string that may be an actual URI or a file
489 name."
490   (define (not-supported)
491     (raise (condition (&store-connection-error
492                        (file uri)
493                        (errno ENOTSUP)))))
495   (define connect
496     (match (string->uri uri)
497       (#f                                         ;URI is a file name
498        open-unix-domain-socket)
499       ((? uri? uri)
500        (match (uri-scheme uri)
501          ((or #f 'file 'unix)
502           (lambda (_)
503             (open-unix-domain-socket (uri-path uri))))
504          ('guix
505           (lambda (_)
506             (open-inet-socket (uri-host uri)
507                               (or (uri-port uri) %default-guix-port))))
508          ((? symbol? scheme)
509           ;; Try to dynamically load a module for SCHEME.
510           ;; XXX: Errors are swallowed.
511           (match (false-if-exception
512                   (resolve-interface `(guix store ,scheme)))
513             ((? module? module)
514              (match (false-if-exception
515                      (module-ref module 'connect-to-daemon))
516                ((? procedure? connect)
517                 (lambda (_)
518                   (connect uri)))
519                (x (not-supported))))
520             (#f (not-supported))))
521          (x
522           (not-supported))))))
524   (connect uri))
526 (define* (open-connection #:optional (uri (%daemon-socket-uri))
527                           #:key port (reserve-space? #t) cpu-affinity)
528   "Connect to the daemon at URI (a string), or, if PORT is not #f, use it as
529 the I/O port over which to communicate to a build daemon.
531 When RESERVE-SPACE? is true, instruct it to reserve a little bit of extra
532 space on the file system so that the garbage collector can still operate,
533 should the disk become full.  When CPU-AFFINITY is true, it must be an integer
534 corresponding to an OS-level CPU number to which the daemon's worker process
535 for this connection will be pinned.  Return a server object."
536   (guard (c ((nar-error? c)
537              ;; One of the 'write-' or 'read-' calls below failed, but this is
538              ;; really a connection error.
539              (raise (condition
540                      (&store-connection-error (file (or port uri))
541                                               (errno EPROTO))
542                      (&message (message "build daemon handshake failed"))))))
543     (let*-values (((port)
544                    (or port (connect-to-daemon uri)))
545                   ((output flush)
546                    (buffering-output-port port
547                                           (make-bytevector 8192))))
548       (write-int %worker-magic-1 port)
549       (let ((r (read-int port)))
550         (and (eqv? r %worker-magic-2)
551              (let ((v (read-int port)))
552                (and (eqv? (protocol-major %protocol-version)
553                           (protocol-major v))
554                     (begin
555                       (write-int %protocol-version port)
556                       (when (>= (protocol-minor v) 14)
557                         (write-int (if cpu-affinity 1 0) port)
558                         (when cpu-affinity
559                           (write-int cpu-affinity port)))
560                       (when (>= (protocol-minor v) 11)
561                         (write-int (if reserve-space? 1 0) port))
562                       (letrec* ((built-in-builders
563                                  (delay (%built-in-builders conn)))
564                                 (conn
565                                  (%make-store-connection port
566                                                          (protocol-major v)
567                                                          (protocol-minor v)
568                                                          output flush
569                                                          (make-hash-table 100)
570                                                          (make-hash-table 100)
571                                                          vlist-null
572                                                          built-in-builders)))
573                         (let loop ((done? (process-stderr conn)))
574                           (or done? (process-stderr conn)))
575                         conn)))))))))
577 (define* (port->connection port
578                            #:key (version %protocol-version))
579   "Assimilate PORT, an input/output port, and return a connection to the
580 daemon, assuming the given protocol VERSION.
582 Warning: this procedure assumes that the initial handshake with the daemon has
583 already taken place on PORT and that we're just continuing on this established
584 connection.  Use with care."
585   (let-values (((output flush)
586                 (buffering-output-port port (make-bytevector 8192))))
587     (define connection
588       (%make-store-connection port
589                               (protocol-major version)
590                               (protocol-minor version)
591                               output flush
592                               (make-hash-table 100)
593                               (make-hash-table 100)
594                               vlist-null
595                               (delay (%built-in-builders connection))))
597     connection))
599 (define (store-connection-version store)
600   "Return the protocol version of STORE as an integer."
601   (protocol-version (store-connection-major-version store)
602                     (store-connection-minor-version store)))
604 (define-deprecated/alias nix-server-version store-connection-version)
606 (define (write-buffered-output server)
607   "Flush SERVER's output port."
608   (force-output (store-connection-output-port server))
609   ((store-connection-flush-output server)))
611 (define (close-connection server)
612   "Close the connection to SERVER."
613   (close (store-connection-socket server)))
615 (define (call-with-store proc)
616   "Call PROC with an open store connection."
617   (let ((store (open-connection)))
618     (dynamic-wind
619       (const #f)
620       (lambda ()
621         (parameterize ((current-store-protocol-version
622                         (store-connection-version store)))
623           (proc store)))
624       (lambda ()
625         (false-if-exception (close-connection store))))))
627 (define-syntax-rule (with-store store exp ...)
628   "Bind STORE to an open connection to the store and evaluate EXPs;
629 automatically close the store when the dynamic extent of EXP is left."
630   (call-with-store (lambda (store) exp ...)))
632 (define current-store-protocol-version
633   ;; Protocol version of the store currently used.  XXX: This is a hack to
634   ;; communicate the protocol version to the build output port.  It's a hack
635   ;; because it could be inaccurrate, for instance if there's code that
636   ;; manipulates several store connections at once; it works well for the
637   ;; purposes of (guix status) though.
638   (make-parameter #f))
640 (define current-build-output-port
641   ;; The port where build output is sent.
642   (make-parameter (current-error-port)))
644 (define* (dump-port in out
645                     #:optional len
646                     #:key (buffer-size 16384))
647   "Read LEN bytes from IN (or as much as possible if LEN is #f) and write it
648 to OUT, using chunks of BUFFER-SIZE bytes."
649   (define buffer
650     (make-bytevector buffer-size))
652   (let loop ((total 0)
653              (bytes (get-bytevector-n! in buffer 0
654                                        (if len
655                                            (min len buffer-size)
656                                            buffer-size))))
657     (or (eof-object? bytes)
658         (and len (= total len))
659         (let ((total (+ total bytes)))
660           (put-bytevector out buffer 0 bytes)
661           (loop total
662                 (get-bytevector-n! in buffer 0
663                                    (if len
664                                        (min (- len total) buffer-size)
665                                        buffer-size)))))))
667 (define %newlines
668   ;; Newline characters triggering a flush of 'current-build-output-port'.
669   ;; Unlike Guile's 'line, we flush upon #\return so that progress reports
670   ;; that use that trick are correctly displayed.
671   (char-set #\newline #\return))
673 (define* (process-stderr server #:optional user-port)
674   "Read standard output and standard error from SERVER, writing it to
675 CURRENT-BUILD-OUTPUT-PORT.  Return #t when SERVER is done sending data, and
676 #f otherwise; in the latter case, the caller should call `process-stderr'
677 again until #t is returned or an error is raised.
679 Since the build process's output cannot be assumed to be UTF-8, we
680 conservatively consider it to be Latin-1, thereby avoiding possible
681 encoding conversion errors."
682   (define p
683     (store-connection-socket server))
685   ;; magic cookies from worker-protocol.hh
686   (define %stderr-next  #x6f6c6d67)          ; "olmg", build log
687   (define %stderr-read  #x64617461)          ; "data", data needed from source
688   (define %stderr-write #x64617416)          ; "dat\x16", data for sink
689   (define %stderr-last  #x616c7473)          ; "alts", we're done
690   (define %stderr-error #x63787470)          ; "cxtp", error reporting
692   (let ((k (read-int p)))
693     (cond ((= k %stderr-write)
694            ;; Write a byte stream to USER-PORT.
695            (let* ((len (read-int p))
696                   (m   (modulo len 8)))
697              (dump-port p user-port len
698                         #:buffer-size (if (<= len 16384) 16384 65536))
699              (unless (zero? m)
700                ;; Consume padding, as for strings.
701                (get-bytevector-n p (- 8 m))))
702            #f)
703           ((= k %stderr-read)
704            ;; Read a byte stream from USER-PORT.
705            ;; Note: Avoid 'get-bytevector-n' to work around
706            ;; <http://bugs.gnu.org/17591> in Guile up to 2.0.11.
707            (let* ((max-len (read-int p))
708                   (data    (make-bytevector max-len))
709                   (len     (get-bytevector-n! user-port data 0 max-len)))
710              (write-bytevector data p len)
711              #f))
712           ((= k %stderr-next)
713            ;; Log a string.  Build logs are usually UTF-8-encoded, but they
714            ;; may also contain arbitrary byte sequences that should not cause
715            ;; this to fail.  Thus, use the permissive
716            ;; 'read-maybe-utf8-string'.
717            (let ((s (read-maybe-utf8-string p)))
718              (display s (current-build-output-port))
719              (when (string-any %newlines s)
720                (force-output (current-build-output-port)))
721              #f))
722           ((= k %stderr-error)
723            ;; Report an error.
724            (let ((error  (read-maybe-utf8-string p))
725                  ;; Currently the daemon fails to send a status code for early
726                  ;; errors like DB schema version mismatches, so check for EOF.
727                  (status (if (and (>= (store-connection-minor-version server) 8)
728                                   (not (eof-object? (lookahead-u8 p))))
729                              (read-int p)
730                              1)))
731              (raise (condition (&store-protocol-error
732                                 (message error)
733                                 (status  status))))))
734           ((= k %stderr-last)
735            ;; The daemon is done (see `stopWork' in `nix-worker.cc'.)
736            #t)
737           (else
738            (raise (condition (&store-protocol-error
739                               (message "invalid error code")
740                               (status   k))))))))
742 (define %default-substitute-urls
743   ;; Default list of substituters.  This is *not* the list baked in
744   ;; 'guix-daemon', but it is used by 'guix-service-type' and and a couple of
745   ;; clients ('guix build --log-file' uses it.)
746   (map (if (false-if-exception (resolve-interface '(gnutls)))
747            (cut string-append "https://" <>)
748            (cut string-append "http://" <>))
749        '("ci.guix.gnu.org")))
751 (define* (set-build-options server
752                             #:key keep-failed? keep-going? fallback?
753                             (verbosity 0)
754                             rounds                ;number of build rounds
755                             max-build-jobs
756                             timeout
757                             max-silent-time
758                             (use-build-hook? #t)
759                             (build-verbosity 0)
760                             (log-type 0)
761                             (print-build-trace #t)
763                             ;; When true, provide machine-readable "build
764                             ;; traces" for use by (guix status).  Old clients
765                             ;; are unable to make sense, which is why it's
766                             ;; disabled by default.
767                             print-extended-build-trace?
769                             ;; When true, the daemon prefixes builder output
770                             ;; with "@ build-log" traces so we can
771                             ;; distinguish it from daemon output, and we can
772                             ;; distinguish each builder's output
773                             ;; (PRINT-BUILD-TRACE must be true as well.)  The
774                             ;; latter is particularly useful when
775                             ;; MAX-BUILD-JOBS > 1.
776                             multiplexed-build-output?
778                             build-cores
779                             (use-substitutes? #t)
781                             ;; Client-provided substitute URLs.  If it is #f,
782                             ;; the daemon's settings are used.  Otherwise, it
783                             ;; overrides the daemons settings; see 'guix
784                             ;; substitute'.
785                             (substitute-urls #f)
787                             ;; Number of columns in the client's terminal.
788                             (terminal-columns (terminal-columns))
790                             ;; Locale of the client.
791                             (locale (false-if-exception (setlocale LC_ALL))))
792   ;; Must be called after `open-connection'.
794   (define socket
795     (store-connection-socket server))
797   (let-syntax ((send (syntax-rules ()
798                        ((_ (type option) ...)
799                         (begin
800                           (write-arg type option socket)
801                           ...)))))
802     (write-int (operation-id set-options) socket)
803     (send (boolean keep-failed?) (boolean keep-going?)
804           (boolean fallback?) (integer verbosity))
805     (when (< (store-connection-minor-version server) #x61)
806       (let ((max-build-jobs (or max-build-jobs 1))
807             (max-silent-time (or max-silent-time 3600)))
808         (send (integer max-build-jobs) (integer max-silent-time))))
809     (when (>= (store-connection-minor-version server) 2)
810       (send (boolean use-build-hook?)))
811     (when (>= (store-connection-minor-version server) 4)
812       (send (integer build-verbosity) (integer log-type)
813             (boolean print-build-trace)))
814     (when (and (>= (store-connection-minor-version server) 6)
815                (< (store-connection-minor-version server) #x61))
816       (let ((build-cores (or build-cores (current-processor-count))))
817         (send (integer build-cores))))
818     (when (>= (store-connection-minor-version server) 10)
819       (send (boolean use-substitutes?)))
820     (when (>= (store-connection-minor-version server) 12)
821       (let ((pairs `(;; This option is honored by 'guix substitute' et al.
822                      ,@(if print-build-trace
823                            `(("print-extended-build-trace"
824                               . ,(if print-extended-build-trace? "1" "0")))
825                            '())
826                      ,@(if multiplexed-build-output?
827                            `(("multiplexed-build-output"
828                               . ,(if multiplexed-build-output? "true" "false")))
829                            '())
830                      ,@(if timeout
831                            `(("build-timeout" . ,(number->string timeout)))
832                            '())
833                      ,@(if max-silent-time
834                            `(("build-max-silent-time"
835                               . ,(number->string max-silent-time)))
836                            '())
837                      ,@(if max-build-jobs
838                            `(("build-max-jobs"
839                               . ,(number->string max-build-jobs)))
840                            '())
841                      ,@(if build-cores
842                            `(("build-cores" . ,(number->string build-cores)))
843                            '())
844                      ,@(if substitute-urls
845                            `(("substitute-urls"
846                               . ,(string-join substitute-urls)))
847                            '())
848                      ,@(if rounds
849                            `(("build-repeat"
850                               . ,(number->string (max 0 (1- rounds)))))
851                            '())
852                      ,@(if terminal-columns
853                            `(("terminal-columns"
854                               . ,(number->string terminal-columns)))
855                            '())
856                      ,@(if locale
857                            `(("locale" . ,locale))
858                            '()))))
859         (send (string-pairs pairs))))
860     (let loop ((done? (process-stderr server)))
861       (or done? (process-stderr server)))))
863 (define (buffering-output-port port buffer)
864   "Return two value: an output port wrapped around PORT that uses BUFFER (a
865 bytevector) as its internal buffer, and a thunk to flush this output port."
866   ;; Note: In Guile 2.2.2, custom binary output ports already have their own
867   ;; 4K internal buffer.
868   (define size
869     (bytevector-length buffer))
871   (define total 0)
873   (define (flush)
874     (put-bytevector port buffer 0 total)
875     (force-output port)
876     (set! total 0))
878   (define (write bv offset count)
879     (if (zero? count)                             ;end of file
880         (flush)
881         (let loop ((offset offset)
882                    (count count)
883                    (written 0))
884           (cond ((= total size)
885                  (flush)
886                  (loop offset count written))
887                 ((zero? count)
888                  written)
889                 (else
890                  (let ((to-copy (min count (- size total))))
891                    (bytevector-copy! bv offset buffer total to-copy)
892                    (set! total (+ total to-copy))
893                    (loop (+ offset to-copy) (- count to-copy)
894                          (+ written to-copy))))))))
896   ;; Note: We need to return FLUSH because the custom binary port has no way
897   ;; to be notified of a 'force-output' call on itself.
898   (values (make-custom-binary-output-port "buffering-output-port"
899                                           write #f #f flush)
900           flush))
902 (define profiled?
903   (let ((profiled
904          (or (and=> (getenv "GUIX_PROFILING") string-tokenize)
905              '())))
906     (lambda (component)
907       "Return true if COMPONENT profiling is active."
908       (member component profiled))))
910 (define %rpc-calls
911   ;; Mapping from RPC names (symbols) to invocation counts.
912   (make-hash-table))
914 (define* (show-rpc-profile #:optional (port (current-error-port)))
915   "Write to PORT a summary of the RPCs that have been made."
916   (let ((profile (sort (hash-fold alist-cons '() %rpc-calls)
917                        (lambda (rpc1 rpc2)
918                          (< (cdr rpc1) (cdr rpc2))))))
919     (format port "Remote procedure call summary: ~a RPCs~%"
920             (match profile
921               (((names . counts) ...)
922                (reduce + 0 counts))))
923     (for-each (match-lambda
924                 ((rpc . count)
925                  (format port "  ~30a ... ~5@a~%" rpc count)))
926               profile)))
928 (define record-operation
929   ;; Optionally, increment the number of calls of the given RPC.
930   (if (profiled? "rpc")
931       (begin
932         (register-profiling-hook! "rpc" show-rpc-profile)
933         (lambda (name)
934           (let ((count (or (hashq-ref %rpc-calls name) 0)))
935             (hashq-set! %rpc-calls name (+ count 1)))))
936       (lambda (_)
937         #t)))
939 (define-syntax operation
940   (syntax-rules ()
941     "Define a client-side RPC stub for the given operation."
942     ((_ (name (type arg) ...) docstring return ...)
943      (lambda (server arg ...)
944        docstring
945        (let* ((s (store-connection-socket server))
946               (buffered (store-connection-output-port server)))
947          (record-operation 'name)
948          (write-int (operation-id name) buffered)
949          (write-arg type arg buffered)
950          ...
951          (write-buffered-output server)
953          ;; Loop until the server is done sending error output.
954          (let loop ((done? (process-stderr server)))
955            (or done? (loop (process-stderr server))))
956          (values (read-arg return s) ...))))))
958 (define-syntax-rule (define-operation (name args ...)
959                       docstring return ...)
960   (define name
961     (operation (name args ...) docstring return ...)))
963 (define-operation (valid-path? (string path))
964   "Return #t when PATH designates a valid store item and #f otherwise (an
965 invalid item may exist on disk but still be invalid, for instance because it
966 is the result of an aborted or failed build.)
968 A '&store-protocol-error' condition is raised if PATH is not prefixed by the
969 store directory (/gnu/store)."
970   boolean)
972 (define-operation (query-path-hash (store-path path))
973   "Return the SHA256 hash of the nar serialization of PATH as a bytevector."
974   base16)
976 (define hash-part->path
977   (let ((query-path-from-hash-part
978          (operation (query-path-from-hash-part (string hash))
979                     #f
980                     store-path)))
981    (lambda (server hash-part)
982      "Return the store path whose hash part is HASH-PART (a nix-base32
983 string).  Raise an error if no such path exists."
984      ;; This RPC is primarily used by Hydra to reply to HTTP GETs of
985      ;; /HASH.narinfo.
986      (query-path-from-hash-part server hash-part))))
988 (define-operation (query-path-info (store-path path))
989   "Return the info (hash, references, etc.) for PATH."
990   path-info)
992 (define add-data-to-store
993   ;; A memoizing version of `add-to-store', to avoid repeated RPCs with
994   ;; the very same arguments during a given session.
995   (let ((add-text-to-store
996          (operation (add-text-to-store (string name) (bytevector text)
997                                        (string-list references))
998                     #f
999                     store-path))
1000         (lookup (if (profiled? "add-data-to-store-cache")
1001                     (let ((lookups 0)
1002                           (hits    0)
1003                           (drv     0)
1004                           (scheme  0))
1005                       (define (show-stats)
1006                         (define (% n)
1007                           (if (zero? lookups)
1008                               100.
1009                               (* 100. (/ n lookups))))
1011                         (format (current-error-port) "
1012 'add-data-to-store' cache:
1013   lookups:      ~5@a
1014   hits:         ~5@a (~,1f%)
1015   .drv files:   ~5@a (~,1f%)
1016   Scheme files: ~5@a (~,1f%)~%"
1017                                 lookups hits (% hits)
1018                                 drv (% drv)
1019                                 scheme (% scheme)))
1021                       (register-profiling-hook! "add-data-to-store-cache"
1022                                                 show-stats)
1023                       (lambda (cache args)
1024                         (let ((result (hash-ref cache args)))
1025                           (set! lookups (+ 1 lookups))
1026                           (when result
1027                             (set! hits (+ 1 hits)))
1028                           (match args
1029                             ((_ name _)
1030                              (cond ((string-suffix? ".drv" name)
1031                                     (set! drv (+ drv 1)))
1032                                    ((string-suffix? "-builder" name)
1033                                     (set! scheme (+ scheme 1)))
1034                                    ((string-suffix? ".scm" name)
1035                                     (set! scheme (+ scheme 1))))))
1036                           result)))
1037                     hash-ref)))
1038     (lambda* (server name bytes #:optional (references '()))
1039       "Add BYTES under file NAME in the store, and return its store path.
1040 REFERENCES is the list of store paths referred to by the resulting store
1041 path."
1042       (let* ((args  `(,bytes ,name ,references))
1043              (cache (store-connection-add-text-to-store-cache server)))
1044         (or (lookup cache args)
1045             (let ((path (add-text-to-store server name bytes references)))
1046               (hash-set! cache args path)
1047               path))))))
1049 (define* (add-text-to-store store name text #:optional (references '()))
1050   "Add TEXT under file NAME in the store, and return its store path.
1051 REFERENCES is the list of store paths referred to by the resulting store
1052 path."
1053   (add-data-to-store store name (string->utf8 text) references))
1055 (define true
1056   ;; Define it once and for all since we use it as a default value for
1057   ;; 'add-to-store' and want to make sure two default values are 'eq?' for the
1058   ;; purposes or memoization.
1059   (lambda (file stat)
1060     #t))
1062 (define add-to-store
1063   ;; A memoizing version of `add-to-store'.  This is important because
1064   ;; `add-to-store' leads to huge data transfers to the server, and
1065   ;; because it's often called many times with the very same argument.
1066   (let ((add-to-store
1067          (lambda* (server basename recursive? hash-algo file-name
1068                           #:key (select? true))
1069            ;; We don't use the 'operation' macro so we can pass SELECT? to
1070            ;; 'write-file'.
1071            (record-operation 'add-to-store)
1072            (let ((port (store-connection-socket server)))
1073              (write-int (operation-id add-to-store) port)
1074              (write-string basename port)
1075              (write-int 1 port)                   ;obsolete, must be #t
1076              (write-int (if recursive? 1 0) port)
1077              (write-string hash-algo port)
1078              (write-file file-name port #:select? select?)
1079              (write-buffered-output server)
1080              (let loop ((done? (process-stderr server)))
1081                (or done? (loop (process-stderr server))))
1082              (read-store-path port)))))
1083     (lambda* (server basename recursive? hash-algo file-name
1084                      #:key (select? true))
1085       "Add the contents of FILE-NAME under BASENAME to the store.  When
1086 RECURSIVE? is false, FILE-NAME must designate a regular file--not a directory
1087 nor a symlink.  When RECURSIVE? is true and FILE-NAME designates a directory,
1088 the contents of FILE-NAME are added recursively; if FILE-NAME designates a
1089 flat file and RECURSIVE? is true, its contents are added, and its permission
1090 bits are kept.  HASH-ALGO must be a string such as \"sha256\".
1092 When RECURSIVE? is true, call (SELECT?  FILE STAT) for each directory entry,
1093 where FILE is the entry's absolute file name and STAT is the result of
1094 'lstat'; exclude entries for which SELECT? does not return true."
1095       ;; Note: We don't stat FILE-NAME at each call, and thus we assume that
1096       ;; the file remains unchanged for the lifetime of SERVER.
1097       (let* ((args  `(,file-name ,basename ,recursive? ,hash-algo ,select?))
1098              (cache (store-connection-add-to-store-cache server)))
1099         (or (hash-ref cache args)
1100             (let ((path (add-to-store server basename recursive?
1101                                       hash-algo file-name
1102                                       #:select? select?)))
1103               (hash-set! cache args path)
1104               path))))))
1106 (define %not-slash
1107   (char-set-complement (char-set #\/)))
1109 (define* (add-file-tree-to-store server tree
1110                                  #:key
1111                                  (hash-algo "sha256")
1112                                  (recursive? #t))
1113   "Add the given TREE to the store on SERVER.  TREE must be an entry such as:
1115   (\"my-tree\" directory
1116     (\"a\" regular (data \"hello\"))
1117     (\"b\" symlink \"a\")
1118     (\"c\" directory
1119       (\"d\" executable (file \"/bin/sh\"))))
1121 This is a generalized version of 'add-to-store'.  It allows you to reproduce
1122 an arbitrary directory layout in the store without creating a derivation."
1124   ;; Note: The format of TREE was chosen to allow trees to be compared with
1125   ;; 'equal?', which in turn allows us to memoize things.
1127   (define root
1128     ;; TREE is a single entry.
1129     (list tree))
1131   (define basename
1132     (match tree
1133       ((name . _) name)))
1135   (define (lookup file)
1136     (let loop ((components (string-tokenize file %not-slash))
1137                (tree root))
1138       (match components
1139         ((basename)
1140          (assoc basename tree))
1141         ((head . rest)
1142          (loop rest
1143                (match (assoc-ref tree head)
1144                  (('directory . entries) entries)))))))
1146   (define (file-type+size file)
1147     (match (lookup file)
1148       ((_ (and type (or 'directory 'symlink)) . _)
1149        (values type 0))
1150       ((_ type ('file file))
1151        (values type (stat:size (stat file))))
1152       ((_ type ('data (? string? data)))
1153        (values type (string-length data)))
1154       ((_ type ('data (? bytevector? data)))
1155        (values type (bytevector-length data)))))
1157   (define (file-port file)
1158     (match (lookup file)
1159       ((_ (or 'regular 'executable) content)
1160        (match content
1161          (('file (? string? file))
1162           (open-file file "r0b"))
1163          (('data (? string? str))
1164           (open-input-string str))
1165          (('data (? bytevector? bv))
1166           (open-bytevector-input-port bv))))))
1168   (define (symlink-target file)
1169     (match (lookup file)
1170       ((_ 'symlink target) target)))
1172   (define (directory-entries directory)
1173     (match (lookup directory)
1174       ((_ 'directory (names . _) ...) names)))
1176   (define cache
1177     (store-connection-add-to-store-cache server))
1179   (or (hash-ref cache tree)
1180       (begin
1181         ;; We don't use the 'operation' macro so we can use 'write-file-tree'
1182         ;; instead of 'write-file'.
1183         (record-operation 'add-to-store/tree)
1184         (let ((port (store-connection-socket server)))
1185           (write-int (operation-id add-to-store) port)
1186           (write-string basename port)
1187           (write-int 1 port)                      ;obsolete, must be #t
1188           (write-int (if recursive? 1 0) port)
1189           (write-string hash-algo port)
1190           (write-file-tree basename port
1191                            #:file-type+size file-type+size
1192                            #:file-port file-port
1193                            #:symlink-target symlink-target
1194                            #:directory-entries directory-entries)
1195           (write-buffered-output server)
1196           (let loop ((done? (process-stderr server)))
1197             (or done? (loop (process-stderr server))))
1198           (let ((result (read-store-path port)))
1199             (hash-set! cache tree result)
1200             result)))))
1202 (define build-things
1203   (let ((build (operation (build-things (string-list things)
1204                                         (integer mode))
1205                           "Do it!"
1206                           boolean))
1207         (build/old (operation (build-things (string-list things))
1208                               "Do it!"
1209                               boolean)))
1210     (lambda* (store things #:optional (mode (build-mode normal)))
1211       "Build THINGS, a list of store items which may be either '.drv' files or
1212 outputs, and return when the worker is done building them.  Elements of THINGS
1213 that are not derivations can only be substituted and not built locally.
1214 Return #t on success."
1215       (parameterize ((current-store-protocol-version
1216                       (store-connection-version store)))
1217         (if (>= (store-connection-minor-version store) 15)
1218             (build store things mode)
1219             (if (= mode (build-mode normal))
1220                 (build/old store things)
1221                 (raise (condition (&store-protocol-error
1222                                    (message "unsupported build mode")
1223                                    (status  1))))))))))
1225 (define-operation (add-temp-root (store-path path))
1226   "Make PATH a temporary root for the duration of the current session.
1227 Return #t."
1228   boolean)
1230 (define-operation (add-indirect-root (string file-name))
1231   "Make the symlink FILE-NAME an indirect root for the garbage collector:
1232 whatever store item FILE-NAME points to will not be collected.  Return #t on
1233 success.
1235 FILE-NAME can be anywhere on the file system, but it must be an absolute file
1236 name--it is the caller's responsibility to ensure that it is an absolute file
1237 name."
1238   boolean)
1240 (define %gc-roots-directory
1241   ;; The place where garbage collector roots (symlinks) are kept.
1242   (string-append %state-directory "/gcroots"))
1244 (define (add-permanent-root target)
1245   "Add a garbage collector root pointing to TARGET, an element of the store,
1246 preventing TARGET from even being collected.  This can also be used if TARGET
1247 does not exist yet.
1249 Raise an error if the caller does not have write access to the GC root
1250 directory."
1251   (let* ((root (string-append %gc-roots-directory "/" (basename target))))
1252     (catch 'system-error
1253       (lambda ()
1254         (symlink target root))
1255       (lambda args
1256         ;; If ROOT already exists, this is fine; otherwise, re-throw.
1257         (unless (= EEXIST (system-error-errno args))
1258           (apply throw args))))))
1260 (define (remove-permanent-root target)
1261   "Remove the permanent garbage collector root pointing to TARGET.  Raise an
1262 error if there is no such root."
1263   (delete-file (string-append %gc-roots-directory "/" (basename target))))
1265 (define references
1266   (operation (query-references (store-path path))
1267              "Return the list of references of PATH."
1268              store-path-list))
1270 (define %reference-cache
1271   ;; Brute-force cache mapping store items to their list of references.
1272   ;; Caching matters because when building a profile in the presence of
1273   ;; grafts, we keep calling 'graft-derivation', which in turn calls
1274   ;; 'references/substitutes' many times with the same arguments.  Ideally we
1275   ;; would use a cache associated with the daemon connection instead (XXX).
1276   (make-hash-table 100))
1278 (define (references/substitutes store items)
1279   "Return the list of list of references of ITEMS; the result has the same
1280 length as ITEMS.  Query substitute information for any item missing from the
1281 store at once.  Raise a '&store-protocol-error' exception if reference
1282 information for one of ITEMS is missing."
1283   (let* ((requested  items)
1284          (local-refs (map (lambda (item)
1285                             (or (hash-ref %reference-cache item)
1286                                 (guard (c ((store-protocol-error? c) #f))
1287                                   (references store item))))
1288                           items))
1289          (missing    (fold-right (lambda (item local-ref result)
1290                                    (if local-ref
1291                                        result
1292                                        (cons item result)))
1293                                  '()
1294                                  items local-refs))
1296          ;; Query all the substitutes at once to minimize the cost of
1297          ;; launching 'guix substitute' and making HTTP requests.
1298          (substs     (if (null? missing)
1299                          '()
1300                          (substitutable-path-info store missing))))
1301     (when (< (length substs) (length missing))
1302       (raise (condition (&store-protocol-error
1303                          (message "cannot determine \
1304 the list of references")
1305                          (status 1)))))
1307     ;; Intersperse SUBSTS and LOCAL-REFS.
1308     (let loop ((items       items)
1309                (local-refs  local-refs)
1310                (result      '()))
1311       (match items
1312         (()
1313          (let ((result (reverse result)))
1314            (for-each (cut hash-set! %reference-cache <> <>)
1315                      requested result)
1316            result))
1317         ((item items ...)
1318          (match local-refs
1319            ((#f tail ...)
1320             (loop items tail
1321                   (cons (any (lambda (subst)
1322                                (and (string=? (substitutable-path subst) item)
1323                                     (substitutable-references subst)))
1324                              substs)
1325                         result)))
1326            ((head tail ...)
1327             (loop items tail
1328                   (cons head result)))))))))
1330 (define* (fold-path store proc seed paths
1331                     #:optional (relatives (cut references store <>)))
1332   "Call PROC for each of the RELATIVES of PATHS, exactly once, and return the
1333 result formed from the successive calls to PROC, the first of which is passed
1334 SEED."
1335   (let loop ((paths  paths)
1336              (result seed)
1337              (seen   vlist-null))
1338     (match paths
1339       ((path rest ...)
1340        (if (vhash-assoc path seen)
1341            (loop rest result seen)
1342            (let ((seen   (vhash-cons path #t seen))
1343                  (rest   (append rest (relatives path)))
1344                  (result (proc path result)))
1345              (loop rest result seen))))
1346       (()
1347        result))))
1349 (define (requisites store paths)
1350   "Return the requisites of PATHS, including PATHS---i.e., their closures (all
1351 its references, recursively)."
1352   (fold-path store cons '() paths))
1354 (define (topologically-sorted store paths)
1355   "Return a list containing PATHS and all their references sorted in
1356 topological order."
1357   (define (traverse)
1358     ;; Do a simple depth-first traversal of all of PATHS.
1359     (let loop ((paths   paths)
1360                (visited vlist-null)
1361                (result  '()))
1362       (define (visit n)
1363         (vhash-cons n #t visited))
1365       (define (visited? n)
1366         (vhash-assoc n visited))
1368       (match paths
1369         ((head tail ...)
1370          (if (visited? head)
1371              (loop tail visited result)
1372              (call-with-values
1373                  (lambda ()
1374                    (loop (references store head)
1375                          (visit head)
1376                          result))
1377                (lambda (visited result)
1378                  (loop tail
1379                        visited
1380                        (cons head result))))))
1381         (()
1382          (values visited result)))))
1384   (call-with-values traverse
1385     (lambda (_ result)
1386       (reverse result))))
1388 (define referrers
1389   (operation (query-referrers (store-path path))
1390              "Return the list of path that refer to PATH."
1391              store-path-list))
1393 (define valid-derivers
1394   (operation (query-valid-derivers (store-path path))
1395              "Return the list of valid \"derivers\" of PATH---i.e., all the
1396 .drv present in the store that have PATH among their outputs."
1397              store-path-list))
1399 (define query-derivation-outputs  ; avoid name clash with `derivation-outputs'
1400   (operation (query-derivation-outputs (store-path path))
1401              "Return the list of outputs of PATH, a .drv file."
1402              store-path-list))
1404 (define-operation (has-substitutes? (store-path path))
1405   "Return #t if binary substitutes are available for PATH, and #f otherwise."
1406   boolean)
1408 (define substitutable-paths
1409   (operation (query-substitutable-paths (store-path-list paths))
1410              "Return the subset of PATHS that is substitutable."
1411              store-path-list))
1413 (define substitutable-path-info
1414   (operation (query-substitutable-path-infos (store-path-list paths))
1415              "Return information about the subset of PATHS that is
1416 substitutable.  For each substitutable path, a `substitutable?' object is
1417 returned; thus, the resulting list can be shorter than PATHS.  Furthermore,
1418 that there is no guarantee that the order of the resulting list matches the
1419 order of PATHS."
1420              substitutable-path-list))
1422 (define %built-in-builders
1423   (let ((builders (operation (built-in-builders)
1424                              "Return the built-in builders."
1425                              string-list)))
1426     (lambda (store)
1427       "Return the names of the supported built-in derivation builders
1428 supported by STORE.  The result is memoized for STORE."
1429       ;; Check whether STORE's version supports this RPC and built-in
1430       ;; derivation builders in general, which appeared in Guix > 0.11.0.
1431       ;; Return the empty list if it doesn't.  Note that this RPC does not
1432       ;; exist in 'nix-daemon'.
1433       (if (or (> (store-connection-major-version store) #x100)
1434               (and (= (store-connection-major-version store) #x100)
1435                    (>= (store-connection-minor-version store) #x60)))
1436           (builders store)
1437           '()))))
1439 (define (built-in-builders store)
1440   "Return the names of the supported built-in derivation builders
1441 supported by STORE."
1442   (force (store-connection-built-in-builders store)))
1444 (define-operation (optimize-store)
1445   "Optimize the store by hard-linking identical files (\"deduplication\".)
1446 Return #t on success."
1447   ;; Note: the daemon in Guix <= 0.8.2 does not implement this RPC.
1448   boolean)
1450 (define verify-store
1451   (let ((verify (operation (verify-store (boolean check-contents?)
1452                                          (boolean repair?))
1453                            "Verify the store."
1454                            boolean)))
1455     (lambda* (store #:key check-contents? repair?)
1456       "Verify the integrity of the store and return false if errors remain,
1457 and true otherwise.  When REPAIR? is true, repair any missing or altered store
1458 items by substituting them (this typically requires root privileges because it
1459 is not an atomic operation.)  When CHECK-CONTENTS? is true, check the contents
1460 of store items; this can take a lot of time."
1461       (not (verify store check-contents? repair?)))))
1463 (define (run-gc server action to-delete min-freed)
1464   "Perform the garbage-collector operation ACTION, one of the
1465 `gc-action' values.  When ACTION is `delete-specific', the TO-DELETE is
1466 the list of store paths to delete.  IGNORE-LIVENESS? should always be
1467 #f.  MIN-FREED is the minimum amount of disk space to be freed, in
1468 bytes, before the GC can stop.  Return the list of store paths delete,
1469 and the number of bytes freed."
1470   (let ((s (store-connection-socket server)))
1471     (write-int (operation-id collect-garbage) s)
1472     (write-int action s)
1473     (write-store-path-list to-delete s)
1474     (write-arg boolean #f s)                      ; ignore-liveness?
1475     (write-long-long min-freed s)
1476     (write-int 0 s)                               ; obsolete
1477     (when (>= (store-connection-minor-version server) 5)
1478       ;; Obsolete `use-atime' and `max-atime' parameters.
1479       (write-int 0 s)
1480       (write-int 0 s))
1482     ;; Loop until the server is done sending error output.
1483     (let loop ((done? (process-stderr server)))
1484       (or done? (loop (process-stderr server))))
1486     (let ((paths    (read-store-path-list s))
1487           (freed    (read-long-long s))
1488           (obsolete (read-long-long s)))
1489       (unless (null? paths)
1490         ;; To be on the safe side, completely invalidate both caches.
1491         ;; Otherwise we could end up returning store paths that are no longer
1492         ;; valid.
1493         (hash-clear! (store-connection-add-to-store-cache server))
1494         (hash-clear! (store-connection-add-text-to-store-cache server)))
1496      (values paths freed))))
1498 (define-syntax-rule (%long-long-max)
1499   ;; Maximum unsigned 64-bit integer.
1500   (- (expt 2 64) 1))
1502 (define (live-paths server)
1503   "Return the list of live store paths---i.e., store paths still
1504 referenced, and thus not subject to being garbage-collected."
1505   (run-gc server (gc-action return-live) '() (%long-long-max)))
1507 (define (dead-paths server)
1508   "Return the list of dead store paths---i.e., store paths no longer
1509 referenced, and thus subject to being garbage-collected."
1510   (run-gc server (gc-action return-dead) '() (%long-long-max)))
1512 (define* (collect-garbage server #:optional (min-freed (%long-long-max)))
1513   "Collect garbage from the store at SERVER.  If MIN-FREED is non-zero,
1514 then collect at least MIN-FREED bytes.  Return the paths that were
1515 collected, and the number of bytes freed."
1516   (run-gc server (gc-action delete-dead) '() min-freed))
1518 (define* (delete-paths server paths #:optional (min-freed (%long-long-max)))
1519   "Delete PATHS from the store at SERVER, if they are no longer
1520 referenced.  If MIN-FREED is non-zero, then stop after at least
1521 MIN-FREED bytes have been collected.  Return the paths that were
1522 collected, and the number of bytes freed."
1523   (run-gc server (gc-action delete-specific) paths min-freed))
1525 (define (import-paths server port)
1526   "Import the set of store paths read from PORT into SERVER's store.  An error
1527 is raised if the set of paths read from PORT is not signed (as per
1528 'export-path #:sign? #t'.)  Return the list of store paths imported."
1529   (let ((s (store-connection-socket server)))
1530     (write-int (operation-id import-paths) s)
1531     (let loop ((done? (process-stderr server port)))
1532       (or done? (loop (process-stderr server port))))
1533     (read-store-path-list s)))
1535 (define* (export-path server path port #:key (sign? #t))
1536   "Export PATH to PORT.  When SIGN? is true, sign it."
1537   (let ((s (store-connection-socket server)))
1538     (write-int (operation-id export-path) s)
1539     (write-store-path path s)
1540     (write-arg boolean sign? s)
1541     (let loop ((done? (process-stderr server port)))
1542       (or done? (loop (process-stderr server port))))
1543     (= 1 (read-int s))))
1545 (define* (export-paths server paths port #:key (sign? #t) recursive?)
1546   "Export the store paths listed in PATHS to PORT, in topological order,
1547 signing them if SIGN? is true.  When RECURSIVE? is true, export the closure of
1548 PATHS---i.e., PATHS and all their dependencies."
1549   (define ordered
1550     (let ((sorted (topologically-sorted server paths)))
1551       ;; When RECURSIVE? is #f, filter out the references of PATHS.
1552       (if recursive?
1553           sorted
1554           (filter (cut member <> paths) sorted))))
1556   (let loop ((paths ordered))
1557     (match paths
1558       (()
1559        (write-int 0 port))
1560       ((head tail ...)
1561        (write-int 1 port)
1562        (and (export-path server head port #:sign? sign?)
1563             (loop tail))))))
1565 (define-operation (query-failed-paths)
1566   "Return the list of store items for which a build failure is cached.
1568 The result is always the empty list unless the daemon was started with
1569 '--cache-failures'."
1570   store-path-list)
1572 (define-operation (clear-failed-paths (store-path-list items))
1573   "Remove ITEMS from the list of cached build failures.
1575 This makes sense only when the daemon was started with '--cache-failures'."
1576   boolean)
1580 ;;; Store monad.
1583 (define-syntax-rule (define-alias new old)
1584   (define-syntax new (identifier-syntax old)))
1586 ;; The store monad allows us to (1) build sequences of operations in the
1587 ;; store, and (2) make the store an implicit part of the execution context,
1588 ;; rather than a parameter of every single function.
1589 (define-alias %store-monad %state-monad)
1590 (define-alias store-return state-return)
1591 (define-alias store-bind state-bind)
1593 ;; Instantiate templates for %STORE-MONAD since it's syntactically different
1594 ;; from %STATE-MONAD.
1595 (template-directory instantiations %store-monad)
1597 (define* (cache-object-mapping object keys result)
1598   "Augment the store's object cache with a mapping from OBJECT/KEYS to RESULT.
1599 KEYS is a list of additional keys to match against, for instance a (SYSTEM
1600 TARGET) tuple.
1602 OBJECT is typically a high-level object such as a <package> or an <origin>,
1603 and RESULT is typically its derivation."
1604   (lambda (store)
1605     (values result
1606             (store-connection
1607              (inherit store)
1608              (object-cache (vhash-consq object (cons result keys)
1609                                         (store-connection-object-cache store)))))))
1611 (define record-cache-lookup!
1612   (if (profiled? "object-cache")
1613       (let ((fresh    0)
1614             (lookups  0)
1615             (hits     0))
1616         (register-profiling-hook!
1617          "object-cache"
1618          (lambda ()
1619            (format (current-error-port) "Store object cache:
1620   fresh caches: ~5@a
1621   lookups:      ~5@a
1622   hits:         ~5@a (~,1f%)~%"
1623                    fresh lookups hits
1624                    (if (zero? lookups)
1625                        100.
1626                        (* 100. (/ hits lookups))))))
1628         (lambda (hit? cache)
1629           (set! fresh
1630             (if (eq? cache vlist-null)
1631                 (+ 1 fresh)
1632                 fresh))
1633           (set! lookups (+ 1 lookups))
1634           (set! hits (if hit? (+ hits 1) hits))))
1635       (lambda (x y)
1636         #t)))
1638 (define* (lookup-cached-object object #:optional (keys '()))
1639   "Return the cached object in the store connection corresponding to OBJECT
1640 and KEYS.  KEYS is a list of additional keys to match against, and which are
1641 compared with 'equal?'.  Return #f on failure and the cached result
1642 otherwise."
1643   (lambda (store)
1644     (let* ((cache (store-connection-object-cache store))
1646            ;; Escape as soon as we find the result.  This avoids traversing
1647            ;; the whole vlist chain and significantly reduces the number of
1648            ;; 'hashq' calls.
1649            (value (let/ec return
1650                     (vhash-foldq* (lambda (item result)
1651                                     (match item
1652                                       ((value . keys*)
1653                                        (if (equal? keys keys*)
1654                                            (return value)
1655                                            result))))
1656                                   #f object
1657                                   cache))))
1658       (record-cache-lookup! value cache)
1659       (values value store))))
1661 (define* (%mcached mthunk object #:optional (keys '()))
1662   "Bind the monadic value returned by MTHUNK, which supposedly corresponds to
1663 OBJECT/KEYS, or return its cached value."
1664   (mlet %store-monad ((cached (lookup-cached-object object keys)))
1665     (if cached
1666         (return cached)
1667         (>>= (mthunk)
1668              (lambda (result)
1669                (cache-object-mapping object keys result))))))
1671 (define-syntax-rule (mcached mvalue object keys ...)
1672   "Run MVALUE, which corresponds to OBJECT/KEYS, and cache it; or return the
1673 value associated with OBJECT/KEYS in the store's object cache if there is
1674 one."
1675   (%mcached (lambda () mvalue)
1676             object (list keys ...)))
1678 (define (preserve-documentation original proc)
1679   "Return PROC with documentation taken from ORIGINAL."
1680   (set-object-property! proc 'documentation
1681                         (procedure-property original 'documentation))
1682   proc)
1684 (define (store-lift proc)
1685   "Lift PROC, a procedure whose first argument is a connection to the store,
1686 in the store monad."
1687   (preserve-documentation proc
1688                           (lambda args
1689                             (lambda (store)
1690                               (values (apply proc store args) store)))))
1692 (define (store-lower proc)
1693   "Lower PROC, a monadic procedure in %STORE-MONAD, to a \"normal\" procedure
1694 taking the store as its first argument."
1695   (preserve-documentation proc
1696                           (lambda (store . args)
1697                             (run-with-store store (apply proc args)))))
1700 ;; Store monad operators.
1703 (define* (binary-file name
1704                       data ;bytevector
1705                       #:optional (references '()))
1706   "Return as a monadic value the absolute file name in the store of the file
1707 containing DATA, a bytevector.  REFERENCES is a list of store items that the
1708 resulting text file refers to; it defaults to the empty list."
1709   (lambda (store)
1710     (values (add-data-to-store store name data references)
1711             store)))
1713 (define* (text-file name
1714                     text ;string
1715                     #:optional (references '()))
1716   "Return as a monadic value the absolute file name in the store of the file
1717 containing TEXT, a string.  REFERENCES is a list of store items that the
1718 resulting text file refers to; it defaults to the empty list."
1719   (lambda (store)
1720     (values (add-text-to-store store name text references)
1721             store)))
1723 (define* (interned-file file #:optional name
1724                         #:key (recursive? #t) (select? true))
1725   "Return the name of FILE once interned in the store.  Use NAME as its store
1726 name, or the basename of FILE if NAME is omitted.
1728 When RECURSIVE? is true, the contents of FILE are added recursively; if FILE
1729 designates a flat file and RECURSIVE? is true, its contents are added, and its
1730 permission bits are kept.
1732 When RECURSIVE? is true, call (SELECT?  FILE STAT) for each directory entry,
1733 where FILE is the entry's absolute file name and STAT is the result of
1734 'lstat'; exclude entries for which SELECT? does not return true."
1735   (lambda (store)
1736     (values (add-to-store store (or name (basename file))
1737                           recursive? "sha256" file
1738                           #:select? select?)
1739             store)))
1741 (define interned-file-tree
1742   (store-lift add-file-tree-to-store))
1744 (define build
1745   ;; Monadic variant of 'build-things'.
1746   (store-lift build-things))
1748 (define set-build-options*
1749   (store-lift set-build-options))
1751 (define references*
1752   (store-lift references))
1754 (define (query-path-info* item)
1755   "Monadic version of 'query-path-info' that returns #f when ITEM is not in
1756 the store."
1757   (lambda (store)
1758     (guard (c ((store-protocol-error? c)
1759                ;; ITEM is not in the store; return #f.
1760                (values #f store)))
1761       (values (query-path-info store item) store))))
1763 (define-inlinable (current-system)
1764   ;; Consult the %CURRENT-SYSTEM fluid at bind time.  This is equivalent to
1765   ;; (lift0 %current-system %store-monad), but inlinable, thus avoiding
1766   ;; closure allocation in some cases.
1767   (lambda (state)
1768     (values (%current-system) state)))
1770 (define-inlinable (set-current-system system)
1771   ;; Set the %CURRENT-SYSTEM fluid at bind time.
1772   (lambda (state)
1773     (values (%current-system system) state)))
1775 (define %guile-for-build
1776   ;; The derivation of the Guile to be used within the build environment,
1777   ;; when using 'gexp->derivation' and co.
1778   (make-parameter #f))
1780 (define* (run-with-store store mval
1781                          #:key
1782                          (guile-for-build (%guile-for-build))
1783                          (system (%current-system))
1784                          (target #f))
1785   "Run MVAL, a monadic value in the store monad, in STORE, an open store
1786 connection, and return the result."
1787   ;; Initialize the dynamic bindings here to avoid bad surprises.  The
1788   ;; difficulty lies in the fact that dynamic bindings are resolved at
1789   ;; bind-time and not at call time, which can be disconcerting.
1790   (parameterize ((%guile-for-build guile-for-build)
1791                  (%current-system system)
1792                  (%current-target-system target))
1793     (call-with-values (lambda ()
1794                         (run-with-state mval store))
1795       (lambda (result store)
1796         ;; Discard the state.
1797         result))))
1801 ;;; Store paths.
1804 (define %store-prefix
1805   ;; Absolute path to the Nix store.
1806   (make-parameter %store-directory))
1808 (define (compressed-hash bv size)                 ; `compressHash'
1809   "Given the hash stored in BV, return a compressed version thereof that fits
1810 in SIZE bytes."
1811   (define new (make-bytevector size 0))
1812   (define old-size (bytevector-length bv))
1813   (let loop ((i 0))
1814     (if (= i old-size)
1815         new
1816         (let* ((j (modulo i size))
1817                (o (bytevector-u8-ref new j)))
1818           (bytevector-u8-set! new j
1819                               (logxor o (bytevector-u8-ref bv i)))
1820           (loop (+ 1 i))))))
1822 (define (store-path type hash name)               ; makeStorePath
1823   "Return the store path for NAME/HASH/TYPE."
1824   (let* ((s (string-append type ":sha256:"
1825                            (bytevector->base16-string hash) ":"
1826                            (%store-prefix) ":" name))
1827          (h (sha256 (string->utf8 s)))
1828          (c (compressed-hash h 20)))
1829     (string-append (%store-prefix) "/"
1830                    (bytevector->nix-base32-string c) "-"
1831                    name)))
1833 (define (output-path output hash name)            ; makeOutputPath
1834   "Return an output path for OUTPUT (the name of the output as a string) of
1835 the derivation called NAME with hash HASH."
1836   (store-path (string-append "output:" output) hash
1837               (if (string=? output "out")
1838                   name
1839                   (string-append name "-" output))))
1841 (define* (fixed-output-path name hash
1842                             #:key
1843                             (output "out")
1844                             (hash-algo 'sha256)
1845                             (recursive? #t))
1846   "Return an output path for the fixed output OUTPUT defined by HASH of type
1847 HASH-ALGO, of the derivation NAME.  RECURSIVE? has the same meaning as for
1848 'add-to-store'."
1849   (if (and recursive? (eq? hash-algo 'sha256))
1850       (store-path "source" hash name)
1851       (let ((tag (string-append "fixed:" output ":"
1852                                 (if recursive? "r:" "")
1853                                 (symbol->string hash-algo) ":"
1854                                 (bytevector->base16-string hash) ":")))
1855         (store-path (string-append "output:" output)
1856                     (sha256 (string->utf8 tag))
1857                     name))))
1859 (define (store-path? path)
1860   "Return #t if PATH is a store path."
1861   ;; This is a lightweight check, compared to using a regexp, but this has to
1862   ;; be fast as it's called often in `derivation', for instance.
1863   ;; `isStorePath' in Nix does something similar.
1864   (string-prefix? (%store-prefix) path))
1866 (define (direct-store-path? path)
1867   "Return #t if PATH is a store path, and not a sub-directory of a store path.
1868 This predicate is sometimes needed because files *under* a store path are not
1869 valid inputs."
1870   (and (store-path? path)
1871        (not (string=? path (%store-prefix)))
1872        (let ((len (+ 1 (string-length (%store-prefix)))))
1873          (not (string-index (substring path len) #\/)))))
1875 (define (direct-store-path path)
1876   "Return the direct store path part of PATH, stripping components after
1877 '/gnu/store/xxxx-foo'."
1878   (let ((prefix-length (+ (string-length (%store-prefix)) 35)))
1879     (if (> (string-length path) prefix-length)
1880         (let ((slash (string-index path #\/ prefix-length)))
1881           (if slash (string-take path slash) path))
1882         path)))
1884 (define (derivation-path? path)
1885   "Return #t if PATH is a derivation path."
1886   (and (store-path? path) (string-suffix? ".drv" path)))
1888 (define store-regexp*
1889   ;; The substituter makes repeated calls to 'store-path-hash-part', hence
1890   ;; this optimization.
1891   (mlambda (store)
1892     "Return a regexp matching a file in STORE."
1893     (make-regexp (string-append "^" (regexp-quote store)
1894                                 "/([0-9a-df-np-sv-z]{32})-([^/]+)$"))))
1896 (define (store-path-package-name path)
1897   "Return the package name part of PATH, a file name in the store."
1898   (let ((path-rx (store-regexp* (%store-prefix))))
1899     (and=> (regexp-exec path-rx path)
1900            (cut match:substring <> 2))))
1902 (define (store-path-hash-part path)
1903   "Return the hash part of PATH as a base32 string, or #f if PATH is not a
1904 syntactically valid store path."
1905   (and (string-prefix? (%store-prefix) path)
1906        (let ((base (string-drop path (+ 1 (string-length (%store-prefix))))))
1907          (and (> (string-length base) 33)
1908               (let ((hash (string-take base 32)))
1909                 (and (string-every %nix-base32-charset hash)
1910                      hash))))))
1912 (define (derivation-log-file drv)
1913   "Return the build log file for DRV, a derivation file name, or #f if it
1914 could not be found."
1915   (let* ((base    (basename drv))
1916          (log     (string-append (or (getenv "GUIX_LOG_DIRECTORY")
1917                                      (string-append %localstatedir "/log/guix"))
1918                                  "/drvs/"
1919                                  (string-take base 2) "/"
1920                                  (string-drop base 2)))
1921          (log.gz  (string-append log ".gz"))
1922          (log.bz2 (string-append log ".bz2")))
1923     (cond ((file-exists? log.gz) log.gz)
1924           ((file-exists? log.bz2) log.bz2)
1925           ((file-exists? log) log)
1926           (else #f))))
1928 (define (log-file store file)
1929   "Return the build log file for FILE, or #f if none could be found.  FILE
1930 must be an absolute store file name, or a derivation file name."
1931   (cond ((derivation-path? file)
1932          (derivation-log-file file))
1933         (else
1934          (match (valid-derivers store file)
1935            ((derivers ...)
1936             ;; Return the first that works.
1937             (any (cut log-file store <>) derivers))
1938            (_ #f)))))
1940 ;;; Local Variables:
1941 ;;; eval: (put 'system-error-to-connection-error 'scheme-indent-function 1)
1942 ;;; End: