Fix parser bug.
[org-mode.git] / org-babel.org
blob2b0f2bbd1ff134ef21235ba7bbb58ce9b3f7d891
1 #+TITLE: org-babel --- facilitating communication between programming languages and people
2 #+SEQ_TODO: PROPOSED TODO STARTED | DONE DEFERRED REJECTED
3 #+OPTIONS: H:3 num:nil toc:t
4 #+STARTUP: oddeven hideblocks
6 Through Org-Babel Org-Mode can communicate with programming languages.
7 Code contained in source-code blocks can be evaluated and data can
8 pass seamlessly between different programming languages, Org-Mode
9 constructs (tables, file links, example text) and interactive comint
10 buffers.
12 In this document:
13 - The [[* Introduction][Introduction]] :: provides a brief overview of the design and use
14      of Org-Babel including tutorials and examples.
15 - In [[* Getting started][Getting Started]] :: find instructions for installing org-babel
16      into your emacs configuration.
17 - The [[* Tasks][Tasks]] :: section contains current and past tasks roughly ordered
18      by TODO state, then importance or date-completed.  This would be
19      a good place to suggest ideas for development.
20 - The [[* Bugs][Bugs]] :: section contains bug reports.
21 - The [[* Tests][Tests]] :: section consists of a large table which can be
22      evaluated to run Org-Babel's functional test suite.  This
23      provides a good overview of the current functionality with
24      pointers to example source blocks.
25 - The [[* Sandbox][Sandbox]] :: demonstrates much of the early/basic functionality
26      through commented source-code blocks.
28 Also see the [[file:library-of-babel.org][Library of Babel]], an extensible collection of ready-made
29 and easily-shortcut-callable source-code blocks for handling common
30 tasks.
32 * Introduction
34 Org-Babel enables *communication* between programming languages and
35 between people.
37 Org-Babel provides:
38 - communication between programs :: Data passes seamlessly between
39      different programming languages, Org-Mode constructs (tables,
40      file links, example text) and interactive comint buffers.
41 - communication between people :: Data and calculations are embedded
42      in the same document as notes explanations and reports.
44 ** communication between programs
46 Org-Mode supports embedded blocks of source code (in any language)
47 inside of Org documents.  Org-Babel allows these blocks of code to be
48 executed from within Org-Mode with natural handling of their inputs
49 and outputs.
51 *** simple execution
52 with both scalar, file, and table output
54 *** reading information from tables
56 *** reading information from other source blocks (disk usage in your home directory)
58 This will work for Linux and Mac users, not so sure about shell
59 commands for windows users.
61 To run place the cursor on the =#+begin_src= line of the source block
62 labeled directory-pie and press =\C-c\C-c=.
64 #+srcname: directories
65 #+begin_src bash :results replace
66 cd ~ && du -sc * |grep -v total
67 #+end_src
69 #+resname: directories
70 |       64 | "Desktop"   |
71 | 11882808 | "Documents" |
72 |  8210024 | "Downloads" |
73 |   879800 | "Library"   |
74 |    57344 | "Movies"    |
75 |  7590248 | "Music"     |
76 |  5307664 | "Pictures"  |
77 |        0 | "Public"    |
78 |      152 | "Sites"     |
79 |        8 | "System"    |
80 |       56 | "bin"       |
81 |  3274848 | "mail"      |
82 |  5282032 | "src"       |
83 |     1264 | "tools"     |
85 #+srcname: directory-pie
86 #+begin_src R :var dirs = directories :session R-pie-example
87 pie(dirs[,1], labels = dirs[,2])
88 #+end_src
95 *** operations in/on tables
97 #+tblname: grades-table
98 | student | grade | letter |
99 |---------+-------+--------|
100 |       1 |    99 | A      |
101 |       2 |    59 | F      |
102 |       3 |    75 | C      |
103 |       4 |    15 | F      |
104 |       5 |     7 | F      |
105 |       6 |    13 | F      |
106 #+TBLFM: $2='(sbe random-score-generator)::$3='(sbe assign-grade (score $2))
108 #+srcname: assign-grade
109 #+begin_src ruby :var score=99
110 case score
111    when 0..59: "F"
112    when 60..69: "D"
113    when 70..79: "C"
114    when 80..89: "B"
115    when 90..100: "A"
116    else "Invalid Score"
118 #+end_src
120 #+srcname: random-score-generator
121 #+begin_src ruby 
122 rand(100)
123 #+end_src
125 #+srcname: show-distribution
126 #+begin_src R :var grades=grades-table :session *R*
127 hist(grades$grade)
128 #+end_src
134 ** communication between people
135 Quick overview of Org-Mode's exportation abilities, with links to the
136 online Org-Mode documentation, a focus on source-code blocks, and the
137 exportation options provided by Org-Babel.
139 *** Interactive tutorial
140 This would demonstrate applicability to Reproducible Research, and
141 Literate Programming.
143 *** Tests embedded in documentation
144 org-babels own functional tests are contained in a large org-mode
145 table, allowing the test suite to be run be evaluation of the table
146 and the results to be collected in the same table.
148 *** Emacs initialization files stored in Org-Mode buffers
149 Using `org-babel-tangle' it is possible to embed your Emacs
150 initialization into org-mode files.  This allows for folding,
151 note-taking, todo's etc... embedded with the source-code of your Emacs
152 initialization, and through org-mode's publishing features aids in
153 sharing your customizations with others.
155 It may be worthwhile to create a fork of Phil Hagelberg's
156 [[http://github.com/technomancy/emacs-starter-kit/tree/master][emacs-starter-kit]] which uses literate org-mode files for all of the
157 actual elisp customization.  These org-mode files could then be
158 exported to html and used to populate the repositories wiki on [[http://github.com/][github]].
161 ** features
163 *** code evaluation (comint buffer sessions and external processes)
164 There are two main ways to evaluate source blocks with org-babel.
166 - external :: By default (if the =:session= header argument is not
167               present) all source code blocks are evaluated in
168               external processes.  In these cases an external process
169               is used to evaluate the source-code blocks.
170 - session :: Session based evaluation uses persistent sessions in
171              comint buffers.  Sessions can be used across multiple
172              source blocks setting and accessing variables in the
173              global environment.
175              Evaluating source blocks in sessions also allows for
176              interaction with the code.  To jump to the session of a
177              source block use the `org-babel-pop-to-session' command
178              or press =M-[down]= while inside of a source code block.
179              When called with a prefix argument
180              `org-babel-pop-to-session' will evaluate all header
181              arguments before jumping to the source-code block.
183 *** results (values and outputs)
184 Either the *value* or the *output* of source code blocks can be
185 collected after evaluation.
187 - value :: The default way to collect results from a source-code block
188            is to return the value of the last statement in the block.
189            This can be thought of as the return value of the block.
190            In this case any printed output of the block is ignored.
191            This can be though of a similar to a "functional" value of
192            evaluation.
193 - output :: Another way of generating results from a source-code block
194             is to collect the output generated by the execution of the
195             block.  In this case all printed output is collected
196             throughout the execution of the block.  This can be
197             thought of as similar to a "script" style of evaluation.
200 * Getting started
201 Add the following lines to your .emacs, replacing the path as
202 appropriate. A good place to check that things are up and running
203 would then be [[#sandbox][the sandbox]].
204 #+begin_src emacs-lisp
205   (add-to-list 'load-path "/path/to/org-babel/lisp")
206   (require 'org-babel-init)
207 #+end_src
210 * Tasks [37/59]
211 ** PROPOSED raise elisp error when source-blocks return errors
212 Not sure how/if this would work, but it may be desirable.
214 ** PROPOSED allow `anonymous' function block with function call args?
215    My question here is simply whether we're going to allow
216 #+begin_src python(arg=ref)
217 # whatever
218 #+end_src
220 but with preference given to
221 #+srcname blockname(arg=ref)
222 ** PROPOSED allow :result as synonym for :results?
223 ** PROPOSED allow 'output mode to return stdout as value?
224    Maybe we should allow this. In fact, if block x is called
225    with :results output, and it references blocks y and z, then
226    shouldn't the output of x contain a concatenation of the outputs of
227    y and z, together with x's own output? That would raise the
228    question of what happens if y is defined with :results output and z
229    with :results value. I guess z's (possibly vector/tabular) output
230    would be inside a literal example block containing the whole lot.
231 ** PROPOSED optional timestamp for output
232    Add option to place an (inactive) timestamp at the #+resname, to
233    record when that output was generated.
235 *** source code block timestamps (optional addition)
236     [Eric] If we did this would we then want to place a timestamp on the
237     source-code block, so that we would know if the results are
238     current or out of date?  This would have the effect of caching the
239     results of calculations and then only re-running if the
240     source-code has changed.  For the caching to work we would need to
241     check not only the timestamp on a source-code block, but also the
242     timestamps of any tables or source-code blocks referenced by the
243     original source-code block.
245     [Dan] I do remember getting frustrated by Sweave always having to
246     re-do everything, so this could be desirable, as long as it's easy
247     to over-ride of course. I'm not sure it should be the default
248     behaviour unless we are very confident that it works well.
250 **** maintaining source-code block timestamps
251      It may make sense to add a hook to `org-edit-special' which could
252      update the source-code blocks timestamp.  If the user edits the
253      contents of a source-code block directly I can think of no
254      efficient way of maintaining the timestamp.
256 ** TODO make tangle files read-only?
257    With a file-local variable setting, yea that makes sense.  Maybe
258    the header should reference the related org-mode file.
260 ** TODO take default values for header args from properties
261    Use file-wide and subtree wide properties to set default values for
262    header args.
263 ** TODO support for working with =*Org Edit Src Example*= buffers [2/4]
264 *** TODO optionally evaluate header references when we switch to =*Org Edit Src*= buffer
265 That seems to imply that the header references need to be evaluated
266 and transformed into the target language object when we hit C-c ' to
267 enter the *Org Edit Src* buffer [DED]
269 Good point, I heartily agree that this should be supported [Eric]
271 (or at least before the first time we attempt to evaluate code in that
272 buffer -- I suppose there might be an argument for lazy evaluation, in
273 case someone hits C-c ' but is "just looking" and not actually
274 evaluating anything.) Of course if evaluating the reference is
275 computationally intensive then the user might have to wait before they
276 get the *Org Edit Src* buffer. [DED]
278 I fear that it may be hard to anticipate when the references will be
279 needed, some major-modes do on-the-fly evaluation while the buffer is
280 being edited.  I think that we should either do this before the buffer
281 is opened or not at all, specifically I think we should resolve
282 references if the user calls C-c ' with a prefix argument.  Does that
283 sound reasonable? [Eric]
285 Yes [Dan]
287 [Dan] So now that we have org-src-mode and org-src-mode-hook, I guess
288 org-babel should do this by using the hook to make sure that, when C-c
289 C-' is issued on a source block, any references are resolved and
290 assignments are made in the appropriate session.
291 *** TODO set buffer-local-process variables appropriately [DED]
292     I think something like this would be great. You've probably
293 already thought of this, but just to note it down: it would be really
294 nice if org-babel's notion of a buffer's 'session/process' played
295 nicely with ESS's notion of the buffer's session/process. ESS keeps
296 the current process name for a buffer in a buffer-local variable
297 ess-local-process-name. So one thing we will probably want to do is
298 make sure that the *Org Edit Src Example* buffer sets that variable
299 appropriately. [DED]
301 I had not thought of that, but I agree whole heartedly. [Eric]
303 Once this is done every variable should be able to dump regions into
304 their inferior-process buffer using major-mode functions.
305 *** DEFERRED send code to inferior process
306 Another thought on this topic: I think we will want users to send
307 chunks of code to the interpreter from within the *Org Edit Src*
308 buffer, and I think that's what you have in mind already. In ESS that
309 is done using the ess-eval-* functions. [DED]
311 I think we can leave this up to the major-mode in the source code
312 buffer, as almost every source-code major mode will have functions for
313 doing things like sending regions to the inferior process.  If
314 anything we might need to set the value of the buffer local inferior
315 process variable. [Eric]
317 *** DONE some possible requests/proposed changes for Carsten [4/4]
318     While I remember, some possible requests/proposed changes for Carsten
319     come to mind in that regard:
321 **** DONE Remap C-x C-s to save the source to the org buffer?
322      I've done this personally and I find it essential. I'm using 
323 #+begin_src emacs-lisp
324 (defun org-edit-src-save ()
325   "Update the parent org buffer with the edited source code, save
326 the parent org-buffer, and return to the source code edit
327 buffer."
328   (interactive)
329   (let ((p (point)))
330     (org-edit-src-exit)
331     (save-buffer)
332     (org-edit-src-code)
333     (goto-char p)))
335 (define-key org-exit-edit-mode-map "\C-x\C-s" 'org-edit-src-save)
336 #+end_src     
337     which seems to work.
339 I think this is great, but I think it should be implemented in the
340 org-mode core
342 **** DEFERRED Rename buffer and minor mode?
343      Something shorter than *Org Edit Src Example* for the buffer
344      name. org-babel is bringing org's source code interaction to a
345      level of maturity where the 'example' is no longer
346      appropriate. And if further keybindings are going to be added to
347      the minor mode then maybe org-edit-src-mode is a better name than
348      org-exit-edit-mode.
350      Maybe we should name the buffer with a combination of the source
351      code and the session.  I think that makes sense.
353      [ES] Are you also suggesting a new org-edit-src minor mode?
354      [DED] org-exit-edit-mode is a minor mode that already exists:
356      Minor mode installing a single key binding, "C-c '" to exit special edit.
358      org-edit-src-save now has a binding in that mode, so I guess all
359      I'm saying at this stage is that it's a bit of a misnomer. But
360      perhaps we will also have more functionality to add to that minor
361      mode, making it even more of a misnomer. Perhaps something like
362      org-src-mode would be better.
363 **** DONE Changed minor mode name and added hooks
364      
365 **** DONE a hook called when the src edit buffer is created
366      This should be implemented in the org-mode core
368 ** TODO resolve references to other org buffers/files
369    This would allow source blocks to call upon tables, source-blocks,
370    and results in other org buffers/files.
371    
372    See...
373    - [[file:lisp/org-babel-ref.el::TODO%20allow%20searching%20for%20names%20in%20other%20buffers][org-babel-ref.el:searching-in-other-buffers]]
374    - [[file:lisp/org-babel.el::defun%20org-babel%20find%20named%20result%20name][org-babel.el#org-babel-find-named-result]]
375 ** TODO resolve references to other non-org files
376    - tabular data in .csv, .tsv etc format
377    - files of interpreted code: anything stopping us giving such files
378      similar status to a source code block?
379    - Would be nice to allow org and non-org files to be remote
380 ** TODO figure out how to handle errors during evaluation
381    I expect it will be hard to do this properly, but ultimately it
382    would be nice to be able to specify somewhere to receive STDERR,
383    and to be warned if it is non-empty.
385    Probably simpler in non-session evaluation than session? At least
386    the mechanism will be different I guess.
388    R has a try function, with error handling, along the lines of
389    python. I bet ruby does too. Maybe more of an issue for functional
390    style; in my proposed scripting style the error just gets dumped to
391    the org buffer and the user is thus alerted.
392 ** STARTED figure out how to handle graphic output
393    
394 This is listed under [[* graphical output][graphical output]] in out objectives.
396 This should take advantage of the =:results file= option, and
397 languages which almost always produce graphical output should set
398 =:results file= to true by default (this is currently done for the
399 gnuplot and ditaa languages).  That would handle placing these results
400 in the buffer.  Then if there is a combination of =silent= and =file=
401 =:results= headers we could drop the results to a temp buffer and pop
402 open that buffer...
404 Display of file results is addressed in the [[* =\C-c \C-o= to open results of source block][open-results-task]].
406 *** TODO R graphics to screen means session evaluation
407     If R graphical output is going to screen then evaluation must be
408     in a session, otherwise the graphics will disappear as soon as the
409     R process dies.
411 *** Adding to a discussion started in email
412     I'm not deeply wedded to these ideas, just noting them down. I'm
413     probably just thinking of R and haven't really thought about how
414     this fits with the other graphics-generating languages.
415 Dan:
416 > I used the approach below to get graphical file output
417 > today, which is one idea at least. Maybe it could be linked up with
418 > your :results file variable. (Or do we need a :results image for R?)
420 Eric:
421 I don't think we need a special image results variable, but I may be
422 missing what the code below accomplishes.  Would the task I added about
423 adding org-open-at-point functionality to source code blocks take care
424 of this need?
426 Dan: I'm not sure. I think the ability for a script to generate both
427 text and graphical output might be a natural expectation, at least for
428 R users.
431 > Dan
433 > #+srcname: cohort-scatter-plots-2d(org_babel_graphical_output_file="cohort-scatter-plots-2d.png")
434 > #+begin_src R 
435 >   if(exists("org_babel_output_file"))
436 >       png(filename=org_babel_graphical_output_file, width=1000, height=1000)
437 >   ## plotting code in here
438 >   if(exists("org_babel_graphical_output_file")) dev.off()
439 > #+end_src
441 Dan: Yes, the results :file option is nice for dealing with graphical
442 output, and that could well be enough. Something based on the scheme
443 above would have a couple of points in its favour:
444 1. It's easy to switch between output going to on-screen graphics and
445    output going to file: Output will go to screen unless a string variable
446    with a standard name (e.g. ""org_babel_graphical_output_file"")
447    exists in which case it will go to the file indicated by the value
448    of that variable.
449 2. The block can return a result / script output, as well as produce
450    graphical output.
452 In interactive use we might want to allow the user to choose between
453 screen and file output. In non-interactive use such as export, it
454 would be file output (subject to the :exports directives).
456 ** TODO =\C-c \C-o= to open results of source block
457 by adding a =defadvice= to =org-open-at-point= we can use the common
458 =\C-c \C-o= keybinding to open the results of a source-code block.
459 This would be especially useful for source-code blocks which generate
460 graphical results and insert a file link as the results in the
461 org-mode buffer.  (see [[* figure out how to handle graphic output][TODO figure out how to handle graphic output]]).
462 This could also act reasonably with other results types...
464 - file :: use org-open-at-point to open the file
465 - scalar :: open results unquoted in a new buffer
466 - tabular :: export the table to a new buffer and open that buffer
467 ** TODO Finalise behaviour regarding vector/scalar output
468 *** DONE Stop spaces causing vector output
469 This simple example of multilingual chaining produces vector output if
470 there are spaces in the message and scalar otherwise.
472 [Not any more]
474 #+srcname: msg-from-R(msg=msg-from-python)
475 #+begin_src R
476 paste(msg, "und R", sep=" ")
477 #+end_src
479 #+resname:
480 : org-babel speaks elisp y python und R
482 #+srcname: msg-from-python(msg=msg-from-elisp)
483 #+begin_src python
484 msg + " y python"
485 #+end_src
487 #+srcname: msg-from-elisp(msg="org-babel speaks")
488 #+begin_src emacs-lisp
489 (concat msg " elisp")
490 #+end_src
491 ** STARTED share org-babel [1/4]
492 how should we share org-babel?
494 *** DONE post to org-mode
495 *** TODO post to ess mailing list
496 *** TODO create a org-babel page on worg
497 *** TODO create a short screencast demonstrating org-babel in action
499 *** examples
500 we need to think up some good examples
502 **** interactive tutorials
503 This could be a place to use [[* org-babel assertions][org-babel assertions]].
505 for example the first step of a tutorial could assert that the version
506 of the software-package (or whatever) is equal to some value, then
507 source-code blocks could be used with confidence (and executed
508 directly from) the rest of the tutorial.
510 **** answering a text-book question w/code example
511 org-babel is an ideal environment enabling both the development and
512 demonstrationg of the code snippets required as answers to many
513 text-book questions.
515 **** something using tables
516 maybe something along the lines of calculations from collected grades
518 **** file sizes
519 Maybe something like the following which outputs sizes of directories
520 under the home directory, and then instead of the trivial =emacs-lisp=
521 block we could use an R block to create a nice pie chart of the
522 results.
524 #+srcname: sizes
525 #+begin_src bash :results replace
526 du -sc ~/*
527 #+end_src
529 #+begin_src emacs-lisp :var sizes=sizes :results replace
530 (mapcar #'car sizes)
531 #+end_src
533 ** TODO command line execution
534 Allow source code blocks to be called form the command line.  This
535 will be easy using the =sbe= function in [[file:lisp/org-babel-table.el][org-babel-table.el]].
537 This will rely upon [[* resolve references to other buffers][resolve references to other buffers]].
539 ** TODO inline source code blocks [3/5]
540    Like the =\R{ code }= blocks
542    not sure what the format should be, maybe just something simple
543    like =src_lang[]{}= where lang is the name of the source code
544    language to be evaluated, =[]= is optional and contains any header
545    arguments and ={}= contains the code.
547    (see [[* (sandbox) inline source blocks][the-sandbox]])
549 *** DONE evaluation with \C-c\C-c
550 Putting aside the header argument issue for now we can just run these
551 with the following default header arguments
552 - =:results= :: silent
553 - =:exports= :: results
555 *** DONE inline exportation
556 Need to add an interblock hook (or some such) through org-exp-blocks
557 *** DONE header arguments
558 We should make it possible to use header arguments.
560 *** TODO fontification
561 we should color these blocks differently
563 *** TODO refine html exportation
564 should use a span class, and should show original source in tool-tip
566 ** TODO LoB: re-implement plotting and analysis functions from org-R
567    I'll do this soon, now that we things are a bit more settled and we
568    have column names in R.
569 ** PROPOSED Creating presentations
570    The [[mairix:t:@@9854.1246500519@gamaville.dokosmarshall.org][recent thread]] containing posts by Nick Dokos and Sebastian
571    Vaubán on exporting to beamer looked very interesting, but I
572    haven't had time to try it out yet. I would really like it if,
573    eventually, we can generate a presentation (with graphics generated
574    by code blocks) from the same org file that contains all the notes
575    and code etc. I just wanted that to be on record in this document;
576    I don't have anything more profound to say about it at the moment,
577    and I'm not sure to what extent it is an org-babel issue.
578 ** PROPOSED conversion between org-babel and noweb (e.g. .Rnw) format
579    I haven't thought about this properly. Just noting it down. What
580    Sweave uses is called "R noweb" (.Rnw).
581    
582    I found a good description of noweb in the following article (see
583    the [[http://www.cs.tufts.edu/~nr/pubs/lpsimp.pdf][pdf]]).
584    
585    I think there are two parts to noweb, the construction of
586    documentation and the extraction of source-code (with notangle).
588    *documentation*: org-mode handles all of our documentation needs in
589    a manner that I believe is superior to noweb.
590    
591    *source extraction* At this point I don't see anyone writing large
592    applications with 100% of the source code contained in org-babel
593    files, rather I see org-babel files containing things like
594    - notes with active code chunks
595    - interactive tutorials
596    - requirements documents with code running test suites
597    - and of course experimental reports with the code to run the
598      experiment, and perform analysis
600    Basically I think the scope of the programs written in org-babel
601    (at least initially) will be small enough that it wont require the
602    addition of a tangle type program to extract all of the source code
603    into a running application.
605    On the other hand, since we already have named blocks of source
606    code which reference other blocks on which they rely, this
607    shouldn't be too hard to implement either on our own, or possibly
608    relying on something like noweb/notangle.
610 ** PROPOSED support for passing paths to files between source blocks
611 Maybe this should be it's own result type (in addition to scalars and
612 vectors).  The reason being that some source-code blocks (for example
613 ditaa or anything that results in the creation of a file) may want to
614 pass a file path back to org-mode which could then be inserted into
615 the org-mode buffer as a link to the file...
617 This would allow for display of images upon export providing
618 functionality similar to =org-exp-blocks= only in a more general
619 manner.
620 ** DEFERRED Support rownames and other org babel table features?
622    The full org table features are detailed in the manual [[http://orgmode.org/manual/Advanced-features.html#Advanced-features][here]].
624 *** rownames
625    Perhaps add a :rownames header arg. This would be an integer
626     (usually 1) which would have the effect of post-processing all the
627     variables created in the R session in the following way: if the
628     integer is j, set the row names to the contents of column j and
629     delete column j. Perhaps it is artificial to allow this integer to
630     take any value other than 1. The default would be nil which would
631     mean no such behaviour.
633     Actually I don't know about that. If multiple variables are passed
634     in, it's not appropriate to alter them all in the same way. The
635     rownames specification would normally refer to just one of the
636     variables. For now maybe just say this has to be done in R. E.g.
638 #+TBLNAME: sample-sizes
639   | collection      | size | exclude | include | exclude2 | include2 |
640   |-----------------+------+---------+---------+----------+----------|
641   | 58C             | 2936 |       8 |    2928 |      256 |     2680 |
642   | MS              | 5852 |     771 |    5081 |      771 |     5081 |
643   | NBS             | 2929 |      64 |    2865 |      402 |     2527 |
644   | POBI            | 2717 |       1 |    2716 |        1 |     2716 |
645   | 58C+MS+NBS+POBI |      |         |   13590 |          |    13004 |
646 #+TBLFM: @2$4=@2$2 - @2$3::@2$6=@2$2 - @2$5::@3$4=@3$2-@3$3::@3$6=@3$2 - @3$5::@4$4=@4$2 - @4$3::@4$6=@4$2 - @4$5::@5$4=@5$2-@5$3::@5$6=@5$2 - @5$5::@6$4=vsum(@2$4..@5$4)::@6$6=vsum(@2$6..@5$6)
648 #+srcname: make-size-table(size=sample-sizes)
649 #+begin_src R 
650   rownames(size) <- size[,1]
651   size <- size[,-1]
652 #+end_src
655 *** Old notes
656     [I don't think it's as problematic as this makes out]
657     This is non-trivial, but may be worth doing, in particular to
658     develop a nice framework for sending data to/from R.
659 **** Notes
660     In R, indexing vector elements, and rows and columns, using
661     strings rather than integers is an important part of the
662     language.
663  - elements of a vector may have names
664  - matrices and data.frames may have "column names" and "row names"
665    which can be used for indexing
666  - In a data frame, row names *must* be unique
667 Examples
668 #+begin_example
669 > # a named vector
670 > vec <- c(a=1, b=2)
671 > vec["b"]
674 > mat <- matrix(1:4, nrow=2, ncol=2, dimnames=list(c("r1","r2"), c("c1","c2")))
675 > mat
676    c1 c2
677 r1  1  3
678 r2  2  4
679 > # The names are separate from the data: they do not interfere with operations on the data
680 > mat * 3
681    c1 c2
682 r1  3  9
683 r2  6 12
684 > mat["r1","c2"]
685 [1] 3
686 > df <- data.frame(var1=1:26, var2=26:1, row.names=letters)
687 > df$var2
688  [1] 26 25 24 23 22 21 20 19 18 17 16 15 14 13 12 11 10  9  8  7  6  5  4  3  2  1
689 > df["g",]
690   var1 var2
691 g    7   20
692 #+end_example
694  So it's tempting to try to provide support for this in org-babel. For example
695  - allow R to refer to columns of a :var reference by their names
696  - When appropriate, results from R appear in the org buffer with "named
697    columns (and rows)"
699    However none (?) of the other languages we are currently supporting
700    really have a native matrix type, let alone "column names" or "row
701    names". Names are used in e.g. python and perl to refer to entries
702    in dicts / hashes.
704    It currently seems to me that support for this in org-babel would
705    require setting rules about when org tables are considered to have
706    named columns/fields, and ensuring that (a) languages with a notion
707    of named columns/fields use them appropriately and (b) languages
708    with no such notion do not treat then as data.
710  - Org allows something that *looks* like column names to be separated
711    by a hline
712  - Org also allows a row to *function* as column names when special
713    markers are placed in the first column. An hline is unnecessary
714    (indeed hlines are purely cosmetic in org [correct?]
715  - Org does not have a notion of "row names" [correct?]
716     
717    The full org table functionality exeplified [[http://orgmode.org/manual/Advanced-features.html#Advanced-features][here]] has features that
718    we would not support in e.g. R (like names for the row below).
719    
720 **** Initial statement: allow tables with hline to be passed as args into R
721    This doesn't seem to work at the moment (example below). It would
722    also be nice to have a natural way for the column names of the org
723    table to become the column names of the R data frame, and to have
724    the option to specify that the first column is to be used as row
725    names in R (these must be unique). But this might require a bit of
726    thinking about.
729 #+TBLNAME: egtable
730 | col1 | col2    | col3 |
731 |------+---------+------|
732 |    1 | 2       |    3 |
733 |    4 | schulte |    6 |
735 #+TBLNAME: egtable2
736 | 1 |         2 | 3 |
737 | 4 | schulte   | 6 |
739 #+begin_src R :var tabel=egtable :colnames t
740 tabel
741 #+end_src
743 #+resname:
744 | "col1" | "col2"    | "col3" |
745 |--------+-----------+--------|
746 |      1 | 2         |      3 |
747 |      4 | "schulte" |      6 |
750 Another example is in the [[*operations%20in%20on%20tables][grades example]].
752 ** DEFERRED use textConnection to pass tsv to R?
753    When passing args from the org buffer to R, the following route is
754    used: arg in buffer -> elisp -> tsv on file -> data frame in R. I
755    think it would be possible to avoid having to write to file by
756    constructing an R expression in org-babel-R-assign-elisp, something
757    like this
759 #+begin_src emacs-lisp
760 (org-babel-R-input-command
761  (format  "%s <- read.table(textConnection(\"%s\"), sep=\"\\t\", as.is=TRUE)"
762           name (orgtbl-to-tsv value '(:sep "\t" :fmt org-babel-R-quote-tsv-field))))
763 #+end_src
765    I haven't tried to implement this yet as it's basically just
766    fiddling with something that works. The only reason for it I can
767    think of would be efficiency and I haven't tested that.
769    This Didn't work after an initial test.  I still think this is a
770    good idea (I also think we should try to do something similar when
771    writing out results frmo R to elisp) however as it wouldn't result
772    in any functional changes I'm bumping it down to deferred for
773    now. [Eric]
775 for quick tests
777 #+tblname: quick-test
778 | 1 | 2 | 3 |
780 #+srcname: quick-test-src-blk
781 #+begin_src R :var vec=quick-test
782 mean(mean(vec))
783 #+end_src
785 #+resname:
786 : 2
789 : 2
791 ** DEFERRED Rework Interaction with Running Processes [2/5]
792 *** DONE robust to errors interrupting execution
794 #+srcname: long-runner-ruby
795 #+begin_src ruby :results silent
796   sleep(10)
797   :patton_is_an_grumpy
798 #+end_src
800 *** DEFERRED use =C-g= keyboard-quit to push processing into the background
801 This may be possible using the `run-with-timer' command.
803 I have no idea how this could work...
805 #+srcname: long-runner-ruby
806 #+begin_src ruby :results silent
807   sleep(10)
808   :patton_is_an_grumpy
809 #+end_src
811 *** TODO ability to select which of multiple sessions is being used
812     Increasingly it is looking like we're going to want to run all
813     source code blocks in comint buffer (sessions).  Which will have
814     the benefits of
815     1) allowing background execution
816     2) maintaining state between source-blocks
817        - allowing inline blocks w/o header arguments 
819 **** R sessions
820      (like ess-switch-process in .R buffers)
821      
822      Maybe this could be packaged into a header argument, something
823      like =:R_session= which could accept either the name of the
824      session to use, or the string =prompt=, in which case we could use
825      the =ess-switch-process= command to select a new process.
826      
827 *** TODO evaluation of shell code as background process? 
828     After C-c C-c on an R code block, the process may appear to
829     block, but C-g can be used to reclaim control of the .org buffer,
830     without interrupting the R evalution. However I believe this is not
831     true of bash/sh evaluation. [Haven't tried other languages] Perhaps
832     a solution is just to background the individual shell commands.
834     The other languages (aside from emacs lisp) are run through the
835     shell, so if we find a shell solution it should work for them as
836     well.
837     
838     Adding an ampersand seems to be a supported way to run commands in
839     the background (see [[http://www.emacswiki.org/emacs/ExecuteExternalCommand#toc4][external-commands]]).  Although a more extensible
840     solution may involve the use of the [[elisp:(progn (describe-function 'call-process-region) nil)][call-process-region]] function.
841     
842     Going to try this out in a new file [[file:lisp/org-babel-proc.el][org-babel-proc.el]].  This should
843     contain functions for asynchronously running generic shell commands
844     in the background, and then returning their input.
846 **** partial update of org-mode buffer
847     The sleekest solution to this may be using a comint buffer, and
848     then defining a filter function which would incrementally interpret
849     the results as they are returned, including insertion into the
850     org-mode buffer.  This may actually cause more problems than it is
851     worth, what with the complexities of identifying the types of
852     incrementally returned results, and the need for maintenance of a
853     process marker in the org buffer.
855 **** 'working' spinner
856      It may be nice and not too difficult to place a spinner on/near the
857      evaluating source code block
859 *** TODO conversion of output from interactive shell, R (and python) sessions to org-babel buffers
860     [DED] This would be a nice feature I think. Although an org-babel
861     purist would say that it's working the wrong way round... After
862     some interactive work in a *R* buffer, you save the buffer, maybe
863     edit out some lines, and then convert it to org-babel format for
864     posterity. Same for a shell session either in a *shell* buffer, or
865     pasted from another terminal emulator. And python of course.
867 ** DEFERRED improve the source-block snippet
868 any real improvement seems somewhat beyond the ability of yasnippet
869 for now.
871 [[file:~/src/emacs-starter-kit/src/snippets/text-mode/rst-mode/chap::name%20Chapter%20title][file:~/src/emacs-starter-kit/src/snippets/text-mode/rst-mode/chap::name Chapter title]]
872 #+begin_example
873 ,#name : Chapter title
874 ,# --
875 ${1:Chapter}
876 ${1:$(make-string (string-width text) ?\=)}
879 #+end_example
881 [[file:snippets/org-mode/sb][sb -- snippet]]
883 waiting for guidance from those more familiar with yasnippets
885 ** REJECTED re-implement R evaluation using ess-command or ess-execute
886    I don't have any complaints with the current R evaluation code or
887    behaviour, but I think it would be good to use the ESS functions
888    from a political point of view. Plus of course it has the normal
889    benefits of an API (insulates us from any underlying changes etc). [DED]
891    I'll look into this.  I believe that I looked at and rejected these
892    functions initially but now I can't remember why.  I agree with
893    your overall point about using API's where available.  I will take
894    a look back at these and either switch to using the ess commands,
895    or at least articulate under this TODO the reasons for using our
896    custom R-interaction commands. [Eric]
898    ess-execute
900    Lets just replace =org-babel-R-input-command= with =ess-execute=.
902    I tried this, and although it works in some situations, I find that
903    =ess-command= will often just hang indefinitely without returning
904    results.  Also =ess-execute= will occasionally hang, and pops up
905    the buffer containing the results of the command's execution, which
906    is undesirable.  For now these functions can not be used.  Maybe
907    someone more familiar with the ESS code can recommend proper usage
908    of =ess-command= or some other lower-level function which could be
909    used in place of [[file:lisp/org-babel-R.el::defun%20org-babel%20R%20input%20command%20command][org-babel-R-input-command]].
911 *** ess functions
912    
913 #+begin_quote ess-command
914 (ess-command COM &optional BUF SLEEP NO-PROMPT-CHECK)
916 Send the ESS process command COM and delete the output
917 from the ESS process buffer.  If an optional second argument BUF exists
918 save the output in that buffer. BUF is erased before use.
919 COM should have a terminating newline.
920 Guarantees that the value of .Last.value will be preserved.
921 When optional third arg SLEEP is non-nil, `(sleep-for (* a SLEEP))'
922 will be used in a few places where `a' is proportional to `ess-cmd-delay'.
923 #+end_quote
925 #+begin_quote ess-execute
926 (ess-execute COMMAND &optional INVERT BUFF MESSAGE)
928 Send a command to the ESS process.
929 A newline is automatically added to COMMAND.  Prefix arg (or second arg
930 INVERT) means invert the meaning of
931 `ess-execute-in-process-buffer'.  If INVERT is 'buffer, output is
932 forced to go to the process buffer.  If the output is going to a
933 buffer, name it *BUFF*.  This buffer is erased before use.  Optional
934 fourth arg MESSAGE is text to print at the top of the buffer (defaults
935 to the command if BUFF is not given.)
936 #+end_quote
938 *** out current setup
940     1) The body of the R source code block is wrapped in a function
941     2) The function is called inside of a =write.table= function call
942        writing the results to a table
943     3) The table is read using =org-table-import=
944 ** DONE add =:tangle= family of header arguments
945 values are
946 - no :: don't include source-code block when tangling
947 - yes :: do include source-code block when tangling
949 this is tested in [[file:test-tangle.org::*Emacs%20Lisp%20initialization%20stuff][test-tangle.org]]
951 ** DONE extensible library of callable source blocks
952 *** Current design
953     This is covered by the [[file:library-of-babel.org][Library of Babel]], which will contain
954     ready-made source blocks designed to carry out useful common tasks.
955 *** Initial statement [Eric]
956     Much of the power of org-R seems to be in it's helper functions for
957     the quick graphing of tables.  Should we try to re-implement these
958     functions on top of org-babel?
960     I'm thinking this may be useful both to add features to org-babel-R and
961     also to potentially suggest extensions of the framework.  For example
962     one that comes to mind is the ability to treat a source-code block
963     like a function which accepts arguments and returns results. Actually
964     this can be it's own TODO (see [[* source blocks as functions][source blocks as functions]]).
965 *** Objectives [Dan]
966     - We want to provide convenient off-the-shelf actions
967       (e.g. plotting data) that make use of our new code evaluation
968       environment but do not require any actual coding.
969 *** Initial Design proposal [Dan]
970     - *Input data* will be specified using the same mechanism as :var
971       references, thus the input data may come from a table, or
972       another source block, and it is initially available as an elisp
973       data structure.
974     - We introduce a new #+ line, e.g.  #+BABELDO. C-c C-c on that
975       line will apply an *action* to the referenced data.
976     - *Actions correspond to source blocks*: our library of available
977       actions will be a library of org-babel source blocks. Thus the
978       code for executing an action, and the code for dealing with the
979       output of the action will be the same code as for executing
980       source blocks in general
981     - Optionally, the user can have the relevant source block inserted
982       into the org buffer after the (say) #+BABELDO line. This will
983       allow the user to fine tune the action by modifying the code
984       (especially useful for plots).
985     - So maybe a #+BABELDO line will have header args
986       - :data (a reference to a table or source code block)
987       - :action (or should that be :srcname?) which will be something
988         like :action pie-chart, referring to a source block which will
989         be executed with the :data referent passed in using a :var arg.
990       - :showcode or something controlling whether to show the code
991       
992 *** Modification to design
993     I'm implementing this, at least initially, as a new interpreter
994     named 'babel', which has an empty body. 'babel' blocks take
995     a :srcname header arg, and look for the source-code block with
996     that name. They then execute the referenced block, after first
997     appending their own header args on to the target block's header
998     args.
1000     If the target block is in the library of babel (a.o.t. e.g. the
1001     current buffer), then the code in the block will refer to the
1002     input data with a name dictated by convention (e.g. __data__
1003     (something which is syntactically legal in all languages...). Thus
1004     the babel block will use a :var __data__ = whatever header arg to
1005     reference the data to be plotted.
1007 ** DONE Column names in R input/output
1008    This has been implemented: Automatic on input to R; optional in
1009    output. Note that this equates column names with the header row in
1010    an org table; whereas org actually has a mechanism whereby a row
1011    with a '!' in the first field defines column names. I have not
1012    attempted to support these org table mechanisms yet. See [[*Support%20rownames%20and%20other%20org%20babel%20table%20features][this
1013    DEFERRED todo item]].
1014 ** DONE use example block for large amounts of stdout output?
1015    We're currently `examplizing' with : at the beginning of the line,
1016    but should larger amounts of output be in a
1017    \#+begin_example...\#+end_example block? What's the cutoff? > 1
1018    line?  This would be nice as it would allow folding of lengthy
1019    output. Sometimes one will want to see stdout just to check
1020    everything looks OK, and then fold it away.
1022    I'm addressing this in branch 'examplizing-output'.
1023    Yea, that makes sense.  (either that or allow folding of large
1024    blocks escaped with =:=).
1026    Proposed cutoff of 10 lines, we can save this value in a user
1027    customizable variable.
1028 *** DONE add ability to remove such results
1029 ** DONE exclusive =exports= params
1030    
1031 #+srcname: implement-export-exclusivity
1032 #+begin_src ruby 
1033 :this_is_a_test
1034 #+end_src
1036 #+resname:
1037 : :this_is_a_test
1038 ** DONE LoB: allow output in buffer
1039 ** DONE allow default header arguments by language
1040 org-babel-default-header-args:lang-name
1042 An example of when this is useful is for languages which always return
1043 files as their results (e.g. [[*** ditaa][ditaa]], and [[*** gnuplot][gnuplot]]).
1044 ** DONE singe-function tangling and loading elisp from literate org-mode file [3/3]
1046 This function should tangle the org-mode file for elisp, and then call
1047 `load-file' on the resulting tangled file.
1049 #+srcname: test-loading-embedded-emacs-lisp
1050 #+begin_src emacs-lisp :results replace
1051   (setq test-tangle-advert nil)
1052   (setq test-tangle-loading nil)
1053   (setq results (list :before test-tangle-loading test-tangle-advert))
1054   (org-babel-load-file "test-tangle.org")
1055   (setq results (list (list :after test-tangle-loading test-tangle-advert) results))
1056   (delete-file "test-tangle.el")
1057   (reverse results)
1058 #+end_src
1060 #+resname: test-loading-embedded-emacs-lisp
1061 | :before | nil                 | nil                                                              |
1062 | :after  | "org-babel tangles" | "use org-babel-tangle for all your emacs initialization files!!" |
1064 *** DONE add optional language limiter to org-babel-tangle
1065 This should check to see if there is any need to re-export
1067 *** DONE ensure that org-babel-tangle returns the path to the tangled file(s)
1069 #+srcname: test-return-value-of-org-babel-tangle
1070 #+begin_src emacs-lisp :results replace
1071   (mapcar #'file-name-nondirectory (org-babel-tangle-file "test-tangle.org" "emacs-lisp"))
1072 #+end_src
1074 #+resname:
1075 | "test-tangle.el" |
1077 *** DONE only tangle the file if it's actually necessary
1078 ** DONE add a function to jump to a source-block by name
1079    I've had an initial stab at that in org-babel-find-named-block
1080    (library-of-babel branch).
1082    At the same time I introduced org-babel-named-src-block-regexp, to
1083    match src-blocks with srcname.
1085    This is now working with the command
1086    `org-babel-goto-named-source-block', all we need is a good key
1087    binding.
1089 ** DONE add =:none= session argument (for purely functional execution) [4/4]
1090 This would allow source blocks to be run in their own new process
1092 - These blocks could then also be run in the background (since we can
1093   detach and just wait for the process to signal that it has terminated)
1094 - We wouldn't be drowning in session buffers after running the tests
1095 - we can re-use much of the session code to run in a more /functional/
1096   mode
1098 While session provide a lot of cool features, like persistent
1099 environments, [[* DONE function to bring up inferior-process buffer][pop-to-session]], and hints at exportation for
1100 org-babel-tangle, they also have some down sides and I'm thinking that
1101 session-based execution maybe shouldn't be the default behavior.
1103 Down-sides to sessions
1104 - *much* more complicated than functional evaluation
1105   - maintaining the state of the session has weird issues
1106   - waiting for evaluation to finish
1107   - prompt issues like [[* TODO weird escaped characters in shell prompt break shell evaluation][shell-prompt-escapes-bug]]
1108 - can't run in background
1109 - litter emacs with session buffers
1111 *** DONE ruby
1113 #+srcname: ruby-task-no-session
1114 #+begin_src ruby :results replace output
1115 puts :eric
1116 puts :schulte
1117 [1, 2, 3]
1118 #+end_src
1120 #+resname: ruby-task-no-session
1121 | "eric"    |
1122 | "schulte" |
1123 *** DONE python
1125 #+srcname: task-python-none-session
1126 #+begin_src python :session none :results replace value
1127 print 'something'
1128 print 'output'
1129 [1, 2, 3]
1130 #+end_src
1132 #+resname: task-python-none-session
1133 | 1 | 2 | 3 |
1135 *** DONE sh
1137 #+srcname: task-session-none-sh
1138 #+begin_src sh :results replace
1139 echo "first"
1140 echo "second"
1141 #+end_src
1143 #+resname: task-session-none-sh
1144 | "first"  |
1145 | "second" |
1147 *** DONE R
1149 #+srcname: task-no-session-R
1150 #+begin_src R :results replace output
1151 a <- 8
1152 b <- 9
1153 a + b
1154 b - a
1155 #+end_src
1157 #+resname: task-no-session-R
1158 | "[1]" | 17 |
1159 | "[1]" |  1 |
1161 ** DONE fully purge org-babel-R of direct comint interaction
1162 try to remove all code under the [[file:lisp/org-babel-R.el::functions%20for%20evaluation%20of%20R%20code][;; functions for evaluation of R code]] line
1164 ** DONE Create objects in top level (global) environment [5/5]
1165 *sessions*
1167 *** initial requirement statement [DED]
1168    At the moment, objects created by computations performed in the
1169    code block are evaluated in the scope of the
1170    code-block-function-body and therefore disappear when the code
1171    block is evaluated {unless you employ some extra trickery like
1172    assign('name', object, env=globalenv()) }. I think it will be
1173    desirable to also allow for a style wherein objects that are
1174    created in one code block persist in the R global environment and
1175    can be re-used in a separate block.
1177    This is what Sweave does, and while I'm not saying we have to be
1178    the same as Sweave, it wouldn't be hard for us to provide the same
1179    behaviour in this case; if we don't, we risk undeservedly being
1180    written off as an oddity by some.
1182    IOW one aspect of org-babel is that of a sort of functional
1183    meta-programming language. This is crazy, in a very good
1184    way. Nevertheless, wrt R I think there's going to be a lot of value
1185    in providing for a working style in which the objects are stored in
1186    the R session, rather than elisp/org buffer. This will be a very
1187    familiar working style to lots of people.
1189    There are no doubt a number of different ways of accomplishing
1190    this, the simplest being a hack like adding
1192 #+begin_src R
1193 for(objname in ls())
1194     assign(objname, get(objname), envir=globalenv())
1195 #+end_src
1197 to the source code block function body. (Maybe wrap it in an on.exit() call).
1199 However this may deserve to be thought about more carefully, perhaps
1200 with a view to having a uniform approach across languages. E.g. shell
1201 code blocks have the same semantics at the moment (no persistence of
1202 variables across code blocks), because the body is evaluated in a new
1203 bash shell process rather than a running shell. And I guess the same
1204 is true for python. However, in both these cases, you could imagine
1205 implementing the alternative in which the body is evaluated in a
1206 persistent interactive session. It's just that it's particularly
1207 natural for R, seeing as both ESS and org-babel evaluate commands in a
1208 single persistent R session.
1210 *** sessions [Eric]
1212 Thanks for bringing this up.  I think you are absolutely correct that we
1213 should provide support for a persistent environment (maybe called a
1214 *session*) in which to evaluate code blocks.  I think the current setup
1215 demonstrates my personal bias for a functional style of programming
1216 which is certainly not ideal in all contexts.
1218 While the R function you mention does look like an elegant solution, I
1219 think we should choose an implementation that would be the same across
1220 all source code types.  Specifically I think we should allow the user to
1221 specify an optional *session* as a header variable (when not present we
1222 assume a default session for each language).  The session name could be
1223 used to name a comint buffer (like the *R* buffer) in which all
1224 evaluation would take place (within which variables would retain their
1225 values --at least once I remove some of the functional method wrappings
1226 currently in place-- ).
1228 This would allow multiple environments to be used in the same buffer,
1229 and once this setup was implemented we should be able to fairly easily
1230 implement commands for jumping between source code blocks and the
1231 related session buffers, as well as for dumping the last N commands from
1232 a session into a new or existing source code block.
1234 Please let me know if you foresee any problems with this proposed setup,
1235 or if you think any parts might be confusing for people coming from
1236 Sweave.  I'll hopefully find some time to work on this later in the
1237 week.
1239 *** can functional and interpreted/interactive models coexist?
1241 Even though both of these use the same =*R*= buffer the value of =a=
1242 is not preserved because it is assigned inside of a functional
1243 wrapper.
1245 #+srcname: task-R-sessions
1246 #+begin_src R 
1247 a <- 9
1248 b <- 21
1249 a + b
1250 #+end_src
1252 #+srcname: task-R-same-session
1253 #+begin_src R 
1255 #+end_src
1257 This functional wrapper was implemented in order to efficiently return
1258 the results of the execution of the entire source code block.  However
1259 it inhibits the evaluation of source code blocks in the top level,
1260 which would allow for persistence of variable assignment across
1261 evaluations.  How can we allow *both* evaluation in the top level, and
1262 efficient capture of the return value of an entire source code block
1263 in a language independent manner?
1265 Possible solutions...
1266 1) we can't so we will have to implement two types of evaluation
1267    depending on which is appropriate (functional or imperative)
1268 2) we remove the functional wrapper and parse the source code block
1269    into it's top level statements (most often but not always on line
1270    breaks) so that we can isolate the final segment which is our
1271    return value.
1272 3) we add some sort of "#+return" line to the code block
1273 4) we take advantage of each languages support for meta-programming
1274    through =eval= type functions, and use said to evaluate the entire
1275    blocks in such a way that their environment can be combined with the
1276    global environment, and their results are still captured.
1277 5) I believe that most modern languages which support interactive
1278    sessions have support for a =last_result= type function, which
1279    returns the result of the last input without re-calculation.  If
1280    widely enough present this would be the ideal solution to a
1281    combination of functional and imperative styles.
1283 None of these solutions seem very desirable, but for now I don't see
1284 what else would be possible.
1286 Of these options I was leaning towards (1) and (4) but now believe
1287 that if it is possible option (5) will be ideal.
1289 **** (1) both functional and imperative evaluation
1290 Pros
1291 - can take advantage of built in functions for sending regions to the
1292   inferior process
1293 - retains the proven tested and working functional wrappers
1295 Cons
1296 - introduces the complication of keeping track of which type of
1297   evaluation is best suited to a particular context
1298 - the current functional wrappers may require some changes in order to
1299   include the existing global context
1301 **** (4) exploit language meta-programming constructs to explicitly evaluate code
1302 Pros
1303 - only one type of evaluation
1305 Cons
1306 - some languages may not have sufficient meta-programming constructs
1308 **** (5) exploit some =last_value= functionality if present
1310 Need to ensure that most languages have such a function, those without
1311 will simply have to implement their own similar solution...
1313 | language   | =last_value= function       |
1314 |------------+-----------------------------|
1315 | R          | .Last.value                 |
1316 | ruby       | _                           |
1317 | python     | _                           |
1318 | shell      | see [[* last command for shells][last command for shells]] |
1319 | emacs-lisp | see [[* emacs-lisp will be a special case][special-case]]            |
1321 #+srcname: task-last-value
1322 #+begin_src ruby
1323 82 + 18
1324 #+end_src
1326 ***** last command for shells
1327 Do this using the =tee= shell command, and continually pipe the output
1328 to a file.
1330 Got this idea from the following [[http://linux.derkeiler.com/Mailing-Lists/Fedora/2004-01/0898.html][email-thread]].
1332 suggested from mailing list
1334 #+srcname: bash-save-last-output-to-file
1335 #+begin_src sh 
1336 while read line 
1337 do 
1338   bash -c "$line" | tee /tmp/last.out1 
1339   mv /tmp/last.out1 /tmp/last.out 
1340 done
1341 #+end_src
1343 another proposed solution from the above thread
1345 #+srcname: bash-save-in-variable
1346 #+begin_src sh 
1347 #!/bin/bash 
1348 # so - Save Output. Saves output of command in OUT shell variable. 
1349 OUT=`$*` 
1350 echo $OUT 
1351 #+end_src
1353 and another
1355 #+begin_quote
1356 .inputrc: 
1357 "^[k": accept-line 
1358 "^M": " | tee /tmp/h_lastcmd.out ^[k" 
1360 .bash_profile: 
1361 export __=/tmp/h_lastcmd.out 
1363 If you try it, Alt-k will stand for the old Enter; use "command $__" to 
1364 access the last output. 
1366 Best, 
1370 Herculano de Lima Einloft Neto
1371 #+end_quote
1373 ***** emacs-lisp will be a special case
1374 While it is possible for emacs-lisp to be run in a console type
1375 environment (see the =elim= function) it is *not* possible to run
1376 emacs-lisp in a different *session*.  Meaning any variable set top
1377 level of the console environment will be set *everywhere* inside
1378 emacs.  For this reason I think that it doesn't make any sense to
1379 worry about session support for emacs-lisp.
1381 *** Further thoughts on 'scripting' vs. functional approaches
1383     These are just thoughts, I don't know how sure I am about this.
1384     And again, perhaps I'm not saying anything very radical, just that
1385     it would be nice to have some options supporting things like
1386     receiving text output in the org buffer.
1388     I can see that you've already gone some way down the road towards
1389     the 'last value' approach, so sorry if my comments come rather
1390     late. I am concerned that we are not giving sufficient attention
1391     to stdout / the text that is returned by the interpreters. In
1392     contrast, many of our potential users will be accustomed to a
1393     'scripting' approach, where they are outputting text at various
1394     points in the code block, not just at the end. I am leaning
1395     towards thinking that we should have 2 modes of evaluation:
1396     'script' mode, and 'functional' mode.
1398     In script mode, evaluation of a code block would result in *all*
1399     text output from that code block appearing as output in the org
1400     buffer, presumably as an #+begin_example...#+end_example. There
1401     could be an :echo option controlling whether the input commands
1402     also appear in the output. [This is like Sweave].
1404     In functional mode, the *result* of the code block is available as
1405     an elisp object, and may appear in the org buffer as an org
1406     table/string, via the mechanisms you have developed already.
1408     One thing I'm wondering about is whether, in script mode, there
1409     simply should not be a return value. Perhaps this is not so
1410     different from what exists: script mode would be new, and what
1411     exists currently would be functional mode.
1413     I think it's likely that, while code evaluation will be exciting
1414     to people, a large majority of our users in a large majority of
1415     their usage will not attempt to actually use the return value from
1416     a source code block in any meaningful way. In that case, it seems
1417     rather restrictive to only allow them to see output from the end
1418     of the code block.
1420     Instead I think the most accessible way to introduce org-babel to
1421     people, at least while they are learning it, is as an immensely
1422     powerful environment in which to embed their 'scripts', which now
1423     also allows them to 'run' their 'scripts'. Especially as such
1424     people are likely to be the least capable of the user-base, a
1425     possible design-rule would be to make the scripting style of usage
1426     easy (default?), perhaps requiring a special option to enable a
1427     functional style. Those who will use the functional style won't
1428     have a problem understanding what's going on, whereas the 'skript
1429     kiddies' might not even know the syntax for defining a function in
1430     their language of choice. And of course we can allow the user to
1431     set a variable in their .emacs controlling the preference, so that
1432     functional users are not inconveniennced by having to provide
1433     header args the whole time.
1435     Please don't get the impression that I am down-valuing the
1436     functional style of org-babel. I am constantly horrified at the
1437     messy 'scripts' that my colleagues produce in perl or R or
1438     whatever! Nevertheless that seems to be how a lot of people work.
1439     
1440     I think you were leaning towards the last-value approach because
1441     it offered the possibility of unified code supporting both the
1442     single evaluation environment and the functional style. If you
1443     agree with any of the above then perhaps it will impact upon this
1444     and mean that the code in the two branches has to differ a bit. In
1445     that case, functional mode could perhaps after all evaluate each
1446     code block in its own environment, thus (re)approaching 'true'
1447     functional programming (side-effects are hard to achieve).
1449 #+begin_src sh
1450 ls > files
1451 echo "There are `wc -l files` files in this directory"
1453 #+end_src
1455 *** even more thoughts on evaluation, results, models and options
1457 Thanks Dan, These comments are invaluable.
1459 What do you think about this as a new list of priorities/requirements
1460 for the execution of source-code blocks.
1462 - Sessions
1463    1)  we want the evaluation of the source code block to take place in a
1464        session which can persist state (variables, current directory,
1465        etc...).
1466    2)  source code blocks can specify their session with a header argument
1467    3)  each session should correspond to an Emacs comint buffer so that the
1468        user can drop into the session and experiment with live code
1469        evaluation.
1470 - Results
1471   1) each source-code block generates some form of results which (as
1472      we have already implemented) is transfered into emacs-lisp
1473      after which it can be inserted into the org-mode buffer, or
1474      used by other source-code blocks
1475   2) when the results are translated into emacs-lisp, forced to be
1476      interpreted as a scalar (dumping their raw values into the
1477      org-mode buffer), as a vector (which is often desirable with R
1478      code blocks), or interpreted on the fly (the default option).
1479      Note that this is very nearly currently implemented through the
1480      [[* DONE results-type header (vector/file)][results-type-header]].
1481   3) there should be *two* means of collecting results from the
1482      execution of a source code block.  *Either* the value of the
1483      last statement of the source code block, or the collection of
1484      all that has been passed to STDOUT during the evaluation.
1486 **** header argument or return line (*header argument*)
1488    Rather than using a header argument to specify how the return value
1489    should be passed back, I'm leaning towards the use of a =#+RETURN=
1490    line inside the block.  If such a line *is not present* then we
1491    default to using STDOUT to collect results, but if such a line *is
1492    present* then we use it's value as the results of the block.  I
1493    think this will allow for the most elegant specification between
1494    functional and script execution.  This also cleans up some issues
1495    of implementation and finding which statement is the last
1496    statement.
1498    Having given this more thought, I think a header argument is
1499    preferable.  The =#+return:= line adds new complicating syntax for
1500    something that does little more than we would accomplish through
1501    the addition of a header argument.  The only benefit being that we
1502    know where the final statement starts, which is not an issue in
1503    those languages which contain 'last value' operators.
1505    new header =:results= arguments
1506    - script :: explicitly states that we want to use STDOUT to
1507                initialize our results
1508    - return_last :: stdout is ignored instead the *value* of the final
1509                     statement in the block is returned
1510    - echo :: means echo the contents of the source-code block along
1511              with the results (this implies the *script* =:results=
1512              argument as well)
1514 *** DONE rework evaluation lang-by-lang [4/4]
1516 This should include...
1517 - functional results working with the comint buffer
1518 - results headers
1519   - script :: return the output of STDOUT
1520     - write a macro which runs the first redirection, executes the
1521       body, then runs the second redirection
1522   - last :: return the value of the last statement
1523     - 
1525 - sessions in comint buffers
1527 **** DONE Ruby [4/4]
1528 - [X] functional results working with comint
1529 - [X] script results
1530 - [X] ensure scalar/vector results args are taken into consideration
1531 - [X] ensure callable by other source block
1533 #+srcname: ruby-use-last-output
1534 #+begin_src ruby :results replace
1535 a = 2
1536 b = 4
1537 c = a + b
1538 [a, b, c, 78]
1539 #+end_src
1541 #+resname: ruby-use-last-output
1542 | 2 | 4 | 6 | 78 |
1544 #+srcname: task-call-use-last-output
1545 #+begin_src ruby :var last=ruby-use-last-output :results replace
1546 last.flatten.size + 1
1547 #+end_src
1549 #+resname: task-call-use-last-output
1550 : 5
1552 ***** ruby sessions
1554 #+srcname: first-ruby-session-task
1555 #+begin_src ruby :session schulte :results silent
1556 schulte = 27
1557 #+end_src
1559 #+srcname: second-ruby-session-task
1560 #+begin_src ruby :session schulte :results silent
1561 schulte + 3
1562 #+end_src
1564 #+srcname: without-the-right-session
1565 #+begin_src ruby :results silent
1566 schulte
1567 #+end_src
1569 **** DONE R [4/4]
1571 - [X] functional results working with comint
1572 - [X] script results
1573 - [X] ensure scalar/vector results args are taken into consideration
1574 - [X] ensure callable by other source block
1576 To redirect output to a file, you can use the =sink()= command.
1578 #+srcname: task_R_B
1579 #+begin_src R :results value vector silent
1580 a <- 9
1581 b <- 10
1582 b - a
1583 a + b
1584 #+end_src
1586 #+srcname: task-R-use-other-output
1587 #+begin_src R :var twoentyseven=task_R_B() :results replace value
1589 twoentyseven + 9
1590 #+end_src
1592 #+resname: task-R-use-other-output
1593 : 28
1595 **** DONE Python [4/4]
1596 - [X] functional results working with comint
1597 - [X] script results
1598 - [X] ensure scalar/vector results args are taken into consideration
1599 - [X] ensure callable by other source block
1601 #+srcname: task-new-eval-for-python
1602 #+begin_src python :results silent output scalar
1606 #+end_src
1608 #+srcname: task-use-new-eval
1609 #+begin_src python :var tasking=task-new-eval-for-python() :results replace
1610 tasking + 2
1611 #+end_src
1613 #+resname: task-use-new-eval
1614 : 12
1616 **** DONE Shells [4/4]
1617 - [X] functional results working with comint
1618 - [X] script results
1619 - [X] ensure scalar/vector results args are taken into consideration
1620 - [X] ensure callable by other source block
1622 #+srcname: task-shell-new-evaluation
1623 #+begin_src sh :results silent value scalar
1624 echo 'eric'
1625 date
1626 #+end_src
1628 #+srcname: task-call-other-shell
1629 #+begin_src sh :var other=task-shell-new-evaluation() :results replace  scalar
1630 echo $other ' is the old date'
1631 #+end_src
1633 #+resname: task-call-other-shell
1634 : $ Fri Jun 12 13:08:37 PDT 2009  is the old date
1636 *** DONE implement a *session* header argument [4/4]
1637 =:session= header argument to override the default *session* buffer
1639 **** DONE ruby
1641 #+srcname: task-ruby-named-session
1642 #+begin_src ruby :session schulte :results replace
1643 schulte = :in_schulte
1644 #+end_src
1646 #+resname: task-ruby-named-session
1647 : :in_schulte
1649 #+srcname: another-in-schulte
1650 #+begin_src ruby :session schulte 
1651 schulte
1652 #+end_src
1654 #+resname: another-in-schulte
1655 : :in_schulte
1656 : :in_schulte
1657 : :in_schulte
1659 **** DONE python
1661 #+srcname: python-session-task
1662 #+begin_src python :session what :results silent
1663 what = 98
1664 #+end_src
1666 #+srcname: python-get-from-session
1667 #+begin_src python :session what :results replace
1668 what
1669 #+end_src
1671 #+resname: python-get-from-session
1672 : 98
1674 **** DONE shell
1676 #+srcname: task-shell-sessions
1677 #+begin_src sh :session what
1678 WHAT='patton'
1679 #+end_src
1681 #+srcname: task-shell-sessions-what
1682 #+begin_src sh :session what :results replace
1683 echo $WHAT
1684 #+end_src
1686 #+resname: task-shell-sessions-what
1687 : patton
1689 **** DONE R
1691 #+srcname: task-R-session
1692 #+begin_src R :session what :results replace
1693 a <- 9
1694 b <- 8
1695 a + b
1696 #+end_src
1698 #+resname: task-R-session
1699 : 17
1701 #+srcname: another-task-R-session
1702 #+begin_src R :session what :results replace
1703 a + b
1704 #+end_src
1706 *** DONE function to bring up inferior-process buffer [4/4]
1708 This should be callable from inside of a source-code block in an
1709 org-mode buffer.  It should evaluate the header arguments, then bring
1710 up the inf-proc buffer using =pop-to-buffer=.
1712 For lack of a better place, lets add this to the `org-metadown-hook'
1713 hook.
1715 To give this a try, place the cursor on a source block with variables,
1716 (optionally git a prefix argument) then hold meta and press down.
1718 **** DONE ruby
1720 #+srcname: task-ruby-pop-to-session
1721 #+begin_src ruby :var num=9 :var another="something else"
1722 num.times{|n| puts another}
1723 #+end_src
1725 **** DONE python
1727 #+srcname: task-python-pop-to-session
1728 #+begin_src python :var num=9 :var another="something else"
1729 another * num
1730 #+end_src
1731 **** DONE R
1733 #+srcname: task-R-pop-to-session
1734 #+begin_src R :var a=9 :var b=8
1735 a * b
1736 #+end_src
1738 **** DONE shell
1740 #+srcname: task-shell-pop-sessions
1741 #+begin_src sh :var NAME="eric"
1742 echo $NAME
1743 #+end_src
1745 *** DEFERRED function to dump last N lines from inf-proc buffer into the current source block
1747 Callable with a prefix argument to specify how many lines should be
1748 dumped into the source-code buffer.
1750 *** REJECTED comint notes
1752 Implementing comint integration in [[file:lisp/org-babel-comint.el][org-babel-comint.el]].
1754 Need to have...
1755 - handling of outputs
1756   - split raw output from process by prompts
1757   - a ring of the outputs, buffer-local, `org-babel-comint-output-ring'
1758   - a switch for dumping all outputs to a buffer
1759 - inputting commands
1761 Lets drop all this language specific stuff, and just use
1762 org-babel-comint to split up our outputs, and return either the last
1763 value of an execution or the combination of values from the
1764 executions.
1766 **** comint filter functions
1767 : ;;  comint-input-filter-functions     hook    process-in-a-buffer
1768 : ;;  comint-output-filter-functions    hook    function modes.
1769 : ;;  comint-preoutput-filter-functions   hook
1770 : ;;  comint-input-filter                       function ...
1772 #+srcname: obc-filter-ruby
1773 #+begin_src ruby :results last
1779 #+end_src
1781 ** DONE Remove protective commas from # comments before evaluating
1782    org inserts protective commas in front of ## comments in language
1783    modes that use them. We need to remove them prior to sending code
1784    to the interpreter.
1786 #+srcname: testing-removal-of-protective-comas
1787 #+begin_src ruby
1788 ,# this one might break it??
1789 :comma_protection
1790 #+end_src
1792 ** DONE pass multiple reference arguments into R
1793    Can we do this? I wasn't sure how to supply multiple 'var' header
1794    args. Just delete this if I'm being dense.
1796    This should be working, see the following example...
1798 #+srcname: two-arg-example
1799 #+begin_src R :var n=2 :var m=8
1800 n + m
1801 #+end_src
1803 #+resname: two-arg-example
1804 : 10
1806 ** DONE ensure that table ranges work
1807 when a table range is passed to org-babel as an argument, it should be
1808 interpreted as a vector.
1810 | 1 | 2 | simple       |
1811 | 2 | 3 | Fixnum:1     |
1812 | 3 | 4 | Array:123456 |
1813 | 4 | 5 |              |
1814 | 5 | 6 |              |
1815 | 6 | 7 |              |
1816 #+TBLFM: @1$3='(sbe simple-sbe-example (n 4))::@2$3='(sbe task-table-range (n @1$1..@6$1))::@3$3='(sbe task-table-range (n (@1$1..@6$1)))
1818 #+srcname: simple-sbe-example
1819 #+begin_src emacs-lisp 
1820 "simple"
1821 #+end_src
1823 #+srcname: task-table-range
1824 #+begin_src ruby :var n=simple-sbe-example
1825 "#{n.class}:#{n}"
1826 #+end_src
1828 #+srcname: simple-results
1829 #+begin_src emacs-lisp :var n=task-table-range(n=(1 2 3))
1831 #+end_src
1833 #+resname: simple-results
1834 : Array:123
1836 #+srcname: task-arr-referent
1837 #+begin_src ruby :var ar=(1 2 3)
1838 ar.size
1839 #+end_src
1841 #+resname: task-arr-referent
1842 : 3
1844 ** DONE global variable indicating default to vector output
1845 how about an alist... =org-babel-default-header-args= this may already
1846 exist... just execute the following and all source blocks will default
1847 to vector output
1849 #+begin_src emacs-lisp 
1850 (setq org-babel-default-header-args '((:results . "vector")))
1851 #+end_src
1853 ** DONE name named results if source block is named
1854 currently this isn't happening although it should be
1856 #+srcname: test-naming-named-source-blocks
1857 #+begin_src emacs-lisp 
1858 :namer
1859 #+end_src
1861 #+resname: test-naming-named-source-blocks
1862 : :namer
1863 ** DONE (simple caching) check for named results before source blocks
1864 see the TODO comment in [[file:lisp/org-babel-ref.el::TODO%20This%20should%20explicitly%20look%20for%20resname%20lines%20before][org-babel-ref.el#org-babel-ref-resolve-reference]]
1865 ** DONE set =:results silent= when eval with prefix argument
1867 #+begin_src emacs-lisp
1868 'silentp
1869 #+end_src
1870 ** DONE results-type header (vector/file) [3/3]
1871    In response to a point in Dan's email.  We should allow the user to
1872    force scalar or vector results.  This could be done with a header
1873    argument, and the default behavior could be controlled through a
1874    configuration variable.
1875    
1876 #+srcname: task-trivial-vector
1877 #+begin_src ruby :results replace vector
1878 :scalar
1879 #+end_src
1881 #+resname:
1882 | ":scalar" |
1884    since it doesn't make sense to turn a vector into a scalar, lets
1885    just add a two values...
1886    
1887    - vector :: forces the results to be a vector (potentially 1 dimensional)
1888    - file :: this throws an error if the result isn't a string, and
1889              tries to treat it as a path to a file.
1891    I'm just going to cram all of these into the =:results= header
1892    argument.  Then if we allow multiple header arguments it should
1893    work out, for example one possible header argument string could be
1894    =:results replace vector file=, which would *replace* any existing
1895    results forcing the results into an org-mode table, and
1896    interpreting any strings as file paths.
1898 *** DONE multiple =:results= headers
1900 #+srcname: multiple-result-headers
1901 #+begin_src ruby :results replace silent
1902 :schulte
1903 #+end_src
1905 #+resname:
1907 *** DONE file result types
1908 When inserting into an org-mode buffer create a link with the path
1909 being the value, and optionally the display being the
1910 =file-name-nondirectory= if it exists.
1912 #+srcname: task-file-result
1913 #+begin_src python :results replace file
1914 "something"
1915 #+end_src
1917 #+resname:
1918 [[something][something]]
1921 This will be useful because blocks like =ditaa= and =dot= can return
1922 the string path of their files, and can add =file= to their results
1923 header.
1925 *** DONE vector result types
1927 #+srcname: task-force-results
1928 #+begin_src emacs-lisp :results vector
1930 #+end_src
1932 #+resname:
1933 | 8 |
1935 ** DONE results name
1936     In order to do this we will need to start naming our results.
1937     Since the source blocks are named with =#+srcname:= lines we can
1938     name results with =#+resname:= lines (if the source block has no
1939     name then no name is given to the =#+resname:= line on creation,
1940     otherwise the name of the source block is used).
1942     This will have the additional benefit of allowing results and
1943     source blocks to be located in different places in a buffer (and
1944     eventually in different buffers entirely).
1946 #+srcname: developing-resnames
1947 #+begin_src emacs-lisp  :results silent
1948 'schulte
1949 #+end_src
1951     Once source blocks are able to find their own =#+resname:= lines
1952     we then need to...
1954 #+srcname: sbe-w-new-results
1955 #+begin_src emacs-lisp :results replace
1956 (sbe "developing-resnames")
1957 #+end_src
1959 #+resname:
1960 : schulte
1962 *** TODO change the results insertion functions to use these lines
1964 *** TODO teach references to resolve =#+resname= lines.
1966 ** DONE org-babel tests org-babel [1/1]
1967 since we are accumulating this nice collection of source-code blocks
1968 in the sandbox section we should make use of them as unit tests.
1969 What's more, we should be able to actually use org-babel to run these
1970 tests.
1972 We would just need to cycle over every source code block under the
1973 sandbox, run it, and assert that the return value is equal to what we
1974 expect.
1976 I have the feeling that this should be possible using only org-babel
1977 functions with minimal or no additional elisp.  It would be very cool
1978 for org-babel to be able to test itself.
1980 This is now done, see [[* Tests]].
1982 *** DEFERRED org-babel assertions (may not be necessary)
1983 These could be used to make assertions about the results of a
1984 source-code block.  If the assertion fails then the point could be
1985 moved to the block, and error messages and highlighting etc... could
1986 ensue
1988 ** DONE make C-c C-c work anywhere within source code block?
1989    This seems like it would be nice to me, but perhaps it would be
1990    inefficient or ugly in implementation? I suppose you could search
1991    forward, and if you find #+end_src before you find #+begin_src,
1992    then you're inside one. [DED]
1994    Agreed, I think inside of the =#+srcname: line= would be useful as
1995    well.
1997 #+srcname: testing-out-cc
1998 #+begin_src emacs-lisp
1999 'schulte
2000 #+end_src
2002 ** DONE integration with org tables
2003 We should make it easy to call org-babel source blocks from org-mode
2004 table formulas.  This is practical now that it is possible to pass
2005 arguments to org-babel source blocks.
2007 See the related [[* (sandbox) integration w/org tables][sandbox]] header for tests/examples.
2009 *** digging in org-table.el
2010 In the past [[file:~/src/org/lisp/org-table.el::org%20table%20el%20The%20table%20editor%20for%20Org%20mode][org-table.el]] has proven difficult to work with.
2012 Should be a hook in [[file:~/src/org/lisp/org-table.el::defun%20org%20table%20eval%20formula%20optional%20arg%20equation][org-table-eval-formula]].
2014 Looks like I need to change this [[file:~/src/org/lisp/org-table.el::if%20lispp][if statement]] (line 2239) into a cond
2015 expression.
2017 ** DONE source blocks as functions
2019 Allow source code blocks to be called like functions, with arguments
2020 specified.  We are already able to call a source-code block and assign
2021 it's return result to a variable.  This would just add the ability to
2022 specify the values of the arguments to the source code block assuming
2023 any exist.  For an example see 
2025 When a variable appears in a header argument, how do we differentiate
2026 between it's value being a reference or a literal value?  I guess this
2027 could work just like a programming language.  If it's escaped or in
2028 quotes, then we count it as a literal, otherwise we try to look it up
2029 and evaluate it.
2031 ** DONE folding of code blocks? [2/2]
2032    [DED] In similar way to using outline-minor-mode for folding function
2033    bodies, can we fold code blocks?  #+begin whatever statements are
2034    pretty ugly, and in any case when you're thinking about the overall
2035    game plan you don't necessarily want to see the code for each Step.
2037 *** DONE folding of source code block
2038     Sounds good, and wasn't too hard to implement.  Code blocks should
2039     now be fold-able in the same manner as headlines (by pressing TAB
2040     on the first line).
2042 *** REJECTED folding of results
2043     So, lets do a three-stage tab cycle... First fold the src block,
2044     then fold the results, then unfold.
2045     
2046     There's no way to tell if the results are a table or not w/o
2047     actually executing the block which would be too expensive of an
2048     operation.
2050 ** DONE selective export of text, code, figures
2051    [DED] The org-babel buffer contains everything (code, headings and
2052    notes/prose describing what you're up to, textual/numeric/graphical
2053    code output, etc). However on export to html / LaTeX one might want
2054    to include only a subset of that content. For example you might
2055    want to create a presentation of what you've done which omits the
2056    code.
2058    [EMS] So I think this should be implemented as a property which can
2059    be set globally or on the outline header level (I need to review
2060    the mechanics of org-mode properties).  And then as a source block
2061    header argument which will apply only to a specific source code
2062    block.  A header argument of =:export= with values of
2063    
2064    - =code= :: just show the code in the source code block
2065    - =none= :: don't show the code or the results of the evaluation
2066    - =results= :: just show the results of the code evaluation (don't
2067                   show the actual code)
2068    - =both= :: show both the source code, and the results
2070 this will be done in [[* (sandbox) selective export][(sandbox) selective export]].
2072 ** DONE a header argument specifying silent evaluation (no output)
2073 This would be useful across all types of source block.  Currently
2074 there is a =:replace t= option to control output, this could be
2075 generalized to an =:output= option which could take the following
2076 options (maybe more)
2078 - =t= :: this would be the default, and would simply insert the
2079          results after the source block
2080 - =replace= :: to replace any results which may already be there
2081 - =silent= :: this would inhibit any insertion of the results
2083 This is now implemented see the example in the [[* silent evaluation][sandbox]]
2085 ** DONE assign variables from tables in R
2086 This is now working (see [[* (sandbox table) R][(sandbox-table)-R]]).  Although it's not that
2087 impressive until we are able to print table results from R.
2089 ** DONE insert 2-D R results as tables
2090 everything is working but R and shell
2092 *** DONE shells
2094 *** DONE R
2096 This has already been tackled by Dan in [[file:existing_tools/org-R.el::defconst%20org%20R%20write%20org%20table%20def][org-R:check-dimensions]].  The
2097 functions there should be useful in combination with [[http://cran.r-project.org/doc/manuals/R-data.html#Export-to-text-files][R-export-to-csv]]
2098 as a means of converting multidimensional R objects to emacs lisp.
2100 It may be as simple as first checking if the data is multidimensional,
2101 and then, if so using =write= to write the data out to a temporary
2102 file from which emacs can read the data in using =org-table-import=.
2104 Looking into this further, is seems that there is no such thing as a
2105 scalar in R [[http://tolstoy.newcastle.edu.au/R/help/03a/3733.html][R-scalar-vs-vector]]  In that light I am not sure how to
2106 deal with trivial vectors (scalars) in R.  I'm tempted to just treat
2107 them as vectors, but then that would lead to a proliferation of
2108 trivial 1-cell tables...
2110 ** DONE allow variable initialization from source blocks
2111 Currently it is possible to initialize a variable from an org-mode
2112 table with a block argument like =table=sandbox= (note that the
2113 variable doesn't have to named =table=) as in the following example
2115 #+TBLNAME: sandbox
2116 | 1 |       2 | 3 |
2117 | 4 | schulte | 6 |
2119 #+begin_src emacs-lisp :var table=sandbox :results replace
2120 (message (format "table = %S" table))
2121 #+end_src
2123 : "table = ((1 2 3) (4 \"schulte\" 6))"
2125 It would be good to allow initialization of variables from the results
2126 of other source blocks in the same manner.  This would probably
2127 require the addition of =#+SRCNAME: example= lines for the naming of
2128 source blocks, also the =table=sandbox= syntax may have to be expanded
2129 to specify whether the target is a source code block or a table
2130 (alternately we could just match the first one with the given name
2131 whether it's a table or a source code block).
2133 At least initially I'll try to implement this so that there is no need
2134 to specify whether the reference is to a table or a source-code block.
2135 That seems to be simpler both in terms of use and implementation.
2137 This is now working for emacs-lisp, ruby and python (and mixtures of
2138 the three) source blocks.  See the examples in the [[* (sandbox) referencing other source blocks][sandbox]].
2140 This is currently working only with emacs lisp as in the following
2141 example in the [[* emacs lisp source reference][emacs lisp source reference]].
2144 ** TODO Add languages [2/6]
2145 I'm sure there are many more that aren't listed here.  Please add
2146 them, and bubble any that you particularly care about up to the top.
2148 Any new language should be implemented in a org-babel-lang.el file.
2149 Follow the pattern set by [[file:lisp/org-babel-script.el][org-babel-script.el]], [[file:lisp/org-babel-shell.el][org-babel-shell.el]] and
2150 [[file:lisp/org-babel-R.el][org-babel-R.el]].
2152 *** TODO perl
2153 This could probably be added to [[file:lisp/org-babel-script.el][org-babel-script.el]]
2155 *** TODO java
2157 *** DONE ditaa
2158 (see [[* file result types][file result types]])
2160 #+srcname: implementing-ditaa
2161 #+begin_src ditaa :results replace :file blue.png :cmdline -r
2162 +---------+
2163 | cBLU    |
2164 |         |
2165 |    +----+
2166 |    |cPNK|
2167 |    |    |
2168 +----+----+
2169 #+end_src
2171 #+resname: implementing-ditaa
2172 [[file:blue.png][blue.png]]
2174 *** DONE gnuplot [7/7]
2175 (see [[* file result types][file result types]])
2177 #+PLOT: title:"Citas" ind:1 deps:(3) type:2d with:histograms set:"yrange [0:]"
2178 #+TBLNAME: gnuplot-data
2179 | independent var | first dependent var | second dependent var |
2180 |-----------------+---------------------+----------------------|
2181 |             0.1 |               0.425 |                0.375 |
2182 |             0.2 |              0.3125 |               0.3375 |
2183 |             0.3 |          0.24999993 |           0.28333338 |
2184 |             0.4 |               0.275 |              0.28125 |
2185 |             0.5 |                0.26 |                 0.27 |
2186 |             0.6 |          0.25833338 |           0.24999993 |
2187 |             0.7 |          0.24642845 |           0.23928553 |
2188 |             0.8 |             0.23125 |               0.2375 |
2189 |             0.9 |          0.23333323 |            0.2333332 |
2190 |               1 |              0.2225 |                 0.22 |
2191 |             1.1 |          0.20909075 |           0.22272708 |
2192 |             1.2 |          0.19999998 |           0.21458333 |
2193 |             1.3 |          0.19615368 |           0.21730748 |
2195 #+srcname: implementing-gnuplot
2196 #+begin_src gnuplot :var data=gnuplot-data :results silent
2197 set title "Implementing Gnuplot"
2198 plot data using 1:2 with lines
2199 #+end_src
2201 **** DONE add variables
2202      gnuplot 4.2 and up support user defined variables.  This is how
2203      we will handle variables with org-babel (meaning we will need to
2204      require gnuplot 4.2 and up for variable support, which can be
2205      install using [[http://www.macports.org/install.php][macports]] on Mac OSX).
2207      - scalar variables should be replaced in the body of the gnuplot code
2208      - vector variables should be exported to tab-separated files, and
2209        the variable names should be replaced with the path to the files
2211 **** DONE direct plotting w/o session
2212 **** DEFERRED gnuplot support for column/row names
2213 This should be implemented along the lines of the [[* STARTED Column (and row) names of tables in R input/output][R-colname-support]].
2215 We can do something similar to the :labels param in org-plot, we just
2216 have to be careful to ensure that each label is aligned with the
2217 related data file.
2219 This may be walking too close to an entirely prebuilt plotting tool
2220 rather than straight gnuplot code evaluation.  For now I think this
2221 can wait.
2223 **** DONE a =file= header argument
2224 to specify a file holding the results
2226 #+srcname: gnuplot-to-file-implementation
2227 #+begin_src gnuplot :file plot.png :var data=gnuplot-data
2228 plot data using 1:2, data using 1:3 with lines
2229 #+end_src
2231 #+resname:
2232 [[file:plot.png][plot.png]]
2234 **** DONE helpers from org-plot.el
2235 There are a variety of helpers in org-plot which can be fit nicely
2236 into custom gnuplot header arguments.
2238 These should all be in place by now.
2240 **** DEFERRED header argument specifying 3D data
2242 #+tblname: org-grid
2243 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
2244 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
2245 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
2246 | 0 | 0 | 1 | 1 | 0 | 0 | 1 | 0 | 0 | 0 | 0 | 0 | 1 | 1 | 1 | 0 | 0 |
2247 | 0 | 1 | 0 | 0 | 1 | 0 | 1 | 0 | 0 | 0 | 0 | 1 | 0 | 0 | 0 | 1 | 0 |
2248 | 0 | 1 | 0 | 0 | 1 | 0 | 1 | 0 | 0 | 0 | 0 | 1 | 0 | 0 | 0 | 1 | 0 |
2249 | 0 | 1 | 0 | 0 | 1 | 0 | 1 | 0 | 0 | 0 | 0 | 1 | 0 | 1 | 1 | 1 | 0 |
2250 | 0 | 1 | 0 | 0 | 1 | 0 | 1 | 0 | 0 | 0 | 0 | 1 | 0 | 0 | 0 | 0 | 0 |
2251 | 0 | 1 | 0 | 0 | 1 | 0 | 1 | 0 | 0 | 0 | 0 | 1 | 0 | 0 | 0 | 0 | 0 |
2252 | 0 | 1 | 0 | 0 | 1 | 0 | 1 | 0 | 0 | 0 | 0 | 1 | 0 | 0 | 0 | 1 | 0 |
2253 | 0 | 1 | 0 | 0 | 1 | 0 | 1 | 1 | 0 | 1 | 0 | 1 | 0 | 0 | 0 | 1 | 0 |
2254 | 0 | 0 | 1 | 1 | 0 | 0 | 1 | 0 | 1 | 1 | 0 | 0 | 1 | 1 | 1 | 0 | 0 |
2255 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
2256 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
2258 #+srcname: implementing-gnuplot-grid-plots
2259 #+begin_src gnuplot :vars data=org-grid
2261 #+end_src
2263 **** DONE gnuplot sessions
2264 Working on this, we won't support multiple sessions as `gnuplot-mode'
2265 isn't setup for such things.
2267 Also we can't display results with the default :none session, so for
2268 gnuplot we really want the default behavior to be :default, and to
2269 only run a :none session when explicitly specified.
2271 #+srcname: implementing-gnuplot-sessions
2272 #+begin_src gnuplot :var data=gnuplot-data :session none :file session.png
2273 set title "Implementing Gnuplot Sessions"
2274 plot data using 1:2 with lines
2275 #+end_src
2277 #+resname:
2278 [[file:session.png][session.png]]
2280 *** TODO dot
2281 (see [[* file result types][file result types]])
2283 *** TODO asymptote
2284 (see [[* file result types][file result types]])
2287 * Bugs [25/37]
2288 ** TODO creeping blank lines
2289    There's still inappropriate addition of blank lines in some circumstances. 
2291    Hmm, it's a bit confusing. It's to do with o-b-remove-result. LoB
2292    removes the entire (#+resname and result) and starts from scratch,
2293    whereas #+begin_src only removes the result. I haven't worked out
2294    what the correct fix is yet. Maybe the right thing to do is to make
2295    sure that those functions (o-b-remove-result et al.) are neutral
2296    with respect to newlines. Sounds easy, but...
2298    E.g.
2300 #+begin_src sh
2302 #+end_src
2306    Compare the results of
2307 #+lob: python-add(a=5, b=17)
2309 #+resname: python-add(a=5, b=17)
2310 : 22
2311 --------------------------------
2313 #+begin_src python
2315 #+end_src
2317 #+resname:
2318 : 23
2319 ---------------------
2320 ** TODO problem with newlines in output when :results value
2321 #+begin_src python :results value
2322 '\n'.join(map(str, range(4)))
2323 #+end_src
2325 #+resname:
2326 : 0
2328 Whereas I was hoping for
2330 | 0 |
2331 | 1 |
2332 | 2 |
2333 | 3 |
2335 This is some sort of non-printing char / quoting issue I think. Note
2336 that
2338 #+begin_src python :results value
2339 '\\n'.join(map(str, range(4)))
2340 #+end_src
2342 #+resname:
2343 : 0\n1\n2\n3
2345 Also, note that
2346 #+begin_src python :results output
2347 print('\n'.join(map(str, range(4))))
2348 #+end_src
2350 #+resname:
2351 : 0
2352 : 1
2353 : 2
2354 : 3
2356 *** collapsing consecutive newlines in string output
2357     
2358     This is an example of the same bug
2360 #+srcname: multi-line-string-output
2361 #+begin_src ruby :results output
2362 "the first line ends here
2365      and this is the second one
2367 even a third"
2368 #+end_src
2370 This doesn't produce anything at all now. I believe that's because
2371 I've changed things so that :results output really does *not* get the
2372 value of the block, only the STDOUT. So if we add a print statement
2373 this works OK.
2375 #+srcname: multi-line-string-output
2376 #+begin_src ruby :results output
2377 print "the first line ends here
2380      and this is the second one
2382 even a third"
2383 #+end_src
2385 #+resname:
2386 : the first line ends here
2389 :      and this is the second one
2391 : even a third
2393 However, the behaviour with :results value is wrong
2395 #+srcname: multi-line-string-value
2396 #+begin_src ruby
2397 "the first line ends here
2400      and this is the second one
2402 even a third"
2403 #+end_src
2405 #+resname:
2406 : 0
2408 ** TODO prompt characters appearing in output with R
2409 #+begin_src R :session *R* :results output
2410   x <- 6
2411   y <- 8
2412   3
2413 #+end_src      
2415 #+resname:
2416 : > [1] 3
2418 ** TODO o-b-execute-subtree overwrites heading when subtree is folded
2419 *** Example
2420     Try M-x org-babel-execute-subtree with the subtree folded and
2421     point at the beginning of the heading line.
2422 #+begin_src sh
2423 size=5
2424 #+end_src
2426 ** TODO Allow source blocks to be recognised when #+ are not first characters on the line
2427    I think Carsten has recently altered the core so that #+ can have
2428    preceding whitespace, at least for literal/code examples. org-babel
2429    should support this.
2431 ** TODO non-orgtbl formatted lists
2432 for example
2434 #+srcname: this-doesn't-match-orgtbl
2435 #+begin_src emacs-lisp :results replace
2436 '((:results . "replace"))
2437 #+end_src
2439 #+resname: this-doesn't-match-orgtbl
2440    
2441 ** PROPOSED allow un-named arguments
2443 #+srcname: f(x)
2444 #+begin_src python 
2446 #+end_src
2448 #+lob: f(5)
2450 ## produces no output
2452  It's not essential but would be nice for this to work. To do it
2453 properly, would mean that we'd have to specify rules for how a string
2454 of supplied arguments (some possibly named) interact with the
2455 arguments in the definition (some possibly with defaults) to give
2456 values to the variables in the funbction body.
2457 ** PROPOSED external shell execution can't isolate return values
2458 I have no idea how to do this as of yet.  The result is that when
2459 shell functions are run w/o a session there is no difference between
2460 the =output= and =value= result arguments.
2462 Yea, I don't know how to do this either.  I searched extensively on
2463 how to isolate the *last* output of a series of shell commands (see
2464 [[* last command for
2465  shells][last command for shells]]).  The results of the search were basically
2466 that it was not possible (or at least not accomplish-able with a
2467 reasonable amount of effort).
2469 That fact combined with the tenancy to all ways use standard out in
2470 shell scripts led me to treat these two options (=output= and =value=)
2471 as identical in shell evaluation.  Not ideal but maybe good enough for
2472 the moment.
2474 In the `results' branch I've changed this so that they're not quite
2475 identical: output results in raw stdout contents, whereas value
2476 converts it to elisp, perhaps to a table if it looks tabular. This is
2477 the same for the other languages. [Dan]
2479 ** TODO are the org-babel-trim s necessary?
2480    at the end of e.g. org-babel-R-evaluate, org-babel-python-evaluate, but
2481    not org-babel-ruby-evaluate
2482 ** TODO use new merge function [[file:lisp/org-babel-ref.el::t%20nil%20org%20combine%20plists%20args%20nil][here]]?
2483    And at other occurrences of org-combine-plists?
2484 ** TODO LoB is not populated on startup
2485    org-babel-library-of-babel is nil for me on startup. I have to
2486    evaluate the [[file:lisp/org-babel-lob.el::][org-babel-lob-ingest]] line manually.
2487 ** TODO Fix nested evaluation and default args
2488    The current parser / evaluator fails with greater levels of nested
2489    function block calls (example below).
2491 *** Initial statement [ded]
2492     If we want to overcome this I think we'd have to redesign some of
2493     the evaluation mechanism. Seeing as we are also facing issues like
2494     dealing with default argument values, and seeing as we now know
2495     how we want the library of babel to behave in addition to the
2496     source blocks, now might be a good time to think about this. It
2497     would be nice to do the full thing at some point, but otoh we may
2498     not consider it a massive priority.
2499     
2500     AIui, there are two stages: (i) construct a parse tree, and (ii)
2501     evaluate it and return the value at the root. In the parse tree
2502     each node represents an unevaluated value (either a literal value
2503     or a reference). Node v may have descendent nodes, which represent
2504     values upon which node v's evaluation depends. Once that tree is
2505     constructed, then we evaluate the nodes from the tips towards the
2506     root (a post-order traversal).
2508     [This would also provide a solution for concatenating the STDOUTs
2509     of called blocks, which is a [[*allow%20output%20mode%20to%20return%20stdout%20as%20value][task below]]; we concatenate them in
2510     whatever order the traversal is done in.]
2512     In addition to the variable references (i.e. daughter nodes), each
2513     node would contain the information needed to evaluate that node
2514     (e.g. lang body). Then we would pass a function postorder over the
2515     tree which would call o-b-execute-src-block at each node, finally
2516     returning the value at the root.
2518     Fwiw I made a very tentative small start at stubbing this out in
2519     org-babel-call.el in the 'evaluation' branch. And I've made a start
2520     at sketching a parsing algorithm below.
2521 **** Parse tree algorithm
2522     Seeing as we're just trying to parse a string like
2523     f(a=1,b=g(c=2,d=3)) it shouldn't be too hard. But of course there
2524     are 'proper' parsers written in elisp out there,
2525     e.g. [[http://cedet.sourceforge.net/semantic.shtml][Semantic]]. Perhaps we can find what we need -- our syntax is
2526     pretty much the same as python and R isn't it?
2528     Or, a complete hack, but maybe it would be we easy to transform it
2529     to XML and then parse that with some existing tool?
2530     
2531     But if we're doing it ourselves, something very vaguely like this?
2532     (I'm sure there're lots of problems with this)
2534 #+srcname: org-babel-call-parse(call)
2535 #+begin_src python 
2536   ## we are currently reading a reference name: the name of the root function
2537   whereami = "refname"
2538   node = root = Node()
2539   for c in call_string:
2540       if c == '(':
2541           varnum = 0
2542           whereami = "varname" # now we're reading a variable name
2543       if c == '=':
2544           new = Node()
2545           node.daughters = [node.daughters, new]
2546           new.parent = node
2547           node = new
2548           whereami = "refname"
2549       if c == ',':
2550           whereami = "varname"
2551           varnum += 1
2552       elif c == ')':
2553           node = node.parent
2554       elif c == ' ':
2555           pass
2556       else:
2557           if whereami = "varname":
2558               node.varnames[varnum] += c
2559           elif whereami = "refname":
2560               node.name += c
2561 #+end_src
2562     
2563 *** discussion / investigation
2564 I believe that this issue should be addressed as a bug rather than as
2565 a point for new development.   The code in [[file:lisp/org-babel-ref.el][org-babel-ref.el]] already
2566 resolves variable references in a recursive manner which *should* work
2567 in the same manner regardless of the depth of the number of nested
2568 function calls.  This recursive evaluation has the effect of
2569 implicitly constructing the parse tree that your are thinking of
2570 constructing explicitly.
2572 Through using some of the commented out debugging statements in
2573 [[file:lisp/org-babel-ref.el][org-babel-ref.el]] I have looked at what may be going wrong in the
2574 current evaluation setup, and it seems that nested variables are being
2575 set using the =:var= header argument, and these variables are being
2576 overridden by the *default* variables which are being entered through
2577 the new functional syntax (see the demonstration header below).
2579 I believe that once this bug is fixed we should be back to fully
2580 resolution of nested arguments.  We should capture this functionality
2581 in a test to ensure that we continue to test it as we move forward.  I
2582 can take a look at implementing this once I get a chance.
2584 Looks like the problem may be in [[file:lisp/org-babel.el::defun%20org%20babel%20merge%20params%20rest%20plists][org-babel-merge-params]], which seems
2585 to be trampling the provided :vars values.
2587 Nope, now it seems that we are actually looking up the results line,
2588 rather than the actual source-code block, which would make sense given
2589 that the results-line will return the same value regardless of the
2590 arguments supplied.  See the output of this [[file:lisp/org-babel-ref.el::message%20type%20S%20type%20debugging][debug-statement]].
2592 We need to be sure that we don't read from a =#+resname:= line when we
2593 have a non-nil set of arguments.
2595 **** demonstration
2596 After uncommenting the debugging statements located [[file:lisp/org-babel-ref.el::message%20format%20first%20second%20S%20S%20new%20refere%20new%20referent%20debugging][here]] and more
2597 importantly [[file:lisp/org-babel-ref.el::message%20nested%20args%20S%20args%20debugging][here]], we can see that the current reference code does
2598 evaluate the references correctly, and it uses the =:var= header
2599 argument to set =a=8=, however the default variables specified using
2600 the functional syntax in =adder(a=3, b=2)= is overriding this
2601 specification.
2603 ***** doesn't work with functional syntax
2605 #+srcname: adder-func(a=3, b=2)
2606 #+begin_src python 
2607 a + b
2608 #+end_src
2610 #+resname: adder-func
2611 : 5
2613 #+srcname: after-adder-func(arg=adder-func(a=8))
2614 #+begin_src python 
2616 #+end_src
2618 #+resname: after-adder-func
2619 : 5
2621 ***** still does work with =:var= syntax
2623 so it looks like regardless of the syntax used we're not overriding
2624 the default argument values.
2626 #+srcname: adder-header
2627 #+begin_src python :var a=3 :var b=2
2628 a + b
2629 #+end_src
2631 #+resname: adder-header
2632 : 5
2634 #+srcname: after-adder-header
2635 #+begin_src python :var arg=adder-header(a=8, b=0)
2637 #+end_src
2639 #+resname: after-adder-header
2640 : 5
2642 *** Set of test cases
2643 **** Both defaults provided in definition
2644 #+srcname: adder1(a=10,b=20)
2645 #+begin_src python
2647 #+end_src
2649 #+resname: adder1
2650 : 30
2651 ****** DONE Rely on defaults
2652 #+lob: adder1()
2654 #+resname: adder1()
2655 : 30
2657 ## should be 30
2658 ## OK, but
2659 ******* DONE empty parens () not recognised as lob call
2660         E.g. remove spaces between parens above
2662         updated [[file:lisp/org-babel-lob.el::defvar%20org%20babel%20lob%20one%20liner%20regexp%20lob%20t%20n%20n%20t%20n][org-babel-lob-one-liner-regexp]]
2664 ****** DONE One supplied, one default
2665 #+lob: adder1(a=0)
2667 #+resname: adder1(a=0)
2668 : 20
2670 ## should be 20
2672 #+lob: adder1(b=0)
2674 #+resname: adder1(b=0)
2675 ## should be 10
2676 : 10
2678 ****** DONE Both supplied
2679 #+lob: adder1(a=1,b=2)
2681 #+resname: adder1(a=1,b=2)
2683 : 3
2684 **** One arg lacks default in definition
2685 #+srcname: adder2(a=10,b)
2686 #+begin_src python
2688 #+end_src
2689 ****** DEFERRED Rely on defaults (one of which is missing)
2690 #+lob: adder2( )
2692 [no output]
2694 ## should be error: b has no default
2696 Maybe we should let the programming language handle this case.  For
2697 example python spits out an error in the =#+lob= line above.  Maybe
2698 rather than catching these errors our-selves we should raise an error
2699 when the source-block returns an error.  I'll propose a [[* PROPOSED raise elisp error when source-blocks return errors][task]] for this
2700 idea, I'm not sure how/if it would work...
2702 ****** DEFERRED Default over-ridden
2703 #+lob: adder2(a=1)
2705 See the above [[* DEFERRED Rely on defaults (one of which is missing)][deferred]] and the new proposed [[* PROPOSED raise elisp error when source-blocks return errors][task]], I think it may be
2706 more flexible to allow the source block language to handle the error.
2708 [no output ]
2709 ## should be error: b has no default
2711 ****** DONE Missing default supplied
2712 #+lob: adder2(b=1)
2714 #+resname: adder2(b=1)
2715 : 11
2718 ## should be 11
2719 ## OK
2721 ****** DONE One over-ridden, one supplied
2722 #+lob: adder2(a=1,b=2)
2724 #+resname: adder2(a=1,b=2)
2725 : 3
2727 ## should be 3
2729 *** Example that fails
2730     
2731 #+srcname: adder(a=0, b=99)
2732 #+begin_src python 
2734 #+end_src
2738 #+srcname: one()
2739 #+begin_src python
2741 #+end_src
2743 **** nesting
2744 #+srcname: level-one-nesting()
2745 #+begin_src python :var arg=adder(a=one(),b=one())
2747 #+end_src
2749 #+resname: level-one-nesting
2751 : nil
2753 #+srcname: level-one-nesting()
2754 #+begin_src python :var arg=adder(a=adder(a=one(),b=one()),b=adder(a=one(),b=one()))
2756 #+end_src
2758 #+resname:
2759 : 12
2761 *** DONE deeply nested arguments still fails
2763 #+srcname: deeply-nested-args-bug
2764 #+begin_src python :var arg=adder(a=adder(a=one(),b=one()),b=adder(a=one(),b=one()))
2766 #+end_src
2768 #+resname:
2769 : nil
2771 **** Used to result in this error
2772 : supplied params=nil
2773 : new-refere="adder", new-referent="a=adder(a=one(),b=one()),b=adder(a=one(),b=one())"
2774 : args=((:var . "a=adder(a=one()") (:var . "b=one())") (:var . "b=adder(a=one()") (:var . "b=one())"))
2775 : type=source-block
2776 : supplied params=((:var . "a=adder(a=one()") (:var . "b=one())") (:var . "b=adder(a=one()") (:var . "b=one())"))
2777 : new-refere="adder", new-referent="a=one("
2778 : args=((:var . "a=one("))
2779 : type=source-block
2780 : supplied params=((:var . "a=one("))
2781 : reference 'one(' not found in this buffer
2783 Need to change the regexp in [[file:lisp/org-babel-ref.el::assign%20any%20arguments%20to%20pass%20to%20source%20block][org-babel-ref-resolve-reference]] so that
2784 it only matches when the parenthesis are balanced.  Maybe look at
2785 [[http://www.gnu.org/software/emacs/elisp/html_node/List-Motion.html][this]].
2787 *** Still some problems with deeply nested arguments and defaults
2788 **** sandbox
2789 **** TODO Nesting problem I
2790      Try inserting a space between the 'a=3,' and 'b=4'. It changes the result from 10 to 105
2792 #+srcname: deeply-nested-args-bug-I()
2793 #+begin_src python :var arg=adder(a=adder(a=one(),b=one()),b=adder(a=adder(a=3, b=4),b=one()))
2795 #+end_src
2797 #+resname: deeply-nested-args-bug-I
2799 : 105
2801 **** DONE Nesting problem II
2802      This generates parsing errors
2803 #+srcname: deeply-nested-args-bug-II-1()
2804 #+begin_src python :var arg=adder(a=adder(a=one(),b=adder(a=2,b=4)))
2806 #+end_src
2808 #+resname: deeply-nested-args-bug-II-1
2810 : 106
2812 #+srcname: deeply-nested-args-bug-II-original()
2813 #+begin_src python :var arg=adder(a=adder(a=one(),b=one()),b=adder(a=one(),b=adder(a=1,b=4)))
2815 #+end_src
2817 #+resname: deeply-nested-args-bug-II-original
2818 : 8
2823 **** DONE Why does this give 8?
2824      It was picking up the wrong definition of adder
2825 #+srcname: deeply-nested-args-bug-2()
2826 #+begin_src python :var arg=adder(a=adder(a=one(),b=one()))
2828 #+end_src
2830 #+resname: deeply-nested-args-bug-2
2832 : 101
2834 **** DONE Problem with empty argument list
2835      This gives empty list with () and 'no output' with ( )
2837      I think this is OK now.
2839 #+srcname: x
2840 #+begin_src python :var arg=adder( )
2842 #+end_src
2844 #+resname:
2845 : 99
2875 *** DONE Arg lacking default
2876    This would be good thing to address soon. I'm imagining that
2877    e.g. here, the 'caller' block would return the answer 30. I believe
2878    there's a few issues here: i.e. the naked 'a' without a reference
2879    is not understood; the default arg b=6 is not understood.
2881 #+srcname: adder-with-arg-lacking-default(a, b=6)
2882 #+begin_src python 
2884 #+end_src
2888 #+srcname: caller(var=adder-with-arg-lacking-default(a=24))
2889 #+begin_src python :results silent
2891 #+end_src
2894 ** DONE allow srcname to omit function call parentheses
2895    Someone needs to revisit those regexps. Is there an argument for
2896    moving some of the regexps used to match function calls into
2897    defvars? (i.e. in o-b.el and o-b-ref.el)
2899    This seems to work now. It still might be a good idea to separate
2900    out some of the key regexps into defvars at some point.
2902 #+srcname: omit-parens-test
2903 #+begin_src ruby :results output
2904 3.times {puts 'x'}
2905 #+end_src
2907 #+resname:
2908 : x
2909 : x
2910 : x
2912 ** DONE avoid stripping whitespace from output when :results output
2913    This may be partly solved by using o-b-chomp rather than o-b-trim
2914    in the o-b-LANG-evaluate functions.
2915 ** DEFERRED weird escaped characters in shell prompt break shell evaluation
2916    E.g. this doesn't work. Should the shell sessions set a sane prompt
2917    when they start up? Or is it a question of altering
2918    comint-prompt-regexp? Or altering org-babel regexps?
2919    
2920 #+begin_src sh   
2921    black=30 ; red=31 ; green=32 ; yellow=33 ; blue=34 ; magenta=35 ; cyan=36 ; white=37
2922    prompt_col=$red
2923    prompt_char='>'
2924    export PS1="\[\033[${prompt_col}m\]\w${prompt_char} \[\033[0m\]"
2925 #+end_src
2927    I just pushed a good amount of changes, could you see if your shell
2928    problems still exist?
2930    The problem's still there. Specifically, aIui, at [[file:lisp/langs/org-babel-sh.el::raw%20org%20babel%20comint%20with%20output%20buffer%20org%20babel%20sh%20eoe%20output%20nil%20insert%20full%20body%20comint%20send%20input%20nil%20t][this line]] of
2931    org-babel-sh.el, raw gets the value
2933 ("" "\e[0m Sun Jun 14 19:26:24 EDT 2009\n" "\e[0m org_babel_sh_eoe\n" "\e[0m ")
2935    and therefore (member org-babel-sh-eoe-output ...) fails
2937    I think that `comint-prompt-regexp' needs to be altered to match
2938    the shell prompt.  This shouldn't be too difficult to do by hand,
2939    using the `regexp-builder' command and should probably be part of
2940    the user's regular emacs init.  I can't think of a way for us to
2941    set this automatically, and we are SOL without a regexp to match
2942    the prompt.
2943 ** DONE function calls in #+srcname: refs
2944    
2945    My srcname references don't seem to be working for function
2946    calls. This needs fixing.
2947    
2948 #+srcname: called()
2949 #+begin_src python 
2951 #+end_src
2953 srcname function call doesn't work for calling a source block
2954 #+srcname: caller(var1=called())
2955 #+begin_src python
2956 var1
2957 #+end_src
2959 #+resname: caller
2960 : 59
2967 They do work for a simple reference
2968 #+srcname: caller2(var1=56)
2969 #+begin_src python 
2970 var1
2971 #+end_src
2973 #+resname: caller2
2974 : 59
2977 and they do work for :var header arg
2978 #+srcname: caller3
2979 #+begin_src python :var var1=called() 
2980 var1
2981 #+end_src
2983 #+resname:
2984 : 58
2985 ** DONE LoB: with output to buffer, not working in buffers other than library-of-babel.org
2986 *** Initial report
2987    I haven't fixed this yet. org-babel-ref-resolve-reference moves
2988    point around, inside a save-excursion. Somehow when it comes to
2989    inserting the results (after possible further recursive calls to
2990    org-babel-ref-resolve-reference), point hasn't gone back to the
2991    lob line.
2993 #+tblname: test-data
2994 | 1 |    1 |
2995 | 2 |   .5 |
2996 | 3 | .333 |
2998 #+lob: R-plot(data=test-data)
3000 #+lob: python-add(a=2, b=9)
3002 #+resname: python-add(a=2, b=9)
3003 : 11
3005 *** Now
3006     I think this got fixed in the bugfixes before merging results into master.
3008 ** DONE cursor movement when evaluating source blocks
3009    E.g. the pie chart example. Despite the save-window-excursion in
3010    org-babel-execute:R. (I never learned how to do this properly: org-R
3011    jumps all over the place...)
3013    I don't see this now [ded]
3015 ** DONE LoB: calls fail if reference has single character name
3016    commit 21d058869df1ff23f4f8cc26f63045ac9c0190e2
3017 **** This doesn't work
3018 #+lob: R-plot(data=X)
3020 #+tblname: X
3021 | 1 |     1 |
3022 | 2 |    .5 |
3023 | 3 | .3333 |
3024 | 4 |   .25 |
3025 | 5 |    .2 |
3026 | 6 | .1666 |
3028 **** But this is OK
3029 #+tblname: XX
3030 | 1 |     1 |
3031 | 2 |    .5 |
3032 | 3 | .3333 |
3033 | 4 |   .25 |
3034 | 5 |    .2 |
3035 | 6 | .1666 |
3037 #+lob: R-plot(data=XX)
3039 ** DONE make :results replace the default?
3040    I'm tending to think that appending results to pre-existing results
3041    creates mess, and that the cleaner `replace' option should be the
3042    default. E.g. when a source block creates an image, we would want
3043    that to be updated, rather than have a new one be added.
3044    
3045    I agree.
3047 ** DONE ruby evaluation not working under ubuntu emacs 23
3048    With emacs 23.0.91.1 on ubuntu, for C-h f run-ruby I have the
3049    following, which seems to conflict with [[file:lisp/langs/org-babel-ruby.el::let%20session%20buffer%20save%20window%20excursion%20run%20ruby%20nil%20session%20current%20buffer][this line]] in org-babel-ruby.el.
3051 #+begin_example
3052 run-ruby is an interactive compiled Lisp function.
3054 (run-ruby cmd)
3056 Run an inferior Ruby process, input and output via buffer *ruby*.
3057 If there is a process already running in `*ruby*', switch to that buffer.
3058 With argument, allows you to edit the command line (default is value
3059 of `ruby-program-name').  Runs the hooks `inferior-ruby-mode-hook'
3060 (after the `comint-mode-hook' is run).
3061 (Type C-h m in the process buffer for a list of commands.)
3062 #+end_example
3064    So, I may have a non-standard inf-ruby.el.  Here's my version of
3065    run-ruby.
3067 #+begin_example 
3068 run-ruby is an interactive Lisp function in `inf-ruby.el'.
3070 (run-ruby &optional COMMAND NAME)
3072 Run an inferior Ruby process, input and output via buffer *ruby*.
3073 If there is a process already running in `*ruby*', switch to that buffer.
3074 With argument, allows you to edit the command line (default is value
3075 of `ruby-program-name').  Runs the hooks `inferior-ruby-mode-hook'
3076 (after the `comint-mode-hook' is run).
3077 (Type C-h m in the process buffer for a list of commands.)
3078 #+end_example
3080    It seems we could either bundle my version of inf-ruby.el (as it's
3081    the newest).  Or we could change the use of `run-ruby' so that it
3082    is robust across multiple distributions.  I think I'd prefer the
3083    former, unless the older version of inf-ruby is actually bundled
3084    with emacs, in which case maybe we should go out of our way to
3085    support it.  Thoughts?
3087    I think for now I'll just include the latest [[file:util/inf-ruby.el][inf-ruby.el]] in the
3088    newly created utility directory.  I doubt anyone would have a
3089    problem using the latest version of this file.
3090 ** DONE test failing forcing vector results with =test-forced-vector-results= ruby code block
3091 Note that this only seems to happen the *second* time the test table
3092 is evaluated
3094 #+srcname: bug-trivial-vector
3095 #+begin_src emacs-lisp :results vector silent
3097 #+end_src
3099 #+srcname: bug-forced-vector-results
3100 #+begin_src ruby :var triv=test-trivial-vector :results silent
3101 triv.class.name
3102 #+end_src
3104 mysteriously this seems to be fixed...
3105 ** DONE defunct R sessions
3106 Sometimes an old R session will turn defunct, and newly inserted code
3107 will not be evaluated (leading to a hang).
3109 This seems to be fixed by using `inferior-ess-send-input' rather than `comint-send-input'.
3110 ** DONE ruby fails on first call to non-default session
3112 #+srcname: bug-new-session
3113 #+begin_src ruby :session is-new
3114 :patton
3115 #+end_src
3117 ** DONE when reading results from =#+resname= line
3119 Errors when trying to read from resname lines.
3121 #+resname: bug-in-resname
3122 : 8
3124 #+srcname: bug-in-resname-reader
3125 #+begin_src emacs-lisp :var buggy=bug-in-resname() :results silent
3126 buggy
3127 #+end_src
3129 ** DONE R-code broke on "org-babel" rename
3131 #+srcname: bug-R-babels
3132 #+begin_src R 
3133 8 * 2
3134 #+end_src
3136 ** DONE error on trivial R results
3138 So I know it's generally not a good idea to squash error without
3139 handling them, but in this case the error almost always means that
3140 there was no file contents to be read by =org-table-import=, so I
3141 think it's ok.
3143 #+srcname: bug-trivial-r1
3144 #+begin_src R :results replace
3145 pie(c(1, 2, 3), labels = c(1, 2, 3))
3146 #+end_src
3148 #+srcname: bug-trivial-r2
3149 #+begin_src R :results replace
3151 #+end_src
3153 #+resname: bug-trivial-r2
3154 : 8
3156 #+srcname: bug-trivial-r3
3157 #+begin_src R :results replace
3158 c(1,2,3)
3159 #+end_src
3161 #+resname: bug-trivial-r3
3162 | 1 |
3163 | 2 |
3164 | 3 |
3166 ** DONE ruby new variable creation (multi-line ruby blocks)
3167 Actually it looks like we were dropping all but the last line.
3169 #+srcname: multi-line-ruby-test
3170 #+begin_src ruby :var table=bug-numerical-table :results replace
3171 total = 0
3172 table.each{|n| total += n}
3173 total/table.size
3174 #+end_src
3176 #+resname:
3177 : 2
3179 ** DONE R code execution seems to choke on certain inputs
3180 Currently the R code seems to work on vertical (but not landscape)
3181 tables
3183 #+srcname: little-fake
3184 #+begin_src emacs-lisp 
3185 "schulte"
3186 #+end_src
3189 #+begin_src R :var num=little-fake
3191 #+end_src
3193 #+resname:
3194 : schulte
3196 #+srcname: set-debug-on-error
3197 #+begin_src emacs-lisp :results silent
3198 (setq debug-on-error t)
3199 #+end_src
3201 #+srcname: bug-numerical-table
3202 #+begin_src emacs-lisp :results silent
3203 '(1 2 3)
3204 #+end_src
3209 #+srcname: bug-R-number-evaluation
3210 #+begin_src R :var table=bug-numerical-table
3211 mean(mean(table))
3212 #+end_src
3214 #+resname:
3215 : 2
3219 #+tblname: bug-vert-table
3220 | 1 |
3221 | 2 |
3222 | 3 |
3224 #+srcname: bug-R-vertical-table
3225 #+begin_src R :var table=bug-vert-table :results silent
3226 mean(table)
3227 #+end_src
3229 ** DONE org bug/request: prevent certain org behaviour within code blocks
3230    E.g. [[]] gets recognised as a link (when there's text inside the
3231    brackets). This is bad for R code at least, and more generally
3232    could be argued to be inappropriate. Is it difficult to get org to
3233    ignore text in code blocks? [DED]
3234    
3235    I believe Carsten addressed this recently on the mailing list with
3236    the comment that it was indeed a difficult issue.  I believe this
3237    may be one area where we could wait for an upstream (org-mode) fix.
3239    [Dan] Carsten has fixed this now in the core.
3241 ** DONE with :results replace, non-table output doesn't replace table output
3242    And vice versa. E.g. Try this first with table and then with len(table) [DED]
3243 #+begin_src python :var table=sandbox :results replace
3244 table
3245 #+end_src
3247 | 1 |         2 | 3 |
3248 | 4 | "schulte" | 6 |
3249 : 2
3251 Yes, this is certainly a problem.  I fear that if we begin replacing
3252 anything immediately following a source block (regardless of whether
3253 it matches the type of our current results) we may accidentally delete
3254 hand written portions of the user's org-mode buffer.
3256 I think that the best solution here would be to actually start
3257 labeling results with a line that looks something like...
3259 #+results: name
3261 This would have a couple of benefits...
3262 1) we wouldn't have to worry about possibly deleting non-results
3263    (which is currently an issue)
3264 2) we could reliably replace results even if there are different types
3265 3) we could reference the results of a source-code block in variable
3266    definitions, which would be useful if for example we don't wish to
3267    re-run a source-block every time because it is long-running.
3269 Thoughts?  If no-one objects, I believe I will implement the labeling
3270 of results.
3272 ** DONE extra quotes for nested string
3273 Well R appears to be reading the tables without issue...
3275 these *should* be quoted
3276 #+srcname: ls
3277 #+begin_src sh :results replace
3279 #+end_src
3281 | "COPYING"          |
3282 | "README.markdown"  |
3283 | "block"            |
3284 | "examples.org"     |
3285 | "existing_tools"   |
3286 | "intro.org"        |
3287 | "org-babel"          |
3288 | "rorg.org"         |
3289 | "test-export.html" |
3290 | "test-export.org"  |
3292 #+srcname: test-quotes
3293 #+begin_src ruby :var tab=ls
3294 tab[1][0]
3295 #+end_src
3297 : README.markdown
3299 #+srcname: test-quotes
3300 #+begin_src R :var tab=ls
3301 as.matrix(tab[2,])
3302 #+end_src
3304 : README.markdown
3306 ** DONE simple ruby arrays not working
3308 As an example eval the following.  Adding a line to test
3310 #+tblname: simple-ruby-array
3311 | 3 | 4 | 5 |
3313 #+srcname: ruby-array-test
3314 #+begin_src ruby :var ar = simple-ruby-array :results silent
3315 ar.first.first
3316 #+end_src
3318 ** DONE space trailing language name
3319 fix regexp so it works when there's a space trailing the language name
3321 #+srcname: test-trailing-space
3322 #+begin_src ruby 
3323 :schulte
3324 #+end_src
3326 ** DONE Args out of range error
3327    
3328 The following block resulted in the error below [DED]. It ran without
3329 error directly in the shell.
3330 #+begin_src sh
3331 cd ~/work/genopca
3332 for platf in ill aff ; do
3333     for pop in CEU YRI ASI ; do
3334         rm -f $platf/hapmap-genos-$pop-all $platf/hapmap-rs-all
3335         cat $platf/hapmap-genos-$pop-* > $platf/hapmap-genos-$pop-all
3336         cat $platf/hapmap-rs-* > $platf/hapmap-rs-all
3337     done
3338 done
3339 #+end_src
3340   
3341  executing source block with sh...
3342 finished executing source block
3343 string-equal: Args out of range: "", -1, 0
3345 the error =string-equal: Args out of range: "", -1, 0= looks like what
3346 used to be output when the block returned an empty results string.
3347 This should be fixed in the current version, you should now see the
3348 following message =no result returned by source block=.
3350 ** DONE ruby arrays not recognized as such
3352 Something is wrong in [[file:lisp/org-babel-script.el]] related to the
3353 recognition of ruby arrays as such.
3355 #+begin_src ruby :results replace
3356 [1, 2, 3, 4]
3357 #+end_src
3359 | 1 | 2 | 3 | 4 |
3361 #+begin_src python :results replace
3362 [1, 2, 3, 4]
3363 #+end_src
3365 | 1 | 2 | 3 | 4 |
3366 ** REJECTED elisp reference fails for literal number
3367    That's a bug in Dan's elisp, not in org-babel.
3368 #+srcname: elisp-test(a=4)
3369 #+begin_src emacs-lisp 
3370 (message a)
3371 #+end_src
3377 : 30
3380 * Tests
3381 Evaluate all the cells in this table for a comprehensive test of the
3382 org-babel functionality.
3384 *Note*: if you have customized =org-babel-default-header-args= then some
3385 of these tests may fail.
3387 #+TBLNAME: org-babel-tests
3388 | functionality           | block                      | arg |    expected |     results | pass |
3389 |-------------------------+----------------------------+-----+-------------+-------------+------|
3390 | basic evaluation        |                            |     |             |             | pass |
3391 |-------------------------+----------------------------+-----+-------------+-------------+------|
3392 | emacs lisp              | basic-elisp                |     |           5 |           5 | pass |
3393 | shell                   | basic-shell                |     |           6 |           6 | pass |
3394 | ruby                    | basic-ruby                 |     |   org-babel |   org-babel | pass |
3395 | python                  | basic-python               |     | hello world | hello world | pass |
3396 | R                       | basic-R                    |     |          13 |          13 | pass |
3397 |-------------------------+----------------------------+-----+-------------+-------------+------|
3398 | tables                  |                            |     |             |             | pass |
3399 |-------------------------+----------------------------+-----+-------------+-------------+------|
3400 | emacs lisp              | table-elisp                |     |           3 |           3 | pass |
3401 | ruby                    | table-ruby                 |     |       1-2-3 |       1-2-3 | pass |
3402 | python                  | table-python               |     |           5 |           5 | pass |
3403 | R                       | table-R                    |     |         3.5 |         3.5 | pass |
3404 | R: col names in R       | table-R-colnames           |     |          -3 |          -3 | pass |
3405 | R: col names in org     | table-R-colnames-org       |     |         169 |         169 | pass |
3406 |-------------------------+----------------------------+-----+-------------+-------------+------|
3407 | source block references |                            |     |             |             | pass |
3408 |-------------------------+----------------------------+-----+-------------+-------------+------|
3409 | all languages           | chained-ref-last           |     |       Array |       Array | pass |
3410 |-------------------------+----------------------------+-----+-------------+-------------+------|
3411 | source block functions  |                            |     |             |             | pass |
3412 |-------------------------+----------------------------+-----+-------------+-------------+------|
3413 | emacs lisp              | defun-fibb                 |     |       fibbd |       fibbd | pass |
3414 | run over                | Fibonacci                  |   0 |           1 |           1 | pass |
3415 | a                       | Fibonacci                  |   1 |           1 |           1 | pass |
3416 | variety                 | Fibonacci                  |   2 |           2 |           2 | pass |
3417 | of                      | Fibonacci                  |   3 |           3 |           3 | pass |
3418 | different               | Fibonacci                  |   4 |           5 |           5 | pass |
3419 | arguments               | Fibonacci                  |   5 |           8 |           8 | pass |
3420 |-------------------------+----------------------------+-----+-------------+-------------+------|
3421 | bugs and tasks          |                            |     |             |             | pass |
3422 |-------------------------+----------------------------+-----+-------------+-------------+------|
3423 | simple ruby arrays      | ruby-array-test            |     |           3 |           3 | pass |
3424 | R number evaluation     | bug-R-number-evaluation    |     |           2 |           2 | pass |
3425 | multi-line ruby blocks  | multi-line-ruby-test       |     |           2 |           2 | pass |
3426 | forcing vector results  | test-forced-vector-results |     |       Array |       Array | pass |
3427 | deeply nested arguments | deeply-nested-args-bug     |     |           8 |           8 | pass |
3428 |-------------------------+----------------------------+-----+-------------+-------------+------|
3429 | sessions                |                            |     |             |             | pass |
3430 |-------------------------+----------------------------+-----+-------------+-------------+------|
3431 | set ruby session        | set-ruby-session-var       |     |        :set |        :set | pass |
3432 | get from ruby session   | get-ruby-session-var       |     |           3 |           3 | pass |
3433 | set python session      | set-python-session-var     |     |         set |         set | pass |
3434 | get from python session | get-python-session-var     |     |           4 |           4 | pass |
3435 | set R session           | set-R-session-var          |     |         set |         set | pass |
3436 | get from R session      | get-R-session-var          |     |           5 |           5 | pass |
3437 #+TBLFM: $5='(if (= (length $3) 1) (progn (message (format "running %S" '(sbe $2 (n $3)))) (sbe $2 (n $3))) (sbe $2))::$6='(if (string= $4 $5) "pass" (format "expected %S but was %S" $4 $5))
3438 #+TBLFM: $5=""::$6=""
3441 The second TBLFM line (followed by replacing '[]' with '') can be used
3442 to blank out the table results, in the absence of a better method.
3444 ** basic tests
3446 #+srcname: basic-elisp
3447 #+begin_src emacs-lisp :results silent
3448 (+ 1 4)
3449 #+end_src
3452 #+srcname: basic-shell
3453 #+begin_src sh :results silent
3454 expr 1 + 5
3455 #+end_src
3458 #+srcname: date-simple
3459 #+begin_src sh :results silent
3460 date
3461 #+end_src
3463 #+srcname: basic-ruby
3464 #+begin_src ruby :results silent
3465 "org-babel"
3466 #+end_src
3469 #+srcname: basic-python
3470 #+begin_src python :results silent
3471 'hello world'
3472 #+end_src
3475 #+srcname: basic-R
3476 #+begin_src R :results silent
3477 b <- 9
3478 b + 4
3479 #+end_src
3482 ** read tables
3484 #+tblname: test-table
3485 | 1 | 2 | 3 |
3486 | 4 | 5 | 6 |
3488 #+tblname: test-table-colnames
3489 | var1 | var2 | var3 |
3490 |------+------+------|
3491 |    1 |   22 |   13 |
3492 |   41 |   55 |   67 |
3494 #+srcname: table-elisp
3495 #+begin_src emacs-lisp :results silent :var table=test-table
3496 (length (car table))
3497 #+end_src
3500 #+srcname: table-ruby
3501 #+begin_src ruby :results silent :var table=test-table
3502 table.first.join("-")
3503 #+end_src
3506 #+srcname: table-python
3507 #+begin_src python :var table=test-table
3508 table[1][1]
3509 #+end_src
3511 #+srcname: table-R(table=test-table)
3512 #+begin_src R
3513 mean(mean(table))
3514 #+end_src
3516 #+srcname: table-R-colnames(table=test-table-colnames)
3517 #+begin_src R :results silent
3518 sum(table$var2 - table$var3)
3519 #+end_src
3521 #+srcname: R-square(x=default-name-doesnt-exist)
3522 #+begin_src R :colnames t
3524 #+end_src
3526 This should return 169. The fact that R is able to use the column name
3527 to index the data frame (x$var3) proves that a table with column names
3528 (a header row) has been recognised as input for the R-square function
3529 block, and that the R-square block has output an elisp table with
3530 column names, and that the colnames have again been recognised when
3531 creating the R variables in this block.
3532 #+srcname: table-R-colnames-org(x = R-square(x=test-table-colnames))
3533 #+begin_src R
3534 x$var3[1]
3535 #+end_src
3540 ** references
3542 Lets pass a references through all of our languages...
3544 Lets start by reversing the table from the previous examples
3546 #+srcname: chained-ref-first
3547 #+begin_src python :var table = test-table
3548 table.reverse()
3549 table
3550 #+end_src
3552 #+resname: chained-ref-first
3553 | 4 | 5 | 6 |
3554 | 1 | 2 | 3 |
3556 Take the first part of the list
3558 #+srcname: chained-ref-second
3559 #+begin_src R :var table = chained-ref-first
3560 table[1]
3561 #+end_src
3563 #+resname: chained-ref-second
3564 | 4 |
3565 | 1 |
3567 Turn the numbers into string
3569 #+srcname: chained-ref-third
3570 #+begin_src emacs-lisp :var table = chained-ref-second
3571 (mapcar (lambda (el) (format "%S" el)) table)
3572 #+end_src
3574 #+resname: chained-ref-third
3575 | "(4)" | "(1)" |
3577 and Check that it is still a list
3579 #+srcname: chained-ref-last
3580 #+begin_src ruby :var table=chained-ref-third
3581 table.class.name
3582 #+end_src
3585 ** source blocks as functions
3587 #+srcname: defun-fibb
3588 #+begin_src emacs-lisp :results silent
3589 (defun fibbd (n) (if (< n 2) 1 (+ (fibbd (- n 1)) (fibbd (- n 2)))))
3590 #+end_src
3593 #+srcname: fibonacci
3594 #+begin_src emacs-lisp :results silent :var n=7
3595 (fibbd n)
3596 #+end_src
3604 ** sbe tests (these don't seem to be working...)
3605 Testing the insertion of results into org-mode tables.
3607 #+srcname: multi-line-output
3608 #+begin_src ruby :results replace
3609 "the first line ends here
3612      and this is the second one
3614 even a third"
3615 #+end_src
3617 #+resname:
3618 : the first line ends here\n\n\n     and this is the second one\n\neven a third
3620 #+srcname: multi-line-error
3621 #+begin_src ruby :results replace
3622 raise "oh nooooooooooo"
3623 #+end_src
3625 #+resname:
3626 : oh nooooooooooo
3628 | the first line ends here... | -:5: warning: parenthesize argument(s) for future version... |
3629 #+TBLFM: $1='(sbe "multi-line-output")::$2='(sbe "multi-line-error")
3631 ** forcing results types tests
3633 #+srcname: test-trivial-vector
3634 #+begin_src emacs-lisp :results vector silent
3636 #+end_src
3638 #+srcname: test-forced-vector-results
3639 #+begin_src ruby :var triv=test-trivial-vector :results silent
3640 triv.class.name
3641 #+end_src
3643 ** sessions
3645 #+srcname: set-ruby-session-var
3646 #+begin_src ruby :session :results silent
3647 var = [1, 2, 3]
3648 :set
3649 #+end_src
3651 #+srcname: get-ruby-session-var
3652 #+begin_src ruby :session :results silent
3653 var.size
3654 #+end_src
3656 #+srcname: set-python-session-var
3657 #+begin_src python :session
3658 var=4
3659 'set'
3660 #+end_src
3662 #+srcname: get-python-session-var
3663 #+begin_src python :session
3665 #+end_src
3667 #+srcname: set-R-session-var
3668 #+begin_src R :session
3669 a <- 5
3670 'set'
3671 #+end_src
3673 #+srcname: get-R-session-var
3674 #+begin_src R :session
3676 #+end_src
3679 * Sandbox
3680   :PROPERTIES:
3681   :CUSTOM_ID: sandbox
3682   :END:
3683 To run these examples evaluate [[file:lisp/org-babel-init.el][org-babel-init.el]]
3685 ** org-babel.el beginning functionality
3687 #+begin_src sh  :results replace
3688 date
3689 #+end_src
3691 #+resname:
3692 : Sun Jul  5 18:54:39 EDT 2009
3694 #+begin_src ruby
3695 Time.now
3696 #+end_src
3698 #+resname:
3699 : Sun Jul 05 18:54:35 -0400 2009
3701 #+begin_src python
3702 "Hello World"
3703 #+end_src
3705 #+resname:
3706 : Hello World
3709 ** org-babel-R
3711 #+begin_src R :results replace
3712 a <- 9
3713 b <- 16
3714 a + b
3715 #+end_src
3717 #+resname:
3718 : 25
3720 #+begin_src R
3721 hist(rgamma(20,3,3))
3722 #+end_src
3726 ** org-babel plays with tables
3727 Alright, this should demonstrate both the ability of org-babel to read
3728 tables into a lisp source code block, and to then convert the results
3729 of the source code block into an org table.  It's using the classic
3730 "lisp is elegant" demonstration transpose function.  To try this
3731 out...
3733 1. evaluate [[file:lisp/org-babel-init.el]] to load org-babel and friends
3734 2. evaluate the transpose definition =\C-c\\C-c= on the beginning of
3735    the source block
3736 3. evaluate the next source code block, this should read in the table
3737    because of the =:var table=previous=, then transpose the table, and
3738    finally it should insert the transposed table into the buffer
3739    immediately following the block
3741 *** Emacs lisp
3743 #+begin_src emacs-lisp :results silent
3744 (defun transpose (table)
3745   (apply #'mapcar* #'list table))
3746 #+end_src
3749 #+TBLNAME: sandbox
3750 | 1 |       2 | 3 |
3751 | 4 | schulte | 6 |
3753 #+begin_src emacs-lisp :var table=sandbox :results replace
3754 (transpose table)
3755 #+end_src
3758 #+begin_src emacs-lisp
3759 '(1 2 3 4 5)
3760 #+end_src
3762 #+resname:
3763 | 1 | 2 | 3 | 4 | 5 |
3765 *** Ruby and Python
3767 #+begin_src ruby :var table=sandbox :results replace
3768 table.first.join(" - ")
3769 #+end_src
3771 #+resname:
3772 : 1 - 2 - 3
3774 #+begin_src python :var table=sandbox
3775 table[0]
3776 #+end_src
3779 #+begin_src ruby :var table=sandbox :results replace
3780 table
3781 #+end_src
3783 #+resname:
3784 : [[1, 2, 3], [4, "schulte", 6]]
3787 | 1 |         2 | 3 |
3788 | 4 | "schulte" | 6 |
3790 #+begin_src python :var table=sandbox :results replace
3791 len(table)
3792 #+end_src
3794 : 2
3796 | "__add__" | "__class__" | "__contains__" | "__delattr__" | "__delitem__" | "__delslice__" | "__doc__" | "__eq__" | "__format__" | "__ge__" | "__getattribute__" | "__getitem__" | "__getslice__" | "__gt__" | "__hash__" | "__iadd__" | "__imul__" | "__init__" | "__iter__" | "__le__" | "__len__" | "__lt__" | "__mul__" | "__ne__" | "__new__" | "__reduce__" | "__reduce_ex__" | "__repr__" | "__reversed__" | "__rmul__" | "__setattr__" | "__setitem__" | "__setslice__" | "__sizeof__" | "__str__" | "__subclasshook__" | "append" | "count" | "extend" | "index" | "insert" | "pop" | "remove" | "reverse" | "sort" |
3798 *** (sandbox table) R
3800 #+TBLNAME: sandbox_r
3801 | 1 |       2 | 3 |
3802 | 4 | schulte | 6 |
3804 #+begin_src R :results replace
3805 x <- c(rnorm(10, mean=-3, sd=1), rnorm(10, mean=3, sd=1))
3807 #+end_src
3809 | -3.35473133869346 |
3810 |    -2.45714878661 |
3811 | -3.32819924928633 |
3812 | -2.97310212756194 |
3813 | -2.09640758369576 |
3814 | -5.06054014378736 |
3815 | -2.20713700711221 |
3816 | -1.37618039712037 |
3817 | -1.95839385821742 |
3818 | -3.90407396475502 |
3819 |  2.51168071590226 |
3820 |  3.96753011570494 |
3821 |  3.31793212627865 |
3822 |  1.99829753972341 |
3823 |  4.00403686419829 |
3824 |  4.63723764452927 |
3825 |  3.94636744261313 |
3826 |  3.58355906547775 |
3827 |  3.01563442274226 |
3828 |   1.7634976849927 |
3830 #+begin_src R var tabel=sandbox_r :results replace
3831 tabel
3832 #+end_src
3834 | 1 |         2 | 3 |
3835 | 4 | "schulte" | 6 |
3837 *** shell
3838 Now shell commands are converted to tables using =org-table-import=
3839 and if these tables are non-trivial (i.e. have multiple elements) then
3840 they are imported as org-mode tables...
3842 #+begin_src sh :results replace
3843 ls -l
3844 #+end_src
3846 | "total"      | 208 | ""    | ""    |    "" |   "" | "" | ""                |
3847 | "-rw-r--r--" |   1 | "dan" | "dan" |    57 | 2009 | 15 | "block"           |
3848 | "-rw-r--r--" |   1 | "dan" | "dan" | 35147 | 2009 | 15 | "COPYING"         |
3849 | "-rw-r--r--" |   1 | "dan" | "dan" |   722 | 2009 | 18 | "examples.org"    |
3850 | "drwxr-xr-x" |   4 | "dan" | "dan" |  4096 | 2009 | 19 | "existing_tools"  |
3851 | "-rw-r--r--" |   1 | "dan" | "dan" |  2207 | 2009 | 14 | "intro.org"       |
3852 | "drwxr-xr-x" |   2 | "dan" | "dan" |  4096 | 2009 | 18 | "org-babel"         |
3853 | "-rw-r--r--" |   1 | "dan" | "dan" |   277 | 2009 | 20 | "README.markdown" |
3854 | "-rw-r--r--" |   1 | "dan" | "dan" | 11837 | 2009 | 18 | "rorg.html"       |
3855 | "-rw-r--r--" |   1 | "dan" | "dan" | 61829 | 2009 | 19 | "#rorg.org#"      |
3856 | "-rw-r--r--" |   1 | "dan" | "dan" | 60190 | 2009 | 19 | "rorg.org"        |
3857 | "-rw-r--r--" |   1 | "dan" | "dan" |   972 | 2009 | 11 | "test-export.org" |
3860 ** silent evaluation
3862 #+begin_src ruby
3863 :im_the_results
3864 #+end_src
3866 : :im_the_results
3868 #+begin_src ruby :results silent
3869 :im_the_results
3870 #+end_src
3872 #+begin_src ruby :results replace
3873 :im_the_results_
3874 #+end_src
3876 : :im_the_results_
3879 ** (sandbox) referencing other source blocks
3880 Doing this in emacs-lisp first because it's trivial to convert
3881 emacs-lisp results to and from emacs-lisp.
3883 *** emacs lisp source reference
3884 This first example performs a calculation in the first source block
3885 named =top=, the results of this calculation are then saved into the
3886 variable =first= by the header argument =:var first=top=, and it is
3887 used in the calculations of the second source block.
3889 #+SRCNAME: top
3890 #+begin_src emacs-lisp
3891 (+ 4 2)
3892 #+end_src
3894 #+begin_src emacs-lisp :var first=top :results replace
3895 (* first 3)
3896 #+end_src
3898 : 18
3900 This example is the same as the previous only the variable being
3901 passed through is a table rather than a number.
3903 #+begin_src emacs-lisp :results silent
3904 (defun transpose (table)
3905   (apply #'mapcar* #'list table))
3906 #+end_src
3908 #+TBLNAME: top_table
3909 | 1 |       2 | 3 |
3910 | 4 | schulte | 6 |
3912 #+SRCNAME: second_src_example
3913 #+begin_src emacs-lisp :var table=top_table
3914 (transpose table)
3915 #+end_src
3917 #+begin_src emacs-lisp :var table=second_src_example :results replace
3918 (transpose table)
3919 #+end_src
3921 | 1 |         2 | 3 |
3922 | 4 | "schulte" | 6 |
3923 *** ruby python
3924 Now working for ruby
3926 #+srcname: start
3927 #+begin_src ruby
3929 #+end_src
3931 #+begin_src ruby :var other=start :results replace
3932 2 * other
3933 #+end_src
3935 and for python
3937 #+SRCNAME: start_two
3938 #+begin_src python
3940 #+end_src
3942 #+begin_src python :var another=start_two :results replace
3943 another*3
3944 #+end_src
3946 *** mixed languages
3947 Since all variables are converted into Emacs Lisp it is no problem to
3948 reference variables specified in another language.
3950 #+SRCNAME: ruby-block
3951 #+begin_src ruby
3953 #+end_src
3955 #+SRCNAME: lisp_block
3956 #+begin_src emacs-lisp :var ruby-variable=ruby-block
3957 (* ruby-variable 8)
3958 #+end_src
3960 #+begin_src python :var lisp_var=lisp_block
3961 lisp_var + 4
3962 #+end_src
3964 : 20
3966 *** R
3968 #+srcname: first_r
3969 #+begin_src R :results replace
3970 a <- 9
3972 #+end_src
3974 : 9
3976 #+begin_src R :var other=first_r :results replace
3977 other + 2
3978 #+end_src
3980 : 11
3983 ** (sandbox) selective export
3985 For exportation tests and examples see (including exportation of
3986 inline source code blocks) [[file:test-export.org]]
3989 ** (sandbox) source blocks as functions
3991 #+srcname: default
3992 #+begin_src emacs-lisp :results silent
3994 #+end_src
3996 #+srcname: triple
3997 #+begin_src emacs-lisp :var n=default :results replace
3998 (* 3 n)
3999 #+end_src
4001 : 15
4003 #+begin_src emacs-lisp :var result=triple(n=3, m=98) :results replace
4004 result
4005 #+end_src
4007 : 294
4009 The following just demonstrates the ability to assign variables to
4010 literal values, which was not implemented until recently.
4012 #+begin_src ruby :var num="eric" :results replace
4013 num+" schulte "
4014 #+end_src
4016 : "eric schulte "
4019 ** (sandbox) inline source blocks
4021 This is an inline source code block src_ruby{1 + 6}.  And another
4022 source block with text output src_emacs-lisp{"eric"}.
4024 This is an inline source code block with header
4025 arguments.  src_ruby[:var n=fibbd( n = 0 )]{n}
4028 ** (sandbox) integration w/org tables
4030 #+begin_src emacs-lisp :results silent
4031 (defun fibbd (n) (if (< n 2) 1 (+ (fibbd (- n 1)) (fibbd (- n 2)))))
4032 #+end_src
4034 #+srcname: fibbd
4035 #+begin_src emacs-lisp :var n=4 :results silent
4036 (fibbd n)
4037 #+end_src
4039 #+begin_src emacs-lisp :results silent
4040 (mapcar #'fibbd '(0 1 2 3 4 5 6 7 8))
4041 #+end_src
4043 Something is not working here.  The function `sbe ' works fine when
4044 called from outside of the table (see the source block below), but
4045 produces an error when called from inside the table.  I think there
4046 must be some narrowing going on during intra-table emacs-lisp
4047 evaluation.
4049 | original | fibbd |
4050 |----------+-------|
4051 |        0 |     1 |
4052 |        1 |     1 |
4053 |        2 |     2 |
4054 |        3 |     3 |
4055 |        4 |     5 |
4056 |        5 |     8 |
4057 |        6 |    13 |
4058 |        7 |    21 |
4059 |        8 |    34 |
4060 |        9 |    55 |
4061 #+TBLFM: $2='(sbe "fibbd" (n $1))
4063 silent-result
4065 #+begin_src emacs-lisp :results silent
4066 (sbe 'fibbd (n "8"))
4067 #+end_src
4070 * Buffer Dictionary
4071  LocalWords:  DBlocks dblocks org-babel el eric fontification