youtube.js: rewrite scraper for changes to youtube
[conkeror.git] / modules / page-modes / youtube.js
blob67d1081374c80e067ebc98db5dbd7f1e45401012
1 /**
2  * (C) Copyright 2008 Jeremy Maitin-Shepard
3  * (C) Copyright 2009-2011 John J. Foerch
4  *
5  * Use, modification, and distribution are subject to the terms specified in the
6  * COPYING file.
7 **/
9 in_module(null);
11 require("content-buffer.js");
12 require("media.js");
14 var youtube_t_regexp = /"t": "([^"]+)"/;
15 var youtube_title_regexp = /<meta name="title" content="([^"]+)">/;
17 function regexp_exec (regexp, string, group) {
18     var res = regexp.exec(string);
19     if (! res)
20         return null;
21     return res[group];
24 function youtube_parse_video_info (info) {
25     var sp = info.split("&");
26     var res = {};
27     for each (var kv in sp) {
28         let [k, v] = kv.split("=");
29         res[k] = decodeURIComponent(v);
30     }
31     if (! res.url_encoded_fmt_stream_map) {
32         dumpln(dump_obj(res));
33         return [];
34     }
35     var url_encoded_fmt_stream_map =
36         res.url_encoded_fmt_stream_map.split(",");
37     var data = [];
38     for each (var chunk in url_encoded_fmt_stream_map) {
39         var url = "", itag = "";
40         var d = {};
41         for each (kv in chunk.split("&")) {
42             let [k, v] = kv.split("=");
43             d[k] = decodeURIComponent(v);
44         }
45         data.push(d);
46     }
47     return data;
50 function youtube_get_video_info (url, id, t) {
51     for each (el in ["profilepage", "detailpage"]) {
52         var video_info_url =
53             "http://www.youtube.com/get_video_info?&video_id="+
54             encodeURIComponent(id)+"&el="+el+"&ps=default&eurl="+
55             encodeURIComponent(url)+"&hl=en_US&t="+encodeURIComponent(t);
56         var res = yield send_http_request({uri: video_info_url});
57         if (res) {
58             var info = youtube_parse_video_info(res.responseText);
59             yield co_return(info);
60         }
61     }
64 function youtube_scrape_text (results, frame, url, id, text) {
65     var title = decodeURIComponent(regexp_exec(youtube_title_regexp, text, 1)
66                                    || "video"+Date.now());
67     var t = regexp_exec(youtube_t_regexp, text, 1);
68     if (! t)
69         yield co_return();
70     var info = yield youtube_get_video_info(url, id, t);
71     for each (var d in info) {
72         var extension = mime_service.getPrimaryExtension(d.type, null);
73         results.push(load_spec({
74             uri: d.url,
75             title: title,
76             filename_extension: extension,
77             source_frame: frame,
78             mime_type: d.type,
79             description: d.quality + " " + extension
80         }));
81     }
84 function youtube_scrape_buffer (buffer, results) {
85     var url = buffer.current_uri.spec;
86     var id = regexp_exec(youtube_uri_regexp, url, 1);
87     if (! id)
88         yield co_return();
89     var text = buffer.document.documentElement.innerHTML;
90     yield youtube_scrape_text(results, buffer.top_frame, url, id, text);
93 define_page_mode("youtube_mode",
94     $display_name = "YouTube",
95     $enable = function (buffer) {
96         media_setup_local_object_classes(buffer);
97     });
99 function youtube_scrape_embedded (buffer, results) {
100     const embedded_youtube_regexp = /^http:\/\/[a-zA-Z0-9\-.]+\.youtube\.com\/v\/([^?]*).*$/;
101     for (let frame in frame_iterator(buffer.top_frame, buffer.focused_frame)) {
102         // Look for embedded YouTube videos
103         let obj_els = frame.document.getElementsByTagName("object");
104         for (let i = 0; i < obj_els.length; ++i) {
105             let obj_el = obj_els[i];
106             let param_els = obj_el.getElementsByTagName("param");
107             inner:
108             for (let j = 0; j < param_els.length; ++j) {
109                 let param_el = param_els[j];
110                 let match;
111                 if (param_el.getAttribute("name").toLowerCase() == "movie" &&
112                     (match = embedded_youtube_regexp.exec(param_el.getAttribute("value"))) != null) {
113                     try {
114                         let id = match[1];
115                         let lspec = load_spec({uri: "http://youtube.com/watch?v=" + id});
116                         var result =
117                             yield buffer.window.minibuffer.wait_for(
118                                 "Requesting " + lspec.uri + "...",
119                                 send_http_request(lspec));
120                         let text = result.responseText;
121                         if (text != null && text.length > 0)
122                             yield youtube_scrape_text(results, frame, lspec.uri, id, text);
123                     } catch (e if (e instanceof abort)) {
124                         // Still allow other media scrapers to try even if the user aborted an http request,
125                         // but don't continue looking for embedded youtube videos.
126                         yield co_return();
127                     } catch (e) {
128                         // Some other error here means there was some problem with the request.
129                         // We'll just ignore it.
130                     }
131                     break inner;
132                 }
133             }
134         }
135     }
139 let youtube_uri_regexp = build_url_regex($domain = /(?:[a-z]+\.)?youtube/,
140                                          $path = /watch\?v=([A-Za-z0-9\-_]+)/);
141 media_scrapers.unshift([/.*/, youtube_scrape_embedded]);
142 media_scrapers.unshift([youtube_uri_regexp, youtube_scrape_buffer]);
143 auto_mode_list.push([youtube_uri_regexp, youtube_mode]);
145 provide("youtube");