lib/rainbows/thread_pool.rb

   1 # -*- encoding: binary -*-
   2
   3 module Rainbows
   4
   5   # Implements a worker thread pool model.  This is suited for platforms
   6   # like Ruby 1.9, where the cost of dynamically spawning a new thread
   7   # for every new client connection is higher than with the ThreadSpawn
   8   # model.
   9   #
  10   # This model should provide a high level of compatibility with all
  11   # Ruby implementations, and most libraries and applications.
  12   # Applications running under this model should be thread-safe
  13   # but not necessarily reentrant.
  14   #
  15   # Applications using this model are required to be thread-safe.
  16   # Threads are never spawned dynamically under this model.  If you're
  17   # connecting to external services and need to perform DNS lookups,
  18   # consider using the "resolv-replace" library which replaces parts of
  19   # the core Socket package with concurrent DNS lookup capabilities.
  20   #
  21   # This model probably less suited for many slow clients than the
  22   # others and thus a lower +worker_connections+ setting is recommended.
  23
  24   module ThreadPool
  25
  26     include Base
  27
  28     def worker_loop(worker)
  29       init_worker_process(worker)
  30       pool = (1..worker_connections).map { new_worker_thread }
  31       m = 0
  32
  33       while G.alive && master_pid == Process.ppid
  34         pool.each do |thr|
  35           worker.tmp.chmod(m = 0 == m ? 1 : 0)
  36           # if any worker dies, something is serious wrong, bail
  37           thr.join(1) and break
  38         end
  39       end
  40       join_threads(pool, worker)
  41     end
  42
  43     def new_worker_thread
  44       Thread.new {
  45         begin
  46           begin
  47             # TODO: check if select() or accept() is a problem on large
  48             # SMP systems under Ruby 1.9.  Hundreds of native threads
  49             # all working off the same socket could be a thundering herd
  50             # problem.  On the other hand, a thundering herd may not
  51             # even incur as much overhead as an extra Mutex#synchronize
  52             ret = IO.select(LISTENERS, nil, nil, 1) and
  53                   ret.first.each do |sock|
  54                     begin
  55                       process_client(sock.accept_nonblock)
  56                     rescue Errno::EAGAIN, Errno::ECONNABORTED
  57                     end
  58                   end
  59           rescue Errno::EINTR
  60           rescue Errno::EBADF, TypeError
  61             break
  62           end
  63         rescue Object => e
  64           listen_loop_error(e)
  65         end while G.alive
  66       }
  67     end
  68
  69   end
  70 end