lib/rainbows/thread_pool.rb

   1 # -*- encoding: binary -*-
   2
   3 module Rainbows
   4
   5   # Implements a worker thread pool model.  This is suited for platforms
   6   # like Ruby 1.9, where the cost of dynamically spawning a new thread
   7   # for every new client connection is higher than with the ThreadSpawn
   8   # model.
   9   #
  10   # This model should provide a high level of compatibility with all
  11   # Ruby implementations, and most libraries and applications.
  12   # Applications running under this model should be thread-safe
  13   # but not necessarily reentrant.
  14   #
  15   # Applications using this model are required to be thread-safe.
  16   # Threads are never spawned dynamically under this model.  If you're
  17   # connecting to external services and need to perform DNS lookups,
  18   # consider using the "resolv-replace" library which replaces parts of
  19   # the core Socket package with concurrent DNS lookup capabilities.
  20   #
  21   # This model probably less suited for many slow clients than the
  22   # others and thus a lower +worker_connections+ setting is recommended.
  23
  24   module ThreadPool
  25
  26     include Base
  27
  28     def worker_loop(worker)
  29       init_worker_process(worker)
  30       pool = (1..worker_connections).map { new_worker_thread }
  31
  32       while G.alive
  33         # if any worker dies, something is serious wrong, bail
  34         pool.each do |thr|
  35           G.tick
  36           thr.join(1) and G.quit!
  37         end
  38       end
  39       join_threads(pool)
  40     end
  41
  42     def new_worker_thread
  43       Thread.new {
  44         begin
  45           begin
  46             # TODO: check if select() or accept() is a problem on large
  47             # SMP systems under Ruby 1.9.  Hundreds of native threads
  48             # all working off the same socket could be a thundering herd
  49             # problem.  On the other hand, a thundering herd may not
  50             # even incur as much overhead as an extra Mutex#synchronize
  51             ret = IO.select(LISTENERS, nil, nil, 1) and
  52                   ret.first.each do |s|
  53                     s = Rainbows.accept(s) and process_client(s)
  54                   end
  55           rescue Errno::EINTR
  56           rescue Errno::EBADF, TypeError
  57             break
  58           end
  59         rescue => e
  60           Error.listen_loop(e)
  61         end while G.alive
  62       }
  63     end
  64
  65   end
  66 end