fix redefinition error with previous commit
[MogileFS-Server.git] / CHANGES
blob5b59d7f6c3834ca022651552d65748791fba12eb
1 2012-03-30: Release version 2.60
3    * Fix fsck status when running for the first time (dormando <dormando@rydia.net>)
5    * Checksum support (Major update!) (Eric Wong <normalperson@yhbt.net>)
6      See doc/checksums.txt for an overview of how the new checksum system
7      works. Also keep an eye on the wiki (http://www.mogilefs.org) for more
8      complete documentation in the coming weeks.
10 2012-02-29: Release version 2.59
12    * don't make SQLite error out on lock calls (dormando <dormando@rydia.net>)
14    * Postgres wasn't honoring a no-wait timeout (dormando <dormando@rydia.net>)
16 2012-02-28: Release version 2.58
18    * reduce UPDATE's to device table (dormando <dormando@rydia.net>)
20    * replicate: retry on short writes to destination (Eric Wong <normalperson@yhbt.net>)
22    * enable TCP keepalives for accepted sockets (Eric Wong <normalperson@yhbt.net>)
24    * Populate memcache even when noverify is missing (Pyry Hakulinen <pyry@automattic.com>)
26    * Remove FID from memcache when it is deleted (Pyry Hakulinen <pyry@automattic.com>)
28    * Unset memc when memcache servers have been removed (Pyry Hakulinen <pyry@automattic.com>)
30    * Filter out illegal memcache servers from memcache_servers (Pyry Hakulinen <pyry@automattic.com>)
32    * Add skip_mkcol setting for servers which do not need it (Pyry Hakulinen <pyry@automattic.com>)
34    * skip_devcount variable that disables devcount updates (Pyry Hakulinen <pyry@automattic.com>)
36    * Back off if master DB is down (dormando <dormando@rydia.net>)
38    * use cached setting for slave list (dormando <dormando@rydia.net>)
40    * fix "fsck never stops" issue (dormando <dormando@rydia.net>)
42 2012-01-31: Release version 2.57
44    * Silence a warning about undefined value introduced by the slave database ordering work (hachi@kuiki.net)
46    * Need a hook to be able to check the slave list during startup (hachi@kuiki.net)
48 2012-01-27: Release version 2.56
50    * Add database connect timeouts (dormando <dormando@rydia.net>)
52    * fix potential hang in JobMaster added in 2.55 (dormando <dormando@rydia.net>)
54    * fix "set_weight" command (Eric Wong <normalperson@yhbt.net>)
56    * sqlite: consider SQLITE_BUSY and SQLITE_LOCKED deadlocks (Eric Wong <normalperson@yhbt.net>)
58    * kill a little more dead fsck/Checker code (dormando <dormando@rydia.net>)
60    * Destroy mogdeps (dormando <dormando@rydia.net>)
62    * improve slave handling code (dormando <dormando@rydia.net>)
64    * don't spew errors if the master goes down (dormando <dormando@rydia.net>)
66    * provide an async server setting cache via monitor worker (dormando <dormando@rydia.net>)
68    * fix return value of commands that clear_cache (Eric Wong <normalperson@yhbt.net>)
70    * make reaper wait less time in test mode (dormando <dormando@rydia.net>)
72    * queryworker: reimplement "clear_caches" command (Eric Wong <normalperson@yhbt.net>)
74    * worker: use timeout with read_from_parent() instead of sleep (Eric Wong <normalperson@yhbt.net>)
76    * Fixed issue where too many devices being active could cause the monitor job
77      to be timed out by the watchdog. (Tomas Doran)
79 2011-11-14: Release version 2.55
81    * fixed sources in replication are now a suggestion (dormando <dormando@rydia.net>)
83    * More stats to help troubleshoot rebalance (dormando <dormando@rydia.net>)
85    * return 1 from condthrow if all is well (dormando <dormando@rydia.net>)
87    * schedule fsck replications for the future. (dormando <dormando@rydia.net>)
89    * stop enforcing a source id on new file upload (dormando <dormando@rydia.net>)
91    * restore new file upload replication priority (dormando <dormando@rydia.net>)
93    * Prevent queue related MySQL query hangs (dormando <dormando@rydia.net>)
95 2011-10-29: Release version 2.54
97    * Issue 36: Further insulate from mysql restarts resetting the fid counter (dormando <dormando@rydia.net>)
99    * Allow default class to be overridden again. (dormando <dormando@rydia.net>)
101    * Fix crash in old delete worker code (Daniel Frett <daniel.frett@ccci.org>)
103    * Fix mb_free() counting empty device as missing (git.user <git.user@gmail.com>)
105    * sqlite: fix mogdbsetup failure on new setups (Eric Wong <normalperson@yhbt.net>)
107    * fid size workaround for lighttpd 1.4.x (dormando <dormando@rydia.net>)
109    * Fix various issues in the new mogilefs server query worker. (Tomas Doran <bobtfish@bobtfish.net>)
111    * Allow chunked PUT's of unlimited size (dormando <dormando@rydia.net>)
113    * Fix listing FIDs.
114    * Fix fsck fixing a file from logging a message which appears to be
115      two commands (due to spurious \n). Also fix debug function to
116      not be able to log messages like this.
118 2011-08-12: Release version 2.53
120    * Fix host status not updating for trackers (important)
122 2011-07-30: Release version 2.52
124    * Plugins (such as FilePaths) might want to be run in info/debug commands (Michael Baehr <mbaehr@plos.org>)
126    * schema version 14; support devices > 16TB (dormando <dormando@rydia.net>)
128    * Make FSCK worker handle dead devices (dormando <dormando@rydia.net>)
130    * Throw out old HTTPFile->size code and use LWP (dormando <dormando@rydia.net>)
132    * Remove forced loading of DBD::mysql (dormando <dormando@rydia.net>)
134    * Don't test write on readonly devices (Akzhan Abdulin <akzhan.abdulin@gmail.com>)
136 2011-06-27: Release version 2.51
138    * Add minor backcompat for ZoneLocal and friends (dormando <dormando@rydia.net>)
140    * Only monitor a device if we should monitor it. (dormando <dormando@rydia.net>)
142 2011-06-15: Release version 2.50
144    * Completely rewire meta object caches. Device/Host/Class/Domain caches are
145      now asynchronously loaded via the Monitor worker. This should drastically
146      reduce the number of small queries issued against the master database.
147      (dormando <dormando@rydia.net>)
149    * Don't run workers until Monitor runs once (dormando <dormando@rydia.net>)
151    * s/TYPE/ENGINE/ for innodb initialization (dormando <dormando@rydia.net>)
153    * Create mogile database explicitly with UTF-8 encoding. (Robin H. Johnson <robbat2@gentoo.org>)
155    * Actually use the MOGTEST_* variables for Postgres testing... (Robin H. Johnson <robbat2@gentoo.org>)
157    * Add support for config file includes for Mogstored under lighttpd (Jason Mills <jmmills@cpan.org>)
159    * Make postgres use new delete worker code (Robin H. Johnson <robbat2@gentoo.org>)
161    * New test env variables: MOGTEST_DBROOT{USER,PASS} for easier test usage. (Robin H. Johnson <robbat2@gentoo.org>)
163    * Document test variables. (Robin H. Johnson <robbat2@gentoo.org>)
164    
165    * Support inclusion of custom lighttpd config. (Jason Mills <jmmills@cpan.org>)
167 2011-01-13: Release version 2.46
169    * Fix job_master crash under postgres (Robin H. Johnson <robbat2@gentoo.org>)
171    * Revert "only dbh->ping if not used in over a minute" (dormando <dormando@rydia.net>)
172       *IMPORTANT FIX* if you're using 2.45, you should upgrade to this.
174    * Example application. (dormando <dormando@rydia.net>)
176    * missing $fidid for source_down error message (dormando <dormando@rydia.net>)
178 2011-01-08: Release version 2.45
180    * file_debug command (dormando <dormando@rydia.net>)
182    * add "file_info" command for fetching metadata. (dormando <dormando@rydia.net>)
184    * don't allow clients to upload to the wrong dev (dormando <dormando@rydia.net>)
186    * validate database handles in the right places (dormando <dormando@rydia.net>)
188    * only dbh->ping if not used in over a minute (dormando <dormando@rydia.net>)
190    * make list_fids work with gaps (dormando <dormando@rydia.net>)
192    * Postgres enqueue_fids_* cleanup (Robin H. Johnson <robbat2@gentoo.org>)
194    * Fixes MogileFS::Store::retry_on_deadlock to honor non-deadlock exceptions (Jason Mills <jmmills@cpan.org>)
196    * Implements tests for MogileFS::Store::retry_on_deadlock (Jason Mills <jmmills@cpan.org>)
198    * Implements tests for MogileFS::Store::ignore_replace (Jason Mills <jmmills@cpan.org>)
200    * job_master was never revalidating its dbh handle. (dormando <dormando@rydia.net>)
202    * add a couple useful stats (dormando <dormando@rydia.net>)
204    * Correct iostat command on darwin (Tomas Doran <bobtfish@bobtfish.net>)
206    * Fix test db creation with SQLite (Tomas Doran <bobtfish@bobtfish.net>)
208    * Fix SQLite so tracker at least starts (Tomas Doran <bobtfish@bobtfish.net>)
210    * additional debian packaging fixes (kad <kad@blegh.net>)
212    * debian packaging updates. (Andre Bohr <andrepascha@googlemail.com>)
214    * Documentation updates. (Pyry Hakulinen <pyh@iki.fi>)
216    * HTTPFile returns -1 if the file is missing from the device. Content-Length: 0 is valid and it should return BLEN not MISS. (Pyry Hakulinen <pyh@iki.fi>)
218    * some further editing of the info file. (dormando <dormando@rydia.net>)
220    * Changed repository metadata (Tomas Doran <bobtfish@bobtfish.net>)
222 2010-11-25: Release version 2.44
224         * Fix issue with rebalance not filtering source devs from the
225           destination list.
227         * Make global rebalance limits work (Martijn Lina)
229 2010-10-10: Release version 2.43
231         * Make over-replication fixable again. (sigh)
233         * Fix old bug in MultipleHosts() which would not let you drop from
234           mindev > 1 down to 1.
236 2010-10-08: Release version 2.42
238         * Make FSCK run again (Andre Pascha)
240         * Fix Postgres schema upgrade issue (hopefully)
242 2010-10-06: Release version 2.41
244         * One line change that to fix uprading to 2.40
246 2010-09-28: Release version 2.40
248         * Optimize worker sleep patterns and worker/parent communications.
250         * New rebalance/drain code. See the docs/wiki for how to use.
251           ***NOTE*** Old drain/rebalance code is disabled. Setting a device
252           into drain mode no longer does what you think it would.
253           http://code.google.com/p/mogilefs/wiki/Rebalance
255 2010-08-13: Release version 2.37
257         * Make HTTP DELETE's work reliably
259         * Fix obscure crashes related to "unknown devices"
261         * make it slightly harder to crash trackers with bad slave DB settings
262           (Tomas Doran)
264         * make tracker -> storage node connection timeout configurable.
265           was hardcoded to 2 seconds. (Tomas Doran)
267         * update_class command (Tomas Doran)
269 2010-04-16: Release version 2.36
271         * Bump required version of perlbal for mogstored.
273         * Critical bug fix for creating files.
274           If you have many dead devices, poor filter ordering could cause
275           MogileFS to not consider any alive devices for new files.
277         * Actually default to BIGINT under MySQL...
278           Bug would always initialize new setups to INT.
280 2010-04-02: Release version 2.35
282         * Nuke ancient mogilefs 1.1 replication code.
283           no_unreachable_tracking and old_repl_compat variables are gone.
284           (dormando)
286         * Support modifying class replpolicy strings (requires new
287           mogadm/MogileFS::Client) (dormando)
289         * Print fidid and devid on errors when fsck fails to fix something
290           (t0m)
292         * Allow list_keys to work with a prefix of '0' (dormando)
294         * Print timestamp when logging to STDOUT (t0m)
296         * Sort by free space and weight fewer devices to avoid CPU churn
297           (dormando)
299         * Fix deadlock-related crash bugs in db queue fetch routines.
301         * Fix dependencies in MogileFS::Server (t0m)
303         * Fix bug in list_keys command that prevented searches with a
304           '0' prefix. (Ask Bjørn Hansen)
306 2009-12-05: Release version 2.34
308         * Fix bug in new copycount reduction code. If it was more than off by
309           one it wouldn't reduce the count properly.
311         * Improve accept loop. A reasonably busy tracker could start dropping
312           new client connections too easily.
314 2009-11-24: Release version 2.33
316         * 'mogadm fsck status' will now be more accurate.
318         * Support non-GNU df (paul armstrong)
320         * Remove old !replication command. It's in `mogadm stats` and tends
321           to kill the parent process.
323         * Force refreshing internal monitoring status every 5 minutes. Help
324           work around a potential bug where state changes are missed.
326         * Use new delete queue for tempfile culling
328         * Calculate free space from available space, not total space
329           (todd lipcon)
331         * FSCK code has new tunables to control how aggressive it runs:
332           queue_size_for_fsck (how many fids to keep in file_to_queue table)
333           queue_rate_for_fsck (how many fids to put into the table per second)
334           the generic internal queue is now tunable:
335           internal_queue_limit (how many fids to pull out of a queue table at
336               once. old default was 500).
337           All are tunable by 'mogadm settings set'
338           (dormando)
340         * Replication will now attempt to handle over replication situations.
341           FSCK will catch over replication as a policy violation, and
342           replicate will attempt to fix it. (dormando)
343           (rarely it might need multiple fscks)
345         * Since FIDSizes is no longer used, remove it and remove gearman
346           dependency. (dormando)
348         * FSCK no longer rabidly fills the queue table. (dormando)
350         * Make storage code resilient to rare deadlocks (dormando)
352         * Add 'max_handles' config option to restart a DB connection if there
353           are too many handles to it (victori).
355 2009-10-18: Release version 2.32
357         * No changes... MFS is hard to release due to mogdeps :/
359 2009-10-18: Release version 2.31
361         * Fix create_close race condition. (pipegeek)
363         * Fix bug in reporting of available disk space.
365         * Many minor bug/documentation fixes.
367         * MySQL and Postgres installs now use BIGINT's for fid/length by
368           default. (dormando, robbat2)
370         * Accept 405 responses to MKCOL from the WebDAV server since it often
371           just means that the directory already exists. (Ask Bjørn Hansen)
373         * Fix showing domain and class in mogadm output when there's only the
374           default class in the domain (Mark Imbriaco)
376         * mogstored: pidfile support
378         * New FSCK work and error for BCNT for bad devcount values (they would
379           not otherwise be caught unless the triggered another fix).
381 2009-01-12: Release version 2.30
383         * fsck will now fix broken 'devcount' cols.
385         * schema version bump to 12, and new delete worker code to use the new
386           queue system. delete should be faster and more scalable.
388         * add server setting queue_rate_for_fsck to allow rate limiting how
389           fast the new distributed fsck creates jobs. the original default of
390           10k could utterly defeat wimpy databases.
392         * Support 0 byte files.
394         * Fix a bug where rebalance would accidentally delete copies of a fid.
396         * Create new internal queue management system, with new job
397           'JobMaster'. This greatly reduces database load and increases
398           throughput for workers using the new system.
400         * Add 'no_unreachable_tracking' config. Disables more of the old
401           replication code. Use this if you have no 1.x trackers.
403         * Add hook for alternate replication sources. Obscure, but can be
404           nice.
406         * Add replicate_order_final_choices hook, so multidc replication may
407           pull from the local network if one copy already exists.
409         * Fix subtle bugs in process management.
411         * Allow overriding of default classes.
413 2008-08-18: Release version 2.20
415         * One more time, and hopefully never again. No changes. META.yml
416           fixes.
418 2008-08-18: Release version 2.19
420         * No changes except for META.yml fixes.
421           _should_ be able to upload releases without owning half of CPAN.
423 2008-08-16: Release version 2.18
425         * Add repl_use_get_port option (Brian Lynch)
427         * Remove tempfile data and rows on create_close (Chaos Wang)
429         * Don't delete files accidentally during tempfile table cleanup
431         * Specify username to run the mogstored daemon (Jonathan Share)
433         * Many spelling errors corrected.
435         * PostGres locking routines did not include the hostname for the lock
436           release.
438         * RFC 2518 says we "should" use a trailing slash when calling
439           MKCOL. Some servers (nginx) appears to require it. (Spotted by
440           Timu Eren).
442         * Add server option 'rebalance_ignore_missing' in mogilefsd config
443           that allows the rebalance to ignore files that are already missing
444           when it tries to delete them.
446         * Fix MultipleHosts replication policy to no longer return desperate
447           devices after no longer being desperate, instead returning a state
448           which will queue for retries in the future till it can be truly
449           happy. This prevents files from being replicated to all writable
450           devs when there are two few writable hosts to satisfy the policy.
452         * Add --chmod-mountpoints option to mogautomount, in an attempt to
453           prevent mogstored machines from accidentally writing to their under-
454           lying filesystem.
456         * New optional argument 'startpos' to fsck_reset.
458         * Use correct per-Store port, defaulting to UNIX sockets on localhost.
460         * add --dbport option to mogdbsetup (Ask Bjoern Hansen)
462         * Fix state_change() bug that could make file_to_delete_later
463           grow unnecessarily (Radu Greab)
465         * Add Mogstored::HTTPServer::None to allow using mogstored
466           with unmanaged backend DAV servers.
468         * Add experimental cmd_edit_file. Client requires DAV MOVE and
469           partial PUT on the store to use it.
471         * make mogstored and mogilefsd use the now-bundled dependency
472           Perl modules as a last resort, unless MOGILE_NO_BUILTIN_DEPS
473           environment variable is true.  this makes it easier for people
474           to use mogilefs, without dependency hell.  distros/packagers
475           are expected to ignore (or scoff at) this "feature".  but
476           easier for people working from tarball/svn releases.  bundled
477           dependencies will be updated over time, as needed.
479         * Bring the SQLite store up to date
481         * Increase the timeouts in the test suite
483         * In the test suite, also search for mogadm in /usr/local/bin/ and
484           /usr/local/sbin (spotted by Dean Wilson)
486         * SCHEMA VERSION 10:  'replpolicy' column on 'class' table.
487           it's safe to --ignore-schema-version and run this mogilefsd
488           against an older schema.  new column enables per-class
489           pluggable replication policies.  it was always
490           abstract, but not easy to plugin your own alternatives.
491           see doc/pluggable-replication-policies.txt
493         * add start of a MogileFS::ReplicationPolicy::Union implementation
495         * fix crash in queryworker's create_open command, when a device
496           has its directory made on a mogile storage node (the host of
497           which is being monitored by the 'monitor' process), but the
498           device isn't registered in the devices table yet.
500 2007-07-03: Release version 2.17
502         * get_paths command now takes a pathcount option, defaulting to
503           2, instead of having a hardcoded constant of 2. This allows
504           requesting more than 2 paths to a file.
506         * make fsck log over-replicated files as policy violations.  it
507           won't delete over-replicated files, though, just log
509         * Document how to test MogileFS under doc/testing.txt. You really
510           should read this if you want to use MogileFS to store your data.
512         * Add a safety check to ensure that Postgresql-8.2 or newer is used.
514         * Update mogdbsetup usage, and ensure it chooses the correct admin
515           username automatically.
517         * Document the --type option to mogdbsetup.
519         * Introduce the PostGres Store implementation. The locking system might
520           still have issues, beware of stale locks! Initial prototype by Radu
521           Greab <rg@yx.ro>, and developed heavily by Robin H. Johnson
522           <robbat2@gentoo.org>.
524         * start of support to make mogstored wrap Apache + web_dav
526         * Remove duplicated [fsck] in log output of Fsck worker.
528         * Handle HiRes gettimeofday correctly to get useful results. Arrays are
529           important. This gives us correct timing output.
531         * Handle input to log() correctly. Based on the implementation of
532           Sys::Syslog::syslog(), produces no ugly warnings, and makes sure that
533           printf stuff works nicely.
535         * The unix_timestamp function belongs to the Store, not other classes.
536           Need to add test cases for process_deletes and stats.
538         * Using NULL during an INSERT for the AUTO_INCREMENT column does not
539           work very well outside of MySQL. Pass the correct number of arguments
540           to the INSERT instead.
542         * Clean up all raw usages of UNIX_TIMESTAMP() function, in preparation
543           for database independence. If you need the unix timestamp, include the output
544           of $self->unix_timestamp directly into your query.
546         * Alter $0 so that the scripts show up as '$SCRIPTNAME' in the process
547           listing instead of '/usr/bin/perl $SCRIPTNAME'. This makes init.d
548           scripts easier to manage.
550         * make mogstored's lighttpd config use mod_status for "/", so
551           mogadm doesn't think it's dead when it previously saw a 404
552           (Justin Huff <jjhuff@mspin.net>)
554         * remove Linux::AIO support, now that Perlbal has removed it as well,
555           and because Linux::AIO support (when Perlbal then chooses
556           IO::AIO) was hanging mogstored on shutdown.  so also add a
557           mogstored shutdown test (after a full daemonization of it)
559         * make Mgd::validate_dbh() re-check/ping slave dbhs as well.
560           (problem mentioned by Steven Shou <steven.shou@verizon.net>)
562         * support drive identifiers above sdz (Arjan <info@bouncetek.com>)
564         * make mogstored's iostat child process properly shutdown,
565           even when iostat binary isn't installed.  (previously
566           it was stuck in a loop every 10 seconds, hoping for
567           iostat to be installed, but never respecting parent
568           process' death)
570         * Change delete worker to use new DeviceStates interface.
572         * Fix get_paths to honor new device state of 'drain' via new
573           DeviceStates interface.
575         * use significantly less CPU when re-broadcasting around
576           iostat device utilization% to child processes.  (future:
577           don't rebroadcast at all and use shared memory)
579         * slightly faster fsck (do less syscalls)
581         * efficiency: don't broadcast dup state information to children
582           (track in parent what children know already)
584         * if using Gearman::Server >= 1.09, respawn the fidsizes
585           worker if it dies.
587 2007-05-09: Release version 2.16
589         * BUG FIX from 2.15:  partially written but never closed
590           tempfiles weren't being cleaned up properly.
592         * start to work better when compiled as a stand-alone
593           PAR all-in-one script/archive
595 2007-05-07: Release version 2.15 ("fsck/drain/rebalance")
597         * minor bug fixes and enhancements for MultipleHosts replication
598           policy.  bunch of corner cases now checked with new tests.
599           now easy to write more replication policy tests in future.
601         * replication policies can now return "desperate" requests,
602           signalling that a replication reassessment should be
603           enqueued for the future, to see if things could be improved.
604           (that part's not currently implemented, but the real feature
605            and motivation is that the rebalancer now won't delete a
606            DevFID if it results in a desperate move, only an ideal move. )
608         * replication policies now can optionally return a new return
609           value of the (new) type MogileFS::ReplicationRequest, which
610           has pretty accessor names, can suggest multiple places,
611           can indicate non-ideal emergency replication decisions.
612           old plugins' return values will be transparently upgraded
613           to the equivalent new return value objects.
615         * adding new device state: "drain".  it's a hybrid of "dead"
616           (in that files are migrated off it) and "readonly", it that
617           it still serves traffic... it just doesn't get new files.
618           this also introduces the new object-oriented DeviceState class,
619           and device_state($name) utility function to get the DeviceState
620           singleton by name
622         * internal code cleanup.  notably, kill the old & nasty legacy
623           'find_deviceid' function which was ridiculously long and hairy.
624           the two callers are now more readable with sorts/greps/etc.
626         * make mogstored's devN/usage writing process (DiskUsage) be less
627           racy with the mogilefsd monitoring code... don't open file for
628           write... open read/write, then in one write system call, write
629           the entire file, with newline padding at end to cover old data,
630           then truncate it if necessary.  should remove harmless (but scary)
631           error messages previously reported by the mogilefsd monitor
632           about zero-length usage files.
634         * new protocol commands to list/set (certain) server settings,
635           with value sanity checking (see MogileFS::Config for which
636           are settable, and with what values).  needed for "enable_rebalance".
637           was partially enabled before for slave settings.  also needed
638           for memcached support before, which was never possible to
639           set with mogadm, only with db tweaking.
641         * make mogilefsd fsck use new mogstored fid_sizes command, to
642           do bulk stats.  speeds up fscks a ton.
644         * be robust against system clocks that go backwards between
645           gettimeofday calls:
646           http://lists.danga.com/pipermail/mogilefs/2007-April/000897.html
648         * Put gearman server in mogstored process, add worker
649           'mogstored-fidsizes' which runs as subprocess of mogstored. Add
650           side-channel command 'fid_sizes' which allows us to quickly enumerate
651           and get sizes for files across entire devices on a storage node.
653         * remove all code like $state eq "readonly", $state=~ /^dead|down$/
654           and instead convert it into specific questions on policy/traits
655           of given state, like $dev->should_put_new_files_on, or
656           $dev->should_drain_files_off.  see MogileFS::DeviceState,
657           objects of which are accessed via $dev->dstate, or new
658           MogileFS::Util device_state($name) wrapper.
660         * start of rebalance support.  (where replication workers, in their
661           idle time, can rearrange files to even out disk space and/or IO
662           activity on storage nodes... policy isn't hard-coded, and is
663           in fact currently random)
665         * lighttpd support in both mogilefsd and mogstored.  passes test
666           suite with environment MOGSTORED_SERVER_TYPE=lighttpd set now.
668         * abstract out the HTTP server support in mogstored, so
669           mogstored isn't just a perlbal wrapper, but an anything
670           wrapper. (in particular, lighttpd and apache)  mogstored still
671           exists for all its other misc admin/monitoring functions,
672           but can then manage/configure apache/lighttpd child process(es).
673           so far they're just stubbed out.
675         * split mogstored into separate files per class, rather than one
676           large script.
678 2007-04-24: Release version 2.10
680         * bug from earlier refactoring:  changing some 'next' to 'return'
681           in MogileFS::Device's create_directory method.  (thanks to
682           Justin Huff <jjhuff@mspin.net>)
684         * make sure mogdbsetup doesn't upgrade an existing table (with
685           potentially lot of data) from MyISAM to InnoDB.  just warn.
686           only new tables should become InnoDB on creation.  also,
687           detect InnoDB even on old MySQL 4.0.x, not just 4.1/5.0.
689         * make fsck faster by reducing number of db queries (both
690           reads and writes), though more unrelated fastness remains to
691           be done.
693         * make fsck_status faster (keep summary stats of evcode counts,
694           rather than doing a full GROUP BY query all the time)
696 2007-04-20: Release version 2.09
698         * filesystem checker (Fsck worker).  off by default, unless
699           it's enabled via protocol.  Control/monitor it with mogadm
700           in MogileFS-Utils 2.08, which needs MogileFS::Client 1.06.
702         * replication speed-up on configurations with only 1 host.
703           (replication would randomly have no suggestions before, when
704            there was only 1 target host, so replication would be rescheduled
705            until the future, when random returned a different device on
706            that host)
708 2007-04-17: Release version 2.08
710         * (no runtime-visible changes from 2.07)
712         * mogilefsd: remove incomplete "Checker" worker, replace with
713           incomplete "Fsck" worker.
715         * test cleanup/robustness improvements.  properly skips testing when
716           testing deps not found.  but searches harder for them now, too.
717           tests run under "make disttest".
719         * packaging cleanups, released using ShipIt.
722 2007-03/04:
724         * mogilefsd: Split Plugin::MetaData and Plugin::FilePaths into their own distributions.
726         * mogilefsd: Fix mogdbsetup to not ask empty questions.
728         * mogilefsd: command line/config file support for listening on specific IPs, also
729            support for listening on multiple IPs/ports
731 2007-03-19:
732         * mogstored: use XS HTTPHeaders by default, unless disabled with environment variable
734         * mogilefsd: memcache support for get_paths (see doc/memcache-support.txt)
736 2007-03-16:
737         * mogstored: make child processes be exec'ed (as as their own scripts, not inheriting
738           Perlbal, Linux::AIO/IO::AIO, etc baggage).  so they don't own listening
739           sockets, pipes to child workers, signal handlers, etc.  just a lot
740           cleaner now, and SIGTERM, SIGINT properly shut everything down now,
741           both in foreground and as daemon
743 2007-03-15:
744         * mogstored: this changelog is totally neglected.  :/  see svn log.
746         * mogstored: make perlbal's "shutdown graceful" work, by not doing
747           sidechannel accepting ourselves (which never hung up),
748           but subclass Perlbal's TCPListener class, which does it
749           all correctly.
751 2006-12/2007-01:  (2.00_05)
752         * mogilefsd: everything converted to OO API internally.  old internal APIs removed.
754         * mogilefsd: be database-agnostic.  Currently only works with MySQL (and
755            SQLite as a joke/demo), but Pg/Oracle coming in the future.
757         * mogilefsd: built-in I/O activity monitoring between mogstored/mogilefsd Monitor
758            now.
760         * mogilefsd: much improved internal communication between worker processes
762         * mogilefsd: start of better docs
764 2006-12-28
765         * mogilefsd: pidfile support (Radu Greab <radu@yx.ro>)
767 2006-12-28
768 2006-12-27
769         * mogilefsd: remove all old internal APIs, update everything to use new OO APIs,
770            expanding OO APIs where necessary (lots of places).  so much more
771            beautifully hackable now.
773         * mogstored: kill child processes (diskusage and iostat) when being killed.
775 2006-11-05:
776         * mogstored: set aio threads after daemonizing.  needed by Linux::AIO/IO::AIO, it seems?
778 2006-09-29
779         * mogilefsd: remove non-HTTP mode ("NFS mode") from the server
781 2006-09-23:
782         * mogstored: refuse to start up with missing Linux::AIO/IO::AIO or broken Linux::AIO
784 2006-09-04:
785         * mogstored: set aio_threads as a function of number of disks
787 2006-07 -> 2006-09
788         * mogilefsd: major refactoring/cleanup/new features ("MogileFS 2.0")
790 2006-03-01 (Brad)
791         * mogilefsd: fix dataloss bug when the 'tempfile' table is InnoDB and the
792            server is restarted while the tempfile table is empty.
794 2006-02-28 (Jr)
795         * mogilefsd: allow create_open to take optional fid parameter which enables you to
796         dictate which fid to use internally and to not rely on MySQL's auto_increment
798 2006-01-10 (Brad)
799         * mogilefsd: make Mgd::get_device_summary() always return all devices, regardless
800         of status.
802         * mogilefsd: update all callers of get_device_summary to filter on the device
803         status, if they need to. (provided more clarity into what
804         callers' intentions were...)
806         * mogilefsd: add a new device state 'readonly' which means: it can be read from
807         from clients, it can be replicated from, but no new files can go
808         on it or be replicated onto it. and it also reaps, meaning the
809         device is fucked. the filesystem probably ate itself.
811 2005-08-10:
812         * mogstored: write out usage files for devices, even if they're not on their own mount point.
813           also explicitly include the '-k' flag to df, so we know they're KiB.
815 2005-08-07:
816         * mogstored: new config syntax and command line options