s3: smbclient: Allinfo leaves the file handle open.
[Samba.git] / lib / testtools / NEWS
blobac88fc136497af4deb4dd8e096e5633ac0052983
1 testtools NEWS
2 ++++++++++++++
4 Changes and improvements to testtools_, grouped by release.
6 NEXT
7 ~~~~
9 Changes
10 -------
12 * Fixed unit tests which were failing under pypy due to a change in the way
13   pypy formats tracebacks. (Thomi Richards)
15 * Make `testtools.content.text_content` error if anything other than text
16   is given as content. (Thomi Richards)
18 * We now publish wheels of testtools. (Robert Collins, #issue84)
20 1.1.0
21 ~~~~~
23 Improvements
24 ------------
26 * Exceptions in a ``fixture.getDetails`` method will no longer mask errors
27   raised from the same fixture's ``setUp`` method.
28   (Robert Collins, #1368440)
30 1.0.0
31 ~~~~~
33 Long overdue, we've adopted a backwards compatibility statement and recognized
34 that we have plenty of users depending on our behaviour - calling our version
35 1.0.0 is a recognition of that.
37 Improvements
38 ------------
40 * Fix a long-standing bug where tearDown and cleanUps would not be called if the
41   test run was interrupted. This should fix leaking external resources from
42   interrupted tests.
43   (Robert Collins, #1364188)
45 * Fix a long-standing bug where calling sys.exit(0) from within a test would
46   cause the test suite to exit with 0, without reporting a failure of that
47   test. We still allow the test suite to be exited (since catching higher order
48   exceptions requires exceptional circumstances) but we now call a last-resort
49   handler on the TestCase, resulting in an error being reported for the test.
50   (Robert Collins, #1364188)
52 * Fix an issue where tests skipped with the ``skip``* family of decorators would
53   still have their ``setUp`` and ``tearDown`` functions called.
54   (Thomi Richards, #https://github.com/testing-cabal/testtools/issues/86)
56 * We have adopted a formal backwards compatibility statement (see hacking.rst)
57   (Robert Collins)
59 0.9.39
60 ~~~~~~
62 Brown paper bag release - 0.9.38 was broken for some users,
63 _jython_aware_splitext was not defined entirely compatibly.
64 (Robert Collins, #https://github.com/testing-cabal/testtools/issues/100)
66 0.9.38
67 ~~~~~~
69 Bug fixes for test importing.
71 Improvements
72 ------------
74 * Discovery import error detection wasn't implemented for python 2.6 (the
75   'discover' module). (Robert Collins)
77 * Discovery now executes load_tests (if present) in __init__ in all packages.
78   (Robert Collins, http://bugs.python.org/issue16662)
80 0.9.37
81 ~~~~~~
83 Minor improvements to correctness.
85 Changes
86 -------
88 * ``stdout`` is now correctly honoured on ``run.TestProgram`` - before the
89   runner objects would be created with no stdout parameter. If construction
90   fails, the previous parameter list is attempted, permitting compatibility
91   with Runner classes that don't accept stdout as a parameter.
92   (Robert Collins)
94 * The ``ExtendedToStreamDecorator`` now handles content objects with one less
95   packet - the last packet of the source content is sent with EOF set rather
96   than an empty packet with EOF set being sent after the last packet of the
97   source content. (Robert Collins)
99 0.9.36
100 ~~~~~~
102 Welcome to our long overdue 0.9.36 release, which improves compatibility with
103 Python3.4, adds assert_that, a function for using matchers without TestCase
104 objects, and finally will error if you try to use setUp or tearDown twice -
105 since that invariably leads to bad things of one sort or another happening.
107 Changes
108 -------
110 * Error if ``setUp`` or ``tearDown`` are called twice.
111   (Robert Collins, #882884)
113 * Make testtools compatible with the ``unittest.expectedFailure`` decorator in
114   Python 3.4. (Thomi Richards)
117 Improvements
118 ------------
120 * Introduce the assert_that function, which allows matchers to be used
121   independent of testtools.TestCase. (Daniel Watkins, #1243834)
124 0.9.35
125 ~~~~~~
127 Changes
128 -------
130 * Removed a number of code paths where Python 2.4 and Python 2.5 were
131   explicitly handled. (Daniel Watkins)
133 Improvements
134 ------------
136 * Added the ``testtools.TestCase.expectThat`` method, which implements
137   delayed assertions. (Thomi Richards)
139 * Docs are now built as part of the Travis-CI build, reducing the chance of
140   Read The Docs being broken accidentally. (Daniel Watkins, #1158773)
142 0.9.34
143 ~~~~~~
145 Improvements
146 ------------
148 * Added ability for ``testtools.TestCase`` instances to force a test to
149   fail, even if no assertions failed. (Thomi Richards)
151 * Added ``testtools.content.StacktraceContent``, a content object that
152   automatically creates a ``StackLinesContent`` object containing the current
153   stack trace. (Thomi Richards)
155 * ``AnyMatch`` is now exported properly in ``testtools.matchers``.
156   (Robert Collins, Rob Kennedy, github #44)
158 * In Python 3.3, if there are duplicate test ids, tests.sort() will
159   fail and raise TypeError. Detect the duplicate test ids firstly in
160   sorted_tests() to ensure that all test ids are unique.
161   (Kui Shi, #1243922)
163 * ``json_content`` is now in the ``__all__`` attribute for
164   ``testtools.content``. (Robert Collins)
166 * Network tests now bind to 127.0.0.1 to avoid (even temporary) network
167   visible ports. (Benedikt Morbach, github #46)
169 * Test listing now explicitly indicates by printing 'Failed to import' and
170   exiting (2) when an import has failed rather than only signalling through the
171   test name. (Robert Collins, #1245672)
173 * ``test_compat.TestDetectEncoding.test_bom`` now works on Python 3.3 - the
174   corner case with euc_jp is no longer permitted in Python 3.3 so we can
175   skip it. (Martin [gz], #1251962)
177 0.9.33
178 ~~~~~~
180 Improvements
181 ------------
183 * Added ``addDetailuniqueName`` method to ``testtools.TestCase`` class.
184   (Thomi Richards)
186 * Removed some unused code from ``testtools.content.TracebackContent``.
187   (Thomi Richards)
189 * Added ``testtools.StackLinesContent``: a content object for displaying
190   pre-processed stack lines. (Thomi Richards)
192 * ``StreamSummary`` was calculating testsRun incorrectly: ``exists`` status
193   tests were counted as run tests, but they are not.
194   (Robert Collins, #1203728)
196 0.9.32
197 ~~~~~~
199 Regular maintenance release.  Special thanks to new contributor, Xiao Hanyu!
201 Changes
202 -------
204  * ``testttols.compat._format_exc_info`` has been refactored into several
205    smaller functions. (Thomi Richards)
207 Improvements
208 ------------
210 * Stacktrace filtering no longer hides unittest frames that are surrounded by
211   user frames. We will reenable this when we figure out a better algorithm for
212   retaining meaning. (Robert Collins, #1188420)
214 * The compatibility code for skipped tests with unittest2 was broken.
215   (Robert Collins, #1190951)
217 * Various documentation improvements (Clint Byrum, Xiao Hanyu).
219 0.9.31
220 ~~~~~~
222 Improvements
223 ------------
225 * ``ExpectedException`` now accepts a msg parameter for describing an error,
226   much the same as assertEquals etc. (Robert Collins)
228 0.9.30
229 ~~~~~~
231 A new sort of TestResult, the StreamResult has been added, as a prototype for
232 a revised standard library test result API.  Expect this API to change.
233 Although we will try to preserve compatibility for early adopters, it is
234 experimental and we might need to break it if it turns out to be unsuitable.
236 Improvements
237 ------------
238 * ``assertRaises`` works properly for exception classes that have custom
239   metaclasses
241 * ``ConcurrentTestSuite`` was silently eating exceptions that propagate from
242   the test.run(result) method call. Ignoring them is fine in a normal test
243   runner, but when they happen in a different thread, the thread that called
244   suite.run() is not in the stack anymore, and the exceptions are lost. We now
245   create a synthetic test recording any such exception.
246   (Robert Collins, #1130429)
248 * Fixed SyntaxError raised in ``_compat2x.py`` when installing via Python 3.
249   (Will Bond, #941958)
251 * New class ``StreamResult`` which defines the API for the new result type.
252   (Robert Collins)
254 * New support class ``ConcurrentStreamTestSuite`` for convenient construction
255   and utilisation of ``StreamToQueue`` objects. (Robert Collins)
257 * New support class ``CopyStreamResult`` which forwards events onto multiple
258   ``StreamResult`` objects (each of which receives all the events).
259   (Robert Collins)
261 * New support class ``StreamSummary`` which summarises a ``StreamResult``
262   stream compatibly with ``TestResult`` code. (Robert Collins)
264 * New support class ``StreamTagger`` which adds or removes tags from
265   ``StreamResult`` events. (RobertCollins)
267 * New support class ``StreamToDict`` which converts a ``StreamResult`` to a
268   series of dicts describing a test. Useful for writing trivial stream
269   analysers. (Robert Collins)
271 * New support class ``TestControl`` which permits cancelling an in-progress
272   run. (Robert Collins)
274 * New support class ``StreamFailFast`` which calls a ``TestControl`` instance
275   to abort the test run when a failure is detected. (Robert Collins)
277 * New support class ``ExtendedToStreamDecorator`` which translates both regular
278   unittest TestResult API calls and the ExtendedTestResult API which testtools
279   has supported into the StreamResult API. ExtendedToStreamDecorator also
280   forwards calls made in the StreamResult API, permitting it to be used
281   anywhere a StreamResult is used. Key TestResult query methods like
282   wasSuccessful and shouldStop are synchronised with the StreamResult API
283   calls, but the detailed statistics like the list of errors are not - a
284   separate consumer will be created to support that.
285   (Robert Collins)
287 * New support class ``StreamToExtendedDecorator`` which translates
288   ``StreamResult`` API calls into ``ExtendedTestResult`` (or any older
289   ``TestResult``) calls. This permits using un-migrated result objects with
290   new runners / tests. (Robert Collins)
292 * New support class ``StreamToQueue`` for sending messages to one
293   ``StreamResult`` from multiple threads. (Robert Collins)
295 * New support class ``TimestampingStreamResult`` which adds a timestamp to
296   events with no timestamp. (Robert Collins)
298 * New ``TestCase`` decorator ``DecorateTestCaseResult`` that adapts the
299   ``TestResult`` or ``StreamResult`` a case will be run with, for ensuring that
300   a particular result object is used even if the runner running the test doesn't
301   know to use it. (Robert Collins)
303 * New test support class ``testtools.testresult.doubles.StreamResult``, which
304   captures all the StreamResult events. (Robert Collins)
306 * ``PlaceHolder`` can now hold tags, and applies them before, and removes them
307   after, the test. (Robert Collins)
309 * ``PlaceHolder`` can now hold timestamps, and applies them before the test and
310   then before the outcome. (Robert Collins)
312 * ``StreamResultRouter`` added. This is useful for demultiplexing - e.g. for
313   partitioning analysis of events or sending feedback encapsulated in
314   StreamResult events back to their source. (Robert Collins)
316 * ``testtools.run.TestProgram`` now supports the ``TestRunner`` taking over
317   responsibility for formatting the output of ``--list-tests``.
318   (Robert Collins)
320 * The error message for setUp and tearDown upcall errors was broken on Python
321   3.4. (Monty Taylor, Robert Collins, #1140688)
323 * The repr of object() on pypy includes the object id, which was breaking a
324   test that accidentally depended on the CPython repr for object().
325   (Jonathan Lange)
327 0.9.29
328 ~~~~~~
330 A simple bug fix, and better error messages when you don't up-call.
332 Changes
333 -------
335 * ``testtools.content_type.ContentType`` incorrectly used ',' rather than ';'
336   to separate parameters. (Robert Collins)
338 Improvements
339 ------------
341 * ``testtools.compat.unicode_output_stream`` was wrapping a stream encoder
342   around ``io.StringIO`` and ``io.TextIOWrapper`` objects, which was incorrect.
343   (Robert Collins)
345 * Report the name of the source file for setUp and tearDown upcall errors.
346   (Monty Taylor)
348 0.9.28
349 ~~~~~~
351 Testtools has moved VCS - https://github.com/testing-cabal/testtools/ is
352 the new home. Bug tracking is still on Launchpad, and releases are on Pypi.
354 We made this change to take advantage of the richer ecosystem of tools around
355 Git, and to lower the barrier for new contributors.
357 Improvements
358 ------------
360 * New ``testtools.testcase.attr`` and ``testtools.testcase.WithAttributes``
361   helpers allow marking up test case methods with simple labels. This permits
362   filtering tests with more granularity than organising them into modules and
363   test classes. (Robert Collins)
365 0.9.27
366 ~~~~~~
368 Improvements
369 ------------
371 * New matcher ``HasLength`` for matching the length of a collection.
372   (Robert Collins)
374 * New matcher ``MatchesPredicateWithParams`` make it still easier to create
375   ad hoc matchers. (Robert Collins)
377 * We have a simpler release process in future - see doc/hacking.rst.
378   (Robert Collins)
380 0.9.26
381 ~~~~~~
383 Brown paper bag fix: failed to document the need for setup to be able to use
384 extras. Compounded by pip not supporting setup_requires.
386 Changes
387 -------
389 * setup.py now can generate egg_info even if extras is not available.
390   Also lists extras in setup_requires for easy_install.
391   (Robert Collins, #1102464)
393 0.9.25
394 ~~~~~~
396 Changes
397 -------
399 * ``python -m testtools.run --load-list`` will now preserve any custom suites
400   (such as ``testtools.FixtureSuite`` or ``testresources.OptimisingTestSuite``)
401   rather than flattening them.
402   (Robert Collins, #827175)
404 * Testtools now depends on extras, a small library split out from it to contain
405   generally useful non-testing facilities. Since extras has been around for a
406   couple of testtools releases now, we're making this into a hard dependency of
407   testtools. (Robert Collins)
409 * Testtools now uses setuptools rather than distutils so that we can document
410   the extras dependency. (Robert Collins)
412 Improvements
413 ------------
415 * Testtools will no longer override test code registered details called
416   'traceback' when reporting caught exceptions from test code.
417   (Robert Collins, #812793)
419 0.9.24
420 ~~~~~~
422 Changes
423 -------
425 * ``testtools.run discover`` will now sort the tests it discovered. This is a 
426   workaround for http://bugs.python.org/issue16709. Non-standard test suites
427   are preserved, and their ``sort_tests()`` method called (if they have such an
428   attribute). ``testtools.testsuite.sorted_tests(suite, True)`` can be used by
429   such suites to do a local sort. (Robert Collins, #1091512)
431 * ``ThreadsafeForwardingResult`` now defines a stub ``progress`` method, which
432   fixes ``testr run`` of streams containing progress markers (by discarding the 
433   progress data). (Robert Collins, #1019165)
435 0.9.23
436 ~~~~~~
438 Changes
439 -------
441 * ``run.TestToolsTestRunner`` now accepts the verbosity, buffer and failfast
442   arguments the upstream python TestProgram code wants to give it, making it
443   possible to support them in a compatible fashion. (Robert Collins)
445 Improvements
446 ------------
448 * ``testtools.run`` now supports the ``-f`` or ``--failfast`` parameter.
449   Previously it was advertised in the help but ignored.
450   (Robert Collins, #1090582)
452 * ``AnyMatch`` added, a new matcher that matches when any item in a collection
453   matches the given matcher.  (Jonathan Lange)
455 * Spelling corrections to documentation.  (Vincent Ladeuil)
457 * ``TestProgram`` now has a sane default for its ``testRunner`` argument.
458   (Vincent Ladeuil)
460 * The test suite passes on Python 3 again. (Robert Collins)
462 0.9.22
463 ~~~~~~
465 Improvements
466 ------------
468 * ``content_from_file`` and ``content_from_stream`` now accept seek_offset and
469   seek_whence parameters allowing them to be used to grab less than the full
470   stream, or to be used with StringIO streams. (Robert Collins, #1088693)
472 0.9.21
473 ~~~~~~
475 Improvements
476 ------------
478 * ``DirContains`` correctly exposed, after being accidentally hidden in the
479   great matcher re-organization of 0.9.17.  (Jonathan Lange)
482 0.9.20
483 ~~~~~~
485 Three new matchers that'll rock your world.
487 Improvements
488 ------------
490 * New, powerful matchers that match items in a dictionary:
492   - ``MatchesDict``, match every key in a dictionary with a key in a
493     dictionary of matchers.  For when the set of expected keys is equal to the
494     set of observed keys.
496   - ``ContainsDict``, every key in a dictionary of matchers must be
497     found in a dictionary, and the values for those keys must match.  For when
498     the set of expected keys is a subset of the set of observed keys.
500   - ``ContainedByDict``, every key in a dictionary must be found in
501     a dictionary of matchers.  For when the set of expected keys is a superset
502     of the set of observed keys.
504   The names are a little confusing, sorry.  We're still trying to figure out
505   how to present the concept in the simplest way possible.
508 0.9.19
509 ~~~~~~
511 How embarrassing!  Three releases in two days.
513 We've worked out the kinks and have confirmation from our downstreams that
514 this is all good.  Should be the last release for a little while.  Please
515 ignore 0.9.18 and 0.9.17.
517 Improvements
518 ------------
520 * Include the matcher tests in the release, allowing the tests to run and
521   pass from the release tarball.  (Jonathan Lange)
523 * Fix cosmetic test failures in Python 3.3, introduced during release 0.9.17.
524   (Jonathan Lange)
527 0.9.18
528 ~~~~~~
530 Due to an oversight, release 0.9.18 did not contain the new
531 ``testtools.matchers`` package and was thus completely broken.  This release
532 corrects that, returning us all to normality.
534 0.9.17
535 ~~~~~~
537 This release brings better discover support and Python3.x improvements. There
538 are still some test failures on Python3.3 but they are cosmetic - the library
539 is as usable there as on any other Python 3 release.
541 Changes
542 -------
544 * The ``testtools.matchers`` package has been split up.  No change to the
545   public interface.  (Jonathan Lange)
547 Improvements
548 ------------
550 * ``python -m testtools.run discover . --list`` now works. (Robert Collins)
552 * Correctly handling of bytes vs text in JSON content type. (Martin [gz])
555 0.9.16
556 ~~~~~~
558 Some new matchers and a new content helper for JSON content.
560 This is the first release of testtools to drop support for Python 2.4 and 2.5.
561 If you need support for either of those versions, please use testtools 0.9.15.
563 Improvements
564 ------------
566 * New content helper, ``json_content`` (Jonathan Lange)
568 * New matchers:
570   * ``ContainsAll`` for asserting one thing is a subset of another
571     (Raphaël Badin)
573   * ``SameMembers`` for asserting two iterators have the same members.
574     (Jonathan Lange)
576 * Reraising of exceptions in Python 3 is more reliable. (Martin [gz])
579 0.9.15
580 ~~~~~~
582 This is the last release to support Python2.4 and 2.5. It brings in a slew of
583 improvements to test tagging and concurrency, making running large test suites
584 with partitioned workers more reliable and easier to reproduce exact test
585 ordering in a given worker. See our sister project ``testrepository`` for a
586 test runner that uses these features.
588 Changes
589 -------
591 * ``PlaceHolder`` and ``ErrorHolder`` now support being given result details.
592   (Robert Collins)
594 * ``ErrorHolder`` is now just a function - all the logic is in ``PlaceHolder``.
595   (Robert Collins)
597 * ``TestResult`` and all other ``TestResult``-like objects in testtools
598   distinguish between global tags and test-local tags, as per the subunit
599   specification.  (Jonathan Lange)
601 * This is the **last** release of testtools that supports Python 2.4 or 2.5.
602   These releases are no longer supported by the Python community and do not
603   receive security updates. If this affects you, you will need to either
604   stay on this release or perform your own backports.
605   (Jonathan Lange, Robert Collins)
607 * ``ThreadsafeForwardingResult`` now forwards global tags as test-local tags,
608   making reasoning about the correctness of the multiplexed stream simpler.
609   This preserves the semantic value (what tags apply to a given test) while
610   consuming less stream size (as no negative-tag statement is needed).
611   (Robert Collins, Gary Poster, #986434)
613 Improvements
614 ------------
616 * API documentation corrections. (Raphaël Badin)
618 * ``ConcurrentTestSuite`` now takes an optional ``wrap_result`` parameter
619   that can be used to wrap the ``ThreadsafeForwardingResult``s created by
620   the suite.  (Jonathan Lange)
622 * ``Tagger`` added.  It's a new ``TestResult`` that tags all tests sent to
623   it with a particular set of tags.  (Jonathan Lange)
625 * ``testresultdecorator`` brought over from subunit.  (Jonathan Lange)
627 * All ``TestResult`` wrappers now correctly forward ``current_tags`` from
628   their wrapped results, meaning that ``current_tags`` can always be relied
629   upon to return the currently active tags on a test result.
631 * ``TestByTestResult``, a ``TestResult`` that calls a method once per test,
632   added.  (Jonathan Lange)
634 * ``ThreadsafeForwardingResult`` correctly forwards ``tags()`` calls where
635   only one of ``new_tags`` or ``gone_tags`` are specified.
636   (Jonathan Lange, #980263)
638 * ``ThreadsafeForwardingResult`` no longer leaks local tags from one test
639   into all future tests run.  (Jonathan Lange, #985613)
641 * ``ThreadsafeForwardingResult`` has many, many more tests.  (Jonathan Lange)
644 0.9.14
645 ~~~~~~
647 Our sister project, `subunit <https://launchpad.net/subunit>`_, was using a
648 private API that was deleted in the 0.9.13 release.  This release restores
649 that API in order to smooth out the upgrade path.
651 If you don't use subunit, then this release won't matter very much to you.
654 0.9.13
655 ~~~~~~
657 Plenty of new matchers and quite a few critical bug fixes (especially to do
658 with stack traces from failed assertions).  A net win for all.
660 Changes
661 -------
663 * ``MatchesAll`` now takes an ``first_only`` keyword argument that changes how
664   mismatches are displayed.  If you were previously passing matchers to
665   ``MatchesAll`` with keyword arguments, then this change might affect your
666   test results.  (Jonathan Lange)
668 Improvements
669 ------------
671 * Actually hide all of the testtools stack for assertion failures. The
672   previous release promised clean stack, but now we actually provide it.
673   (Jonathan Lange, #854769)
675 * ``assertRaises`` now includes the ``repr`` of the callable that failed to raise
676   properly. (Jonathan Lange, #881052)
678 * Asynchronous tests no longer hang when run with trial.
679   (Jonathan Lange, #926189)
681 * ``Content`` objects now have an ``as_text`` method to convert their contents
682   to Unicode text.  (Jonathan Lange)
684 * Failed equality assertions now line up. (Jonathan Lange, #879339)
686 * ``FullStackRunTest`` no longer aborts the test run if a test raises an
687   error.  (Jonathan Lange)
689 * ``MatchesAll`` and ``MatchesListwise`` both take a ``first_only`` keyword
690   argument.  If True, they will report only on the first mismatch they find,
691   and not continue looking for other possible mismatches.
692   (Jonathan Lange)
694 * New helper, ``Nullary`` that turns callables with arguments into ones that
695   don't take arguments.  (Jonathan Lange)
697 * New matchers:
699   * ``DirContains`` matches the contents of a directory.
700     (Jonathan Lange, James Westby)
702   * ``DirExists`` matches if a directory exists.
703     (Jonathan Lange, James Westby)
705   * ``FileContains`` matches the contents of a file.
706     (Jonathan Lange, James Westby)
708   * ``FileExists`` matches if a file exists.
709     (Jonathan Lange, James Westby)
711   * ``HasPermissions`` matches the permissions of a file.  (Jonathan Lange)
713   * ``MatchesPredicate`` matches if a predicate is true.  (Jonathan Lange)
715   * ``PathExists`` matches if a path exists.  (Jonathan Lange, James Westby)
717   * ``SamePath`` matches if two paths are the same.  (Jonathan Lange)
719   * ``TarballContains`` matches the contents of a tarball.  (Jonathan Lange)
721 * ``MultiTestResult`` supports the ``tags`` method.
722   (Graham Binns, Francesco Banconi, #914279)
724 * ``ThreadsafeForwardingResult`` supports the ``tags`` method.
725   (Graham Binns, Francesco Banconi, #914279)
727 * ``ThreadsafeForwardingResult`` no longer includes semaphore acquisition time
728   in the test duration (for implicitly timed test runs).
729   (Robert Collins, #914362)
731 0.9.12
732 ~~~~~~
734 This is a very big release.  We've made huge improvements on three fronts:
735  1. Test failures are way nicer and easier to read
736  2. Matchers and ``assertThat`` are much more convenient to use
737  3. Correct handling of extended unicode characters
739 We've trimmed off the fat from the stack trace you get when tests fail, we've
740 cut out the bits of error messages that just didn't help, we've made it easier
741 to annotate mismatch failures, to compare complex objects and to match raised
742 exceptions.
744 Testing code was never this fun.
746 Changes
747 -------
749 * ``AfterPreproccessing`` renamed to ``AfterPreprocessing``, which is a more
750   correct spelling.  Old name preserved for backwards compatibility, but is
751   now deprecated.  Please stop using it.
752   (Jonathan Lange, #813460)
754 * ``assertThat`` raises ``MismatchError`` instead of
755   ``TestCase.failureException``.  ``MismatchError`` is a subclass of
756   ``AssertionError``, so in most cases this change will not matter. However,
757   if ``self.failureException`` has been set to a non-default value, then
758   mismatches will become test errors rather than test failures.
760 * ``gather_details`` takes two dicts, rather than two detailed objects.
761   (Jonathan Lange, #801027)
763 * ``MatchesRegex`` mismatch now says "<value> does not match /<regex>/" rather
764   than "<regex> did not match <value>". The regular expression contains fewer
765   backslashes too. (Jonathan Lange, #818079)
767 * Tests that run with ``AsynchronousDeferredRunTest`` now have the ``reactor``
768   attribute set to the running reactor. (Jonathan Lange, #720749)
770 Improvements
771 ------------
773 * All public matchers are now in ``testtools.matchers.__all__``.
774   (Jonathan Lange, #784859)
776 * ``assertThat`` can actually display mismatches and matchers that contain
777   extended unicode characters. (Jonathan Lange, Martin [gz], #804127)
779 * ``assertThat`` output is much less verbose, displaying only what the mismatch
780   tells us to display. Old-style verbose output can be had by passing
781   ``verbose=True`` to assertThat. (Jonathan Lange, #675323, #593190)
783 * ``assertThat`` accepts a message which will be used to annotate the matcher.
784   This can be given as a third parameter or as a keyword parameter.
785   (Robert Collins)
787 * Automated the Launchpad part of the release process.
788   (Jonathan Lange, #623486)
790 * Correctly display non-ASCII unicode output on terminals that claim to have a
791   unicode encoding. (Martin [gz], #804122)
793 * ``DocTestMatches`` correctly handles unicode output from examples, rather
794   than raising an error. (Martin [gz], #764170)
796 * ``ErrorHolder`` and ``PlaceHolder`` added to docs. (Jonathan Lange, #816597)
798 * ``ExpectedException`` now matches any exception of the given type by
799   default, and also allows specifying a ``Matcher`` rather than a mere regular
800   expression. (Jonathan Lange, #791889)
802 * ``FixtureSuite`` added, allows test suites to run with a given fixture.
803   (Jonathan Lange)
805 * Hide testtools's own stack frames when displaying tracebacks, making it
806   easier for test authors to focus on their errors.
807   (Jonathan Lange, Martin [gz], #788974)
809 * Less boilerplate displayed in test failures and errors.
810   (Jonathan Lange, #660852)
812 * ``MatchesException`` now allows you to match exceptions against any matcher,
813   rather than just regular expressions.  (Jonathan Lange, #791889)
815 * ``MatchesException`` now permits a tuple of types rather than a single type
816   (when using the type matching mode).  (Robert Collins)
818 * ``MatchesStructure.byEquality`` added to make the common case of matching
819   many attributes by equality much easier.  ``MatchesStructure.byMatcher``
820   added in case folk want to match by things other than equality.
821   (Jonathan Lange)
823 * New convenience assertions, ``assertIsNone`` and ``assertIsNotNone``.
824   (Christian Kampka)
826 * New matchers:
828   * ``AllMatch`` matches many values against a single matcher.
829     (Jonathan Lange, #615108)
831   * ``Contains``. (Robert Collins)
833   * ``GreaterThan``. (Christian Kampka)
835 * New helper, ``safe_hasattr`` added. (Jonathan Lange)
837 * ``reraise`` added to ``testtools.compat``. (Jonathan Lange)
840 0.9.11
841 ~~~~~~
843 This release brings consistent use of super for better compatibility with
844 multiple inheritance, fixed Python3 support, improvements in fixture and mather
845 outputs and a compat helper for testing libraries that deal with bytestrings.
847 Changes
848 -------
850 * ``TestCase`` now uses super to call base ``unittest.TestCase`` constructor,
851   ``setUp`` and ``tearDown``. (Tim Cole, #771508)
853 * If, when calling ``useFixture`` an error occurs during fixture set up, we
854   still attempt to gather details from the fixture. (Gavin Panella)
857 Improvements
858 ------------
860 * Additional compat helper for ``BytesIO`` for libraries that build on
861   testtools and are working on Python 3 porting. (Robert Collins)
863 * Corrected documentation for ``MatchesStructure`` in the test authors
864   document.  (Jonathan Lange)
866 * ``LessThan`` error message now says something that is logically correct.
867   (Gavin Panella, #762008)
869 * Multiple details from a single fixture are now kept separate, rather than
870   being mooshed together. (Gavin Panella, #788182)
872 * Python 3 support now back in action. (Martin [gz], #688729)
874 * ``try_import`` and ``try_imports`` have a callback that is called whenever
875   they fail to import a module.  (Martin Pool)
878 0.9.10
879 ~~~~~~
881 The last release of testtools could not be easy_installed.  This is considered
882 severe enough for a re-release.
884 Improvements
885 ------------
887 * Include ``doc/`` in the source distribution, making testtools installable
888   from PyPI again (Tres Seaver, #757439)
891 0.9.9
892 ~~~~~
894 Many, many new matchers, vastly expanded documentation, stacks of bug fixes,
895 better unittest2 integration.  If you've ever wanted to try out testtools but
896 been afraid to do so, this is the release to try.
899 Changes
900 -------
902 * The timestamps generated by ``TestResult`` objects when no timing data has
903   been received are now datetime-with-timezone, which allows them to be
904   sensibly serialised and transported. (Robert Collins, #692297)
906 Improvements
907 ------------
909 * ``AnnotatedMismatch`` now correctly returns details.
910   (Jonathan Lange, #724691)
912 * distutils integration for the testtools test runner. Can now use it for
913   'python setup.py test'. (Christian Kampka, #693773)
915 * ``EndsWith`` and ``KeysEqual`` now in testtools.matchers.__all__.
916   (Jonathan Lange, #692158)
918 * ``MatchesException`` extended to support a regular expression check against
919   the str() of a raised exception.  (Jonathan Lange)
921 * ``MultiTestResult`` now forwards the ``time`` API. (Robert Collins, #692294)
923 * ``MultiTestResult`` now documented in the manual. (Jonathan Lange, #661116)
925 * New content helpers ``content_from_file``, ``content_from_stream`` and
926   ``attach_file`` make it easier to attach file-like objects to a
927   test. (Jonathan Lange, Robert Collins, #694126)
929 * New ``ExpectedException`` context manager to help write tests against things
930   that are expected to raise exceptions. (Aaron Bentley)
932 * New matchers:
934   * ``MatchesListwise`` matches an iterable of matchers against an iterable
935     of values. (Michael Hudson-Doyle)
937   * ``MatchesRegex`` matches a string against a regular expression.
938     (Michael Hudson-Doyle)
940   * ``MatchesStructure`` matches attributes of an object against given
941     matchers.  (Michael Hudson-Doyle)
943   * ``AfterPreproccessing`` matches values against a matcher after passing them
944     through a callable.  (Michael Hudson-Doyle)
946   * ``MatchesSetwise`` matches an iterable of matchers against an iterable of
947     values, without regard to order.  (Michael Hudson-Doyle)
949 * ``setup.py`` can now build a snapshot when Bazaar is installed but the tree
950   is not a Bazaar tree. (Jelmer Vernooij)
952 * Support for running tests using distutils (Christian Kampka, #726539)
954 * Vastly improved and extended documentation. (Jonathan Lange)
956 * Use unittest2 exception classes if available. (Jelmer Vernooij)
959 0.9.8
960 ~~~~~
962 In this release we bring some very interesting improvements:
964 * new matchers for exceptions, sets, lists, dicts and more.
966 * experimental (works but the contract isn't supported) twisted reactor
967   support.
969 * The built in runner can now list tests and filter tests (the -l and
970   --load-list options).
972 Changes
973 -------
975 * addUnexpectedSuccess is translated to addFailure for test results that don't
976   know about addUnexpectedSuccess.  Further, it fails the entire result for
977   all testtools TestResults (i.e. wasSuccessful() returns False after
978   addUnexpectedSuccess has been called). Note that when using a delegating
979   result such as ThreadsafeForwardingResult, MultiTestResult or
980   ExtendedToOriginalDecorator then the behaviour of addUnexpectedSuccess is
981   determined by the delegated to result(s).
982   (Jonathan Lange, Robert Collins, #654474, #683332)
984 * startTestRun will reset any errors on the result.  That is, wasSuccessful()
985   will always return True immediately after startTestRun() is called. This
986   only applies to delegated test results (ThreadsafeForwardingResult,
987   MultiTestResult and ExtendedToOriginalDecorator) if the delegated to result
988   is a testtools test result - we cannot reliably reset the state of unknown
989   test result class instances. (Jonathan Lange, Robert Collins, #683332)
991 * Responsibility for running test cleanups has been moved to ``RunTest``.
992   This change does not affect public APIs and can be safely ignored by test
993   authors.  (Jonathan Lange, #662647)
995 Improvements
996 ------------
998 * New matchers:
1000   * ``EndsWith`` which complements the existing ``StartsWith`` matcher.
1001     (Jonathan Lange, #669165)
1003   * ``MatchesException`` matches an exception class and parameters. (Robert
1004     Collins)
1006   * ``KeysEqual`` matches a dictionary with particular keys.  (Jonathan Lange)
1008 * ``assertIsInstance`` supports a custom error message to be supplied, which
1009   is necessary when using ``assertDictEqual`` on Python 2.7 with a
1010   ``testtools.TestCase`` base class. (Jelmer Vernooij)
1012 * Experimental support for running tests that return Deferreds.
1013   (Jonathan Lange, Martin [gz])
1015 * Provide a per-test decorator, run_test_with, to specify which RunTest
1016   object to use for a given test.  (Jonathan Lange, #657780)
1018 * Fix the runTest parameter of TestCase to actually work, rather than raising
1019   a TypeError.  (Jonathan Lange, #657760)
1021 * Non-release snapshots of testtools will now work with buildout.
1022   (Jonathan Lange, #613734)
1024 * Malformed SyntaxErrors no longer blow up the test suite.  (Martin [gz])
1026 * ``MismatchesAll.describe`` no longer appends a trailing newline.
1027   (Michael Hudson-Doyle, #686790)
1029 * New helpers for conditionally importing modules, ``try_import`` and
1030   ``try_imports``.  (Jonathan Lange)
1032 * ``Raises`` added to the ``testtools.matchers`` module - matches if the
1033   supplied callable raises, and delegates to an optional matcher for validation
1034   of the exception. (Robert Collins)
1036 * ``raises`` added to the ``testtools.matchers`` module - matches if the
1037   supplied callable raises and delegates to ``MatchesException`` to validate
1038   the exception. (Jonathan Lange)
1040 * Tests will now pass on Python 2.6.4 : an ``Exception`` change made only in
1041   2.6.4 and reverted in Python 2.6.5 was causing test failures on that version.
1042   (Martin [gz], #689858).
1044 * ``testtools.TestCase.useFixture`` has been added to glue with fixtures nicely.
1045   (Robert Collins)
1047 * ``testtools.run`` now supports ``-l`` to list tests rather than executing
1048   them. This is useful for integration with external test analysis/processing
1049   tools like subunit and testrepository. (Robert Collins)
1051 * ``testtools.run`` now supports ``--load-list``, which takes a file containing
1052   test ids, one per line, and intersects those ids with the tests found. This
1053   allows fine grained control of what tests are run even when the tests cannot
1054   be named as objects to import (e.g. due to test parameterisation via
1055   testscenarios). (Robert Collins)
1057 * Update documentation to say how to use testtools.run() on Python 2.4.
1058   (Jonathan Lange, #501174)
1060 * ``text_content`` conveniently converts a Python string to a Content object.
1061   (Jonathan Lange, James Westby)
1065 0.9.7
1066 ~~~~~
1068 Lots of little cleanups in this release; many small improvements to make your
1069 testing life more pleasant.
1071 Improvements
1072 ------------
1074 * Cleanups can raise ``testtools.MultipleExceptions`` if they have multiple
1075   exceptions to report. For instance, a cleanup which is itself responsible for
1076   running several different internal cleanup routines might use this.
1078 * Code duplication between assertEqual and the matcher Equals has been removed.
1080 * In normal circumstances, a TestCase will no longer share details with clones
1081   of itself. (Andrew Bennetts, bug #637725)
1083 * Less exception object cycles are generated (reduces peak memory use between
1084   garbage collection). (Martin [gz])
1086 * New matchers 'DoesNotStartWith' and 'StartsWith' contributed by Canonical
1087   from the Launchpad project. Written by James Westby.
1089 * Timestamps as produced by subunit protocol clients are now forwarded in the
1090   ThreadsafeForwardingResult so correct test durations can be reported.
1091   (Martin [gz], Robert Collins, #625594)
1093 * With unittest from Python 2.7 skipped tests will now show only the reason
1094   rather than a serialisation of all details. (Martin [gz], #625583)
1096 * The testtools release process is now a little better documented and a little
1097   smoother.  (Jonathan Lange, #623483, #623487)
1100 0.9.6
1101 ~~~~~
1103 Nothing major in this release, just enough small bits and pieces to make it
1104 useful enough to upgrade to.
1106 In particular, a serious bug in assertThat() has been fixed, it's easier to
1107 write Matchers, there's a TestCase.patch() method for those inevitable monkey
1108 patches and TestCase.assertEqual gives slightly nicer errors.
1110 Improvements
1111 ------------
1113 * 'TestCase.assertEqual' now formats errors a little more nicely, in the
1114   style of bzrlib.
1116 * Added `PlaceHolder` and `ErrorHolder`, TestCase-like objects that can be
1117   used to add results to a `TestResult`.
1119 * 'Mismatch' now takes optional description and details parameters, so
1120   custom Matchers aren't compelled to make their own subclass.
1122 * jml added a built-in UTF8_TEXT ContentType to make it slightly easier to
1123   add details to test results. See bug #520044.
1125 * Fix a bug in our built-in matchers where assertThat would blow up if any
1126   of them failed. All built-in mismatch objects now provide get_details().
1128 * New 'Is' matcher, which lets you assert that a thing is identical to
1129   another thing.
1131 * New 'LessThan' matcher which lets you assert that a thing is less than
1132   another thing.
1134 * TestCase now has a 'patch()' method to make it easier to monkey-patching
1135   objects in tests. See the manual for more information. Fixes bug #310770.
1137 * MultiTestResult methods now pass back return values from the results it
1138   forwards to.
1140 0.9.5
1141 ~~~~~
1143 This release fixes some obscure traceback formatting issues that probably
1144 weren't affecting you but were certainly breaking our own test suite.
1146 Changes
1147 -------
1149 * Jamu Kakar has updated classes in testtools.matchers and testtools.runtest
1150   to be new-style classes, fixing bug #611273.
1152 Improvements
1153 ------------
1155 * Martin[gz] fixed traceback handling to handle cases where extract_tb returns
1156   a source line of None. Fixes bug #611307.
1158 * Martin[gz] fixed an unicode issue that was causing the tests to fail,
1159   closing bug #604187.
1161 * testtools now handles string exceptions (although why would you want to use
1162   them?) and formats their tracebacks correctly. Thanks to Martin[gz] for
1163   fixing bug #592262.
1165 0.9.4
1166 ~~~~~
1168 This release overhauls the traceback formatting layer to deal with Python 2
1169 line numbers and traceback objects often being local user encoded strings
1170 rather than unicode objects. Test discovery has also been added and Python 3.1
1171 is also supported. Finally, the Mismatch protocol has been extended to let
1172 Matchers collaborate with tests in supplying detailed data about failures.
1174 Changes
1175 -------
1177 * testtools.utils has been renamed to testtools.compat. Importing
1178   testtools.utils will now generate a deprecation warning.
1180 Improvements
1181 ------------
1183 * Add machinery for Python 2 to create unicode tracebacks like those used by
1184   Python 3. This means testtools no longer throws on encountering non-ascii
1185   filenames, source lines, or exception strings when displaying test results.
1186   Largely contributed by Martin[gz] with some tweaks from Robert Collins.
1188 * James Westby has supplied test discovery support using the Python 2.7
1189   TestRunner in testtools.run. This requires the 'discover' module. This
1190   closes bug #250764.
1192 * Python 3.1 is now supported, thanks to Martin[gz] for a partial patch.
1193   This fixes bug #592375.
1195 * TestCase.addCleanup has had its docstring corrected about when cleanups run.
1197 * TestCase.skip is now deprecated in favour of TestCase.skipTest, which is the
1198   Python2.7 spelling for skip. This closes bug #560436.
1200 * Tests work on IronPython patch from Martin[gz] applied.
1202 * Thanks to a patch from James Westby testtools.matchers.Mismatch can now
1203   supply a get_details method, which assertThat will query to provide
1204   additional attachments. This can be used to provide additional detail
1205   about the mismatch that doesn't suite being included in describe(). For
1206   instance, if the match process was complex, a log of the process could be
1207   included, permitting debugging.
1209 * testtools.testresults.real._StringException will now answer __str__ if its
1210   value is unicode by encoding with UTF8, and vice versa to answer __unicode__.
1211   This permits subunit decoded exceptions to contain unicode and still format
1212   correctly.
1214 0.9.3
1215 ~~~~~
1217 More matchers, Python 2.4 support, faster test cloning by switching to copy
1218 rather than deepcopy and better output when exceptions occur in cleanups are
1219 the defining characteristics of this release.
1221 Improvements
1222 ------------
1224 * New matcher "Annotate" that adds a simple string message to another matcher,
1225   much like the option 'message' parameter to standard library assertFoo
1226   methods.
1228 * New matchers "Not" and "MatchesAll". "Not" will invert another matcher, and
1229   "MatchesAll" that needs a successful match for all of its arguments.
1231 * On Python 2.4, where types.FunctionType cannot be deepcopied, testtools will
1232   now monkeypatch copy._deepcopy_dispatch using the same trivial patch that
1233   added such support to Python 2.5. The monkey patch is triggered by the
1234   absence of FunctionType from the dispatch dict rather than a version check.
1235   Bug #498030.
1237 * On windows the test 'test_now_datetime_now' should now work reliably.
1239 * TestCase.getUniqueInteger and TestCase.getUniqueString now have docstrings.
1241 * TestCase.getUniqueString now takes an optional prefix parameter, so you can
1242   now use it in circumstances that forbid strings with '.'s, and such like.
1244 * testtools.testcase.clone_test_with_new_id now uses copy.copy, rather than
1245   copy.deepcopy. Tests that need a deeper copy should use the copy protocol to
1246   control how they are copied. Bug #498869.
1248 * The backtrace test result output tests should now pass on windows and other
1249   systems where os.sep is not '/'.
1251 * When a cleanUp or tearDown exception occurs, it is now accumulated as a new
1252   traceback in the test details, rather than as a separate call to addError / 
1253   addException. This makes testtools work better with most TestResult objects
1254   and fixes bug #335816.
1257 0.9.2
1258 ~~~~~
1260 Python 3 support, more matchers and better consistency with Python 2.7 --
1261 you'd think that would be enough for a point release. Well, we here on the
1262 testtools project think that you deserve more.
1264 We've added a hook so that user code can be called just-in-time whenever there
1265 is an exception, and we've also factored out the "run" logic of test cases so
1266 that new outcomes can be added without fiddling with the actual flow of logic.
1268 It might sound like small potatoes, but it's changes like these that will
1269 bring about the end of test frameworks.
1272 Improvements
1273 ------------
1275 * A failure in setUp and tearDown now report as failures not as errors.
1277 * Cleanups now run after tearDown to be consistent with Python 2.7's cleanup
1278   feature.
1280 * ExtendedToOriginalDecorator now passes unrecognised attributes through
1281   to the decorated result object, permitting other extensions to the
1282   TestCase -> TestResult protocol to work.
1284 * It is now possible to trigger code just-in-time after an exception causes
1285   a test outcome such as failure or skip. See the testtools MANUAL or
1286   ``pydoc testtools.TestCase.addOnException``. (bug #469092)
1288 * New matcher Equals which performs a simple equality test.
1290 * New matcher MatchesAny which looks for a match of any of its arguments.
1292 * TestCase no longer breaks if a TestSkipped exception is raised with no
1293   parameters.
1295 * TestCase.run now clones test cases before they are run and runs the clone.
1296   This reduces memory footprint in large test runs - state accumulated on
1297   test objects during their setup and execution gets freed when test case
1298   has finished running unless the TestResult object keeps a reference.
1299   NOTE: As test cloning uses deepcopy, this can potentially interfere if
1300   a test suite has shared state (such as the testscenarios or testresources
1301   projects use).  Use the __deepcopy__ hook to control the copying of such
1302   objects so that the shared references stay shared.
1304 * Testtools now accepts contributions without copyright assignment under some
1305   circumstances. See HACKING for details.
1307 * Testtools now provides a convenient way to run a test suite using the
1308   testtools result object: python -m testtools.run testspec [testspec...].
1310 * Testtools now works on Python 3, thanks to Benjamin Peterson.
1312 * Test execution now uses a separate class, testtools.RunTest to run single
1313   tests. This can be customised and extended in a more consistent fashion than
1314   the previous run method idiom. See pydoc for more information.
1316 * The test doubles that testtools itself uses are now available as part of
1317   the testtools API in testtols.testresult.doubles.
1319 * TracebackContent now sets utf8 as the charset encoding, rather than not
1320   setting one and encoding with the default encoder.
1322 * With python2.7 testtools.TestSkipped will be the unittest.case.SkipTest
1323   exception class making skips compatible with code that manually raises the
1324   standard library exception. (bug #490109)
1326 Changes
1327 -------
1329 * TestCase.getUniqueInteger is now implemented using itertools.count. Thanks
1330   to Benjamin Peterson for the patch. (bug #490111)
1333 0.9.1
1334 ~~~~~
1336 The new matcher API introduced in 0.9.0 had a small flaw where the matchee
1337 would be evaluated twice to get a description of the mismatch. This could lead
1338 to bugs if the act of matching caused side effects to occur in the matchee.
1339 Since having such side effects isn't desirable, we have changed the API now
1340 before it has become widespread.
1342 Changes
1343 -------
1345 * Matcher API changed to avoid evaluating matchee twice. Please consult
1346   the API documentation.
1348 * TestCase.getUniqueString now uses the test id, not the test method name,
1349   which works nicer with parameterised tests.
1351 Improvements
1352 ------------
1354 * Python2.4 is now supported again.
1357 0.9.0
1358 ~~~~~
1360 This release of testtools is perhaps the most interesting and exciting one
1361 it's ever had. We've continued in bringing together the best practices of unit
1362 testing from across a raft of different Python projects, but we've also
1363 extended our mission to incorporating unit testing concepts from other
1364 languages and from our own research, led by Robert Collins.
1366 We now support skipping and expected failures. We'll make sure that you
1367 up-call setUp and tearDown, avoiding unexpected testing weirdnesses. We're
1368 now compatible with Python 2.5, 2.6 and 2.7 unittest library.
1370 All in all, if you are serious about unit testing and want to get the best
1371 thinking from the whole Python community, you should get this release.
1373 Improvements
1374 ------------
1376 * A new TestResult API has been added for attaching details to test outcomes.
1377   This API is currently experimental, but is being prepared with the intent
1378   of becoming an upstream Python API. For more details see pydoc
1379   testtools.TestResult and the TestCase addDetail / getDetails methods.
1381 * assertThat has been added to TestCase. This new assertion supports
1382   a hamcrest-inspired matching protocol. See pydoc testtools.Matcher for
1383   details about writing matchers, and testtools.matchers for the included
1384   matchers. See http://code.google.com/p/hamcrest/.
1386 * Compatible with Python 2.6 and Python 2.7
1388 * Failing to upcall in setUp or tearDown will now cause a test failure.
1389   While the base methods do nothing, failing to upcall is usually a problem
1390   in deeper hierarchies, and checking that the root method is called is a
1391   simple way to catch this common bug.
1393 * New TestResult decorator ExtendedToOriginalDecorator which handles
1394   downgrading extended API calls like addSkip to older result objects that
1395   do not support them. This is used internally to make testtools simpler but
1396   can also be used to simplify other code built on or for use with testtools.
1398 * New TextTestResult supporting the extended APIs that testtools provides.
1400 * Nose will no longer find 'runTest' tests in classes derived from
1401    testtools.testcase.TestCase (bug #312257).
1403 * Supports the Python 2.7/3.1 addUnexpectedSuccess and addExpectedFailure
1404   TestResult methods, with a support function 'knownFailure' to let tests
1405   trigger these outcomes.
1407 * When using the skip feature with TestResult objects that do not support it
1408   a test success will now be reported. Previously an error was reported but
1409   production experience has shown that this is too disruptive for projects that
1410   are using skips: they cannot get a clean run on down-level result objects.
1413 .. _testtools: http://pypi.python.org/pypi/testtools