Catch a database exception in lmtp runner and return 451 status.
[mailman.git] / src / mailman / docs / NEWS.rst
blobbd3fb2421b151a70bcb22d3aa467290c686767cd
1 =======================
2  GNU Mailman 3 changes
3 =======================
5 Copyright (C) 1998-2022 by the Free Software Foundation, Inc.
6 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA
8 Here is a history of user visible changes to Mailman.
10 .. _news-3.3.10:
12 3.3.10
13 ======
15 (xxxx-xx-xx)
17 Bugs fixed
18 ----------
19 * The ``mailman members`` command will now fall back to the member's user
20   record display_name if the address record has none.  (Closes #1107)
21 * The user_name_or_email substitution in regular header/footer templates now
22   works (Closes #1108)
23 * The output from the ``mailman lists`` command no longer has trailing blanks
24   and the command with the ``-d`` option doesn't fail with very long list ids.
25   (Closes #1117 and #1118)
26 * The text of the AlreadySubscribedError is now translatable.  (Closes #1121)
27 * The ``mailman import21`` command adjust spaces in ``subject_prefix`` for
28   Mailman 2.1 compatibility.  (Closes #1135)
29 * An exception in the lmtp runner is caught and a retryable status returned.
30   (Closes #1148)
32 New Features
33 ------------
34 * One can now add entries like ``@list@example.com`` to the
35   ``accept_these_nonmembers`` attribute of a list to accept nonmember posts
36   from members of another list.  (Closes #794)
37 * REST API now allows forwarding the held message to a new address when handling
38   the message. (Fixes #174)
39 * Add the ability to set web URLs by setting domain's ``base_url`` parameter
40   which allows using parameters like ``$held_message_url`` in
41   the templates. (See #981)
42 * The ``mailman create`` command now has a ``--style-name NAME`` option.
43   (Closes #1136)
44 * The task runner will now delete message files that have no entry in the
45   message store.  (Closes #1145)
47 Other
48 -----
49 * The Mailman master process that starts the runners will now pass a
50   number of environment variables to the runner processes that alter
51   the behavior of the Python interpreter.  See section ENVIRONMENT
52   VARIABLES in `man python`.
54 Packaging
55 ---------
56 * Migrate to using the new standard `pyproject.toml` for Python packaging
57   instead of setup.py. This also moves from setuptools to pdm to be used
58   as the build backend.
60 .. _news-3.3.9:
62 3.3.9
63 =====
65 (2023-10-20)
67 Configuration
68 -------------
70 * **BREAKING CHANGE**: ``logging.http`` section has now been split into two
71   parts, ``logging.http`` is for the Mailman internal code and
72   ``logging.gunicorn`` is for Gunicorn specifically since they have
73   different logging formats. This should fix suprious errors with
74   ``KeyError: t`` that was often confusing for users. (Fixes #1049)
76 * Python 3.9 is now the minimum supported version of Python.
78 Bugs fixed
79 ----------
80 * ``config.mta.remove_dkim_headers`` now applies to messages to -owner.
81   (Closes #1053)
82 * The master process now robustly detects when runner processes
83   terminate and restarts them (Closes #898).
84 * Setting Postfix transport_file_type: regex without setting something for
85   postmap_command: no longer throws an exception.  (Closes #1058)
86 * When bounce processing disables delivery for a user, the user's score is
87   reset so it will be zero if delivery is enabled.  (Closes #1061)
88 * The ``mailman shell`` command now works and displays the banner with
89   ``use_ipython: yes``.  (Closes #1062)
90 * Bogus Message-ID headers that have been observed in the wild are now fixed.
91   (Closes #1065)
92 * Raising StopIteration in a workflow process no longer creates a mailman.error
93   log entry.  (Closes #1059)
94 * The task runner now evicts old, processed bounce events.  (Closes #1067)
95 * We now require authheaders>=0.15.2.  (Closes #1064)
96 * Digests no longer contain a bogus Archived-At header.  (Closes #1069)
97 * Content filtering will no longer add its report to a non-mixed multipart
98   message but will wrap the message and add the report to the wrapper.
99   (Closes #1071)
100 * The administrivia rule will now decode encoded message bodies.
101   (Closes #1072)
102 * Email address validation now accepts quoted local parts and @ in local part.
103   (Closes #1077)
104 * The default for max_recipients has been reduced to 10 to avoid possible lost
105   mail when a large number of invalid recipients causes the MTA to disconnect.
106   (Closes #1083)
107 * Messages preserved or forwarded by content filtering are now the original
108   message rather than the content filtered one.  (Closes #1089)
109 * List welcome and goodbye messages to users with English preferred_language
110   now have their Subject: RFC 2047 encoded as needed.  (Closes #1098)
111 * Bounce processing notifications due to a DSN for multiple users now have the
112   DSN attached to each notice.  (Closes #1101)
114 New Features
115 ------------
116 * There is a new ``dmarc_addresses`` list attribute which is a list of email
117   addresses and patterns matching email addresses.  If a post is From: an
118   address matching one of these, dmarc mitigations will be applied regardless
119   of the From: domain's dmarc policy.  (Closes #1084)
121 Other
122 -----
123 * Typo corrected under "Building the documentation" section of
124   ``contribute.rst``.  (Fixes #1075)
126 .. _news-3.3.8:
128 3.3.8
129 =====
131 (2023-01-04)
133 Bugs fixed
134 ----------
135 * The deprecated SQLAlchemy query.values() method is replaced by
136   query.with_entities().  This fixes an issue with MariaDB that truncated
137   the generated postfix_lmtp file.  (Closes #1044)
138 * An uncaught passlib.exc.UnknownHashError in utilities/passwords.py is now
139   caught and handled appropriately.  (Closes #1046)
140 * Rejection notices for a message with an RFC 2047 encoded Subject: now display
141   the decoded subject.  (Closes #672)
142 * Don't RFC 2047 encode display names in UserNotifications. Allow sending
143   utf-8 encoded notifications.  (Closes #673)
144 * Don't replace non-ascii in subjects in notifications.  (Closes #673)
147 Command line
148 ------------
149 * The ``mailman members`` command no longer RFC 2047 encodes non-ascii display
150   names.  (Closes #1048)
153 Performance
154 -----------
155 * Improve the performance of Held message handling by reducing the total
156   number of database calls required. (Fixes #1026 and #1045)
159 Python Support
160 --------------
161 * Add support for Python 3.10. (Closes #936)
162 * Add support for Python 3.11 (See !1076)
166 .. _news-3.3.7:
168 3.3.7
169 =====
171 (2022-11-10)
173 **BREAKING CHANGE**: When using PostgreSQL database with Mailman, starting with
174 Mailman Core 3.3.7 (due to bump in SQLAlchemy 1.4+), the urls in ``[database]``
175 section will require ``postgresql`` as the scheme. Previously, ``postgres`` was
176 also accepted. This is an example config::
178     [database]
179     class: mailman.database.postgresql.PostgreSQLDatabase
180     url: postgresql://myuser:mypassword@mypghost/mailman
183 Dependencies
184 ------------
185 * Add support for SQLAlchemy 1.4+ (Closes #964)
188 Python Support
189 --------------
191 * Drop support for Python 3.6 since SQLAlchemy 2.0 will drop
192   support for it and it is EOL by now. (See !1035)
195 Bugs fixed
196 ----------
197 * The fix for #994 in 3.3.6 blocked too many subscription attempts.  This is
198   now corrected and another test added.
201 .. _news-3.3.6:
203 3.3.6
204 =====
206 (2022-10-26)
208 Bugs fixed
209 ----------
210 * The ``mailman members`` command reports incompatible options that would
211   otherwise throw exceptions.
212 * Require authheaders >=0.14.0 and adjust tests accordingly.  (Closes #954)
213 * Handling a held message will not remove it from the message store if there
214   are other requests for it.  (Closes #955)
215 * ARC signing now signs after the message has been personalized and decorated.
216   (Closes #896)
217 * The prior fix for expanding replacements in the ``list:user:notice:goodbye``
218   template was incomplete.  This is fixed.  (Closes #922)
219 * Decoration of an html message containing non-ascii resulted in a message
220   that couldn't by flattened as_bytes and whose as_string representation
221   contained non-ascii.  This is fixed.  (Closes #965 and #967)
222 * The REST API will now accept JSON encoded data with boolean values for
223   boolean attributes.  (Closes #970)
224 * Fix a bug where loading a plugin which raises an exception in ``pre_hook``
225   can cause Mailman to crash trying to disable that plugin. (Closes #724)
226 * Fix a bug where the ``PIDWatcher()`` iterates over internal dict while
227   it can be updated during that time. (Closes #724)
228 * The ``mailman import21`` now always imports owners/moderators with
229   ``DeliveryStatus.enabled``.  (Closes #977)
230 * A specific nonmember moderation action will be checked for and applied before
231   testing the legacy ``*_these_nonmembers`` settings.  (Closes #978)
232 * Invalid regexps in ``*_these_nonmembers`` are properly logged and can't be
233   set via REST.  (Closes #974)
234 * Override the as_bytes() method in the mailman.email.message.Message class to
235   workaround https://bugs.python.org/issue41307.  (Closes #979 and #980)
236 * The nonmember moderation rule now checks all senders, not just the first.
237   (Closes #986)
238 * The i18n gettext replacements now all use curly brace notation to avoid
239   issues whith translations that might follow them immediately with a period.
240   The various mailman.po files have been updated accordingly.  (Closes #987)
241 * The ``mailman import21`` command no longer creates unnecessary entries in the
242   ``template`` table.  (Closes #988)
243 * DMARC munge from mitigation will now find a nonmember poster's display name.
244   (Closes #989)
245 * Subscription workflow will now find an existing User when subscription is
246   for an Address and vice versa.  (Closes #994)
247 * The subject of Welcome and Goodbye messages is now translated.  (Closes #993)
248 * Emails to a list's ``-join``, ``-leave`` or ``-confirm`` address that result
249   in some errors will now produce a response.  (Closes #991)
250 * RFC2047 encoded Subject: and From: headers reported in email command replies
251   are now decoded.  (Closes #999)
252 * The ``mailman import21`` command now converts more template replacements and
253   reports to stderr any remaining unconverted replacements.  (See #870)
254 * The postfix generated virtual mappings now have correct spacing with
255   alias_domains.  (Closes #1001 and #1013)
256 * Updated outgoing runner's fake DSN to use list addresses rather than
257   mailman@example.com in From: and To:.  (Closes #1018)
258 * Subject prefixing on lists with non-ascii preferred language no longer drops
259   parts of folded subject headers.  (Closes #1021)
260 * The ``verp_confirmations`` setting has now been implemented with default
261   of ``yes``.  (Closes #1023)
262 * The ``anonymous_list_keep_headers`` setting now only applies to X-* headers
263   and will not cause non X-* headers to be removed.  (Closes #1031)
264 * The ``mailman.mta.connection.sendmail()`` method now accepts a string, bytes
265   or a Message object and ``BaseDelivery`` now passes a Message object.
266   (See #1022)
267 * The ``mailman.app.inject.inject_text()`` function now creates the Message
268   object from bytes.  (Closes #1024)
269 * The ``mailman import21`` command now adds ``^listname@`` to the list's
270   ``acceptable_aliases`` for compatiblity with Mailman 2.1's behavior.
271   (Closes #1032)
272 * An ``AttributeError`` thrown in the task runner, possibly due to a race
273   condition, is now avoided.  (Closes #1028)
274 * Email confirmation of a subscription request for a member is no longer
275   shunted.  (Closes #1035)
277 REST
278 ----
279 * Expose bounce related parameters for Member objects.
281 Command line
282 ------------
283 * The ``mailman members`` command now has a ``--count-only`` option.
284   (Closes #1030)
286 New Features
287 ------------
288 * The LMTP service now only accept ``RCPT TO`` commands if the given
289   recipient address is acceptable (See !1043).
291 .. _news-3.3.5:
293 3.3.5
294 =====
296 (2021-09-28)
298 Bugs fixed
299 ----------
300 * Bounce runner now properly commits database transactions.  (Closes #850)
301 * Pending subscriptions now have a lifetime equal to the configured
302   ``pending_request_life`` rather than 3650 days.  (Closes #729)
303 * Held messages which are handled are now removed from the message store and
304   the pending db.  (Closes #257)
305 * Admin notices sent when a list member's delivery is disabled by bounce or
306   when a member's bounce score is incremented, now contain a copy of the
307   triggering DSN.  (Closes #737)
308 * Handling a held message now also removes the poster's pending
309   ``held message`` from the pending db.  (Closes #257)
310 * Deleting a pending request now also deletes any associated workflow.
311   (See #853)
312 * A new runner which is not a queue runner and which doesn't override its
313   ``run`` or ``_one_itiration`` methods can now be implemented.  (Closes #866)
314 * The ``FileNotFound`` exception thrown in CacheManager on attempt to delete
315   an entry for a missing file is now caught.  (Closes #867)
316 * Pending probe bounce tokens now have a lifetime of 10 days.  (Closes #869)
317 * Improve the performance of ``/users`` API when paginating by doing the
318   pagination in database layer. (Closes #876)
319 * Attempts to get a message from the message store with a missing file are
320   now handled.  (Closes #877)
321 * The task runner no longer prematurely deletes saved DSNs.  (Closes #878)
322 * Bounce probe messages now contain the DSN as advertised.  (Closes #880)
323 * The avoid_duplicates handler properly handles headers that are returned as
324   email.header.Header instances rather than strings.  (Closeds #881)
325 * The mta.deliver module properly handles headers that are returned as
326   email.header.Header instances rather than strings.  (Closeds #882)
327 * Places where  ``to_list`` in the message metadata were increctly referenced
328   as ``tolist`` have been corrected.  (Closes #883)
329 * It is now possible to confirm held messages by email as the admin notice
330   says.  (Closes #169)
331 * Some exceptions in ARC signing of some posts from HyperKitty and some from
332   prod.outlook.com are now handled without shunting the message.  (Closes #885)
333 * Command runner now will decode the message body before processing it.
334   (Closes #859)
335 * The ``mailinglist`` table ``info``, ``autoresponse_owner_text``,
336   ``autoresponse_postings_text`` and ``autoresponse_request_text`` columns are
337   changed to Text.  (Closes #840, #886 and #925)
338 * The mailing list administrators roster ``get_member()`` method now returns
339   the owner if the target is both an owner and moderator.  (Closes #888)
340 * Command runner now handles RFC 2047 encoded command with non-ascii prefix.
341   (Closes #858)
342 * Improve performance of the bounce runner by decreasing the number of
343   database queries executed.
344 * The master watcher will now restart a process that exits.  (See #887)
345 * When using MySQL, most database columns that expect user input will now
346   accept emojis and other 4-byte unicode characters by using the utf8mb4
347   character set instead of 3-byte. (Closes #891)
348 * LMTP runner now sets unixfrom in incoming messages.  (Closes #904)
349 * The ``Message`` ``senders()`` method now RFC2047-decodes and unfolds headers.
350   (Closes #903)
351 * The ``Message`` ``senders()`` method now gets all the addresses from the
352   configured headers.  (Closes #905)
353 * Require flufl.bounce >=3.0.2, which improves parsing of bounce messages.
354   (Closes #892)
355 * DMARC policy discovery ignores domains with multiple DMARC records per
356   RFC 7849.  (Closes #907)
357 * Held messages missing from the message store can now be accepted and/or
358   forwarded.  (closes #914)
359 * Dispose SQLAlchemy connections after a new worker process is forked. (Closes
360   #854)
361 * Exceptions in bounce processing member removal don't roll back successful
362   removals.  (Closes #909)
363 * Only remove or send warnings to list members when processing bounces.
364   (Closes #910)
365 * Replacements are now expanded in the ``list:user:notice:goodbye`` template.
366   (Closes #922)
367 * The nntp runner no longer folds long headers in newsgroup posts.  (Closes
368   #919)
369 * RFC 2047 encoded subject headers will now be recoded in the character set of
370   the list's preferred_language during subject prefixing if possible.  (Closes
371   #923)
372 * DMARC mitigation wrap message now ensures existing cc and reply-to headers
373   are included in the wrapper.  (Closes #926)
374 * The tagger handler now stringifies any Header instances.  (Closes #928)
375 * Invitation and (un)subscription confirmation subjects are now translated
376   to the list's preferred language.  (Closes #930)
377 * The ``mailman syncmembers`` command now catches and reports a
378   ``SubscriptionPendingError``.  (Closes #929)
379 * Trailing spaces are no longer removed from header and footer templates.
380   (Closes #932)
381 * The email ``join`` command now handles RFC2047 encoded display names with
382   embedded commas.  (Closes #933)
383 * The ``gatenews`` command now parses messages with email.message_from_bytes
384   without specifying policy.  (Closes #934)
385 * Improve error message from REST API for invalid email address (Fixes #872)
386 * Nonmember posts gated from usenet bypass nonmember moderation.  (Closes #937)
387 * VERPed vacation responses and similar are no longer scored as bounces.
388   (Closes #939)
389 * If a message is held by a ``HeaderMatchRule``, the header name is now included
390   in the reason for hold.  (Closes #785)
392 Command line
393 ------------
394 * The ``notify`` subcommand is now more tolerant of certain database anomalies.
395   (Closes #861)
396 * The ``notify`` subcommand now handles unicode errors in decoding RFC 2047
397   encoded subject headers.  (Closes #915)
398 * The ``mailman`` command will refuse to run as root unless the new
399   ``--run-as-root`` option is specified.  (Closes #776 and #920)
401 REST
402 ----
403 * Fixed an exception on retreiving held messages if the held request exists,
404   but the message is missing.  (Closes #856)
405 * Add a new ``/users/find`` endpoint to allow searching for users by matching
406   display_name and user's email address. (Closes #874)
408 New Features
409 ------------
410 * There is a new ``bounce_notify_admin_on_bounce_increment`` list setting and
411   a corresponding ``list:admin:notice:increment`` template for the notice.
412   This setting, if True, will cause a notice to be sent to the list admins
413   when a member's bounce score is incremented, but doesn't disable delivery.
414 * There is a new ``moderator_request_life`` setting in the ``[mailman]``
415   section of mailman.cfg that controls the lifetime of pending moderator
416   requests as opposed to pending user confirmations.  Default is 180 days.
417 * There is a new ``task`` runner to do periodic tasks.  The current
418   implementation evicts expired pendings and cache entries and removes
419   orphaned workflows and orphaned message store messages.  It does these tasks
420   at intervals defined by the new ``run_tasks_every`` setting in the
421   ``[mailman]`` section of mailman.cfg. Default is 1 hour.  (Closes #467 and
422   #853)
423 * There is a new ``list:admin:notice:pending`` template for the notice from
424   the ``mailman notify`` command.  (Closes #890)
425 * The ``nntp`` runner will now run the ``gatenews`` subcommand at intervals
426   defined by a new ``gatenews_every`` setting in the ``[nntp]`` section of
427   mailman.cfg. Default is 5 every minutes.
429 Security
430 --------
431 * Check the REST API password in a way that is resistant to timing attacks.
432   (CVE-2021-34337, Closes #911)
434 .. _news-3.3.4:
436 3.3.4
437 =====
439 (2021-03-21)
441 Bugs
442 ----
443 * Require aiosmtpd >= 1.4.1 to allow address local parts longer than 64 bytes
444   in the lmtp runner.  (Closes #836)
445 * The email join command now honors the digest=<no|mime|plain> option.
446   (Closes #19)
447 * Folded ``Message-ID`` headers no longer cause folded smtp.log messages.
448   (Closes #844)
449 * Removal of headers from posts to anonymous lists that can reveal the poster
450   or the poster's domain has been improved.  (Closes #848)
452 Command line
453 ------------
454 * The ``notify`` subcommand will now decode an RFC 2047 encoded Subject: for
455   the report of held messages.  (Closes #831)
456 * The deprecated options ``--add``, ``--del`` and ``--sync`` are now disabled
457   on the ``mailman members`` command.
459 REST
460 ----
461 * Improve the speed of Members lookup via REST API. (Related to #700)
462 * Allow specifying ``delivery_mode`` and ``delivery_status`` when creating a
463   new Member. (Closes #828)
464 * Allow filtering members in ``/members/find`` API using ``delivery_status``,
465   ``delivery_mode`` and ``moderation_action``. (See #827)
467 New Features
468 ------------
469 * There is a new setting ``filter_report`` in the ``[mailman]`` section of
470   mailman.cfg.  If this is set to ``yes``, a report of changes by content
471   filtering will be added to the outgoing message.  (Closes #833)
472 * There is a new setting ``check_max_size_on_filtered_message`` in the
473   ``[mailman]`` section of mailman.cfg.  If this is set to ``yes`` and the
474   list does content filtering, the ``max_message_size`` hold will be based
475   on the size of the content filtered message.  (Closes #377)
476 * There is a new setting ``anonymous_list_keep_headers`` in the ``[mailman]``
477   section of mailman.cfg.  This is part of improved removal of headers from
478   posts to anonymous lists.  This setting is a space separated list of regexp
479   patterns.  After anonomyzing removes the headers which are known to reveal
480   the poster or poster's domain, it then removes all headers whose names do
481   not match (case-insensitively) one of these patterns.  The default setting
482   keeps non X- headers, those X- headers added by Mailman and any X-Spam-
483   headers.
485 Other
486 -----
487 * Add better error message for preferred email edit when not verified. (Closes #706)
488 * Reduce the number of database calls in UserManager. (Closes #700)
490 .. _news-3.3.3:
492 3.3.3
493 =====
495 (2021-02-02)
497 Bugs
498 ----
499 * Handle some UnicodeEncodeErrors in creating digests.  (Closes #560)
500 * Increased the size of the data column in the workflowstate table.
501   (Closes #793)
502 * Implemented a ``scrubber`` for plain text digests.  (Closes #473)
503 * The ``mailman gatenews`` command now adds ``original_size`` as a message
504   attribute.  (Extends fix for #762)
505 * Handle FileNotFoundError when creating digest.mmdf file without a
506   parent directory present.  (Closes #699)
507 * Fixed an issue where content filtering can throw UnicodeEncodeError when
508   converting HTML to plain text.  (Closes #798)
509 * A bounce for a non-existent list is now handled.  (Closes #799)
510 * RFC 2047 From: headers in emailed ``join`` commands are now decoded.
511   (Closes #802)
512 * The ``mailman addmembers`` command now catches and reports a
513   ``SubscriptionPendingError``.  (Closes #805)
514 * RFC 2369 ``List-Owner`` header is now added when these headers are included.
515   (Closes #809)
516 * Header filters will now properly match RFC 2047 encoded headers.
517   (Closes #815)
518 * Mailman's ``vette`` log discard messages now include the reasons.
519   (Closes #816)
520 * Increase the default REST API (gunicorn) timeout to 360 seconds from 30 as
521   several API endpoinds can be very slow. (Closes #770)
522 * Header filter rules are now properly processed after deletions and/or
523   reordering.  (Closes #818)
524 * Folded ``To: list-confirm+token@...`` headers are now parsed correctly.
525   (Closes: #819)
527 Command line
528 ------------
529 * A new ``findmember`` ``mailman`` subcommand has been added to find to which
530   lists and with which roles an address matching a given pattern belongs.
531 * A new ``changeaddress`` ``mailman`` subcommand has been added to enable site
532   admins to change a user's address.
534 New Features
535 ------------
536 * There is a new setting ``hold_digest`` in the ``[mailman]`` section of
537   mailman.cfg.  If this is set to ``yes``, posts with a digest like Subject:
538   header or which quote the digest masthead will be held for moderation.
540 REST
541 ----
542 * List configuration option ``send_goodbye_message`` is now exposed through
543   the REST API. (See !737)
544 * Allow updating an Addresses' display_name attribute. (Closes #786)
545 * Allow specifying a reason when rejecting a subscription request. (Closes
546   #767)
547 * REST API now exposes unsubscription requests that can be handled by
548   Moderator. (Closes #768)
550 3.3.2
551 =====
553 (2020-11-6)
555 Bugs
556 ----
557 * When importing 2.1 lists, ignore CR characters added by browsers in headers
558   and footers.  (Closes #701)
559 * RFC 2369 headers are now added to notification messages.  (Closes #710)
560 * Bounce probes are now encoded in the correct charset.  (Closes #712)
561 * We now unfold address containing headers before parsing in avoid_duplicates.
562   (Closes #725)
563 * The ``dmarc`` rule no longer misses if DNS returns a name containing upper
564   case.  (Closes #726)
565 * Fixed ``mailman.email.message.Message.as_string`` to not return unicode
566   surrogates.  (Closes #732)
567 * Bounce probes can now be sent to a member subscribed as a User.
568   (Closes #739)
569 * A member subscribed as a User can now be unsubscribed.  (Closes #734)
570 * When a handler rejects or discards a message, it won't be delivered or
571   archived anyway.  (Closes #752)
572 * Messages forwarded when content filtering removes the entire message and
573   ``filter_action`` is forward now go to owners as well as moderators.
574   (Closes #753)
575 * Handle TOCTOU conditions when there are two simultaneous subscription
576   requests for the same email address. (Closes #748)
577 * Removed unnecessary call to ``Lock().disown()`` from ``bin/master.py``.
578   (Closes #754)
579 * Fixed an invalid logging call in bin/master.py.  (Closes #756)
580 * VERPed list welcome messages now have a correct envelope sender.
581   (Closes #757)
582 * Messages in digests now contain a ``Message: N`` header.  (Closes #764)
583 * The LMTP runner will now add a ``Message-ID:`` header if missing.
584   (Closes #448 and #490)
585 * The ``mailman gatenews`` command now adds ``original_size`` to the msgdata.
586   (Closes #762)
588 Command line
589 ------------
590 * New ``addmembers``, ``delmembers`` and ``syncmembers`` ``mailman``
591   subcommands have been added.  These provide more options and controls than
592   the corresponding ``mailman members`` modes which are now deprecated.
593   (Closes #686)
594 * The ``mailman conf`` command without a ``-s/--section`` argument will now
595   show sections defined only in mailman.cfg in addition to those from
596   schema.cfg.  (Closes #736)
597 * Added a ``charset`` option to the ``import21`` subcommand.  (Closes #769)
598 * The ``import21`` subcommand will now truncate long SAUnicode values if the
599   database is MySQL.  (Closes #772)
600 * The ``import21`` subcommand no longer adds the entire legacy
601   ``*_these_nonmembers`` list and then removes the non-regexps.  It now just
602   adds the regexps.  (Closes #773)
604 REST
605 ----
606 * Add a new endpoint ``/lists/<listid>/requests/count`` which returns total
607   number of pending requests. (Closes #713)
608 * Subscription requests API now allows filtering requests with ``token_owner``
609   parameter. (Closes #714)
610 * Add ``subscription_mode`` to ``Member`` resource so API clients can
611   differentiate between subscription via address and via primary address of an
612   user. (Closes #707)
613 * Add ``/list/<listid>/held/count`` to get a count of total held
614   messages. (Closes #713)
615 * Add ``fields`` as an optional parameter in all the Member's APIs to customize
616   which fields are included in the resource. (Closes #716)
617 * Expose ``emergency`` field of MailingList via REST API. (Closes #719)
619 Localization
620 ------------
621 * Italian translations of the templates have been added.
622 * The default charset for many languages is changed to utf-8.  (Closes #747)
624 Others
625 ------
626 * Add a new ``archive_rendering_mode`` attribute to ``MailingList`` to
627   configure what kind of rendering should Archivers use to render
628   Emails. (Closes #720)
629 * An ``address=`` option has been added to the email ``join`` command to allow
630   requesting subscription of other than the sender of the email.  (Closes #721)
631 * Added the ability to invite members to a list.  (Closes #510 and #730)
632 * Made (un)subscription confirmation email subjects user friendly and
633   translatable.  (Closes #541)
634 * Implemented a new email ``who`` command to obtain list membership.
635 * Add support  for dnspython>=2.0. (Closes #743)
636 * Added information about ``pass_types``, ``filter_extensions`` and
637   ``pass_extensions`` to the content filtering doc.  (Closes #775)
639 3.3.1
640 =====
642 (2020-04-19)
644 Bugs
645 ----
646 * Allow ``action`` for header matches to be None in REST interface. (Closes #671)
647 * It is now possible to add the list posting address with nonmember role, e.g.
648   to give it a moderaction of discard.  (Closes #633)
649 * The issue of posting a message without a To: header to a fully personalized
650   list throwing a KeyError has been fixed.  (Closes #639)
651 * Confirmation or moderator approval of a subscription from an address banned
652   subsequent to subscribing will no longer succeed.  (Closes #642)
653 * Fixed an issue caused by the fix for #642 where email confirmation of a
654   banned subscription address would cause a shunted message.  (Closes #643)
655 * Fixed a bug where the ``postfix_vmap`` file would merge two columns for long
656   domain names. (Closes #651)
657 * Fix failing test cases due to changed API in a new version of dkimpy. (Closes
658   #655)
659 * Mailman now auto-geneartes alias maps when it starts for the first
660   time. (Closes #469)
661 * Sending a bounce probe now resets ``bounce_score``.  (Closes #660)
662 * Bounce probes which bounce are now properly recognized.  (Closes #661)
663 * Residual bounces are logged but are not processed further.  (Closes #662)
664 * Disabling delivery by bounce properly initializes some bounce info so
665   warnings can be sent and the member eventually removed.  (Closes #663)
666 * Bouncing member is not removed until
667   ``bounce_you_are_disabled_warnings_interval`` after the last warning was
668   sent.  (Closes #664)
669 * Fixed recipient address in delivery disabled by bounce notice to the user.
670   (Closes #665)
671 * Residial bounces are now marked as processed.  (Closes #669)
672 * Find members API now searches for the Member's display name too. (Closes #667)
673 * Content filtering ``convert_html_to_plaintext`` no longer creates messages
674   that can't be flattened as_bytes.  (Closes #677)
675 * Removed an incorrect failing assertion when confirming a confirm_then_moderate
676   unsubscription.  (Closes #553)
677 * Fix a bug due to incompatible API of a new version of ``importlib_resources``
678   library which causes Templates loading to fail. (Closes #691)
679 * Fix a bug due to incompatible API of a new version of ``zope.intefaces``.
680   (See !606)
681 * Import21 no longer tries to import banned addresses.  (Closes #688)
683 Command line
684 ------------
685 * A new ``mailman members --sync`` command has been added to help you
686   synchronize subscribed mailing list members against a text list of
687   subscription addresses. (see !545)
689 REST
690 ----
691 * Expose ``max_days_to_hold``, ``accept_these_nonmembers``,
692   ``reject_these_nonmembers``, ``discard_these_nonmembers``,
693   ``hold_these_nonmembers``, ``personalize``, and ``unsubscription_policy``
694   attributes of a MailingList through API. (See !570)
695 * Add a new ``send_welcome_message`` flag when subscribing users to override
696   MailingList's default setting. (Closes #362)
697 * Expose content filtering settings for MailingList. (Closes #694)
698 * Add ``advertised`` attribute to ``MailingList`` object so Postorius doesn't
699   have to make multiple calls for Index Page. (See !608)
700 * Expose ``filter_action`` attribute of MailingList through API. (See !609)
701 * Unsubscribing a user by calling ``DELETE`` on a Member resources now honors
702   Lists's ``unsubscription_policy`` and also sends out notifications to user
703   and admins if list is configured to do so. (Closes #759)
705 Features
706 --------
707 * Add support for processing of email bounce events. Thanks to Aaryan Bhagat for
708   working on this as a part of his GSoC project and Thanks to Google for
709   sponsoring the project as a part of GSoC.(See !584)
712 3.3.0 -- "Tom Sawyer"
713 =====================
714 (2019-09-04)
716 Bugs
717 ----
718 * A list member with ``receive_list_copy`` set to ``False`` who is addressed in
719   ``CC`` will now be removed from ``CC`` even if this results in no ``CC``.
720   (Closes #575)
721 * ``X-Mailman-Approved-At`` header now has correct timezone.  (Closes #584)
722 * A spurious ``invalid FilterAction: discard. Treating as discard`` log
723   message is eliminated.  (Closes #592)
724 * A post from a nonmember matching the legacy ``accept_these_nonmembers`` is
725   now subject to subsequent rules rather than accepted immediately.
726   (Closes #587)
727 * Email attempts to subscribe a user who is banned or has a subscription
728   already pending are now handled properly.  (Closes #577 and #583)
729 * It is no longer possible to add the list's posting address with any role to
730   a list.  (Closes #599)
731 * Fixed the nntp runner which was calling the ``nntplib.NNTP.post()`` method
732   with a string object instead of bytes.  (Closes #613)
733 * A post with a Reply-To: the list address will no longer be shunted.
734   (Closes #614)
735 * Encoded (base64 or quoted-printable) HTML message bodies are now decoded for
736   ``html_to_plaintext``.  (Closes #616)
737 * Non-VERPed temporary failure DSNs are no longer reported as unrecognized
738   bounces.  (Closes #622)
739 * Fix ``mailman import21`` command to work in Python 3.7.4 and Python 3.8b4
740   (Closes #625)
742 Command line
743 ------------
744 * The ``mailman import21`` command now leaves only regexps in the legacy
745   ``*_these_nonmembers`` list attributes.  (Closes #588)
746 * The ``mailman import21`` command now imports nonmember accept actions as
747   ``Action.defer`` rather than ``Action.accept``.  (Closes #579)
748 * The ``mailman import21`` command now correctly imports ``*_these_nonmembers``
749   actions for nonmembers following a member in the list.  (Closes #580)
750 * The progress meter while ``mailman import21`` is importing rosters has been
751   shortened so it no longer wraps and scrolls.  (Closes #589)
752 * The ``mailman import21`` command no longer sends an email to existing owners
753   for each imported member.  (Closes #605)
754 * A ``mailman notify`` command has been implemented to be run by cron to send
755   periodic notices of held requests to list owners and moderators.
756   (Closes #258)
757 * The ``mailman import21`` command now imports ``private_roster``.
758   (Closes #607)
759 * A ``mailman gatenews`` command has been implemented to be run by cron to gate
760   messages from usenet to those lists which have the gateway configured.
761 * The ``mailman members --add`` command no longer prints a stack trace if an
762   invalid email address is given.  (See !544)
763 * A new ``mailman members --remove`` command has been added to help you
764   mass-unsubscribe subscribers from a mailing list.
766 REST
767 ----
768 * Expose a user's preferred address using REST API. (Closes #240)
769 * Expose `header_matches/find` API to find a list of ``HeaderMatches`` belonging
770   to a MailingList. (See !497)
771 * Allow adding a comment when rejecting held messages. (Closes #594)
772 * Fix a 500 error when creating a user with invalid email address. (Closes #263)
774 Localization
775 ------------
776 * Add French translations for mail templates. (See !522)
778 Other
779 -----
780 * Add a new attribute ``tag`` to ``HeaderMatch`` to find and manage a set of
781   rules. (See !497)
782 * Expired cached entries will be deleted efficiently. (Closes #462)
783 * REST Runner now uses Gunicorn to run WSGI server instead of the standard
784   library wsgiref for better performance.
785 * Add support for SMPTS/STARTTLS for connections to MTA. (See !508)
786 * The last remnants of the mailing list attribute ``nntp_host`` have been
787   removed.  (Closes #611)
788 * Email confirmation requests now include an ``Auto-Submitted`` header to
789   prevent robotic replies per ``RFC 3834``.  (Closes #23)
790 * The mail->news gateway no longer munges Message-ID headers unless the
791   original Message-ID is rejected by the ``nntp_host``.  (Closes #24)
793 3.2.2
794 =====
795 (2019-03-23)
797 REST
798 ----
799 * Failed validation to new Mailing List creation and Domain creation no longer
800   returns 500 errors.
801 * Expose ``preferred_language`` for MailingList through REST API.
802 * Self-link of banned emails will be url-encoded when the email is actually
803   a regex, mainly to prevent misplaced `?` in the link.
804 * REST API now accepts inputs in JSON format. (See !451)
805 * REST API errors are now always formatted as JSON. (See !451)
806 * Failed request validations now return more verbose errors, like ``Enum`` types
807   return all acceptable values. (See !451)
808 * REST API accepts request with content type None (See !479)
811 Command line
812 ------------
813 * The ``mailman import21`` command now displays import progress.  (Closes #561)
814 * An issue with ``mailman subcommand --help`` hanging has been worked around.
815   (Closes #520)
818 3.2.1
819 =====
820 (2019-02-22)
822 Command line
823 ------------
824 * The ``mailman import21`` command properly converts all acceptable_aliases
825   to regexps.  (Closes #496)
826 * The ``mailman import21`` command correctly converts autorespond_* settings.
827   (Closes #505)
828 * The various ``mailman`` commands now issue a help hint in case of error.
829   Tests have been updated to recognize this.  (Closes #519)
831 Bugs
832 ----
833 * Open non-regular log files (e.g. fifos) in write mode instead of append mode.
834   (See !407)
835 * Autoresponses to posts and -owner and -request messages now work.
836   (Closes #504)
837 * Message parts are now properly decoded when trying to remove an Approved:
838   header.  (Closes #518)
839 * Outgoing SMTP connections are now closed following message delivery
840   regardless of the max_sessions_per_connection setting.  (Closes #529)
841 * Messages with Subject: Re: only are now processed correctly.  (Closes #545)
843 LOCALIZATION
844 ------------
845 * Added German translations for mail templates. Thanks to the "Institut für
846   Gebrauchsgrafik" for providing them. (Closes #534)
848 REST
849 ----
850 * Allow setting ``max_num_recipients`` for a mailing list.  (Closes #508)
851 * Add a per-list visibility option for Members. (Closes #108)
853 Other
854 -----
855 * Email commands are now case insensitive.  (Closes #353)
856 * Implicit commands sent to -join, -leave and -confirm addresses no longer
857   generate a Results email.  (Closes #516)
858 * An ``explicit_header_only`` option has been added to Reply-To: munging to
859   avoid putting the list address in Cc:.  (Closes #531)
860 * The default list welcome message has been cleaned up a bit.  (Closes #530)
861 * A substitution variable ``user_name_or_email`` has been added to
862   ``list:member:regular:header`` and ``list:member:regular:footer`` templates
863   when personalized deliveries are enabled.  (Closes #533)
864 * The template search algorithm was fixed to look for in-tree templates for
865   each language in the search list. (Closes #535)
866 * Set default subscription policy to "confirm then moderate" for private
867   mailing list style. (Closes #536)
870 3.2.0 -- "La Villa Strangiato"
871 ==============================
872 (2018-07-10)
874 Bugs
875 ----
876 * A missing html_to_plain_text_command is now properly detected and logged.
877   (Closes #345)
878 * Syntactically invalid sender addresses are now ignored.  (Closes #229)
879 * An AttributeError: 'str' object has no attribute 'decode' exception in
880   subject prefixing is fixed.  (Closes #359)
881 * Messages with no syntactically valid senders are now automatically
882   discarded.  (Closes #369)
883 * Various message holds and rejects that gave 'N/A' as a reason now give an
884   appropriate reason.  (Closes #368)
885 * Bounce messages are now composed for proper translations.
886 * Messages with badly encoded ``Subject`` headers no longer crash the message
887   moderation REST API.  (Closes #383)
888 * Generated ``regexp`` tables for Postfix now account for possible ``+extra``
889   additions to the ``-bounces`` and ``-confirm`` addresses.  (Closes #401)
890 * Address confirmation notices are now properly encoded in the character set
891   of the list's preferred_language.  (Closes #395 and #413)
892 * Thanks to Jim Popovitch, certain failures in DNS lookups of DMARC policy
893   will now result in mitigations being applied.  (Closes #415)
894 * Messages without a sender can no longer bypass the ``nonmember-moderation``
895   rule.  (Closes #414)
896 * Invalid regexps in header_matches rules are properly logged and can't be set
897   via REST.  (Closes #418)
898 * A list whose name is one of the ``admin``, ``bounces``, ``confirm``, etc.
899   subaddresses can now be posted to.  (Closes #433)
900 * The ``admin`` subaddress, a synonym for ``bounces`` and deprecated since
901   Mailman 2.1, has been removed.  (Closes #435)
902 * Better support for changing the ``list_name`` property.  (Closes #428)
903 * Raw Message text is now coerced to pure ascii before sending, and
904   https://bugs.python.org/issue27321 is now defended against by overriding
905   Message.as_string() to cover more cases than before.  (Closes #406)
906 * The override of Message.as_string() has been extended to catch another
907   observed exception.  (Closes #441)
908 * The email.message.UserNotification() constructor will now not fail if given
909   a ``text`` argument containing a character not in the charset of the
910   ``lang`` argument.  (Closes #437)
911 * A new SQLAlchemy column type ``SAUnicodeXL`` has been implemented to support
912   large columns in MySQL and is used for the ``value`` column of the
913   ``pendedkeyvalue`` table.  (Closes #385)
914 * Messages with ``Subject`` headers encoded in an unknown character set no
915   longer throw ``LookupError`` in subject prefixing.  (Closes #445)
916 * A list's ``last_post_at`` is now properly updated.  (Closes #453)
917 * Fixed an AttributeError in mailman/handlers/decorate.py when
918   member.subscriber is an ``IUser`` instance rather than an ``IAddress``
919   instance.  (Closes #449)
920 * Message decoration has been removed from the posting pipeline and added to
921   bulk delivery to avoid duplicate decoration of personalized and VERPed
922   messages.  (Closes #450)
923 * The ``mailman inject`` command now reads standard input as documented if
924   there is no ``-f`` or ``--filename`` option.  (Closes #459)
925 * Mailman doesn't chmod existing configuration directories on startup (Closes
926   #439)
927 * Calling ``set`` on a template evicts the local cache if the template was
928   cached before. (Closes #463)
929 * The override of Message.as_string() has been extended to catch yet another
930   observed exception.  (Closes #470)
931 * Fixed a typo in the help for ``mailman digests --periodic``.  (Closes #472)
932 * Character encoding errors in adding headers and footers to multipart messages
933   are detected and ``replaced``.  (Closes #409)
934 * The help for ``mailman qfile`` has been fixed to reference ``mailman qfile``
935   rather than the non-existent ``bin/dumpdb``.  (Closes #475)
936 * The dmarc rule has been fixed to not throw a TypeError when msg.get('from')
937   returns a header instance.  (Closes #477)
938 * ``mailman`` command without any sub-command now invokes ``mailman help`` by
939   default. (Closes #479)
940 * The ``alias_domain`` attribute can become a null string.  ``mta/postfix.py``
941   has been fixed to generate proper mappings in this case.  (Closes #485)
942 * Fix a bug where duplicate address records can be created when a user adds an
943   existing address with a different case. (Closes #476)
944 * Several additional templates can now be set in the ``var/templates``
945   hierarchy.  (Closes #486)
947 Command line
948 ------------
949 * Adopt the ``click`` package for command line parsing.  This makes the
950   command line more consistent and pluggable.  Also, many CLIs that accepted a
951   "fqdn list name" (i.e. the posting address of a mailing list), now also
952   accept a ``List-ID``.  Every attempt has been made to keep the CLI backward
953   compatible, but there may be subtle differences.  (Closes #346)
954 * If no listname is given, running ``mailman withlist -r`` must name a
955   function taking no arguments.  This can be used to introspect Mailman
956   outside of the context of a mailing list.
957 * Fix ``mailman withlist`` command parsing.  (Closes #319)
958 * Add a new option ``--periodic`` to ``mailman digests`` command. It sends out
959   digests for only those Mailing Lists that have ``digest_send_periodic`` option
960   set to ``True``. (Closes #384)
961 * The ``mailman import21`` command now imports DMARC mitigations.
962 * The ``mailman import21`` command no longer creates templates with
963   non-standard names,  (Closes #482)
965 Configuration
966 -------------
967 * The ``[mailman]pre_hook`` and ``[mailman]post_hook`` variables are
968   deprecated.  They can still be specified but they will not be run.
969 * The ``[paths.*]ext_dir`` variable has been removed.
970 * A new logger has been added called ``logging.plugins``.
971 * The ``[styles]paths`` variable has been removed; you can now specify
972   additional styles using the new plugin architecture.
973 * Mailman now also searches at ``/etc/mailman3/mailman.cfg`` for the
974   configuration file.
976 Database
977 --------
978 * The fix for #313 which ported an upstream SQLAlchemy fix to Mailman
979   has been refactored now that SQLAlchemy 1.2 has been released.
981 Interfaces
982 ----------
983 * Broaden the semantics for ``IListManager.get()``.  This API now accepts
984   both ``List-ID``s and fully qualified list names, since that's the most
985   common use case.  There's now a separate ``.get_by_fqdn()`` which only
986   accepts the latter and mirrors the already existing ``.get_by_list_id()``.
987 * A new template ``list:user:notice:rejected`` has been added for customizing
988   the bounce message rejection notice.
989 * The ``acceptable_alias`` and ``require_explicit_destination`` attributes
990   have been added to the ``IMailingList`` definition.  (Closes #483)
992 Other
993 -----
994 * Add a new plugin architecture, which allows third parties to add
995   initialization hooks, REST endpoints, and additional components.  Given by
996   Jan Jancar.
997 * Drop support for Python 3.4.  (Closes #373)
998 * Bump minimum requirements for aiosmtpd (>= 1.1) and flufl.lock (>= 3.1).
999 * Add '.pc' (patch directory) to list of ignored patterns when building the
1000   documentation with Sphinx.
1001 * Domain objects now have an ``alias_domain`` attribute which is normally
1002   ``None``, but which can be set to an alternate domain.  This will enable
1003   the Postfix MTA to generate ``virtual_alias_maps`` which will map list
1004   addresses in the domain to addresses in the alternate domain, and will
1005   modify the other generated mappings to use the ``alias_domain``.  The
1006   ``lmtp`` runner will also accept the alias_domain as an alias for the
1007   ``email_host``.
1008 * ``ICacheManager`` now allows evicting a single file from cache.
1010 REST
1011 ----
1012 * Allow a mailing list's acceptable aliases to be cleared by calling
1013   ``DELETE`` on the list's ``config/acceptable_aliases`` resource.
1014   (Closes #394)
1015 * Allow setting ``max_message_size`` for a mailing list. (Closes #417)
1016 * Added new attribute in ``lists/styles`` resource ``styles`` that contains the
1017   list of all the styles in Core along with their description. ``style_names``
1018   attribute is now deprecated and will be removed in future versions.
1019 * Add ``display_name`` for ``member`` in order to expose ``member.display_name``.
1020   (Closes #398)
1021 * Expose ``MailingList.respond_to_post_request`` through REST API. (Closes #420)
1022 * Add a new API ``lists/find`` which returns all the lists related to a
1023   subscriber. It optionally allows filtering based on a role. (See !388)
1024 * ``IAcceptableAliasSet`` resource now interprets an empty string ('') as an
1025   empty list ([]). This can be used to clear the list of acceptable aliases of a
1026   MailingList in a PATCH or PUT request, without having to use a DELETE request.
1027 * Expose ``MailingList.require_explicit_destination`` through REST API.
1028   (Closes #484)
1031 3.1.0 -- "Between The Wheels"
1032 =============================
1033 (2017-05-25)
1035 Bugs
1036 ----
1037 * When the mailing list's ``admin_notify_mchanges`` is True, the list owners
1038   now get the subscription notification.  (Closes: #1)
1039 * Fix the traceback that occurred when trying to convert a ``text/html``
1040   subpart to plaintext via the ``mimedel`` handler.  Now, a configuration
1041   variable ``[mailman]html_to_plain_text_command`` in the ``mailman.cfg`` file
1042   defines the command to use.  It defaults to ``lynx``.  (Closes: #109)
1043 * Confirmation messages should not be ``Precedence: bulk``.  (Closes #75)
1044 * Fix constraint violations on mailing list deletes affecting PostgreSQL.
1045   Given by Abhilash Raj.  (Closes #115)
1046 * ``mailman`` command with no subcommand now prints the help text.  Given by
1047   Abhilash Raj.  (Closes #137)
1048 * The MHonArc archiver must set stdin=PIPE when calling the subprocess.
1049   Given by Walter Doekes.
1050 * For now, treat ``DeliveryMode.summary_digests`` the same as
1051   ``.mime_digests``.
1052   (Closes #141).  Also, don't enqueue a particular digest if there are no
1053   recipients for that digest.
1054 * For Python versions earlier than 3.5, use a compatibility layer for a
1055   backported smtpd module which can accept non-UTF-8 data.  (Closes #140)
1056 * Bulk emails are now decorated with headers and footers.  Given by Aurélien
1057   Bompard.  (Closes #145)
1058 * Core no longer depends on the standalone ``mock`` module.  (Closes: #146)
1059 * The logging of moderation reasons has been fixed.  Given by Aurélien
1060   Bompard.
1061 * Collapse multiple ``Re:`` in Subject headers.  Given by Mark Sapiro.
1062   (Closes: #147)
1063 * Added Trove classifiers to setup.py.  (Closes: #152)
1064 * Fix the processing of subscription confirmation messages when the mailing
1065   list is set to confirm-then-moderate.  (Closes #114)
1066 * Fix ``UnicodeEncodeError`` in the hold chain when sending the authorization
1067   email to the mailing list moderators.  (Closes: #144)
1068 * Fix traceback in approved handler when the moderator password is None.
1069   Given by Aurélien Bompard.
1070 * Fix IntegrityErrors raised under PostreSQL when deleting users and
1071   addresses.  Given by Aurélien Bompard.
1072 * Allow mailing lists to have localhost names with a suffix matching the
1073   subcommand extensions.  Given by Aurélien Bompard.  (Closes: #168)
1074 * Don't traceback if a nonexistent message-id is deleted from the message
1075   store.  Given by Aurélien Bompard, tweaked by Barry Warsaw.  (Closes: #167)
1076 * Fix a bug in ``SubscriptionService.find_members()`` when searching for a
1077   subscribed address that is not linked to a user.  Given by Aurélien Bompard.
1078 * Fix a REST server crash when trying to subscribe a user without a preferred
1079   address.  (Closes #185)
1080 * Fix membership query when multiple users are subscribed to a mailing list.
1081   Reported by Darrell Kresge.  (Closes: #190)
1082 * Prevent moderation of messages held for a different list.  (Closes: #161)
1083 * When approving a subscription request via the REST API, for a user who is
1084   already a member, return an HTTP 409 Conflict code instead of the previous
1085   server traceback (and resulting HTTP 500 code).  (Closes: #193)
1086 * In decoration URIs (e.g. ``IMailingList.header_uri`` and ``.footer_uri``)
1087   you should now use the mailing list's List-ID instead of the
1088   fqdn-listname.  The latter is deprecated.  (Closes #196)
1089 * Trying to subscribe an address as a list owner (or moderator or nonmember)
1090   which is already subscribed with that role produces a server error.
1091   Originally given by Anirudh Dahiya.  (Closes #198)
1092 * Cross-posting messages held on both lists no longer fails.  (Closes #176)
1093 * Don't let unknown charsets crash the "approved" rule.  Given by Aurélien
1094   Bompard.  (Closes #203)
1095 * Don't let crashes in IArchiver plugins break handlers or runners.
1096   (Closes #208)
1097 * Fix "None" as display name in welcome message.  Given by Aditya Divekar.
1098   (Closes #194)
1099 * Fix ``mailman shell`` processing of ``$PYTHONSTARTUP``.  (Closes #224)
1100 * Fix query bug for ``SubscriptionService.find_members()`` leading to the
1101   incorrect number of members being returned.  Given by Aurélien Bompard.
1102   (Closes #227)
1103 * Fix header match rule suffix inflation.  Given by Aurélien Bompard.
1104   (Closes #226)
1105 * MIME digests now put the individual message/rfc822 messages inside a
1106   multipart/digest subpart.  (Closes #234)
1107 * Nonmember subscriptions are removed when one of the addresses controlled by
1108   a user is subscribed as a member.  Given by Aditya Divekar.  (Closes #237)
1109 * Email address validation is now more compliant with RFC 5321.  (Closes #266)
1110 * A mailing list's ``description`` must not contain newlines.  Given by
1111   Aurélien Bompard.  (Closes: #273)
1112 * Allow MailingList.info to be set using the REST API.  Given by Aurélien
1113   Bompard.
1114 * Extend header filters to also check sub-part headers.  (Closes #280)
1115 * Allow REST API to PUT and PATCH domain attributes.  Allows Postorius domain
1116   edit to work.  (Closes: #290)
1117 * Prevent posting from banned addresses.  Given by Aurélien Bompard.
1118   (Closes: #283)
1119 * Remove the digest mbox files after the digests are sent.  Given by Aurélien
1120   Bompard.  (Closes: #259)
1121 * Transmit the moderation reason and expose it in the REST API as the
1122   ``reason`` attribute.  Given by Aurélien Bompard.
1123 * Don't return a 500 error from the REST API when trying to handle a held
1124   message with defective content.  Given by Abhilash Raj.  (Closes: #256)
1125 * Delete subscription requests when a mailing list is deleted.  Given by
1126   Abhilash Raj.  (Closes: #214)
1127 * Messages were shunted when non-ASCII characters appeared in a mailing
1128   list's description.  Given by Mark Sapiro.  (Closes: #215)
1129 * Fix confirmation of unsubscription requests.  (Closes: #294)
1130 * Fix ``mailman stop`` not stopping some runners due to PEP 475 interaction.
1131   (Closes: #255)
1132 * Update documentation links for ``config.cfg`` settings.  (Closes: #306)
1133 * Disallow problematic characters in listnames.  (Closes: #311)
1134 * Forward port several content filtering fixes from the 2.1 branch.
1135   (Closes: #330, #331, #332 and #334)
1137 Configuration
1138 -------------
1139 * Mailing lists can now have their own header matching rules, although
1140   site-defined rules still take precedence.  Importing a Mailman 2.1 list
1141   with header matching rules defined will create them in Mailman 3, albeit
1142   with a few unsupported corner cases.  Definition of new header matching
1143   rules is not yet exposed through the REST API.  Given by Aurélien Bompard.
1144 * The default languages from Mailman 2.1 have been ported over.  Given by
1145   Aurélien Bompard.
1146 * There is now a configuration setting to limit the characters that can be
1147   used in list names.
1149 Command line
1150 ------------
1151 * ``mailman create <listname@dom.ain>`` will now create missing domains
1152   by default.  The ``-d``/``--domain`` option is kept for backward
1153   compatibility, but now there is a ``-D``/``--no-domain`` option to prevent
1154   missing domains from being create, forcing an error in those cases.
1155   Given by Gurkirpal Singh.  (Closes #39)
1156 * ``mailman`` subcommands now properly commit any outstanding transactions.
1157   (Closes #223)
1158 * ``mailman digests`` has grown ``--verbose`` and ``-dry-run`` options.
1159 * ``mailman shell`` now supports readline history if you set the
1160   ``[shell]history_file`` variable in mailman.cfg.  Also, many useful names
1161   are pre-populated in the namespace of the shell.  (Closes: #228)
1163 Database
1164 --------
1165 * MySQL is now an officially supported database.  Given by Abhilash Raj.
1166 * Fix a problem with tracebacks when a PostgreSQL database is power cycled
1167   while Mailman is still running.  This ports an upstream SQLAlchemy fix to
1168   Mailman in lieu of a future SQLAlchemy 1.2 release.  (Closes: #313)
1170 Interfaces
1171 ----------
1172 * Implement reasons for why a message is being held for moderator approval.
1173   Given by Aurélien Bompard, tweaked by Barry Warsaw.
1174 * The default ``postauth.txt`` and ``postheld.txt`` templates now no longer
1175   include the inaccurate admindb and confirmation urls.
1176 * Messages now include a ``Message-ID-Hash`` as the replacement for
1177   ``X-Message-ID-Hash`` although the latter is still included for backward
1178   compatibility.  Also be sure that all places which add the header use the
1179   same algorithm.  (Closes #118)
1180 * ``IMessageStore.delete_message()`` no longer raises a ``LookupError`` when
1181   you attempt to delete a nonexistent message from the message store.
1182 * ``ISubscriptionService.find_members()`` accepts asterisks as wildcards in
1183   the ``subscriber`` argument string.  Given by Aurélien Bompard.
1184 * ``ISubscriptionService`` now supports mass unsubscribes.  Given by Harshit
1185   Bansal.
1187 Message handling
1188 ----------------
1189 * New DMARC mitigations have been added.  Given by Mark Sapiro.  (Closes #247)
1190 * New placeholders have been added for message headers and footers.  You can
1191   use a placeholder of the format ``$<archiver-name>_url`` to insert the
1192   permalink to the message in the named archiver, for any archiver enabled
1193   for the mailing list.  Given by Abhilash Raj.
1194 * The default posting chain has been modified so that the header-match chain
1195   and nonmember-moderation rule are processed before "hold" rules are
1196   processed.  This allows for better anti-spam defenses and rejecting
1197   non-member posts instead of always holding them for moderator review.
1198   Given by Aurélien Bompard.  (Closes #163)
1199 * Bounces can now contain rejection messages.  Given by Aurélien Bompard.
1200 * The ``moderation_action`` for members and nonmember can now be ``None``
1201   which signals falling back to the appropriate list default action,
1202   e.g. ``default_member_action`` and ``default_nonmember_action``.  Given by
1203   Aurélien Bompard.  (Closes #189)
1204 * Ensure that postings from alternative emails aren't held for moderator
1205   approval.  For example, if a user is subscribed with one email but posts
1206   with a second email that they control, the message should be processed as
1207   a posting from a member.  Given by Aditya Divekar.  (Closes #222)
1208 * The default message footer has been improved to include a way to
1209   unsubscribe via the ``-leave`` address.  Given by Francesco Ariis.
1211 REST
1212 ----
1213 * REST API version 3.1 introduced.  Mostly backward compatible with version
1214   3.0 except that UUIDs are represented as hex strings instead of 128-bit
1215   integers, since the latter are not compatible with all versions of
1216   JavaScript.  (Closes #121)
1217 * REST clients must minimally support HTTP/1.1. (Closes #288)
1218 * Experimental Gunicorn support.  See ``contrib/gunicorn.py`` docstring for
1219   details.  With assistance from Eric Searcy.  (Closes #287)
1220 * The new template system is introduced for API 3.1.  See
1221   ``src/mailman/rest/docs/templates.rst`` for details.  (Closes #249)
1222 * When creating a user via REST using an address that already exists, but
1223   isn't linked, the address is linked to the new user.  Given by Aurélien
1224   Bompard.
1225 * The REST API incorrectly parsed ``is_server_owner`` values when given
1226   explicitly in the POST that creates a user.  (Closes #136)
1227 * A new top-level resource ``<api>/owners`` can be used to get the list of
1228   server owners as ``IUser`` s.  (Closes #135)
1229 * By POSTing to a user resource with an existing unlinked address, you can
1230   link the address to the user.  Given by Abhilash Raj.
1231 * Fix pagination values ``start`` and ``total_size`` in the REST API.  Given
1232   by Aurélien Bompard.  (Closes: #154)
1233 * JSON representations for held message now include a ``self_link``.
1234 * When ``[devmode]enabled`` is set, the JSON output is sorted.  Given by
1235   Aurélien Bompard.
1236 * A member's moderation action can be changed via the REST API.  Given by
1237   Aurélien Bompard.
1238 * Fixed a number of corner cases for the return codes when PUTing or PATCHing
1239   list configuration variables.  (Closes: #182)
1240 * Expose ``digest_send_periodic``, ``digest_volume_frequency``, and
1241   ``digests_enabled`` (renamed from ``digestable``) to the REST API.
1242   (Closes: #159)
1243 * Expose the "bump digest" and "send digest" functionality though the REST
1244   API via the ``<api>/lists/<list-id>/digest`` end-point.  GETting this
1245   resource returns the ``next_digest_number`` and ``volume`` as the same
1246   values accessible through the list's configuraiton resource.  POSTing to
1247   the resource with either ``send=True``, ``bump=True``, or both invokes the
1248   given action.
1249 * Global and list-centric bans can now be managed through the REST API.
1250   Given by Aurélien Bompard.
1251 * ``<api>/members/find`` accepts GET query parameters in addition to POST
1252   arguments.  Given by Aurélien Bompard.
1253 * Header match rules for individual mailing lists are now exposed in the REST
1254   API.  Given by Aurélien Bompard.  (Closes: #192)
1255 * Expose ``goodbye_message_uri`` in the REST API.  Given by Harshit Bansal.
1256 * New subscription requests are rejected if there is already one pending.
1257   With thanks to Anirudh Dahiya.  (Closes #199)
1258 * Expose the system pipelines and chains via ``<api>/system/pipelines`` and
1259   ``<api>/system/chains`` respectively.  Given by Simon Hanna.  (Closes #66)
1260 * Support mass unsubscription of members via ``DELETE`` on the
1261   ``<api>/lists/<list-id>/roster/member`` resource.  Given by Harshit
1262   Bansal.  (Closes #171)
1263 * It is now possible to merge users when creating them via REST.  When you
1264   POST to ``<api>/users/<address>/addresses`` and the address given in the
1265   ``email`` parameter already exists, instead of getting a 400 error, if you
1266   set ``absorb_existing=True`` in the POST data, the existing user will be
1267   merged into the newly created on.  Given by Aurélien Bompard.
1268 * Port to Falcon 1.0 (Closes #20)
1269 * A member's ``moderation_action`` can be reset, allowing fallback to the
1270   list's ``default_member_action`` by setting the attribute to the empty
1271   string in the REST API.  Given by Aurélien Bompard.
1272 * A list's ``moderator_password`` can be set via the REST API.  Given by
1273   Andrew Breksa.  (Closes #207)
1274 * The ban manager now returns a pageable, sorted sequence.  Given by Amit and
1275   Aurélien Bompard.  (Closes #284)
1276 * Query parameters now allow you to filter mailing lists by the
1277   ``advertised`` boolean parameter.  Given by Aurélien Bompard.
1278 * Only the system-enabled archivers are returned in the REST API.  Given by
1279   Aurélien Bompard.
1280 * **Backward incompatibility: mild** Held message resources now have an
1281   ``original_subject`` key which is the raw value of the ``Subject:`` header
1282   (i.e. without any RFC 2047 decoding).  The ``subject`` key is RFC 2047
1283   decoded.  Given by Simon Hanna.  (Closes #219)
1285 Other
1286 -----
1287 * Add official support for Python 3.5 and 3.6. (Closes #295)
1288 * A handful of unused legacy exceptions have been removed.  The redundant
1289   ``MailmanException`` has been removed; use ``MailmanError`` everywhere.
1290 * Drop the use of the ``lazr.smtptest`` library, which is based on the
1291   asynchat/asyncore-based smtpd.py stdlib module.  Instead, use the
1292   asyncio-based `aiosmtpd <https://aiosmtpd.readthedocs.io/>`_ package.
1293 * Improvements in importing Mailman 2.1 lists, given by Aurélien Bompard.
1294 * The ``prototype`` archiver is not web accessible so it does not have a
1295   ``list_url`` or permalink.  Given by Aurélien Bompard.
1296 * Large performance improvement in ``SubscriptionService.find_members()``.
1297   Given by Aurélien Bompard.
1298 * Rework the digest machinery, and add a new ``digests`` subcommand, which
1299   can be used from the command line or cron to immediately send out any
1300   partially collected digests, or bump the digest and volume numbers.
1301 * The mailing list "data directory" has been renamed.  Instead of using the
1302   fqdn listname, the subdirectory inside ``[paths]list_data_dir`` now uses
1303   the List-ID.
1304 * The ``mailman members`` command can now be used to display members based on
1305   subscription roles.  Also, the positional "list" argument can now accept
1306   list names or list-ids.
1307 * Unsubscriptions can now be confirmed and/or moderated.  (Closes #213)
1310 3.0.0 -- "Show Don't Tell"
1311 ==========================
1312 (2015-04-28)
1314 Architecture
1315 ------------
1316 * Domains now have a list of owners, which are ``IUser`` objects, instead of
1317   the single ``contact_address`` they used to have.  ``IUser`` objects now
1318   also have a ``is_server_owner`` flag (defaulting to False) to indicate
1319   whether they have superuser privileges.  Give by Abhliash Raj, with fixes
1320   and refinements by Barry Warsaw.  (LP: #1423756)
1321 * Mailing list subscription policy work flow has been completely rewritten.
1322   It now properly supports email verification and subscription confirmation
1323   by the user, and approval by the moderator using unique tokens.
1324   ``IMailingList`` objects now have a ``subscription_policy`` attribute.
1325   (LP: #1095552)
1326 * Port the REST machinery to Falcon 0.3. (LP: #1446881)
1328 Bugs
1329 ----
1330 * Fix calculation of default configuration file to use when the ``$var_dir``
1331   is created by ``mailman start``.  (LP: #1411435)
1332 * When creating a user with an email address, do not create the user record
1333   if the email address already exists.  Given by Andrew Stuart.
1334   (LP: #1418280)
1335 * When deleting a user via REST, make sure all linked addresses are deleted.
1336   Found by Andrew Stuart.  (LP: #1419519)
1337 * When trying to subscribe an address to a mailing list through the REST API
1338   where a case-differing version of the address is already subscribed, return
1339   a 409 error instead of a 500 error.  Found by Ankush Sharma.  (LP: #1425359)
1340 * ``mailman lists --domain`` was not properly handling its arguments.  Given
1341   by Manish Gill.  (LP: #1166911)
1342 * When deleting a user object, make sure their preferences are also deleted.
1343   Given by Abhishek.  (LP: #1418276)
1344 * Be sure a mailing list's acceptable aliases are deleted when the mailing
1345   list itself is deleted.  (LP: #1432239)
1346 * The built-in example ``IArchiver`` implementations now explicitly return
1347   None.  (LP: #1203359)
1348 * The test suite now runs successfully again with PostgreSQL.  Given by
1349   Aurélien Bompard.  (LP: #1435941)
1351 Configuration
1352 -------------
1353 * When specifying a file system path in the [paths.*] section, $cfg_file can
1354   be used to expand into the path of the ``-C`` option if given.  In the
1355   default ``[paths.dev]`` section, ``$var_dir`` is now specified relative to
1356   ``$cfg_file`` so that it won't accidentally be relative to the current
1357   working directory, if ``-C`` is given.
1358 * ``$cwd`` is now an additional substitution variable for the ``mailman.cfg``
1359   file's ``[paths.*]`` sections.  A new ``[paths.here]`` section is added,
1360   which puts the ``var_dir`` in ``$cwd``.  It is made the default layout.
1362 Documentation
1363 -------------
1364 * Improve the documentation describing how to run Alembic to add new schema
1365   migrations.  Given by Abhilash Raj.
1367 REST
1368 ----
1369 * **Backward incompatible change**: The JSON representation for pending
1370   mailing list subscription hold now no longer includes the ``password``
1371   key.  Also, the ``address`` key has been renamed ``email`` for consistent
1372   terminology and other usage.
1373 * You can now view the contents of, inject messages into, and delete messages
1374   from the various queue directories via the ``<api>/queues`` resource.
1375 * You can now DELETE an address.  If the address is linked to a user, the
1376   user is not delete, it is just unlinked.
1377 * A new API is provided to support non-production testing infrastructures,
1378   allowing a client to cull all orphaned UIDs via ``DELETE`` on
1379   ``<api>/reserved/uids/orphans``.  Note that *no guarantees* of API
1380   stability will ever be made for resources under ``reserved``.
1381   (LP: #1420083)
1382 * Domains can now optionally be created with owners; domain owners can be
1383   added after the fact; domain owners can be deleted.  Also, users now have
1384   an ``is_server_owner`` flag as part of their representation, which defaults
1385   to False, and can be PUT and PATCH'd.  Given by Abhilash Raj, with fixes
1386   and refinements by Barry Warsaw.  (LP: #1423756)
1389 3.0 beta 5 -- "Carve Away The Stone"
1390 ====================================
1391 (2014-12-29)
1393 Bugs
1394 ----
1395 * Fixed Unicode errors in the digest runner and when sending messages to the
1396   site owner as a fallback.  Given by Aurélien Bompard.  (LP: #1130957).
1397 * Fixed Unicode errors when a message being added to the digest has non-ascii
1398   characters in its payload, but no Content-Type header defining a charset.
1399   Given by Aurélien Bompard.  (LP: #1170347)
1400 * Fixed messages without a `text/plain` part crashing the `Approved` rule.
1401   Given by Aurélien Bompard.  (LP: #1158721)
1402 * Fixed getting non-ASCII filenames from RFC 2231 i18n'd messages.  Given by
1403   Aurélien Bompard.  (LP: #1060951)
1404 * Fixed `AttributeError` on MIME digest messages.  Given by Aurélien Bompard.
1405   (LP: #1130696)
1407 Commands
1408 --------
1409 * The `mailman conf` command no longer takes the `-t/--sort` option; the
1410   output is always sorted.
1412 Configuration
1413 -------------
1414 * The ``[database]migrations_path`` setting is removed.
1416 Database
1417 --------
1418 * The ORM layer, previously implemented with Storm, has been replaced by
1419   SQLAlchemy, thanks to the fantastic work by Abhilash Raj and Aurélien
1420   Bompard.  Alembic is now used for all database schema migrations.
1421 * The new logger `mailman.database` logs any errors at the database layer.
1423 Development
1424 -----------
1425 * Python 3.4 is now the minimum requirement.
1426 * You no longer have to create a virtual environment separately when running
1427   the test suite.  Just use `tox`.
1428 * You no longer have to edit `src/mailman/testing/testing.cfg` to run the
1429   test suite against PostgreSQL.  See `src/mailman/docs/START.rst` for
1430   details.
1432 Interfaces
1433 ----------
1434 * The RFC 2369 headers added to outgoing messages are now added in sorted
1435   order.
1436 * Several changes to the internal API:
1438   - `IListManager.mailing_lists` is guaranteed to be sorted in List-ID order.
1439   - `IDomains.mailing_lists` is guaranteed to be sorted in List-ID order.
1440   - Iteration over domains via the `IDomainManager` is guaranteed to be sorted
1441     by `IDomain.mail_host` order.
1442   - `ITemporaryDatabase` interface and all implementations are removed.
1444 REST
1445 ----
1446 * The Falcon Framework has replaced restish as the REST layer.  This is an
1447   internal change only.
1448 * The JSON representation `http_etag` key uses an algorithm that is
1449   insensitive to Python's dictionary sort order.
1450 * The address resource now has an additional '/user' sub-resource which can
1451   be used to GET the address's linked user if there is one.  This
1452   sub-resource also supports POST to link an unlinked address (with an
1453   optional 'auto_create' flag), and PUT to link the address to a different
1454   user.  It also supports DELETE to unlink the address.  (LP: #1312884)
1455   Given by Aurélien Bompard based on work by Nicolas Karageuzian.
1456 * The ``/3.0/system`` path is deprecated; use ``/3.0/system/versions`` to get
1457   the system version information.
1458 * You can access the system configuration via the resource path
1459   ``/3.0/system/configuration/<section>``.  This returns a dictionary with
1460   the keys being the section's variables and the values being their value
1461   from ``mailman.cfg`` as verbatim strings.  You can get a list of all
1462   section names via ``/3.0/system/configuration`` which returns a dictionary
1463   containing the ``http_etag`` and the section names as a sorted list under
1464   the ``sections`` key.  The system configuration resource is read-only.
1465 * Member resource JSON now include the ``member_id`` as a separate key.
1468 3.0 beta 4 -- "Time and Motion"
1469 ===============================
1470 (2014-04-22)
1472 Development
1473 -----------
1474 * Mailman 3 no longer uses ``zc.buildout`` and tests are now run by the
1475   ``nose2`` test runner.  See ``src/mailman/docs/START.rst`` for details on
1476   how to build Mailman and run the test suite.  Also, use ``-P`` to select a
1477   test pattern and ``-E`` to enable stderr debugging in runners.
1478 * Use the ``enum34`` package instead of ``flufl.enum``.
1479 * Use ``setuptools`` instead of ``distribute``, since the latter is defunct.
1481 REST
1482 ----
1483 * Add ``reply_to_address`` and ``first_strip_reply_to`` as writable
1484   attributes of a mailing list's configuration.  (LP: #1157881)
1485 * Support pagination of some large collections (lists, users, members).
1486   [Florian Fuchs]  (LP: #1156529)
1487 * Expose ``hide_address`` to the ``.../preferences`` REST API.
1488   [Sneha Priscilla.]  (LP: #1203519)
1489 * Mailing lists can now individually enable or disable any archiver available
1490   site-wide.  [Joanna Skrzeszewska]  (LP: #1158040)
1491 * Addresses can be added to existing users, including display names, via the
1492   REST API.  [Florian Fuchs]
1493 * Fixed a crash in the REST server when searching for nonmembers via
1494   ``/find`` which we've never seen before, because those members only have an
1495   address record, not a user record.  This requires a small change in the API
1496   where the JSON response's ``address`` key now contains the URL to the
1497   address resource, the new ``email`` key contains the email address as a
1498   string, and the ``user`` key is optional.
1500 Commands
1501 --------
1502 * `mailman conf` now has a `-t/--sort` flag which sorts the output by section
1503   and then key.  [Karl-Aksel Puulmann and David Soto] (LP: 1162492)
1504 * Greatly improve the fidelity of the Mailman 2.1 list importer functionality
1505   (i.e. ``mailman import21``).  [Aurélien Bompard].
1507 Configuration
1508 -------------
1509 * Add support for the Exim 4 MTA.  [Stephen Turnbull]
1510 * When creating the initial file system layout in ``var``, e.g. via
1511   ``bin/mailman info``, add an ``var/etc/mailman.cfg`` file if one does not
1512   already exist.  Also, when initializing the system, look for that file as
1513   the configuration file, just after ``./mailman.cfg`` and before
1514   ``~/.mailman.cfg``.  (LP: #1157861)
1516 Database
1517 --------
1518 * The `bounceevent` table now uses list-ids to cross-reference the mailing
1519   list, to match other tables.  Similarly for the `IBounceEvent` interface.
1520 * Added a `listarchiver` table to support list-specific archivers.
1522 Bugs
1523 ----
1524 * Non-queue runners should not create ``var/queue`` subdirectories.
1525   [Sandesh Kumar Agrawal] (LP: #1095422)
1526 * Creation of lists with upper case names should be coerced to lower case.
1527   (LP: #1117176)
1528 * Fix REST server crash on `mailman reopen` due to no interception of
1529   signals.  (LP: #1184376)
1530 * Add `subject_prefix` to the `IMailingList` interface, and clarify the
1531   docstring for `display_name`.  (LP: #1181498)
1532 * Fix importation from MM2.1 to MM3 of the archive policy.
1533   [Aurélien Bompard] (LP: #1227658)
1534 * Fix non-member moderation rule to prefer a member sender if both members
1535   and non-members are in the message's sender list.  [Aurélien Bompard]
1536   (LP: #1291452)
1537 * Fix IntegrityError (against PostgreSQL) when deleting a list with content
1538   filters.  [Aurélien Bompard]  (LP: #1117174)
1539 * Fix test isolation bug in ``languages.rst``.
1540   [Piotr Kasprzyk] (LP: #1308769)
1543 3.0 beta 3 -- "Here Again"
1544 ==========================
1545 (2012-12-31)
1547 Compatibility
1548 -------------
1549 * Python 2.7 is now required.  Python 2.6 is no longer officially supported.
1550   The code base is now also `python2.7 -3` clean, although there are still
1551   some warnings in 3rd party dependencies.  (LP: #1073506)
1553 REST
1554 ----
1555 * **API change**: The JSON representation for held messages no longer
1556   includes the `data` key.  The values in this dictionary are flatted into
1557   the top-level JSON representation.  The `key` key is remove since it's
1558   redundant.  Use `message_id` for held messages, and `address` for held
1559   subscriptions/unsubscriptions.  The following `_mod_*` keys are inserted
1560   without the `_mod_` prefix:
1562   - `_mod_subject` -> `subject`
1563   - `_mod_hold_date` -> `hold_date`
1564   - `_mod_reason` -> `reason`
1565   - `_mod_sender` -> `sender`
1566   - `_mod_message_id` -> `message_id`
1568 * List styles are supported through the REST API.  Get the list of available
1569   styles (by name) via `.../lists/styles`.  Create a list in a specific style
1570   by using POST data `style_name=<style>`.  (LP: #975692)
1571 * Allow the getting/setting of IMailingList.subject_prefix via the REST API
1572   (given by Terri Oda).  (LP: #1062893)
1573 * Expose a REST API for membership change (subscriptions and unsubscriptions)
1574   moderation.  (LP: #1090753)
1575 * Add list_id to JSON representation for a mailing list (given by Jimmy
1576   Bergman).
1577 * The canonical resource for a mailing list (and thus its self_link) is now
1578   the URL with the list-id.  To reference a mailing list, the list-id url is
1579   preferred, but for backward compatibility, the posting address is still
1580   accepted.
1581 * You can now PUT and PATCH on user resources to change the user's display
1582   name or password.  For passwords, you pass in the clear text password and
1583   Mailman will hash it before storing.
1584 * You can now verify and unverify an email address through the REST API.
1585   POST to .../addresses/<email>/verify and .../addresses/<email>/unverify
1586   respectively.  The POST data is ignored.  It is not an error to verify or
1587   unverify an address more than once, but verifying an already verified
1588   address does not change its `.verified_on` date.  (LP: #1054730)
1589 * Deleting a user through the REST API also deletes all the user's linked
1590   addresses and memberships.  (LP: #1074374)
1591 * A user's password can be verified by POSTing to .../user/<id>/login.  The
1592   data must contain a single parameter `cleartext_password` and if this
1593   matches, a 204 (No Content) will be returned, otherwise a 403 (Forbidden)
1594   is returned.  (LP: #1065447)
1596 Configuration
1597 -------------
1598 * `[passlib]path` configuration variable renamed to `[passlib]configuration`.
1599 * Postfix-specific configurations in the `[mta]` section are moved to a
1600   separate file, named by the `[mta]configuration` variable.
1601 * In the new `postfix.cfg` file, `postfix_map_cmd` is renamed to
1602   `postmap_command`.
1603 * The default list style is renamed to `legacy-default` and a new
1604   `legacy-announce` style is added.  This is similar to the `legacy-default`
1605   except set up for announce-only lists.
1607 Database
1608 --------
1609 * The `ban` table now uses list-ids to cross-reference the mailing list,
1610   since these cannot change even if the mailing list is moved or renamed.
1611 * The following columns were unused and have been removed:
1613   - `mailinglist.new_member_options`
1614   - `mailinglist.send_reminders`
1615   - `mailinglist.subscribe_policy`
1616   - `mailinglist.unsubscribe_policy`
1617   - `mailinglist.subscribe_auto_approval`
1618   - `mailinglist.private_roster`
1619   - `mailinglist.admin_member_chunksize`
1621 Interfaces
1622 ----------
1623 * The `IBanManager` is no longer a global utility.  Instead, you adapt an
1624   `IMailingList` to an `IBanManager` to manage the bans for a specific
1625   mailing list.  To manage the global bans, adapt ``None``.
1627 Commands
1628 --------
1629 * `bin/mailman aliases` loses the `--output`, `--format`, and `--simple`
1630   arguments, and adds a `--directory` argument.  This is necessary to support
1631   the Postfix `relay_domains` support.
1632 * `bin/mailman start` was passing the wrong relative path to its runner
1633   subprocesses when -C was given.  (LP: #982551)
1634 * `bin/runner` command has been simplified and its command line options
1635   reduced.  Now, only one `-r/--runner` option may be provided and the
1636   round-robin feature has been removed.
1638 Other
1639 -----
1640 * Added support for Postfix `relay_domains` setting for better virtual domain
1641   support.  [Jimmy Bergman].
1642 * Two new events are triggered on membership changes: `SubscriptionEvent`
1643   when a new member joins a mailing list, and an `UnsubscriptionEvent` when a
1644   member leaves a mailing list.  (LP: #1047286)
1645 * Improve the --help text for the `start`, `stop`, `restart`, and `reopen`
1646   subcommands.  (LP: #1035033)
1648 Bugs
1649 ----
1650 * Fixed `send_goodbye_message()`.  (LP: #1091321)
1651 * Fixed REST server crash on `reopen` command.  Identification and test
1652   provided by Aurélien Bompard.  (LP: #1184376)
1655 3.0 beta 2 -- "Freeze"
1656 ======================
1657 (2012-09-05)
1659 Architecture
1660 ------------
1661 * The link between members and the mailing lists they are subscribed to, is
1662   now via the RFC 2369 `list_id` instead of the fqdn listname (i.e. posting
1663   address).  This is because while the posting address can change if the
1664   mailing list is moved to a new server, the list id is fixed.
1665   (LP: #1024509)
1667   - IListManager.get_by_list_id() added.
1668   - IListManager.list_ids added.
1669   - IMailingList.list_id added.
1670   - Several internal APIs that accepted fqdn list names now require list ids,
1671     e.g. ISubscriptionService.join() and .find_members().
1672   - IMember.list_id attribute added; .mailing_list is now an alias that
1673     retrieves and returns the IMailingList.
1675 * `passlib`_ is now used for all password hashing instead of flufl.password.
1676   The default hash is `sha512_crypt`.  (LP: #1015758)
1677 * Internally, all datetimes are kept in the UTC timezone, however because of
1678   LP: #280708, they are stored in the database in naive format.
1679 * `received_time` is now added to the message metadata by the LMTP runner
1680   instead of by `Switchboard.enqueue()`.  This latter no longer depends on
1681   `received_time` in the metadata.
1682 * The `ArchiveRunner` no longer acquires a lock before it calls the
1683   individual archiver implementations, since not all of them need a lock.  If
1684   they do, the implementations must acquire said lock themselves.
1685 * The `news` runner and queue has been renamed to the more accurate `nntp`.
1686   The runner has also been ported to Mailman 3 (LP: #967409).  Beta testers
1687   can safely remove `$var_dir/queue/news`.
1688 * A mailing list's *moderator password* is no longer stored in the clear; it
1689   is hashed with the currently selected scheme.
1690 * An `AddressVerificationEvent` is triggered when an `IAddress` is verified
1691   or unverified.  (LP: #975698)
1692 * A `PasswordChangeEvent` is triggered when an `IUser`'s password changes.
1693   (LP: #975700)
1694 * When a queue runner gets an exception in its _dispose() method, a
1695   `RunnerCrashEvent` is triggered, which contains references to the queue
1696   runner, mailing list, message, metadata, and exception.  Interested parties
1697   can subscribe to that `zope.event` for notification.
1698 * Events renamed and moved:
1699   * `mailman.chains.accept.AcceptNotification`
1700   * `mailman.chains.base.ChainNotification`
1701   * `mailman.chains.discard.DiscardNotification`
1702   * `mailman.chains.hold.HoldNotification`
1703   * `mailman.chains.owner.OwnerNotification`
1704   * `mailman.chains.reject.RejectNotification`
1705   changed to (respectively):
1706   * `mailman.interfaces.chains.AcceptEvent`
1707   * `mailman.interfaces.chains.ChainEvent`
1708   * `mailman.interfaces.chains.DiscardEvent`
1709   * `mailman.interfaces.chains.HoldEvent`
1710   * `mailman.interfaces.chains.AcceptOwnerEvent`
1711   * `mailman.interfaces.chains.RejectEvent`
1712 * A `ConfigurationUpdatedEvent` is triggered when the system-wide global
1713   configuration stack is pushed or popped.
1714 * The policy for archiving has now been collapsed into a single enum, called
1715   ArchivePolicy.  This describes the three states of never archive, archive
1716   privately, and archive_publicly. (LP: #967238)
1718 Database
1719 --------
1720 * Schema migrations (LP: #971013)
1722   - mailinglist.include_list_post_header -> allow_list_posts
1723   - mailinglist.news_prefix_subject_too  -> nntp_prefix_subject_too
1724   - mailinglist.news_moderation          -> newsgroup_moderation
1725   - mailinglist.archive and mailinglist.archive_private have been collapsed
1726     into archive_policy.
1727   - mailinglist.nntp_host has been removed.
1728   - mailinglist.generic_nonmember_action has been removed (LP: #975696)
1730 * Schema migrations (LP: #1024509)
1731   - member.mailing_list -> list_id
1732 * The PostgreSQL port of the schema accidentally added a moderation_callback
1733   column to the mailinglist table.  Since this is unused in Mailman, it was
1734   simply commented out of the base schema for PostgreSQL.
1736 REST
1737 ----
1738 * Expose `archive_policy` in the REST API.  Contributed by Alexander
1739   Sulfrian.  (LP: #1039129)
1741 Configuration
1742 -------------
1743 * New configuration variables `clobber_date` and `clobber_skew` supported in
1744   every `[archiver.<name>]` section.  These are used to determine under what
1745   circumstances a message destined for a specific archiver should have its
1746   `Date:` header clobbered.  (LP: #963612)
1747 * With the switch to `passlib`_, `[passwords]password_scheme` has been
1748   removed.  Instead use `[passwords]path` to specify where to find the
1749   `passlib.cfg` file.  See the comments in `schema.cfg` for details.
1750 * Configuration schema variable changes:
1751   * [nntp]username -> [nntp]user
1752   * [nntp]port (added)
1753 * Header check specifications in the `mailman.cfg` file have changed quite
1754   bit.  The previous `[spam.header.foo]` sections have been removed.
1755   Instead, there's a new `[antispam]` section that contains a `header_checks`
1756   variable.  This variable takes multiple lines of `Header: regexp` values,
1757   one per line.  There is also a new `jump_chain` variable which names the
1758   chain to jump to should any of the header checks (including the
1759   list-specific, and programmatically added ones) match.
1761 Documentation
1762 -------------
1763 * Some additional documentation on related components such as Postorius and
1764   hyperkitty have been added, given by Stephen J Turnbull.
1766 Bug fixes
1767 ---------
1768 * Fixed the RFC 1153 digest footer to be compliant.  (LP: #887610)
1769 * Fixed a UnicodeError with non-ascii message bodies in the `approved` rule,
1770   given by Mark Sapiro. (LP: #949924)
1771 * Fixed a typo when returning the configuration file's header match checks.
1772   (LP: #953497)
1773 * List-Post should be NO when posting is not allowed. (LP: #987563)
1774 * Non-unicode values in msgdata broke pending requests. (LP: #1031391)
1775 * Show devmode in `bin/mailman info` output. (LP: #1035028)
1776 * Fix residual references to the old `IMailingList` archive variables.
1777   (LP: #1031393)
1779 .. _`passlib`: https://passlib.readthedocs.io/en/stable/index.html
1782 3.0 beta 1 -- "The Twilight Zone"
1783 =================================
1784 (2012-03-23)
1786 Architecture
1787 ------------
1788 * Schema migrations have been implemented.
1789 * Implement the style manager as a utility instead of an attribute hanging
1790   off the `mailman.config.config` object.
1791 * PostgreSQL support contributed by Stephen A. Goss. (LP: #860159)
1792 * Separate out the RFC 2369 header adding handler.
1793 * Dynamically calculate the `List-Id` header instead of storing it in the
1794   database.  This means it cannot be changed.
1795 * Major redesign of the template search system, fixing LP: #788309.  $var_dir
1796   is now used when search for all template overrides, site, domain, or
1797   mailing list.  The in-tree English templates are used only as a last
1798   fallback.
1799 * Support downloading templates by URI, including mailman:// URIs.  This is
1800   used in welcome and goodbye messages, as well as regular and digest headers
1801   and footers, and supports both language and mailing list specifications.
1802   E.g. mailman:///test@example.com/it/welcome.txt
1803 * $user_password is no longer supported as a placeholder in headers and
1804   footers.
1805 * Mailing lists get multiple chains and pipelines.  For example, normal
1806   postings go through the `posting_chain` while messages to owners to through
1807   `owners_chain`.  The default `built-in` chain is renamed to
1808   `default-posting-chain` while the `built-in` pipeline is renamed
1809   `default-posting-pipeline`.
1810 * The experimental `maildir` runner is removed.  Use LMTP.
1811 * The LMTP server now requires that the incoming message have a `Message-ID`,
1812   otherwise it rejects the message with a 550 error.  Also, the LMTP server
1813   adds the `X-Message-ID-Hash` header automatically.  The `inject` cli
1814   command will also add the `X-Message-ID-Hash` header, but it will craft a
1815   `Message-ID` header first if one is missing from the injected text.  Also,
1816   `inject` will always set the correct value for the `original_size`
1817   attribute on the message object, instead of trusting a possibly incorrect
1818   value if it's already set.  The individual `IArchiver` implementations no
1819   longer set the `X-Message-ID-Hash` header.
1820 * The Prototype archiver now stores its files in maildir format inside of
1821   `$var_dir/archives/prototype`, given by Toshio Kuratomi.
1822 * Improved "8 mile high" document distilled by Stephen J Turnbull from the
1823   Pycon 2012 Mailman 3 sprint.  Also improvements to the Sphinx build given
1824   by Andrea Crotti (LP: #954718).
1825 * Pipermail has been eradicated.
1826 * Configuration variable `[mailman]filtered_messages_are_preservable`
1827   controls whether messages which have their top-level `Content-Type`
1828   filtered out can be preserved in the `bad` queue by list owners.
1829 * Configuration section `[scrubber]` removed, as is the scrubber handler.
1830   This handler was essentially incompatible with Mailman 3 since it required
1831   coordination with Pipermail to store attachments on disk.
1833 Database
1834 --------
1835 * Schema changes:
1836   - welcome_msg      -> welcome_message_uri
1837   - goodbye_msg      -> goodbye_message_uri
1838   - send_welcome_msg -> send_welcome_message
1839   - send_goodbye_msg -> send_goodbye_message
1840   - msg_header       -> header_uri
1841   - msg_footer       -> footer_uri
1842   - digest_header    -> digest_header_uri
1843   - digest_footer    -> digest_footer_uri
1844   - start_chain      -> posting_chain
1845   - pipeline         -> posting_pipeline
1846   - real_name        -> display_name (mailinglist, user, address)
1847 * Schema additions:
1848   - mailinglist.filter_action
1849   - mailinglist.owner_chain
1850   - mailinglist.owner_pipeline
1852 REST
1853 ----
1854 * Held messages can now be moderated through the REST API.  Mailing list
1855   resources now accept a `held` path component.  GETing this returns all held
1856   messages for the mailing list.  POSTing to a specific request id under this
1857   url can dispose of the message using `Action` enums.
1858 * Mailing list resources now have a `member_count` attribute which gives the
1859   number of subscribed members.  Given by Toshio Kuratomi.
1861 Interfaces
1862 ----------
1863 * Add property `IUserManager.members` to return all `IMembers` in the system.
1864 * Add property `IListmanager.name_components` which returns 2-tuples for
1865   every mailing list as (list_name, mail_host).
1866 * Remove previously deprecated `IListManager.get_mailing_lists()`.
1867 * `IMailTransportAgentAliases` now explicitly accepts duck-typed arguments.
1868 * `IRequests` interface is removed.  Now just use adaptation from
1869   `IListRequests` directly (which takes an `IMailingList` object).
1870 * `handle_message()` now allows for `Action.hold` which is synonymous with
1871   `Action.defer` (since the message is already being held).
1872 * `IListRequests.get_request()` now takes an optional `request_type`
1873   argument to narrow the search for the given request.
1874 * New `ITemplateLoader` utility.
1875 * `ILanguageManager.add()` returns the `ILanguage` object just created.
1876 * `IMailinglist.decorators` removed; it was unused
1877 * `IMailingList.real_name` -> `IMailingList.display_name`
1878 * `IUser.real_name` -> `IUser.display_name`
1879 * `IAddress.real_name` -> `IAddress.display_name`
1880 * Add property `IRoster.member_count`.
1882 Commands
1883 --------
1884 * IPython support in `bin/mailman shell` contributed by Andrea Crotti.
1885   (LP: #949926).
1886 * The `mailman.cfg` configuration file will now automatically be detected if
1887   it exists in an `etc` directory which is a sibling of argv0.
1888 * `bin/mailman shell` is an alias for `withlist`.
1889 * The `confirm` email command now properly handles `Re:`-like prefixes, even
1890   if they contain non-ASCII characters.  (LP: #685261)
1891 * The `join` email command no longer accepts an `address=` argument.  Its
1892   `digest=` argument now accepts the following values: `no` (for regular
1893   delivery), `mime`, or `plain`.
1894 * Added a `help` email command.
1895 * A welcome message is sent when the user confirms their subscription via
1896   email.
1897 * Global ``-C`` option now accepts an absolute path to the configuration
1898   file.  Given by Andrea Crotti.  (LP: #953707)
1900 Bug fixes
1901 ---------
1902 * Subscription disabled probe warning notification messages are now sent
1903   without a `Precedence:` header.  Given by Mark Sapiro. (LP: #808821)
1904 * Fixed KeyError in retry runner, contributed by Stephen A. Goss.
1905   (LP: #872391)
1906 * Fixed bogus use of `bounce_processing` attribute (should have been
1907   `process_bounces`, with thanks to Vincent Fretin.  (LP: #876774)
1908 * Fix `test_moderation` for timezones east of UTC+0000, given by blacktav.
1909   (LP: #890675)
1912 3.0 alpha 8 -- "Where's My Thing?"
1913 ==================================
1914 (2011-09-23)
1916 Architecture
1917 ------------
1918 * Factor out bounce detection to `flufl.bounce`.
1919 * Unrecognized bounces can now also be forwarded to the site owner.
1920 * mailman.qrunner log is renamed to mailman.runner
1921 * master-qrunner.lck -> master.lck
1922 * master-qrunner.pid -> master.pid
1923 * Four new events are created, and notifications are sent during mailing list
1924   lifecycle changes:
1925   - ListCreatingEvent - sent before the mailing list is created
1926   - ListCreatedEvent  - sent after the mailing list is created
1927   - ListDeletingEvent - sent before the mailing list is deleted
1928   - ListDeletedEvent  - sent after the mailing list is deleted
1929 * Four new events are created, and notifications are sent during domain
1930   lifecycle changes:
1931   - DomainCreatingEvent - sent before the domain is created
1932   - DomainCreatedEvent  - sent after the domain is created
1933   - DomainDeletingEvent - sent before the domain is deleted
1934   - DomainDeletedEvent  - sent after the domain is deleted
1935 * Using the above events, when a domain is deleted, associated mailing lists
1936   are deleted.  (LP: #837526)
1937 * IDomain.email_host -> .mail_host (LP: #831660)
1938 * User and Member ids are now proper UUIDs.
1939 * Improved the way enums are stored in the database, so that they are more
1940   explicitly expressed in the code, and more database efficient.
1942 REST
1943 ----
1944 * Preferences for addresses, users, and members can be accessed, changed, and
1945   deleted through the REST interface.  Hierarchical, combined preferences for
1946   members, and system preferences can be read through the REST interface.
1947   (LP: #821438)
1948 * The IMailingList attribute ``host_name`` has been renamed to ``mail_host``
1949   for consistency.  This changes the REST API for mailing list
1950   resources. (LP: #787599)
1951 * New REST resource http://.../members/find can be POSTed to in order to find
1952   member records.  Optional arguments are `subscriber` (email address to
1953   search for), `fqdn_listname`, and `role` (i.e. MemberRole).  (LP: #799612)
1954 * You can now query or change a member's `delivery_mode` attribute through
1955   the REST API (LP: #833132).  Given by Stephen A. Goss.
1956 * New REST resource http://.../<domain>/lists can be GETed in order to find
1957   all the mailing lists in a specific domain (LP: #829765).  Given by
1958   Stephen A. Goss.
1959 * Fixed /lists/<fqdn_listname>/<role>/<email> (LP: #825570)
1960 * Remove role plurals from /lists/<fqdn_listname/rosters/<role>
1961 * Fixed incorrect error code for /members/<bogus> (LP: #821020).  Given by
1962   Stephen A. Goss.
1963 * DELETE users via the REST API.  (LP: #820660)
1964 * Moderators and owners can be added via REST (LP: #834130).  Given by
1965   Stephen A. Goss.
1966 * Getting the roster or configuration of a nonexistent list did not give a
1967   404 error (LP: #837676).  Given by Stephen A. Goss.
1968 * PATCHing an invalid attribute on a member did not give a 400 error
1969   (LP: #833376).  Given by Stephen A. Goss.
1970 * Getting the memberships for a non-existent address did not give a 404 error
1971   (LP: #848103).  Given by Stephen A. Goss.
1973 Commands
1974 --------
1975 * `bin/qrunner` is renamed to `bin/runner`.
1976 * `bin/mailman aliases` gains `-f` and `-s` options.
1977 * `bin/mailman create` no longer allows a list to be created with bogus owner
1978   addresses.  (LP: #778687)
1979 * `bin/mailman start --force` option is fixed.  (LP: #869317)
1981 Documentation
1982 -------------
1983 * Update the COPYING file to contain the GPLv3.  (LP: #790994)
1984 * Major terminology change: ban the terms "queue runners" and "qrunners" since
1985   not all runners manage queue directories.  Just call them "runners".  Also,
1986   the master is now just called "the master runner".
1988 Testing
1989 -------
1990 * New configuration variable in [devmode] section, called `wait` which sets
1991   the timeout value used in the test suite for starting up subprocesses.
1992 * Handle SIGTERM in the REST server so that the test suite always shuts down
1993   correctly.  (LP: #770328)
1995 Other bugs and changes
1996 ----------------------
1997 * Moderating a message with Action.accept now sends the message. (LP: #827697)
1998 * Fix AttributeError triggered by i18n call in autorespond_to_sender()
1999   (LP: #827060)
2000 * Local timezone in X-Mailman-Approved-At caused test failure. (LP: #832404)
2001 * InvalidEmailAddressError no longer repr()'s its value.
2002 * Rewrote a test for compatibility between Python 2.6 and 2.7. (LP: #833208)
2003 * Fixed Postfix alias file generation when more than one mailing list
2004   exists.  (LP: #874929).  Given by Vincent Fretin.
2007 3.0 alpha 7 -- "Mission"
2008 ========================
2009 (2011-04-29)
2011 Architecture
2012 ------------
2013 * Significant updates to the subscription model.  Members can now subscribe
2014   with a preferred address, and changes to that will be immediately reflected
2015   in mailing list subscriptions.  Users who subscribe with an explicit
2016   address can easily change to a different address, as long as that address
2017   is verified.  (LP: #643949)
2018 * IUsers and IMembers are now assigned a unique, random, immutable id.
2019 * IUsers now have created_on and .preferred_address properties.
2020 * IMembers now have a .user attribute for easy access to the subscribed user.
2021 * When created with add_member(), passwords are always stored encrypted.
2022 * In all interfaces, "email" refers to the textual email address while
2023   "address" refers to the `IAddress` object.
2024 * mailman.chains.base.Chain no longer self registers.
2025 * New member and nonmember moderation rules and chains.  This effectively
2026   ports moderation rules from Mailman 2 and replaces attributes such as
2027   member_moderation_action, default_member_moderation, and
2028   generic_nonmember_action.  Now, nonmembers exist as subscriptions on a
2029   mailing list and members have a moderation_action attribute which describes
2030   the disposition for postings from that address.
2031 * Member.is_moderated was removed because of the above change.
2032 * default_member_action and default_nonmember_action were added to mailing
2033   lists.
2034 * All sender addresses are registered (unverified) with the user manager by
2035   the incoming queue runner.  This way, nonmember moderation rules will
2036   always have an IAddress that they can subscribe to the list (as
2037   MemberRole.nonmember).
2038 * Support for SMTP AUTH added via smtp_user and smtp_pass configuration
2039   variables in the [mta] section.  (LP: #490044)
2040 * IEmailValidator interface for pluggable validation of email addresses.
2041 * .subscribe() is moved from the IAddress to the IMailingList
2042 * IAddresses get their registered_on attribute set when the object is created.
2044 Configuration
2045 -------------
2046 * [devmode] section gets a new 'testing' variable.
2047 * Added password_scheme and password_length settings  for defining the
2048   default password encryption scheme.
2049 * creator_pw_file and site_pw_file are removed.
2051 Commands
2052 --------
2053 * 'bin/mailman start' does a better job of producing an error when Mailman is
2054   already running.
2055 * 'bin/mailman status' added for providing command line status on the master
2056   queue runner watcher process.
2057 * 'bin/mailman info' now prints the REST root url and credentials.
2058 * mmsitepass removed; there is no more site password.
2060 REST
2061 ----
2062 * Add Basic Auth support for REST API security.  (Jimmy Bergman)
2063 * Include the fqdn_listname and email address in the member JSON
2064   representation.
2065 * Added reply_goes_to_list, send_welcome_msg, welcome_msg,
2066   default_member_moderation to the mailing list's writable attributes in the
2067   REST service.  (Jimmy Bergman)
2068 * Expose the new membership model to the REST API.  Canonical member resource
2069   URLs are now much shorter and live in their own top-level namespace instead
2070   of within the mailing list's namespace.
2071 * /addresses/<email>/memberships gets all the memberships for a given email
2072   address.
2073 * /users is a new top-level URL under which user information can be
2074   accessed.  Posting to this creates new users.
2075 * Users can subscribe to mailing lists through the REST API.
2076 * Domains can be deleted via the REST API.
2077 * PUT and PATCH to a list configuration now returns a 204 (No Content).
2079 Build
2080 -----
2081 * Support Python 2.7. (LP: #667472)
2082 * Disable site-packages in buildout.cfg because of LP: #659231.
2083 * Don't include eggs/ or parts/ in the source tarball. (LP: #656946)
2084 * flufl.lock is now required instead of locknix.
2086 Bugs fixed
2087 ----------
2088 * Typo in scan_message(). (LP: #645897)
2089 * Typo in add_member().  (LP: #710182) (Florian Fuchs)
2090 * Re-enable bounce detectors. (LP: #756943)
2091 * Clean up many pyflakes problems; ditching pylint.
2094 3.0 alpha 6 -- "Cut to the Chase"
2095 =================================
2096 (2010-09-20)
2098 Commands
2099 --------
2100 * The functionality of 'bin/list_members' has been moved to
2101   'bin/mailman members'.
2102 * 'bin/mailman info' -v/--verbose output displays the file system
2103   layout paths Mailman is currently configured to use.
2105 Configuration
2106 -------------
2107 * You can now configure the paths Mailman uses for queue files, lock files,
2108   data files, etc. via the configuration file.  Define a file system 'layout'
2109   and then select that layout in the [mailman] section.  Default layouts
2110   include 'local' for putting everything in /var/tmp/mailman, 'dev' for local
2111   development, and 'fhs' for Filesystem Hierarchy Standard 2.3 (LP #490144).
2112 * Queue file directories now live in $var_dir/queues.
2114 REST
2115 ----
2116 * lazr.restful has been replaced by restish as the REST publishing technology
2117   used by Mailman.
2118 * New REST API for getting all the members of a roster for a specific mailing
2119   list.
2120 * New REST API for getting and setting a mailing list's configuration.  GET
2121   and PUT are supported to retrieve the current configuration, and set all
2122   the list's writable attributes in one request.  PATCH is supported to
2123   partially update a mailing list's configuration.  Individual options can be
2124   set and retrieved by using subpaths.
2125 * Subscribing an already subscribed member via REST now returns a 409 HTTP
2126   error.  LP: #552917
2127 * Fixed a bug when deleting a list via the REST API.  LP: #601899
2129 Architecture
2130 ------------
2131 * X-BeenThere header is removed.
2132 * Mailman no longer touches the Sender or Errors-To headers.
2133 * Chain actions can now fire Zope events in their _process()
2134   implementations.
2135 * Environment variable $MAILMAN_VAR_DIR can be used to control the var/
2136   directory for Mailman's runtime files.  New environment variable
2137   $MAILMAN_UNDER_MASTER_CONTROL is used instead of the qrunner's --subproc/-s
2138   option.
2140 Miscellaneous
2141 -------------
2142 * Allow X-Approved and X-Approve headers, equivalent to Approved and
2143   Approve. LP: #557750
2144 * Various test failure fixes.  LP: #543618, LP: #544477
2145 * List-Post header is retained in MIME digest messages.  LP: #526143
2146 * Importing from a Mailman 2.1.x list is partially supported.
2149 3.0 alpha 5 -- "Distant Early Warning"
2150 ======================================
2151 (2010-01-18)
2153 REST
2154 ----
2155 * Add REST API for subscription services.  You can now:
2157   - list all members in all mailing lists
2158   - subscribe (and possibly register) an address to a mailing list
2159   - unsubscribe an address from mailing list
2161 Commands
2162 --------
2163 * 'bin/dumpdb' is now 'bin/mailman qfile'
2164 * 'bin/unshunt' is now 'bin/mailman unshunt'
2165 * Mailman now properly handles the '-join', '-leave', and '-confirm' email
2166   commands and sub-addresses.  '-subscribe' and '-unsubscribe' are aliases
2167   for '-join' and '-leave' respectively.
2169 Configuration
2170 -------------
2171 * devmode settings now live in their own [devmode] section.
2172 * Mailman now searches for a configuration file using this search order.  The
2173   first file that exists is used.
2175   - -C config command line argument
2176   - $MAILMAN_CONFIG_FILE environment variable
2177   - ./mailman.cfg
2178   - ~/.mailman.cfg
2179   - /etc/mailman.cfg
2182 3.0 alpha 4 -- "Vital Signs"
2183 ============================
2184 (2009-11-28)
2186 Commands
2187 --------
2188 * 'bin/inject' is now 'bin/mailman inject', with some changes
2189 * 'bin/mailmanctl' is now 'bin/mailman start|stop|reopen|restart'
2190 * 'bin/mailman version' is added (output same as 'bin/mailman --version')
2191 * 'bin/mailman members' command line arguments have changed.  It also
2192   now ignores blank lines and lines that start with #.  It also no longer
2193   quits when it sees an address that's already subscribed.
2194 * 'bin/withlist' is now 'bin/mailman withlist', and its command line
2195   arguments have changed.
2196 * 'bin/mailman lists' command line arguments have changed.
2197 * 'bin/genaliases' is now 'bin/mailman aliases'
2199 Architecture
2200 ------------
2201 * A near complete rewrite of the low-level SMTP delivery machinery.  This
2202   greatly improves readability, testability, reuse and extensibility.  Almost
2203   all the old functionality has been retained.  The smtp_direct.py handler is
2204   gone.
2205 * Refactor model objects into the mailman.model subpackage.
2206 * Refactor most of the i18n infrastructure into a separate flufl.i18n package.
2207 * Switch from setuptools to distribute.
2208 * Remove the dependency on setuptools_bzr
2209 * Do not create the .mo files during setup.
2211 Configuration
2212 -------------
2213 * All log files now have a '.log' suffix by default.
2214 * The substitution placeholders in the verp_format configuration variable
2215   have been renamed.
2216 * Add a devmode configuration variable that changes some basic behavior.
2217   Most importantly, it allows you to set a low-level SMTP recipient for all
2218   mail for testing purposes.  See also devmode_recipient.
2221 3.0 alpha 3 -- "Working Man"
2222 ============================
2223 (2009-08-21)
2225 Configuration
2226 -------------
2227 * Configuration is now done through lazr.config.  Defaults.py is
2228   dead.  lazr.config files are essentially hierarchical ini files.
2229 * Domains are now stored in the database instead of in the configuration file.
2230 * pre- and post- initialization hooks are now available to plugins.  Specify
2231   additional hooks to run in the configuration file.
2232 * Add the environment variable $MAILMAN_CONFIG_FILE which overrides the -C
2233   command line option.
2234 * Make LMTP more compliant with Postfix docs (Patrick Koetter)
2235 * Added a NullMTA for mail servers like Exim which just work automatically.
2237 Architecture
2238 ------------
2239 * 'bin/mailman' is a new super-command for managing Mailman from the command
2240   line.  Some older bin scripts have been converted, with more to come.
2241 * Mailman now has an administrative REST interface which can be used to get
2242   information from and manage Mailman remotely.
2243 * Back port of Mailman 2.1's limit on .bak file restoration.  After 3
2244   restores, the file is moved to the bad queue, with a .psv extension. (Mark
2245   Sapiro)
2246 * Digest creation is moved into a new queue runner so it doesn't block main
2247   message processing.
2249 Other changes
2250 -------------
2251 * bin/make_instance is no longer necessary, and removed
2252 * The debug log is turned up to info by default to reduce log file spam.
2254 Building and installation
2255 -------------------------
2256 * All doc tests can now be turned into documentation, via Sphinx.  Just run
2257   bin/docs after bin/buildout.
2260 3.0 alpha 2 -- "Grand Designs"
2261 ==============================
2262 (03-Jan-2009)
2264 Licensing
2265 ---------
2267 * Mailman 3 is now licensed under the GPLv3.
2269 Bug fixes
2270 ---------
2272 * Changed bin/arch to attempt to open the mbox before wiping the old
2273   archive. Launchpad bug #280418.
2275 * Added digest.mbox and pending.pck to the 'list' files checked by
2276   check_perms. Launchpad bug #284802.
2278 Architecture
2279 ------------
2281 * Converted to using zope.testing as the test infrastructure.  Use bin/test
2282   now to run the full test suite.
2283   <https://pypi.org/project/zope.testing/3.7.1/>
2284 * Partially converted to using lazr.config as the new configuration
2285   regime.  Not everything has been converted yet, so some manual editing
2286   of mailman/Defaults.py is required.  This will be rectified in future
2287   versions.  <https://launchpad.net/lazr.config>
2288 * All web-related stuff is moved to its own directory, effectively moving
2289   it out of the way for now.
2290 * The email command infrastructure has been reworked to play more nicely
2291   with the plug-in architecture.  Not all commands have yet been
2292   converted.
2294 Other changes
2295 -------------
2297 * The LMTP server now properly calculates the message's original size.
2298 * For command line scripts, -C names the configuration file to use.  For
2299   convenient testing, if -C is not given, then the environment variable
2300   MAILMAN_CONFIG_FILE is consulted.
2301 * Support added for a local MHonArc archiver, as well as archiving
2302   automatically in the remote Mail-Archive.com service.
2303 * The permalink proposal for supporting RFC 5064 has been adopted.
2304 * Mailing lists no longer have a .web_page_url attribute; this is taken from
2305   the mailing list's domain's base_url attribute.
2306 * Incoming MTA selection is now taken from the config file instead of
2307   plugins.  An MTA for Postfix+LMTP is added.  bin/genaliases works again.
2308 * If a message has no Message-ID, the stock archivers will return None for
2309   the permalink now instead of raising an assertion.
2310 * IArchiver no longer has an is_enabled property; this is taken from the
2311   configuration file now.
2313 Installation
2314 ------------
2316 * Python 2.6 is the minimal requirement.
2317 * Converted to using zc.buildout as the build infrastructure.  See
2318   docs/ALPHA.txt for details.
2319   <https://pypi.org/project/zc.buildout/1.1.1/>
2322 3.0 alpha 1 -- "Leave That Thing Alone"
2323 =======================================
2324 (08-Apr-2008)
2326 User visible changes
2327 --------------------
2329 * So called 'new style' subject prefixing is the default now, and the only
2330   option.  When a list's subject prefix is added, it's always done so before
2331   any Re: tag, not after.  E.g. '[My List] Re: The subject'.
2332 * RFC 2369 headers List-Subscribe and List-Unsubscribe now use the preferred
2333   -join and -leave addresses instead of the -request address with a subject
2334   value.
2336 Configuration
2337 -------------
2339 * There is no more separate configure; make; make install step. Mailman 3.0
2340   is a setuptools package.
2341 * Mailman can now be configured via a 'mailman.cfg' file which lives in
2342   $VAR_PREFIX/etc.  This is used to separate the configuration from the
2343   source directory.  Alternative configuration files can be specified via
2344   -C/--config for most command line scripts.  mailman.cfg contains Python
2345   code.  mm_cfg.py is no more.  You do not need to import Defaults.py in
2346   etc/mailman.cfg.  You should still consult Defaults.py for the list of site
2347   configuration variables available to you.
2349   See the etc/mailman.cfg.sample file.
2350 * PUBLIC_ARCHIVE_URL and DEFAULT_SUBJECT_PREFIX now takes $-string
2351   substitutions instead of %-string substitutions.  See documentation in
2352   Defaults.py.in for details.
2353 * Message headers and footers now only accept $-string substitutions;
2354   %-strings are no longer supported.  The substitution variable
2355   '_internal_name' has been removed; use $list_name or $real_name
2356   instead.  The substitution variable $fqdn_listname has been added.
2357   DEFAULT_MSG_FOOTER in Defaults.py.in has been updated accordingly.
2358 * The KNOWN_SPAMMERS global variable is replaced with HEADER_MATCHES.  The
2359   mailing list's header_filter_rules variable is replaced with header_matches
2360   which has the same semantics as HEADER_MATCHES, but is list-specific.
2361 * DEFAULT_MAIL_COMMANDS_MAX_LINES -> EMAIL_COMMANDS_MAX_LINES
2362 * All SMTP_LOG_* templates use $-strings and all consistently write the
2363   Message-ID as the first item in the log entry.
2364 * DELIVERY_MODULE now names a handler, not a module (yes, this is a
2365   misnomer, but it will likely change again before the final release).
2367 Architecture
2368 ------------
2370 * Internally, all strings are Unicodes.
2371 * Implementation of a chain-of-rules based approach for deciding whether a
2372   message should initially be accepted, held for approval, rejected/bounced,
2373   or discarded.  This replaces most of the disposition handlers in the
2374   pipeline.  The IncomingRunner now only processes message through the rule
2375   chains, and once accepted, places the message in a new queue processed by
2376   the PipelineRunner.
2377 * Substantially reworked the entire queue runner process management,
2378   including mailmanctl, a new master script, and the qrunners.  This should
2379   be much more robust and reliable now.
2380 * The Storm ORM is used for data storage, with the SQLite backend as the
2381   default relational database.
2382 * Zope interfaces are used to describe the major components.
2383 * Users are now stored in a unified database, and shared across all mailing
2384   lists.
2385 * Mailman's web interface is now WSGI compliant.  WSGI is a Python standard
2386   (PEP 333) allowing web applications to be (more) easily integrated with any
2387   number of existing Python web application frameworks.  For more information
2388   see:
2390   https://wsgi.readthedocs.io/en/latest/
2391   https://www.python.org/dev/peps/pep-0333/
2393   Mailman can still be run as a traditional CGI program of course.
2394 * Mailman now provides an LMTP server for more efficient integration with
2395   supporting mail servers (e.g. Postfix, Sendmail).  The Local Mail Transport
2396   Protocol is defined in RFC 2033:
2398   http://www.faqs.org/rfcs/rfc2033.html
2399 * Virtual domains are now fully supported in that mailing lists of the same
2400   name can exist in more than one domain.  This is accomplished by renaming
2401   the lists/ and archives/ subdirectories after the list's posting address.
2402   For example, data for list foo in example.com and list foo in example.org
2403   will be stored in lists/foo@example.com and lists/foo@example.org.
2405   For Postfix or manual MTA users, you will need to regenerate your mail
2406   aliases.  Use bin/genaliases.
2408   VIRTUAL_HOST_OVERVIEW has been removed, effectively Mailman now operates
2409   as if it were always enabled.  If your site has more than one domain,
2410   you must configure all domains by using add_domain() in your
2411   etc/mailman.cfg flie (see below -- add_virtual() has been removed).
2412 * If you had customizations based on Site.py, you will need to re-implement
2413   them.  Site.py has been removed.
2414 * The site list is no more.  You can remove your 'mailman' site list unless
2415   you want to retain it for other purposes, but it is no longer used (or
2416   required) by Mailman.  You should set NO_REPLY_ADDRESS to an address that
2417   throws away replies, and you should set SITE_OWNER_ADDRESS to an email
2418   address that reaches the person ultimately responsible for the Mailman
2419   installation.  The MAILMAN_SITE_LIST variable has been removed.
2420 * qrunners no longer restart on SIGINT; SIGUSR1 is used for that now.
2422 Internationalization Big Changes
2423 --------------------------------
2425 * Translators should work only on messages/<lang>/LC_MESSAGES/mailman.po.
2426   Templates files are generated from mailman.po during the build process.
2428 New Features
2429 ------------
2431 * Confirmed member change of address is logged in the 'subscribe' log, and if
2432   admin_notify_mchanges is true, a notice is sent to the list owner using a
2433   new adminaddrchgack.txt template.
2434 * There is a new list attribute 'subscribe_auto_approval' which is a list of
2435   email addresses and regular expressions matching email addresses whose
2436   subscriptions are exempt from admin approval. RFE 403066.
2438 Command line scripts
2439 --------------------
2441 * Most scripts have grown a -C/--config flag to allow you to specify a
2442   different configuration file.  Without this, the default etc/mailman.cfg
2443   file will be used.
2444 * the -V/--virtual-host-overview switch in list_lists has been removed, while
2445   -d/--domain and -f/--full have been added.
2446 * bin/newlist is renamed bin/create_list and bin/rmlist is renamed
2447   bin/remove_list.  Both take fully-qualified list names now (i.e. the list's
2448   posting address), but also accept short names, in which case the default
2449   domain is used.  newlist's -u/--urlhost and -e/--emailhost switches have
2450   been removed.  The domain that the list is being added to must already
2451   exist.
2452 * Backport the ability to specify additional footer interpolation variables
2453   by the message metadata 'decoration-data' key.
2455 Bug fixes and other patches
2456 ---------------------------
2458 * Removal of DomainKey/DKIM signatures is now controlled by Defaults.py
2459   mm_cfg.py variable REMOVE_DKIM_HEADERS (default = No).
2460 * Queue runner processing is improved to log and preserve for analysis in the
2461   shunt queue certain bad queue entries that were previously logged but lost.
2462   Also, entries are preserved when an attempt to shunt throws an exception
2463   (1656289).
2464 * The processing of Topics regular expressions has changed. Previously the
2465   Topics regexp was compiled in verbose mode but not documented as such which
2466   caused some confusion.  Also, the documentation indicated that topic
2467   keywords could be entered one per line, but these entries were not handled
2468   properly.  Topics regexps are now compiled in non-verbose mode and multi-
2469   line entries are 'ored'.  Existing Topics regexps will be converted when
2470   the list is updated so they will continue to work.
2471 * The List-Help, List-Subscribe, and List-Unsubscribe headers were
2472   incorrectly suppressed in messages that Mailman sends directly to users.
2473 * The 'adminapproved' metadata key is renamed 'moderator_approved'.