5 # Dieses Perl-Skript extrahiert einfache Wortlisten aus der
6 # »wortliste«-Datenbank im Langformat (oder ähnlichen Dateien mit
7 # gleichem Dateiformat), die beispielsweise als Eingabedateien für
8 # »patgen« verwendet werden können.
12 # perl extract-tex.pl [Optionen...] [Liste1 Liste2 ...] > input.patgen
14 # Die Eingabedateien müssen in UTF-8 kodiert sein; ist keine
15 # Eingabedatei angegeben, verwendet das Skript die Standardeingabe.
18 # perl extract-tex.pl -l < ../wortliste > wortliste.ref.latin9
19 # perl extract-tex.pl -t ../wortliste > wortliste.trad.utf8
23 # perl extract-tex.pl -1 ...
24 # perl extract-tex.pl -t -1 ...
25 # perl extract-tex.pl -s -1 ...
26 # perl extract-tex.pl -G -S ...
28 # liefern jeweils die gleiche Ausgabe wie
30 # sprachauszug.py -l de-1996,de-1996-x-versal ...
31 # sprachauszug.py -l de-1901,de-1901-x-versal ...
32 # sprachauszug.py -l de-CH-1901,de-1901 ...
33 # sprachauszug.py -l de-1996,de-1996-x-versal \
34 # -s morphemisch,keine_schwankungsfaelle,einfach ... [*]
36 # [*] »sprachauszug.py« gibt hier zusätzlich auch Wörter mit
37 # Mehrdeutigkeiten aus.
44 # -s Option »-t« wählt die traditionelle deutsche Rechtschreibung
45 # aus, Option »-s« die traditionelle (deutsch)schweizerische
46 # Rechtschreibung. Wenn weder »-s« noch »-t« gesetzt ist, wird
47 # die reformierte deutsche Rechtschreibung ausgewählt.
49 # -G Gib zusätzlich Gesangstrennstellen aus, z.B. »A-bend«, wobei
50 # Ungünstigkeitsmarker (mit Ausnahme von ».·«) ignoriert werden.
51 # Einträge mit speziellen Trennungen oder Doppeldeutigkeiten
52 # werden nicht verwendet.
54 # -x Ignoriere Optionen »-g«, »-G«, »-S«, »-u« sowie »-1« und gib die
55 # sprachspezifischen Felder unbearbeitet aus (inklusive
58 # -g Gib Wörter mit gewichteten Trennstellen aus. Optional kann ein
59 # ganzzahliges Argument angegeben werden: Wert 0 gibt alle
60 # gewichtete Trennstellen aus inklusive »-« (das ist der
61 # Standardwert), Wert 1 nur die Trennstellen mit der höchsten
62 # Wichtung (ohne »-«), Wert 2 die Trennstellen mit der höchsten
63 # und zweithöchsten Wichtung (ohne »-«), usw.
65 # Beachte, dass bei nahe beieinanderstehenden Trennstellen derzeit
66 # keine zusätzliche Wichtung vorgenommen wird. Beispielsweise ist
71 # die Trennung »abbe-rufen« schlecht, weil ganz nahe der optimalen
72 # Trennstelle (nach »ab«). Das Skript gibt trotzdem diese
73 # Trennstelle als zweitbeste aus.
75 # -u Verhindere die Ausgabe von Wörtern mit Markern für unerwünschte
76 # Trennungen (z.B. »An<=al-.pha=bet«). Wenn nicht gesetzt, werden
77 # als ungünstig markierte Trennstellen entfernt
78 # (z.B. »An<=alpha=bet«).
80 # -U Gib Wörter mit Nicht-ASCII-Zeichen auch in Umschrift aus (z.B.
81 # »loe-sen«, »Haen-de«). Ausgenommen davon sind Wörter mit »ß«,
82 # weil die entsprechenden Formen mit »ss« bereits in der Wortliste
85 # -1 (Ziffer 1) Verhindere einbuchstabige Trennungen. Ist die Option
86 # gesetzt, wird die erste dieser Trennungen unterdrückt, falls
87 # beide Trennstellen gleichwertig sind (z.B. »eu-ro-päi-sche«
88 # statt »eu-ro-pä-i-sche«), anderenfalls bleibt die stärkere
89 # erhalten (z.B. »päd<ago-gisch« statt »pä-d<a-go-gisch«).
91 # Gesangstrennstellen sind von dieser Option nicht betroffen; es
92 # ist daher nicht sinnvoll, gleichzeitig »-G« zu verwenden.
94 # -S Entferne Schwankungsfälle (z.B. »Sta-tion« statt »Sta-ti-on«).
96 # -v Verhindere die Ausgabe von Versalformen, wo »ß« durch »ss«
99 # -l (Kleinbuchstabe L) Konvertiere die Ausgabe von UTF-8 nach
103 # Options-Beispiele für den Eintrag »I·n<i-ti.a-ti.on«:
107 # (keine) In-iti-a-ti-on
108 # -G -S In-i-tia-tion
112 # Wir verwenden »<<>>« statt »<>« aus Sicherheitsgründen.
117 use English
'-no_match_vars';
118 use utf8
; # String-Literals direkt als UTF-8.
119 use open qw(:std :utf8);
120 use Getopt
::Long
qw(:config bundling);
133 GetOptions
("g:i" => \
$opt_g, "G" => \
$opt_G,
135 "s" => \
$opt_s, "S" => \
$opt_S,
137 "u" => \
$opt_u, "U" => \
$opt_U,
148 binmode(STDOUT
, ":encoding(iso-8859-15)") if $opt_l;
151 # Einige Konstanten für reguläre Ausdrücke, um die Lesbarkeit zu
153 my $Marker = qr/[.·<>=-]/x;
154 my $Buchstabe = qr/(?: [^.·<>=-] | ch)/x;
155 my $Vokal = qr/[aeiouäëïöüy]/x;
156 # Konsonant: nicht Vokal, aber Buchstabe.
157 my $Konsonant = qr/(?! $Vokal ) $Buchstabe/x;
160 sub entferne_marker
{
162 $arg =~ s/$Marker//g;
166 # Wenn Option »-U« gesetzt ist, müssen wir erkennen können, ob Wörter
167 # in Umschrift in der Wortliste existieren. Wir benutzen dafür zwei
170 my %wortliste_umschrift;
173 # Gebe Kommentarzeilen direkt aus, falls verlangt.
181 # Isoliere Kommentare.
184 my $kommentar = $1 // "";
186 # Entferne Leerzeichen aller Art.
189 my @feld = split(';');
192 # reformiert: Felder 2, 4, 5, 7
193 # traditionell: Felder 2, 3, 5, 6
194 # traditionell Schweiz: Felder 2, 3, 5, 6, 8
196 # Beachte: Feld n hat Index n-1.
198 $zeile = $feld[2] if defined $feld[2]
199 && $feld[2] ne "-3-" && ($opt_t || $opt_s);
200 $zeile = $feld[3] if defined $feld[3]
201 && $feld[3] ne "-4-" && !($opt_t || $opt_s);
203 # Wir nehmen Versalformen nur dann, wenn es keine normalen Formen
204 # (in Feld 2 oder 3) gibt.
205 $zeile = $feld[4] if defined $feld[4]
206 && $feld[4] ne "-5-" && !$opt_v;
207 $zeile = $feld[5] if defined $feld[5]
208 && $feld[5] ne "-6-" && ($opt_t || $opt_s) && !$opt_v;
209 $zeile = $feld[6] if defined $feld[6]
210 && $feld[6] ne "-7-" && !($opt_t || $opt_s) && !$opt_v;
213 $zeile = $feld[7] if defined $feld[7] && $opt_s;
219 next if $zeile eq "-2-";
222 # Entferne spezielle Trennungen.
223 next if $opt_G and $zeile =~ /\{/;
224 $zeile =~ s
|\
{ (.*?
) / .*? \
}|$1|gx
;
226 # Entferne Doppeldeutigkeiten.
227 next if $opt_G and $zeile =~ /\[/;
228 $zeile =~ s
|\
[ (.*?
) / .*? \
]|entferne_marker
($1)|egx
;
230 # Hier der Algorithmus, um die verbliebenen Markierungen in
231 # Trennstellen aufzulösen. Die Schritte sind in der gegebenen
232 # Reihenfolge abzuarbeiten.
234 # Dieses Skript implementiert ausschließlich den morphemischen
235 # Trennstil (siehe Punkt 1), unter weiterer Anwendung der Regeln 2
238 # (1) Auflösung von Wahlmöglichkeiten zwischen morphemischem und
239 # syllabischem Trennstil (einer der beiden Stile muß gewählt
240 # werden). Ungünstigkeitsmarker und Gesangstrennstellen
241 # werden in diesem Schritt nicht berücksichtigt (wohl aber
242 # entfernt, wenn die entsprechende Trennstelle entfällt).
244 # (a) Die Bezeichnungen
248 # sind Kurzschreibungen für
250 # {<x/x-} und {x</-x} (morphemisch/syllabisch) ,
252 # wobei »x« ein Konsonant oder »ch« ist. Diese Regel gilt
253 # nicht für die Suffixe »>x-« und »-x>«.
259 # Kurzschreibungen für
261 # {=x/x-} und {x=/-x} (morphemisch/syllabisch) .
263 # (b) Die Bezeichnungen
267 # sind Kurzschreibungen für
269 # {<i·/i-} und {·i</-i} (morphemisch/syllabisch) ,
271 # wobei »i« ein Vokal ist (einschließlich »y«). Diese
272 # Regel gilt nicht für die Suffixe »>i-« und »-i>«. Die
273 # Zusammensetzungen »=i-« und »-i=« werden gegenwärtig
274 # nicht beachtet, da sie in der Wortliste nicht vorkommen
275 # (Beispiel: Ei-se-n=a-ch-er Motorenwerke).
277 # Beispielsweise bleibt die Markierung
281 # in diesem Schritt unverändert; wegen »>« gibt es keine
284 # (2) Behandle (angehängte) ».«-Marker, falls ungünstige
285 # Trennstellen unterdrückt werden sollen.
287 # (3) Entferne Flattervokale (also Einbuchstaben-Silben), falls
288 # verlangt. Beachte, daß »ch« wie ein Buchstabe behandelt
289 # wird und auch Schwankungsfälle (».«) berücksichtigt werden.
290 # Gesangstrennstellen dagegen werden ignoriert (aber
291 # gegebenenfalls entfernt).
293 # Die folgenden beiden Regeln beziehen sich auf die
294 # Trennstellen unmittelbar vor und nach dem Flattervokal.
296 # (a) Ist eine Trennstelle »stärker« als die andere, wird die
297 # stärkere Trennstelle genommen (z.B. ist »>« stärker als
298 # »-«, »-« stärker als ».«).
300 # (b) Sind die Trennstellen gleich stark, wird die rechte
301 # Trennstelle genommen.
303 # (4) Entferne Gesangstrennstellen (»·«), falls verlangt.
304 # Beachte, daß die Markierung für Gesangstrennstellen, ähnlich
305 # Ungünstigkeitsmarkern, auch zu anderen Markern treten kann
306 # (die dann ebenfalls entfernt werden).
308 # Die Markierung ».·« wird in jedem Fall entfernt.
310 # Falls Gesangstrennstellen berücksichtigt werden sollen und
311 # Situationen wie »·x<« auftreten (wobei »x« ein Konsonant
312 # oder »ch« ist), wird die »stärkere« Trennstelle genommen.
314 # (5) Entferne restliche Schwankungsfälle, falls verlangt.
316 # (6) Alle verbliebenen Markierungen werden zu »-« aufgelöst.
321 # Re<stau-rant (1a, morphemisch)
325 # Res-tau-rant (1a, syllabisch)
328 # Mont=re-al (1a, morphemisch)
332 # Mon-tre-al (1a, syllabisch)
335 # Ger<i.a-trie (1a, morphemisch)
340 # Ge-ri.a-trie (1a, syllabisch)
343 # Ärz-te=i·n<.i-ti.a-ti-ve
344 # Ärz-te=i·n<.i·ti.a-ti-ve (1b, morphemisch)
345 # Ärz-te=i·ni·ti.a-ti-ve (2)
346 # Ärz-te=i·ni·tia-ti-ve (3a)
347 # Ärz-te=initia-ti-ve (4)
348 # Ärz-te-initia-ti-ve (6)
350 # Ärz-te=i·n<.i-ti.a-ti-ve
351 # Ärz-te=i·ni-ti.a-ti-ve (1b, syllabisch)
352 # Ärz-te=i·ni-tia-ti-ve (3a)
353 # Ärz-te=ini-tia-ti-ve (4)
354 # Ärz-te-ini-tia-ti-ve (6)
357 # Di·a<s-po-ra (1b, morphemisch)
363 # Di-as-po-ra (1b, syllabisch)
370 # al-ge-bra>ische (3a)
371 # al-ge-bra-ische (6)
377 # A<·sphalt (1a, morphemisch)
381 # As-phalt (1a, syllabisch)
390 # A·b<i·tur (1b, morphemisch)
391 # Ab<i·tur (4, mit Gesangstrennstellen)
395 # A·bi-tur (1b, syllabisch)
396 # A-bi-tur (6, mit Gesangstrennstellen)
398 # Schritt 1a: »<x-« wird zu »<x«.
399 $zeile =~ s/[<=] [.·]* $Konsonant \K - \.*//gx;
400 # »-x<« wird zu »x<«.
401 $zeile =~ s/- \.* (?= $Konsonant \.* [<=] )//gx;
403 # Schritt 1b: »<i-« wird zu »<i·«.
404 $zeile =~ s/< \.* $Vokal \K -/·/gx;
405 # »-i<« wird zu »·i<«.
406 $zeile =~ s/- (?= \.* $Vokal < )/·/gx;
408 # Ausgabe von Wörtern mit unerwünschten Trennungen?
409 next if $opt_u and $zeile =~ /\./;
411 # Schritt 2: »a<.b« wird zu »ab«.
413 # Beachte, daß die Kombination »·.« zwar nicht in der Wortliste
414 # vorkommt, sehr wohl jedoch als Ergebnis von Schritt 1b.
415 $zeile =~ s/[·<>=-]+ \.+//gx if !$opt_G;
418 # Schritt 3a: »a-i>c« wird zu »ai>c«.
419 $zeile =~ s/[-.]+ (?= $Vokal [<>=] )//gx;
420 # »a.i-c« wird zu »ai-c«.
421 $zeile =~ s/\.+ (?= $Vokal - )//gx;
422 # »a<i-c« wird zu »a<ic«.
423 $zeile =~ s/[<>=] [·<>=]* $Vokal \K [-.]+//gx;
424 # »a-i.c« wird zu »a-ic«.
425 $zeile =~ s/- $Vokal \K \.+//gx;
427 # Schritt 3b: »a-i-c« wird zu »ai-c«.
428 $zeile =~ s/- (?= $Vokal - )//gx;
434 # »a·x<c« wird zu »ax<c«.
435 $zeile =~ s/(?<! <) ·+ (?= $Konsonant < )//gx;
438 # »a<·b« wird zu »ab«.
439 $zeile =~ s/$Buchstabe \K $Marker* ·+//gx;
444 # »a.b« wird zu »ab«.
448 # »a.b« wird zu »a-b«.
453 # Berechne Wichtungen. Wir verwenden folgende Werte:
464 # Bei mehrfachem Auftreten von »<« hat das am meisten links
465 # stehende den höchsten Rang. Bei mehrfachem Auftreten von »>«
466 # hat das am meisten rechts stehende den höchsten Rang.
469 # Mit<ver<ant-wort>lich>keit
472 # Das bezieht sich auch auf Ketten mit »=>« u.ä:
474 # Ei-gen=wirt>schaft=>lich>keit
479 my ($rang, $rang_vorher);
480 my ($wichtung, $wichtung_vorher);
482 # Wir zerlegen mit `split' unter Beibehaltung der Begrenzer.
483 my @zerlegung = split /([<>=-]+)/, $zeile;
485 # Wir speichern Wichtung und Rang als Felder.
486 my @wichtungen = (-2) x
($#zerlegung + 1);
487 my @ränge
= (0) x
($#zerlegung + 1);
489 # Erster Durchgang: Ermittle Wichtungswerte.
491 # Wir starten bei erstem Marker (mit Index 1).
492 foreach my $i (1 .. ($#zerlegung - 1)) {
493 # Ignoriere Nicht-Marker.
496 $marker = $zerlegung[$i];
498 if ($marker =~ /^-$/) {
501 elsif ($marker =~ /^--$/) {
504 elsif ($marker =~ /^[<>]$/) {
507 elsif ($marker =~ /^=$/) {
510 elsif ($marker =~ /( ==*>? | <?=*= )/x) {
511 $wichtung = length($1) + 1;
514 warn "Zeile $INPUT_LINE_NUMBER:"
515 . " unbekannter Marker »$marker« behandelt als »-«\n";
519 $wichtungen[$i] = $wichtung;
522 # Zweiter Durchgang: Adjustiere Wichtung von »<« und »>«.
524 # Behandle »<« von rechts nach links gehend.
525 $wichtung_vorher = -2;
526 foreach my $i (reverse(1 .. ($#zerlegung - 1))) {
527 # Ignoriere Nicht-Marker.
530 if (index ($zerlegung[$i], "<") >= 0) {
531 # Hat der rechte Marker in einer Kette von »<« eine höhere
532 # Wichtung, wird diese übernommen.
533 $wichtung = $wichtungen[$i];
535 if ($wichtung_vorher >= $wichtung) {
536 $wichtungen[$i] = $wichtung_vorher;
539 $wichtung_vorher = $wichtung;
542 # »-«-Marker zwischen zwei »<« ändert nicht deren Wichtung.
543 elsif ($zerlegung[$i] ne "-") {
544 $wichtung_vorher = -2;
548 # Behandle »>« von links nach rechts gehend.
549 $wichtung_vorher = -2;
550 foreach my $i (1 .. ($#zerlegung - 1)) {
551 # Ignoriere Nicht-Marker.
554 if (index ($zerlegung[$i], ">") >= 0) {
555 # Hat der linke Marker in einer Kette von »>« eine höhere
556 # Wichtung, wird diese übernommen.
557 $wichtung = $wichtungen[$i];
559 if ($wichtung_vorher >= $wichtung) {
560 $wichtungen[$i] = $wichtung_vorher;
563 $wichtung_vorher = $wichtung;
566 # »-«-Marker zwischen zwei »>« ändert nicht deren Wichtung.
567 elsif ($zerlegung[$i] ne "-") {
568 $wichtung_vorher = -2;
572 # Dritter Durchgang: Ermittle Rang von »<« und »>«.
574 # Behandle »<« von links nach rechts gehend.
576 foreach my $i (1 .. ($#zerlegung - 1)) {
577 # Ignoriere Nicht-Marker.
580 if (index ($zerlegung[$i], "<") >= 0) {
581 $ränge
[$i] = $rang--;
583 # »-«-Marker zwischen zwei »<« ändert nicht den Rang.
584 elsif ($zerlegung[$i] ne "-") {
589 # Behandle »>« von rechts nach links gehend.
591 foreach my $i (reverse(1 .. ($#zerlegung - 1))) {
592 # Ignoriere Nicht-Marker.
595 if (index ($zerlegung[$i], ">") >= 0) {
596 $ränge
[$i] = $rang--;
598 # »-«-Marker zwischen zwei »>« ändert nicht den Rang.
599 elsif ($zerlegung[$i] ne "-") {
604 # Sortiere Indexfeld für Marker mit absteigender Wichtung.
605 my @wichtungsindices =
607 # Benutze Rang für Sekundärsortierung.
608 if ($wichtungen[$a] == $wichtungen[$b]) {
609 -($ränge
[$a] <=> $ränge
[$b]);
612 -($wichtungen[$a] <=> $wichtungen[$b]);
614 } (0 .. $#zerlegung);
616 # Entferne Trennstellen unter Berücksichtigung des Arguments von
619 $wichtung_vorher = -2;
622 foreach my $i (@wichtungsindices) {
623 # Alle Wortteile haben einen geraden Index und sind stets am
624 # Schluß von @wichtungsindices.
627 $wichtung = $wichtungen[$i];
630 if ($wichtung_vorher == $wichtung) {
631 $g++ if $rang_vorher != $rang;
637 $wichtung_vorher = $wichtung;
638 $rang_vorher = $rang;
640 # Entferne Trennung mit zu geringer Wichtung.
641 $zerlegung[$i] = "" if $g > $opt_g || $wichtung < 0;
644 $zeile = join '', @zerlegung;
648 $zeile =~ s/$Marker+/-/g;
653 print " " . $kommentar if $kommentar && $opt_x;
656 # Der Schlüssel im Hash ist das ungetrennte Wort, konvertiert zu
657 # Kleinbuchstaben; Wert wird keiner gebraucht.
658 $wortliste{lc($feld[0])} = ();
661 my $orig_zeile = $zeile;
663 $zeile =~ tr
[ÀàÁáÂâÃãÇçÈèÉéÊêËëÌìÍíÎîÏïÑñÒòÓóÔôÕõŠšÙùÚúÛûÝýŸÿŽž
]
664 [AaAaAaAaCcEeEeEeEeIiIiIiIiNnOoOoOoOoSsUuUuUuYyYyZz
];
683 $wortliste_umschrift{lc($feld[0])} = $zeile if $orig_zeile ne $zeile;
688 # Wir geben nur Wörter aus, die nicht bereits in der originalen
689 # Wortliste existieren.
690 foreach my $wort (sort(keys %wortliste_umschrift)) {
691 my $umschrift = $wortliste_umschrift{$wort};
692 my $test = lc(entferne_marker
($umschrift));
694 print "$umschrift\n" if not exists ($wortliste{$test});