Regularisierung und Normalisierung, I: 1 2 3, II: 4 5 6 7

2. Was bedeuten die Normalisierungsregeln?

Normalisierungsregeln sind sprachabhängig. Zum Beispiel wird in Arboreal "ä" im Lateinischen zu "a", aber im Italienischen bleibt es "ä". Die Unterschiede zwischen den einzelnen Sprachen sind in Arboreal wohlüberlegt. Einige Normalisierungen in Arboreal scheinen andererseits ad-hoc-Lösungen zu sein, die wir nicht pauschal übernehmen können. Die Normalisierungen in Arboreal betreffen außerdem nicht die Textanzeige, sondern die Weitergabe der Wörter an Wörterbücher; siehe dazu Abschnitt 3.

Die Normalisierungsregeln für das Backend sind im wesentlichen von Arboreal übernommen. Die Anpassungen im Backend scheinen ad-hoc-Lösungen mit unbedachten Nebeneffekten zu sein. Die folgende Diskussion bezieht sich daher nur auf die Normalisierungsregeln in Arboreal.

Die Regeln könnten ohne weiteres in Lex implementiert werden und wären dann wohl übersichtlicher als in der Java-Implementation.

Diakritika

Malcolm hat grundsätzlich zwischen (heutzutage) als überflüssig erachteten (d.h. meistens der Disambiguierung dienenden) und bedeutungstragenden Diakritika (in der Sprache übliche Zeichen sowie Abkürzungszeichen) unterschieden. Diese Unterscheidung muss für jede Sprache einzeln gemacht werden. Diakritika, die in einer Sprache nicht zu erwarten sind, hat er nicht normalisiert.

• Latein: Zirkumflex û ê versus Tilde ũ ẽ: hîc wird zu hic und verò wird vero, aber eiuſdẽ wird eiusdẽ und reſiduũ wird residuũ (nur das ſ wird normalisiert).
• Französisch: æ versus œ: æ kann aufgelöst werden, aber es gibt den Buchstaben œ.
• Deutsch: deutsche Umlaute werden zwar normalisiert, aber zum Beispiel drucken und drücken werden nicht gleichgesetzt, sondern drucken und druecken.
• Griechisch: ά (03AC) wird stillschweigend zu ά (1F71): Argument ist wohl: es zwar falsch im Text, aber es ist eindeutig, was gemeint ist?

Offene Fragen

Wie erklären sich die Unterschiede zwischen den Sprachen, zum Beispiel bei der Normalisierung des Bindestrichs, oder bei der Definition von Wortgrenzen? Ist das Absicht, oder gab es jeweils irgendeinen konkreten Anlass und wurde dann nicht systematisiert?

Latein

Eine Regel wie "Æ wird zu Ae" ist hier konsequent, weil alle Buchstaben bis auf den ersten schon in Kleinbuchstaben umgewandelt wurden. Also: ÆQVALIS wird zu Aequalis. Ohne die Umwandlung in Kleinbuchstaben ergibt die Regel für Æ keinen Sinn.

Warum werden in Latein (und nur dort) die angle brackets〈 (2329) 〉(232A) aus dem Block "Technische Symbole" (nicht zu verwechseln mit z.B. full-width less/greater than ＜ (FF1E) ＞ (FF1C)) entfernt? Wo kommen die überhaupt vor? War es ein Hack für einen einzelnen Text? Solange nicht klar ist, warum Malcolm sie normalisiert hat, werden sie bei uns nicht normalisiert.

Was bedeutet ç im Lateinischen? Muss es regularisiert werden, oder kann es normalisiert werden?

Italienisch

Die algorithmischen Regeln normalisieren in Richtung der heutigen italienischen Orthographie.

(Warum wird Gravis zu Akut?)

Französisch

œ wird nicht normalisiert: Gibt es gibt Minimalpaare œ versus oe?

Deutsch

Warum wird gerade é normalisiert? Französische Fremdwörter?

Chinesisch

Die Normalisierung des fullwidth space, der Aufzählungskommas und des chinesischen Punkts scheint ein Hack für die Wortlistenerstellung in Arboreal zu sein.

Was ist der Sinn, die hochgestellten Zahlen 1 bis 5 zu normalisieren? War es ein Hack für einen einzelnen Text? Hat das einen Einfluss auf die Wortende-Markierung?

Die Regeln für fullwidth space, Satzzeichen und hochgestellte 1 bis 5 werden von uns nicht übernommen.

Griechisch

Ich weiß nicht, warum < > [ ] 1 2 getilgt werden. Zum Problem σ versus ς siehe Abschnitt 3.

Die Tippfehler in "el_atonic" legen nahe, dass die Regeln für Griechisch ohne Diakritika nicht oft verwendet worden sind.