2. Was bedeutet das?

Schon bei Arboreal ist die orthgraphische Normalisierung etwas durcheinander, und das Durcheinander ist durch die Übertragung in das neue Backend noch größer geworden.

Die wichtigste Erkenntnis ist, dass diese Normalisierungsregeln in Arboreal nicht für die Textanzeige gedacht sind, denn die Normalisierungsregeln greifen massiv in die Textgestalt ein. Beispiele:

• divisa wird zu diuisa, volumine wird zu uolumine (in der linguistic note begründet Malcolm, warum diese Normalierung praktisch nie dazu führt, dass sich fälschlicherweise das Lemma ändert)
• Käse und KÄSE werden bei zu Kaese
• 凡​古​今​一​言​之嘉、寸​長​可​取，必​勤​勤​懇​懇​而​契​合​焉。 wird zu
• 凡​古​今​一​言​之嘉,寸​長​可​取，必​勤​勤​懇​懇​而​契​合​焉.
• πλῆθος wird zu πλῆθοσ

Eine naheliegende Frage ist daher, wo die Normalisierungsregeln überhaupt verwendet werden. Siehe dazu Abschnitt 3. Warum auch immer bestimmte Zeichen bei bestimmten Sprachen normalisiert werden, die Menge der Zeichen ist jedenfalls recht bewusst in jeder Sprache anders: Zum Beispiel Italienisch hat nicht alle Zeichen von Latein.

Malcolm hat grundsätzlich zwischen heutzutage als überflüssig (d.h. meistens der Disambiguierung dienenden) erachteten und bedeutungstragenden Diakritika (in der Sprache übliche Zeichen und Abkürzungszeichen) unterschieden. Diese Unterscheidung muss für jede Sprache einzeln gemacht werden.

• Latein: Zirkumflex û (00FB), ê (00EA) versus Tilde ũ (0169), ẽ (1EBD): hîc wird zu hic und verò wird vero, aber eiuſdẽ wird eiusdẽ und reſiduũ wird residuũ (nur das ſ wird normalisiert).
• Französisch: æ versus œ: ae kann aufgelöst werden, aber es gibt den Buchstaben œ.
• Deutsch: deutsche Umlaute werden zwar normalisiert, aber zum Beispiel drucken und drücken werden nicht gleichgesetzt, sondern drucken und druecken.
• Griechisch: ά (03AC) wird stillschweigend zu ά (1F71): Argument ist wohl: es zwar falsch im Text, aber es ist eindeutig, was gemeint ist?

Wie erklären sich die Unterschiede zwischen den Sprachen, zum Beispiel bei der Normalisierung des Bindestrichs, oder bei der Definition von Wortgrenzen? Ist das Absicht, oder gab es jeweils irgendeinen konkreten Anlass und wurde dann nicht systematisiert?

Inwieweit sind die Regeln veraltet oder noch aktuell? Welche Notwendigkeiten gab es? Insbesondere: Inwieweit gab es Kodierungsprobleme?

Sollen die Arboreal-Regeln wenigstens für einen Wort-Index verwendet werden, oder hat sich das mit eXist und Lucene erledigt?

Latein

Warum werden in Latein (und nur dort) die angle brackets〈 (2329) 〉(232A) aus dem Block "Technische Symbole" (nicht zu verwechseln mit z.B. full-width less/greater than ＜ (FF1E) ＞ (FF1C)) entfernt? Wo kommen die überhaupt vor?

Eine Regeln wie "Æ wird zu Ae" ist hier konsequent, weil alle Buchstaben bis auf den ersten schon in Kleinbuchstaben umgewandelt wurden. Also: ÆQVALIS wird zu Aequalis. Ohne die Umwandlung in Kleinbuchstaben ergibt die Regel für Æ keinen Sinn.

Italienisch

Die algorithmischen Regeln normalisieren in Richtung der heutigen italienischen Orthographie.

(Warum wird Gravis zu Akut?)

Französisch

œ wird nicht normalisiert: Gibt es gibt Minimalpaare œ versus oe?

Deutsch

Warum wird gerade é normalisiert? Französische Fremdwörter?

Chinesisch

Die Normalisierung des fullwith space, der Aufzählungskommas und des Punkts scheint ein Hack für die Wortlistenerstellung in Arboreal zu sein.

Was ist der Sinn, die hochgestellten 1 bis 5 zu normalisieren? Hat das einen Einfluss auf die Wortende-Markierung?

Griechisch

Ich weiß nicht, warum < > [ ] 1 2 getilgt werden. Zum Problem σ versus ς siehe oben.