Levenshtein-Distanz - LinkFang.de





Levenshtein-Distanz


Die Levenshtein-Distanz (auch Editierdistanz) zwischen zwei Zeichenketten ist die minimale Anzahl von Einfüge-, Lösch- und Ersetz-Operationen, um die erste Zeichenkette in die zweite umzuwandeln. Benannt ist die Distanz nach dem russischen Wissenschaftler Wladimir Lewenstein, der sie 1965 einführte. Mathematisch ist die Levenshtein-Distanz eine Metrik auf dem Raum der Symbolsequenzen.

Beispielsweise ist die Levenshtein-Distanz zwischen „Tier“ zu „Tor“ 2. Eine mögliche Folge von zwei Operationen ist:

  1. Tier
  2. Toer (Ersetze i durch o)
  3. Tor (Lösche e)

In der Praxis wird die Levenshtein-Distanz zur Bestimmung der Ähnlichkeit von Zeichenketten beispielsweise zur Rechtschreibprüfung oder bei der Duplikaterkennung angewandt.

Algorithmus

In dem Levenshtein-Artikel von 1965 wird die Levenshtein-Distanz definiert, aber es wird kein Algorithmus zur Berechnung der Distanz angegeben. In der Literatur wird ein Algorithmus zur Berechnung der Levenshtein-Distanz, der die Methode der dynamischen Programmierung verwendet, als Levenshtein-Algorithmus bezeichnet.

Der Algorithmus ist durch folgende Matrix-Rekurrenzen spezifiziert, wobei [math]u[/math] und [math]v[/math] die beiden Eingabe-Zeichenketten bezeichnen:

[math]m = |u|[/math]
[math]n = |v|[/math]
[math]D_{0, 0} = 0[/math]
[math]D_{i, 0} = i, 1 \leq i \leq m[/math]
[math]D_{0, j} = j, 1 \leq j \leq n[/math]
[math] D_{i, j} = \min \begin{cases} D_{i - 1, j - 1}&+ 0 \ {\rm falls}\ u_i = v_j\\ D_{i - 1, j - 1}&+ 1 \ {\rm(Ersetzung)} \\ D_{i, j - 1}&+ 1 \ {\rm(Einf\ddot ugung)} \\ D_{i - 1, j}&+ 1 \ {\rm(L\ddot oschung)} \end{cases}[/math],
[math]1 \leq i\leq m, 1\leq j \leq n[/math]

Nachdem die Matrix [math]D[/math] berechnet ist, steht die Levenshtein-Distanz, d.h. die minimale Anzahl der Edit-Operationen, in der Matrix-Zelle [math]D_{m,n}[/math]. In jeder Zelle [math]D_{i,j}[/math] steht die Levenshtein-Distanz der Präfixe [math]u_{0,i}[/math] und [math]v_{0,j}[/math]. Bei einer weiteren Löschung bzw. Einfügung wird nun nur ein weiteres Zeichen von [math]u[/math] bzw. [math]v[/math] verbraucht. D.h. das Resultat wird in [math]D_{i + 1,j}[/math] bzw. [math]D_{i,j + 1}[/math] gespeichert. Also lassen sich die Kosten für eine Löschung bzw. Einfügung in Zelle [math]D_{i,j}[/math] rekurrent durch [math]D_{i-1,j} + 1[/math] bzw. [math]D_{i,j-1} + 1[/math] berechnen. Analog ist der Fall der Ersetzung zu erklären.

Wenn nicht nur die Levenshtein-Distanz berechnet werden soll, sondern auch die Folge der Operationen, die zu dem Ergebnis geführt hat, muss ein „Backtrace“ auf der berechneten Matrix durchgeführt werden. D.h. beginnend von [math]D_{i,j-1}[/math] werden rekursiv die Optimierungsentscheidungen zurückverfolgt. Im Pseudocode ist der Backtrace-Algorithmus:

string backtrace(i, j):
  if i>0 && D[i-1,j] + 1 == D[i,j]
    return backtrace(i-1, j) + " Del "
  if j>0 && D[i,j-1] + 1 == D[i,j]
    return backtrace(i, j-1) + " Ins "
  if i>0 && j>0 && D[i-1, j-1] + 1 == D[i,j]
    return backtrace(i-1, j-1) + " Rep "
  if i>0 && j>0 && D[i-1, j-1]  == D[i,j]
    return backtrace(i-1, j-1) + " Eq "
  return ""

Um den Pseudo-Code zu vereinfachen, wird nur ein möglicher Backtrace berechnet.

Beispiel

Das Verfahren lässt sich nun leicht in einer Tabelle durchführen. Hier ein Beispiel mit den beiden Zeichenketten „Tier“ und „Tor“.

  ε T o r
ε 0 1 2 3
T 1 0 1 2
i 2 1 1 2
e 3 2 2 2
r 4 3 3 2

Der Abstand der beiden Zeichenketten ist 2. ε steht hierbei für die leere Zeichenkette "".

Komplexität

Die Laufzeit des Algorithmus ist in O[math](mn)[/math], da alle Zellen der [math](m+1)\times (n+1)[/math]-Matrix berechnet werden und der Rechenaufwand pro Zelle konstant ist.

Der Speicherbedarf ist in [math]O(nm)[/math], da die Matrix [math]m+1[/math] Zeilen und [math]n+1[/math] Spalten hat. Wenn allerdings kein Backtracing durchgeführt wird, dann wird zur zeilen- bzw. spaltenweisen Berechnung der Matrix nur die jeweils letzte Zeile bzw. Spalte zur Berechnung der nächsten Zeile bzw. Spalte benötigt. Der Speicherbedarf liegt in dem Fall also in [math]O(\min(m,n))[/math].

Der Hirschberg-Algorithmus ermöglicht die Berechnung der Levenshtein-Distanz und eines „Backtrace“ in quadratischer Zeit und mit linearem Speicherverbrauch.

Schranken

Für die Levenshtein-Distanz gelten einige obere und untere Schranken:

  • sie beträgt mindestens den Unterschied der Längen beider Zeichenketten
  • sie beträgt höchstens die Länge der längeren Zeichenkette
  • sie ist dann und nur dann 0, wenn beide Zeichenketten identisch sind (Definition Metrik)
  • sie ist nicht größer als die Hamming-Distanz plus dem Längenunterschied der Zeichenketten

Abgrenzung

Die Levenshtein-Distanz kann als Erweiterung des Hamming-Abstands angesehen werden, welcher sich auf Ersetzungen beschränkt und daher nur Zeichenketten gleicher Länge bemessen kann. Eine Phonetische Suche kann die Levenshtein-Distanz verwenden, um Fehler zu erlauben. Zu vergleichende Wörter können vor einer Distanzberechnung beispielsweise mit dem Kölner Phonetik- oder dem Soundex-Algorithmus in eine Lautsymbol-Zeichenkette überführt werden.

Der DP-Algorithmus zur Berechnung der Levenshtein-Distanz ist mit dem Needleman-Wunsch-Algorithmus zur Berechnung des Sequenzalignments zweier Zeichenketten verwandt. Der Needleman-Wunsch-Algorithmus ist in [math]O(n^3)[/math] und lässt beliebige Kostenfunktionen für Einfüge- bzw. Löschoperationen der Länge [math]\geq 1[/math] zu. Bei dem Levenshtein-Algorithmus besteht eine Einfüge- bzw. Löschoperation aus maximal einem Zeichen. Varianten des Needleman-Wunsch Algorithmus beschränken die Wahl der Kostenfunktion, so dass deren Laufzeit in [math]O(n^2)[/math] liegt.

Der Smith-Waterman-Algorithmus optimiert die Kosten der Edit-Operationen nach dem gleichen DP-Schema wie der Needleman-Wunsch- bzw. der Levenshtein-Algorithmus, allerdings werden Einfüge- bzw. Lösch-Operationen am Anfang- bzw. Ende einer Sequenz mit [math]0[/math] bewertet und im Backtrace ignoriert. D.h. der Smith-Waterman-Algorithmus berechnet das lokale „sequence alignment“. Seine Laufzeit liegt in [math]O(n^2)[/math].

Die Levenshtein-Distanz kann als Sonderform der Dynamic-Time-Warping-Distanz (DTW) betrachtet werden.

Varianten

Gewichtete Levenshtein-Distanz

Die Kosten der einzelnen Einfüge-, Lösch- und Ersetzungsoperationen können auch unterschiedlich oder sogar abhängig von den jeweiligen beteiligten Zeichen gewichtet werden. Das so verallgemeinerte Verfahren wird als gewichtete Levenshtein-Distanz, Weighted Levenshtein Distance oder kurz WLD-Algorithmus bezeichnet.

Ein Beispiel für gewichtete Kosten für Distanzoperationen, die mit dem WLD-Algorithmus minimiert werden können, sind die Kosten der Schreibmaschinendistanz.

Damerau-Levenshtein-Distanz

Damerau-Levenshtein erweitert die Funktionalität von Levenshtein um die Fähigkeit, zwei vertauschte Zeichen zu identifizieren, beispielsweise „Raisch“ ↔ „Rasich“. Um die eine Zeichenfolge in die andere zu überführen, wären mit Levenshtein zwei Operationen notwendig. Damerau-Levenshtein benötigt nur eine einzige.

Folgende Matrix-Rekurrenzen spezifizieren die Algorithmus-Variante.

[math]m = |u|[/math]
[math]n = |v|[/math]
[math]D_{0, 0} = 0[/math]
[math]D_{i, 0} = i[/math], [math]1 \leq i \leq m[/math]
[math]D_{0, j} = j[/math], [math]1 \leq j \leq n[/math]
[math] D_{i, j} = \min \begin{cases} D_{i - 1, j - 1}&+ 0 \ {\rm falls}\ u_i = v_j\\ D_{i - 1, j - 1}&+ 1 \ {\rm(Ersetzung)} \\ D_{i, j - 1}&+ 1 \ {\rm(Einf\ddot ugung)} \\ D_{i - 1, j}&+ 1 \ {\rm(L\ddot oschung)} \end{cases}[/math]
[math](i=1, 1\leq j\leq n)\vee (1\leq i\leq m, j=1)[/math]
[math] D_{i, j} = \min \begin{cases} D_{i - 1, j - 1}&+ 0 \ {\rm falls}\ u_i = v_j\\ D_{i - 1, j - 1}&+ 1 \ {\rm(Ersetzung)} \\ D_{i, j - 1}&+ 1 \ {\rm(Einf\ddot ugung)} \\ D_{i - 1, j}&+ 1 \ {\rm(L\ddot oschung)} \\ D_{i-2, j-2}&+c \ {\rm Vertauschung, falls}\ u_i = v_{j-1} \wedge u_{i-1} = v_j\\ \end{cases}[/math]
[math]2 \leq i \leq m, 2\leq j \leq n[/math]

Wobei [math]c[/math] die Kosten für eine Vertauschung von zwei Zeichen bezeichnet.

Siehe auch

Literatur

  • Fred J. Damerau: A technique for computer detection and correction of spelling errors. In: Communications of the ACM. Band 7, Nr. 3, März 1964, S. 171–176.
  • Vladimir I. Levenshtein: Binary codes capable of correcting deletions, insertions, and reversals. In: Doklady Akademii Nauk SSSR. Band 163, Nr. 4, 1965, S. 845–848 (Russisch, Englische Übersetzung in: Soviet Physics Doklady, 10(8) S. 707–710, 1966).

Weblinks


Kategorien: Algorithmus | Dynamische Programmierung | Quantitative Linguistik | Informationstheorie

Quelle: Wikipedia - http://de.wikipedia.org/wiki/Levenshtein-Distanz (Vollständige Liste der Autoren des Textes [Versionsgeschichte])    Lizenz: CC-by-sa-3.0

Änderungen: Alle Bilder mit den meisten Bildunterschriften wurden entfernt. Ebenso alle zu nicht-existierenden Artikeln/Kategorien gehenden internen Wikipedia-Links (Bsp. Portal-Links, Redlinks, Bearbeiten-Links). Entfernung von Navigationsframes, Geo & Normdaten, Mediadateien, gesprochene Versionen, z.T. ID&Class-Namen, Style von Div-Containern, Metadaten, Vorlagen, wie lesenwerte Artikel. Ansonsten sind keine Inhaltsänderungen vorgenommen worden. Weiterhin kann es durch die maschinelle Bearbeitung des Inhalts zu Fehlern gerade in der Darstellung kommen. Darum würden wir jeden Besucher unserer Seite darum bitten uns diese Fehler über den Support mittels einer Nachricht mit Link zu melden. Vielen Dank!

Stand der Informationen: August 201& - Wichtiger Hinweis: Da die Inhalte maschinell von Wikipedia übernommen wurden, ist eine manuelle Überprüfung nicht möglich. Somit garantiert LinkFang.de nicht die Richtigkeit und Aktualität der übernommenen Inhalte. Sollten die Informationen mittlerweile fehlerhaft sein, bitten wir Sie darum uns per Support oder E-Mail zu kontaktieren. Wir werden uns dann innerhalb von spätestens 10 Tagen um Ihr Anliegen kümmern. Auch ohne Anliegen erfolgt mindestens alle drei Monate ein Update der gesamten Inhalte.