Fuzzy-Retrieval

aus Wikipedia, der freien Enzyklopädie

Das Fuzzy-Information-Retrieval hat sich seit den 70er Jahren entwickelt. Hier benennt Fuzzy-Information-Retrieval ein Information Retrieval, das auf der Fuzzy-Logik basiert.

Inhaltsverzeichnis 1 Das Fuzzy-IR-Modell 2 Erweiterte Fuzzy-IR-Modelle 2.1 Das Waller-Kraft-Modell 2.2 Das Paice-Modell 2.3 Vergleich 3 Die Einführung des Termgewichtes in die Query 4 Fuzzy-IR-Modell mit Query-Gewichten 5 Term-Relationen 5.1 Beispiele für Term-Relationen 5.2 Konstruktion der Term-Relationen 5.3 Verwendung von Term-Relationen in IR 6 Siehe auch 7 Literatur

[Bearbeiten] Das Fuzzy-IR-Modell

Das Fuzzy-IR-Modell ist zu definieren mit einem Quadrupel <T, Q, D, F>, wobei

• T = {t₁, t₂, …, t_n} eine Menge von Indextermen, die Queries und Dokumente beschreiben.
• Q = {q₁, q₂, …, q_n} eine Menge von Querys, die aus Indextermen bestehen. Dabei lassen sich die Indexterme durch logische Operationen AND, OR und NOT verknüpfen.
• D= {d₁, d₂, …, d_n} eine Menge von Dokumenten. Jedes d_j ∈ D, j = 1, 2, …, n ist durch {( t₁, w_j1 ), …,( t_n, w_jn )} zu repräsentieren, wobei w_ji (i = 1,2,…, n) die Wichtigkeit von Term t_i in d_j darstellt und einen Wert aus dem Intervall [0, 1] einnimmt.
• F ist eine Rankingfunktion

F: D x Q → [0, 1],

F (d, q) ∈ [0, 1].

Der Wert repräsentiert die Ähnlichkeit zwischen dem Dokument d und dem Query q.

Für eine Query gilt Folgendes:

1. Eine Query q ist eine wohlgeformte, propositionale Formel.
2. Ein individueller Indexterm ist eine Query: q = t_i. Diese Art von Query nennt man Atomquery.
3. Wenn q eine Query ist, ist ¬q (die Negation von q) auch eine Query.
4. Wenn q und q′ Querys sind, sind q ∪ q′(q oder q′) und q ∩ q′ (q und q′) auch Queries.

Die Fuzzy-Mengen-Operationen werden wie folgt verwendet:

F (d_j, t₁ AND t₂) = MIN(w_j1, w_j2)

F (d_j, t₁ OR t₂) = MAX(w_j1, w_j2)

F (d_j, t₁′) = 1 – w_j1

Nun wird ein Beispiel zur Verdeutlichung der Anwendung von Fuzzy-IR-Modell genannt. Die Query lautet:

q₁ = Golden AND Silver

Es gibt zwei Dokumente:

d₁ = {(Golden, 0,4), (Silver,0,4)}

d₂ = {(Golden, 0,4), (Silver, 0,7)}

Nach der Operation kommt es zum Ergebnis:

F (d₁, t₁ AND t₂) = MIN(0,4, 0,4) = 0,4

F (d₂, t₁ AND t₂) = MIN(0,4, 0,7) = 0,4

Die gleichen Resultate bei d₁ und d₂ sagen aus, dass die Ähnlichkeit zwischen d₁ und q₁ mit der zwischen d₂ und q₁ gleich ist. Aber die meisten Leute würden entscheiden, dass d₂ dem q₁ ähnlicher als d₁ wäre. Hier ist das unerwünschte Ergebnis darauf zurückzuführen, dass die Operation nur auf ein Termgewicht Rücksicht nimmt. Zudem beschränken sich die einfachen Fuzzy-Menge-Operationen lediglich auf zwei Terme. Folgend werden zwei entwickelte Fuzzy-Modelle vorgestellt, die beliebig viele Terme evaluieren können. Weiterhin lässt sich ein Parameter als „softness factor“ zur Lösung des obengenannten Problems (des auf ein Gewicht angewiesenem Ergebnisses) in die Modelle einführen

[Bearbeiten] Erweiterte Fuzzy-IR-Modelle

[Bearbeiten] Das Waller-Kraft-Modell

F(d_j, t₁ AND … AND t_n) = (1 – γ) · MIN{w_j1, …, w_jn} + γ · MAX{w_j1, …, w_jn}, 0 ≤ γ ≤ 0,5;

F(d_j, t₁ OR … OR t_n) = (1 – γ) · MIN{w_j1, …, w_jn} + γ · MAX{w_j1, …, w_jn}, 0,5 ≤ γ ≤ 1.

Das Modell mischt die Operation Maximum mit Minimum und hat bessere Effektivität als beim einfachen Fuzzy-Modell.

[Bearbeiten] Das Paice-Modell

Bei einer AND-Verknüpfung: w_ji der Größe nach in ansteigender Reihenfolge sortiert, d. h. w_j1 ≤ … ≤ w_jn

F(d_j, t₁ AND … AND t_n) = [∑_i=1ⁿ (r^i-1 · w_ji)]/[∑_i=1ⁿ r^i-1], 0 ≤ r ≤ 1.

Bei einer OR-Verknüpfung: w_ji der Größe nach in absteigender Reihenfolge sortiert, d. h. w_j1 ≥ … ≥ w_jn

F(d_j, t₁ OR … OR t_n) = [∑_i=1ⁿ (r^i-1 · w_ji)]/[∑_i=1ⁿ r^i-1], 0 ≤ r ≤ 1.

Dieses Modell berücksichtigt alle Termgewichte bei der Berechnung der Ähnlichkeit. Aber es verlangt höheren Berechnungsaufwand als beim Waller-Kraft-Modell.

[Bearbeiten] Vergleich

In der folgenden Tabelle werden die Ergebnisse von d₁ und d₂ bei einfachem Fuzzy-IR-Modell, Waller-Kraft-Modell sowie Paice-Modell miteinander verglichen.

q1 = t1 AND t2	Einfaches Fuzzy IR-Modell	Waller-Kraft-Modell (γ = 0,3)	Paice-Modell (r = 0,3)
d1 = ((t1, 0,4), (t2, 0,4))	0,4	(1−0,3)·0,4+0,3·0,4 = 0,4	(0,30·0,4+0,31·0,4)/(0,30+0,31) = 0,4
d2 = ((t1, 0,4), (t2, 0,7))	0,4	(1−0,3)·0,4+0,3·0,7 = 0,49	(0,30·0,4+0,31·0,7)/(0,30+0,31) = 0,47

Der Ähnlichkeitsgrad zwischen d₁ und q₁ ist bei den drei Modellen gleich, das ist verständlich. Der Unterschied entsteht bei den Ergebnissen von d₂, wobei die von den zwei erweiterten Modellen größer als das bei einfachem Fuzzy-IR-Modell sind, was eher der Erwartung entspricht. Deswegen kann man sagen, dass die beiden Modelle bessere Retrievaleffektivität als das einfache Fuzzy-IR-Modell haben.

Zwar mischt das Waller-Kraft-Modell Maximum mit Minimum, aber es beachtet nur diese zwei Termgewichte, was zum Problem bei Queries mit mehr als zwei Termen führen kann. Beispiel:

q₂ = t₁ OR t₂ OR t₃ OR t₄ OR t₅

d₃ = {(t₁, 0,1), (t₂, 0,5), (t₃, 0,5), (t₄, 0,5), (t₅, 0,8)}

d₄ = {(t₁, 0,1), (t₂, 0,2), (t₃, 0,2), (t₄, 0,2), (t₅, 0,8)}

Es ist klar, dass der Ähnlichkeitsgrad zwischen d₃ und q₂ größer als der zwischen d₄ und q₂ ist. Aber nach der Gleichung bei Waller-Kraft-Modell werden gleiche Ergebnisse bei d₃ und d₄ berechnet, welcher Wert für den Parameter γ auch bestimmt wird, weil es bei diesem Modell nur auf das MIN- und MAX-Termgewicht Rücksicht genommen wird. Somit entsteht das Problem. Im Vergleich dazu ist das Paice-Modell zwar komplexer, aber es berücksichtigt alle Termgewichte bei der Berechnung und vermeidet deswegen dieses Problem.

[Bearbeiten] Die Einführung des Termgewichtes in die Query

Die gerade gezeigten Modelle berücksichtigen keine Gewichte von Termen in Queries, wobei alle Terme die gleiche Wichtigkeit in Queries haben. Es ist bekannt, dass die Einführung der Gewichte von Termen in die Queries die Effektivität des Retrievals verbessern kann. Mit dem Termgewicht wird die Query repräsentiert: q_k={(t₁, w_k1), …, (t_n, w_kn)}, w_k ∈ [0, 1]. Im Retrieval werden die Gewichte von Termen in Querys und Dokumenten multipliziert, d. h.

F(d_j, (t_i, w_ki)) = w_ji·w_ki

Ein Query ohne Termgewicht gleicht einem Query, in dem die Gewichte von allen Termen „1“ betragen. Ein Term wird weggenommen, wenn dessen Gewicht null ist, das bedeutet, dass der Term keinen Einfluss auf den Query hat.

Obwohl das Waller-Kraft-Modell und das Paice-Modell keine Methode anbieten, die Termgewichte in Querys zu evaluieren, hat das P-Norm-Modell Formeln für die Kalkulation der Termgewichte in Querys.

[Bearbeiten] Fuzzy-IR-Modell mit Query-Gewichten

Das P-Norm-Modell mit Query-Gewichten [Salton et al, 1983]

F(d_j, (t_q(k)1, w_q(k)1) AND … AND (t_q(k)n, w_q(k)n)) = 1 − [[∑_i=1ⁿ (1 − w_ji)^p · w_q(k)i^p]/[∑_i=1ⁿ w_ji^p]]^1/p, 1 ≤ p < ∞,

F(d_j, (t_q(k)1, w_q(k)1) OR … OR (t_q(k)n, w_q(k)n)) = 1 − [[∑_i=1ⁿ w_ji^p · w_q(k)i^p]/[∑_i=1ⁿ w_ji^p]]^1/p, 1 ≤ p < ∞.

Hier ist „p“ der Parameter und repräsentiert den Grad an Genauigkeit.„1“ bedeutet wenig genau, während „∞“ sehr genau heißt.

[Bearbeiten] Term-Relationen

Fuzzy-Term-Relationen bezeichnet man als Fuzzy-Thesauren. Hier bedeutet diese Relation eine Fuzzy-Relation auf einer Fuzzy-Menge, die die Interpretation von einem Fuzzy-Graph hat. Formal wird angenommen: T = {t₁, t₂, …, t_m}ist eine Menge von Termen und D = {d₁, d₂, …, d_n}eine Menge von Dokumenten. Eine (allgemeine) Term-Relation wird definiert durch eine Fuzzy-Relation auf T∪D: R(x, y), x, y∈T∪D. (Hier werden Terme und Dokumente in eine gesamte Menge vereinigt, obwohl man es Term-Relation nennt.) Drei Typen der Relationen sind einbezogen:

1. Eine Relation zwischen zwei Termen, R(t, t′), t, t′ ∈T,
2. Eine Relation zwischen zwei Dokumenten, R(d, d′), d, d′∈D,
3. Eine Relation zwischen einem Term und einem Dokument: R(t, d) oder R(d, t), t∈T, d∈D.

Die untengenannten Probleme in Term-Relationen werden dann diskutiert:

1. konkrete Beispiele für Term-Relationen,
2. Methode von Beschaffung und Bildung der Term-Relationen,
3. Methode von Verwendung der Term-Relationen in Information Retrieval.

[Bearbeiten] Beispiele für Term-Relationen

Die Thesauren und ihre Fuzzy-Versionen sind typische Beispiele für Term-Relationen, wobei die Fuzzy-Relation R nicht auf T∪D, sondern auf T definiert wird. Verschiedene Typen von Fuzzy-Thesauren werden berücksichtigt. Zum Beispiel sieht Reisinger [1974] Fuzzy-Äquivalenz und Fuzzy-ordnende Relationen als natürliche Generalisationen von scharf kategorischen und hierarchischen Relationen an. Tahani [1976] erwähnt auch partielle Fuzzy-Ordnung. Redecki [1976] schlägt die Verwendung von einer Fuzzy-Äquivalenz-Relation zusammen mit einer Submenge der elementaren Terme und einer Termgeneralisatonsrelation vor.

In der Forschung von Fuzzy-Thesauren werden symmetische und unsymmetrische Fuzzy-Relationen sowie Fuzzy-Transitivität beachtet, deren Annahme jedoch zu einem Problem führt, weil man in Realität keine Fuzzy-Transitivität direkt finden kann. Dieses Problem ist durch die Berücksichtigung von Fuzzy-Graphen (ungerichtete Graphen) und Digraphen [Miyamoto, 1990b, S.30] zu lösen. Angegeben ist eine Fuzzy-Relation R, die nicht transitiv sein muss. Diese Relation lässt sich durch einen Fuzzy-Digraph repräsentieren, und ein „transitive closure“ wird überdacht, R* = R∪R²∪…∪R^k∪…(R^k = R^k-1οR, wobei ο die MAX-MIN-Komposition impliziert). R* bedeutet den Grad von Erreichbarkeit auf dem Digraph, und zwar R*(x, y) ist der MAX-Wert von α-Schnitt, wobei x auf dem scharfen Digraph von y aus erreichbar ist.

Die obengenannten Operationen und Eigenschaften von Fuzzy-Relationen werden hier zusammengefasst:

1. Angegeben sind zwei Fuzzy-Relationen R und S, die auf T definiert werden. Die MAX-MIN-Komposition: (RοS) (x, z) = MAX_y∈TMIN[R(x, y), S(y, z)].
2. Eine Relation R auf einer Menge T wird bezeichnet als
   1. reflexiv, wenn für alle x, x∈T, R(x, x) = 1,
   2. symmetrisch, wenn für alle x und y, x, y∈T, R(x, y) = R(y, x),
   3. transitiv, wenn für alle x und y, x, y∈T, R(x, y)≥ MAX_z∈TMIN[R(x, z), R(z, y)].

[Bearbeiten] Konstruktion der Term-Relationen

Verschiedene Forschungen behandeln unter unterschiedlichen Annahmen die Methoden von automatischer Konstruktion der Fuzzy-Relation von Termen oder von Dokumenten. Eine typische Methode dafür ist die Verwendung von Dokument-Term-Matrix A = (a_ij), wobei a_ij das Gewicht von Term t_j in dem Dokument d_i darstellt. Hier wird angenommen: γ_j = ∑_i a_ij /d_i ist die Fuzzy-Menge, die dem Term t_j entspricht. Eine symmetrische Relation R_s(t_j, t_k) und eine unsymmetrische Relation R_n(t_j, t_k) sind definiert durch

R_s(t_j, t_k) = |γ_j∩ γ_k| / |γ_j∪ γ_k|, R_n(t_j, t_k) = |γ_j∩ γ_k| / |γ_j|,

wobei |γ_j| = a_1j+a_2j+…+a_nj die ∑-Summe ist. Diese Methode basiert auf der Annahme, dass die Bedeutung von den beiden Termen auch ähnlich ist, wenn die zwei Patterns von γ_j und γ_k ähnlich sind. Die Annahme von R_n(t_j, t_k) ist, dass γ_j eine engere Bedeutung als γ_k hat, wenn γ_j der γ_k inklusive ist.

[Bearbeiten] Verwendung von Term-Relationen in IR

Es gibt zwei Basismethoden von Verwendung der Term-Relationen in Information Retrieval. Wenn eine Term-Relation ermöglicht wird als ein Netzwerk, in dem die Dokumente Terminalknoten sind und ein Query ein Originalknoten ist, wird das Retrieval durch die Verfolgung von Netzwerk durchgeführt. Andererseits, wenn eine Term-Relation R auf T zusammen mit einer Fuzzy-Relation F(d, t) und einem Fuzzy-Query-Vektor q = ∑_j w_j/t_j angegeben wird, ist eine einfache Standardmethode für Retrieval der Dokumente die Kalkulation von einer Fuzzy-Menge δ = FοRοq durch die Anwendung von MAX-MIN-Komposition der Fuzzy Relationen[Miyamoto, 1990b, S.195].

[Bearbeiten] Siehe auch

Analog zum Fuzzy-Retrieval ist ein Fuzzy-Klassifikator ein auf unscharfen Mengen basierendes Klassifikationsverfahren. Die Suche nach Wörtern ähnlicher Schreibweise wird auch als Fuzzy Suche bezeichnet.

• FIRM: Realisierung, Implementierung = Fuzzy-Datenbank und „Vage Frage“

[Bearbeiten] Literatur

• Lee, Joon Ho: Properties of extended Boolean models in information retrieval. In: Croft & Rijsbergen (1994): SIGIR 1994. Seite 182–190.
• Miyamoto, S.: 1989, Two approaches for information retrieval through fuzzy associations IEEE Trans. Syst. Man Cybernet. SMC-19 123-30 — 1990b Fuzzy Sets in Information Retrieval and Cluster Analysis (Dordrecht: Kluwer).
• Miyamoto, Sadaaki: Information Retrieval. In: Ruspini, Enrique H.; Bonissone, Piero P.; Pedrycz, Witold (eds.): Handbook of fuzzy computation. Bristol, Institute of Physics Publ.1998: F.4.2.
• Paice, C.P.: Soft evaluation of boolean search queries in information retrieval systems. In: Information Technology: Research and Development, 3 (1), 1984, Seite 33–42.
• Panyr, Jiri: Die Theorie der Fuzzy-Mengen und Information-Retrieval-Systeme. In: Nachrichten für Dokumentation 37, 1986. Seite 163–168.
• Salton, G.; Fox, E.A.; Wu, H.: Extended boolean information retrieval. In: Communication of the ACM, 26(11), 1983, Seite 1022–1036.
• Waller, W.G.; Kraft, D.H.: A mathematical Model for weighted Boolean retrieval systems. In: Information Processing and Management, 15, 1979, Seite 235–245.