6. Übung - Fachgebiet Wissensverarbeitung

Prof. Dr. Gerd Stumme, Dominik Benz
Fachgebiet Wissensverarbeitung
10.12.2008
6. Übung „Künstliche Intelligenz“
Wintersemester 2008/2009
1 Neuronale Netze
1. Das Multi-Lagen-Perzeptron
a) Erläutern Sie das Multi-Lagen-Perzeptron (MLP) und das Prinzip des BackpropagationAlgorithmus!
b) Gegeben sei folgendes Neuronales Netz (siehe Abb. 1) mit einer sigmoiden Outputfunktion (mit Steigung 1). Die Ableitung der Outputfunktion θ ist θ0 (x) = θ(x)(1 −
θ(x)). Der Gebrauch einer sigmoiden Aktivierungsfunktion ist notwendig, da diese
differenzierbar ist.
x1
v11
y1
w1
v12
x2
o
v21
w2
y2
v22
Abbildung 1: Ein Multi-Lagen-Perzeptron
Nutzen Sie nun die XOR-Funktion aus Tabelle 1 und berechnen Sie durch Backpropagation die Gewichtsänderungen, indem Sie die letzte Zeile als Input an das
!
0.5 0.25
Netz anlegen. Die Gewichte seien wie folgt initialisiert worden: v =
,
0.75 0.25
!
0.5
.
w=
0.5
x1
0
0
1
1
x2
0
1
0
1
t
0
1
1
0
Tabelle 1: XOR-Verschaltung
1
2 Logik
1. Vervollständigen Sie folgenden Lückentext zur Definition von Syntax und Semantik der
Prädikatenlogik erster Stufe:
Syntax der Prädikatenlogik
• Variablen: xi
• Funktionssymbole: fik
• Prädikatssymbole: Pki
jeweils (i = 1, 2, 3, . . . ; k ≥ 0); k Stelligkeit
Terme und Formeln werden induktiv definiert:
• Jede ...................... ist ein Term
• Ist f ein Funktionssymbol der Stelligkeit k, und sind t1 , . . . , tk Terme, so ist ......................
ein Term
• Nullstellige Funktionssymbole: Konstanten
• Ist P ein Prädikatssymbol der Stelligkeit k und sind t1 , . . . , tk Terme, so ist P(t1 , . . . , tk )
eine (atomare) Formel
• Sind F und G Formeln, so auch (F ∨ G) und .......................
• Ist F eine Formel, so auch ¬F
• Ist x eine Variable und F eine Formel, so sind ...................... und ∀xF Formeln.
Ein Vorkommen einer Variablen x in einer Formel F heisst gebunden, wenn es innerhalb
einer Teilformel der Form .................................. liegt. Eine nicht gebundene Variable heisst
frei.
Semantik der Prädikatenlogik
Eine Struktur ist ein Paar A = (UA , IA ), wobei UA eine ...................... und IA eine ......................
ist, die
• jeder Variablen x ein Element aus ...................... zuordnet
• jedem ...................... ein k-stelliges Prädikat über UA zuordnet
• jeder k-stelligen Funktionssymbol f eine ...................... zuordnet
A heisst passend zur Formel F, wenn UA für alle Prädikatssymbole, Funktionssymbole
und freie Variablen definiert ist, die in F vorkommen.
Sei F eine Formel und A eine zu F passende Struktur. Für jeden Term t, den man aus den
Variablen und Funktionssymbolen im Definitionsbereich von IA aufbauen kann, liefert A
eine induktiv definierten Wert A(t):
• Ist t eine Variable x, so ist A(t) = ......................
2
• Ist t = ...................... so ist A(t) = IA ( f (A(t1 ), . . . , A(tk ))).
Für jede Formel F, die man aus den obigen Termen und den Prädikatssymbolen im Definitionsbereich von IA aufbauen kann, liefert A einen induktiv definierten Wahrheitswert
A(F):
• Ist F = P(t1 , . . . , tk , so ist A(F) := 1 falls (A(t1 ), . . . A(tk )) ∈ ......................; 0 sonst
• Ist F =, G, so ist A(F) := 1 falls ...................... ; 0 sonst
• Ist F = ......................, so ist A(F) := 1 falls A(G) = 1 und A(H) = 1; 0 sonst
• Ist F = (G ∨ H), so ist A(F) := 1 falls ............................................; 0 sonst
• Ist F = ∀xG, so ist A(F) := 1 falls für alle d ∈ UA gilt: ......................; 0 sonst
• Ist F = ......................, so ist A(F) := 1 falls es ein d ∈ UA gibt mit: A[x\d] (G) = 1; 0
sonst
Sei F eine Formel und A eine zu F passende Strukur. Gilt A(F) = 1, so ist A ein
...................... von F.
2. Erklären Sie anhand von Beispielaussagen den Modus Ponens und Modus Tollens!
3. Folgende Sachverhalte sind bekannt:
• Jens wacht auf.
• Jens holt einen Wischlappen.
• Wenn Jens aufwacht und sein Zimmer säubert, ist Jens’ Mutter erfreut.
• Wenn Jens einen Wischlappen holt, dann säubert er auch sein Zimmer.
a) Formalisieren Sie die Aussagen in Prädikatenlogik erster Stufe.
b) Leiten Sie ab, dass die Mutter von Jens erfreut ist. Führen Sie den Beweis mittels
Modus Ponens.
4. Welche Antworten geben die drei weisen Männer beim „Wise Men Puzzle“? Wie schafft
es der dritte weise Mann, die Farbe seinen Hutes zu bestimmen?
5. Warum ist Modallogik hilfreich zur Modellierung dieses Problems?
3 Prädikatenlogik erster Stufe und CSPs
1. Eine definite Klausel erster Stufe ist ein prädikatenlogischer Ausdruck A erster Stufe, für
den gilt:
• A ist atomar oder
• A ist eine Implikation, deren Antezedenz eine Konjunktion positiver Literale ist und
deren Konsequenz ein einziges positives Literal ist (vgl. Russell/Norvig Kap. 9.3.1).
3
Beispiele für definite Klauseln erster Stufe sind:
König(x) ∧ Gierig(x) ⇒ Böse(x)
König(John)
Gierig(x)
NT
Q
WA
SA
NSW
V
T
Abbildung 2: Der Constraintgraph zum Problem der Karteneinfärbung
a) Betrachten Sie nochmals das CSP der Karteneinfärbung mit 3 Farben (siehe Abbildung 2). Formulieren Sie dieses Problem als definite Klausel erster Stufe. Wodurch
sind in Ihrer Definition die Domänen der Variablen gegeben? Können Sie jedes CSP
auf diese Weise abbilden?
b) Schreiben Sie Ihre Formulierung in Prolog-Syntax auf.
c) Eine Menge definiter Klauseln erster Stufe bezeichnet man auch als Wissensbasis.
Ein einfacher Inferenz-Mechanismus für solche prädikatenlogische Wissensbasen ist
die Vorwärtsverkettung: Beginnend mit den atomaren Sätzen wird der Modus Ponens
in Vorwärtrichtung angewandt, und es werden so lange neue atomare Sätze eingefügt,
bis keine Inferenzen mehr gemacht werden können. Begründen Sie, weshalb dieser
Mechanismus NP-hart ist.
4