Handouts

Gliederung
Ö Die Lehrveranstaltung GKI im Überblick
Grundlagen der
Künstlichen Intelligenz
Ö Was ist Künstliche Intelligenz?
Ö Geschichtlicher Überblick
Ö Intelligente Softwareagenten
Einführung in die KI
Ö Zusammenfassung und Ausblick
20.10.2005
AOT
Dr.-Ing. Stefan Fricke
[email protected]
Agententechnologien in
betrieblichen Anwendungen
und der Telekommunikation
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
Inhalte der LV GKI
Lernziele
Ö Problemlösen (3 Termine)
Ö Theoretisches Methodenwissen
t Methoden der Wissensrepräsenation, Suchalgorithmen und
Lernverfahren erlernen
t Suchalgorithmen, Informed Search, Constrainterfüllung, Spiele, Planen
Ö Logik &Wissensrepräsentation (3 Termine)
t Logisches Schließen, First Order Logic, Wissensbasen, Inferenzen
Ö Intelligente Agenten (2 Termine)
t Agenten und Environment, reaktive Agenten, kooperatives Problemlösen, BDIAgenten, modale Logiken, nichtmonotone Logiken
Ö Maschinelles Lernen (7 Termine)
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
3
Organisatorisches
2
Ö Praktisches Anwendungswissen
t Einsatzmöglichkeiten, Stärken und Schwächen von KI-Methoden
kennen
Ö Einordnung, Überblick und Motivation
t Weiter führende Lehrveranstaltungen, Forschungsthemen für
Diplomarbeiten, ...
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
4
Gliederung
Ö Vorlesung:
Ö Die Lehrveranstaltung GKI im Überblick
t Prof. Albayrak und Prof. Obermayer
Ö Was ist Künstliche Intelligenz?
Ö Übungen:
t 2 Termine zur Auswahl: Mittwoch 10-12 u. 12-14 Uhr im EMH 225
t 5+x Übungsaufgaben, zu lösen von Arbeitsgruppen
Ö Geschichtlicher Überblick
Ö Intelligente Softwareagenten
Ö Zusammenfassung und Ausblick
t Klausur in der letzten Semesterwoche
Ö Ansprechpartner:
t Brijnesh Johannes Jain ([email protected])
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
5
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
6
1
Was ist Künstliche Intelligenz? – Eine Annäherung
Was ist Künstliche Intelligenz?
Ö Intelligentes Verhalten verstehen vs. intelligente Systeme bauen
Ö Maschinen entwickeln, die sich verhalten, als verfügten sie über
Intelligenz (John McCarthy, 1955)
Ö Merkmale natürlicher Intelligenz
t Sehen und erkennen
--> Computer Vision, Wissensrepräs.
t Texte verstehen
--> ?
t Sprachfähigkeit
--> Spracherkennung /-synthese
t Probleme lösen
--> Suchalgorithmen, Reasoning
t Zielgerichtet handeln
--> Belief-Desire-Intention
t Planen
--> Planer
t Lernen
--> Maschinelles Lernen
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
7
Dreifus‘ Stufenmodell der Intelligenz
Experte
Gewandtheit
Kompetenz
Fortgeschrittener Anfänger
Anfänger / Novize
AOT
Ö Starke KI
t eine Intelligenz erschaffen, die wie der Mensch nachdenken und
Probleme lösen kann
Ö Schwache KI
t Anwendungen bauen, zu deren Lösung nach allgemeinem
Verständnis "Intelligenz" notwendig ist
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
8
Gliederung
Ö Die Lehrveranstaltung GKI im Überblick
Erfahrung + Intuition
Ö Was ist Künstliche Intelligenz?
Verständnis + Ähnlichkeiten
Ö Geschichtlicher Überblick
Ö Intelligente Softwareagenten
Kontext + Ziele
Ö Zusammenfassung und Ausblick
Regeln + Erfahrung
Regeln
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
9
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
Wurzeln der Künstlichen Intelligenz
Turing Test – Imitationsspiel (Turing 1950)
Ö Aristoteles (384-322 AC): Intelligenz durch Anwendung von Regeln,
bestehend aus Wissen, Zielen und Handlungen
Ö Ein Mensch führt einen Dialog mit einem Computer oder
Menschen – per Bildschirm und Tastatur.
Ö Thomas Hobbes (1588-1679): Denken ist Numerik
10
t Kann der Mensch beurteilen, ob sein Dialogpartner ein Mensch
und welcher ein Computer ist?
Ö John S. Mill (1863): Utilitarismus bestimmt das Handeln
Ö Wittgenstein (1889-1951): Logik
Ö Léon Walras (1834-1910): Nutzentheorie
Ö Cook / Karp (1971): NP-Vollständigkeit
Ö Chomsky, Austin: Linguistik
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
11
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
12
2
Eine kurze Geschichte der KI
Phase 1: Enthusiasmus
ELIZA (Weizenbaum 1966)
Ö Vision: Maschinen die denken, lernen und kreieren
Ö ELIZA simuliert einen Psychotherapeuten.
t KI ist machbar! [Simon 1957]
Ö Durch den geschickten Einsatz von Phrasen, wie „Erzählen sie
mir mehr von X“ oder „Denken sie oft an X“ kann ELIZA
Testpersonen längere Zeit täuschen.
Ö 1957 General Problem Solver [Simon, Newell]
Ö 1958 LISP [McCarthy]
>> I spend too much time with computers.
Why do you mention computers ?
>> You are one.
Does it please you to believe I am one ?
>> Yes.
You seem to be quite positive.
>> I suppose I am.
How long have you been ?
Ö 1965 Resolusionsprinzip [Robinson]
Ö 1966 ELIZA [Weizenbaum]
Ö 1972 SHRDLU [Winograd]
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
13
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
Eine kurze Geschichte der KI
Phase 2: Desillusion (1966 - 1972)
Eine kurze Geschichte der KI
Phase 3: Konsolidierung (ab 1971)
Ö Mikrowelten sind trivial. Ergebnisse lassen sich nicht auf reale
Probleme übertragen.
Ö Expertensysteme
Ö Die Komplexität der schwachen Methoden liegt zumeist in NP.
Ö 1971 STRIPS Planer [Fikes]
Ö Reine Symbolmanipulation ist offensichtlich nicht genug
Ö 1965-75 DENDRAL: Molekurlarchemie-XPS [Feigenbaum]
t Genetische Algorithmen, Neuronale Netzwerke arbeiten auf
subsymbolischen Strukturen, repräsentieren aber kein Wissen.
14
t Wissensrepräsentation, knowledge engineering, starke Methoden
Ö 1972 Prolog [Colmerauer, Roussel]
Ö 1972-80 MYCIN: Medizinisches Expertensystem
Ö 1977 OPS: Regelinterpreter [Forgy]
Ö 1978-82 R1/XCON: Computerkonfiguration [McDermott, Drew]
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
15
Eine kurze Geschichte der KI
Phasen 4 & 5: Aufklärung und Produktivität (seit 1982)
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
16
Gliederung
Ö Von Werkzeugen zu industriellen Anwendungen
Ö Die Lehrveranstaltung GKI im Überblick
Ö ab 1985 Expertensystemschalen
Ö Was ist Künstliche Intelligenz?
Ö seit 1986: Neuronale Netze zur Mustererkennung
Ö Geschichtlicher Überblick
Ö 1987: Erste Anwendung von Fuzzy Logic in Japan
Ö Intelligente Softwareagenten
Ö Entwicklung heuristischer und effizienter Suchstrategien
t Rationales Handeln
Ö fachspezifisches und alltägliches Wissen in Anwendungen
t Umgebung des Agenten
t Agentenarchitekturen
Ö 1995: Intelligente Agenten...
Ö Zusammenfassung und Ausblick
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
17
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
18
3
Agenten nach Russell & Norvig ...
Beispiel: Staubsauger-Agent
Ö ... nehmen ihre Umwelt durch Sensoren wahr (perceptions),
Ö ... manipulieren ihre Umwelt mit Hilfe von Effektoren (actions).
Sensoren
Ö Wahrnehmungen:
perceptions
?
Umgebung
t Ort und Zustand, z.B. [A, schmutzig] oder [B, sauber]
Agent
Ö Aktionen:
actions
t {nach_links, nach_rechts, saugen, warten}
Ö Welche Wahrnehmungen soll der Agent mit welchen Aktionen
verknüpfen? ...
Effektoren
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
19
Gliederung
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
20
Zum Begriff der Rationalität
Ö Rationalität ist optimales Verhalten [Anderson 91]
t "The cognitive system optimizes the adaptation of the behavior...„
Ö Die Lehrveranstaltung GKI im Überblick
Ö Was ist Künstliche Intelligenz?
Ö Geschichtlicher Überblick
Ö Rationalität is ressourcenbedingt begrenzt [Simon 57]
t "property of an agent that behaves in a manner that is nearly
optimal with respect to its goals as its resources will allow".
Ö Intelligente Softwareagenten
t Rationales Handeln
t Umgebung des Agenten
Ö Rationalität ist zielgerichtetes Verhalten [Newell 82]
t "If an agent has knowledge that one of its actions will lead to one
of its goals, then the agent will select that action"
t Agentenarchitekturen
Ö Zusammenfassung und Ausblick
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
21
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
Rationalität in Agentensystemen
Verständnis der Rationalität in Agentensystemen
Ö Ein allwissender Agent kennt den tatsächlichen Weltzustand
und damit die tatsächlichen Effekte seiner Aktionen.
Ö Starke Definition: Maximum Expected Utility (MEU)
t Optimales Handeln ist jedoch in offenen Systemen mit unvollständigem Wissen und begrenzten Ressourcen nicht möglich.
22
t MEU drückt aus, dass ein rationaler Agent diejenige Aktion
wählen soll, die seinen erwarteten Nutzen maximiert.
t Der Agent benötigt also eine Nutzenfunktion.
Ö Schwache Definition: Zielgerichtetes Verhalten
Ö Ein rationaler Agent handelt dagegen auf Grund seiner
Wahrnehmungen und seines (beschränkten) Wissens.
Ö t Auswahl einer Aktion, die zur Erfüllung eines Zieles dient.
t Der Agent benötigt Repräsentationen von Zielen.
t Noch schwächer: Der Beobachter billigt dem Agenten Ziele zu.
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
23
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
24
4
Anwendungsfälle für Rationalität
Zusammenfassung Rationalität: „do the right thing“
Ö Handel auf elektronischen Märkten:
t für welches Produkt entscheiden? Wie viel dafür bieten?
Ö Rational handeln bedeutet, basierend auf Wissen, Wahrnehmungen und Handlungsalternativen die beste Aktion auszuführen.
Ö Strategische Spiele:
t welches ist der beste Zug (bei begrenzter Bedenkzeit)?
Ö Fragestellungen und Probleme dabei:
Ö Verhalten in unbekannten Situationen:
t Erfahrungswissen, Faustregeln, Normen, etc. anwenden
t Wie lässt sich der Nutzen messen und bewerten?
Ö Entscheidung über Teilnahme an Lotterie:
t Wahrscheinlichkeiten, Erwartungswerte, Risikobereitschaft
t Problem der unvollständigen und inkorreken Wahrnehmung...
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
t Kurzfristigen oder langfristigen Nutzen optimieren?
25
Gliederung
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
26
Typen von Umgebungen
Ö Die Lehrveranstaltung GKI im Überblick
Ö Vollständig vs. partiell beobachtbar
t kann Umgebung jederzeit vollständig wahrgenommen werden?
Ö Was ist Künstliche Intelligenz?
Ö Deterministisch vs. stochastisch
Ö Geschichtlicher Überblick
t hängt der Folgezustand ausschließlich von der Aktion ab?
Ö Intelligente Softwareagenten
Ö Episodisch vs. sequentiell
t Rationales Handeln
t beeinflusst eine Aktion nur eine begrenzte (zeitliche) Episode
oder möglicherweise die gesamte Zukunft?
t Umgebung des Agenten
t Agentenarchitekturen
Ö Zusammenfassung und Ausblick
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
27
Typen von Umgebungen
AOT
Grundlagen der Künsltichen Intelligenz
Kreuzworträtsel
t ändert sich die Umgebung, obwohl der Agent nicht handelt?
Ö Diskret vs. kontinuierlich
t sind Zustände, Wahrnehmungen, Aktionen und Zeit endlich
abzählbar?
Ö Ein Agent vs. viele Agenten
t Komplexität entsteht bei mehreren Agenten: Konkurrenz,
Kooperation, Kommunikation, Koordination
Grundlagen der Künsltichen Intelligenz
28
Umgebungstypen anhand von Beispielen
Ö Statisch vs. dynamisch
AOT
© Dr.-Ing. Stefan Fricke
© Dr.-Ing. Stefan Fricke
29
Schach
m. Uhr
Taxi
fahren
Bildanalyse
Beobachtbar
√
√
―
√
Deterministísch
√
strategisch
stochastisch
√
Episodisch
―
―
―
√
Statisch
√
semi
―
―
Diskret
√
√
―
―
Ein Agent
√
―
―
√
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
30
5
Gliederung
Vom Agentenverhalten zur Agentenarchitektur
Ö Die Lehrveranstaltung GKI im Überblick
Ö Ein Agent führt Handlungen aufgrund von Wahrnehmungen aus:
Ö Was ist Künstliche Intelligenz?
[f : P* Æ A]
Ö Geschichtlicher Überblick
t Eigenschaften der Umgebung beeinflussen die Wahrnehmung
Ö Intelligente Softwareagenten
t Die Handlungen sollen rational sein.
t Rationales Handeln
Ö Agent = Architektur + Programm
t Umgebung des Agenten
t Das Agentenprogramm läuft auf der Architektur und realisiert f
t Agentenarchitekturen
t Welche Architektur setzt die Anforderungen optimal um? ...
Ö Zusammenfassung und Ausblick
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
31
AOT
Grundlagen der Künsltichen Intelligenz
Ein sehr einfaches Agentenprogramm
4 Agententypen im Überblick
Ö Der Agent besitzt eine Tabelle, in der sämtliche möglichen
Wahrnehmungsseqenzen auf Aktionen abgebildet werden
Ö Einfache reaktive Agenten
© Dr.-Ing. Stefan Fricke
34
Ö Zielorientierte Agenten
t Beispiel Schach: Jede Stellung kennt einen optimalen Zug
t Problem: Die Tabelle hätte ca.
32
Ö Zustandsbasierte reaktive Agenten
t Beispiel Staubsaugeragent: Position x Zustand Æ Aktion
10150
© Dr.-Ing. Stefan Fricke
Einträge
Ö Nutzenorientierte Agenten
Ö Die Struktur (Architektur) eines Agenten beeinflusst offensichtlich
dessen Performance...
t Strukturen & Algorithmen zur Repräsentation & Verarbeitung großer
Zustandsräume werden später (Æ Suchprobleme) behandelt.
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
33
Einfache reaktive Agenten
AOT
Grundlagen der Künsltichen Intelligenz
Einfache reaktive Agenten, Beispiel Staubsauger
... wählen eine
Aktion aufgrund
der aktuellen
Wahrnehmung
durch Anwendung
einer passenden
Regel.
function REFLEX-VACUUM-AGENT ([location, status])
if status == Dirty then return Suck
else if location == A then return Right
else if location == B then return Left
... funktionieren nur in beobachtbaren Umgebungen
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
35
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
36
6
Zustandsbasierte reaktive Agenten
Zustandsbasierte reaktive Agenten
... verwalten einen
internen Zustand.
function REFLEX-AGENT-WITH-STATE(percept)
static: rules, a set of condition-action rules
Dieses Weltmodell
wird zyklisch
aktualisiert auf
Basis der
Aktionen und
Wahrnehmungen.
state, a description of the current world state
action, the most recent action.
state ← UPDATE-STATE(state, action, percept)
rule ← RULE-MATCH(state, rule)
action ← RULE-ACTION[rule]
return action
... funktionieren in partiell beobachtbaren Umgebungen
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
37
AOT
Grundlagen der Künsltichen Intelligenz
Zielorientierte Agenten
Nutzenorientierte Agenten
... verwalten Ziele,
um wünschenswerte Situationen
zu erreichen.
... gewichten
Zustände mit
Werten.
© Dr.-Ing. Stefan Fricke
... beziehen die
Zukunft mit ein.
... können Ziele
und Aktionen
entsprechend
priorisieren.
... sind flexibler aufgrund des wissensbasierten Ansatzes
... eignen sich für Konfliktsituationen und Konkurrenz
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
39
Lernende Agenten
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
38
40
Gliederung
... erlernen die
Auwahl der besten
Aktion.
Ö Die Lehrveranstaltung GKI im Überblick
Ö Was ist Künstliche Intelligenz?
Ö Geschichtlicher Überblick
Jede der vorher
beschriebenen
Architekturen
lässt sich um
Lernverfahren
erweitern.
Ö Intelligente Softwareagenten
Ö Zusammenfassung und Ausblick
... stärken die Performance und Robustheit.
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
41
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
42
7
Zusammenfassung
Wo stehen wir heute?
Ö Starke KI zielt auf generelles intelligentes Verhalten, schwache
KI auf intelligente Anwendungen
Ö Turing-Test als Benchmark
t Geschichtliche Entwicklung von generischen, schwachen
Methoden zu spezialisierten, starken Methoden
t teilweise auch von nicht intelligenten Systemen bestanden
Ö Schachcomputer schlagen Großmeister
Ö Ein Agent führt Handlungen aufgrund von Wahrnehmungen aus
Ö Einsatz von Expertensystemen in bestimmten Bereichen
Ö Aber: allgemeine Intelligenz nicht erreicht
t Rationale Agenten handeln zielgerichtet / nutzenoptimierend
t Grundschulfertigkeiten im Lesen, Schreiben und Zusammenfassen
t Die Umgebung beeinflusst das Verhalten des Agenten
t Die Agentenarchitektur definiert die Struktur eines Agenten
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
43
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
44
Referenzen
Ö S. Russell, P. Norvig Artificial Intelligence: A Modern Approach
Prentice Hall, 2003, Second Edition
Grundlagen der
Künstlichen Intelligenz
20.10.2005: Einführung in die KI
Nächster Termin: Problemlösen 1
AOT
Dr.-Ing. Stefan Fricke
[email protected]
Agententechnologien in
betrieblichen Anwendungen
und der Telekommunikation
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
46
SHRDLU
Anhänge
Winograd (M.I.T., 1968-70)
Öeinfacher Dialog in natürlicher Sprache über
Klötzchenwelt
Ö Nicht verwendete Folien
Person: PICK UP A BIG RED BLOCK.
Computer: OK. (does it)
Person: GRASP THE PYRAMID.
Computer: I DON'T UNDERSTAND WHICH PYRAMID YOU MEAN.
Person: FIND A BLOCK WHICH IS TALLER THAN THE ONE
YOU ARE HOLDING AND PUT IT INTO THE BOX.
Computer: BY "IT", I ASSUME YOU MEAN THE BLOCK WHICH
IS TALLER THAN THE ONE I AM HOLDING.
Computer: OK. (does it)
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
47
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
48
8
Natürliche Intelligenz vs. Künstliche Intelligenz
Entwicklungsphasen
Ö Nicht jedes intelligente Verhalten beruht auf (logischem) Denken
Ö Worin liegt der Nutzen des Denkens? Welche Gedanken sollte
man haben?
Hype,
€/$
Euphorie
überzogene
Erwartungen
Ö Symbol grounding problem bei reinen Software-Anwendungen
Ernüchterung
Profitabilität
Aufklärung
Technologieauslöser
Talsohle der
Konsolidierung
Zeit
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
49
AOT
Grundlagen der Künsltichen Intelligenz
© Dr.-Ing. Stefan Fricke
50
9