Folien - Institut für Wirtschaftsinformatik

Operations Research
(OR) II
Fortgeschrittene Methoden
der Wirtschaftsinformatik II
2. Mai 2007
Michael H. Breitner
02.05.2007
#
1
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
Zeitplan OR II SS 2005
• Zusätzlich vorlesungsrelevant: G. Görz et al. (2003, 4. Aufl.), Handbuch der KI,
Vorwort & Einführung und Breitner, M. H. (2003), Nichtlineare, multivariate
Approximation mit Perzeptrons und anderen Funktionen auf verschiedenen
Hochleistungsrechnern, Berlin (werden beide ausgeteilt …).
02.05.2007
#
2
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
1
Literatur zur Künstlichen Intelligenz (KI)
• Gutes Buch, um einen Überblick über KI zu erhalten (ca.
1050 Seiten)
• Übersichtsartikel zu
verschiedensten Themen
• Wichtige Teile der KI werden
leider nur am Rande behandelt
• Details fehlen i. d. R.
• Preis: 80 € (teuer!)
02.05.2007
#
3
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
Literatur zur Künstlichen Intelligenz
02.05.2007
#
4
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
2
Primäre Literatur zur Vorlesung (KNN)
• Umfassende Darstellung des
überwachten Lernens mit
Künstlichen Neuronalen
Netzen (KNN) überwiegend
aus mathematischer Sicht
• Einführung in Neurosimulator FAUN (= Fast approximation with universal neural
networks), vgl. Vorführung in
der Vorlesung
• Darstellung der FAUN-Hochleistungsrechnerversionen
02.05.2007
#
5
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
Primäre Literatur zur Vorlesung (KNN)
02.05.2007
#
6
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
3
Ideen zur Gegenwart und Zukunft der KI
• Ray Kurzweil (Futurologe, Homo S@piens, Econ
Taschenbuch 1999, 10 €, 1998): „Im Jahr 2029
besitzt ein Computer um 1000 US-$ die
Rechenleistung von annähernd 1000 menschlichen
Gehirnen.“
• Ray Kurzweil (Zeit Interview, 2002): „Dabei verkennen sie
[andere Wissenschaftler], daß sich die Geschwindigkeit des
Fortschritts alle 10 Jahre verdoppelt. Manchmal geht es sogar
noch schneller. … Die nächsten 100 Jahre werden Hunderte
Mal mehr Fortschritt bringen als die letzten 100 Jahre. Und
die waren schon ziemlich revolutionär“
02.05.2007
#
7
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
Ideen zur Gegenwart und Zukunft der KI
• Ray Kurzweil (Zeit Interview, 2002): „Dazu werden wir
aber – mittels Gehirn-Scanning oder anderer Methoden –
auch Software entwickeln, die die menschliche Intelligenz in
all ihren Facetten im Computer abbildet, inklusive der
Fähigkeit, komplexe Zusammenhänge und Emotionen zu
verstehen und zu fühlen. … Etwa im Jahr 2019 dürfte ein PC
damit dieselbe Leistungskraft haben wie ein menschliches
Gehirn. … In der zweiten Hälfte dieses Jahrhunderts wird es
keinen klaren Unterschied zwischen menschlicher und
maschineller Intelligenz mehr geben. Wir werden uns
gegenseitig befruchten, unseren menschlichen Geist durch
die intime Verbindung zwischen biologischer und
nichtbiologischer Intelligenz erweitern.“
02.05.2007
#
8
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
4
Zukunftsprognosen sind schwierig!
• Ken Olson (Gründer Digital Equipment Corporation (DEC),
1977): „Es gibt keinen Grund, warum Leute zu Hause einen
Computer haben sollten.“
• Bill Gates (Gründer von Microsoft, 1981): „640000 Bytes
Speicher-kapazität (= 0.64 MB RAM) sollten jedem genügen.“
• Hermann Maurer (Futurologe, 1985): „Es wird im Jahr
2000 Touristen geben, die im Ausland einen elektronischen
Übersetzer mit Sprachein- und -ausgabe benutzen.“
• Neil A. Gershenfeld et al. (Futurologe, 1990): „Der
Computer als gesondertes Einzelobjekt verschwindet. „Things
that think“ werden ihn ersetzen.“
02.05.2007
#
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
9
Prinzipieller Aufbau eines ISs
Rechnersystem(e)
(Intelligente)
Maschine(n)
Hardware:
Technische
CPU, Speicher, Einrichtung(en),
Datenwege,
primär Netzwerke
Schnittstellen …
(LAN, WLAN,
GPRS, UMTS,
Bluetooth,
ad-hoc …)
Software (SW):
System-SW +
Systemnahe SW +
Anwendungs-SW
+
Unternehmen
Organisation(en)
Mensch(en)
Nutzer
Administrator
(Weiter-)
Entwickler
Informationsmanager (CIO)
Sicherheitsmanager (CISO)
…
02.05.2007
# 10
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
5
Integration betrieblicher ISe
Produktentwicklung
Angebotsprozeß
Auftragsabwicklung
Kundenservice
vertikale Integration
funktionsbereichsübergreifende und
unternehmensplanende Modelle
Führungsinformation,
vgl. FIS (Führungsinformationssysteme)
Planungs- und
Kontrollsysteme (PuK)
Querschnittsfunktionen
Finanzen, Rechnungswesen, Personal,
Gebäudemanagement, Groupware usw.
Fo
rs
Grundch
funktionen P sow un
r
un od ie g
en d P uk
tw ro tVertrieb & Beschaffung
ick zeß
Marketing & Bestellung
lu ng
Lagerhaltung
Produktion
von Waren
und Dienstleistungen
Versand
Kundendienst &
CRM
Wertschöpfungskette (Auftragsdurchlauf)
horizontale Integration
02.05.2007
# 11
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
WI, OR & KI
Psychologie
z. B.
• Softwareergonomie
• Einführung von
Anwendungssystemen
• Akzeptanz
BWL (mit allen Teildisziplinen)
z. B.
• Anwendungssysteme in
betrieblichen Funktionsbereichen und Prozessen
• Entscheidungslehre
• Virtuelle Unternehmen
Recht
z. B.
• Datenschutz
• Arbeitsrecht
• Urheberrecht
Wirtschaftsinformatik
Statistik
z. B.
• Qualitätskontrolle
• Marktforschung
• Prognoserechnung
• Data Mining
• Stochastische
Analyse
02.05.2007
# 12
Operations Research
Mathematik
Informatik
z. B.
• Datenbanken
• Systementwicklung
• Softwareengineering
• Grafische Datenverarbeitung
• Computer in Produkten
• Künstliche Intelligenz
Medienwissenschaft
z. B.
• Medien für computergestützte
Weiterbildung (CBT, WBT)
• Elektronische Produktkataloge
• Gestaltung von WWW-Seiten
Nachrichtentechnik
z. B.
z. B.
z. B.
• Übertragungsverfahren für
• Modellierung
• Simulation
Multimedia
• Simulation
• Kryptologie
• Sicherheit beim elektronischen
• Produktionsplanung
• Künstliche Intelligenz
Zahlungsverkehr
• Logistikoptimierung
• Optimierung
• Standortplanung
• Hochleistungsrechnen
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
6
Baum der Künstlichen Intelligenz
Künstliche Neuronale Netze
Spracherkennung & -synthese
Zeitreihenanalyse & -prognose
Automatische
Programmierung
Genetische
Algorithmen
Fallbasiertes
Schließ
Schließen
(Software(Software-)Agenten
Fuzzy Logik
Philosophie Psychologie
Ingenieurwissenschaften
(Computer-)Linguistik
Wirtschaftswissenschaften
Informatik
02.05.2007
Bildverarbeitung
Expertensysteme
Verteilte
und HPCHPC-KI
Robotik
# 13
(Neuro-)Biologie
Mathematik
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
Turing-Test (Alan Turing, 1950)
• Die Frage der Intelligenz einer Maschine soll durch einen
klarer definierten empirischen Test beantwortet werden.
• Der Turing-Test vergleicht die Leistung einer (angeblich)
intelligenten Maschine mit der eines menschlichen
Wesens, vielleicht der beste und einzige Standard für
intelligentes Verhalten. Bei dem Test, den Turing das
„Imitationsspiel“ nannte, werden Maschine und menschlicher Gegenspieler in Räumen untergebracht, die jeweils
getrennt von einem zweiten Menschen sind, der Befrager ist.
Der Befrager kann weder Maschine noch Menschen sehen
oder direkt ansprechen. Er weiß nicht, wer Maschine und wer
Mensch ist, und darf mit beiden nur über ein Texteingabegerät, beispielsweise ein Terminal, kommunizieren.
02.05.2007
# 14
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
7
Turing-Test (Alan Turing, 1950)
• Der Befrager kann beliebige Fragen stellen, auch wenn
diese hinterhältig oder indirekt sind, um die Identität der
Maschine aufzudecken. Der Befrager kann z. B. beide
Subjekte bitten, eine komplizierte arithmetische
Berechnung auszuführen, wobei er unterstellt, daß die
Maschine die korrekte Antwort wahrscheinlich eher findet als
der Mensch. Die Maschine muß wissen, wann sie die korrekte
Antwort auf solche Probleme verweigern muß, um
menschlich zu erscheinen.
• Um die Identität des Menschen auf Grund seiner
Emotionalität herauszufinden, kann der Befrager beide
Subjekte bitten, auf ein Gedicht oder ein Kunstwerk zu
reagieren. Die Maschine muß dann Wissen über die
emotionale Konstitution von menschlichen Wesen besitzen.
02.05.2007
# 15
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
Turing-Test (Alan Turing, 1950)
•
•
•
Gibt uns eine objektive Vorstellung von Intelligenz, d.
h. das Verhalten eines bekanntermaßen intelligenten
Wesens zu einer bestimmten Menge von Fragen. Damit ist
ein Standard für die Bestimmung von Intelligenz
gegeben, mit dem die unvermeidlichen Debatten über deren
"wahre" Natur umgangen werden.
Verhindert die Ablenkung durch verwirrende und
gegenwärtig nicht zu beantwortende Fragen, wie z. B. ob
Computer die geeigneten internen Prozesse verwenden oder
ob Maschinen sich tatsächlich ihrer Handlungen bewußt ist.
Beseitigt Voreingenommenheit zu Gunsten lebender
Organismen, da der Befrager gezwungen wird, sich nur auf
den Inhalt der Antworten zu Fragen zu konzentrieren.
02.05.2007
# 16
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
8
www.gi-ev.de
02.05.2007
# 17
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
www.dfki.de/web
02.05.2007
# 18
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
9
http://www.cogsci.uni-osnabrueck.de/
02.05.2007
# 19
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
http://konferenz.kuenstliche-intelligenz.de/
02.05.2007
# 20
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
10
Was ist (natürliche) Intelligenz?
• Definition ist vielfältig möglich, sehr kompliziert und
sehr umstritten, vgl. auch „intelligentes Leben“!
• Setzt man Intelligenzmaße und Maße für Schulleistungen miteinander in Beziehung, so erhält man regelmäßig
positive Korrelationskoeffizienten von zumeist mittlerer
Größe. Bislang kann mit keinem anderen Merkmal schulischer
Lernerfolg derart gut vorausgesagt werden wie mithilfe der
„Testintelligenz“; Intelligenz ist daher auch schon als
schulische Lernfähigkeit definiert worden (z. B. A. Binet).
• W. Stern definierte Intelligenz als allgemeine geistige
Anpassungsfähigkeit an neue Aufgaben, Probleme und
Bedingungen des Lebens.
02.05.2007
# 21
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
Was ist (natürliche) Intelligenz?
• D. Wechsler versteht unter Intelligenz die globale Befähigung
eines Individuums, zweckvoll zu handeln, vernünftig zu
denken und sich erfolgreich mit seiner Umwelt
auseinanderzusetzen.
• P. R. Hofstätter definiert Intelligenz als Fähigkeit zum
Auffinden von Ordnungen und Regelhaftigkeiten im
überzufälligen Neben- und Nacheinander von Ereignissen.
• Intelligenz ist eine Begabung (oder eine Gruppe von
Begabungen), die Lebewesen in unterschiedlichem Maße
besitzen können.
• Intelligenz ist die Fähigkeit zur Lösung konkreter und
abstrakter Probleme sowie zur Bewältigung neuartiger
Situationen.
02.05.2007
# 22
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
11
Was ist (natürliche) Intelligenz?
• Intelligenz erübrigt oft das Lernen durch Versuch und Irrtum;
• Intelligenz ist die Fähigkeit zur Erfassung, Analyse,
Deutung und Herstellung von Sinnzusammenhängen.
• Oft feststellbare Korrelationen zwischen bestimmten
Untertests eines Intelligenztests führen zu IntelligenzStruktur-Modellen. Aus empirischen Untersuchungen
abgeleitete Faktormodelle spielen eine zentrale Rolle
(Faktorenanalyse), z. B. nach C. Spearman
(Zweifaktorentheorie) beruhen alle intellektuellen
Leistungen auf den Faktoren
• gemeinsamer allgemeiner Intelligenzfaktor (General
factor, g-Faktor)
• und für die jeweilige intellektuelle Leistung spezifischer
Intelligenzfaktor (Specific factor, s-Faktor).
02.05.2007
# 23
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
Was ist (natürliche) Intelligenz?
• S. Thurstone isoliert sieben Primärfähigkeiten (Primary
mental abilities):
• Sprachverständnis und Wortflüssigkeit;
• Rechengewandtheit und räumliches Denken;
• Merkfähigkeit;
• Auffassungsgeschwindigkeit und schlußfolgerndes
Denken.
Statt eines globalen Intelligenzmaßes (z. B. IQ) sollen
mehrere nahezu unabhängige Messwerte angestrebt
werden, die sich je nur auf eine Intelligenzdimension
beziehen und zu einem Intelligenzprofil verknüpft werden
können (heute bis zu 120 Primärfähigkeiten, z. B. bei J.
P. Guilford).
02.05.2007
# 24
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
12
Was ist (natürliche) Intelligenz?
Die strukturellen Theoretiker vermuten eine aus der
Faktorenanalyse hergeleitete Dimensionierung der
individuellen Intelligenz und unterscheiden zwischen
• Denkoperationen (Erkenntnisse, Gedächtnis,
Vergleichsfindung, Bewertung sowie divergente und
konvergente Produktion);
• Denkprodukten (Urteilsklassen, Systemeinheiten,
Transformationen und Implikationen) und
• Denkinhalten (bildliche, symbolische und semantische
Inhalte sowie Verhaltensinhalte).
Das Strukturmodell mit 120 Intelligenzleistungen hat
dann eine Höhen- (Denkprodukte), Breiten- (Denkinhalte)
und Tiefendimension (Denkoperationen).
02.05.2007
# 25
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
Was ist (natürliche) Intelligenz?
• D. Krech und R. Crutchfield sehen Intelligenz grundsätzlich
als die Fähigkeit zum Fähigkeitserwerb (= Lernen). Es
gibt also nicht nur die eine Intelligenz, über die Individuen
im unterschiedlichen Ausmaß verfügen, sondern es existieren
mehrere Intelligenzarten von unterschiedlicher
Fähigkeitszusammensetzung. Hauptfragen der
Intelligenzforschung sind:
• Welche Fähigkeiten sind das?
• Wie stehen sie zueinander?
• Woran sollen sie gemessen werden?
02.05.2007
# 26
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
13
Was ist (natürliche) Intelligenz?
• Mentalstörungen (= Intelligenzdefizite) werden von der
klinischen Psychologie in 3 Gruppen eingeteilt:
• Geistige Behinderungen sind angeborene, traumatische oder
altersbedingte Hirnstörungen, die eine volle Ausübung normaler
Geistestätigkeit verhindern;
• Geistige Leistungsstörungen sind partielle Funktionsstörungen, die nicht die Gesamtintelligenz, sondern nur das Denken
bestimmter Bereiche hemmen;
• Geistige Verirrung ist ein weites Feld an Mentalstörungen mit z. B.
Wahnvorstellungen, vorurteilsbehaftetem Denken, vielfältigen
Formen des Aberglaubens, Leichtgläubigkeit, paranormalem, also
rational nicht verständlichem Denken (z. B. Wahrsagen oder
Kartenlegen) und irrationalen Gruppenbildungen (z. B. manche
Sekten).
02.05.2007
# 27
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
Was ist (natürliche) Intelligenz?
• Ermittlung eines Intelligenzquotienten (= IQ) mit Hilfe
von Intelligenztests:
• Ursprünglich Quotient aus Intelligenzalter und
Lebensalter;
• Heute ein an Mittelwert und Streuung der
Bezugsgruppe standardisierter Wert, wobei der
Mittelwert gewöhnlich 100 und die Standardabweichung
15 (z. B. Wechsler, d. h. 68,26% in [85,115], 95,44% in
[70,130]) oder 10 (z. B. Amthauer, analog) ist.
Entsprechend der Leistungen in Untertests lassen sich
Intelligenzprofile darstellen, aus denen z. B. grobe
Schlüsse für schulische bzw. berufliche Eignungen
gezogen werden können.
02.05.2007
# 28
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
14
Was ist (natürliche) Intelligenz?
• Implizite oder explizite Annahmen der hier getroffene
Operationalisierung der Intelligenz:
• Die ausgewählten bzw. konstruierten Testfragen und
-probleme repräsentieren das Universum aller
möglichen Leistungsarten und -anforderungen in
einer Kultur oder in allen Kulturen;
• Das repräsentierte Universum von Aufgaben kann durch
ein allgemeines stabiles Persönlichkeitsmerkmal – die
Intelligenz – bewältigt werden.
• Der Intelligenztest erfolgt also durch Schätzung eines
Merkmals durch Reduktion des Aufgabenuniversums auf
eine sinnvolle Stichprobe und durch Reduktion dieser
Stichprobenwerte auf verschiedenen Abstraktionsebenen.
02.05.2007
# 29
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
Was ist (natürliche) Intelligenz?
• Faktoren der Kreativität (unterscheide von Intelligenz!):
• Geläufigkeit (Kenntnis verschiedener, ähnlicher
Sachverhalte),
• Flexibilität (Denken in verschiedenen Kategorien) und
• Originalität (Seltenheit oder Entferntheit zum
„Normalen“).
• Kreativitätstests repräsentieren per definitionem nicht das
Universum möglicher Leistungen (kreative Lösungen sind
nicht absehbar!) und nur begrenzt ein allgemeines Merkmal Kreativität (Individuum kann selten auf Kommando
kreativ sein und nicht universell kreativ sein).
• (Hoch-)Schulen fördern i. d. R. nur einige Bereiche der
Intelligenz, nicht aber die Kreativität (-> sehr schade!).
02.05.2007
# 30
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
15
Was ist (natürliche) Intelligenz?
• Intelligenz ist ein adaptiver Mechanismus aus niedrigeren
biologischen Gleichgewichtsprozessen, der die wechselseitige
Anpassung des Individuums an die Umwelt (Adaption,
Akkommodation) und die aktive Angleichung der Umwelt
an das Individuum (Assimilation) steuert.
• Der Aufbau der Intelligenz erweist sich dabei als fortschreitende Konstruktion von Operationssystemen mit
kognitiven Elementen und Verhaltensanteilen.
• Intelligenz [lat. „intellegentia“ = Erkenntnisvermögen,
Verstand] ist eine komplexe Fähigkeit zu Leistungen, die
durch spontanes Erfassen von Zusammenhängen in
neuen Situationen erzielt werden.
02.05.2007
# 31
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
Was ist (natürliche) Intelligenz?
• Intelligenzrichtungen sind z. B.
• praktische Intelligenz,
• theoretische Intelligenz,
• ästhetische Intelligenz und
• künstlerische Intelligenz.
• Intelligenztypen sind z. B.
• synthetische Intelligenz,
• analytische Intelligenz,
• produktive Intelligenz und
• reproduktive Intelligenz.
02.05.2007
# 32
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
16
Was ist (natürliche) Intelligenz?
• Einzelfähigkeiten der Intelligenz sind z. B.
• Abstraktionsfähigkeit,
• Kombinationsfähigkeit,
• intellektuelle Beweglichkeit,
• schlußfolgerndes Denken,
• Auffassungsgeschwindigkeit und -genauigkeit,
• Gedächtnis,
• Sprachbeherrschung,
• Raumvorstellung,
• rechnerisches Denken und
• Phantasie (vgl. auch Kreativität!).
02.05.2007
# 33
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
Menschliches Gehirn
A. Zell, Simulation neuronaler Netze, 3. Auflage, 2000
02.05.2007
# 34
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
17
Sinnesorgane auf der Großhirnrinde
A. Zell, Simulation neuronaler Netze, 3. Auflage, 2000
02.05.2007
# 35
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
Nervenzelle, Nervenfasern und Synapsen
A. Zell, Simulation neuronaler Netze, 3. Auflage, 2000
Inputs
Aktivierung
Erregung
Output
02.05.2007
# 36
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
18
Was ist Künstliche Intelligenz?
• KI ist eine wissenschaftliche Disziplin, die das Ziel verfolgt,
menschliche Wahrnehmungs- und Verstandesleistungen zu operationalisieren und durch Artefakte (lat.,
= Kunstprodukte), d. h. kunstvoll gestaltete technische –
insbesondere informationsverarbeitende – Systeme,
verfügbar zu machen, vgl. G. Görz, u. a., 2003. Diese
Aufgabenteilung impliziert die Interdisziplinarität der KI:
Obwohl durch ihre Genese in der Informatik verankert
(ingenieurwissenschaftliche Komponente!) ist KI-Forschung
nur in enger Zusammenarbeit mit Philosophie,
Psychologie, Linguistik und Neurowissenschaften
möglich (kognitionswissenschaftliche Komponente!).
02.05.2007
# 37
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
Was ist Künstliche Intelligenz?
• KI ist die Untersuchung von Berechnungsverfahren, die es
ermöglichen, wahrzunehmen, schlußzufolgern und zu
handeln (P. H. Winston, 1992).
• Englisch: artificial intelligence (= AI)
• Erstes Zwischenfazit:
Künstliche Intelligenz ist am einfachsten
durch Tätigkeiten von Maschinen bzw.
zugehörige Softwareapplikationen beschreibbar!
02.05.2007
# 38
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
19
E. Stickel u. a., Gabler Wirtschaftsinformatik Lexikon, 1997
Was ist Künstliche Intelligenz?
02.05.2007
# 39
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
Künstliche Neuronale Netze
• Der wichtigste Teilbereich der KI ist Künstliche Neuronale Netze (= KNN, engl. artificial neural networks = ANN).
Betrachtet werden Verarbeitungsmodelle, die sich durch
Lernfähigkeit, Darstellung und Verarbeitung von
Unschärfe, hochgradig parallele Aktionen und
Fehlertoleranz auszeichnen. Das Wissen ist in der
Topologie und in den Gewichten der Kanten des Netzes
gespeichert.
• Veraltet ist heute die Ansicht, daß KNN zur Simulation
gehirnähnlicher Strukturen verwendet werden können.
In der Zukunft scheint dies jedoch realistisch („Gehirn
Scanner“).
02.05.2007
# 40
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
20
Künstliche Neuronale Netze
• KNN sind oft in Schichten organisiert (Perzeptrons).
Zweilagige Perzeptrons haben nur Input- und
Outputschicht. Drei- und mehrlagige Perzeptrons haben
zusätzliche Zwischenschichten. In diesen Schichten sind
miteinander verknüpfte Neuronen angebracht. Ein Neuron
kann mehrere In- und Outputs haben, die an den Synapsen
anliegen. Es summiert seine Inputs, ermittelt abhängig
von innerem Zustand und Aktivierungsfunktion einen
Output und leitet diesen weiter. Für die Berechnung des
Outputs ordnet man den Knoten und Verbindungen Werte
zu, d. h. das Aktivierungspotential des Neurons und die
Gewichte der Verbindungen werden einkalkuliert.
02.05.2007
# 41
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
Künstliche Neuronale Netze/OCR
Ausgabe
Zeichen aus
Zeichensatz
(Klassifikation)
Eingabe 5x7
PixelPixel-Feld
Zwischenschicht
02.05.2007
# 42
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
21
Nervenzelle, Nervenfasern und Synapsen
A. Zell, Simulation neuronaler Netze, 3. Auflage, 2000
Inputs
Aktivierung
Erregung
Output
02.05.2007
# 43
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
Künstliche Neuronale Netze
• In der Lernphase eines KNN ändert eine Lernregel die
Gewichte und ggf. Neuronenparameter und Topologie, so
daß das Netz zu bestimmten Inputs gut passende Outputs
liefert. Die Lernregel vergleicht entweder die an den Outputs
anliegenden Soll-Outputs (überwachtes Lernen, Lernen
mit Lehrer) oder arbeitet ohne von außen beigesteuerte SollOutputs (unüberwachtes Lernen, Selbstorganisation).
• Lernregeln können biologisch (z. B. Darwinismus) oder
mathematisch begründet sein (Abweichungsminimierung
= Optimierung einer Zielfunktion).
• In der KNN-Arbeitsphase werden Inputs angelegt – die in
der Lernphase eingestellten Gewichte und Parameter bleiben
konstant – und an den Outputs wird das Ergebnis angezeigt.
02.05.2007
# 44
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
22
Künstliche Neuronale Netze/OCR
Ausgabe
Zeichen aus
Zeichensatz
(Klassifikation)
Eingabe 5x7
PixelPixel-Feld
Zwischenschicht
02.05.2007
# 45
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
Künstliche Neuronale Netze
• Die Ursprünge der KNN liegen in den 40er Jahren (Warren
McCulloch, Walter Pitts, Donald Hebb, u. a.) und 50er Jahren
(Frank Rosenblatt – 1957 entsteht Perceptron, der erste
Neurocomputer – u. a.).
• Nach einer „Eiszeit“ gewinnen KNN erst in den 80er Jahren
wirklich an Bedeutung.
• Erst spezielle Neurocomputer ermöglichen die effiziente
Arbeit mit KNN (Parallel-, Bio-, Photonencomputer usw.).
• Praxisrelevant ist z. B. Mustererkennung (engl. pattern
recognition), die sich mit der Automatisierung der aufgabenspezifischen symbolischen Beschreibung von Sensordaten
beschäftigt, d. h. automatische Klassifikation und
Analyse von Mustern, z. B. Bild- und Sprachverarbeitung.
02.05.2007
# 46
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
23
Frank Rosenblatt & Perceptron 1957/58
02.05.2007
# 47
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
Frank Rosenblatt & Perceptron 1957/58
02.05.2007
# 48
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
24
Frank Rosenblatt & Perceptron 1957/58
02.05.2007
# 49
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
Frank Rosenblatt & Perceptron 1957/58
02.05.2007
# 50
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
25
Künstliche Neuronale Netze
• Muster sind z. B. Signale (Bilder, Bildfolgen, Sprache, usw.)
oder abstrakte Kennzahlen (Zeitreihen von Aktienkursen,
Daten von Personen, genetische Daten, usw.).
• Bei der Klassifikation wird ein Muster in eine von mehreren
Klassen eingeordnet, z. B. Erkennung von Schriftzeichen
(engl. OCR, = optical character recognition) oder für
Belegleser bzw. Erkennung gesprochener Wörter oder
Erkennung dreidimensionaler Objekte. Eine KNNKlassifikation kann auch Empfehlungen für den
Kauf/Verkauf von Aktien, eine Einschätzung der
Kreditwürdigkeit oder Hinweise für einen Arzt nach der
Auswertung medizinischer Daten liefern.
02.05.2007
# 51
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
Künstliche Neuronale Netze
• Typische Phasen der Klassifikation sind die
Vorverarbeitung zur Verbesserung der Signalqualität, die
Beseitigung unerwünschter Redundanz, die Extraktion von
Merkmalen zur Datenreduktion, das überwachte oder/und
unüberwachte Training (Lernen) eines Klassifikators sowie
danach die eigentliche Klassifikation, z. B. mit KNN.
• Die statistische Entscheidungstheorie (= Lerntheorie,
siehe V. N. Vapnik) liefert theoretisch den optimalen
Klassifikator, in komplexeren Problemen u. U. auch mit
Suchalgorithmen gekoppelt. Klassen werden durch
stochastische oder strukturelle Modelle repräsentiert.
• Typische Phasen der Analyse sind Vorverarbeitung,
Segmentierung, Erkennung von Wörtern oder Objekten,
Verstehen des Inhaltes und ggf. Weiterverarbeitung.
02.05.2007
# 52
Prof. Dr. Michael H. Breitner ([email protected]) © 2007
Institut für Wirtschaftsinformatik / Leibniz Universität Hannover
26