Spieltheoretische Koalitionsverhandlungen Thema: Agentenbasierte Koalitionsverhandlungen Paper: Coalitions among Computationally Bounded Agents Themen Grundlagen Bedingungen für Koalitionsstrukturen Core- Stabilität der Koalitionsstrukturen Stabilität von Koalitionsstrukturen Spieltheorie - Peter Kaczmarczyk 1 Grundlagen Set aller Agenten: A niedrigste Kosten, die eine Gruppe S erzielen kann: Charakteristische Funktion, Wert einer Koalition S angibt: Auszahlung eines Agenten i: Allgemeinwohl ist die Summe der Auszahlung aller Agenten xi Є R wenn für alle disjunkte Koalitionen gilt: v S T SA C v S S cS S,T A v v S T dann ist das Spiel superadditiv sonst: v S T vS vT ist das Spiel subadditiv Spieltheorie - Peter Kaczmarczyk 2 Grundlagen Agenten koordinieren ihre Berechnungen und Weltaktionen innerhalb jeder Koalition keine Koordination zwischen Koalitionen In verteilten, kooperativen Problemlösungssystemen bestimmt ein Designer ein Interaktionsprotokoll und eine Strategie Frage: welche Struktur bei gegebenem Protokoll und Strategie In Multiagentensystemen können die Agenten jedoch ihre eigene Strategie auswählen Selbstorientierte Agenten wählen die beste Strategie, für sich selbst Frage: Bei gegebenem Protokoll, welche Struktur entsteht, die garantiert, dass die lokale Strategie eines jeden Agenten am besten für ihn ist? Diese Strategie wird somit von diesem Agenten benutzt. Spieltheorie - Peter Kaczmarczyk 3 Grundlagen Core C {( x , CS ) | S A, xi vS und xi iS i A v jCS Wert jeder Teilgruppe S an Agenten ist nicht größer als die Summe der Auszahlungen der Agenten in CS perfekte Rationalität: Algorithmen, die die optimale Lösung mit Null Berechnungskosten finden Rationalität der Agenten ist jedoch durch die Berechnungskomplexität begrenzt bei harten Problemen entstehen nicht zu begründende Kosten für die optimale Lösung Folge: Qualität der Lösung wird gegen ihre Berechnungskosten aufgewogen Erweiterung der klassischen Spieltheorie, die perfekte Rationalität annimmt Spieltheorie - Peter Kaczmarczyk 4 Sj } Spieltheorie - Peter Kaczmarczyk 5 Modell der beschränkten Rationalität Berechnungsgrenzen quantitativ modelliert: Berechnungskosteneinheiten: ccomp ≥ 0 pro CPU Time Koalitionkosten von S, nachdem Berechnungsressourcen rS verbraucht wurden: cS(rS) ≥ 0 cS(rS) entspricht dem Leistungsprofil für den Problemlösungsalgorithmus Spieltheorie - Peter Kaczmarczyk 6 Modell der beschränkten Rationalität Jede Koalition minimiert die Summe aus den Koalitionskosten und den Berechnungskosten Wert einer Koalition S: vS(ccomp)= minrS[cS(rS) + ccomp * rS] Dieser Wert sinkt mit steigenden Berechnungskosten ccomp Spieltheorie - Peter Kaczmarczyk 7 Beispiele vS(ccomp)= minrS[cS(rS) + ccomp * rS] Spieltheorie - Peter Kaczmarczyk 8 Koalitionen für das Allgemeinwohl beschränkt rational superadditives Spiel (BRSUP) Wenn für alle disjunkte Koalitionen S , T und Berechnungskosteneinheit ccomp gilt: (ccomp ) (ccomp ) (ccomp ) v S T v S A v T dann ist das Spiel BRSUP BRSUP Spiele sind immer Spiele, bei denen die große Koalition {A} das Algemeinwohl maximiert bei gegebenen ccomp kann ein Spiel entweder superadditiv, BRSUP, beides oder keines von beiden sein Spieltheorie - Peter Kaczmarczyk 9 Koalitionen für das Allgemeinwohl beschränkt rational subadditives Spiel (BRSUB) Wenn für alle disjunkte Koalitionen und Berechnungskosteneinheit ccomp gilt: v S T S,T A (ccomp ) vS (ccomp ) vT (ccomp ) dann ist das Spiel BRSUB In BRSUB Spielen arbeiten die Agenten am besten alleine. {{a1},{a2},{a3},…,{a|A|},} maximiert das Algemeinwohl nur einige nicht-BRSUP Spiele sind beschränkt rational subadditiv Spieltheorie - Peter Kaczmarczyk 10 Beispiel vS(ccomp)= minrS[cS(rS) + ccomp * rS] Spieltheorie - Peter Kaczmarczyk 11 Koalitionen für das Allgemeinwohl Wenn die Leistungsprofile cS(rS) und die Berechnungskosten ccomp bekannt sind, kann man den Ertrag einer jeden Koalitionsstruktur über ihre Koalitionen berechnen mit: vS(ccomp)= minrS[cS(rS) + ccomp * rS] Es gibt jedoch einige generelle Ergebnisse, die diese Aufzählung über alle Koalitionen unnötig machen Frage: Welche Leistungsprofile machen ein Spiel zu einem BRSUP oder BRSUB Spiel für beliebige Berechnungskosteneinheiten Bei Ausführungen auf remote Rechnern sind die Berechnungskosten unbekannt Spieltheorie - Peter Kaczmarczyk 12 Garantie für Zusammenschlüsse Hilfe bietet Theorem 3.1, dass eine hinreichende Bedingung darstellt, die garantiert, dass 2 beliebige, disjunkte Koalitionen unabhängig von den Berechnungskosteneinheiten ccomp fusionieren sollten Theorem 3.1 BRSUP (hinreichende Bedingung): Wenn für alle disjunkten Koalitionen S , T und alle Berechnungszuteilungen rS , rT 0 gilt: A cS T (rS rT ) cS (rS ) cT (rT ) dann ist das Spiel BRSUP für alle Berechnungskosteneinheiten ccomp Spieltheorie - Peter Kaczmarczyk 13 Garantie für Zusammenschlüsse In der Theorie ist Theorem 3.1 immer erfüllbar, da der Problemlösungsalgorithmus c(r) zuerst rS verbrauchen kann um Problem von S zu lösen und dann rT für T Folge: beste Koalitionsstruktur ist die große Koalition {A} Theorem 3.1 ist keine notwendige Bedingung im allgemeinen Theorem 3.2: Gilt: cS T (rS rT ) cS (rS ) cT (rT ) für alle disjunkten Koalitionen S , T A und alle Berechnungszuteilungen rS , rT 0 das Spiel ist BRSUP für beliebige Berechnungskosteneinheiten ccomp Spieltheorie - Peter Kaczmarczyk 14 Garantie für Zusammenschlüsse Theorem 3.3 BRSUP (notwendige und hinreichende Bedingung): Ist cU(r) fallend und convex in r, für jedes U A und gilt: cS T ( rS rT ) cS ( rS ) cT ( rT ) cU(r) r für alle disjunkten Koalitionen S , T A und alle Berechnungszuteilungen rS , rT 0 genau dann ist das Spiel BRSUP für beliebige Berechnungskosteneinheiten ccomp cU(r ) ist oft konvex, da größere Verbesserungen am Anfang mit wenigen Rechenschritten gefunden werden können, als später bei fast optimalen Zuständen Spieltheorie - Peter Kaczmarczyk 15 Beispiel Zusammenschlüsse vS(ccomp)= minrS[cS(rS) + ccomp * rS] Spieltheorie - Peter Kaczmarczyk 16 Garantie für Aufteilungen Theorem 3.4 BRSUB (hinreichende Bedingung): Gilt: cS T (rS rT ) cS (rS ) cT (rT ) für alle disjunkten Koalitionen S , T A und alle Berechnungszuteilungen rS , rT 0 => dann ist das Spiel BRSUB für beliebige Berechnungskosteneinheiten ccomp Ein Spiel kann beschränkt rational subadditiv sein auch wenn Theorem 3.4 nicht gilt Anders als bei der beschränkt rationalen Supperadditivität wird diese Implikation nicht zu einer Äquivalenz Spieltheorie - Peter Kaczmarczyk 17 Beispiel vU(ccomp)= minrU[cS(rU) + ccomp * rU] Wenn z.B. Kosten bei Koalitionsbildung entstehen, die nicht durch Optimierung der Kostenfunktion wieder weggemacht werden können, dann ist dieses Spiel BRSUB cS T (rS rT ) cS (rS ) cT (rT ) cJoin(rS , rT ) Spieltheorie - Peter Kaczmarczyk 18 Core- Stabilität der Koalitionsstruktur Stabilität der Auszahlungskonfiguration analysiert anhand des „Core“ –Lösungskonzepts C {( x , CS ) | S A, xi vS und xi iS i A v jCS Sj } Wiederholung: Core: „Der Core eines Spiels ist ein Set von stabilen Auszahlungskonfigurationen (x, CS), x ist ein Vektor von Auszahlungen an die Agenten“ stabil: „Konfiguration wird als stabil angesehen, wenn keine Untergruppe von Agenten ihre Auszahlung vergrößern kann, indem sie die Koalition verlässt und eine neue Koalition gründet“ Spieltheorie - Peter Kaczmarczyk 19 Core- Stabilität der Koalitionsstruktur beschränkt rationale Core (BRC) bei Berechnungskosteneinheiten ccomp ist der BRC (ccomp) {( x , CS ) | S A, xi vS (ccomp) iS und xi i A v jCS Sj (ccomp)} Wenn der BRC nicht leer ist, können beschränkt rationale Agenten ihre Erträge untereinander verteilen, ohne dass eine Teilgruppe die Koalitionsstruktur verlassen will Spieltheorie - Peter Kaczmarczyk 20 Core- Stabilität der Koalitionsstruktur Theorem 4.1 BRC in BRSUB Spielen: Wenn ein Spiel, bei gegebenen ccomp, BRSUB ist => dann ist BRC (ccomp) 0 In Spielen, die nicht BRSUB sind ist BRC manchmal leer Erinnerung BRSUB: vS T (ccomp) vS (ccomp) vT (ccomp) Spieltheorie - Peter Kaczmarczyk 21 Definitionen Seien B1,…,Bp verschiedene, nicht leere Teilmengen von A. Das Set B = {B1,…,Bp} nennt man balanciert, wenn positive Koeffizienten existieren, sodass gilt: i A, { j|iB j } i 1 ein minimal balanciertes Set enthält keine anderen balancierten Sets Ein minimal balanciertes Set wird proper genannt, wenn kein Paar disjunkt ist. Spieltheorie - Peter Kaczmarczyk 22 Beispiele : proper sets Spieltheorie - Peter Kaczmarczyk 23 Core- Stabilität der Koalitionsstruktur Theorem 4.3 BRC in BRSUP Spielen (notwendige und hinreichende Bedingungen): Wenn bei gegebenen ccomp, ein Spiel BRSUP ist, und für jedes proper minimal balanciertes Set B = {B1,…,Bp} gilt: p v j 1 i Bj (ccomp) v A (ccomp) <=> genau dann ist BRC (ccomp) 0 Dieses Set an Ungleichungen ist minimal, kein kleineres Set ist ausreichend als Bedingung Spieltheorie - Peter Kaczmarczyk 24 Core- Stabilität der Koalitionsstruktur Theorem 4.2 BRC in beschränkt rationalen großen Koalitionsspielen (notwendige und hinreichende Bedingungen): Wenn bei gegebenen ccomp, {A} den Allgemeinwohl maximiert, und für jedes minimal balanciertes Set B = {B1,…,Bp} gilt: p v j 1 i Bj (ccomp) v A (ccomp) <=> genau dann ist Spieltheorie - Peter Kaczmarczyk BRC (ccomp) 0 25 Core- Stabilität der Koalitionsstruktur Theorem 4.5 BRC in BRSUP Spielen (hinreichende Bedingungen über Kostenfunktion): Wenn bei gegebenen ccomp, das Spiel BRSUP ist, und [für jedes proper minimal balanciertes Set β = {B1,…,Bp} gilt: p p j 1 j 1 (B , rB 0) j cB j (rB j ) c A ( j rB j )] => dann ist BRC (ccomp) 0 Spieltheorie - Peter Kaczmarczyk 26 Core- Stabilität der Koalitionsstruktur Theorem 4.4 BRC in beschränkt rationalen großen Koalitionsspielen (hinreichende Bedingungen über Kostenfunktion): Wenn bei gegebenen ccomp, {A} den Allgemeinwohl maximiert, und [für jedes minimal balanciertes Set β = {B1,…,Bp} gilt: p p j 1 j 1 (B , rB 0) j cB j (rB j ) c A ( j rB j )] => dann ist BRC (ccomp) 0 Spieltheorie - Peter Kaczmarczyk 27 Zusammenfassung Multiagentensysteme in denen Agenten ihre Strategie selbst wählen dürfen BRSUP hinreichende, notwendige Bedingung die Garantie für Zusammenschlüsse liefern BRSUB nur hinreichende Bedingung die Garantie für Aufteilungen liefern Core- Stabilität der Koalitionsstruktur BRC in BRSUB Spielen BRC in BRSUP Spielen und großen Koalitionsspielen BRC in BRSUP Spielen abhängig von Kostenfunktion Spieltheorie - Peter Kaczmarczyk 28 Danke für Ihre Aufmerksamkeit Fragen? Spieltheorie - Peter Kaczmarczyk 29