Schwarm-intelligenz

AS1-8

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 2 -

Schwarmintelligenz

SciFi-Literatur: 1930: O. Stapledon - Marsinsekten1964: S. Lem - “Der Unbesiegbare”

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 3 -

1. EinleitungWas ist Schwarmintelligenz?Warum ist Schwarmintelligenz interessant?

2. AmeisenalgorithmenNatürliche AmeisenKünstliche AmeisenAnwendung: Das TSP-Problem

3. BienenalgorithmenNatürliche BienenKünstliche BienenAnwendung: Das Scheduling-Problem

Inhalte

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 4 -

Schwarm: „verteilte KI“ eine Menge von (mobilen) Agenten, die miteinander

(direkt oder indirekt) kommunizieren können und im Kollektiv eine verteilte Problemlösung erzielen durch

dezentrale und unüberwachte Koordination (Selbstorganisation)

Robustheit: Das Gruppenziel wird erreicht, auch wenn einige Mitglieder dies nicht können,

wobei dynamische Reaktionen auf eine veränderte Umwelt erfolgen (Adaptivität)

Definition Schwarmintelligenz

Beispiele: • sozial lebende Insekten, • Vogelschwärme, • Fischschulen, • der menschliche Körper

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 5 -

Schwarmintelligenz in der Informatik

Simple Agenten

KommunikationSelbstorganisation

Sementic interaction=>

intelligentes Verhaltenim Kollektiv

Lösung von schwierigen Optimierungsproblemen

Dezentralisierte Daten

Rüdiger Brause: Adaptive Systeme, Institut für Informatik

Ameisenalgorithmen

Bienenalgorithmen

- 6 -

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 7 -

Ameisenalgorithmen

Agenten = Ameisen

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 8 -

Natürliche Ameisen

Futter

Nest

Ameisenart Linepithema humile aus Argentinien- zur Selbstorganisation fähig- Sementic interactions: Pheromone

Brücken

Versuchsaufbau:

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 9 -

Natürliche Ameisen

Beobachtung

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 10 -

Natürliche Ameisen

dynamische Fakten

stärkere Pheromonbelegung höhere Begehungswahrscheinlichkeit

Kürzerer Weg Ameise ist schneller wieder zurück, höhere Begehungswahrscheinlichkeit

Experiment: gleich lange Wege, aber asymm. Wegsuche

hm

hm

hm

U)kL()kU(

)kU()m(P

unten oben Gesamtzahl

oben Anzahl oben keit rel.Häufig

ModellBeob.: k = 20, h = 2

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 11 -

Künstliche Ameisen

Gemeinsame Analogien

Agenten = künstliche Ameisen, analog zu den echten

optimaler Weg = kürzester Weg zwischen zwei Punkten

Belegung mit Pheromonen (Stigmergy) als zentrale Idee

Wahrscheinlichkeits-gestützte, lokale Entscheidungen

Ant Colony Optimization Algorithms

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 12 -

Künstliche Ameisen

Diskrete Welt mit Übergang zwischen diskreten Zuständen

Interner Zustand (interner Speicher)

Pheromonabsonderung ist problemspezifisch und unnatürlich.

Zusatzfähigkeiten wie Vorhersehen, lokale Optimierung, back-tracking usw.

Unterschiede künstlicher Ameisen zu natürlichen

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 13 -

Künstliche Ameisen

Beispiel Das Traveling Salesman Problem Ant System AS, Dorigo 1996

zufällige Verteilung der Ameisen auf die Städte auf zu Beginn

Kantenwahl: Kante mit höchstem Pheromonspiegel wird bevorzugt

Kantenwahl: privates Gedächtnis Mk der Ameise: Was bin ich schon gelaufen?

Modifikation des Pheromongehalts: local trail updating vs. global trail updating

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 14 -

Künstliche Ameisen

Algorithmus-Grundstruktur:

FOR t=1 TO tmax In der Simulation

FOR ant=1 TO m für alle Ameisen

build_tour TSP wähle eine Tour

NEXT ant

update_pheromone aktualisiere die Markierungen

NEXT t

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 15 -

Künstliche Ameisen: TSP

build_tour TSP Wähle ein Tour Starte bei zufälliger Stadt mit Ameise k

Bilde einmal für alle Kanten von Stadt i

nach Stadt j die relative Gewichtung

Errechne Selektionswahrscheinlichkeit von Ameise k für

Kanten nicht besuchter Städte pijk(t) =

Lagere Pheromone ab: D wij = const ant-density strategyD wij = 1/dij ant-quantity strategy

iNririr

ijijij

d/1)t(w

d/1)t(w)t(a

k

iNrir

ij

)t(a

)t(a

Abstand Stadt i zu j

, a b Konstanten

Pheromone

Alle Wege zu i

Alle nicht besuchten Wege zu i

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 16 -

Künstliche Ameisen: TSP

Update_pheromone

Nach jeder Tourensuche setze für alle Kanten der Tour

wij(t+1) = (1-r) wij(t) + r Dwij(t) Bewertung aktualisieen

mit Bewertung aller Ameisen

und Dwijk(t) = 1/Lk(t) Tourlänge pro Ameise

)()(1

twtw kij

m

kij

ABER: Konvergenzprobleme bei größeren Dimensionenzahl !

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 18 -

Künstliche Ameisen: Modifikation

Update_pheromone

Nach jeder Tourensuche setze für alle Kanten der besten Tour

wij(t+1) = (1-r) wij(t) + r Dwij(t) Tour markieren

mit Dwij(t) = 1/L+ beste Tourlänge aller Ameisen

Online_update_pheromone

Nach jedem Kantenlauf setze

wij(t+1) = (1-g) wij(t) + g w0 Spur verwischen

mit w0 = 1/n Lnn heuristische nearest-neighbor Tourlänge

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 19 -

Ergebnisse

Vergleich mit anderen Verfahren (50-Städte-Probleme)

Simulated

annealing

Ant Colony

System

Elastic N

et

Self Organizin

g

Map

Farthest

Insertio

n

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 20 -

Ergebnisse

Vergleich mit anderen Verfahren

Simulated

annealingAnt C

olony

System Genetic

Algorithms

Evolutionary

Programming

Annealing Genetic

algorithm

Iterationen für beste Integer-Tour

Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS 2009

Ameisenalgorithmen

Bienenalgorithmen

- 21 -

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 22 -

Bienenalgorithmen

Agent = Biene

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 23 -

Natürliche Bienen

m Futtersucher

Jede Biene, die zurückkommt, teilt ihr Ergebnis durch Schwänzeltanz mit.

Güte der Futterquelle =

R(Distanz, Futtermenge, Futterqualität)

Zeitl. Länge des Tanzes ~ R

Richtung des Tanzes ~ Himmelsrichtung

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 24 -

Natürliche Bienen

Weitere Futtersucher beobachten zufällig einen Tanz und fliegen los.

Je länger der Tanz dauert, umso mehr Futtersucher fliegen los.

• Gute Futterorte triggern positive Rückkopplung

• Schlechte bedeuten eine relative Abnahme der Bienen

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 25 -

Anwendung: Scheduling von Internet-Servern

?Blumenbeet

Künstliche Bienen

?

HTTP-Anfragen ServerCluster

http://mf.erciyes.edu.tr/abc/

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 26 -

Scheduling

ZuordnungenBlumenbeet Warteschlange

Futtersuchbiene Server

Gruppe der Futtersucher virt. ServerCluster

Bienenstock Menge aller Server

Futterqualität, Menge, Distanz ServiceQualität, Menge, Dauer

Aufwand, Futterort zu wechseln Migrationskosten

Schwänzeltanz Nachricht

Tanzboden Nachrichtenbrett

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 27 -

Künstliche Bienen

Jeder Server si des virt. ServerClusters VSj

• Arbeitet eine Anfrage ab. Ertrag ist cj [€/Auftrag]

• Heftet mit Wahrscheinlichkeit q eine Nachricht ans Brett

• Diese bleibt eine Zeit T = cj A erhalten.

• Vergleicht die eigene Profitrate Pi mit der von Gesamtgruppe Pcolony und errechnet damit Wechsel ri (Pi)

• Futtersucher: Liest mit Wahrsch. ri eine andere Nachricht

vom Brett und befolgt sie.

• oder Scout: wählt direkt mit Wahrsch. rj ein anderes VSj

ri 0,6

f(pi)

0,2 0,02 0,0

0,5 0,85 1,15 pi

ri

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 28 -

Anforderungen

Gemessene Lastanforderungen

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 29 -

Synthetische Daten

Sehr schnelle Anforderungswechsel

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 30 -

Ergebnisse

2-VirtServer-cluster 3-VirtServer-cluster

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 31 -

Ausblick

Forschung in der Schwarmintelligenz hat gerade begonnen

Umsetzung der vorgestellten Modelle basiert auf Annahmen und spiegeln nur teilweise die biologische Realität wider

treibende Aspekte für die Entwicklung der informatischen Modelle sind die Effizienz, Robustheit und Flexibilität der biologischen Vorbildsysteme

Rüdiger Brause: Adaptive Systeme, Institut für Informatik - 32 -

Ausblick