Download - Institut für Philosophie Programmierte Moral
![Page 1: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/1.jpg)
Institut für Philosophie
Programmierte MoralKönnen und sol len Maschinen
ethisch handeln?
Prof. Dr. Catrin Misselhorn
Universität Stuttgart
![Page 2: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/2.jpg)
Maschinenethik – eine neue Disziplin
• Entwicklung einer Ethik für Maschinen im Gegensatz zur Entwicklung einer Ethik für Menschen im Umgang mit Maschinen
→ Programmierung von Computern, die moralisch
handeln können
![Page 3: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/3.jpg)
Wozu programmierte Moral?
![Page 4: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/4.jpg)
Wozu programmierte Moral?
Beispiel 1: Saugroboter
![Page 5: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/5.jpg)
Wozu programmierte Moral?
Beispiel 2: Pflegesystem
1. Wie häufig und eindringlich soll ein Pflegesystem an Essen und Trinken sowie die Einnahme von Medikamenten erinnern?
2. Wann sollte ein Pflegesystem die Angehörigen verständigen oder den medizinischen Dienst rufen, wenn jemand sich eine zeitlang nicht rührt?
3. Soll das System den Nutzer rund um die Uhr überwachen und wie ist mit den dabei erhobenen Daten zu verfahren?
![Page 6: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/6.jpg)
Wozu programmierte Moral?
Selbst-bestimmung
Sorge der Angehörigen
Gesundheit
Privatheit
![Page 7: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/7.jpg)
Wozu programmierte Moral?
Beispiel 3: Autonomes Fahren
![Page 8: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/8.jpg)
Wozu programmierte Moral?
Moralische Dilemmata
Fall 1 Fall 2
![Page 9: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/9.jpg)
Wozu programmierte Moral?
Moralische Dilemmata
Fall 1 Fall 2
![Page 10: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/10.jpg)
Wozu Maschinenethik?
![Page 11: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/11.jpg)
Wozu programmierte Moral?
Beispiel 4: Algorithmen zur Erkennung von Hassrede, Nazisymbolen, (Kinder-)Pornographie etc. in sozialen Netzwerken
![Page 12: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/12.jpg)
Wozu programmierte Moral?
Beispiel 5: Kriegsroboter, Drohnen & Co
![Page 13: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/13.jpg)
Wozu programmierte Moral?
1. Je komplexer und autonomer Maschinen werden, desto eher müssen diese Systeme in der Lage sein, ihr Verhalten selbst zu regulieren.
2. Sie geraten dabei auch in Situationen, die moralische Entscheidungen verlangen.
3. Es ist erforderlich, Maschinen zu entwickeln, die über ein gewisses Maß an eigenständiger moralischer Entscheidungsfähigkeit verfügen.
![Page 14: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/14.jpg)
Menschliche vs. programmierte Moral
Volle moralische Handlungsfähigkeit:• Universalität• Bewusstsein• Willensfreiheit• Moralische Reflexion und Begründung→ Bislang nur Menschen
Funktionale Moralität:• Funktionales Äquivalent zu moralischem
Handeln→ Auch künstliche Systeme
![Page 15: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/15.jpg)
Prof. Dr. Catrin Misselhorn, Universität StuttgartProf. Dr. Thom Frühwirth, Universität Ulm
MoLeSysMoralimplementation und moralisches Lernen
in autonomen künstlichen Systemen
1. Top-down Ansätze
2. Bottom-up Ansätze
3. Hybride Ansätze
Ansätze der Moralimplementation
Prinzipien
„Daumenregeln“
Werterahmen
![Page 16: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/16.jpg)
Prof. Dr. Catrin Misselhorn, Universität StuttgartProf. Dr. Thom Frühwirth, Universität Ulm
MoLeSysMoralimplementation und moralisches Lernen
in autonomen künstlichen Systemen
1. Top-down Ansätze
2. Bottom-up Ansätze
3. Hybride Ansätze
Ansätze der Moralimplementation
Prinzipien
„Daumenregeln“
Werterahmen
![Page 17: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/17.jpg)
Ansätze der Moralimplementation
Einige Beispiele für top-down Ansätze:• Asimovs Robotergesetze:
1. Ein Roboter darf keinen Menschen verletzen oder durch Untätigkeit zu Schaden kommen lassen.
2. Ein Roboter muss den Befehlen eines Menschen gehorchen, es sei denn, solche Befehle stehen im Widerspruch zum ersten Gesetz.
3. Ein Roboter muss seine eigene Existenz schützen, solange dieser Schutz nicht dem Ersten oder Zweiten Gesetz widerspricht.
• Utilitarismus: Maximierung des Gesamtnutzens• Kants kategorischer Imperativ: „Handle nur nach
derjenigen Maxime, durch die du zugleich wollen kannst, dass sie ein allgemeines Gesetz werde.“
![Page 18: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/18.jpg)
Prof. Dr. Catrin Misselhorn, Universität StuttgartProf. Dr. Thom Frühwirth, Universität Ulm
MoLeSysMoralimplementation und moralisches Lernen
in autonomen künstlichen Systemen
1. Top-down Ansätze
2. Bottom-up Ansätze
3. Hybride Ansätze
Ansätze der Moralimplementation
Prinzipien
„Daumenregeln“
Werterahmen
![Page 19: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/19.jpg)
Prof. Dr. Catrin Misselhorn, Universität StuttgartProf. Dr. Thom Frühwirth, Universität Ulm
MoLeSysMoralimplementation und moralisches Lernen
in autonomen künstlichen Systemen
1. Top-down Ansätze
2. Bottom-up Ansätze
3. Hybride Ansätze
Ansätze der Moralimplementation
Prinzipien
„Daumenregeln“
Werterahmen
![Page 20: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/20.jpg)
Welcher Ansatz ist am Besten?• Abhängig vom Zweck und Nutzungskontext
eines künstlichen Systems
Ansätze der Moralimplementation
![Page 21: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/21.jpg)
Pro und contra moralische Maschinen
Möglichkeiten/Chancen Grenzen/Risiken
![Page 22: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/22.jpg)
Pro und contra moralische Maschinen
Möglichkeiten/Chancen Grenzen/Risiken• Komplexe und autonome
Maschinen müssen moralisch handeln können
• Komplexe und autonome Maschinen müssen moralisch handeln können
• Verbesserung unserer moralischen Reflexion
• Besseres Verständnis des Funktionierens moralischer Fähigkeiten beim Menschen
![Page 23: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/23.jpg)
Pro und contra moralische Maschinen
Möglichkeiten/Chancen Grenzen/Risiken• Komplexe und autonome
Maschinen müssen moralisch handeln können
• Maschinen, die ethischen Standards entsprechen, sind bessere Maschinen
• Verbesserung unserer moralischen Reflexion
• Besseres Verständnis des Funktionierens moralischer Fähigkeiten beim Menschen
![Page 24: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/24.jpg)
Pro und contra moralische Maschinen
Möglichkeiten/Chancen Grenzen/Risiken• Komplexe und autonome
Maschinen müssen moralisch handeln können
• Maschinen, die ethischen Standards entsprechen, sind bessere Maschinen
• Verbesserung unserer moralischen Reflexion
• Besseres Verständnis des Funktionierens moralischer Fähigkeiten beim Menschen
![Page 25: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/25.jpg)
Pro und contra moralische Maschinen
Möglichkeiten/Chancen Grenzen/Risiken• Komplexe und autonome
Maschinen müssen moralisch handeln können
• Maschinen, die ethischen Standards entsprechen, sind bessere Maschinen
• Verbesserung unserer moralischen Reflexion
• Besseres Verständnis des Funktionierens moralischer Fähigkeiten beim Menschen
![Page 26: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/26.jpg)
Pro und contra moralische Maschinen
Möglichkeiten/Chancen Grenzen/Risiken• Komplexe und autonome
Maschinen müssen moralisch handeln können
• Maschinen, die ethischen Standards entsprechen, sind bessere Maschinen
• Verbesserung unserer moralischen Reflexion
• Besseres Verständnis des Funktionierens moralischer Fähigkeiten beim Menschen
• Grundsätzliche Einwände gegen die Realisierbarkeit moralischer Maschinen
• Ethischer Pluralismus• Unvorhergesehene negative
Resultate• Moralische Entmündigung
des Menschen• Grundlegender Bruch mit
unserer moralischen Praxis (z.B. der Verantwortungs-zuschreibung)
![Page 27: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/27.jpg)
Pro und contra moralische Maschinen
Möglichkeiten/Chancen Grenzen/Risiken• Komplexe und autonome
Maschinen müssen moralisch handeln können
• Maschinen, die ethischen Standards entsprechen, sind bessere Maschinen
• Verbesserung unserer moralischen Reflexion
• Besseres Verständnis des Funktionierens moralischer Fähigkeiten beim Menschen
• Grundsätzliche Einwände gegen die Realisierbarkeit moralischer Maschinen
• Ethischer Pluralismus• Unvorhergesehene negative
Resultate• Moralische Entmündigung
des Menschen• Grundlegender Bruch mit
unserer moralischen Praxis (z.B. der Verantwortungs-zuschreibung)
![Page 28: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/28.jpg)
Pro und contra moralische Maschinen
Möglichkeiten/Chancen Grenzen/Risiken• Komplexe und autonome
Maschinen müssen moralisch handeln können
• Maschinen, die ethischen Standards entsprechen, sind bessere Maschinen
• Verbesserung unserer moralischen Reflexion
• Besseres Verständnis des Funktionierens moralischer Fähigkeiten beim Menschen
• Grundsätzliche Einwände gegen die Realisierbarkeit moralischer Maschinen
• Ethischer Pluralismus• Unvorhergesehene negative
Resultate• Moralische Entmündigung
des Menschen• Grundlegender Bruch mit
unserer moralischen Praxis (z.B. der Verantwortungs-zuschreibung)
![Page 29: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/29.jpg)
Pro und contra moralische Maschinen
Möglichkeiten/Chancen Grenzen/Risiken• Komplexe und autonome
Maschinen müssen moralisch handeln können
• Maschinen, die ethischen Standards entsprechen, sind bessere Maschinen
• Verbesserung unserer moralischen Reflexion
• Besseres Verständnis des Funktionierens moralischer Fähigkeiten beim Menschen
• Grundsätzliche Einwände gegen die Realisierbarkeit moralischer Maschinen
• Ethischer Pluralismus• Unvorhergesehene negative
Resultate• Moralische Entmündigung
des Menschen• Grundlegender Bruch mit
unserer moralischen Praxis (z.B. der Verantwortungs-zuschreibung)
![Page 30: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/30.jpg)
Pro und contra moralische Maschinen
Möglichkeiten/Chancen Grenzen/Risiken• Komplexe und autonome
Maschinen müssen moralisch handeln können
• Maschinen, die ethischen Standards entsprechen, sind bessere Maschinen
• Verbesserung unserer moralischen Reflexion
• Besseres Verständnis des Funktionierens moralischer Fähigkeiten beim Menschen
• Grundsätzliche Einwände gegen die Realisierbarkeit moralischer Maschinen
• Ethischer Pluralismus• Unvorhergesehene negative
Resultate• Moralische Entmündigung
des Menschen• Grundlegender Bruch mit
unserer moralischen Praxis (z.B. der Verantwortungs-zuschreibung)
![Page 31: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/31.jpg)
• In welchen Bereichen und auf welcherethischen Grundlage sollten Maschinenentscheiden?
→ Diskussion in einer breiteren Öffentlichkeitals Grundlage demokratisch legimierterRegelungen
Maschinenethik und Demokratie
![Page 32: Institut für Philosophie Programmierte Moral](https://reader031.vdokument.com/reader031/viewer/2022013001/61cc18581a99b56b1f32c8a5/html5/thumbnails/32.jpg)
Telefon +49 (0) 711 685-
Fax +49 (0) 711 685-
Universität Stuttgart
Vielen Dank!
Seidenstr. 36
70174 Stuttgart
Prof. Dr. Catrin Misselhorn
82491
82492
Institut für Philosophie
Catrin MisselhornMaschinen mit Moral?Grundfragen der Maschinenethik