Beiträge

„Artificial Morality“ oder: Können und sollen Maschinen moralisch handeln?

Ein Beitrag aus unserer Reihe Künstliche Intelligenz zum Wissenschaftsjahr 2019

Vom Sprachassistenten über selbstfahrende Autos bis zum Pflege-Roboter oder Kampfdrohnen: Künstliche Intelligenz (oder kurz: KI) spielt mittlerweile in vielen Bereichen des Lebens eine wichtige Rolle.

Je komplexer und autonomer künstliche Systeme werden, desto mehr lösen sie sich vom Einfluss des Menschen. Maschinen regulieren ihr Verhalten in einem gewissen Rahmen selbst und werden zunehmend unabhängig von Menschen, die die Maschinen unmittelbar bedienen.

Doch je komplexer die Einsatzbereiche autonomer Systeme sind, desto anspruchsvoller werden auch die moralischen Entscheidungen, die die Maschinen treffen müssen. Eine permanente Überwachung und Kontrolle solcher Systeme durch einen Menschen, der die moralisch relevanten Entscheidungen trifft, wird in vielen Fällen kaum möglich sein.

In allen drei Bereichen – Pflegesysteme, Kriegsroboter und Fahrzeuge – stehen autonome Systeme vor grundlegenden moralischen Entscheidungen, in denen es manchmal sogar um Leben und Tod geht. Was ist, wenn ein autonomes Fahrzeug keine andere Wahl hat, als entweder eine alte Dame oder ein Kind zu töten? Was, wenn es nur dadurch, dass es eine auf dem Gehweg stehende Person anfährt, fünf Menschenleben retten kann? Ist ein besonderer Schutz für die Insassen moralisch legitim oder kommt den anderen Verkehrsteilnehmern vom moralischen Standpunkt her mehr Gewicht zu?

Kann man Maschinen solche Entscheidungen überlassen? Darf man es oder sollte man es gar? Können Maschinen überhaupt moralisch handeln, und sollen sie es? Wie konstruiert man eine moralische Maschine? Das sind die grundlegenden Fragen, denen Prof. Dr. Catrin Misselhorn in ihrem Buch Grundfragen der Maschinenethik nachgeht.

Maschinenethik ist ein neues Forschungsgebiet an der Schnittstelle von Informatik und Philosophie, das die Entwicklung moralisch agierender Maschinen zum Ziel hat. Gegenstand ist die Entwicklung einer Ethik für Maschinen im Unterschied zu einer Ethik für Menschen im Umgang mit Maschinen. Dieses Thema ist in der Geschichte der Ethik neu – erst mit der Entstehung hochentwickelter Computer wurde es relevant, ja sind Maschinen als moralische Akteure überhaupt in den Bereich des Möglichen gerückt. Es geht darum, auf der Grundlage von Computertechnologie Maschinen zu gestalten, die selbst moralische Entscheidungen treffen und umsetzen können.

Analog zu “Artificial Intelligence” (AI) spricht man von “Artificial Morality” (AM). Während AI zum Ziel hat, intelligentes Verhalten zu modellieren oder zu simulieren, geht es bei der AM darum, künstliche Systeme mit der Fähigkeit zu moralischem Entscheiden und Handeln auszustatten.

2015 haben namhafte KI-Forscher und Wissenschaftlerinnen einen offenen Brief verfasst, in dem sie die Maschinenethik als eines der wichtigsten und drängendsten Forschungsgebiete der KI hervorheben.

Literatur:

 

Vorschau: In unserem nächsten Beitrag widmen wir uns noch einmal einem sprachwissenschaftlichen Themenkomplex: der Computerlinguistik und ihrem Verhältnis zur künstlichen Intelligenz!

 

Episodes

Stimmen der Bibliothek: Künstliche Intelligenz, Robotik und Maschinenethik

Ein Beitrag aus unserer Reihe Künstliche Intelligenz zum Wissenschaftsjahr 2019

Ein Interview mit Prof. Dr. Oliver Bendel (informationsethik.net)

Künstliche Intelligenz (KI) wird zum Bestandteil unseres Arbeits- und Lebensalltags: Intelligente Objekt- und Mobilitätssteuerung, kooperative Roboter in der Industrie, KI bei der Sprachsteuerung mittels Assistenten, bei der Analyse unseres Online-(shopping-)Verhaltens oder als Bestandteil (teil-)autonomer Fahrzeuge. Manches fährt erkennbar daher, Einiges bleibt für viele von uns schwer zu erkennen und zu durchdringen.

Zu verbreiteten Lösungen in Produktion und Logistik treten vermehrt Szenarien und Anwendungen aus dem Service- und Dienstleistungsbereich hinzu: KI im Personalmanagement, bei der Verbrechensbekämpfung oder in Medizin, Pflege und Therapie, ergo Bereichen mit starken sozialen Interaktionen sowie besonderen Anforderungen an Datenschutz und Privatheit.

Wo stehen wir im Bereich der KI und sozialen Robotik, welche Auswirkungen kann dies auf die Gesellschaft bringen und welche Bedeutung spielen hierbei ethische Grundsätze?

Hören Sie im Interview mit Oliver Bendel, Professor für Wirtschaftsinformatik, Roboterphilosoph und Sachverständiger des Deutschen Bundestages, wie KI-Entwicklungen unser Leben bestimmen (werden) und wie sie Gegenstand in Forschung und Lehre sind.

Das Gespräch wurde am 21. Mai 2019 von Heinz-Jürgen Bove, Fachreferent für Sozialwissenschaften an der Staatsbibliothek zu Berlin, durchgeführt.

Weiterführende Links:

Gesichtserkennung am Südkreuz
Sozialkredit-Systeme
Stanford Robo Cop
Uncanny Valley
Boston Dynamics
Einstein-Born-Briefwechsel
Ron Arkin
Berliner Kolloquium Pflegeroboter
Armin Grunwald
Susan Leigh Anderson & Michael Anderson
Paro
Operationsroboter
Robear (Rieken)
Pepper
Enquetekommission KI des Bundestages
Uni-Klinikum Halle testet Pflegeroboter
Google Duplex
Goodbot, Liebot, Bestbot
Cleverbot
Google Assistant
Hiroshi Ishiguro
Joi (Blade Runner)
Gatebox
Mann heiratet Hologramm

 

Vorschau: Im nächsten Beitrag knüpfen wir an die historischen Vorläufer zur KI an, über die wir im Juni schon berichtet haben, und beleuchten die Thematik im literarischen Werk von E.T.A. Hoffmann.