Philosophie Lexikon der Argumente

Home Screenshot Tabelle Begriffe

 
Ethik: befasst sich mit der Bewertung und Begründung von Handlungen und letztlich einer Begründung von Moral. Siehe auch Gut, Das Gute, Werte, Normen, Handlungen, Deontologie, Deontologische Logik, Konsequentialismus, Moral, Motive, Gründe, Handlungstheorie, Utilitarismus.

_____________
Anmerkung: Die obigen Begriffscharakterisierungen verstehen sich weder als Definitionen noch als erschöpfende Problemdarstellungen. Sie sollen lediglich den Zugang zu den unten angefügten Quellen erleichtern. - Lexikon der Argumente.

 
Autor/Titel Begriff Zusammenfassung Metadaten

Nick Bostrom über Ethik – Lexikon der Argumente

I 257
Ethik/Moral/Superintelligenz//Bostrom: Keine ethische Theorie erlangt eine mehrheitliche Unterstützung unter den Philosophen, so dass die meisten Philosophen sich irren müssen.
((s)VsBostrom: Es ist keine Frage des Applauses, welche Theorie richtig ist).
I 369
Mehrheiten in Ethik/Bostrom: Eine kürzlich durchgeführte Befragung von Berufsphilosophen ergab den Prozentsatz der Befragten, die verschiedene Positionen "akzeptieren oder sich ihnen zuneigen". Zur normativen Ethik waren die Ergebnisse
Deontologie 25,9%; - Konsequentialismus 23,6%; - Tugendethik 18,2%.
Zur Metaethik waren die Ergebnisse
moralischer Realismus 56,4%; - moralischer Anti-Realismus 27,7%.
Zum moralischen Urteilsvermögen:
Kognitivismus 65,7%; - Nicht-Kognitivismus 17,0% (Bourget und Chalmers 2009(1))
>Normen/Normativität/Superintelligenz/Bostrom, >Ethik/Superintelligenz/Yudkowsky.
Morality models:
I 259
Def CEV/Yudkowsky: Unser "kohärentes extrapoliertes Wollen" ist der Wunsch den wir hätten, wenn wir mehr wüssten, schneller dächten, mehr die Menschen wären, die wir gerne wären, wenn wir weiter zusammenwachsen würden; wo die Extrapolation konvergiert statt divergiert, wo unsere Wünsche kohärent sind statt sich zu stören; wenn sie extrapoliert würden, wie wir es wünschen, dass extrapoliert wird und interpretiert würden, wie wir es wünschen.
I 266
VsCEV/Bostrom: stattdessen:
Moralische Richtigkeit / MR/Bostrom: (...) bauen wir eine KI mit dem Ziel auf, das moralisch Richtige zu tun, wobei die KI sich auf ihre überlegenen kognitiven Fähigkeiten stützt, um herauszufinden, welche Handlungen genau auf diese Beschreibung passen.
Wir können diesen Vorschlag "moralische Richtigkeit" (MR) nennen. Die Idee ist, dass wir Menschen ein unvollkommenes Verständnis davon haben, was richtig und was falsch ist (...)
((s)VsBostrom: Damit wird menschliche Verantwortung delegiert und letztlich davon ausgegangen, dass menschliche Entscheidungen nur vorläufig sind, bis nicht-menschliche Entscheidungen getroffen werden).
I 267
BostromVsYudkowsky: MR würde verschiedene freie Parameter in der CEV abschaffen, wie z.B. den Grad der Kohärenz zwischen den extrapolierten Willensäußerungen, der erforderlich ist, damit die KI auf das Ergebnis reagieren kann, die Leichtigkeit, mit der eine Mehrheit abweichende Minderheiten überstimmen kann, und die Art des sozialen Umfelds, innerhalb dessen unser extrapoliertes Selbst "weiter zusammenwachsen" soll.
BostromVsMR: Problem: 1. die MR scheint auch einige Nachteile zu haben. Sie stützt sich auf den Begriff "moralisch richtig", einen notorisch schwierigen Begriff (...).
I 268
2. (...) [MR] gibt uns vielleicht nicht das, was wir wollen oder was wir wählen würden, wenn wir klüger und besser informiert wären.
Lösung/Bostrom: Ziel für KI:
MP: Unter den Handlungen, die für die KI moralisch zulässig sind, nehme die KI eine, die der CEV der Menschheit vorziehen würde. Wenn jedoch ein Teil dieser Anweisung keine genau spezifizierte Bedeutung hat, oder wenn wir über ihre Bedeutung radikal uneins sind, oder wenn der moralische Realismus falsch ist, oder wenn wir bei der Schaffung einer KI mit diesem Ziel moralisch unzulässig gehandelt haben, dann unterziehe die KI sich einer kontrollierten Abschaltung.(*) Die KI folge der beabsichtigten Bedeutung dieser Anweisung.
I 373 (Anmerkung)
*Def Moralische Zulässigkeit/Bostrom: Wenn die KI die moralische Zulässigkeit unserer Handlung zur Schaffung der KI bewertet, sollte sie die Zulässigkeit in ihrem objektiven Sinne interpretieren. In einem gewöhnlichen Sinne von "moralisch zulässig" handelt eine Ärztin oder ein Arzt moralisch zulässig, wenn sie oder er ein Medikament verschreibt, von dem sie oder er glaubt, dass es ihre oder seine Patientin heilen wird - selbst wenn die Patientin oder der Patient, ohne dass die Ärztin oder der Arzt es weiß, allergisch gegen das Medikament ist und infolgedessen stirbt. Die Konzentration auf die objektive moralische Zulässigkeit macht sich die vermutlich überlegene erkenntnistheoretische Position der KI zunutze..
((s)VsBostrom: Der letzte Satz (Salvatorische Klausel: "Die KI folge der beabsichtigten Bedeutung dieser Anweisung") ist zirkulär, insbesondere wenn es keine Personen mehr in Entscheidungspositionen gibt, die dagegen Einspruch erheben könnten.
>Ziele/Superintelligenz/Bostrom
I 312
Def Gemeinwohlprinzip/Bostrom: Superintelligenz sollte nur zum Wohle der gesamten Menschheit und im Dienste weit verbreiteter ethischer Ideale entwickelt werden.
I 380
Diese Formulierung soll so gelesen werden, dass sie eine Vorschrift einschließt, dass das Wohlergehen von nichtmenschlichen Tieren und anderen fühlenden Wesen (einschließlich des digitalen Verstandes), die existieren oder entstehen könnten, gebührend berücksichtigt wird. Sie soll nicht als Lizenz für einen KI-Entwickler gelesen werden, seine oder ihre eigenen moralischen Intuitionen durch die der breiteren moralischen Gemeinschaft zu ersetzen.


1. Bourget, David, and Chalmers, David. 2009. “The PhilPapers Surveys.” November. Available at http://philpapers.org/surveys/


_____________
Zeichenerklärung: Römische Ziffern geben die Quelle an, arabische Ziffern die Seitenzahl. Die entsprechenden Titel sind rechts unter Metadaten angegeben. ((s)…): Kommentar des Einsenders. Übersetzungen: Lexikon der Argumente
Der Hinweis [Autor1]Vs[Autor2] bzw. [Autor]Vs[Begriff] ist eine Hinzufügung des Lexikons der Argumente.

Bostrom I
Nick Bostrom
Superintelligence. Paths, Dangers, Strategies Oxford: Oxford University Press 2017

Send Link
> Gegenargumente gegen Bostrom
> Gegenargumente zu Ethik ...

Autoren A   B   C   D   E   F   G   H   I   J   K   L   M   N   O   P   Q   R   S   T   U   V   W   Y   Z  


Begriffe A   B   C   D   E   F   G   H   I   J   K   L   M   N   O   P   Q   R   S   T   U   V   W   Z