Philosophie Lexikon der ArgumenteHome
| |||
|
| |||
| Motivation: Motivation ist die treibende Kraft hinter den Handlungen einer Person. Sie ist das, was die Person antreibt und zwingt, etwas zu tun. Motivation kann entweder intrinsisch oder extrinsisch sein. Siehe auch Motive, Verursachung, Handlungen, Interesse, Handlungstheorie._____________Anmerkung: Die obigen Begriffscharakterisierungen verstehen sich weder als Definitionen noch als erschöpfende Problemdarstellungen. Sie sollen lediglich den Zugang zu den unten angefügten Quellen erleichtern. - Lexikon der Argumente. | |||
| Autor | Begriff | Zusammenfassung/Zitate | Quellen |
|---|---|---|---|
|
Nick Bostrom über Motivation – Lexikon der Argumente
I 162 Motivation/Superintelligenz/Bostrom: Bsp Nehmen wir an, dass eine KI so entworfen wurde, dass sie als Endziel hat, dass ein bestimmter roter Knopf in einem Kommandobunker niemals gedrückt wird. Entscheidend ist, dass die KI davon ausgeht, dass der Knopf mit größerer Wahrscheinlichkeit nicht gedrückt wird, wenn die KI ständig im Interesse des Auftraggebers handelt, als wenn sie rebelliert. Belohnung: Anstatt zu versuchen, eine KI mit einem Endziel auszustatten, das sich auf einen physischen Knopf bezieht, könnte man eine KI bauen, die den Endwert auf den Erhalt eines Stroms von "kryptographischen Belohnungstoken" legt. Dabei würde es sich um Zahlenfolgen handeln, die als Schlüssel zu Chiffren dienen, die vor der Erstellung der KI generiert und in ihr Motivationssystem eingebaut worden wären. I 354 Eine Chiffrierung zu erstellen, die einem superintelligenten Code-Knacker standhalten kann, ist eine nicht triviale Herausforderung. Zum Beispiel könnten Spuren von Zufallszahlen im Gehirn eines Beobachters oder in der Mikrostruktur des Zufallsgenerators hinterlassen werden, von wo aus die Superintelligenz sie abrufen kann; oder, wenn Pseudozufallszahlen verwendet werden, könnte die Superintelligenz den Ursprung, aus dem sie generiert wurden, erraten oder entdecken. Darüber hinaus könnte die Superintelligenz große Quantencomputer bauen oder sogar unbekannte physikalische Phänomene entdecken, die zur Konstruktion neuartiger Computer genutzt werden könnten. Problem: Die KI könnte sich so verdrahten, dass sie glaubt, sie habe ein Belohnungstoken erhalten, aber das sollte sie nicht zu einem Gefangenen im eigenen Netz (wirehead) machen, wenn sie die Belohnung haben will (im Gegensatz zu dem Wunsch, in einem Zustand zu sein, in dem sie bestimmte Überzeugungen über die Belohnung hat). [Problem: Die KI muss eine Vorstellung von der Welt entwickeln, in der sie lebt: >Umgebung/KI-Forschung, >Umgebung/Bostrom.] I 176 Auswahl der Motivation: -Direkte Spezifikation: Das System ist mit einem direkt spezifizierten Motivationssystem ausgestattet, das folgenorientiert sein oder die Einhaltung einer Reihe von Regeln beinhalten kann. -Domestizierung: Ein Motivationssystem ist darauf ausgelegt, den Umfang der Ambitionen und Aktivitäten des Agenten stark einzuschränken. -Indirekte Normativität: Sie könnte regelbasierte oder folgerichtige Prinzipien beinhalten, zeichnet sich aber dadurch aus, dass sie sich auf einen indirekten Ansatz stützt, um die zu befolgenden Regeln oder die zu verfolgenden Werte festzulegen. >Werte/Superintelligenz/Bostrom. -Erweiterung: Man beginnt mit einem System, das bereits im Wesentlichen menschliche oder wohlwollende Motivationen hat, und steigert seine kognitiven Fähigkeiten, um es superintelligent zu machen. >KI-Übernahme/Yudkowski, >Kontrolle/Superintelligenz/Bostrom, >Ziele/Superintelligenz/Omohundro._____________ Zeichenerklärung: Römische Ziffern geben die Quelle an, arabische Ziffern die Seitenzahl. Die entsprechenden Titel sind rechts unter Metadaten angegeben. ((s)…): Kommentar des Einsenders. Übersetzungen: Lexikon der ArgumenteDer Hinweis [Begriff/Autor], [Autor1]Vs[Autor2] bzw. [Autor]Vs[Begriff] bzw. "Problem:"/"Lösung", "alt:"/"neu:" und "These:" ist eine Hinzufügung des Lexikons der Argumente. |
Bostrom I Nick Bostrom Superintelligence. Paths, Dangers, Strategies Oxford: Oxford University Press 2017 |
||
> Gegenargumente gegen Bostrom
> Gegenargumente zu Motivation ...
