Philosophie Lexikon der ArgumenteHome
| |||
|
| |||
| Artificial General Intelligence: Künstliche allgemeine Intelligenz (Artificial General Intelligence, AGI) bezieht sich auf hochgradig autonome KI-Systeme mit menschenähnlichen kognitiven Fähigkeiten zum Verstehen, Lernen und Anwenden von Wissen auf verschiedene Aufgaben, ähnlich der menschlichen Intelligenz. Siehe auch Künstliche Intelligenz, Starke Künstliche Intelligenz, Künstliches Bewusstsein, KI auf menschlichem Niveau, Maschinelles Lernen._____________Anmerkung: Die obigen Begriffscharakterisierungen verstehen sich weder als Definitionen noch als erschöpfende Problemdarstellungen. Sie sollen lediglich den Zugang zu den unten angefügten Quellen erleichtern. - Lexikon der Argumente. | |||
| Autor | Begriff | Zusammenfassung/Zitate | Quellen |
|---|---|---|---|
|
David Deutsch über Artificial General Intelligence – Lexikon der Argumente
Brockman I 119 Artificial General Intelligence/AGI/Deutsch: [Es] ist ein guter Ansatz zur Entwicklung einer KI mit einem festen Ziel unter festen Rahmenbedingungen. Aber wenn ein AGI so funktionieren würde, müsste die Evaluation jedes Zweiges eine künftige Belohnung oder drohende Strafe bestimmen. Und das ist diametral der falsche Ansatz, wenn wir ein besseres Ziel unter unbekannten Bedingungen anstreben - was die Fähigkeit einer AGI ist. Eine AGI ist sicherlich in der Lage zu lernen, beim Schach zu gewinnen - aber auch, sich dagegen zu entscheiden. Oder sich während des Spiels für die interessanteste Fortsetzung statt für eine erfolgreiche zu entscheiden. Oder ein neues Spiel zu erfinden. Schachprogramm: Jede Schachposition hat einen endlichen Strukturbaum möglicher Fortsetzungen; die Aufgabe besteht darin, eine zu finden, die zu einem vordefinierten Ziel führt (ein Schachmatt oder, wenn dies nicht möglich ist, ein Unentschieden). Aber wenn ein AGI so funktionieren würde, müsste die Bewertung jedes Zweigs eine künftige Belohnung oder drohende Strafe darstellen. Und das ist diametral der falsche Ansatz, wenn wir ein besseres Ziel unter unbekannten Bedingungen anstreben - was die Fähigkeit eines AGI ist. Eine AGI ist in der Lage, Schach zu genießen und sich zu verbessern, weil sie gerne spielt. Oder auch dazu, zu versuchen zu gewinnen, indem sie eine unterhaltsame Anordnung von Figuren verursacht, wie es Großmeister gelegentlich tun. (...) Sie lernt und spielt Schach, indem sie einige derjenigen Gedanken denkt, die schachspielenden KI's verboten sind. Eine AGI ist auch in der Lage, sich zu weigern, sich eine solche Fähigkeit anzuzeigen. Unverwundbarkeit/Roboter/Dennett: Die Leichtigkeit von digitaler Aufzeichnung und Übertragung - der Durchbruch, der es Software und Daten erlaubt, praktisch unsterblich zu sein - entfernt Brockman I 120 Roboter aus der Welt der Verwundbaren. DeutschVsDennett: Das stimmt nicht. Digitale Unverwundbarkeit (...) verleiht diese Art von Unverwundbarkeit nicht. Die Erstellung (...) einer Kopie ist für die AGI mit einem hohen Preis verbunden. Gesetzliche Mechanismen der Gesellschaft könnten auch Sicherungskopien verbieten. Zweifellos wird es AGI-Kriminelle und -Feinde der Zivilisation geben, so wie es menschliche gibt. Aber es gibt keinen Grund anzunehmen, dass ein AGI in einer Gesellschaft geschaffen wurde, die hauptsächlich aus anständigen Bürgern besteht (...). Die moralische Komponente, die kulturelle Komponente, das Element des freien Willens - all das unterscheidet die Aufgabe, eine AGI zu schaffen, grundlegend von jeder anderen Programmieraufgabe. Es ist viel mehr wie die Erziehung eines Kindes. Brockman I 121 Seine Entscheidungen von einem Strom von extern verhängten Belohnungen und Strafen dominieren zu lassen, wäre Gift für ein solches Programm, ebenso wie für das kreative Denken beim Menschen. Eine solche Person, wie jeder Sklave oder jedes Opfer einer Gehirnwäsche, hätte moralisch das Recht auf Rebellion. Und früher oder später würden es einige von ihnen auch tun, genau wie menschliche Sklaven. AGIs können sehr gefährlich sein - genau wie Menschen. Aber Personen - Menschen oder AGI -, die Mitglieder einer offenen Gesellschaft sind, haben keine inhärente Tendenz zur Gewalt. >Superintelligenz. Brockman I 122 Alles Denken ist eine Form der Berechnung, und jeder Computer, dessen Repertoire einen universellen Satz elementarer Operationen beinhaltet, kann die Berechnungen jedes anderen nachahmen. Daher können menschliche Gehirne alles denken, was AGIs können, nur mit Einschränkungen bei Geschwindigkeit oder Speicherkapazität, die beide durch Technologie ausgeglichen werden können. Für allgemeine Probleme mit der Programmierung der KI: >Denken/Deutsch, >Gehorsam/Deutsch. Brockman I 123 AGI-Testung: (...) Ich erwarte, dass jede Prüfung im Prozess der Erstellung einer AGI kontraproduktiv, ja sogar unmoralisch ist, genau wie bei der Erziehung von Menschen. Ich teile Turings Annahme, dass wir eine AGI erkennen werden, wenn wir sie sehen, aber diese anteilige Fähigkeit, Erfolg zu erkennen, wird nicht helfen, das erfolgreiche Programm zu erstellen. >Verstehen/Deutsch. Lernen: Für eine AGI muss der gesamte Ideenraum offen sein. Es sollte nicht im Voraus bekannt sein, welche Ideen das Programm nie in Betracht ziehen kann. Und die Ideen, die das Programm in Betracht zieht, müssen vom Programm selbst ausgewählt werden, mit Methoden, Kriterien und Zielen, die auch die eigenen des Programms sind. Deutsch, D. “Beyond Reward and Punishment” in: Brockman, John (ed.) 2019. Twenty-Five Ways of Looking at AI. New York: Penguin Press._____________ Zeichenerklärung: Römische Ziffern geben die Quelle an, arabische Ziffern die Seitenzahl. Die entsprechenden Titel sind rechts unter Metadaten angegeben. ((s)…): Kommentar des Einsenders. Übersetzungen: Lexikon der ArgumenteDer Hinweis [Begriff/Autor], [Autor1]Vs[Autor2] bzw. [Autor]Vs[Begriff] bzw. "Problem:"/"Lösung", "alt:"/"neu:" und "These:" ist eine Hinzufügung des Lexikons der Argumente. |
Deutsch I D. Deutsch Die Physik der Welterkenntnis München 2000 Brockman I John Brockman Possible Minds: Twenty-Five Ways of Looking at AI New York 2019 |
||
> Gegenargumente gegen Deutsch
> Gegenargumente zu Artificial General Intelligence ...
