Die Deutsche Messe verwendet Cookies, um die Website bestmöglich an die Bedürfnisse unserer Besucher anpassen zu können. Wenn Sie auf der Seite weitersurfen stimmen Sie der Cookie-Nutzung zu. Infos zum Datenschutz
"Wenn wir eine Maschine entwickeln, die schlauer als der Mensch ist und weitere Maschinen entwickeln kann, wird das die letzte Maschine sein, die wir jemals bauen",
"Eine solche Maschine könnte sehr machtvoll sein", sagte er und meinte: "Wir haben nur eine einzige Chance, es richtig zu machen."
Wenn der Mensch bei der Entwicklung einer Superintelligenz etwas falsch machen würde, könnten die Folgen für die ganze Welt dramatisch sein. Den Zeitpunkt der Entwicklung einer solchen Superintelligenz wollte Professor Bostrom nicht genau festlegen, meinte aber: "Wahrscheinlich noch zur Lebenszeit der meisten aktuell lebenden Menschen."
Menschheit macht sich zu wenige Gedanken
Wie man denn sicherstellen könne, dass eine Superintelligenz den Menschen nicht schaden könne, wollte Moderator Brent Goff von Professor Bostrom wissen. "Darüber macht sich die Menschheit heute viel zu wenige Gedanken", antwortete der Professor ausweichend. Natürlich müsse die Zukunft nicht unbedingt negativ sein. Superintelligente Maschinen könnten zum Beispiel daran arbeiten, Krebs zu kurieren oder die Antwort auf das Altern finden.
Büroklammern fürs Universum
Und wie könnte man sich eine konkrete negative Folge vorstellen, wollte Brent Goff wissen. Dafür nannte Professor Bostrom ein plastisches Beispiel: "Nehmen wir mal an, Sie erschaffen eine superintelligente Büroklammern-Fabrik, deren Ziel das effiziente Produzieren von möglichst vielen Büroklammern ist. Dann wird sie vielleicht erkennen, dass es Sinn macht, möglichst viele Büroklammer-Fabriken herzustellen – solange bis die ganze Welt von Büroklammern-Fabriken gefüllt ist. Danach wird sie Sonden in den Weltraum schicken, um weitere Planeten zu Büroklammer-Fabriken umzuformen."
Der mehr Erfolg versprechende Ansatz wäre es, die superintelligenten Maschinen dazu bringen, menschliche Werte zu lernen und diese auch Wert zu schätzen und zu befolgen.