Artificial Intelligence

Prof. Nick Bostrom: Was passiert, wenn Maschinen die Macht übernehmen?

Wie lange dauert es noch, bis der Mensch eine künstliche Superintelligenz entwickelt? Und welche Folgen wird das haben? Fragen, die sich beim Vortrag von Professor Nick Bostrom auf den CeBIT Global Conferences stellten.

18.03.2016
CeBIT 2016 Day 4 Bostrom 263
Professor Nick Bostrom
"Wenn wir eine Maschine entwickeln, die schlauer als der Mensch ist und weitere Maschinen entwickeln kann, wird das die letzte Maschine sein, die wir jemals bauen",
sagte Professor Nick Bostrom auf der Center Stage der { "href" : "http://", "vLink" : false, "text" : "CeBIT Global Conferences", "target" : "_blank", "tracking" : null } .

"Eine solche Maschine könnte sehr machtvoll sein", sagte er und meinte: "Wir haben nur eine einzige Chance, es richtig zu machen."

Folgen der Superintelligenz

Wenn der Mensch bei der Entwicklung einer Superintelligenz etwas falsch machen würde, könnten die Folgen für die ganze Welt dramatisch sein. Den Zeitpunkt der Entwicklung einer solchen Superintelligenz wollte Professor Bostrom nicht genau festlegen, meinte aber: "Wahrscheinlich noch zur Lebenszeit der meisten aktuell lebenden Menschen."

Menschheit macht sich zu wenige Gedanken

Wie man denn sicherstellen könne, dass eine Superintelligenz den Menschen nicht schaden könne, wollte Moderator Brent Goff von Professor Bostrom wissen. "Darüber macht sich die Menschheit heute viel zu wenige Gedanken", antwortete der Professor ausweichend. Natürlich müsse die Zukunft nicht unbedingt negativ sein. Superintelligente Maschinen könnten zum Beispiel daran arbeiten, Krebs zu kurieren oder die Antwort auf das Altern finden.

Büroklammern fürs Universum

Und wie könnte man sich eine konkrete negative Folge vorstellen, wollte Brent Goff wissen. Dafür nannte Professor Bostrom ein plastisches Beispiel: "Nehmen wir mal an, Sie erschaffen eine superintelligente Büroklammern-Fabrik, deren Ziel das effiziente Produzieren von möglichst vielen Büroklammern ist. Dann wird sie vielleicht erkennen, dass es Sinn macht, möglichst viele Büroklammer-Fabriken herzustellen – solange bis die ganze Welt von Büroklammern-Fabriken gefüllt ist. Danach wird sie Sonden in den Weltraum schicken, um weitere Planeten zu Büroklammer-Fabriken umzuformen."

Der mehr Erfolg versprechende Ansatz wäre es, die superintelligenten Maschinen dazu bringen, menschliche Werte zu lernen und diese auch Wert zu schätzen und zu befolgen.

Artificial Intelligence Research & InnovationCEBIT Global Conferences RSS Feed abonnieren