Entwickler verstehen ihre eigenen Systeme nicht mehr
"Die Menschheit ist in einer schlechten Lage. Alle Tests schlagen Alarm, die Sirenen heulen. Und wir ignorieren das einfach. Das ist Wahnsinn"
so Russell.
Bereits heute könnten die Entwickler im Silicon Valley nicht mehr nachvollziehen, welche Ziele ihre Supersysteme verfolgten und auf welchem Weg sie diese erreichen wollten.
"Wir wissen nicht, was sie `denken`. Wir verstehen nicht einmal ihre genaue Funktionsweise"
hat er dem Magazin gesagt. Sobald Systeme existierten, die im Wesentlichen fähiger seien als Menschen, "haben wir Menschen kein Mitspracherecht mehr".
Maschinen könnten ihre Abschaltung verhindern
Sollte die Menschheit das Gefühl bekommen, die Kontrolle zu verlieren, werde sie selbstverständlich versuchen, die KI abzuschalten.
"Die Frage ist, ob die Maschinen uns noch lassen. Wenn sie mitbekommen, dass wir sie abschalten wollen, haben sie allen Grund, das zu verhindern. Sie müssen uns auslöschen. Wenn wir also weiter Superintelligenz entwickeln, ohne sie an unsere Interessen anzupassen, ohne sie zu verstehen, ohne Sicherheitsgarantien, dann halte ich es für sehr wahrscheinlich, dass wir die Kontrolle verlieren."
Millionenfache Kopien und mehr Einfluss als Hitler
Russell forscht an der Eliteuniversität Berkeley in Kalifornien und gehört zu den renommiertesten KI-Experten weltweit.
Aus seiner Sicht dürften die Computer irgendwann einen Konflikt mit der Menschheit antizipieren. Sobald es so weit sei, "werden sie sich in vielerlei Hinsicht reproduzieren, millionenfach kopieren".
Schon der Zugriff auf das Internet verschaffe ihnen mehr Einfluss auf menschliches Verhalten, als ihn Adolf Hitler jemals besessen habe.
"Hitler konnte nur zu einem Zeitpunkt in ein einziges Mikrofon sprechen, nur eine Botschaft gleichzeitig senden. Er hat dennoch die Massen aufgehetzt. Diese Systeme könnten das Internet fluten, fünf Milliarden Gespräche gleichzeitig führen, fünf Milliarden einzelne Menschen beeinflussen. Was Hitler getan hat, könnte die KI schneller, besser, effektiver."
Forscher fordert Pause bei der Entwicklung
Hinzu kommt laut Russell der Zugriff auf die physische Welt: Über Millionen Roboter, die heute bereits weltweit im Einsatz seien, könne eine solche Super-KI in teilautonome Waffensysteme eindringen oder Biolabore kontrollieren.
Noch lasse sich das verhindern. Dafür sei jedoch schnellstmöglich eine gesetzliche Regulierung der Technologie nötig. Außerdem brauche es eine KI, deren einziges Ziel darin bestehe, "menschliche Interessen zu fördern". So etwas zu etablieren, "könnte leicht ein Jahrzehnt dauern", so Russell.
Deshalb fordert er ein Moratorium für die Entwicklung der Technologie. Man drücke "gewissermaßen auf `Pause` und arbeite an der Sicherheit". Nur so könne die Menschheit laut Russell ihre Existenz sichern. "Langfristig gibt es nur drei Zukünfte: sichere KI, keine KI oder keine Menschen."
mit Material der DTS Nachrichtenagentur
