Lausanne (dts Nachrichtenagentur) - Der KI-Experte und Professor und Co-Direktor des KI-Zentrums der Eidgenössischen Technischen Hochschule Lausanne, Marcel Salathé, hält Warnungen für übertrieben, dass die Menschheit in den kommenden Jahren von einer maschinellen Superintelligenz ausgelöscht werden könne. "Wenn jemand so etwas Außergewöhnliches behauptet, muss er das auch beweisen. Aber es gibt meines Wissens nach keinen belastbaren Beweis für so eine Prognose", sagte Salathé dem "Spiegel".
Alles sei "nur Spekulation: ausgehend von bestimmten Erkenntnissen, die dann komplett überinterpretiert und zehn Jahre in die Zukunft projiziert werden", so der KI-Experte weiter. Das sei absurd. Wie man wisse, "liegen Menschen meistens falsch, wenn sie die Zukunft vorhersagen."
Vergangene Woche hatten der frühere OpenAI- und Anthropic-Entwickler Jacob Coxon und der Anthropic-Forscher Evan Hubinger eindringlich davor gewarnt, KI könne in den nächsten Jahren die Menschheit töten - und damit eine weltweite Debatte losgetreten.
Beide seien zweifellos Experten in ihrem Fachgebiet, sagte Salathé. "Aber sie können kaum die gesellschaftlichen, ökonomischen und politischen Dynamiken abschätzen, die sich rund um diese Technologie abspielen und die Entwicklung beeinflussen werden", so der KI-Experte weiter. Die Menschheit werde "in fünf Jahren sicher nicht durch KI ausgelöscht sein."
Salathé ist Mitgründer der KI-Wettbewerbsplattform AIcrowd und des AMLD Intelligence Summit in Lausanne, einem alljährlichen Treffen von KI-Entwicklern und -Wissenschaftlern, Unternehmen und Politikern.
Die Weltuntergangsdebatte lenke von anderen Themen ab. "Es darf nicht sein, dass KI-Konzerne wie OpenAI Hacking-Agenten losschicken und nicht haften, wenn es schiefgeht. Unsere Gesellschaft muss den Konzernen klar zeigen: Experimente wie im Fall Hugging Face lassen wir nicht mehr zu", sagte Salathé. KI-Modelle von OpenAI waren bei einem internen Test aus der abgeschotteten Umgebung ausgebrochen und hatten sich beim Unternehmen Hugging Face eingehackt.
Zudem müsse gerade in Europa die Cybersicherheit dringend verstärkt werden, forderte der KI-Experte. "Ich habe viel weniger Angst vor KI, die außer Kontrolle gerät, als vor KI in den falschen Händen. Wenn ein böswilliger Akteur, vielleicht sogar ein Staat, gezielt KI einsetzt, kann sie enormen Schaden anrichten. Europa muss jetzt ernsthaft in die Entwicklung von KI, in Expertise und eigene Verteidigungstechnologien investieren", sagte Salathé dem "Spiegel"
