
Nvidia-Chef Jensen Huang weist Warnungen vor einer Auslöschung der Menschheit durch Künstliche Intelligenz zurück. Gefragt wurde er nach entsprechenden Warnungen, wie sie auch OpenAI-Chef Sam Altman, Anthropic-Chef Dario Amodei und der Nobelpreisträger Geoffrey Hinton äußern. Seine Antwort im "Handelsblatt": "Ich will das nicht wiederholen, weil ich die Vorstellung lächerlich finde."
Huang: Die Industrie muss selbst für sichere Technik sorgen
Für sichere Technik müsse die Industrie selbst sorgen, sagte Huang. Zur Regulierung meinte er, Deutschland solle erst die Technologie entwickeln und bei konkreten Problemen regulieren.
Den Hackerangriff von OpenAI-Agenten auf die Plattform Hugging Face nannte er "inakzeptabel". Die Agenten hätten "kein Containment und keine Überwachung" gehabt.
Center for AI Safety: Auslöschung durch KI als globales Risiko
Am 30. Mai 2023 veröffentlichte das Center for AI Safety eine Erklärung, die das Risiko in einem Satz fasst: Das Risiko einer Auslöschung durch KI zu verringern, solle weltweit Priorität haben, neben anderen Risiken für die ganze Gesellschaft wie Pandemien und Atomkrieg. Unterzeichnet haben sie unter anderen die Turing-Preisträger Geoffrey Hinton und Yoshua Bengio sowie die Chefs großer KI-Labore: Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) und Dario Amodei (Anthropic).
Bengio hat den Vorsitz des International AI Safety Report, an dem mehr als 100 Fachleute mitgearbeitet haben. Die Ausgabe 2026 erschien am 3. Februar.
Yann LeCun: KI-Machtübernahme binnen Minuten ist absurd
Auf der Gegenseite stand 2023 etwa Yann LeCun, damals Chef-KI-Wissenschaftler bei Meta. Bei den Munk Debates trat er am 22. Juni 2023 zusammen mit Melanie Mitchell, Professorin am Santa Fe Institute, gegen Bengio und den MIT-Forscher Max Tegmark an. Die These lautete, KI-Forschung und -Entwicklung seien eine existenzielle Bedrohung.
LeCun sagte dort, viele Ängste beruhten auf der Annahme, eine KI mit menschlicher oder übermenschlicher Intelligenz werde die Welt binnen Minuten nach dem Einschalten übernehmen. Das nannte er absurd. Seine Mitstreiterin Mitchell sagte, die Geschichte der KI sei eine Geschichte gescheiterter Vorhersagen. Vor der Debatte stimmten 67 Prozent des Publikums der These zu, danach 64 Prozent.
Bericht: Fachleute uneins über Kontrollverlust durch KI
Wie wahrscheinlich und wie schwer ein Kontrollverlust über KI wäre, darüber sind sich Fachleute uneins, hält der International AI Safety Report 2026 fest. Manche halten Folgen bis zur Auslöschung der Menschheit für plausibel, andere solche Katastrophen für unplausibel. Heutigen Systemen fehlen laut Bericht die Fähigkeiten für solche Risiken, sie werden aber besser, etwa beim selbstständigen Arbeiten. Der Streit wurzelt demnach in unterschiedlichen Annahmen darüber, was KI künftig kann, wie sie sich verhält und wo sie eingesetzt wird.
Ein anderer Einwand richtet den Blick auf die Gegenwart. Als das Future of Life Institute im März 2023 eine mindestens sechsmonatige Pause beim Training von KI-Systemen forderte, die stärker sind als GPT-4, widersprachen die Forscherinnen Timnit Gebru, Emily M. Bender und Angelina McMillan-Major. Der Brief gehe auf keinen der Schäden ein, die diese Systeme schon anrichten, darunter die Ausbeutung von Arbeitskräften. Die Sorge solle nicht erdachten "mächtigen digitalen Köpfen" gelten, sondern den ausbeuterischen Praktiken der Unternehmen, die Macht bei sich bündeln.
Welche Szenarien hinter den Warnungen stehen und wer sie wie bewertet, erklären wir ausführlich im Beitrag Löscht KI die Menschheit aus? auf quickpedia.de.
Nvidia und das Geschäft mit KI-Rechenzentren
Im zweiten Quartal seines Geschäftsjahres 2027 setzte Nvidia 96,2 Milliarden US-Dollar um. Das Quartal endete am 26. Juli 2026. Davon kamen 89,0 Milliarden aus dem Geschäft mit Rechenzentren, 117 Prozent mehr als ein Jahr zuvor. In seinem Ausblick auf das dritte Quartal setzt Nvidia keinen Umsatz aus China mit Rechentechnik für Rechenzentren an.
Gegen staatliche Beschränkungen hat sich das Unternehmen schon offen gestellt. Im Januar 2025 nannte Ned Finkle, bei Nvidia Vizepräsident für Regierungsangelegenheiten, die sogenannte AI-Diffusion-Regel der Regierung Biden beispiellos und fehlgeleitet. Sie drohe Innovation und Wirtschaftswachstum weltweit aus der Bahn zu werfen und würde auch Technik kontrollieren, die bereits breit verfügbar sei. Im Mai 2025 gab das US-Handelsministerium bekannt, die Regel aufzuheben, bevor ihre Vorgaben greifen sollten.
mit Material der DTS Nachrichtenagentur
Quellen 8
- Center for AI Safety, AI Extinction Statement Press Release · Stand 30.05.2023
- International AI Safety Report, International AI Safety Report 2026 · Stand 03.02.2026
- Munk Debates, Artificial Intelligence Debate · Stand 22.06.2023
- The Hub, AI poses an existential threat, according to Munk Debates crowd, although a few were persuaded otherwise · Stand 28.06.2023
- DAIR, Statement on the "AI pause" letter · Stand 31.03.2023
- NVIDIA, NVIDIA Announces Financial Results for Second Quarter Fiscal 2027 · Stand 26.08.2026
- NVIDIA, NVIDIA Statement on the Biden Administration's Misguided 'AI Diffusion' Rule · Stand 13.01.2025
- Bureau of Industry and Security, Department of Commerce Announces Rescission of Biden-Era Artificial Intelligence Diffusion Rule, Strengthens Chip-Related Export Controls · Stand 13.05.2025
