If Anyone Builds It, Everyone Dies

If Anyone Builds It, Everyone Dies

Warum eine superintelligente KI uns alle vernichten würde | Der New York Times Bestseller

von Eliezer Yudkowsky

Was passiert, wenn die Künstliche Intelligenz uns in jeder Hinsicht überlegen ist? Für Eliezer Yudkowsky, Pionier der KI-Sicherheitsforschung, würde es die Auslöschung der Menschheit bedeuten. Gemeinsam mit Nate Soares zeigt er, warum die derzeitige unkontrollierte KI-Forschung uns in den Abgrund führt – denn eine Superintelligenz wird niemals menschliche Werte teilen. Dieses Buch ist der eindringliche Appell, sich dem KI-Hype zu widersetzen, bevor die Katastrophe unumkehrbar ist.

Highlights

• Eine radikale, wissenschaftliche Analyse des existenziellen Risikos durch Superintelligenz
• Für Leser*innen von Richard David Precht und Mustafa Suleyman
• Yudkowsky ist der Pionier der KI-Sicherheitsforschung und Gründer des renommierten MIRI
• KAUFIMPULS: »Ich habe Angst vor der unkontrollierten KI-Entwicklung und suche nach einer fundierten Analyse.«

Über den Autor

Eliezer Yudkowsky ist einer der Pioniere der technischen KI-Sicherheitsforschung und Mitbegründer des Machine Intelligence Research Institute (MIRI) in Berkeley. Bereits Anfang der 2000er Jahre prägte er Konzepte wie »Friendly AI« und das »Alignment-Problem«. Er ist eine zentrale Figur der »Rationalist«-Community. Das Time-Magazine wählte ihn 2023 zu einer der einflussreichsten Personen im Bereich der Künstlichen Intelligenz. Bekanntheit erlangte er durch seine Warnungen vor einem Weltuntergang durch unkontrollierte Superintelligenz, sofern deren Entwicklung nicht gestoppt wird.

Nate Soares ist der Präsident des Machine Intelligence Research Institute (MIRI). Bevor er sich ganz der Forschung zu existenziellen KI-Risiken widmete, arbeitete er als Softwareentwickler für Google und Microsoft. Zusammen mit Eliezer Yudkowsky setzt er sich weltweit für eine drastische Verlangsamung oder einen Stopp der Entwicklung übermenschlicher KI ein.