Superintelligenz: Wie ein gefährlicher KI-Rüstungswettlauf verhindert werden soll

Ein Team um den amerikanischen Tech-Milliardär Eric Schmidt warnt vor einem Wettlauf um eine hyperintelligente KI, die zur Superwaffe werden könnte. Die Fachleute vergleichen die Situation mit der Gefahr der atomaren Aufrüstung im letzten Jahrhundert. Ihr Rezept dagegen klingt bizarr und plausibel zugleich.

von
7 Minuten
Symbolbild für Superintelligenz - eine der menschlichen Intelligenz überlegene KI.

Wenn Ex-Google-Chef Eric Schmidt vorschlägt, Staaten sollten sich gegenseitig in der KI-Entwicklung sabotieren, klingt das wie ein dystopischer Sci-Fi-Thriller. Doch Schmidt und seine Co-Autoren Dan Hendrycks und Alexandr Wang meinen es in ihrem Papier „Superintelligence Strategy“ ernst. Eine Superintelligenz „wird früher kommen als Sie denken“, schreibt Schmidt auf X. Eine solche KI könnte die menschliche Intelligenz übertreffen und zur übermächtigen Waffe werden, schreiben die drei Autoren. Deshalb müsse jeder Versuch eines Staates, alleinige KI-Dominanz zu erlangen, von Rivalen präventiv vereitelt werden.

Die drei vergleichen ihren Ansatz mit dem „Gleichgewicht des Schreckens“, einer Militärdoktrin, nach deren Logik sich Atommächte im Fall eines Atomkrieges gegenseitig vernichten würden, das Anfangen eines nuklearen Krieges also nationaler Selbstmord wäre. Im Englischen nennt sich diese Strategie „Mutual Assured Destruction“, auf Deutsch etwa „gegenseitig zugesicherte Zerstörung“. Angelehnt daran nennen Schmidt, Hendrycks und Wang ihre Strategie „Mutual Assured AI Malfunction“ oder kurz „MAIM“, übersetzt: „Gegenseitig zugesicherte KI-Störung“.

Sie haben Feedback? Schreiben Sie uns an info@riffreporter.de!