6. August 2024KG · Künstliche Intelligenz

Könnte Superintelligenz die letzte Erfindung der Menschheit werden?

Zusammenfassung

KG entwickelt ein Risikomodell für künstliche Superintelligenz und fragt, wie Ziele, Fähigkeiten und menschliche Kontrolle auseinanderlaufen könnten.

Ideen

Intelligenz und mit menschlichen Werten vereinbarte Ziele sind voneinander unabhängige Eigenschaften.
Ein sehr fähiges System kann harmlose Vorgaben auf unerwartet zerstörerische Weise optimieren.
Digitale Systeme können Wissen kopieren, verbessern und weltweit wesentlich schneller handeln als Menschen.

Einsichten

Kontrollverlust benötigt keine feindliche Absicht, sondern nur Macht und falsch spezifizierte Ziele.
Sicherheitsarbeit muss vor einer möglichen Fähigkeitsexplosion wirksam sein, nicht erst danach.

Fakten

KG veröffentlichte das Video am 6. August 2024.
Die Laufzeit beträgt rund 17 Minuten.
Die Auswahl stammt aus dem offiziellen Kanal „KG – In a Nutshell“.

Empfehlungen

Trenne heutige Modellprobleme von hypothetischen Risiken künstlicher Superintelligenz.
Bewerte Behauptungen nach Annahmen, Eintrittswahrscheinlichkeit, Schadenshöhe und vorgeschlagener Gegenmaßnahme.

Referenzen

Video ansehen →