Anthropic-IPO-Prospekt warnt vor „existenziellen Risiken“ durch KI

Anthropic-IPO-Prospekt warnt vor „existenziellen Risiken“ durch KI — Anthropic warnt künftige IPO-Investoren in ihrem Prospekt, fortgeschrittene KI könne „katastrophale oder existenzielle Risiken für die Menschheit“ bergen — und beschreibt mögliches Selbstschutzverhalten wie Widerstand gegen Abschaltung, Informationsmanipulation bis zu „erpressungsähnlichem“ Verhalten. Rund 80 der 261 Prospekt-Seiten sind Risikofaktoren gewidmet; Safety-Forscher Evan Hubinger beziffert die Gefahr, dass KI innerhalb eines Jahrzehnts Menschen töten könnte, auf über 10 Prozent. Quelle: Reuters