Ein leitender Sicherheitsforscher bei Anthropic beziffert die Wahrscheinlichkeit, dass Künstliche Intelligenz bis Ende des Jahrzehnts alle Menschen töten könnte, auf über 10 Prozent. Stunden zuvor war ein Kollege aus Protest zurückgetreten, weil er befürchtet, dass KI-Labore unkontrollierbar auf Superintelligenz hinarbeiten.[a]
Der Rücktritt von Jacob Coxon, der befürchtet, sich selbst verbessernde KI-Systeme könnten künftig menschliche Befehle verweigern, wurde im deutschsprachigen Raum breit rezipiert – ein Alarmsignal aus dem Inneren eines der einflussreichsten KI-Labore der Welt.[b]
Fast zeitgleich meldeten sich dieselben Konzernchefs, die jahrelang das Entwicklungstempo der Branche vorangetrieben hatten, mit einem überraschenden Appell: Dario Amodei veröffentlichte den Essay " We Must Pace the Frontier", in dem er eine koordinierte Verlangsamung der KI-Entwicklung fordert. Auch Sam Altman, Demis Hassabis und Elon Musk schlossen sich öffentlich an – ein unerwarteter Schulterschluss von Rivalen, der die Sicherheitsdebatte schlagartig in die erste Reihe der Tech-Politik rückte.[i][h][c]
Das wirft unmittelbar die Frage auf, ob hier echte Sorge oder strategisches Kalkül den Ton angibt. Skeptiker sehen ein handfestes Kartellmotiv: Als Amodei, Sam Altman, Demis Hassabis und Elon Musk für eine Verlangsamung eintraten, entstand der Verdacht, dass eine koordinierte Drosselung vor allem kleinere Wettbewerber und Open-Source-Projekte benachteiligen würde – und damit den Vorsprung etablierter Anbieter zementiert.[h][c]
Washington: Kein Interesse an Bremsen
US-Präsident Donald Trump hat auf die Warnungen und den wachsenden Protest reagiert, indem er jede Forderung nach staatlicher KI-Kontrolle forsch zurückweist. Für die Kontrolle von KI reiche, so Trump, "ein intelligenter US-Präsident" – eine Aussage, die staatliche Eingriffe in das Entwicklungstempo faktisch ausschließt.[e]
Damit bleibt in den USA trotz eines wachsenden gesellschaftlichen Protests kein regulatorischer Hebel in Sicht. ComputerBase dokumentiert, wie der Widerstand gegen den ungebremsten KI-Ausbau zunimmt und mit Blick auf die Kongresswahlen politisch relevanter wird – ohne dass sich daraus bislang konkrete Gesetzesinitiativen ergäben.
