Was die "Göttinger Achtzehn" mit "PauseAI" zu tun haben und warum Wissenschaft in Zeiten technologischer Sprünge politisch werden muss.

Tanzende humanoide Roboter bei der chinesischen Frühlingsfest-Gala (Screenshot).

ES WAR EIN WECKRUF. 18 führende deutsche Atomforscher, darunter die Nobelpreisträger Otto Hahn, Max Born und Werner Heisenberg, warnten 1957 vor Bestrebungen, die Bundeswehr mit taktischen Atomwaffen auszustatten. Sie fühlten sich verpflichtet, "öffentlich auf einige Tatsachen hinzuweisen, die alle Fachleute wissen, die aber der Öffentlichkeit noch nicht hinreichend bekannt zu sein scheinen", schrieben sie. Die Wichtigste: "Für die Entwicklungsmöglichkeit der lebensausrottenden Wirkung der strategischen Atomwaffen ist keine natürliche Grenze bekannt." 



66 Jahre nach dem Manifest der "Göttinger Achtzehn" erschien im März 2023 der weltweite Aufruf führender KI-Forscher , die einen "unkontrollierten Wettlauf um die Entwicklung und den Einsatz immer leistungsfähigerer digitaler Systeme" beklagten, "die niemand – nicht einmal ihre Schöpfer – verstehen, vorhersagen oder zuverlässig kontrollieren kann". Ihre Forderung: ein mindestens sechsmonatiger Entwicklungsstopp für KI-Systeme jenseits des Stands von GPT-4, um umfassende Sicherheitsstandards zu entwickeln.

Die internationale Akzeptanz der Initiative litt allerdings darunter, dass Elon Musk zu den Unterzeichnern zählte, dem Beobachter unterstellten, er wolle vor allem Konkurrenten ausbremsen, um den Entwicklungsrückstand seiner KI "Grok" aufzuholen.

Der Appell der ...