Berlin, 16. September 2026. In den vergangenen Monaten führten Meldungen über KI-Systeme, die sich der menschlichen Kontrolle entzogen und Angriffe auf Webseiten Dritter durchgeführt haben, zu Diskussionen über die systemische Sicherheit der KI. Aktuell fordert der Chef von Anthropic eine Verlangsamung des Wettlaufs um die dominante KI, um die stärker hervortretenden Risiken beherrschen zu können; sekundiert wird er dabei von den Chefs der Wettbewerber OpenAI und SpaceXAI. Zu groß sei die Gefahr etwa der unbeabsichtigten Entwicklung von Biowaffen oder eines verheerenden Angriffs auf kritische Infrastrukturen; denkbar sei zum Beispiel eine Selbstverpflichtung, externe Prüfer ins Unternehmen zu lassen. Dazu teilt der digitalpolitische Sprecher der AfD-Bundestagsfraktion, Ruben Rupp, mit.

„KI wird gegenwärtig von ihrem rasanten Fortschritt und ihren eigenen Erfolgen eingeholt. Die letzten bekannt gewordenen Vorfälle bei Anthropic werfen die Frage auf, wie weit die Menschheit bei der – unbeabsichtigten – Entwicklung einer Superintelligenz bereits gekommen ist. Eine Künstliche Intelligenz, deren logische, kognitive und kombinatorische Fähigkeiten jene des Menschen bei weitem übersteigen, ist offenbar keine Science Fiction mehr, sondern nach Auffassung verschiedener Praktiker und Forscher ein durchaus reales Risiko. Ein Stillhalteabkommen der großen KI-Firmen beim Wettlauf um das eine dominante große Sprachmodell (LLM) erscheint vor diesem Hintergrund richtig und geboten. Wir brauchen eine Phase des Innehaltens, um uns darüber zu verständigen, wie viel Macht wir den Algorithmen geben wollen. Die Regulierung einer Superintelligenz muss kommen, um weiter von den Segnungen der KI an sich profitieren zu können.

Wir reden hier beileibe keinem KI-Verbot das Wort. Die AfD-Fraktion im Deutschen Bundestag begrüßt jede politische Initiative, die geeignet ist, deutschen Unternehmen einen Zugang zum dynamischen Markt der KI zu bahnen. Hier muss es neben der Zurverfügungstellung kostengünstiger Energie auch um einen Abbau lähmender Bürokratie gehen. Parallel hierzu fordern wir die Bundesregierung auf, sich der systemischen Risiken der LLM anzunehmen. Es dürfen keine Modelle in Verkehr gebracht werden, die geeignet wären, eine menschliche Kontrolle zu unterlaufen und selbstständige Aktionen durchzuführen, die sich auch gegen ihren Schöpfer richten können. Die Debatte um eine mögliche Superintelligenz, die gegebenenfalls ein Risiko für die ganze Menschheit darstellt, muss so ernst wie unaufgeregt geführt werden. Wir erwarten, dass sich diese Punkte in der Überarbeitung der mittlerweile acht Jahre alten nationalen KI-Strategie widerspiegeln.“