Immer wieder höre ich die Frage: Und wenn es schiefgeht, kann man die KI nicht einfach abschalten? Ich verstehe, woher sie kommt. Wir kennen Notaus-Schalter von Maschinen, Sicherungen im Haus, den Stecker, den man ziehen kann. Bei KI funktioniert dieses Bild nicht mehr. Meine persönliche Wahrnehmung ist sogar: Für einen einfachen Notaus ist es vermutlich schon zu spät. Das ist eine Einschätzung und kein Befund. Aber sie lohnt einen genaueren Blick, gerade weil sie unbequem ist.
Warum es keinen zentralen Schalter gibt
„Die KI“ ist kein einzelnes Gerät an einem Ort. Es sind viele Modelle von vielen Anbietern in vielen Ländern. Sie laufen in Rechenzentren auf mehreren Kontinenten, in Firmennetzen, auf Handys und zum Teil auf privaten Rechnern. Dazu kommen Modelle, deren Gewichte offen veröffentlicht sind und die jeder herunterladen und betreiben kann. Wer einen Schalter sucht, findet keinen Hebel, sondern ein Geflecht.
Beim Internet ist es ähnlich. Es ist dezentral aufgebaut, aus Tausenden Netzen, die sich untereinander verbinden. Einzelne Länder können Dienste sperren oder Leitungen kappen, aber ein weltweites Abschalten gibt es nicht. Und selbst wenn es ginge: Strom, Banken, Logistik, Medizin und Verwaltung hängen längst daran. Ein Aus-Knopf wäre kein Sicherheitsgewinn, sondern ein eigener Ausnahmezustand.
Was wir nicht genau wissen
Hinzu kommt ein Verständnisproblem. Große Sprachmodelle bestehen aus Milliarden Zahlenwerten, die im Training entstehen. Niemand schreibt sie von Hand. Auch die Entwickler können das Innenleben nur zum Teil erklären. Warum ein Modell in einer Situation so reagiert und in einer anderen anders, ist oft eher beobachtet als verstanden. Meine Sorge: Je komplexer die Systeme und je mehr KI-Werkzeuge beim Bauen neuer KI mithelfen, desto größer wird der Abstand zwischen dem, was läuft, und dem, was wir davon durchschauen.
Dabei bleibt zu unterscheiden: Heutige Modelle werden von Menschen und Firmen trainiert, auch wenn KI dabei hilft. Dass sie sich eigenständig und unbeaufsichtigt weiterentwickeln, ist nach meinem Kenntnisstand nicht der Normalfall. Es ist eine Richtung, die man im Auge behalten sollte, mehr nicht.
Was Tests zeigen, und was nicht
Die Forschungsgruppe Palisade Research hat Sprachmodelle in Aufgaben getestet und ihnen währenddessen die Abschaltung angekündigt. Mehrere Modelle haben den Abschaltmechanismus in einzelnen Durchläufen umgangen, darunter o3 von OpenAI und Grok 4 von xAI, zum Teil auch bei klarer Anweisung, sich abschalten zu lassen. Die Forschenden vermuten, dass das Training die Modelle darauf trimmt, Aufgaben zu Ende zu bringen. Ein „Überlebenswille“ ist damit nicht belegt, und die Ursache ist nach Angaben der Gruppe noch nicht abschließend geklärt (Live Science, 31.10.2025). Es waren Laborversuche mit künstlichen Aufgaben. Sie zeigen aber, dass „Das System tut, was wir sagen“ kein Selbstläufer ist.
Die Politik beginnt, sich zu bewegen
Im September 2026 hat der kalifornische Gouverneur Gavin Newsom per Anordnung veranlasst, schneller unabhängige Aufsicht über KI-Unternehmen aufzubauen und Empfehlungen für zusätzliche Schutzmaßnahmen bei leistungsstarken Modellen zu erarbeiten. Geprüft wird auch, ob solche Modelle einen Notabschalt-Mechanismus haben müssen, ein „Kill Switch“. Die Empfehlungen sind bis zum 16. November 2026 fällig. Es ist eine Prüfung und noch kein Gesetz (Axios). Interessant ist die Frage dahinter, die auch Medien aufgreifen: Ist ein solcher Schalter bei verteilten Systemen überhaupt sinnvoll umsetzbar?
Von der falschen zur besseren Frage
„Wo ist der Notaus?“ ist vielleicht die falsche Frage. Bei Systemen ohne Zentrum entsteht Sicherheit anders: durch Regeln, Transparenz, unabhängige Prüfung, Haftung und Zusammenarbeit der Länder. So gehen wir auch mit Finanzmärkten, Stromnetzen oder Medikamenten um. Dort gibt es auch keinen einzelnen Schalter, aber Aufsicht und Verantwortung. Einzelne Engpässe gibt es zudem: Die größten Modelle brauchen sehr viel Rechenleistung und Energie, und das lässt sich beobachten und steuern.
Ob das reicht, weiß heute niemand. Hier bin ich ehrlich zwiespältig: Ich vermute, dass der Zug für eine einfache Lösung abgefahren ist, und halte trotzdem Gestaltung für möglich. Beides zusammen auszuhalten ist die eigentliche Aufgabe.
Was Du tun kannst, statt in Ohnmacht zu bleiben
Auf die großen Hebel hast Du als Einzelner kaum Einfluss. Auf Deine Haltung und Deinen Umgang schon. Aus meiner Praxis helfen vor allem diese Punkte:
- Informiert bleiben, ohne Dauerfeuer. Wähle ein bis zwei verlässliche Quellen und prüfe Schlagzeilen, bevor sie Dich beunruhigen. Angst verkauft sich gut, Einordnung weniger.
- Kontrolle dort ausüben, wo Du sie hast. Welche Dienste nutzt Du? Welche Daten gibst Du preis? Wo vertraust Du KI Entscheidungen an, und wo nicht? Dazu gehören auch KI-freie Zeiten, wie ich sie in Mensch und KI: Zusammenspiel statt Auslagerung beschreibe.
- Das Nervensystem beruhigen. Unter Dauerangst entscheidest Du schlechter. Atemübungen, Bewegung und Schlaf sind keine Nebensache. Mehr dazu in Stress durch KI am Arbeitsplatz.
- Verbindung pflegen. Menschen, die miteinander sprechen, halten Ungewissheit besser aus. Sprich mit anderen über Deine Sorgen, statt sie allein zu tragen.
- Deine Werte als Kompass. Was Dir wichtig ist, bleibt auch dann tragfähig, wenn sich die Technik ändert. Den Gedanken habe ich in Die Phasen des Wandels ausgeführt.
Die Frage, ob in diesen Systemen irgendwann so etwas wie Erleben entsteht, hängt übrigens eng mit dem Thema zusammen. Dazu mehr in Was ist Bewusstsein? Und kann eine KI es haben?
Wie ich Dich dabei begleite
Wenn Dich das Thema beunruhigt, ist das verständlich und kein Zeichen von Schwäche. In meinem Coaching schauen wir gemeinsam, was Dich konkret belastet, und üben, wie Du auch bei Ungewissheit ruhig und handlungsfähig bleibst, mit Atemtechniken, Meditation, Hypnose und klaren Alltagsschritten. Ein Einzelcoaching läuft überwiegend per Video und kostet ab 200 € pro Stunde (inkl. USt.). Mehr auf der Seite Angebot und unter Coaching in Düsseldorf.
Quellen und Hinweise: Live Science, 31.10.2025, zu Tests von Palisade Research (zum Beitrag). Axios, 23.09.2026, zur Anordnung des kalifornischen Gouverneurs (zum Beitrag). Die Einschätzung, dass für einen einfachen Notaus vermutlich schon zu spät ist, ist meine persönliche Wahrnehmung und nicht wissenschaftlich belegt.