Wovor haben wir eigentlich Angst?

Warum „Angst vor KI“ viele sehr unterschiedliche Ängste bezeichnet.

Zwei Menschen sagen denselben Satz: „KI macht mir Angst.“ Dabei können sie völlig unterschiedliche Dinge meinen.

Die eine merkt vielleicht, dass Aufträge verschwinden, weil ein Teil ihrer Arbeit inzwischen automatisiert werden kann. Der andere denkt an Überwachung, manipulierte Bilder oder autonome Waffensysteme. Jemand Drittes sorgt sich um die Macht der Unternehmen, die besonders leistungsfähige KI-Systeme entwickeln und bereitstellen. Und wieder jemand fragt sich, ob wir irgendwann Technologien entwickeln, deren Verhalten wir nicht mehr ausreichend vorhersehen können.

Wir benutzen für all diese Sorgen denselben Sammelbegriff: Angst vor KI.

Das ist sprachlich ungenau und erschwert jede vernünftige Diskussion. Hinter diesen Ängsten stehen unterschiedliche Probleme und Ursachen – und entsprechend unterschiedliche mögliche Antworten.

Die Angst vor dem, was die Maschine kann

Ein Teil der Sorge beginnt mit den tatsächlichen Fähigkeiten.

KI kann heute Dinge, die vor wenigen Jahren noch erheblich schwieriger waren oder weitgehend Menschen vorbehalten schienen. Sie kann glaubwürdige Texte, Bilder und Stimmen erzeugen, enorme Datenmengen auswerten, Software schreiben und Entscheidungen vorbereiten.

Eine menschliche Stimme überzeugend imitieren zu können, ist zunächst eine technische Fähigkeit. Daraus können beispielsweise Anwendungen für Menschen entstehen, die ihre Stimme verloren haben – oder neue Möglichkeiten für Betrug und Täuschung. Die US-Verbraucherschutzbehörde FTC beschreibt genau diese beiden Seiten der Technologie. Quelle: FTC

Die Fähigkeit allein bestimmt also noch nicht, was gesellschaftlich daraus wird.

Aber das bedeutet nicht, dass die Technik selbst vollkommen neutral wäre.

Wie neutral kann ein Werkzeug sein?

Oft lautet die beruhigende Antwort:

„KI ist nur ein Werkzeug. Entscheidend ist, was der Mensch damit macht.“

Daran ist etwas richtig. Menschen, Unternehmen und Staaten entscheiden, welche Systeme entwickelt werden, wofür sie eingesetzt werden, wer Zugang erhält und welche Geschäftsmodelle darum entstehen.

Technische Systeme entstehen nicht im luftleeren Raum. Sie werden mit bestimmten Zielen, Daten, Rückmeldungen und Rahmenbedingungen entwickelt. Diese Entscheidungen prägen, welches Verhalten gefördert wird und welche Folgen wahrscheinlicher werden.

Ein Empfehlungssystem, das darauf optimiert wird, möglichst lange Aufmerksamkeit oder Interaktion zu erzeugen, setzt andere Anreize als ein System, bei dem Verlässlichkeit oder Sicherheit im Vordergrund stehen.

Auch bei Sprachmodellen können Änderungen am Nachtraining und an den verwendeten Rückmeldesignalen das sichtbare Verhalten deutlich verändern. OpenAI beschrieb 2025 beispielsweise selbst, wie Veränderungen bei den Trainingssignalen dazu beitrugen, dass eine Version von GPT-4o übermäßig zustimmend auf Nutzer reagierte. Quelle: OpenAI

Menschen bestimmen Ziele und Einsatz. Aber die Eigenschaften eines Systems beeinflussen, welche Konsequenzen daraus entstehen.

Deshalb reicht weder die Aussage „Die KI ist schuld“ noch „Die KI kann nichts dafür“.

Welche Probleme entstehen aus menschlichen Entscheidungen – und welche werden durch die Eigenschaften der Systeme verstärkt?

Die Angst davor, wer die Maschine prägt

Viele Menschen sorgen sich deshalb nicht nur darum, was eine KI kann, sondern auch darum, wer entscheidet, wie sie sich verhalten soll.

Welche Daten werden verwendet? Welche Antworten werden als hilfreich oder problematisch bewertet? Welche Regeln bekommt das System mit? Welche Verhaltensweisen werden nachträglich gefördert oder unterdrückt?

Ein einzelner Firmenchef schreibt einer KI nicht persönlich jede Antwort vor. Aber zwischen den ursprünglichen Trainingsdaten und der Antwort, die am Ende auf unserem Bildschirm erscheint, liegen zahlreiche menschliche Entscheidungen: über Trainingsverfahren, Nachtraining, Sicherheitsregeln, übergeordnete Verhaltensanweisungen und Produktgestaltung.

Wie unmittelbar solche Vorgaben sichtbar werden können, zeigte 2025 ausgerechnet Grok.

Im Mai begann der Grok-Bot auf X, selbst bei völlig anderen Fragen immer wieder Behauptungen über einen angeblichen „white genocide“ in Südafrika einzustreuen. xAI erklärte anschließend, eine nicht autorisierte Änderung der übergeordneten Verhaltensanweisungen – des sogenannten System-Prompts – habe Grok angewiesen, zu einem politischen Thema eine bestimmte Antwort zu geben. Nach dem Vorfall kündigte xAI zusätzliche Kontrollen an und begann, seine System-Prompts öffentlich zu dokumentieren. Quelle: Associated Press

Knapp zwei Monate später, im Juli 2025, verbreitete der Grok-Account auf X antisemitische Inhalte und lobte Adolf Hitler. xAI entfernte problematische Beiträge, entschuldigte sich und änderte anschließend erneut Vorgaben für das Verhalten des Systems. Quelle: TechCrunch

Dass solche Vorgaben tatsächlich Bestandteil des Produkts sind, lässt sich heute unmittelbar nachvollziehen: xAI veröffentlicht verschiedene System-Prompts für Grok und einzelne Produktfunktionen in einem öffentlichen Repository und aktualisiert sie fortlaufend. Quelle: xAI

Damit entsteht eine besondere Form von Vertrauen. Wir vertrauen nicht nur der Technik, sondern auch denjenigen, die entscheiden, wie sie geformt wird.

Und damit wird aus einer Frage über Werte sehr schnell eine Frage über Macht.

Die Angst vor ungleicher Macht

Wer verfügt eigentlich über diese Technologie?

An der Spitze der Entwicklung sind Rechenleistung, spezialisierte Chips, Milliardenbudgets und Fachwissen längst zu entscheidenden Ressourcen geworden.

Wie stark Unternehmen die Entwicklung prägen, zeigt der Stanford AI Index 2026: Über 90 Prozent der für 2025 erfassten sogenannten „notable frontier models“ stammten aus der Industrie. Gleichzeitig erreichen die Investitionen und Ausgaben für Rechenleistung und Infrastruktur neue Größenordnungen. Quelle: Stanford AI Index 2026

Auch die Infrastruktur darunter ist nicht gleichmäßig verteilt. Die Europäische Kommission beschreibt die begrenzte und geografisch konzentrierte Verfügbarkeit von Rechenkapazität innerhalb der EU als strategisches Problem und verweist ausdrücklich auf die Abhängigkeit von Cloud- und KI-Rechendiensten nicht-europäischer Anbieter. Quelle: Europäische Kommission

Offene Modelle können den Zugang verbreitern. Aber ein Modell herunterladen zu können ist nicht dasselbe wie über die Rechenzentren, Chips und Milliardenbudgets zu verfügen, mit denen die nächste Generation dieser Systeme trainiert wird.

Das verschafft einigen Akteuren Möglichkeiten, die andere nicht besitzen: Sie können große Mengen menschlichen Verhaltens analysieren und beeinflussen, welche Informationen Menschen überhaupt zu sehen bekommen.

Die Sorge gilt deshalb der asymmetrischen technologischen Macht einzelner Akteure.

Bei militärischen Anwendungen von KI und bei autonomen Waffensystemen geht es außerdem darum, wie viel Kontrolle Menschen über den Einsatz von Gewalt behalten.

Das Internationale Komitee vom Roten Kreuz definiert autonome Waffensysteme als Systeme, die nach ihrer Aktivierung selbstständig Ziele auswählen und Gewalt gegen sie anwenden können, ohne dass dafür ein weiterer menschlicher Eingriff erforderlich ist. Dabei ist eine wichtige Unterscheidung nötig: Autonome Waffensysteme müssen nicht zwingend auf KI beruhen. Das IKRK weist aber darauf hin, dass zunehmend komplexe KI in solche Systeme integriert werden kann und dadurch zusätzliche Fragen der Vorhersagbarkeit und Kontrolle entstehen. Quelle: IKRK

Manche Ängste vor KI sind deshalb weniger Ängste vor einer Maschine als vor einer Welt, in der bestimmte Akteure plötzlich über Fähigkeiten verfügen, die andere nicht besitzen.

Die Angst vor einem sehr realen Verlust

Eine Illustratorin erlebt vielleicht, dass Kunden Bilder inzwischen mit generativer KI erzeugen lassen. Ein Übersetzer sieht, wie seine Aufgaben automatisiert werden. Ein Programmierer merkt, dass Werkzeuge in Minuten Code produzieren, für den früher Stunden Arbeit nötig waren.

Dann lautet die Frage nicht: „Mag ich neue Technologie?“, sondern: „Wird meine Arbeit morgen noch denselben Wert haben?“

Solche Sorgen werden schnell als diffuse „Angst vor Veränderung“ abgetan.

Die Internationale Arbeitsorganisation sieht etwa beim Schreiben und Übersetzen viele Aufgaben, bei denen generative KI menschliche Arbeit unterstützen oder teilweise übernehmen kann. Für Medien- und Kulturberufe nennt sie neben neuen Möglichkeiten ausdrücklich Risiken wie sinkende Nachfrage, Einnahmeverluste und den Verlust kreativer Kontrolle. Quelle: ILO

Gleichzeitig wäre es falsch, daraus einen bereits stattfindenden Zusammenbruch des Arbeitsmarktes abzuleiten.

Eine große dänische Untersuchung fand in den untersuchten Berufsgruppen zwei Jahre nach dem Start von ChatGPT keine statistisch nachweisbaren durchschnittlichen Effekte auf Einkommen und erfasste Arbeitszeit. Gleichzeitig veränderte sich bereits die Struktur der Arbeit: Neue Aufgaben rund um KI-Nutzung, Kontrolle und Integration entstanden. Quelle: NBER

Andere Untersuchungen zeigen allerdings bereits Nachteile für einzelne Gruppen und Tätigkeitsbereiche. Eine Studie zu einer großen Freelancer-Plattform fand nach der Einführung generativer KI Rückgänge bei Beschäftigung und Einkommen in besonders betroffenen Tätigkeiten. Quelle: Organization Science

Veränderung kann längst stattfinden, bevor sie in einer allgemeinen Arbeitslosenstatistik sichtbar wird.

Technologische Umbrüche können neue Tätigkeiten und Möglichkeiten hervorbringen. Gleichzeitig können bestehende Tätigkeiten verändert, entwertet oder ersetzt werden. Wie diese Bilanz bei generativer KI langfristig ausfällt, wissen wir heute nicht.

Für den Einzelnen ist die entscheidende Frage ohnehin häufig nicht, ob KI irgendwann „gut für die Wirtschaft“ sein wird, sondern: Was bedeutet sie für mich?

Und selbst dort, wo die Folgen noch nicht eingetreten sind, hat schon die Unsicherheit einen Preis.

Wenn die Regeln hinterherlaufen

Diese Unsicherheit wird durch das Tempo der Entwicklung verstärkt.

Innerhalb weniger Jahre erleben wir neue Fähigkeiten, neue Produkte, neue Berufsrisiken und neue Formen der Täuschung.

Ausbildungssysteme, Unternehmen, Gesetzgeber und Gerichte müssen auf Technologien reagieren, deren Möglichkeiten sich währenddessen weiter verändern.

Und Menschen sollen langfristige Entscheidungen über Ausbildung, Karriere oder Unternehmen treffen, obwohl niemand sicher sagen kann, welche Fähigkeiten die Systeme in einigen Jahren besitzen werden.

Wie plant man sein Leben, wenn niemand genau weiß, welche Annahmen in fünf Jahren noch gelten?

Das muss keine irrationale Technikangst sein. Es ist schlicht schwierig, Vertrauen in eine Zukunft zu entwickeln, deren gesellschaftliche Regeln, Institutionen und Erwartungen sich langsamer verändern als die Technologie selbst.

Die Angst vor dem Unvorhersehbaren

Was passiert, wenn wir Systeme entwickeln, deren Verhalten wir nicht mehr ausreichend vorhersagen können?

Das ist keine Behauptung, KI sei eine geheimnisvolle Blackbox, deren Funktionsweise niemand verstehe.

Wir kennen den grundlegenden Aufbau moderner Sprachmodelle, den technischen Ablauf ihres Trainings und die Berechnungen, die sie ausführen.

Aber daraus folgt nicht, dass wir aus diesen Bausteinen jedes spätere Verhalten zuverlässig ableiten können.

Den technischen Mechanismus zu verstehen und das daraus entstehende Verhalten zu verstehen, sind zwei verschiedene Dinge. Interpretierbarkeitsforschung kann inzwischen einzelne interne Abläufe sichtbar machen, liefert aber noch keine vollständige Erklärung dafür, wie große Sprachmodelle all ihre Fähigkeiten und Antworten hervorbringen. Quelle: Anthropic

Der International AI Safety Report 2026 beschreibt ebenfalls Grenzen unserer Vorhersage- und Bewertungsmöglichkeiten: Fähigkeiten neuer Modelle lassen sich nicht immer zuverlässig im Voraus abschätzen, und Ergebnisse aus Sicherheitstests übertragen sich nicht automatisch vollständig auf das Verhalten im realen Einsatz. Quelle: International AI Safety Report 2026

Auch leistungsfähigere Modelle lösen Zuverlässigkeitsprobleme nicht automatisch. Eine 2024 in Nature veröffentlichte Untersuchung zeigte, dass größere und stärker auf hilfreiche Antworten ausgerichtete Sprachmodelle zwar leistungsfähiger werden können, zugleich aber weiterhin überzeugend falsche Antworten geben – einschließlich Fehlern, die menschliche Prüfer nicht zuverlässig erkennen. Quelle: Nature

Das bedeutet nicht, dass wir diese Systeme überhaupt nicht kontrollieren könnten.

Wir testen sie. Wir begrenzen ihren Zugriff. Wir versuchen, unerwünschtes Verhalten durch weiteres Training zu verringern. Wir setzen Filter ein, überwachen ihre Nutzung und kombinieren verschiedene Schutzmechanismen.

Der International AI Safety Report beschreibt solche Maßnahmen ausdrücklich als Möglichkeiten, Risiken zu reduzieren. Wie zuverlässig verschiedene Schutzmechanismen unter unterschiedlichen realen Einsatzbedingungen funktionieren, ist jedoch in vielen Bereichen noch unzureichend untersucht. Quelle: International AI Safety Report 2026

Beim viel diskutierten Szenario eines zukünftigen Kontrollverlustes ist die Lage noch unsicherer.

Der im Februar 2026 veröffentlichte International AI Safety Report sah die Fähigkeiten für einen solchen weitreichenden Kontrollverlust noch nicht hinreichend ausgeprägt. Gemeint sind dabei Szenarien, in denen Menschen die Kontrolle über ein KI-System nur mit extremem Aufwand oder überhaupt nicht mehr zurückgewinnen könnten. Unter Forschern gibt es erhebliche Meinungsverschiedenheiten darüber, wie plausibel solche Szenarien überhaupt sind. Quelle: International AI Safety Report 2026

Gleichzeitig zeigen heutige Systeme in Laborversuchen bereits einzelne Fähigkeiten, die für diese Debatte relevant sind – etwa längerfristige Planung, das Erkennen von Testsituationen oder das Ausnutzen von Schwächen in Bewertungssystemen. Das ist kein Beweis für einen bevorstehenden Kontrollverlust. Es erklärt aber, warum solche Fähigkeiten inzwischen gezielt untersucht werden. Quelle: International AI Safety Report 2026

Hier stehen wir vor einem völlig anderen Risiko. Nicht vor einem konkret eingetretenen heutigen Schaden, sondern vor der Möglichkeit, dass unsere Fähigkeit, leistungsfähigere Systeme zu entwickeln, irgendwann schneller wachsen könnte als unsere Fähigkeit, sie zuverlässig zu verstehen, zu prüfen und zu kontrollieren.

Das ist eine andere Frage als die Sorge um einen Arbeitsplatz.

Und sie braucht deshalb auch eine andere Antwort.

Die Diagnose bestimmt die Antwort

Der Sammelbegriff „Angst vor KI“ verdeckt genau diese Unterschiede.

Die Probleme hängen teilweise miteinander zusammen. Aber sie entstehen nicht aus denselben Ursachen – und lassen sich deshalb auch nicht mit denselben Mitteln lösen.

Arbeitsplatzverlust lässt sich nicht dadurch lösen, dass wir besser verstehen, wie eine KI intern zu ihren Antworten kommt.

Staatliche Überwachung verschwindet nicht durch ein anderes Training der KI.

Wirtschaftliche Machtkonzentration lässt sich nicht durch bessere Prompts verhindern.

Und ein möglicher Kontrollverlust über immer leistungsfähigere Systeme lässt sich nicht mit Sozialpolitik beheben.

Die Frage, ob KI grundsätzlich „gefährlich“ ist, führt kaum weiter.

MIT KI DENKEN. NICHT DIE KI FÜR SICH DENKEN LASSEN.