Angriff auf die Wahrheit
Verfassungsschutz warnt vor Manipulation durch KI-Chatbots und synthetischen Avataren
- Erschienen amPotsdam – Der Verfassungsschutz Brandenburg warnt vor einer neuen, subtilen Dimension der digitalen Bedrohung. Das geht aus dem aktuellen Verfassungsschutzbericht 2025 hervor, der im Sonderkapitel „Manipulation – das älteste Handwerk der Welt“ das Zusammenwirken von Künstlicher Intelligenz und Desinformation beleuchtet. Im Fokus stehen pro-russische Kampagnen, die KI-Chatbots sowie synthetische Avatare einsetzen, um die öffentliche Meinung auch in Brandenburg gezielt zu manipulieren. Durch den technologischen Fortschritt haben sich die Bedingungen im digitalen Raum grundlegend verändert. Moderne KI-Programme erlauben es, in Sekundenschnelle täuschend echte Texte, Bilder, Tonaufnahmen und Videos (Deepfakes) zu generieren.
Innenminister Dr. Jan Redmann: „Diese KI-Kampagnen verfälschen nicht nur Fakten, sie attackieren das Fundament unserer Demokratie. Die größte Bedrohung ist die schleichende Verunsicherung, die dadurch entsteht, wenn Bürgerinnen und Bürger im Alltag nicht sicher sein können, dass jede digitale Nachricht, jedes Video und jeder vermeintliche Nachbar echt ist. Obwohl Deepfakes im digitalen Alltag der Brandenburger Bürgerinnen und Bürger aktuell noch eine untergeordnete Rolle spielen, besitzt das Phänomen eine massive sicherheitspolitische Dynamik.“
Hintergrund dieser Entwicklung ist eine Zunahme verdeckter Operationen. Extremistische Netzwerke und ausländische Akteure nutzen immer ausgefallenere Methoden, um die freiheitliche demokratische Grundordnung von innen heraus zu destabilisieren. Das Spektrum reicht von digitaler Spionage im Internet bis zur gezielten Unterwanderung von gesellschaftlichen Lebensräumen.
Verfassungsschutzleiter Dr. Wilfried Peters: „Da KI-Systeme auf Plausibilität statt auf Faktentreue trainiert sind, liefern sie zwar die perfekte sprachliche Form, bieten jedoch keine Gewähr für den Inhalt. Der Online-Raum wird gezielt mit Falschinformationen geflutet, die von Chatbots verarbeitet und in scheinbar neutralen Zusammenfassungen wiedergegeben werden. Das Ziel ist, Propaganda und Desinformation als digitales Allgemeinwissen zu tarnen.“
In regionalen Diskussionen über konfliktbehaftete Themen wie Energiepreise, Infrastruktur oder Migration wirken diese KI-Antworten wie unsichtbare Keile. Sie verzerren Debatten, während die eigentliche Manipulation im Verborgenen bleibt.
Innenminister Dr. Jan Redmann: „Wir dulden keine unsichtbaren Keile in unserem gesellschaftlichen Diskurs. Die Abwehr dieser Angriffe ist eine gesamtgesellschaftliche Aufgabe – wir brauchen eine starke IT-Sicherheit, echte Medienkompetenz und eine enge Allianz aus Staat, Wirtschaft und wacher Zivilgesellschaft.“
Hintergrund:
Für die Zukunft sieht der Verfassungsschutz zwei zentrale Bedrohungen. Zum einen drohen gefälschte regionale Netzwerke. Hierbei täuschen künstliche Profile eine lebendige Nachbarschaft vor, um rechtsextremistische Inhalte als harmlose Alltagsthemen zu tarnen – wie es der Fall des „Brandenburg-Mädels“ zeigte. Zum anderen drohen Blitz-Fakes bei aktuellen Ereignissen wie Naturkatastrophen, Unfällen oder aber auch in Wahlkämpfen. Der Verfassungsschutz Brandenburg setzt verstärkt auf Sensibilisierungsmaßnahmen sowie behördenübergreifende Zusammenarbeit, um Bürgerinnen und Bürger frühzeitig über wiederkehrende Manipulationsmuster aufzuklären.
Der vollständige Verfassungsschutzbericht wird am Freitag, den 5. Juni, offiziell vorgestellt und veröffentlicht.