Die Themen „Künstliche Intelligenz“ sowie „Digitalisierung“ gehören zu den aktuellsten Themen unserer Zeit, wobei oft der Tenor vorherrscht, dass man die Digitalisierung vorantreiben müsse und durch die Künstliche Intelligenz vieles leichter werde. So bezeichnete der Minister des neu geschaffenen Ministeriums für „Digitales und Staatsmodernisierung“, Karsten Wildberger, ein Manager, der zuvor für MediaMarkt und Saturn gearbeitet hatte, die Digitalisierung als ein „entscheidende[s] Zukunftsthema“ für Deutschland und lobte, wie „attraktiv“ und „modern“ Deutschland durch eine zunehmende Digitalisierung werde.[1] Die Bemühungen der Bundesregierung gehen dabei so weit, dass auch die Einführung einer verpflichtenden, digitalen Identität für alle Bürgerinnen und Bürger bereits eine beschlossene Sache ist. Von Jonas Tögel.

Dieser Beitrag ist auch als Audio-Podcast verfügbar.

Podcast: Play in new window | Download

„Ein zentrales Zukunftsprojekt für das Ministerium ist die Einführung der digitalen Identität – eine Digital Wallet –, und das nicht nur auf nationaler, sondern auch auf europäischer Ebene. Die Wallet muss in ganz Europa funktionieren. Das erwarten die Menschen von uns. Daran arbeiten wir, mit einem klaren Fokus. Und das ist auch wichtig für die Unternehmen, die auf dieser Basis eigene Geschäftsideen entwickeln können“,[2] so Wildberger.

Viele Menschen sind sich jedoch nicht darüber im Klaren, dass die Einführung einer digitalen Identität, die erstaunlicherweise „Brieftasche“ genannt wird und zeitgleich mit den Plänen zu einem „digitalen Euro“[3] vorangetrieben wird, nicht nur Chancen, sondern auch große Risiken birgt. Der bekannte Whistleblower Edward Snowden warnte bereits 2020 vor den Gefahren einer zunehmenden Digitalisierung persönlicher Daten:

„Was gerade gebaut wird, ist die Architektur der Unterdrückung. […] Jetzt wissen sie, wie hoch Ihre Herzfrequenz ist, wie hoch Ihr Puls ist. Was passiert, wenn sie anfangen, diese zu vermischen und künstliche Intelligenz darauf anzuwenden?“[4]

Durch die Einführung einer digitalen Identität könnten nicht nur der Ausweis, sondern auch „Führerscheine, Berufsqualifikationen oder Bankkonten“[5], Gesundheitsdaten, Bewegungsdaten, Vermögen und vieles mehr zentral erfasst und durch künstliche Intelligenz ausgewertet werden, durch drei zentrale Säulen der von Snowden angesprochenen „Architektur der Unterdrückung“ möglich werden, über deren Gefahren im öffentlichen Diskurs kaum gesprochen wird: die jeweils automatische, KI-gestützte Überwachung von vergangenem und aktuellem Verhalten von Personen, die Vorhersage ihres zukünftigen Verhaltens sowie die Manipulation dieses Verhaltens. Zusätzlich dazu ermöglicht eine mögliche digitale „Geldbörse“, also ein digitales Konto, Kontrollmöglichkeiten in bisher unvorstellbarem Ausmaß.

Was dabei heute schon möglich ist, um Verhalten zu überwachen, vorherzusagen und zu manipulieren, soll nun an jeweils einem Beispiel aufgezeigt werden:

Überwachung

Wie viel man über Menschen herausfinden kann, wenn man nur die Bewegungsdaten ihres Autos überwacht, das zeigten vor Kurzem Hacker des Chaos-Computer-Clubs eindrucksvoll auf[6]: Sie hatten sich über eine Sicherheitslücke Zugang zu den Bewegungsdaten von ca. 800.000 Fahrzeugen in ganz Europa verschafft und die Bewegungsprofile ausgewertet. Dabei wussten sie nicht nur, wo die Fahrzeughalter wohnten und wo sie zur Arbeit gingen, auch ihr Freundeskreis, Arztbesuche, Urlaube, Freizeitbeschäftigungen, auch weitaus sensiblere persönliche Informationen waren aus den Daten ablesbar: „Warum parkt das Auto meines Partners immer bei diesem Privathaus, wenn er doch angeblich auf Geschäftsreise ist? Wieso parkt der Wagen von Frau Schmidt mehrfach in der Woche nahe einer Suchtklinik? Wer sind die Kund:innen eines Konkurrenzunternehmens? Warum fährt Frau Schneider regelmäßig zum Gefängnis? Die Daten, die Automobilhersteller erheben, sind hochsensibel, denn sie geben viel über Menschen und ihr Umfeld preis“[7], so das Fazit der beiden Daten-Journalisten Markus Reuter und Johannes Gille.

Dass eine solche Überwachung heute jeden Menschen betrifft, der ein Smartphone hat, ist bereits länger bekannt, wie der Autor Yasha Levine bereits 2018 erklärte: „Wohin wir gehen, was wir tun, worüber wir reden, mit wem wir reden und wen wir sehen – alles wird aufgezeichnet und irgendwann gewinnbringend verwendet.“[8]

Vorhersage

Wie unsere Daten nicht nur zur Auswertung, sondern auch zur Vorhersage unseres Verhaltens genutzt werden können, zeigt ein besonders beunruhigendes Beispiel aus Großbritannien, das an den Film „Minority Report“ (2002) denken lässt: Hier benutzen Polizei und Justizministerium die KI-basierte Auswertung beispielsweise der Gesundheitsdaten sowie des Polizeiregisters von Personen, um vorherzusagen, wer einen Mord begehen könnte.[9] Sofia Lyall, eine Sprecherin von Statewatch, welche das Vorgehen der Regierung aufgedeckt hatte, sagte dazu:

„Der Versuch des Justizministeriums, ein Mörder-Vorhersage-System zu bauen, ist das jüngste, gruselige und dystopische Beispiel für den Wunsch der Regierung, sogenannte Verbrechens-„Vorhersage“-Systeme zu bauen.“

Auch in den USA sind solche Systeme im Einsatz, welche die Software von Palantir nutzen, dem mächtigen, CIA-finanzierten Unternehmen von Trump-Unterstützer und Tech-Milliardär Peter Thiel. Immer wieder wurde der Vorwurf laut, der Einsatz von Palantir durch die Polizei in Los Angeles habe zu unverhältnismäßig vielen Tötungen von Schwarzen geführt und offenbar rassistisch motivierte Gewalt begünstigt.[10]

Auch in Deutschland wird die umstrittene Software inzwischen eingesetzt, beispielsweise von der bayerischen Polizei unter dem Namen „VeRA“ oder von der hessischen Polizei („Hessendata“ bzw. „Gotham“).

Manipulation

Wie leicht die Daten nicht nur zur Vorhersage, sondern auch zur Manipulation von Verhalten genutzt werden können, zeigte abermals US-Präsident Donald Trump in seinem Wahlkampf 2024. Wie die New York Times berichtete[11], musste das Wahlkampfteam von Trump einen finanziellen Rückstand von mehreren Hundert Millionen US-Dollar wettmachen. Während Kamala Harris die unglaubliche Summe von 1,5 Milliarden Dollar für ihren Wahlkampf zur Verfügung hatte[12], besaß das Trump-Team „nur“ ca. die Hälfte. An dieser Stelle kann man gut nachvollziehen, dass der ehemalige US-Präsident Jimmy Carter aufgrund der riesigen Gelder, die für den Wahlkampf benötigt werden, die USA als eine „Oligarchie“ bezeichnete.

Einer der Meinungsforscher von Trump, Tony Fabrizio, fand jedoch eine besonders geschickte Strategie, um das Geld von Trump für Wahlwerbung einzusetzen und vor allem die unentschlossenen Wähler in den Swing-States, jenen Staaten, in denen üblicherweise der Wahlkampf entschieden wird, davon zu überzeugen, für Donald Trump zu stimmen. Er hatte bereits im Frühjahr 2024 durch seine Umfrage bei 20.000 Wählern herausgefunden, dass eine große Mehrheit der unentschlossenen Wähler Streaming-Dienste wie Max oder Tubi (vergleichbar mit Netflix) nutzten. In den sieben Swing-States konnten so 6,3 Millionen Menschen identifiziert werden, welche das Team die „streamenden Unentschlossenen“ nannte. Diese wurden vom Wahlkampfteam gezielt ins Visier genommen und immer und immer wieder individuell mit Werbung angesprochen, wobei das Wahlkampfteam alles auf eine Karte setzte: „Unser Fazit war: Entweder unsere Modelle waren richtig, dann gewinnen wir, oder unsere Modelle waren falsch, dann verlieren wir“, so der Wahlkampfmanager Trumps, Chris LaCivita, in der New York Times.

Nur wenige Menschen wissen von dieser Strategie und davon, welch ein mächtiges Werkzeug die Auswertung zu Manipulationszwecken darstellt.

Kontrolle

Während Überwachung, Vorhersage und Manipulation von Verhalten vergleichsweise unterschwellig ablaufen, welche durch die Pläne der Bundesregierung zu einer digitalen Identität bereits heute möglich sind, steht die Gefahr einer zukünftigen Kontrolle von Verhalten durch ein digitales Bankkonto derzeit als gefährliches Zukunftsszenario im Raum. Wie eine solche Kontrolle aussehen kann, zeigte die kanadische Regierung im Februar 2022. Um die anhaltenden, landesweiten Proteste und Streiks von LKW-Fahrern zu brechen, ging die Regierung dazu über, die (digitalen) Konten der Streikenden zu blockieren. Die stellvertretende Premierministerin Chrystia Freeland erklärte dazu in Anwesenheit des Premierministers Justin Trudeau:

„Ab heute kann eine Bank oder ein anderer Finanzdienstleister ein Konto ohne Gerichtsbeschluss sofort einfrieren oder sperren. Dabei werden sie vor zivilrechtlicher Haftung für Maßnahmen geschützt, die sie in gutem Glauben ergriffen haben. Die Institutionen der Bundesregierung erhalten eine neue, weitreichende Befugnis, relevante Informationen mit Banken und anderen Finanzdienstleistern auszutauschen, um sicherzustellen, dass wir alle zusammenarbeiten können, um der Finanzierung dieser illegalen Blockaden ein Ende zu setzen.“[13]

Fazit

Die aktuellen Pläne der Bundesregierung und von Digitalisierungsminister Karsten Wildberger werden bis jetzt kaum in der Öffentlichkeit diskutiert, obschon die Gefahren offenkundig sind. Die Möglichkeiten von Überwachung, Vorhersage und Manipulation von Verhalten durch Regierungen und Unternehmen wie Palantir, das sich treffenderweise u.a. auf die Auswertung von Finanztransaktionen spezialisiert hat, nehmen durch die voranschreitende Digitalisierung sowie immer leistungsfähigere Künstliche Intelligenz stetig zu. Sie alle tragen zu dem bei, was man als „Architektur der Unterdrückung“ bezeichnen muss, deren Abschluss dann erreicht ist, wenn durch ein digitales Konto nicht nur die Gedanken und Gefühle der Menschen, sondern auch ihr Geld vollständig kontrollierbar wird. Möglich ist diese Entwicklung nur, wenn sie weitgehend unter Ausschluss der Öffentlichkeit im Verborgenen stattfindet und weite Teile der Bevölkerung nicht über die Gefahren einer zunehmenden Digitalisierung ihres Lebens informiert werden. Eine informierte, kritische Bevölkerung, welche die Gefahren versteht und sich der voranschreitenden Digitalisierung entschieden verweigert, ist daher die größte Kraft, um zu verhindern, dass die derzeit im Aufbau befindliche „Architektur der Unterdrückung“ jemals fertiggestellt wird.

Von Jonas Tögel ist zuletzt sein Buch „Kriegsspiele“ im Westend-Verlag erschienen.

Titelbild: AlinStock/shutterstock.com