Bildcover; ©Thalia.de

Stellen Sie sich eine Gesellschaft vor, in der eine Künstliche Intelligenz, vielmehr eine künstliche Politikerin die gesellschaftlichen Geschicke lenkt. Nicht diktatorisch, sondern ganz im Auftrag der Demokratie. Nicht menschlich, sondern datenbasiert – und zwar mit allen Daten, die nur erhoben werden können. Daten zur Gesundheit, zum Fahrverhalten, zu individuellen Vorzügen, letztlich Daten zu den Gedanken eines jeden Individuums – frei nach Orwell: „Big Brother is watching you“. Die gute Nachricht: noch ist solch eine Dystopie nur ein Experiment. Die schlechte Nachricht: dennoch ist diese Dystopie erschreckend nah. Wie nah sie ist, beschreibt Yvonne Hofstetter.

GAFAM, ausgeschrieben Google, Apple, Facebook, Apple & Microsoft, sind die mächtigsten Unternehmen – und allesamt Profiteure des Informationskapitalismus‘. Ihre Kunden erhalten Zugang zu etlichen Services, die ihnen den Alltag erleichtern sollen. Im Gegenzug brauchen sie nur den Nutzungsbedingungen zustimmen und den Zugriff auf die Cookies erlauben. Kein großer Aufwand, keine Kosten, maximaler Nutzen. Nur den wenigsten Nutzer:innen der Services ist bewusst, dass sie ihre Grundrechte abtreten, dass sie anhand der Daten, die sie durch Nutzung des Services produzieren und abgeben, auf Schritt und Tritt überwacht werden. Dasselbe gilt für die Mitarbeiter:innen der Unternehmen, besonders die Amazons. Doch mehr: Google arbeitet nicht nur an einer Brille, die die Umgebung scannt und somit noch mehr Daten produziert, sie konstruieren darüber hinaus Autos, die autonom fahren können. Weder auf Bundes- und europäischer Ebene gibt es Gesetze, die ihre Bürger:innen davor schützen. Selbst wenn: Die Digitalisierung und die Systemaktualisierungszyklen schreiten so schnell voran, sodass es unwahrscheinlich erscheint, dass die Gesetze je zeitgemäß sein werden.

Mit ihrer Systematik ist das Silicon Valley eine Gefährdung für die Demokratie. Aber die Digitalisierung ist nicht wegzurationalisieren. Sie ist in der Gesellschaft verankert und schafft Probleme, deren Lösung sie wiederum ebenfalls birgt. Zum Beispiel die Möglichkeit einen künstlichen Politiker zu erschaffen, dessen Auftrag der Erhalt der Demokratie ist. Die Leser:innen dieses Buches verfolgen einen teils informatischen, teils politikwissenschaftlichen Diskurs zwischen Scott Muller und Christian Brandlhuber über die Programmierung von Ai, der künstlichen Politikerin. Anhand tausender Simulationen soll sie erlernen, wie sie auf bestimmte Ereignisse reagieren soll. Um dies zu gewährleisten, müssen die Protagonisten tausende Variablen berücksichtigen und Multiagenten installieren, die in einem komplexen System, das sich Gesellschaft nennt, miteinander interagieren. Mit jeder Simulation lernt Ai, wie sie sich richtig verhält, indem sie ein Controlleur entweder belohnt oder bestraft. Eine wichtige Eigenschaft, die Ai braucht, und GAFAM aktuell nicht vorzeigen kann, ist eine zur Erkennung von Diskriminierungen. Die Unternehmen erstellen für jede Nutzer:in ein Anwenderprofil und versuchen anhand vergangener Handlungen, zukünftige zu antizipieren.

Wenn wir über derartige Überwachungs-instrumente sprechen, müssen wir auch immer auf den Fall des Wikileak Gründers Julian Assange hinweisen. Dank seines investigativem Journalismus‘ konnte er Kriesgverbrechen der USA in Afghanistan und Irak ans Licht bringen. Inzwischen gelten diese als belegt. Doch wird weder der ehemalige US-Präsident Georg W. Bush noch ein anderer der Verantwortlichen zur Rechenschaft gezogen, sondern Assange selbst. Ihm wird Spionage und Lebensgefährdung der US-Informanten vorgeworfen. Quelle: Spiegel.de; Bildquelle: Amnesty International; Foto: Jack Taylor/Getty Images

Durch das Profiling entstehen mittels Algorithmen jedoch neue Stereotype und geben bevorzugt Informationen preis, die diese bedienen – automatic bias in der Fachsprache. Skynet klassifizierte auf diese Weise einen Großteil der Pakistani als Terroristen. Ein Teil wurde deswegen ermordet. Zudem werden den Nutzer:innen hauptsächlich Informationen gesendet, die ihre Meinung bestätigen. Eine willkommene Funktion für Fake News. Unter anderem der NSA-Skandal, Sicherheitslücken und Cyberattacken auf die Daten, kürzlich eine aus Russland, zeigen, dass die Daten keineswegs geschützt sind; China, wie diese auf staatlicher Ebene missbraucht werden können. Die Nutzer:innen haben keine Möglichkeit dies zu beeinflussen. Sie verfügen nicht über ihre Daten, kennen obendrein die exakte Programmierung der Algorithmen nicht. Um dies zu ändern, spricht sich Hofstetter für ein Umgebungsrecht aus, das einen ordentlichen Akt des Inkrafttretens und die Möglichkeit der gerichtlichen Überprüfung bedarf, damit es die beiden Eigenschaften eines demokratisch ausgehandelten Rechts aufweist (445). Darin läge der Unterschied zwischen privatem und öffentlichem Internet – ein Konzept, das Hofstetter in dem Buch ausführt. Dabei beruft sie sich auf Hannah Arendts Ruf nach öffentlichen Räumen, die eine demokratische Ordnung nach dem „bottom up“ Prinzip zulässt. Das beinhalte darüber hinaus ein neue Struktur des politischen Systems. Aus einer Repräsentativen Demokratie würde eine partizipatorische Demokratie.

Chinas Überwachungsapparat – tatsächlich bezeichnen sie diesen als „Gehirn“ – besteht aus über eine Million Kameras. Quelle: ndr.de

Die Digitalisierung schafft hierfür neue Möglichkeiten, vorausgesetzt das positive Recht für die Bürger:innen bleibt bestehen und die technischen Schutzmechanismen aktiviert. Zu letzterem gehören ebenfalls Erklärungskomponenten, die den Zustand einer KI in Echtzeit überwachen, interpretieren und für den Menschen übersetzen (vgl. 442). Sie würde transparent werden. Die Transparenz unterstützt die Anwender:innen wiederum bei der Entscheidungsfindung, ob und welche Informationen sie der KI zur Verfügung stellen. Gerade weil Städte mittlerweile zu Smart Cities transformiert werden, sollten diese Ratschläge berücksichtigt werden. Dass die Politik dahingehend mitdenkt, zeigen die jüngsten positiven Entwicklungen: Cookies können mittlerweile teilweise abgelehnt werden, zumindest jene, die für Marketingzwecke eingesetzt würden. Zusätzlich müssen die Internetgiganten künftig höhere Steuern zahlen.

Ein letzter Faktor, über den Hofstetter berichtet, ist die steigende Konkurrenz zwischen Individuen – „Die ureigene „Marke“, das Ich, die eigene Person, ist durch Wettbewerb und Rivalität einer globalen vernetzten Welt in Dauerstress geraten. Das Leben ist unsicher bis chaotisch geworden, und persönliche Anstrengung korreliert nicht mit Erfolg“ (454). Auch hier wird ein Umdenken stattfinden müssen, um die Demokratie zu erhalten. Ai braucht es dafür nicht. Mündige Bürger:innen, zeitgemäße Gesetze und eine zusammenhaltende Gesellschaft schon.

Kontext: Dies ist eine Buchrezension, die Teil meines Studiums ist und aus dem letzten Jahr stammt. Abgegeben wurde sie am 16.11.2021. Lediglich die Bilder sind nachträglich eingefügt worden.