Die neue Ordnung: Gefahren der Zukunfts-Technologien

„Die zentrale Herausforderung lässt sich in zwei Worten zusammenfassen: unkontrollierte Macht“, schreibt Susskind in seiner Einleitung. Diese unkontrollierte Macht der Technologien und ihrer Schöpfer könne „den moralischen Charakter einer Gesellschaft formen, zum Guten wie zum Schlechten“.

Susskind entwirft deshalb die Utopie einer „digitalen Republik“, die diese Macht versteht, eingrenzt und in die richtigen Bahnen leitet. Dabei wird offensichtlich, dass ein paar neue Regeln nicht reichen werden.

„Digital Republic“ macht klar, dass wir Demokratie und Gesellschaft komplett neu verhandeln müssen, wenn wir dieser Macht Herr werden wollen. Um zu verdeutlichen, wie tief gehend dieses Neujustieren gesellschaftlichen Zusammenlebens sein muss, bedient sich Susskind staatstheoretischer Vorbilder von der Antike über die Aufklärung bis ins 20. Jahrhundert.

Die römische Republik etwa sei zwar ein „äußerst unvollkommenes System“ gewesen, doch eine ihrer Stärken hatte darin bestanden, dass die Bürger „am kollektiven Leben teilnahmen und ein öffentliches Bewusstsein, Empathie und Wachsamkeit entwickelten“.

Zu wenig Wissen über unseren Digitalen Raum

Diese Grundsätze der „republikanischen Idee“ fordert Susskind auch für eine „neue Ordnung“ in der digitalen Welt ein. Trotz dieser theoretischen Abhandlungen und des Fokus auf Technologie und Algorithmen, ist „Digital Republic“ leicht verständlich – auch für Leserinnen und Leser, die sich zum ersten Mal mit dem Thema beschäftigen.

Gleichzeitig erzeugt Susskind ein echtes Unbehagen, indem er eine Diskrepanz zeichnet zwischen unserem alltäglichen Verhalten im digitalen Raum und unserem geringen Wissen darüber, wie dieser Raum funktioniert. „Computercode verfügt über die beeindruckende Fähigkeit, menschliche Aktivitäten zu kontrollieren – geräuschlos, automatisch, präzise –, und duldet dabei keinerlei Einspruch“, schreibt Susskind.

Ein Phänomen, das uns kaum bewusst wird, solange es fehlerfrei funktioniert. Erst wenn es scheinbar paradoxe oder offensichtlich diskriminierende Ergebnisse liefert, werden wir aufmerksam.

Ein Beispiel: Im Jahr 2021 erhielten Facebook-Nutzer, die ein Video mit schwarzen Männern sahen, eine automatische Einblendung, ob sie „weitere Videos über Primaten“ gezeigt bekommen wollten. Für den Algorithmus eine wertfreie Frage, die wahrscheinlich aus schlechten Trainingsdaten resultierte.

Für die Gesellschaft ein rassistischer Fauxpas mit dem Potenzial für sozialen Sprengstoff. Ein weiteres Beispiel liegt in scheinbar absurden Zusammenhängen, die eine Software erkennt und aus der sie ihre eigenen Schlüsse zieht.

Mehr zum Thema:

• So will das deutsche KI-Start-up mit OpenAI konkurrieren
• Funktionen und Nachteile der KI von OpenAI
• Wie ChatGPT Ihr Leben verändern wird

Zwischen dem Verzehr von Käse und tödlichen Unfällen mit verhedderten Bettlaken gibt es laut Susskind statistisch ebenso eine Korrelation wie zwischen Menschen, die Hotmail für ihre E-Mails nutzen, und solchen mit tödlichen Autounfällen. Relevant werden solche Erkenntnisse, wenn sie zu konkreten Entscheidungen führen: Kunden, die ihre Namen in Formularen kleinschreiben, neigen dazu, Kredite nicht zurückzuzahlen.

Das wirft die Frage auf: Sollten wir es dem Algorithmus überlassen zu entscheiden, dass Leute mit einer Präferenz für Kleinbuchstaben offensichtlich nicht kreditwürdig sind? Und das, obwohl wir selbst den Zusammenhang nicht verstehen können?

Das Digitale ist politisch

Susskind meint „nein“, denn seiner Meinung nach berufen sich die Entwickler im Silicon Valley auf eine falsche Prämisse, die er als „Neutralitätsirrtum“ bezeichnet. Laut vielen „Techies“ sei Computercode wertfrei und habe schon deshalb recht, weil er per se alle gleichbehandle. Ein Irrtum, wie Susskind schreibt – Code sei moralisch, das Digitale deshalb politisch.

Anhand von konkreten Vorschlägen entwirft der gelernte Jurist im Folgenden ein detailliertes Bild von einer modernen Republik, die menschengemachte Grundsätze auf den digitalen Raum anwendet. Dazu zählen etwa „Tech-Tribunale“, die mit unabhängigen Experten besetzt werden sollen und dazu dienen, kleinere Streitigkeiten zwischen Privatpersonen und Technologiefirmen beizulegen.

Bisher seien klassische Gerichtsverfahren oft teuer und aufwendig und die Beschwerdeverfahren der Unternehmen „hochkompliziert, bürokratisch und in der Umsetzung geradezu kafkaesk“, schreibt Susskind. Außerdem müsse Recht auch durchsetzbar sein. Im Digitalen wie im Analogen müsse daher die Prämisse gelten, dass „extreme, gefährliche, moralisch verabscheuungswürdige und systematische Versäumnisse strafrechtlich geahndet werden sollten“.

Vielleicht, mutmaßt Susskind, werden wir eines Tages ein Amtsenthebungsverfahren gegen den Chef eines Technologiekonzerns erleben. Der Autor ist sich sicher, dass ein Regelwerk technologische Innovationen nicht hemme, sondern sogar beflügeln könne.

Zu Bausteinen dieses Regelwerks für eine „digitale Republik“ zählten auch Transparenz und eine bessere kartellrechtliche Kontrolle. Interessant ist dabei, dass Susskind sich nicht für eine allumfassende internationale Ordnung einsetzt, obwohl das Internet nicht an Ländergrenzen haltmacht.

Stattdessen plädiert er für Regulierungen auf nationaler oder regionaler Ebene, um die historisch gewachsenen Besonderheiten der analogen Welt nicht zu übergehen. Beispiel Meinungsfreiheit: In Deutschland und Frankreich ist es verboten, „Heil Hitler“ vor einer Synagoge zu brüllen – in den USA hingegen zählt auch das in die Kategorie der freien Meinungsäußerung.

„Warum sollten in den sozialen Medien für die Deutschen die amerikanischen Normen gelten und umgekehrt?“, fragt Susskind und plädiert somit für unterschiedliche Regeln je nach Nutzungsstandort für Online-Plattformen. Eine Forderung, die wohl nur schwierig umzusetzen und einfach zu umgehen wäre.

So bleibt am Ende von „Digital Republic“ vor allem die Frage im Raum stehen, wie realistisch die Umsetzung von Susskinds Vorschlägen wirklich ist. Immerhin, einige Ansätze zur Regulierung von Technologie gibt es schon, wie auch der Autor lobend anerkennt.

Doch bis zur „digitalen Republik“ scheint der Weg noch sehr weit. Somit ist es wohl nach Hannah Arendt, die Susskind mehrfach zitiert, noch nicht ausgemacht, ob „die Sache der Freiheit“ gegen die „Zwangsherrschaft jeglicher Art“ bestehen kann. Vielleicht sollten mehr Entscheidungsträger weltweit dieses Buch lesen.

Mehr: Warum KI zugleich revolutioniert und enttäuscht