Ethik im Digitalzeitalter – Warum wir ein Biosiegel für Software brauchen

Sarah Spiekermann hat nicht immer so kritisch auf die IT-Welt geblickt. Im Gegenteil: Sie hat selbst erlebt, welche Anziehungskraft diese ausübt. 1996 fing sie beim Netzwerkausrüster 3Com an, der Komponenten für die Vernetzung lieferte – und erlebte die anschwellende Euphorie über das World Wide Web, das damals wie ein globales Dorf wirkte.

Es war „ein bunter Raum voller Kreativität, in dem wir Menschen uns neu entfalten können würden“, ja sogar ein „gigantisches Friedensprojekt“, wie sie in ihrem Buch schreibt.

Effizient, aber ohne Herz

Um die Jahrtausendwende verschwand die Begeisterung jedoch. Unternehmen wie Google stellten fest, dass sie mit der Analyse von personenbezogenen Daten viel Geld verdienen können. Shoshana Zuboff, eine emeritierte Professorin der Harvard Business School, spricht von einem Überwachungskapitalismus, der zum Ziel habe, das Verhalten der Menschen direkt zu beeinflussen und daraus ein Geschäft zu machen.

Zudem bauten die Geheimdienste nach den Anschlägen vom 11. September 2001 ihre Überwachungsinfrastruktur aus, vorgeblich, um Terroristen zu jagen – und teils mit Daten aus den Rechenzentren der Konzerne.

Angesichts dieser Entwicklung floh Spiekermann von der Wirtschaft in die Wissenschaft. Nun blickt sie mit der Erfahrung der „Business Intelligence“-Spezialistin, aber mit der kritischen Distanz der Forscherin auf die IT-Welt. Und ihre Bestandsaufnahme, die von Mitarbeiterrechten bis zur IT-Sicherheit reicht, gerät zur Fundamentalkritik. Die zentrale These: In der IT-Welt ist der Mensch aus dem Blick geraten.

So dient die digitale Technik nach Spiekermanns Ansicht ausbeuterischen Geschäftsmodellen, etwa wenn ein Lieferdienst seine Fahrradkuriere streng durchtaktet und auf Schritt und Tritt überwacht. Oder wenn eine App so programmiert ist, dass sie die Aufmerksamkeit der Nutzer absorbiert. Derartige Services seien hochtechnisiert und effizient, aber ohne Herz.

Und auch Programmierer mit guten Absichten lassen bei der Entwicklung die nötige Sorgfalt vermissen. Es werde im agilen Verbesserungsmodus auf ein Ziel hingearbeitet, Sprint für Sprint, wie es im Fachjargon heißt – aber ohne die Frage nach dem Warum zu stellen, sagt die Wirtschaftsinformatikerin.

Spiekermann ist in ihrer Kritik scharf, allein ist sie damit nicht. Politiker und Datenschützer, aber auch Unternehmer und Programmierer aus dem Silicon Valley äußern sich kritisch zum Zustand der Technologiewelt.

In den USA fordert die demokratische Senatorin Elisabeth Warren gar die Zerschlagung von Google und Facebook, Amazon und Apple. Der „Techlash“, mit dem die wachsende Feindseligkeit gegen die Konzerne beschrieben wird, ist in vollem Gange.

Es gibt durchaus einige Initiativen, um die Situation zu verbessern. Die Datenschutz-Grundverordnung (DSGVO) etwa fordert Transparenz über den Umgang mit Daten ein, und das das IT-Sicherheitsgesetz zwingt Telekommunikationskonzerne, Stromanbieter und Krankenhäuser zu besseren Schutzmaßnahmen, um nur zwei Beispiele zu nennen. Die vielen Vorfälle dokumentieren aber, dass das längst nicht ausreicht.

Den Unternehmen ist bewusst, dass sie etwas tun müssen: Sie beschäftigen sich inzwischen öffentlichkeitswirksam mit den Auswirkungen ihres Wirkens. Erst jüngst kündigte Google die Gründung eines Ethikrats für Künstliche Intelligenz an, der Empfehlungen zum Einsatz neuer Technologien wie Gesichtserkennung entwickeln soll. Und nun fordert Facebook-Chef Zuckerberg, das Internet zu regulieren, etwa mit internationalen Datenschutzregeln, wie sie in Europa mit der DSGVO gelten.

Ethikräte und Regulierung

Spiekermann hält das jedoch nicht für glaubwürdig. Seit fast 20 Jahren sei bekannt, wie man IT-Systeme datenschutzfreundlich und technisch sicher gestalten könne – „Facebook hat das immer ignoriert“. Die Äußerungen des Unternehmensgründers bezeichnet die Wissenschaftlerin daher als „puren Hohn“.

Spiekermann fordert – nicht nur wegen Facebook – eine neue Art der IT. „Man muss sich philosophische Fragen stellen: Welche Folgen hat die Einführung einer neuen Technologie für die Stakeholder? Welche Tugenden fördert oder zerstört sie?“ Es gehe um Gemeinschaft, Wahrheit und Würde. „Meine Zielfunktion ist nicht das Geld“, sagt Spiekermann – es gehe um das gute Leben.

Diese Idee steht allerdings in einem Gegensatz zu einem Wirtschaftssystem, das auf Profit ausgerichtet ist. „The business of business is business“, sagte der Ökonom Milton Friedman einmal – Unternehmen sollten sich um ihr Geschäft kümmern, nichts weiter. Wenn ein Start-up-Gründer um die nächste Finanzierungsrunde kämpft oder ein Manager um seinen Bonus, dürfte ihnen alles andere tatsächlich egal sein.

„Unternehmen haben auch eine gesellschaftliche Funktion, sie spenden Sinn und geben Orientierung“, entgegnet Spiekermann. Sie sieht eine Chance, digitale Ethik, ihre Ideen einzubringen, gleichsam den Kapitalismus von innen zu verändern. Viele Menschen seien durchaus bereit, für verantwortungsvoll entwickelte Produkte einen Aufpreis zu zahlen, betont die Forscherin.

Lebensmittel seien dafür ein gutes Beispiel: „In der Landwirtschaft bedeutet ‚bio‘, dass man Böden mit hoher Sorgfalt behandelt. Analog dazu bezieht sich ‚bio‘ in der Informatik auf den Umgang mit Daten.“ Privatsphäre und IT-Sicherheit stehen also im Vordergrund, die Nutzer sollen Kontrolle und Autonomie haben.

Standard für ethische IT

Die Wirtschaftsinformatikerin belässt es aber nicht bei abstrakten Forderungen. Sie arbeitet bei IEEE an einem Standard für ethische Produktentwicklung mit: Programmierer sollen lernen, Werte im Produkt von vornherein zu berücksichtigen. „Ethics by Design“ nennt die Forscherin dieses Prinzip, in Anlehnung an das bereits etablierte „Privacy by Design“.

Damit ist die Wissenschaftlerin keine Einzelkämpferin. Immer mehr Universitäten ergänzen das Informatikstudium um Ethikvorlesungen. Thinktanks wie die Future Society entwickeln Prinzipien, um Maschinenintelligenz im Sinne des Menschen zu verwenden.

Einige Start-ups zeigen, dass es Geschäftsmodelle jenseits der Datensammlung gibt. Und selbst die Fondsgesellschaft Blackrock, die der Kapitalismuskritik unverdächtig ist, fordert, dass Unternehmen drängende soziale und wirtschaftliche Fragen angehen.

„Es gibt schon viele gute Leute, die sich vom Überwachungskapitalismus verabschiedet haben und Initiativen vorbereiten“, sagt Spiekermann. „Wenn das der Mainstream der Unternehmen noch nicht mitbekommen hat, tut es mir leid.“

Die Umstellung ist indes nicht einfach. „Um ‚Ethics by Design‘ einzuführen, reicht es nicht, sich zwei Tage mit einer Strategiegruppe hinzusetzen“, sagt Spiekermann. Das Topmanagement müsse die Initiative unterstützen.

Denn: Das Prinzip „Ethics by Design“ greife in die Organisationsstrukturen und Innovationsprozesse ein. „Die Frage ist, inwiefern Unternehmen dazu bereit sind.“ Die Herausforderung ficht Spiekermann nicht an: „Wir müssen den Mut haben, diese Strategien gegen die Kapitalmärkte und gegen die reine Gewinnlogik der heutigen Märkte zu verteidigen.“