Handelsblatt App
Jetzt 4 Wochen für 1 € Alle Inhalte in einer App
Anzeigen Öffnen
MenüZurück
Wird geladen.

23.07.2019

16:51

Kerem Tomak

„Die Kontrolle der Algorithmen ist das A und O“

Von: Andreas Kröner

Der Commerzbank-Manager spricht im Interview über die Überwachung von Algorithmen – und das Problem mit falschen Daten.

„Ich glaube nicht an Algorithmen, die einen eigenen Charakter entwickeln und dann anstelle von Menschen Entscheidungen treffen.“ Commerzbank AG

Kerem Tomak

„Ich glaube nicht an Algorithmen, die einen eigenen Charakter entwickeln und dann anstelle von Menschen Entscheidungen treffen.“

Frankfurt Der Lebenslauf von Kerem Tomak ist ungewöhnlich für einen Bankmanager. Bevor der Amerikaner im Sommer 2017 zur Commerzbank wechselte, arbeitete er unter anderem für die US-Kaufhausketten Sears und Macy‘s sowie die Technologiegiganten Google und Yahoo. Mit dem Einsatz und der Kontrolle von Algorithmen ist Tomak also schon in verschiedenen Branchen in Berührung gekommen.

Bei der Commerzbank ist er als Bereichsvorstand darüber hinaus für die Analyse von Daten verantwortlich und treibt die Nutzung von Cloud-Lösungen voran. Tomak wurde in den USA geboren und hat in der Türkei und Amerika Mathematik, Wirtschaft und Informationssysteme studiert. Seine berufliche Laufbahn begann er als Assistenzprofessor an der University of Texas in Austin.

Herr Tomak, seit einiger Zeit gibt es eine intensive Debatte darüber, wie Algorithmen überwacht werden können. Was ist Ihre Meinung?
Es wird viel über Künstliche Intelligenz gesprochen. Aber ich glaube nicht an Algorithmen, die einen eigenen Charakter entwickeln und dann anstelle von Menschen Entscheidungen treffen. Hauptverantwortlich für einen Algorithmus ist und bleibt die Person, die ihn geschrieben hat. Es ist deshalb wichtig, dass sich alle beim Schreiben von Codes und Algorithmen an ethische Standards halten. Beispielsweise dürfen keine Menschen diskriminiert werden.

Im Banken- und Börsengeschäft werden Algorithmen seit vielen Jahren eingesetzt. Was können andere Branchen und Gesellschaftsbereiche von den Erfahrungen im Finanzsektor lernen?
Die Kontrolle der Algorithmen ist das A und O. Bevor andere Sektoren verstärkt auf Algorithmen setzen, müssen sie sicherstellen, dass alle Überwachungsmechanismen funktionieren. Dabei gibt es drei wesentliche Dinge, die kontrolliert werden müssen: Die Daten, mit denen der Algorithmus arbeitet. Der Algorithmus selbst. Und die Ergebnisse, die der Algorithmus liefert.

Welche Rolle spielt die Kontrolle der Daten?
Das ist ein Punkt, der bei der Debatte über Algorithmen oft unterschätzt wird. Es gibt einen großen Fokus auf die Erklärbarkeit der Algorithmen, dabei ist das Aufbereiten der Daten mindesten genauso wichtig. Bei vielen Modellen in der Finanzbranche muss man 80 Prozent der Zeit dafür aufbringen, die Daten zu verstehen und zu bereinigen. Das Schreiben des Algorithmus im Anschluss ist dann vergleichsweise einfach.

Warum ist das Bereinigen der Daten so aufwendig und wichtig?
Daten sind teilweise unvollständig. Außerdem weisen sie häufig eine gewisse Tendenz auf oder sind verzerrt. Und ein Algorithmus kreiert letztlich aus den Daten, die er bekommt, neue Daten. Überspitzt ausgedrückt kann man sagen: Wenn man einen Algorithmus mit Müll füttert, kommt am Ende auch Müll heraus. Darüber haben wir kürzlich auch mit Vertretern der Finanzaufsicht Bafin diskutiert, mit denen wir uns regelmäßig über Themen wie Algorithmen, Datenanalyse und Cloud-Nutzung austauschen.

Was muss beim Schreiben der Codes beachtet werden?
Es gibt verschiedene Software-Programme, mit denen man überprüfen kann, ob Algorithmen ordentlich geschrieben sind: Wir benutzen bei der Commerzbank die Programme SonarQube, Fortify und Accelere, das inzwischen Embold heißt. Accelere wurde von einem Start-up in Frankfurt entwickelt. Das Programm prüft, ob bei Algorithmen alle wesentlichen Programmier-Standards eingehalten wurden.

Es wird immer wieder darüber diskutiert, ob Algorithmen erklärbar sein müssen. Was meinen Sie?
Absolut. Unternehmen müssen verstehen, wie Algorithmen funktionieren und warum sie zu welchen Ergebnissen kommen. Bevor Algorithmen eingesetzt werden, müssen sie ausführlich getestet werden. Dafür gibt es viele unterschiedliche Möglichkeiten. Zu den besten zählt aus meiner Sicht ein sogenannter A/B-Test. Dabei kann man beispielsweise zwei Wochen lang simulieren, welche Entscheidungen der Algorithmus bei der Überprüfung neuer Kunden getroffen hätte. Anschließend vergleicht man die Ergebnisse dann mit den Entscheidungen, die die bisherigen Systeme beziehungsweise die Mitarbeiter der Bank tatsächlich getroffen haben. Nur wenn ein Algorithmus die gewünschten Ergebnisse liefert, kann man ihn einsetzen.

Und dann lassen Sie ihn einfach immer weiter laufen?
Nein. Wenn ein Algorithmus Probleme macht oder seltsame Ergebnisse liefert, wird er sofort abgeschaltet. Wir haben bei der Commerzbank Hunderte von Algorithmen im Einsatz. Und die werden alle streng überwacht. Bei den Algorithmen, die wir im Handel einsetzen, muss man sich das so vorstellen, dass da tatsächlich Kollegen an Bildschirmen sitzen und das in Echtzeit mitverfolgen.

Mehr: Im Börsenhandel werden Algorithmen seit vielen Jahren eingesetzt und genauestens kontrolliert. Was können andere Sektoren von der Finanzbranche lernen? Ein Ortsbesuch.

Direkt vom Startbildschirm zu Handelsblatt.com

Auf tippen, dann auf „Zum Home-Bildschirm“ hinzufügen.

Auf tippen, dann „Zum Startbildschirm“ hinzufügen.

×