MenüZurück
Wird geladen.

14.11.2018

05:02

„Transparenz und Aufklärung“

Länder fordern strenge Regeln für den Einsatz von Algorithmen

Von: Dietmar Neuerer

Computergesteuerte Preisschwankungen im Onlinehandel sind Verbraucherschützern ein Dorn im Auge. Nun wollen die Justizminister tätig werden.

Internetnutzern solle in Zukunft klar sein, nach welchen Kriterien der Newsfeed der sozialen Natzwerke zusammengestellt werden. dpa

Facebooks Algorithmen

Internetnutzern solle in Zukunft klar sein, nach welchen Kriterien der Newsfeed der sozialen Natzwerke zusammengestellt werden.

BerlinAutoversicherungen, Kredite, Bezahlen im Internet: In immer mehr Lebensbereichen kommen Algorithmen zum Einsatz, mit denen Verbraucher eingestuft werden.

Nach Ansicht von Beratern der Bundesregierung birgt das sogenannte Scoring jedoch Gefahren von Fehlern und Diskriminierung. Kritisch sei zum Beispiel, wenn die Kreditwürdigkeit davon abhängig gemacht werde, dass jemand in einer guten Wohngegend lebe, erklärte der Sachverständigenrat für Verbraucherfragen kürzlich.

Verbraucherministerin Katarina Barley (SPD) betonte seinerzeit, dass jegliche Form von Scoring transparent sein und Diskriminierung sowie Missbrauch ausgeschlossen werden müsse. Ein Schritt in diese Richtung wollen nun die Justizminister der Länder gehen. Sie fordern, Online-Händler per Gesetz zu mehr Transparenz beim Einsatz von Algorithmen zu verpflichten, wie aus einem Beschlussvorschlag von acht Bundesländern für die Justizministerkonferenz am Donnerstag in Berlin hervorgeht, der dem Handelsblatt vorliegt

Für Angebote im Internet, deren Preisbildung durch den Einsatz von Algorithmen für den einzelnen Verbraucher personalisiert worden sei, solle eine „transparentes Preisschild“ eingeführt werden, heißt es in der Vorlage. Hinter dem Vorstoß steht die Annahme, dass Internethändler ihre Preisgestaltung zum Beispiel auf das Konsumverhalten einzelner Kunden zuschneiden.

„Es geht um Transparenz und Aufklärung“, sagte der Hamburger Justizsenator Till Steffen (Grüne) dem Handelsblatt. „Wir wollen, dass Menschen, die sich im Netz bewegen, nicht von unsichtbaren Algorithmen gelenkt werden, sondern besser informiert entscheiden können.“ Dazu gehöre, „den Menschen mit einem transparenten Preisschild anzuzeigen, dass hier durch den Einsatz von Algorithmen ein persönlicher Preis für den individuellen Nutzer errechnet wurde“.

Justizministerkonferenz: Länder stellen Gesetz gegen Hass im Internet auf den Prüfstand

Justizministerkonferenz

Länder stellen Gesetz gegen Hass im Internet auf den Prüfstand

Das Netzwerkdurchsetzungsgesetz habe sich teilweise als „zahnloser Tiger“ entpuppt, sagt Hamburgs Justizsenator. Er und seine Länderkollegen fordern Nachbesserungen.

Steffen erläuterte den Regulierungsvorstoß mit einem Beispiel aus dem praktischen Alltag. Im Kiosk koste das Brötchen zum Beispiel für die Ingenieurin genauso viel wie für den Erzieher, weil der Kioskbesitzer in der Regel nicht viel über die Kunden wisse. Im Netz sei das jedoch anders. „Hier werden Unmengen an Informationen über uns gesammelt und Anbieter können mithilfe verschiedener Kriterien Rückschlüsse über unsere Kaufkraft ziehen.“

Wenn etwa der Nutzer einen Mac benutze und in einem teuren Stadtteil lebe, dann könne er wahrscheinlich einen höheren Preis für ein Produkt bezahlen als ein Nutzer aus einer Hochhaussiedlung am Stadtrand. Daher solle die Preisgestaltung künftig offengelegt werden, damit dieses Wissen in die Kaufentscheidung der Verbraucher einfließen könne.

Handlungsbedarf sehen auch die Regierungsberater. Zumal Scoring-Algorithmen unter anderem auch darüber entscheiden, wer im Internet auf Kredit kaufen und wer nur auf Vorkasse bestellen darf. Auch die Bedingungen von Kranken- und Autoversicherungen können sich je nach persönlichem Score ändern. Verbraucher müssten über ihre Bewertung kostenlos informiert werden, forderte der Sachverständigenrat.

Ein Sozialpunktesystem, mit dem in China ab 2020 zwischen „guten“ und „schlechten“ Bürgern unterschieden werden soll, schloss Barley für Deutschland und Europa aus. „Ein Scoringsystem, wie es die chinesische Regierung anstrebt und derzeit erprobt, ist mit unserer Rechts- und Werteordnung unvereinbar“, sagte sie. In China gibt es Punktabzug beispielsweise für Verkehrsvergehen oder Zahlungsverzug bei Rechnungen, mit Spenden oder Freiwilligenarbeit lässt sich das Konto auffüllen.

Gesetzgeberischen Handlungsbedarf sehen die Länderjustizminister auch bei der Nutzung von Algorithmen für die Ausgabe von Suchergebnissen. Sie plädieren für eine „Offenlegung der wesentlichen Kriterien des Sortieralgorithmus bei der Erstellung personalisierter Trefferlisten“, wie es in der Beschlussvorlage heißt. Explizit werden dabei sogenannte Newsfeeds erwähnt. Der Facebook-Newsfeed-Algorithmus etwa bringt Neuigkeiten in eine Reihenfolge und entscheidet somit, welche Nachrichten dem Nutzer an vorderster Stelle angeboten werden.

Zukunftstechnologie: Deutschland soll mit einer KI-Strategie die verpasste Digitalisierung aufholen

Zukunftstechnologie

Deutschland soll mit einer KI-Strategie die verpasste Digitalisierung aufholen

Künstliche Intelligenz soll Deutschland digital zukunftsfähig machen. Doch die Maßnahmen der Bundesregierung gehen Experten nicht weit genug.

Auch bei solchen Nachrichten helfe der Vergleich mit dem Kiosk, sagte Steffen. „Im Kiosk ist es so: ich stehe vor dem Zeitungsständer und suche mir eine Zeitung aus, die mir gefällt. Im Netz ist es so, dass der Plattformbetreiber den Menschen Nachrichten vorschlägt, weil er aufgrund der Informationen, die er über sie sammelt, denkt, dass sie ihm gefallen werden.“

Das könne aber dazu führen, warnt der Grünenpolitiker, „dass Nutzer nur noch Nachrichten zu lesen bekommen, die in eine bestimmte Richtung gehen, so dass die Nutzer in einer Filterblase sich selbst verstärkender Meinungen eingeschlossen werden“.

Deswegen sei nun ein erster Schritt, „offenzulegen, nach welchen Kriterien zum Beispiel Nachrichten in sozialen Netzwerken angezeigt werden“. Internetnutzern solle in Zukunft klar sein, nach welchen Kriterien die Vorschläge zusammengestellt werden. „Damit er oder sie sich über die eigene Filterblase bewusst wird und daraus ausbrechen kann“, so der Justizsenator.

Brexit 2019

Direkt vom Startbildschirm zu Handelsblatt.com

Auf tippen, dann auf „Zum Home-Bildschirm“ hinzufügen.

Auf tippen, dann „Zum Startbildschirm“ hinzufügen.

×