Handelsblatt App
Jetzt 4 Wochen für 1 € Alle Inhalte in einer App
Anzeigen Öffnen
MenüZurück
Wird geladen.

07.10.2021

16:58

Regeln für Social Media

Geplantes Digitalgesetz: EU fühlt sich durch Facebook-Whistleblowerin bestätigt

Von: Eva Fischer, Christoph Herwartz

Die Facebook-Whistleblowerin Frances Haugen bringt sich in die Debatte um europäische Digitalgesetze ein – und bescheinigt der EU, auf dem richtigen Weg zu sein.

Nach ihrer Aussage im US-Senat schaltete sich Haugen am Mittwoch auch mit zwei EU-Kommissaren zusammen. imago images/ZUMA Wire

Frances Haugen

Nach ihrer Aussage im US-Senat schaltete sich Haugen am Mittwoch auch mit zwei EU-Kommissaren zusammen.

Brüssel Seit fast einem Jahr wird in Brüssel an einer Pioniertat gearbeitet. Der „Digital Services Act“ (DSA) soll die Antwort sein auf eine neue Medienwelt, in der Algorithmen steuern, welchen Ausschnitt der Wirklichkeit wir zu sehen bekommen und welche Desinformationen auf uns einprasseln dürfen. Kein Staat hat bisher ein so umfassendes Gesetz geschrieben, um die Probleme dieser neuen medialen Realitäten zu beheben.

Im Fokus steht dabei vor allem Facebook. Umso hilfreicher ist es für die Gesetzgeber nun, dass sich Frances Haugen, eine ehemalige Managerin des Social-Media-Konzerns, in die Debatte um den DSA einbringt.

Haugen hatte in den vergangenen Wochen interne Dokumente an das „Wall Street Journal“ weitergegeben, die den Konzern schwer belasten. Sie zeigen, wie wenig Facebook seiner sozialen Verantwortung gerecht wird.

Nach einer Aussage im US-Senat schaltete sich Haugen am Mittwoch auch mit zwei EU-Kommissaren zusammen und sprach mit ihnen über den DSA. Justizkommissarin Vera Jurova fühlte sich danach bestärkt: „Das Gespräch hat mir gezeigt, dass Europas Richtung in Sachen Tech die richtige ist“, twitterte sie. „Wir müssen Regeln aufstellen, die Plattformen stärker in die Pflicht nehmen, und dürfen uns nicht allein auf freiwillige Regelungen verlassen.“

Top-Jobs des Tages

Jetzt die besten Jobs finden und
per E-Mail benachrichtigt werden.

Standort erkennen

    Industriekommissar Thierry Breton sagte, er sei gemeinsam mit Haugen Teile des DSA durchgegangen und habe mit ihr geprüft, ob sie es ermöglichen würden, die von Haugen aufgezeigten Probleme zu beheben. „Und das war der Fall“, so Breton.

    Auch die mit dem DSA befasste Grünen-Abgeordnete Alexandra Geese hatte bereits Kontakt zu Haugen. „Frances Haugen hat uns unter anderem vor Augen geführt, dass es zwar eine offizielle Strategie bei Facebook gibt, die Hass, Hetze und Desinformation verbietet“, sagte Geese dem Handelsblatt. „Der Konzern hat aber Angst vor Imageschäden und erteilt bisher allen Promis und Influencern einen Freibrief.“ Fast sechs Millionen Menschen seien derzeit von den AGBs ausgenommen und könnten frei Hass, Hetze und Desinformation verbreiten. „Das wollen wir ändern: Wenn es AGBs gibt, müssen sie auch für alle gelten“, so Geese.

    Studie zeigt: Facebook tut zu wenig

    Der DSA könnte eine politische Kontrolle darüber ermöglichen, nach welchen Algorithmen Inhalte an Nutzer ausgespielt werden. Umstritten ist etwa die Frage, ob personalisierte Werbung verboten sein soll oder ob dem Nutzer nur mitgeteilt werden muss, warum ihm eine Werbung gezeigt wird.

    Geese plädiert für ein Verbot: „Wenn wir das Tracking in Europa per Gesetz ausschalten, funktioniert Werbung wieder nach traditionellen Methoden mit Bezug zum Kontext.“ Das würde laut Geese kleinen und mittelständischen Unternehmen und den Verlagen in Europa helfen, weil bislang 70 Prozent der weltweiten Werbeeinnahmen bei Facebook und Google landen.

    Kritiker eines Verbots argumentieren, dass personalisierte Werbung gerade für kleine Unternehmen wichtig ist, die mit ihren Angeboten möglichst günstig ihre spezifische Zielgruppe erreichen wollen.

    Wie wichtig neue Regeln sind, zeigt auch eine Auswertung von Facebooks Einfluss auf die deutsche Bundestagswahl. Die NGO Reset zeigt in einer Studie unter anderem, dass Facebook es nicht schafft, Hatespeech auf seinen Plattformen einzudämmen und Desinformationen durchgehend als solche zu markieren.

    Der Digital Services Act könnte eine politische Kontrolle darüber ermöglichen, nach welchen Algorithmen Inhalte an Nutzer ausgespielt werden. Reuters

    Facebook-App auf einem Smartphone-Display

    Der Digital Services Act könnte eine politische Kontrolle darüber ermöglichen, nach welchen Algorithmen Inhalte an Nutzer ausgespielt werden.

    Tatsächlich habe sich im vergangenen Jahr die Zahl derjenigen, die sich aufgrund von Hatespeech-Erfahrungen im Netz an die Hilfsorganisation HateAid gewandt haben, gar noch verdreifacht. Darunter seien viele Politiker gewesen, berichtet Reset.

    Das liege auch daran, dass Facebook das in Deutschland extra zu dem Zweck verabschiedete NetzDG nicht konsequent anwende. So meldeten Mitarbeiter von Reset 100 Kommentare mit rechtspopulistischen bis rechtsradikalen und verschwörungstheoretischen Inhalten, die laut NetzDG als illegal betrachtet werden können.

    In einem Drittel der Fälle wies Facebook die Meldung zurück mit der Begründung, dass diese nicht den eigenen Community-Richtlinien widersprechen. Zudem waren die Kommentare bereits durchschnittlich 409 Tage online gewesen, bevor Reset sie an Facebook meldete. Das sieht die Organisation als Beweis an, dass das Facebook-interne Monitoring bei Kommentaren nicht funktioniere, sondern nur bei den Beiträgen selbst.

    Bekannte Falschmeldungen bleiben ohne Markierung

    Auch die Bewertung von Facebook nach eigenen Community-Richtlinien sei fehleranfällig. Von 1000 Kommentaren, die Reset aufgrund von Verstößen meldete, reagierte Facebook lediglich auf 100 Meldungen, wovon das Unternehmen wiederum nur die Hälfte der beanstandeten Kommentare löschte.

    Noch zögerlicher sei Facebooks Vorgehen gegen Desinformationskampagnen. Laut einer Studie des Sustainable Computing Lab sind sieben Prozent der Facebook-Postings mit Wahlbezug problematisch: zum Beispiel, weil sie Unwahrheiten verbreiten.

    Doch von den News über Grünen-Kanzlerkandidatin Annalena Baerbock, die von den Facebook-Faktenprüfern als falsch eingestuft wurden, verblieben mehr als die Hälfte ohne einen entsprechenden Hinweis auf der Plattform sichtbar, wie eine Studie der Organisation Avaaz berichtete, auf die Reset verweist. Allgemein habe es über Baerbock signifikant häufiger Fehlinformationen gegeben als über Armin Laschet und Olaf Scholz, die Kanzlerkandidaten von CDU/CSU und SPD.

    Was Facebook entscheide zu löschen, sei geradezu willkürlich und anscheinend von eigenen Interessen geprägt, schreiben die Reset-Autoren der Studie. Zudem erlaube das Unternehmen weiterhin das Veröffentlichen von illegalen Anzeigen.

    Als Beispiel nennt Reset neben antisemitischen und rassistischen Anzeigen auch solche, die Therapien für nicht heterosexuelle Jugendliche anbieten. Diese sind in Deutschland illegal.

    Der mutmaßliche Täter, der einen Tankstellenkassierer erschoss, weil er sich über die Corona-Maßnahmen ärgerte, radikalisierte sich in Facebook-Gruppen. dpa

    Polizei am Tatort in Idar-Oberstein

    Der mutmaßliche Täter, der einen Tankstellenkassierer erschoss, weil er sich über die Corona-Maßnahmen ärgerte, radikalisierte sich in Facebook-Gruppen.

    Das größte Problem bleibe dabei, wie der Facebook-Algorithmus funktioniert: nämlich indem er Interaktionen mit weiterer Reichweite belohne, was wiederum zu noch mehr Interaktionen und damit zu noch mehr Reichweite führt.

    Für Empörungskampagnen, wie sie Rechtsaußen-Gruppen oder auch die Corona leugnende Querdenken-Bewegung betreiben, sind die sozialen Netzwerke also bestens geeignet, ihre Ansichten zu verbreiten.

    Auf diese Weise habe Facebook für die große Reichweite der AfD in den sozialen Netzwerken gesorgt. Auf AfD-Seiten gebe es durchschnittlich fünffach höhere Interaktionsraten als auf den Seiten der anderen Parteien.

    Durch automatische Empfehlungen inhaltlich ähnlicher Seiten, Gruppen und Beiträge trage Facebook zu Radikalisierungen bei. Um dies zu verhindern, könnte der Konzern seine Empfehlungslogik überarbeiten, schreckt aber wohl aus Reichweiten-Gründen davor zurück.

    Das Fazit der Studien-Autoren: „Jede Plattform bietet Anreize und monetarisiert bestimmte Arten von Verhaltensweisen und Inhalten über andere – das sind die Ergebnisse bewusster Geschäftsentscheidungen.“

    Direkt vom Startbildschirm zu Handelsblatt.com

    Auf tippen, dann auf „Zum Home-Bildschirm“ hinzufügen.

    Auf tippen, dann „Zum Startbildschirm“ hinzufügen.

    ×