Von: Sonja Christin Betting
Das Spannungsfeld der Algorithmen
Im Zeitalter von Algorithmen sind wir Zeug*innen einer faszinierenden und zugleich komplexen Symbiose aus Macht und Unsicherheit. Wir bewegen uns in einem Spannungsfeld zwischen dem Potenzial einer enormen Leistungsfähigkeit von Algorithmen und möglichen problematischen Auswirkungen auf individueller als auch auf kollektiver Ebene. Das Ungleichgewicht zwischen einflussreichen Konzernen wie Meta, die durch Algorithmen die Nutzungsdauer und das Engagement erhöhen, um ihren Profit zu maximieren, und denjenigen, die sich den Auswirkungen dieser Algorithmen ausgesetzt sehen, verschärft sich zunehmend. Online-Plattformen sammeln große Datenmengen von User*innen und können mithilfe dieser Daten Persönlichkeitsprofile erstellen, sodass das gezielte Adressieren von Zielgruppen etwa für politisches Mikrotargeting oder personalisierte Werbung ermöglicht wird. Gleichwohl bergen Algorithmen dabei ein breites Spektrum an Problemen: Algorithmen verzerren, üben Druck aus und diskriminieren.
(1) Algorithmen verzerren: Im Zuge der Bundestagswahl 2021 stellte das Instagram- Forschungsprojekt der NGO AlgorithmWatch fest, dass Inhalte der AfD im Instagram- Newsfeed systematisch höher gerankt wurden.
(2) Algorithmen üben Druck aus: Sie befördern das Hineingleiten in Spiralen mit problematischem, Suizid- und essstörungsbezogenem Content.
(3) Algorithmen diskriminieren: Algorithmen tragen zur Diskriminierung bei, wie im Fall der Vertreibung und des Genozids an den Rohingya in Myanmar, wo Hassbotschaften durch den Facebook Algorithmus verstärkt, und letztlich zu verheerenden Auswirkungen führten.
Schnell kommt der Gedanke auf, die Verantwortung läge nur bei den Nutzenden selbst, die oftmals freizügig den Online-Plattformen ihre zum Teil höchst sensiblen Daten zur Verfügung stellen. So sind sich die User*innen jedoch oftmals nicht über die Tragweite und die Verwendungszwecken ihrer Daten bewusst und es besteht Unklarheit um die Frage, was überhaupt alles gesammelt wird. So tragen die Online-Plattformen neben der Verantwortung für die Entwicklung, Implementierung und Überwachung von eingesetzten Algorithmen, vor allem die Pflicht zur Schaffung von mehr Transparenz. Bislang sind Online-Plattformen sich der beschriebenen Risiken durchaus bewusst, treffen jedoch bewusst die Entscheidung, im Namen des Profits zu handeln. Es ist zu kurz gedacht von „bösen“ Algorithmen zu sprechen, da es sich oftmals um bewusste Management-Entscheidungen handelt, nicht in Kosten zu investieren, die die Plattform sicherer machen würden. Entscheidend ist die organisationale Verantwortungsübernahme. Weiter sollten auch Intermediäre, die bislang nicht von der Antidiskriminierungsgesetzgebung mitberücksichtigt werden, aus dem Graubereich herausgeholt und mit aufgenommen werden. Vor dem Hintergrund, dass Online-Plattformen öffentliche Infrastrukturen abbilden, wäre es denkbar, diese auch an Grundrechte zu binden. Gleichwohl liegt die Verantwortung bislang bei den Nutzenden, sich mit der Problematik zu beschäftigen und ihren Umgang mit Social Media und der Freigabe von sensiblen Daten zu reflektieren.
Der Artikel ist im Rahmen der Zusammenarbeit mit der Universität Münster entstanden.