Gemeinwohlorientierte Algorithmen

Im Interview berichtet Dr. Anne Mollen von ihren Tätigkeiten bei AlgorithmWatch und den Gefahren und Risiken von digitalen Plattformen und sozialen Medien für demokratische Diskurse.

Frau Dr. Mollen, Sie sind Senior Policy und Advocacy Manager bei AlgorithmWatch. Was sind Ihre Aufgaben und womit beschäftigen Sie sich aktuell?

Im Policy&Advocacy-Team bei AlgorithmWatch beobachten wir aktuelle politische Diskussionen und Gesetzesvorhaben rund um das Thema Algorithmen, Automatisierung und sogenannte Künstliche Intelligenz. Das kann beispielsweise auf europäischer Ebene das Digitale-Dienste-Gesetz zur Regulierung von Online-Plattformen oder die geplante KI-Verordnung sein. Auf deutscher Ebene schauen wir uns zum Beispiel an, wie die Antidiskriminierungsgesetzgebung angepasst werden muss, um auch vor algorithmenbasierter Diskriminierung zu schützen. Wir entwickeln politische Positionen – vor allem mit Blick darauf, dass Algorithmen gemeinwohlorientiert funktionieren sollen – und bringen diese in politische Diskussionen ein.

Sehen Sie soziale Netzwerke wie Twitter, Facebook und Co. als Potential oder als Gefahr für Bürgerbeteiligung?

Die reine Technologie von sozialen Netzwerken ist erst einmal ergebnisoffen – das heißt, sie ist weder unausweichlich Potenzial noch Gefahr. Es kommt darauf an, was wir als Bürger*innen und Gesellschaft, aber auch als Gesetzgeber*innen oder Sicherheitsbehörden daraus machen – und ob die Unternehmen hinter diesen Plattformen ihrer gesellschaftlichen Verantwortung gerecht werden. Letztlich sehen wir über die Welt verteilt, dass soziale Netzwerkseiten sowohl für politisches Empowerment und Bürgerbeteiligung als auch für Desinformation, Hassrede und gesellschaftliche Spaltung genutzt werden.

Welche Rolle spielt Ihrer Meinung die Funktionslogik sozialer Netzwerke in der politischen Meinungsbildung der Bürger*innen?

Sie spielt eine große Rolle – aber gleichzeitig dürfen wir auch nicht missachten, dass Menschen auf ganz unterschiedliche Weise mit sozialen Medien umgehen und wir Rahmenbedingungen setzen können. Ich bin kein Freund davon zu sagen: „Die Technologie allein ist schuld.“ Denn wir können Regeln für Online-Plattformen festlegen, wir können die Rechtsdurchsetzung im Internet verbessern, wir können in Medien- und Demokratiekompetenz investieren. Wenn wir uns nur die Technologie anschauen, verlieren wir den Blick aufs Ganze.

Haben Sie konkrete Ideen, wie Algorithmen digitale Partizipationsprozesse unterstützenkönnen, bzw. wie algorithmische Entscheidungsfindung demokratisch kontrolliert werden kann?

Wir müssen die systemischen Risiken besser verstehen, die von Online-Plattformen ausgehen. Im Rahmen des Digitale-Dienste-Gesetzes soll nun der Zugang zu Daten von Online-Plattformen verbessert werden, um eben solche Risiken erforschen zu können. Das ist ein wichtiger Schritt. Aber wir müssen auf Basis der erkannten Risiken dann auch Verbindlichkeiten für die Online-Plattformen schaffen. Generell braucht es mehr Transparenz zu Systemen des automatisierten Entscheidens – auch unabhängig von den großen Online-Plattformen. Ihre Entscheidungsfindung darf nicht intransparent bleiben, sondern wir brauchen Mitspracherecht, um ihre gesellschaftlichen und individuellen Risiken einzudämmen. ​

Inwiefern (oder unter welchen Umständen) können gewinnorientierte Plattformen gemeinwohlorientierte Leistungen erbringen?

Wir können relativ sicher sagen, dass das werbefinanzierte Modell von großen Plattformen mit vielen Problemen einhergeht – hier geht es darum, Aufmerksamkeit zu schaffen, Menschen möglichst lang auf den Plattformen zu halten, Interaktionen zu steigern. Die Art der Interaktion ist dabei nachrangig. Das ist ein großes Problem. Wir sollten mehr darüber nachdenken, was es bedeutet, wenn große Online-Plattformen quasi zu Infrastrukturen unserer demokratischen Gesellschaft werden. Hier gibt es durchaus Spannungen zu ihrer Gewinnorientierung.

Zur Person

Dr. Anne Mollen ist Senior Policy and Advocacy Managerin bei AlgorithmWatch. Dort widmet sie sich schwerpunktmäßig ADM-Systemen und der öffentlichen Meinungsbildung, der Nachhaltigkeit von ADM-Systemen sowie dem Einsatz von ADM am Arbeitsplatz. In verschiedenen Projekten hat sie zum Zusammenhang von digitalen Medientechnologien, Gesellschaft und Demokratie geforscht.