Algorithmen sind Computerprogramme, mit deren Einsatz menschliches Verhalten beeinflusst oder gar gesteuert werden kann. Die Gründe für die Empfehlungen, insbesondere bei der Werbeansprache sind nicht transparent. Eine Beschwerdestelle soll zu Klarheit verhelfen.

Rolf Schwartmann
Eine Kolumne
von Rolf Schwartmann
Diese Kolumne stellt die Sicht des Autors dar. Hier finden Sie Informationen dazu, wie wir mit Meinungen in Texten umgehen.

Suchmaschinen helfen uns nicht nur beim Suchen, sondern bestimmen auch was wir finden. Über Newsfeeds sozialer Netzwerke zeigen diese Programme uns an, was wir mögen und vor allem was wir als Werbekunden mögen sollen.

Die automatisierte Steuerung unserer Entscheidungen nimmt zu. Wie man am besten von A nach B kommt, entscheiden die Meisten schon lange nicht mehr ohne Hilfe eines Navigationssystems. Was die Empfehlungen des Algorithmus entscheidend begründet, wissen wir weder bei der Empfehlung einer Fahrtroute noch bei einer Kaufempfehlung.

Programme können Rechte verletzen

Es kann auch sein, dass eine Maschine so programmiert ist, dass sie uns in Rechten verletzt. Weil der Einzelne in der Regel keine Chance hat, nachzufragen, wie eine Empfehlung zustande gekommen ist, hat die Organisation Algorithmwatch nun "Unding" eingerichtet.

Das ist eine Art Stelle, bei der sich beschweren kann, wer den Rat einer Maschine nicht nachvollziehen kann, oder sich gar in Rechten verletzt sieht. Die Organisation beschreibt das Angebot als Botendienst, der das Anliegen an den richtigen Empfänger adressiert.

Anwendungsfall Werbeansprache

Ein praktischer Anwendungsfall des Beschwerdeinstruments ist möglicherweise auch algorithmenbasierte, kundenorientierte Werbeansprache. Dabei ist datengetriebene Werbung grundsätzlich ein von der Datenschutz-Grundverordnung (DSGVO) anerkanntes berechtigtes Interesse der Wirtschaft. Das Datenschutzrecht enthält Regeln zur Algorithmenkontrolle und nähert sich ihr über die sogenannte "automatisierte Entscheidungsfindung".

Damit eine solche vorliegt, muss eine Maschine "entscheiden". Das ist ein schiefes Bild. Denn nur Menschen entscheiden und verantworten sich. Algorithmen vollziehen Entscheidungen. Deshalb verpflichtet die DSGVO Verantwortliche, die unter Einsatz von Profiling und Scoring von Daten werben, Nutzern ganz im Sinne des Anliegens von Algorithmwatch Einblicke in das "Innenleben der Maschinenentscheidung" zu geben.

Scoring und Profiling unterscheiden sich

Hierbei unterscheidet das Recht zwischen Scoring und Profiling. Bei ersterem wird nicht nur Verhalten sortiert. Es muss vielmehr eine "echte Maschinenentscheidung" vorliegen. Entfaltet sie rechtliche oder dieser ähnliche Wirkung, dann ist sie nur zulässig wenn sie zur Vertragserfüllung erforderlich ist, oder mit Einwilligung des Nutzers erfolgt.

Die Prüfung der Bonität einer Kreditkarte ist eine solche "Maschinenentscheidung", die zum Abschluss eines Onlinegeschäfts erforderlich ist. Bei der Prüfung der Kreditwürdigkeit des Kunden geht es um mehr, denn sie sie ist für den Vertragsschluss bedeutsam. Weil sie für einen Vertragsschluss nicht zwingend erforderlich ist, darf sie nur mit informierter Einwilligung des Kunden erfolgen.

Mehr Wissensthemen finden Sie hier

So schnell wie kein anderer in Europa: Deutsche Forscher stellen Supercomputer JUWELS fertig

Forscher in Jülich haben kürzlich den Supercomputer JUWELS fertiggestellt. Für diese Zwecke wird der Rechner künftig eingesetzt. (Foto: iStock-ipopba)