Navigation überspringen

Internet - Datenschutz

Algorithmen

Logo der Algorithmenkampagne des MLR mit 4 Icons zum Thema Verbraucherschutz und dem Schriftzug

Was sind Algorithmen und wo finden sie Anwendung?

Algorithmen spielen eine wichtige Rolle im Verbraucheralltag. Ein Algorithmus ist eine Handlungsvorschrift, ein Rechenweg. Streng genommen sind auch Rezepte und Gesetze Algorithmen, meist sind mit dem Begriff aber Computerprogramme gemeint. Algorithmen geben Schritt für Schritt vor, wie ein Problem zu lösen ist. Sie sind aus dem Alltag nicht mehr wegzudenken und in den unterschiedlichsten Anwendungen zu finden. Beispielsweise wird auch die Vorgehensweise bei einem Getränke- oder Fahrkartenautomaten durch Algorithmen gesteuert. Soweit so harmlos.

Aus Verbrauchersicht bedeutsam wird es jedoch dann, wenn Algorithmen die digitalen Daten, welche Verbraucherinnen und Verbraucher im Netz hinterlassen, verknüpfen, analysieren und daraus Schlussfolgerungen erstellen. Sie klassifizieren Menschen mittels mathematisch-statistischer Verfahren, zum Beispiel anhand biographischer, wirtschaftlicher und verhaltensbezogener Daten. 

Positiv gesehen ermöglichen sie damit beispielsweise eine schnelle Routenplanung mit Navigationsgeräten und -programmen oder erleichtern die Suche von Informationen im Internet. Kritischer einzuschätzen ist jedoch, dass computergesteuerte Kreditwürdigkeitsprüfungen, auch Scoring genannt, personalisierte Werbeanzeigen oder die Profilbildung von Personen ebenso von Algorithmen vorgenommen werden können. Auch individuelle, auf persönlichen Daten und eigenem Verhalten basierende Versicherungstarife, sogenannte Telematiktarife, sind durch Algorithmen möglich. Dadurch nehmen Algorithmen entscheidenden Einfluss auf die Lebensgestaltung und die Wahlmöglichkeit von Verbraucherinnen und Verbrauchern.

Neben den Chancen, die z. B. eine maßgeschneiderte Angebotsvielfalt für die Verbraucherinnen und Verbraucher bieten kann, besteht damit auch das Risiko, dass Algorithmen auf falschen Annahmen beruhen oder diskriminierend sein können. Denn oft sind die Kriterien und die Datengrundlage dieser algorithmenbasierten Prozesse für die Verbraucher undurchsichtig. Vielfach bleibt sogar unklar, inwieweit diese Entscheidungen überhaupt rechtskonform sind. Verbraucherinnen und Verbrauchern fehlen zudem häufig die Möglichkeiten, solchen Entscheidungen zu widersprechen.

Nicht vertretbar wäre, wenn der zunehmende Einsatz von Algorithmen durch Unternehmen auch zu einer (wirtschaftlichen) Ungleichbehandlung von Verbraucherinnen und Verbrauchern beispielsweise aufgrund von Wohnort, Religion, sexueller Orientierung, Herkunft oder Ethnie führen und somit diskriminierend wirken würde.

Eine Regulierung von Algorithmen ist längst überfällig

Die Frage, wie die Autonomie der persönlichen Lebensgestaltung vor dem Hintergrund der Sammlung persönlicher Daten und deren Verwertung durch die Anbieter noch gewahrt werden kann, beschäftigt auch die Verbraucherpolitik in Baden-Württemberg.

Um beispielsweise diskriminierende Ergebnisse auszuschließen, müssen die Bewertungskriterien, die in eine solche Berechnung einfließen, aus Sicht des Verbraucherschutzes transparent sein. Hierzu bedarf es einer gesetzlichen Regulierung von Algorithmen beispielsweise durch Einrichtung und Ausgestaltung einer unabhängigen Kontrollinstanz. Interessante Ansatzpunkte bietet dafür insbesondere das Gutachten der von der Bundesregierung eingesetzten Datenethikkommission (DEK). Diese hat im Oktober 2019 umfangreiche Empfehlungen bezüglich einer Datenpolitik, dem Umgang mit Algorithmen, künstlicher Intelligenz und digitalen Innovationen vorgelegt.

Initiativen Baden-Württembergs

Seit Anfang 2017 setzt sich das Ministerium für Ländlichen Raum und Verbraucherschutz (MLR) bei der Bundesregierung für eine verbraucherpolitische Debatte der Algorithmenproblematik im Internet ein - bis hin zur Prüfung regulatorischer Schritte. Auf Initiative von Baden-Württemberg hat die 13. Verbraucherschutzministerkonferenz (VSMK) im April 2017 das Bundesministerium der Justiz und für Verbraucherschutz (BMJV) gebeten, die Einführung eines sogenannten ‚Algorithmen-TÜVs‘ zu prüfen. Die Ergebnisse von Algorithmen müssen für Betroffene transparent und nachvollziehbar sein. Das Thema wurde auch auf der 14. VSMK 2018 und der 15. VSMK 2019 intensiv diskutiert.
Daneben ist das MLR im Gespräch mit Experten und beobachtet die Entwicklungen bei der Algorithmenregulierung, um gegebenenfalls selbst Vorschläge oder Gesetzesinitiativen einzubringen.

Im Oktober 2019 startete das MLR die Kampagne Wir rechnen mit Ihnen – andere auch! #seiunberechenbar“ zur Information über Algorithmen und persönliche Daten im Netz. Auf der Kampagnen-Website können sich Verbraucherinnen und Verbraucher beispielsweise informieren, welchen Einfluss Algorithmen bei Finanzierungen, bei der Reisebuchung oder bei Bewerbungen ausüben. Außerdem werden konkrete Tipps gegeben, wie sich Verbraucherinnen und Verbraucher weniger ausrechenbar für Algorithmen‚ am besten „unberechenbar“ machen können. Experteninterviews, Filme und kurze Videoclips, die auch über die Social-Media-Kanäle des Ministeriums und auf dem Verbraucherportal gestreut werden, runden das Informationsangebot ab.

Wir setzen auf dieser Website Cookies ein. Diese dienen dazu, Ihnen Servicefunktionen anbieten zu können sowie zu Statistik-und Analysezwecken (Web-Tracking). Wie Sie dem Web-Tracking widersprechen können sowie weitere Informationen dazu finden Sie in unserer Datenschutzerklärung.