Deutsche Vereinigung für Politikwissenschaft
11.01. - 02.02.2022

Online-Vortragsreihe: Zu treuen Händen? Verbraucherdatenschutz und digitale Selbstbestimmung

Vortrag 12: Digitale Selbstbestimmung und Datensouveränität durch Datenintermediäre? Eine Kritik am Beispiel der Datenschutzgrundverordnung (DSGVO) und dem Versuch einer risiko-basierten Regulierung von KI und automatisierten Entscheidungssystemen (AES)

Dienstag, den 11. Januar 2022, 13:00 Uhr – 14:30 Uhr

Christian Wadephul, M. A. (Stuttgart, vormals Institut für Technikfolgenabschätzung und Systemanalyse, ITAS des Karlsruher Instituts für Technologie, KIT)

Obwohl der Entwurf eines Data Governance Acts (DGA) explizit Datentreuhandmodelle vorsieht, bleibt – gerade nach den vielen kritischen Stimmen in dieser Vortragsreihe (etwa von Schneider und Pohle) – fraglich, ob Datenintermediäre überhaupt als Lösung für die Konflikte zwischen Datenschutz- und Datenverwertungsinteressen dienen sollten. Befriedigende Antworten auf die folgenden beiden dringlichen Fragen stehen weiterhin aus: Wie kann die informationelle Selbstbestimmung und Datensouveränität derjenigen, die Daten zur Verfügung stellen, gewahrt werden? Welche Regulierung ist notwendig, um informationelle Selbstbestimmung zwischen einer kommerziellen und einer am Gemeinwohl orientierten Nutzung zu sichern? Das Problem datenschutzrechtlicher Grauzonen ist für eine Regulierung der Datenökonomie insofern von zentraler Bedeutung, als ein erheblicher Angriff auf Grundrechte zu beobachten ist (Stichworte: Diskriminierung durch Algorithmen, Machtasymmetrie durch Plattformgiganten etc.). Deshalb sind zusätzliche regulatorische Vorgaben zum geltenden Recht überfällig. Doch leider bleibt der Datenschutz auch nach Einführung der DSGVO noch zahnlos – und das obwohl sich nicht nur aus diesem Gesetz, sondern auch dem kürzlich veröffentlichten Verordnungsentwurf zur Regulierung der Künstlichen Intelligenz der EU-Kommission Anknüpfungspunkte für ein „Recht auf Erklärung“ bezüglich der investierten (Software-)Verfahren („Algorithmen“) entnehmen lässt. Als andere Seite von „Big Data“ enthalten die neuartigen (Software-)Verfahren, also „Algorithmen“ und „Künstliche Intelligenz“ (KI), diejenigen Regelsysteme, die entscheidend dafür sein können, welche Schlussfolgerungen aus Datenverarbeitungen gezogen und welche Bewertungen und Entscheidungen über Personen getroffen werden. Sie dienen dementsprechend nicht mehr allein der Automatisierung der Datenverarbeitung sowie der Informations- und Wissensgenerierung, sondern sind zunehmend auch Kernelemente von Systemen der automatisierten Entscheidungsunterstützung oder -durchführung.

Mittlerweile finden sich jedoch zahlreiche Anhaltspunkte, dass existierende oder künftige Anwendungen von KI und automatisierten Entscheidungssystemen (AES) Risiken und konkrete Beeinträchtigungen von Menschen- und Verfassungsrechten und weiteren gesellschaftlichen Grundwerten wie Demokratie und Rechtsstaatlichkeit haben. Zum (auch präventiven) Schutz der Grundrechte und -werte sind zahlreiche Vorschläge zur Regulierung von KI und AES unterbreitet worden, wobei risiko-basierte Ansätze überwiegen – etwa im Weißbuch Europäische Kommission (2020), ebenso AI HLEG (2019), Datenethikkommission (2019) oder Council of Europe (2020). Dabei stellt die risiko-basierte Regulierung nur eine von vielen Formen der Risikoregulierung dar, mit der Ressourcen der Regulierungsbehörde geschont werden sollen, indem sie sich auf diejenigen Regulierungsobjekte fokussiert, denen ein hohes Risiko zugeschrieben wird. Hierbei drängt sich die Frage auf, ob der risiko-basierte Ansatz die betroffenen Schutzgüter erfassen kann und welche normativen Entscheidungen über gefährdete Grundrechte und akzeptable Risiken an welcher Stelle getroffen werden (sollten).

Im Vortrag werden die Herausforderungen für eine Risikoregulierung von KI und AES dargestellt, die sich vor allem in der normativen Ambiguität bei der Risikobestimmung und -bewertung zeigt. Sie erfordert umfangreiche politische Prozesse, bevor eine Risikoregulierung eingerichtet und betrieben werden kann. Des Weiteren werden einzelne Vorschläge zum Ausbau der Risikoregulierung unterbreitet, um der Gefahr des Regulierungsversagens zu entgehen. So scheint es – auch und vor allem zur Stärkung des Datenschutzes – notwendig zu sein, neben dem Element der risiko-basierten Regulierung auch allgemein verbindliche Anforderungen bzw. Prinzipien (etwa das Vorsorgeprinzip) zu entwickeln und anzuwenden, die für KI- und AES-Anwendungen gelten sollten.

--

Vortrag 13: Die Regulierung von Datenintermediären: Der Entwurf des Data Governance Act

Donnerstag, den 20. Januar 2022, 13:00 Uhr – 15:00 Uhr

Professor Dr. Moritz Hennemann (Universität Passau)

Der Data Governance Act ist Teil der umfassenden Regulierungsbestrebungen der Europäischen Union in Bezug auf den Umgang mit und die Nutzung von Daten. Als Ausfluss Ihrer Datenstrategie hat die Europäische Union verschiedene Vorschläge vorgelegt (Digital Markets Act, Digital Services Act, Data Governance Act). Weitere Vorschläge sind angekündigt. Der Vorschlag des Data Governance Act umfasst Regelungen zu Daten öffentlicher Einrichtungen, zu Datenintermediären und zum Datenaltruismus. Im Vortrag soll der Data Governance Act vor dem Hintergrund der geltenden Rechtsordnung eingeordnet werden und im Schwerpunkt die Regelungen zu Datenintermediären (oder auch Datenmittlern) vorgestellt und diskutiert werden. Abschließend werden die vorgeschlagenen Neuregelungen mit Blick auf die globalen Entwicklungen im Datenrecht bewertet.

--

Vortrag 14: Datenschutz im Internet der Dinge: Können Datentreuhänder helfen?

Donnerstag, den 20. Januar 2022, 13:00 Uhr – 15:00 Uhr

Dr. Zinaida Benenson (Friedrich-Alexander-Universität Erlangen-Nürnberg)

Internet of Things (IoT) verspricht, unseren Alltag durch allgegenwärtige Automatisierung zu erleichtern. Insbesondere soll alles „smart“ werden: smarte Beleuchtung schaltet sich ein, wenn man nach Hause kommt; smarte Heizung passt Temperatur und Luftfeuchtigkeit den Präferenzen der Bewohner an; smarter Saugroboter erstellt den Plan der Wohnung, um effizient saugen zu können; smarte Türklingel filmt die Besucher; smarte Türschlösser lassen den Paketboten rein und smarte Hauskamera beobachtet, dass er nur in einen vorher bestimmten Bereich der Wohnung geht; smarte Alarmanlagen schützen vor unbefugten Zutritt. Und das Ganze wird mithilfe von Smartphone-Apps und smarten Sprachassistenten verwaltet. Solche smarten Systeme gibt es nicht nur in privaten Wohnungen und Häusern, sondern auch in Bürogebäuden, Fabriken, Hotels.

Um smart zu sein, sammeln all diese Systeme persönliche Daten, und verraten teilweise sehr viel über die Menschen, die sich in ihrer Nähe aufhalten – seien es die Besitzer der Systeme, ihre bewussten Benutzer oder Unbeteiligte, die eventuell gar nicht wissen, dass das System da ist. Folgen dieses Datensammelns sind für Laien sehr schwer einzuschätzen, und auch in der Industrie und in der akademischen Forschung noch nicht ausreichend untersucht. So stellte sich in der Vergangenheit heraus, dass intelligente Strommesser, falls sie mit einer hohen Granularität den Energieverbrauch in Haushalten messen, den Tagesablauf der Bewohner, die im Haushalt vorhandenen Geräte, und sogar angeschaute Fernsehprogramme bestimmen lassen. Diese Forschung hat dazu geführt, dass für Smart Metering in Deutschland hohe Datenschutzanforderungen gelten. Für andere smarte Systeme sind diese Anforderungen jedoch weitgehend nicht festgelegt.

Aktuelle Forschung im Bereich Datenschutz in smarten Systemen zeigt, dass die Gefahren, die von smarten Systemen ausgehen, den Verbraucher:innen weitgehend nicht bewusst sind. Deswegen stellt sich die Frage, ob die Verbraucher:innen unter diesen Umständen überhaupt in der Lage sind, ihre Präferenzen zu bestimmen und an Dritte, zum Beispiel an Datentreuhänder, zu kommunizieren.

--

Vortrag 15: Datenintermediäre als Fairness-Akteure in der Datenökonomie

Dr. Jonathan Kropf, Professor Dr. Jörn Lamla und Dr. Markus Uhlmann (Universität Kassel)

Mittwoch, den 2. Februar 2022, 13:00 Uhr – 14:30 Uhr

Herausforderungen der Datenökonomie werden zunehmend unter Gesichtspunkten der Fairness diskutiert. Zentral ist dabei die Einsicht, dass neben Problemen der missbräuchlichen Verwendung personenbezogener Daten verstärkt Fragen nach der gerechten Verteilung datenökonomischer Erlöse oder der Manipulation und Diskriminierung durch Algorithmen relevant werden. Dabei kann die Frage der Fairness als Frage der fairen Vermittlung verschiedener Werte verstanden werden, bei der auch Trade-offs und Grenzen von Modellen der Wertvermittlung reflektiert werden müssen. Während etwa Aspekte der Verteilungsgerechtigkeit den Maßstab des Geldes nahelegen, sind Selbstbestimmungsrechte für viele unbezahlbar und nicht ohne Weiteres in monetäre Vergleichsmaßstäbe übersetzbar.

Zur Konzeptualisierung datenökonomischer Fairness unterscheiden wir drei Ebenen: Erstens wird sondiert, inwiefern sich unterschiedliche Werte in eine übergreifende ökonomische Sprache der Preise übersetzen und darin fair verrechnen lassen (Verrechnung). Zweitens wird ausgelotet, inwiefern durch ökonomische Gestaltungsmacht mit technischen Mitteln eine faire Koexistenz verschiedener Wertordnungen realisiert werden kann (Design). Drittens wird geprüft, inwiefern durch Prozesse der Konfliktmediation seitens der Datenintermediäre eine Kultur der Fairness befördert werden kann, die eine Aushandlung von Wertkonflikten durch Beteiligte und Betroffene ermöglicht (Kultivierung).  Im Vortrag möchten wir diese Perspektive auf datenökonomische Fairness, die wir im interdisziplinären BMBF-Verbundprojekt „Faire digitale Dienste: Ko-Valuation in der Gestaltung datenökonomischer Geschäftsmodelle (FAIRDIENSTE)“ ausloten, exemplarisch auf Ansätze und Projekte der Datentreuhänderschaft beziehen. Inwiefern können Datenintermediäre als Fairness-Akteure in der Datenökonomie auftreten und wirken? Welche Fairnesskonzepte zeigen sich in ihren Lösungsmodellen und wie sind diese mit Blick auf Aspekte einer fairen Wertvermittlung und der zugehörigen (theoretischen) Diskussion über Fairness in der Datenökonomie einzuschätzen?


Informationen zur Tagungsreihe mit Anmeldemöglichkeit und Dokumentation der bisherigen Vorträge (YouTube-Videos):https://www.verbraucherforschung.nrw/zu-treuen-haenden-tagungsreihe-datenintermediaere-datentreuhaender-60831