Sie sind hier: Home » Fachartikel » Hintergrund

Datennutzung und ethische Verantwortung


Chief Ethics Officer: Warum zeitgemäße Datennutzung einen neuen Experten braucht
Einseitige Datengrundlage führt zu Ungerechtigkeit



Autor David Sweenor
Autor David Sweenor Das menschliche Gehirn unterliegt häufig Formen kognitiver Verzerrungen, die zu einer fehlerhaften Schlussfolgerung und Entscheidungsfindung führen können. Das ist ganz natürlich, aber diese menschliche Form der Voreingenommenheit kann sich auch in KI-Ergebnissen niederschlagen. Genau an dieser Stelle kommt der Chief Ethics Officer ins Spiel, Bild: Alteryx

Von David Sweenor, Senior Director of Product Marketing, Alteryx

Große Datenmengen und die Erkenntnisse, die darin verborgen liegen, sind aus der deutschen Wirtschaft nicht mehr wegzudenken. Wie eine Bitkom-Umfrage ergab, sammelt die überwiegende Mehrheit der Unternehmen bereits Informationen, um sie zu analysieren und die Ergebnisse zur Optimierung interner Prozesse und zur Steigerung des Geschäftswerts zu nutzen. Gleichzeitig übersehen jedoch die meisten, dass mit diesem Erfolg eine neue Verantwortung einhergeht.

Um wirklich gewinnbringende Ergebnisse erzielen zu können, sollten im ersten Schritt grundlegende Schritte durchlaufen werden, die ganz konkret die Datenherkunft und -verwaltung betreffen. Vor allem dann, wenn KI-Technologien genutzt werden, spielt das eine essenzielle Rolle, denn die Qualität der verwendeten Daten hier das wichtigste Kriterium. Wenn es jedoch an Nachvollziehbarkeit mangelt, besteht die Gefahr, dass die Ergebnisse verzerrt werden, was zu verfälschten Entscheidungen führt. Und diese können fatale Ungerechtigkeiten nach sich ziehen. Dadurch wird im schlimmsten Fall nicht nur die Privatsphäre der Daten kompromittiert. Auch die Benachteiligung von Frauen oder Angestellten mit Migrationshintergrund könnte zusätzlich verstärkt werden – und das ist nicht nur für jene Unternehmen, die sich dazu verpflichtet haben, die Diversität ihrer Teams aktiv voranzutreiben, ein echtes Problem.

Während deutsche Unternehmen also von der Konsolidierung und Analyse ihrer Daten aus einer Vielzahl von Quellen profitieren, um den Geschäftswert zu steigern, müssen sie auch die Verantwortung für Entscheidungen übernehmen, die das Unternehmen anhand der Daten trifft. Deshalb sind sie in der Pflicht, sicherzustellen, dass die verwendeten Datensätze keine Verzerrungen enthalten. Doch wie schützt man sich vor unbewussten, aber oft schädlichen Vorurteilen? Indem man einen neuen Experten ins Spiel bringt – und das sind die Chief Ethics Officer. Ihre Aufgabe ist es nicht, die Datennutzung weiter zu erschweren. Ihr Ziel sollte vielmehr darin bestehen, einwandfreie Ergebnisse zu gewährleisten, die Deutschland nicht nur wirtschaftlich, sondern auch sozial und ethisch voranbringen.

Einseitige Datengrundlage führt zu Ungerechtigkeit
Die Bereitstellung von vorurteilsfreien Produkten und Dienstleistungen stellt bereits seit Jahrzehnten eine große Herausforderung dar. Das beginnt bei der Dosierung von Medikamenten und reicht bis zum Sicherheitskonzept gängiger Automodelle – denn beides ist an den Werten eines Durchschnittmanns orientiert. Diese einseitige Datengrundlage kann für Frauen gravierende Konsequenzen nach sich ziehen, zum Beispiel weil sie im Falle eines Verkehrsunfalls ein deutlich höheres Risiko haben, verletzt zu werden oder sogar zu sterben.

In den letzten Jahren wurde auch festgestellt, dass Daten, die in Modellen zur automatischen Überprüfung von Lebensläufen verwendet werden, weibliche Bewerber, benachteiligen. Ähnliches gilt für Modelle, die zur Unterstützung von Richtern bei der Überprüfung von Strafurteilen zum Einsatz kommen, schwarze Angeklagte benachteiligen. Am Ende mussten beide zurückgezogen werden, da die verwendeten Daten eine sorgfältige menschliche Kontrolle erfordern.

Ähnlich unfair kann auch die Besetzung einer Führungsposition sein, wenn die dafür verwendeten Informationen ein sehr einseitiges Bild zeichnen. Sogar Amazon hat seinen eigenen KI-Rekrutierungsalgorithmus wieder eingestellt, da sich herausstellte, dass die verwendeten Lebensläufe überwiegend von Männern stammten, was zu einer unbeabsichtigten Benachteiligung von Frauen führte.

Die Datenlage, auf die sich der Arbeitsmarkt genauso wie die Erstellung neuer Produkte stützt, ist ungerecht. Das beginnt bei der Dosierung von Medikamenten und reicht bis zum Sicherheitskonzept gängiger Automodelle – denn beides ist an den Werten eines Durchschnittmanns orientiert. Diese einseitige Datengrundlage kann für Frauen gravierende Konsequenzen nach sich ziehen, zum Beispiel weil sie im Falle eines Verkehrsunfalls ein deutlich höheres Risiko haben, verletzt zu werden oder sogar zu sterben.

Ähnlich ungerecht kann auch die Besetzung einer Führungsposition ausfallen, wenn die hierfür herangezogenen Informationen ein sehr einseitiges Bild darstellen. Amazon liefert ein eindrückliches Beispiel hierfür: Um Bewerbungen schneller bearbeiten zu können, führte der Handelsriese eine automatische Kandidatenbewertung ein. Aus dem verwendeten Datensatz ging jedoch hervor, dass hohe Positionen in der Vergangenheit überwiegend durch Männer besetzt worden waren, was dazu führte, dass auch jetzt männliche Bewerber bevorzugt und Frauen systematisch benachteiligt wurden.

Eine McKinsey-Studie ergab sogar, dass eine hohe Geschlechtervielfalt in Unternehmen die Wahrscheinlichkeit, überdurchschnittlich profitabel zu sein, um 25 Prozent erhöht. Gleiches gilt für die ethnische Vielfalt der Vorstandsmitglieder, hier sind es sogar 36 Prozent. Der wirtschaftliche Erfolg eines Unternehmens hängt also eindeutig mit der Frage zusammen, wie vielfältig es aufgestellt ist.

Verzerrungen wie diese können für Unternehmen ein erhebliches Problem darstellen. Viele haben sich inzwischen eine Frauenquote auferlegt und könnten diese mit einer unethischen Datennutzung unterbinden. Aber viele haben längst verstanden, dass diverse Teams ein elementarer Bestandteil ihres Erfolgs darstellen. Eine Erhebung von McKinsey hat sogar ergeben, dass eine hohe Gender-Diversität die Wahrscheinlichkeit, überdurchschnittlich profitabel zu sein, um 25 Prozent steigert. Ähnliches gilt für die ethnische Diversität der Vorstandsmitglieder, wobei der Wert hier sogar bei 36 Prozent liegt. Der Geschäftserfolg eines Unternehmens steht somit in eindeutigem Zusammenhang mit der Frage, wie divers es aufgestellt ist.

Ethische Datennutzung macht neue Expertenrolle unverzichtbar
Um auch zukünftig dem enormen Konkurrenzdruck standhalten zu können, ist es wichtig, dass immer mehr Mitarbeiter Daten in ihre tägliche Arbeitsroutine einbeziehen. Sei es, um einen besseren Kundenservice leisten, wirkungsvollere Werbekampagnen erstellen oder Schwachstellen bei Produkten schneller identifizieren zu können. Um beurteilen zu können, ob die verfügbaren Datensätze hierfür passend, ausreichend groß und divers genug sind, muss jedoch sichergestellt werden, dass die Mitarbeiter über das notwendige Fachwissen verfügen. Nur so werden sie in der Lage sein, etwaige Verzerrungen aufzudecken und eine ethische Entscheidungsfindung über alle Abteilungen hinweg zu ermöglichen.

Beim Umgang mit großen Datenmengen gibt es zahlreiche Stolpersteine, die ihrer ethischen Nutzung im Wege stehen können. Stammen die verwendeten Datensätze aus einer ausreichend großen Stichprobe? Auf welche Weise wurde es gewonnen? Bildet es die Vielfältigkeit der Realität ab oder kommen gewissen Merkmale überproportional häufig vor und könnten deshalb zu Verzerrungen führen? Und wie steht es um die Ergebnisse? Lassen sich aus ihnen tatsächlich zielführende Handlungsempfehlungen ableiten? Oder ist in ihnen eine Verzerrung versteckt, die gewisse Gruppen benachteiligen könnte? Und wann macht es Sinn, externe Daten hinzuzukaufen, um das zu vermeiden? Was für Daten müssten das sein? Und kommen eventuell auch synthetische Daten in Frage? Kurz gesagt: Wenn die erfassten Daten speziell für einen konkret definierten Zweck ausgewählt werden, wirft dies die Frage nach der unbewussten Voreingenommenheit der Person auf, die diese Entscheidung trifft, und kann ein erhebliches Hindernis für qualitativ hochwertige Erkenntnisse darstellen.

Das menschliche Gehirn unterliegt häufig Formen kognitiver Verzerrungen, die zu einer fehlerhaften Schlussfolgerung und Entscheidungsfindung führen können. Das ist ganz natürlich, aber diese menschliche Form der Voreingenommenheit kann sich auch in KI-Ergebnissen niederschlagen. Genau an dieser Stelle kommt der Chief Ethics Officer ins Spiel. Er muss über das richtige Know-how und die notwendigen zeitlichen Ressourcen verfügen, um sich voll und ganz auf die Etablierung einer ethischen Datennutzung und deren dauerhafte Sicherstellung konzentrieren zu können. Um ihn nicht zu überlasten, ist es sinnvoll, dafür zu sorgen, dass alle Fachexperten in Datenkompetenz geschult werden, damit sie mehr Einblick in die Datenerfassung und -analyse geben können. In Verbindung mit der Einrichtung eines Data-Governance-Rahmens sorgt dies für Transparenz, Verantwortlichkeit und Integrität bei der Datenerfassung und -sammlung.

Datennutzung bringt ethische Verantwortung mit sich
Bis 2025 soll die weltweit generierte Datenmenge 175 Zettabyte betragen – das ist eine 175 mit 21 Nullen. Dabei steigt vor allem das Volumen in Unternehmen rasant an und soll bis dahin 80 Prozent der Gesamtmenge ausmachen. Das bedeutet, dass auf ihrer Seite ein enormes Wissen liegen wird. Und weil Wissen immer auch Macht bedeutet, geht mit dem Besitz der gigantischen Informationsmengen auch ein gewisses Maß an Verantwortung einher. Dieser gerecht zu werden, ist schon heute die Aufgabe der Unternehmen, die nicht nur Profit machen, sondern sich gleichzeitig auch für eine bessere Welt einsetzen wollen. Ohne einen Chief Ethics Officer kann diese nicht Wirklichkeit werden. Ähnlich wie es die Aufgabe des Bundespräsidenten in Deutschland ist, die Debatten im Bundestag fair und unparteiisch zu führen, muss ein Chief Ethics Office eine ähnliche Unparteilichkeit und Fairness bei den im Unternehmensgeschäft verwendeten Daten sicherstellen.

Über den Autor
David Sweenor ist als Senior Director of Product Marketing bei Alteryx tätig. Im Bereich Analytik blickt er auf eine 20-jährige Erfahrung zurück, wobei er derzeit verschiedene globale Initiativen im Bereich Advanced Analytics verantwortet.
(Alteryx: ra)

eingetragen: 03.05.21
Newsletterlauf: 30.06.21

Alteryx: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.


Kostenloser Compliance-Newsletter
Ihr Compliance-Magazin.de-Newsletter hier >>>>>>


Meldungen: Hintergrund

  • Wer ist von der CSRD betroffen?

    Für Unternehmen ist der eigene ökologische Fußabdruck mittlerweile eine entscheidende erfolgsrelevante Steuerungsgröße geworden. Welche Investitionen und wirtschaftlichen Tätigkeiten sind ökologisch nachhaltig und ermöglichen es, sich am Markt positiv zu differenzieren? Die Erstellung einer Nachhaltigkeitsberichtserstattung nimmt darüber hinaus auch seitens der Aufsichtsbehörden und Regulatoren einen immer größeren Raum ein. Das Jahr 2023 startete bereits mit einem wichtigen Meilenstein für das ESG-Reporting – der Berichterstattung für die Bereiche Umwelt (Environmental), Soziales (Social) und verantwortungsvolle Unternehmensführung (Governance). Am 5. Januar 2023 ist die EU-Richtlinie über die Nachhaltigkeitsberichterstattung der Corporate-Sustainability-Reporting-Direktive (CSRD) in Kraft getreten. Diese führt zu einer umfangreichen und verbindlichen Nachhaltigkeitsberichterstattung.

  • Data Act könnte schon 2024 in Kraft treten

    Wir erleben es jeden Tag: Datenmengen steigen ins Unermessliche. Die Prognose der EU-Kommission erwartet allein in der EU zwischen 2020 und 2030 einen Anstieg des Datenflusses in Cloud- und Edge-Rechenzentren um 1500 Prozent - kein Tippfehler. Entsprechend riesig ist das wirtschaftliche Potential, denn Daten sind der zentrale Rohstoff etwa für das Internet of Things. Das wiederum wird von der EU im Jahr 2030 (1) auf eine wirtschaftliche Gesamtleistung auf bis zu elf Billionen Euro geschätzt. Somit ist der EU Data Act, der in einem ersten Entwurf im Frühjahr 2022 von der EU-Kommission vorgestellt wurde, in seiner Bedeutung für die Datenökonomie nicht zu unterschätzen. Es geht nämlich um die Rahmenbedingungen für den Austausch von Daten: Das heißt, alle Geschäftsmodelle, die auf vernetzten Produkten und Dienstleistungen beruhen, sind betroffen. Und die Zeit steht nicht still. Der Data Act könnte schon 2024 in Kraft treten.

  • Aufsichtsbehörden machen Ernst

    Der Datenschutz wurde durch die im Mai 2018 in Kraft getretene EU-Datenschutz-Grundverordnung (DSGVO) europaweit geschärft und die Rechte der Betroffenen gestärkt. Die Aufsichtsbehörden sind mittlerweile aktiv geworden und verhängen teils empfindliche Strafen, wenn Unternehmen und Konzerne mit dem Schutz der User- und Kundendaten zu lax umgehen. Unternehmen, die online Leads und Kunden generieren, sollten deswegen ein Auge auf die Details haben und nur mit seriösen Partnern zusammenarbeiten, die eine DSGVO-konforme Verarbeitung von Daten nachweisen können. Das Inkrafttreten der DSGVO im Mai 2018 rollte wie eine Schockwelle durch die Welt des Online-Business und der Leadgenerierung. Denn die europäische Datenschutzgrundverordnung hat den Schutz personenbezogener Daten ausgeweitet und verschärft. Ziel war es, ein europaweit gleich hohes Schutzniveau zu erreichen, die Verfahren gegen Verstöße zu vereinfachen und den Datenschutz dem technischen Fortschritt der Digitalisierung anzupassen.

  • Audit-Druck ebnet Weg hin zu Abo-Modellen

    Beim Thema Software-Audit kommen zwei historisch signifikante Zustände zusammen: Einerseits hat sich Europa insbesondere von US-Softwareanbietern stark abhängig gemacht und ist andererseits durch den omnipräsenten Digitalisierungsdruck bereit, die Situation trotz gelegentlicher gegenteiliger Verlautbarungen offenbar noch zu verschlimmern. Lesen Sie hier, was die Erfindung des Software-Audits damit zu tun hat.

  • Digitale Verwaltungsdienste ohne Datengrundlage?

    Deutsche Behörden tun sich schwer, ihre Angebote für Bürger und Bürgerinnen digital anzubieten. Das aktuelle Onlinezugangsgesetz (OZG) macht aber Bund, Ländern und Kommunen jetzt kräftig Druck. Geht es nach dem Gesetzgeber, sollen bis Jahresende rund 600 Verwaltungsdienstleistungen in digitaler Form bereitstehen - und zwar bundesweit.

Wir verwenden Cookies um unsere Website zu optimieren und Ihnen das bestmögliche Online-Erlebnis zu bieten. Mit dem Klick auf "Alle akzeptieren" erklären Sie sich damit einverstanden. Erweiterte Einstellungen