Können Algorithmen objektiv sein, wenn sie mit potenziell voreingenommenen Daten trainiert wurden?

Die kurze Antwort lautet: Nein. Ein Algorithmus kann nicht objektiv sein, wenn die Daten, mit denen er trainiert wurde, voreingenommen (biased) sind.

In der Informatik gibt es dafür das Prinzip „Garbage In, Garbage Out“ (Müll rein, Müll raus). Wenn die Eingabedaten Vorurteile, soziale Ungleichheiten oder statistische Fehler enthalten, wird der Algorithmus diese Muster nicht nur lernen, sondern oft sogar verstärken.

Hier sind die wichtigsten Gründe, warum Algorithmen unter diesen Umständen ihre Objektivität verlieren:

1. Daten sind ein Spiegel der Gesellschaft

Daten fallen nicht vom Himmel; sie sind Aufzeichnungen menschlichen Verhaltens und historischer Entscheidungen.

• Beispiel Rekrutierung: Wenn ein KI-System für Bewerbungen mit Daten aus den letzten 20 Jahren trainiert wird, in denen hauptsächlich Männer für Führungspositionen eingestellt wurden, lernt der Algorithmus: „Männlichkeit ist ein Merkmal für Erfolg“. Er wird Frauen dann automatisch schlechter bewerten, selbst wenn das Geschlecht explizit gar nicht als Kriterium genannt wird (da er Korrelationen über Hobbys oder Sprache findet).

2. Das Problem der „Neutralität“

Algorithmen sind mathematisch gesehen neutral – sie führen Berechnungen aus. Aber genau diese mathematische Neutralität ist das Problem. Ein Algorithmus hinterfragt nicht, warum ein Muster existiert. Er sieht eine Korrelation in den Daten und behandelt sie als objektive Wahrheit. Er unterscheidet nicht zwischen einer „naturwissenschaftlichen Gesetzmäßigkeit“ und einer „gesellschaftlichen Ungerechtigkeit“.

3. Verstärkungseffekte (Feedback Loops)

Algorithmen neigen dazu, Mehrheiten zu bevorzugen und Minderheiten zu benachteiligen, da sie auf statistische Wahrscheinlichkeiten optimiert sind.

• Beispiel Predictive Policing: Wenn die Polizei aufgrund historischer Daten öfter in Viertel mit hohem Minderheitenanteil geschickt wird, wird sie dort mehr Verbrechen finden (weil sie dort präsent ist). Diese neuen Daten fließen zurück in den Algorithmus, der dann für die Zukunft noch mehr Patrouillen in diesen Vierteln empfiehlt. Ein Teufelskreis entsteht.

4. Voreingenommenheit bei der Datenauswahl (Sampling Bias)

Oft sind die Daten nicht repräsentativ.

• Beispiel Gesichtserkennung: Viele KI-Modelle zur Gesichtserkennung wurden primär mit Fotos weißer Männer trainiert. In der Folge ist die Fehlerquote bei Frauen und Menschen mit dunklerer Hautfarbe massiv höher. Der Algorithmus ist hier technisch „blind“ für Vielfalt, weil er sie nie gelernt hat.

5. Die Rolle der Entwickler

Auch die Menschen, die den Algorithmus programmieren, bringen unbewusste Vorurteile ein. Sie entscheiden:

• Welche Daten werden genutzt?
• Welche Merkmale werden ignoriert?
• Was definiert „Erfolg“ für das System? Diese Entscheidungen sind subjektiv und fließen in die Architektur des Algorithmus ein.

Kann man das beheben?

Man spricht heute weniger von „objektiven“ Algorithmen, sondern von „Algorithmic Fairness“. Es gibt Ansätze, um Voreingenommenheit zu reduzieren:

• Debiasing: Man versucht, diskriminierende Faktoren mathematisch aus den Daten oder den Modellen herauszufiltern.
• Diverse Teams: Entwicklerteams sollten so divers wie möglich sein, um blinde Flecken bei der Datenwahl zu minimieren.
• Audits: Unabhängige Prüfungen von Algorithmen auf ihre sozialen Auswirkungen (ähnlich wie beim EU AI Act vorgesehen).

Fazit

Ein Algorithmus ist kein unabhängiger Schiedsrichter, sondern ein statistischer Spiegel. Wenn die Welt, aus der die Daten stammen, ungerecht oder voreingenommen ist, wird es auch der Algorithmus sein. Wahre „Objektivität“ ist in sozialen Kontexten kaum erreichbar; das Ziel muss daher Transparenz und Korrigierbarkeit sein.