[featured_image

Die Autoren des Artikels "Auditing fairness under unawareness through counterfactual reasoning" schließen ihre Arbeit mit der Feststellung, dass die Anwendung von kontrafaktischem Denken in der Fairness-Forschung vielversprechend ist und dass ihre Untersuchung nur die Oberfläche des Potenzials dieser Methode kratzt. Sie stellen fest, dass ihr Ansatz, der auf kontrafaktischem Denken basiert, effektiv zur Aufdeckung von Voreingenommenheit in KI-Entscheidungsmodellen ist und die gängigen statistischen Metriken ergänzt, die üblicherweise zur Bewertung des Fairness-Niveaus verwendet werden.

Die Autoren weisen darauf hin, dass die Einstellung "Fairness unter Unbewusstheit", bei der sensible Merkmale nicht verwendet werden, nicht ausreicht, um Voreingenommenheit aufgrund von Proxy-Merkmalen zu mildern. Sie betonen, dass selbst "entzerrte" Algorithmen nicht vollständig verhindern können, dass diskriminierende Verhaltensweisen auftreten.

Die Autoren stellen fest, dass ihre Arbeit einige Einschränkungen hat, darunter die Unfähigkeit, klar zu identifizieren, welche Merkmale die wichtigsten im Entscheidungsprozess sind und gleichzeitig Proxy-Merkmale sind. Sie schlagen vor, in zukünftigen Versionen ihres Systems eine Feature-Importance-Methodik wie SHAP zu integrieren, um diese Einschränkung zu überwinden.

Zusammenfassend lässt sich sagen, dass die Autoren einen neuen Ansatz zur Aufdeckung und Beurteilung von Voreingenommenheit in KI-Entscheidungsmodellen vorstellen. Sie betonen die Bedeutung des kontrafaktischen Denkens in diesem Prozess und weisen auf die Notwendigkeit hin, weiterhin Methoden zur Verbesserung der Fairness in KI-Systemen zu erforschen und zu entwickeln.

Download
  • Version
  • Download
  • File Size 1.42 MB
  • File Count 1
  • Create Date 2023-07-05
  • Last Updated 2023-07-06