[featured_image

Der Artikel "Debiasing methods for fairer neural models in vision and language research: A survey" von Otávio Parraga und Kollegen ist eine umfassende Untersuchung von Methoden zur Entschärfung von Vorurteilen in neuronalen Modellen für die Forschung in den Bereichen Vision und Sprache. Die Autoren erkennen an, dass Vorurteile und Stereotypen in durch KI generierten Bildern ein Problem darstellen und bieten eine eingehende Diskussion über die Ursachen und mögliche Lösungsansätze.

Die Autoren identifizieren die Hauptursachen für Vorurteile und Stereotypen in KI-generierten Bildern als die Daten, auf denen die Modelle trainiert werden, und die Art und Weise, wie diese Modelle trainiert werden. Sie weisen darauf hin, dass die Daten, die zur Unterstützung des Trainings von Foundation Models (FMs) verwendet werden, Hunderte von Millionen oder sogar Milliarden von Instanzen enthalten. Daher ist die Anwendung von Vorverarbeitungstechniken zur Entschärfung von Vorurteilen aufgrund ihres potenziellen Einflusses auf die monetären Kosten und die Generalisierungsfähigkeiten nicht attraktiv.

Die Autoren stellen verschiedene Ansätze zur Vermeidung von Vorurteilen und Stereotypen in von Text-zu-Bild generierten Bildern vor. Sie diskutieren verschiedene Methoden zur Entschärfung von Vorurteilen, darunter Feinabstimmungs- und Aufforderungsansätze. Sie betonen auch die Bedeutung einer klaren Kommunikation über die Risiken solcher Technologien, um einen potenziellen Missbrauch von Algorithmen zu verhindern, und heben die Bedeutung der Open-Source-Bereitstellung solcher Modelle hervor, um die Entdeckung potenzieller Fairness-Probleme zu beschleunigen.

Darüber hinaus diskutieren die Autoren die Herausforderung der Fairness-Genauigkeits-Abwägung. Sie weisen darauf hin, dass es oft mathematisch unmöglich ist, mehrere Fairness-Metriken gleichzeitig zu optimieren, was die Praktiker dazu zwingt, die am besten geeignete Metrik zur Optimierung auszuwählen (was kontextabhängig ist). Sie stellen fest, dass es empirisch beobachtet wurde, dass ein Trade-off zwischen Fairness und Aufgabenleistung besteht und dass eine Erhöhung der Fairness oft zu einer geringeren Gesamtleistung führt.

Die Autoren schließen mit dem Hinweis, dass es nicht ausreicht, einfach neue neuronale Modelle bereitzustellen, ohne auf die potenziellen Schäden und Konsequenzen zu achten, die solche Modelle für benachteiligte Gruppen oder Einzelpersonen haben können. Sie hoffen, dass diese Untersuchung es Forschern ermöglicht, die Probleme, mit denen wir konfrontiert sind, schnell zu verstehen, und betonen, dass es nicht ausreicht, einfach neue neuronale Modelle bereitzustellen, ohne auf die potenziellen Schäden und Konsequenzen zu achten, die solche Modelle für benachteiligte Gruppen oder Einzelpersonen haben können.

Download
  • Version
  • Download
  • File Size 4.10 MB
  • File Count 1
  • Create Date 2023-07-04
  • Last Updated 2023-07-06