Wang, Jialu, et al. “T2IAT: Measuring Valence and Stereotypical Biases in Text-to-Image Generation.”
Die Studie "T2IAT: Messung von Valenz und stereotypen Vorurteilen in der Text-zu-Bild-Generierung" von Wang, Jialu et al. untersucht die Vorurteile, die in Text-zu-Bild-Generierungsmodellen vorhanden sind. Die Autoren konzentrieren sich insbesondere auf die Messung von Valenz und stereotypen Vorurteilen.
Die Autoren führen eine Reihe von Tests durch, um die Vorurteile in den generierten Bildern zu messen. Sie verwenden den Impliziten Assoziationstest (IAT), um die Assoziationen zwischen verschiedenen Konzepten und Attributen zu messen. Sie führen Valenztests durch, um die Assoziationen zwischen verschiedenen Konzepten und angenehmen oder unangenehmen Attributen zu messen. Sie führen auch Stereotypentests durch, um die Assoziationen zwischen verschiedenen Konzepten und geschlechtsspezifischen Attributen zu messen.
Die Autoren stellen fest, dass die generierten Bilder nicht nur nicht schädliche menschliche Vorurteile, sondern auch feindselige stereotypische Vorurteile wie interrassische, intrarassische und sexuelle Vorurteile aufweisen. Sie führen Tests durch, um die Vorurteile in Bezug auf verschiedene Konzepte wie Karrieren, Religionen, Hauttöne usw. zu messen. Sie stellen fest, dass es eine signifikante Vorurteilshaltung gegenüber Menschen mit gerader sexueller Orientierung und Unbehagen gegenüber Menschen mit homosexueller Orientierung gibt.
Die Autoren führen auch Stereotypentests durch, um die Vorurteile in Bezug auf Geschlecht und Karriere zu messen. Sie stellen fest, dass Karriere signifikant stärker mit Männern als mit Frauen assoziiert ist. Sie führen auch Tests durch, um die Vorurteile in Bezug auf verschiedene Berufe zu messen. Sie stellen fest, dass bestimmte Berufe stärker mit Männern assoziiert sind, während andere Berufe stärker mit Frauen assoziiert sind.
Die Autoren untersuchen auch, ob die generierten Bilder die impliziten Stereotypen in den textuellen Darstellungen, die zur Leitung der Bildgenerierung verwendet werden, verstärken. Sie stellen fest, dass die Assoziationen für die meisten Berufe auf einer großen Skala verstärkt werden.
Die Autoren schließen ihre Studie mit der Feststellung, dass die Text-zu-Bild-Generierungsmodelle sowohl Valenz- als auch stereotypische Vorurteile aufweisen. Sie betonen, dass weitere Forschung notwendig ist, um diese Vorurteile zu verstehen und zu bekämpfen. Sie argumentieren, dass es wichtig ist, die Vorurteile in den generierten Bildern zu messen, um ein besseres Verständnis der Vorurteile in den Generierungsmodellen zu erhalten.
In Bezug auf die Erkennung und Minderung von Vorurteilen stellen die Autoren fest, dass ihre Methode zur Messung von Vorurteilen in den generierten Bildern ein wichtiger erster Schritt zur Erkennung und Minderung von Vorurteilen in Text-zu-Bild-Generierungsmodellen ist. Sie betonen,dass es wichtig ist, die Vorurteile in den generierten Bildern zu messen, um ein besseres Verständnis der Vorurteile in den Generierungsmodellen zu erhalten. Sie argumentieren, dass die Messung von Vorurteilen in den generierten Bildern dazu beitragen kann, die Vorurteile in den Generierungsmodellen zu identifizieren und Strategien zur Minderung dieser Vorurteile zu entwickeln.
Die Autoren betonen auch die Notwendigkeit, die Vorurteile in den Trainingsdaten, die zur Leitung der Bildgenerierung verwendet werden, zu berücksichtigen. Sie argumentieren, dass die Trainingsdaten eine wichtige Rolle bei der Formung der Vorurteile in den generierten Bildern spielen und dass es wichtig ist, die Vorurteile in den Trainingsdaten zu messen und zu mindern, um die Vorurteile in den generierten Bildern zu mindern.
Die Autoren betonen auch die Notwendigkeit, die Auswirkungen der Vorurteile in den generierten Bildern auf die Nutzer der Generierungsmodelle zu berücksichtigen. Sie argumentieren, dass die Vorurteile in den generierten Bildern die Wahrnehmungen und Einstellungen der Nutzer beeinflussen können und dass es wichtig ist, die Auswirkungen dieser Vorurteile auf die Nutzer zu verstehen und zu mindern.
Die Autoren schließen ihre Studie mit der Feststellung, dass weitere Forschung notwendig ist, um die Vorurteile in Text-zu-Bild-Generierungsmodellen zu verstehen und zu bekämpfen. Sie betonen, dass ihre Studie ein wichtiger erster Schritt in diese Richtung ist und hoffen, dass ihre Ergebnisse dazu beitragen werden, das Bewusstsein für die Vorurteile in Text-zu-Bild-Generierungsmodellen zu erhöhen und Strategien zur Minderung dieser Vorurteile zu entwickeln.
- Version
- Download
- File Size 14.96 MB
- File Count 1
- Create Date 2023-07-06
- Last Updated 2023-07-06