Digitale Technologien neigen dazu, bestimmte Gruppen von Nutzer:innen zu benachteiligen. Um dies zu verhindern, ist es notwendig zu verstehen, wie verschiedene Präferenzen in menschlicher Kognition und Sprache ihren Weg in ein digitales System finden und die Erfahrung der Nutzer:innen beeinflussen.
Wir haben die Entstehung von Bias bei der Entwicklung und dem Design von Chatbots entdeckt, indem wir den Einfluss der Geschlechtsidentität von Chatbot-Entwickler:innen auf die Erfahrung der Nutzer:innen experimentell untersucht haben. Dazu entwarfen 13 Entwickler:innen Chatbot-Dialoge, die danach 421 Nutzer:innen präsentiert wurden, ohne dass diese wussten, wer die Dialoge entwickelt hat. Das Geschlecht der Entwickler:innen hatte einen völlig impliziten Einfluss auf die affektiven Reaktionen der Nutzer. Wenn die Geschlechter von Nutzer:innen und Entwickler:innen übereinstimmten, zeigten die Nutzer:innen mehr positive und weniger negative Affekte. Die berufliche Erfahrung der Entwickler:innen reduzierte diesen Ähnlichkeits-Attraktions-Effekt der Geschlechtsidentität nicht. Da in der Praxis ein Großteil der Entwickler:innen männlich ist, kann man davon ausgehen, dass durch den von uns nachgewiesenen Effekt, männliche Nutzer in der Regel eine bessere Erfahrung bei der Nutzung von Chatbots und anderen digitalen Schnittstellen haben. Die Ergebnisse unterstreichen die Notwendigkeit, die geschlechtsspezifischen Identitäten von Entwickler:innen und ihre Auswirkungen auf das Design digitaler Technologien zu berücksichtigen, damit nichtdiskriminierende Systeme entwickelt werden können.
