Co-funded by the European Union. Views and opinions expressed are however those of the author or authors only and do not necessarily reflect those of the European Union or the Foundation for the Development of the Education System. Neither the European Union nor the entity providing the grant can be held responsible for them.

Modul 1 – Fairness und Bias in der KI

1. Was bedeutet „Bias“ im Kontext von KI?(Required)

Das KI-System arbeitet zu langsam.

Die KI behandelt bestimmte Personen oder Gruppen aufgrund unausgewogener Daten oder einer unausgewogenen Gestaltung unfair.

Die KI weigert sich, Fragen zu beantworten.

2. Welches der folgenden Beispiele veranschaulicht eine Verzerrung in den Trainingsdaten?(Required)

Ein Gesichtserkennungssystem, das hauptsächlich mit Bildern hellhäutiger Menschen trainiert wurde, schneidet bei dunkleren Hauttönen schlechter ab.

Ein KI-Chatbot, der in mehreren Sprachen antwortet

Ein KI-Modell, das die Rechtschreibung überprüft

Eine Suchmaschine, die aktuelle Ergebnisse zuerst anzeigt

3. Was sollten Sie gemäß den fünf einfachen Regeln in Modul 1 tun, bevor Sie KI für wichtige Informationen verwenden?(Required)

Teile es mit so vielen Menschen wie möglich.

Vertraue der KI voll und ganz, denn sie ist zuverlässiger als Menschen.

Überprüfen Sie es anhand einer verifizierten, seriösen Quelle.

Löschen Sie die Originaldaten unverzüglich.

4. Was ist „Selection Bias“ bei KI?(Required)

Wenn die KI die falsche Sprache wählt

Wenn die verwendete Datenstichprobe nicht repräsentativ für die Grundgesamtheit ist

Wenn ein Benutzer einen schlechten Prompt auswählt

Wenn ein KI-Tool zu teuer ist

5. Regel 4 der fünf Regeln besagt, dass Menschen die KI stets beaufsichtigen sollten. Warum ist das besonders wichtig?(Required)

Weil KI-Systeme niemals Fehler machen

Weil KI bei allem schneller ist als Menschen.

Weil KI in Bereichen mit weitreichenden Folgen – wie etwa bei der Personalauswahl oder im Gesundheitswesen – ungerechte Entscheidungen treffen kann.

Weil KI keinen Text verstehen kann

6. Was ist „Post-Deployment Bias“ oder „Feedback-Loop-Bias“?(Required)

Verzerrung, die nach dem Start eines Systems verschwindet

Eine Verzerrung, die im Laufe der Zeit zunimmt, während das System aus seinen eigenen Ausgaben lernt.

Verzerrung durch zu schnelles Tippen der Nutzer

Verzerrung, die ausschließlich von den Entwicklern eingebracht wird

7. Welchen Fehler machte das KI-System laut der Fallstudie zum KI-gestützten Recruiting bei Amazon?(Required)

Es hat Stellenangebote an die falschen E-Mail-Adressen gesendet.

Es stufte Lebensläufe von Frauen schlechter ein, da es aus voreingenommenen historischen Einstellungsdaten gelernt hatte.

Es akzeptierte nur Bewerber aus einem einzigen Land.

Es ist abgestürzt, bevor irgendwelche Anträge bearbeitet wurden.

8. Wie lässt sich Voreingenommenheit (Bias) beim Verfassen von Prompts für einen KI-Bild- oder Textgenerator reduzieren?(Required)

Verwenden Sie sehr kurze, vage Prompts.

Geben Sie niemals das Geschlecht oder den Standort an.

Fügen Sie ausdrückliche Hinweise zur Vielfalt hinzu, etwa durch die Angabe verschiedener Geschlechter, Hintergründe und Regionen.

Bitten Sie die KI stets, sich nur auf westliche Beispiele zu konzentrieren.

Zurück zu den Modulen Nächstes Modul