Algorithmen von Suchmaschinen, Autokorrekturen oder Chat-Bots brauchen zum Training riesige Mengen Beispieldaten. Diese Beispieldaten (für Chat-Bots Unterhaltungen richtiger Menschen, für Suchmaschinen Informationen, was richtige Menschen für relevant halten und was nicht) werden nicht künstlich erzeugt, sondern es werden reale Daten benutzt - Google trainiert seine Suchmaschine bspw. mit dem Verhalten seiner echten Nutzer*innen. In der Masse verhalten wir uns aber nicht alle immer korrekt - viele Menschen benutzen bspw. diskrimminierende Sprache. Diese findet sich dann aber auch in den Trainingsdaten und die Algorithmen lernen sie mit. Das ist so ähnlich wie bei kleinen Kindern, die auch Schimpfworte lernen, wenn sie in ihrer Umgebung benutzt werden. Aber wie bei Kindern wird auch bei Algorithmen versucht, erziehend einzugreifen und das Erlernen von unerwünschtem Verhalten zu verhindern - diese Bemühungen stehen aber noch am Anfang.

beantwortet von: Benjamin Marschler