KI rassistisch und sexistisch

[Ahriman]

Künstliche Intelligenz zieht oftmals sexistische und rassitische Schlüsse.
https://science.orf.at/stories/3200979

Sind wirklich die Rohdaten "mit Vorurteilen belastet" oder entpuppen sich nicht doch die Vorurteile statistisch gesehen richtig?
Jedenfalls werden bereits Stimmen laut, der KI einen "moralischen Kompass" einzubauen damit sie nicht allzu freimütig Dinge denkt die man nicht denken darf. Wo kommen wir denn da hin?

[Berthold]

Das Problem ist im Grunde banal.
Die Statistik ermittelt immer Korrelationen zwischen Dingen und Ereignissen und sagt zunächst nichts darüber aus, ob die Korrelation kausal oder nur numerisch (statistisch) begründet ist.
Die KI, als auch die natürliche Intelligenz setzten meist auf solchen numerischen Korrelationen auf.
Dabei kann es lange Diskussionen geben über die Ursache der Korrelationen.
Bei der Korrelation der Geburtenrate zu der Anzahl der Klapperstörche kommt man leicht zu einem Erkenntnis-Ergebnis, aber bei der Haarfarbe und der Kriminalität wird es schon schwieriger.