Der menschliche Fehler in der künstlichen Intelligenz
Die HSG-Professorin Veronica Barassi untersucht mit ihrem Team, wie sich die Gesellschaft mit Fehlentscheidungen auseinandersetzt, die durch künstliche Intelligenz herbeigeführt werden.
Nicht nur Menschen können rassistische oder sexistische Vorurteile haben. Auch die Entscheidungen künstlicher Intelligenzen (KI) unterliegen oft unerwünschten Verzerrungen. Diese können in mangelhaften Daten gründen, aber auch in wissenschaftlichen Modellen, welche historisch gewachsen sind und sich etwa nur an Männern oder Menschen weisser Hautfarbe orientierten.
Heute findet KI in den verschiedensten Feldern Anwendung, so können Fehlentscheide gerade im Gesundheitssektor oder bei polizeilichen Ermittlungen schwerwiegende Konsequenzen haben.
Prof. Dr. Veronica Barassi von der School of Humanities and Social Sciences (SHSS-HSG) der Universität St.Gallen untersucht zusammen mit ihrem Team im Rahmen des «Human Error Project», wie sich unsere Gesellschaft mit diesen durch KI herbeigeführten Fehlentscheidungen auseinandersetzt. Ein neues Paper erörtert die Frage, in welcher Weise Medien über KI-Fehler berichten. Mehr dazu im Video:
Weitere Informationen finden Sie unter: www.thehumanerrorproject.ch