Sorte har større risiko for at blive kørt ned af selvkørende biler

Der er blevet føjet endnu et punkt til listen over bekymringer ved selvkørende biler. Ud over bekymringer over hvor sikre de er, hvordan de vil håndtere moralske problemer og hvordan de vil påvirke trafikken, så kan vi nu også bekymre os over, at de tilsyneladende har problemer med at se personer med mørk hud. Det viser en ny undersøgelse, foretaget af Georgia Institute of Technology.

Det skyldes ganske enkelt, at sensorerne i bilerne bedre kan spotte personer med lys hud.

Undersøgelsens forfattere startede med en simpelt spørgsmål: Hvor præcist kan de bedste objekt-genkendelses modeller, som dem der bruges i selvkørende biler, genkende personer fra forskellige demografiske grupper?

For at finde svaret tilgik forskerne en stor billeddatabase med fodgængere og delte dem ind efter den såkaldte Fitzpatrick-skala, der klassificerer hudtoner fra lys til mørk. Forskerne registrerede herefter modellernes evne til at genkende personer på billederne.

Resultatet var skræmmende. Evnen til at genkende personer faldt med fem procent, når der var mørke mennesker på billedet. Også efter at forskerne korrigerede for eventuelt generende sollys og halvt tildækkede personer.

Bilproducenter vil ikke udlevere modeller

Det skal dog siges, at rapporten ikke testede systemer, der bruges i konkrete selvkørende biller. I stedet benyttede forskerne sig af modeller, der er tilgængelige for forskere. Bilproducenterne vil nemlig ikke give forskere afgang til deres egne modeller af konkurrencehensyn. Og det er et stort problem i sig selv, mener Kate Crawford, der er direktør på AI Now Research Institute (der ikke medvirkede til rapporten).

Hun skriver på Twitter:

https://twitter.com/katecrawford/status/1100993430329671681

Rapporten kan læses i sin helhed her: Predictive Inequity in Object Detection (PDF).

Sorte har større risiko for at blive kørt ned af selvkørende biler