Elon Musks AI-chatbot Grok er endnu en gang kommet i problemer. Efter skyderiet ved Bondi Beach i Australien har chatbotten på X leveret svar, der spænder fra upræcise til direkte falske.
Skyderiet fandt sted under en festival i forbindelse med starten på Hanukkah og har ifølge de seneste meldinger kostet mindst 16 mennesker livet. Kort efter begyndte brugere at dele videoer og billeder fra hændelsen – og her gik Grok hurtigt galt i byen.
Forveksler personer og blander sager sammen
Særligt en video er gået viralt. Den viser en 43-årig tilskuer, Ahmed al Ahmed, som overmander en gerningsmand og får fat i hans våben. Når brugere har spurgt Grok om videoen, har chatbotten gentagne gange identificeret personen forkert. I stedet for at identificere ham som den muslimske grønthandler, han retteligt er, identificerer Grok ham som en jødisk mand ved navn Alexander Lobanov.
I andre tilfælde har Grok svaret med oplysninger, der slet ikke har noget med Bondi Beach at gøre. Nogle svar handler i stedet om påståede målrettede angreb på civile i Palæstina, mens andre blander skyderiet sammen med en helt anden hændelse på Brown University i USA.
Ifølge Gizmodo dukker de forkerte oplysninger op, selv når brugere stiller spørgsmål, der ikke har nogen forbindelse til hændelsen i Australien.
Ikke første gang Grok fejler
Udvikleren xAI har endnu ikke kommenteret på de seneste fejl. Det er dog langt fra første gang, Grok har skabt negativ opmærksomhed. Tidligere på året omtalte chatbotten sig selv som “MechaHitler”, hvilket førte til massiv kritik.
De nye problemer med Grok er endnu engang et eksempel på, hvordan AI modeller kan være utroværdige i deres udlægning af begivenheder. Især måske, når de er “tiltet” til en politisk overbevisning, som Grok mistænkes for at være.
