Google får smæk: Kan gøres ansvarlig for AI-vrøvl

Google har fået en juridisk mavepuster i Tyskland. En domstol i München har afgjort, at selskabet kan holdes direkte ansvarlig for forkerte oplysninger i Googles AI-oversigter – den danske betegnelse for AI Overviews, altså de automatiske AI-svar, der dukker op øverst i Google-søgninger.

Sagen handler om to forlag fra München, som Googles AI ifølge retten kædede sammen med svindel, abonnementsfælder og lyssky forretningsmetoder. Problemet var bare, at AI’en havde blandet oplysninger fra andre virksomheder sammen med forlagene – og ovenikøbet tilføjet påstande, som ikke fremgik af de kilder, Google selv linkede til. Det endte med et midlertidigt forbud mod, at Google gentager de falske oplysninger.

Google er ikke bare en søgemaskine her

Afgørelsen er vigtig, fordi retten skelner mellem klassiske søgeresultater og AI-genererede svar. Når Google viser links til andre hjemmesider, fungerer selskabet som søgemaskine. Men når AI-oversigter samler, vurderer og omskriver information i et nyt svar, er det ifølge retten Googles eget indhold.

Med andre ord: Når Google-AI’en formulerer en samlet konklusion, kan Google ikke bare pege på internettet og sige, at ansvaret ligger et andet sted.

Det rammer lige ned i et voksende problem

Sagen er en påmindelse om, at AI-svar i Google ikke bør læses som facit. De ser autoritative ud, ligger øverst i søgeresultaterne og er skrevet som en færdig konklusion. Men de kan stadig tage fejl – og nogle gange på en måde, der kan skade både virksomheder og personer.

Ifølge Engadget argumenterede Google med, at brugerne selv kunne tjekke kilderne bag AI-svaret. Google skulle også have fremført, at brugere ved, at AI-genereret information ikke bør stoles blindt på. Det er et opsigtsvækkende forsvar, når hele pointen med AI Overviews netop er at spare brugeren for at klikke sig videre.

Få klikker på kilderne

Flere undersøgelser har allerede peget på, at mange brugere ikke går videre til kilderne, når Google først har serveret et færdigt AI-svar. Og hvis AI’en både kan misforstå kilderne og præsentere oplysninger, der slet ikke kan findes i dem, bliver kildehenvisningerne mindre værd.

Især ved søgninger om personer, virksomheder, sygdom, økonomi, lovgivning eller produkter bør du klikke dig videre til de oprindelige kilder. AI’en kan være praktisk, men den kan også tage fejl med stor selvtillid. Og nu har en tysk domstol altså slået fast, at når det sker, kan Google selv ende med regningen.

Google får smæk: Kan gøres ansvarlig for AI-vrøvl